Терёхин родился в деревне Алехино Ермишинского района. Работал учителем математики. В сентябре 1951 года он поступил в Рязанский государственный педагогический институт, в декабре этого же года в вузе была организована кафедра математического анализа, с которой связана вся его трудовая жизнь.
Работал в Ильинской школе, в РГУ. Последовательно был учителем, преподавателем, доцентом, заведующим кафедры, подготовил два пособия по разделам математического анализа.
Михаил Терёхин являлся руководителем известной в стране научной школы по теории дифференциальных уравнений и её приложениям. Кроме того, он известный в стране учёный в области теории обыкновенных дифференциальных уравнений. Им выполнены исследования по теории предельных циклов, по проблеме бифуркации систем, зависящих от параметра, как систем обыкновенных дифференциальных уравнений, так и функционально-дифференциальных уравнений, по теории устойчивости, по проблеме разрешимости операторных уравнений. Он – автор работ по проблеме управляемости системы обыкновенных дифференциальных уравнений.
Был награждён медалью Ордена «За заслуги перед Отечеством» II степени, а также медалью Вильгельма Лейбница.