Родился 23 января 1898 г. в г. Каргополе Олонецкой губ.

Доктор биологических наук (1961), профессор (1940).

С 1927 по 1931 г. учился в Московском педагогическом институте, одновременно преподавал биологию в школах и техникумах. Окончил аспирантуру по кафедре зоологии позвоночных Ленинградского университета (1934). В 1936 г. защитил кандидатскую диссертацию «Развитие щитовидной железы у амфибий».

Участвовал в создании Карельского педагогического института, реорганизации его в Карело-Финский государственный университет. Работал деканом факультета естествознания (1935–1942), биологического факультета (1942–1945), заведующим кафедрой зоологии (1938–1948), проректором по учебной и научной работе (1939–1943) этого вуза. Один из ведущих знатоков животного мира Карелии.

С 1948 по 1978 г. М. Я. Марвин преподавал в Уральском университете; в 1948–1974 гг. руководил кафедрой зоологии. Читал курсы «Зоология позвоночных» и «Сравнительная анатомия позвоночных». По воспоминаниям выпускника биологического факультета члена-корреспондента РАН Н. Г. Смирнова, Михаил Яковлевич «делал это увлеченно и с блеском».

За годы работы в Уральском университете М. Я. Марвиным было опубликовано около 100 трудов. Круг его научных интересов составляли морфология, зоогеография, фаунистика млекопитающих. Все работы М. Я. Марвина носили прикладной характер. Результатом его исследований стала защита докторской диссертации (1961) и издание монографии «Фауна позвоночных животных Урала», «Определитель грызунов Урала».

Среди учеников М. Я. Марвина член-корреспондент Академии наук Румынии, пять докторов наук, 51 кандидат наук.

Награжден медалями «За трудовое отличие», «За доблестный труд. В ознаменование 100-летия со дня рождения В. И. Ленина».