Родился в Москве, в семье известных искусствоведов (отец – первый директор Оружейной Палаты в советское время, мать была хранителем коллекции Музея новой западной живописи ).
В школьные годы поступил в известный КЮБЗ (кружок юных биологов зоопарка), выполнил и написал первую научную работу. Свободно владел тремя основными европейскими языками. Будучи студентом кафедры зоологии позвоночных биологического факультета МГУ (1931-1936 гг.), работал во многих научных экспедициях. По окончании аспирантуры представил к защите кандидатскую диссертацию, которая ученым советом единодушно была оценена как докторская (впоследствии по её материалам профессор Б.С. Матвеев подготовил книгу, изданную в 1943 году).
Будучи офицером запаса, А.М. Сергеев участвовал в известном походе по освобождению Западных Белоруссии и Украины в 1939 году от белополяков.
В первые же дни войны вместе с другими преподавателями и студентами старших курсов прямо с полевой практики на Звенигородской биостанции МГУ отправился в военкомат. Через несколько дней был призван в Красную Армию. Как доктор наук имел особое право на бронь от военной службы, но не воспользовался ею. Воевал под Киевом, попал в окружение наших войск, но вывел свой взвод к своим. В 1943 году по навету Сергеев Алексей Михайлович Военным Трибуналом Юго-Западного фронта был приговорен к 10 годам лагерей. Длительное время находился под проверкой в Усольском лагере в Пермской области, где и погиб. Попытки реабилитации этого талантливого учёного, предпринятые женой, друзьями и профессором МГУ Б.С. Матвеевым в послевоенные годы, не принесли результата (по сведениям, дошедшим от В.И. Осмоловской, поздняя реабилитация все же состоялась в конце 1970-х гг.). Вклад Алексея Михайловича в науку многими ведущими учеными оценивается чрезвычайно высоко. Известный зоолог Н.Н. Воронцов считал, что «останься Сергеев в живых, вся история отечественной зоологии могла бы пойти иначе». Герпетолог Н.Л. Орлов (ЗИН РАН) утверждал, что научные идеи, высказанные в работах А.М. Сергеева, на добрых полвека опередили аналогичные подходы ученых США.