Анатолий Михайлович родился 18 июля 1931 года в д. Староселка Цивильского района Чувашской АССР. С ранних лет Анатолий начал приобщаться к музыке, играл на балалайке, мандолине и гитаре.
Получив семиклассное образование в Ивановской сельской школе, он с 1945 года по 1947 год учился в Цивильском сельскохозяйственном техникуме. В 1948 году стал работать музыкальным руководителем Цивильского детского дома и баянистом-аккомпаниатором в Цивильской профтехшколе. В 1954 году окончил дирижерско-хоровое отделение Чебоксарского музыкального училища им. Ф.П. Павлова, где учился в классах хорового дирижирования у В.Ф. Вержбицкого, фортепиано у Д.С. Нофель-Ходяшевой, по гармонии и музыкальной композиции у Г.Г. Лискова.
В рядах Советской Армии Анатолий Михайлович был начальником клуба, дирижером духового оркестра, художественным руководителем полкового ансамбля песни и танца.
В 1957-1958 года Михайлов учился в Уральской государственной консерватории им. М.П. Мусоргского. В 1958-1964 года работал учителем музыки в Чебоксарской школе № 1 и школе-интернат № 2; параллельно преподавал в Чебоксарском музыкальном, Канашском педагогическом и Цивильском культурно-просветительном училищах. С 1962 года работал в Республиканском Доме народного творчества сначала методистом, затем директором. С 1964 года Анатолий Михайлович был председателем секции композиторов при Республиканском доме народного творчества, а затем Республиканского научно-методического центра народного творчества. Под его руководством в Доме народного творчества проводились сельские и городские курсы баянистов-хоровиков.
С 1977 года А. Михайлов начал заниматься свободным композиторским творчеством, вел концертную, музыкально-пропагандистскую и просветительскую деятельность. Им было проведено около 300 авторских концертов и творческих встреч в Чувашии и городах Поволжья по линии Чувашской государственной филармонии, Музыкального общества и Ассоциации композиторов Чувашии. В 1990 году Анатолий Михайлович стал организатором и первым Президентом Ассоциации композиторов Чувашии. В 1994 году он был избран председателем Правления Музыкального общества Чувашской Республики.
Михайловым создано около 1000 прекрасных музыкальных произведений: оперетта «Плывут, летят крылатые» на либретто С. Щербакова; музыка к 15 спектаклям Республиканского театра кукол и к драме П. Осипова «Айдар»; «Поэма» для скрипки и фортепиано; 6 маршей для духового оркестра: «Марш военных лет», «Марш ПТУ»; романсы и песни. Анатолий Михайлович написал множество песен на стихи И. Ивника, А. Лукина, А. Савельева и др. Значительное место в его творчестве заняли песни о городах Чувашии и героях, выросших на чувашской земле, о Москве, городах России. В Москве и Чувашии книжными издательствами были изданы 10 авторских сборников произведений, в том числе 8 песенно-хоровых.
За достижения в композиторском творчестве ему было присвоено почетное звание «Заслуженный работник культуры Чувашской АССР» (1971), «Заслуженный деятель искусств Чувашской АССР» (1991), он был награжден почетными грамотами Совета Министров Чувашской АССР, других государственных органов, учреждений и общественных организаций.
22 ноября 1997 года Анатолий Михайлович Михайлов скончался.