В январе 1943 года А.Ф. Сергеев добровольно ушел в Красную Армию. С первых же боев рядовой А.Ф. Сергеев показал себя смелым, находчивым и мужественным воином. 

Орденом Славы 3-й степени разведчик 60-го гвардейского кавалерийского полка (16-я гвардейская кавалерийская дивизия, 69-я армия) гвардии рядовой А.Ф. Сергеев награжден приказом по дивизии от 04.04.1944 года за форсирование реки Турья. Орденом Славы 2-й степени разведчик А.Ф. Сергеев был награжден приказом по войскам 69-й армии от 10.07.1944 года в боях за Ковель. Указом Президиума Верховного Совета СССР от 6.04.1945 года гвардии рядовой А.Ф. Сергеев был награжден орденом Славы 1-й степени за освобождение Польши. 

В 1945 году А.Ф. Сергеев участвовал в параде Победы на Красной площади в Москве. Демобилизовавшись из армии, приехал в город Брянск, где стал работать на заводе "Литий".