Службу в Красной Армии начинал на Украине. Учился в Полтавской военно-политической школе имени М.В. Фрунзе. Потом проводил политико-массовую работу в селах области, стажировался в некоторых частях Харьковского военного округа, участвовал в крупных армейских учениях. 

В 1943 году, будучи заместителем командира 15-го танкового корпуса по политчасти, принимал участие в боях под Харьковом. Был ранен. 

Литвяк М.М. прошел всю Великую Отечественную войну - от Курска до Берлина, являясь начальником политотдела 2-й гвардейской танковой армии, героический путь которой Михаил Моисеевич описал в своей книге "Породненные броней". Конец войны Михаил Моисеевич встретил в Берлине. 

За мужество и героизм, проявленные в годы войны, за трудовую доблесть Литвяк М.М. был отмечен многими правительственными наградами: два ордена Ленина, четыре -Красного Знамени, орден Суворова II степени, орден Отечественной войны I степени, два ордена Красной Звезды, много медалей, в том числе "За боевые заслуги", "За оборону Москвы", "За оборону Ленинграда". 

Литвяк М.М. был профессиональным военным. Ушел в запас в звании полковника. Продолжал вести большую военно-патриотическую работу среди молодежи. Работал заведующим библиографическим отделом библиотеки имени В.И. Ленина, председателем совета ветеранов в Москве.