Был призван в ряды  Советской Армии в ноябре 1941года. Служил в 31-й гвардейской стрелковой дивизии на 1-м Белорусском Фронте.  При форсировании реки Карочашинки, стрелковый взвод гвардии лейтенанта Карманова Андрея Михайловича нанес значительный урон противнику, уничтожив живую силу и фашистскую технику.

29 сентября 1943 года перед взводом Карманова была поставлена задача – форсировать р.Днепр в районе города Любечи и закрепиться на левом берегу реки. После ожесточенных боев задание командования  было выполнено, но командир получил тяжелое ранение в голову. Из Госпиталя Андрея Михайловича выписали в июле 1944 года.

В 1951 году был избран народным судьей Болотнинского района и работал до 1967 года.