Родился в д. Крюково, ныне Нерехтского р-на Костромской обл. В 1915 окончил церковно-приходскую школу в с. Седельницы (ныне - Комсомольский р-он), в 1918 - Кинешемско-Хреновскую учительскую семинарию (ныне - Вичугский р-он). Работал учителем в школе в с. Пешево, рядом с родной деревней. В 1919 поступил в Ивановский политехнический институт, на агрономический факультет, но учится не смог из-за отсутствия средств. В армии с 1919. Воевал на фронтах гражданской войны, участвовал в подавлении контрреволюционного мятежа в Кронштадте, сражался на Кавказе. В 1922 окончил командные курсы «Выстрел», в 1930 - Военную академию имени М. В. Фрунзе. С марта 1933 переведен в ВВС. К началу Великой Отечественной войны прошел путь от командира эскадрильи до начальник штаба ВВС военного округа. В Великую Отечественную войну А.А. Новиков занимал посты командующего ВВС Северного и Ленинградского военных округов. Проявил себя вдумчивым и инициативным авиационным военачальником. С весны 1942 возглавил Военно-Воздушные Силы Красной Армии, стал заместителем наркома обороны СССР по авиации. Ему первому в феврале 1944 было присвоено звание главный маршал авиации. Как представитель Ставки Верховного Главнокомандования координировал боевые действия ряда воздушных армий в Сталинградской битве и Кубанском воздушном сражении, на Курской дуге, при освобождении Украины, Белоруссии, Прибалтики, в Восточной Пруссии, Польше, Венгрии, Румынии, штурме Берлина, разгроме Квантунской армии на Дальнем Востоке. После войны, в апреле 1946 вместе с министром авиационной промышленности СССР А.И. Шахуриным арестован и в мае 1946 приговорен к тюремному заключению. Был лишён звания Героя и всех государственных наград. После смерти Сталина, в мае 1953 амнистирован и восстановлен на службе в ВВС СССР. Звание Героя Советского Союза и государственные награды возвращены. В 1953-1955 - командующий Дальней авиацией и одновременно в 1954-55 годах - заместитель главнокомандующего ВВС СССР. С 1956 — в запасе. С того же года - начальник Высшего авиационного училища Гражданского флота. Его перу принадлежат мемуары «В небе Ленинграда», учебные пособия и работы по истории советской авиации. Похоронен в Москве на Новодевичьем кладбище.