Получил военное образование, окончив в 1907 году 3-й Московский кадетский корпус, и был зачислен в казачью сотню Николаевского кавалерийского училища в Санкт-Петербурге. В мае 1907 года был выпущен из училища в 1-й Уманский казачий полк Кубанского казачьего войска со стоянкой в крепости Карс (Турция). Принял участие в экспедиции против банд на территории Персии в составе конного корпуса генерала H. H. Баратова. Получил первую награду — орден Святого Станислава 3-й степени.

В 1908 году был переведён в 1-й Екатеринодарский казачий кошевого атамана Захара Чепеги полк, во время службы в котором женился.

Первая мировая война началась, когда А. Г. Шкуро в чине сотника находился на льготе и был в Восточной Сибири. Он не успел к мобилизации и, когда вернулся домой на Кубань, его 1-й Екатеринодарский полк уже ушёл на фронт. Поэтому Шкуро был зачислен командиром взвода в 3-й Хопёрский полк. Полк в составе 3-го Кавказского армейского корпуса участвовал в тяжёлых боях на Юго-Западном фронте в Галиции. Шкуро был несколько раз ранен, за храбрость и умелое командование взводом в Галицийской битве был награждён орденом Святой Анны 4-й степени.

В 1915 году «за отличие в делах» Шкуро произведён в есаулы. В декабре 1915 — январе 1916 годов из казаков-кубанцев организует «Кубанский конный отряд особого назначения», который оперирует в тылу противника на Западном фронте, в Минской губернии, и в районе Южных Карпат: рейды, уничтожение мостов, артиллерийских складов, обозов. Сначала отряд Шкуро находился в Кишинёве под командованием генерала графа Ф. А. Келлера. Отряд проводил набеги на тылы германских войск на Румынском фронте. После февральской революции Шкуро был переведён на Кавказский фронт для участия в боевых действиях против турецких войск. Позже служил в Персии в конном корпусе генерала Баратова, перевёлся на Северный Кавказ.

В декабре 1917 года Шкуро был ранен, после чего долго лечился в госпитале. С мая 1918 года вступил в борьбу с большевиками. Шкуро организовал партизанский отряд в районе Кисловодска. В мае-июне 1918 года отряд совершал налёты на занимаемые красными Ставрополь, Ессентуки и Кисловодск. В июне 1918 года отряд Шкуро занял Ставрополь, где соединился с подошедшей Добровольческой армией генерала Деникина. В ноябре 1918 года Шкуро участвовал в деятельности Кубанской рады. В конце 1918 — начале 1919 годов участвовал в боях на Кавказе: его войска осенью 1918 года заняли станицу Баталпашинскую, 29 декабря 1918 года заняли Ессентуки, 5 января 1919 года — Кисловодск. 9 (22) ноября 1918 года Шкуро был назначен начальником Кавказской конной (в ноябре — 1-я Кавказская казачья) дивизии, развёрнутой из Кубанской Партизанской отдельной бригады; 30 ноября (13 декабря) за боевые отличия был произведён в генерал-майоры.

В феврале 1919 года Шкуро вступил в командование группой войск 1-го армейского корпуса Кавказской Добровольческой армии. В начале 1920 года оставшемуся не у дел Шкуро поручили формирование новой Кубанской армии, однако эти части были переданы генералу Улагаю, а сам Шкуро из-за ряда военных неудач был уволен из армии генералом Врангелем. Уже в мае 1920 года он оказался в эмиграции.

В эмиграции жил сначала в Королевстве Сербов, Хорватов и Словенцев, затем в Париже. В 1920-е годы жил в Берлине на Курфюрстенштрассе 119. Работал наездником в цирке, снимался в немом кино.

В годы Второй мировой войны Шкуро вместе с бывшим донским атаманом Красновым принял сторону Германии.

В 1944 году специальным указом Гиммлера Шкуро был назначен начальником Резерва казачьих войск при Главном штабе войск СС, зачислен на службу как с правом ношения немецкой генеральской формы и получением содержания по этому чину. Шкуро готовил казаков для 15 казачьего кавалерийского корпуса. Однако, вопреки расхожему мнению Шкуро не имел звания войск СС и не носил униформу СС, так как генерал Гельмут фон Паннвиц, командир корпуса, принял переподчинение в Ваффен-СС, чтобы предоставить своим подразделениям доступ к более тяжелому вооружению и лучшему снабжению, а также сохранить дальнейший контроль над казачьими подразделениями во Франции. Однако командные структуры, униформа и звания остались за вермахтом. Казачий корпус сохранил общевойсковую униформу. Подготовленные Шкуро казаки боролись с партизанами в Югославии. Сам Шкуро не принимал личного участия в боевых действиях Второй мировой войны. В марте 1945 года, во время отступления казачьих частей, пытаясь поднять падающий моральный дух казаков, Шкуро предпринял попытку создать особую боевую группу «Волчий отряд» из двух тысяч человек под командованием полковника Кравченко. Однако этот план не был реализован.

В 1945 году, согласно решениям Ялтинской конференции, англичане интернировали Шкуро и других казаков на территории Австрии, а затем выдали их Советскому Союзу.

Приговором Военной коллегии Верховного суда СССР Шкуро вместе с П. Н. Красновым, С. Н. Красновым, Султаном Клыч-Гиреем, Гельмутом фон Паннвицем и Тимофеем Домановым по обвинению в том, что они вели «посредством сформированных ими белогвардейских отрядов вооружённую борьбу против Советского Союза и проводили активную шпионско-диверсионную и террористическую деятельность против СССР», был приговорён к смертной казни через повешение. Казнён в Москве 16 января 1947 года.