Александр Шевченко родился в г. Харьков (Украина). В 1894–1895 под руководством Н. Улиха начал заниматься рисунком и акварелью. В 1898 переехал в Москву. Учился в Строгановском училище. В 1905–1906 отправился учиться в Париж, где поступил в Академию Жюльена; учился у Ж.-П. Лорана, затем перешел в академию Э. Каррьера.
В 1906 участвовал в «Салоне независимых», вернулся в Москву. С этого времени регулярно участвовал в художественных выставках. В 1907 поступил в Московское училище живописи, ваяния и зодчества. Учился у К. Коровина и В. Серова. В 1910 примкнул к группе М. Ларионова и Н. Гончаровой. В 1911 участвовал в организации выставки «Ослиный хвост». В 1913 показал свои произведения на выставке «Мишень». В 1914 участвовал в выставке «№ 4».
В 1918–1921 трудился в Комиссии по охране памятников искусства и старины, заведовал литературно-художественным подотделом Всероссийской коллегии по делам изобразительных искусств, преподавал живопись в Первых государственных свободных художественных мастерских, участвовал в создании Музея живописной культуры в Москве и в XII государственной выставке «Цветодинамос и тектонический примитивизм». В 1920 избран и утвержден в должности профессора живописи ВХУТЕМАСа. В 1922 вступил в общество «Маковец», участвовал в первой выставке картин Союза художников и поэтов «Искусство – жизнь» («Маковец»). В 1926 участвовал в создании общества «Цех живописцев», состоявшего в основном из учеников Шевченко. С 1930 регулярно участвовал во многих зарубежных выставках, организуемых Всесоюзным обществом культурной связи с заграницей – в Китае (Пекин, Нанкин, Кантон, Ханькоу, Шанхай), в Норвегии (Осло, Тронхейм), в Болгарии (София). В 1932 вступил в члены Общества московских художников (ОМХ). В 1932–1933 участвовал в выставке «Художники РСФСР за 15 лет» в Ленинграде и Москве. Произведения Шевченко хранятся в Государственной Третьяковской галерее и ГМИИ имени А. С. Пушкина (Москва), Государственном Русском музее (Петербург), многочисленных музеях городов России, Государственном музее искусств имени И. В. Савицкого в Нукусе (Узбекистан) и других государственных и частных собраниях.