Родился 15 марта 1915 года в городе Грозном, ныне Чеченская Республика, в семье служащего. Окончив 8 классов и школу ФЗУ в 1930 году, работал токарем на заводе, учился в Грозненском паровозостроительном техникуме.
Окончив аэроклуб, остался работать в нем инструктором.
С 1938 года в Красной армии, год спустя окончил Качинскую военную авиационную школу пилотов.
С начала войны младший лейтенант Караев на фронтах Великой Отечественной войны.
В 1941 году ему официально записаны 2 победы, в 1942-м — еще 4. До середины 1943 года на его счету 10 лично сбитых самолетов противника.
Участвовал в Смоленском сражении, битвах за Москву и Сталинград, в освобождении Донбасса, Правобережной Украины, Белоруссии, Польши и Прибалтики, в Берлинской операции.
В 1942 году был дважды ранен.
К декабрю 1944 года заместитель командира эскадрильи 176-го гвардейского авиационного полка гвардии старший лейтенант А. А. Караев совершил 373 боевых вылета на сопровождение штурмовиков и бомбардировщиков, прикрытие своих войск, на разведку и штурмовку вражеских войск и аэродромов.
В 75 воздушных боях сбил 18 самолетов противника.
К концу войны гвардии капитан А. А. Караев совершил более 500 боевых вылетов, провел 80 воздушных боев, сбил 20 самолетов противника лично и 1 — в составе группы.
После окончания войны продолжил службу в ВВС. С 1953 года гвардии капитан А. А. Караев — в запасе.
Жил в городе Грозном.
Умер 1 января 1984 года.
Похоронен в Грозном, перезахоронен во Владикавказе.
Герой Советского Союза (23.02.1945).
Награжден орденом Ленина, тремя орденами Красного Знамени, Отечественной войны 1-й степени, медалями.