Караев родился в семье известного врача-педиатра, знавшего и любившего народную музыку. Обучался игре на фортепиано в Бакинском музыкальном техникуме у Шароева (1930—1935), затем — в Бакинской консерватории по классам композиции у Леопольда Рудольфа и основам народной музыки — у Узеира Гаджибекова. К этому времени относятся первые композиторские опыты Караева, в которых заметно сильное влияние азербайджанского народного искусства. В 1937 году принял участие в фольклорной экспедиции, где изучал и записывал песни ашугов и мугамы. Через год поступил в Московскую консерваторию, где совершенствовал мастерство у Анатолия Александрова (композиция) и Сергея Василенко (инструментовка), а затем — у Дмитрия Шостаковича (1942—1946). Дипломной работой Караева стала Вторая симфония, в которой ярко проявился индивидуальный талант композитора.
Композиторскую деятельность Караев совмещал с активным участием в музыкальной жизни Азербайджана: он был художественным руководителем симфонического оркестра Бакинской филармонии, преподавателем Бакинской консерватории (в 1949—1952 — ректор, с 1959 — профессор), членом Союза композиторов СССР и председателем его азербайджанского отделения. В 1959 году Караев был избран в Азербайджанскую академию наук, и в том же году за выдающиеся заслуги ему было присвоено звание Народного артиста СССР.
Кара Караев умер 13 июня 1982 года в расцвете своего творческого таланта.
Творческое наследие Караева охватывает практически все жанры музыкального искусства. Стиль композитора отличается эмоциональностью и сочетанием драматичности и тонкого лиризма. Ряд сочинений конца 1940-х — начала 1950-х годов испытывает влияние выдающегося поэта Низами — симфоническая поэма «Лейли и Меджнун», симфоническая сюита «Семь красавиц», наконец, балет на одноимённую тему, ставший вершиной творчества композитора.
Экспрессивный, романтически-эмоциональный, красочный стиль Караева тесно связан с принципами народной музыки. Её влияние заметно даже в поздний период творчества композитора, когда он обратился к более рациональной технике сочинения и экспериментировал с додекафонией (Третья симфония, Скрипичный концерт).
Караев имеет большое значение как педагог, среди его учеников — его сын Фарадж и Ариф Мирзоев. Он также является автором ряда критических статей, некоторые из которых были опубликованы в Баку в 1988 году.
Основные произведения
Оперы
«Родина» (Vətən, 1945, совместно с Д. Гаджиевым)
«Нежность» (монодрама по Анри Барбюсу для женского голоса и камерного оркестра, 1972)
Балеты
«Семь красавиц» (Yeddi Gözəl, 1952)
«Тропою грома» (İldırımlı yollarla, 1958)
Вокально-симфонические сочинения
«Песня сердца», кантата (1938)
«Песня счастья», кантата (1947)
Три ноктюрна для голоса и джазового оркестра (1958)
«Партия наша», кантата (1959)
«Гимн дружбе» (1972)
Камерные вокальные сочинения
Шесть рубаи на стихи Омара Хайяма для голоса и фортепиано (1946)
Романсы на стихи Пушкина для голоса и фортепиано (1949)
Оркестровые сочинения
Три симфонии (1943, 1946, 1965)
Азербайджанская сюита (1939)
«Лейли и Меджнун», симфоническая поэма (1947)
«Семь красавиц», симфоническая сюита (1949)
Албанская рапсодия (1952)
«Дон Кихот», симфонические эстампы (1960)
Классическая сюита (1966)
«Поэма Радости» для фортепиано с оркестром (1937)
Концерт для скрипки с оркестром (1967)
Камерные сочинения
Два струнных квартета
Квартеттино
Соната для скрипки и фортепиано
Две сонатины для фортепиано (1940, 1943), 24 прелюдии для фортепиано (1951—1963)
Сочинения для духового и эстрадного оркестров, музыка к кинофильмам, театральным постановкам и др.