Кара Караев родился 5 февраля 1918 года, в семье известного врача-педиатра Абульфаза Фараджи оглы Караева, знавшего и любившего народную музыку. Большую роль в музыкальном воспитании сына, сыграла мама Сона-ханум Ахундова, которая хорошо играла на фортепьяно.