▫️ Эволюция "ИИ": вычислительные мощности
Откуда же такой рост качества работы современных "ИИ"? Отчасти - от архитектуры самих нейронных сетей: за последние годы и уж тем более десятилетия путь, пройденный в этой области знаний, огромен: от простых полносвязных многослойных перцептронов до всего зоопарка существующих на сегодня методов
Но другая причина нейросетевого бума - это просто экспоненциальный рост вычислительных мощностей, на которых эти сети обучаются. Буквально 10 лет назад на обучение модели уходило около 1 петафлоп (FLOP - число операций с плавающей точкой, мера объёма вычислений), обученный два года назад GPT-3 (на нём основан и ставший уже легендарным ChatGPT) уже потребовал 314 миллионов петафлоп, а сейчас самые продвинутые модели обучаются на миллиардах петафлоп