Два прорыва всфере AI за один месяц.
Пару недель назад все массово начали играть с ChatGPT3 от OpenAI, пока все выглядит как игрушка, но черновики текстов пишет сносно 😅
Причем почему-то все переживают за копирайтеров и (внезапно!) за Google: мол искать информацию удобнее через текстового AI ассистента без рекламы и нерелевантный данных.
Однако угрозы для поисковиков я пока не вижу: они способны нативно интегрировать эту технологию в свою строку поиска, а доступ к аудитории все же имеет не OpenAI, а именно поисковики, так что с их бизнесом и рекламой все будет в порядке.
Мне кажется что гораздо любопытнее перспектива скрещивания low-code решений (которые развивали массово года два) и текстового GPT.
Представьте себе , сколько простых задач для разработки (или для рассчетов в том же экселе) можно быстро сформулировать текстом, а модель переведет текст на язык кода или формул (для экселя). Вот уже существенный буст, понятная экономия больших бюджетов и времени дорогостоящих специалистов! А главное тут нет конкуренции в лоб с монополистом уровня Google: победить разрозненных фрилансеров или аналитиков, работающих с таблицами всяко проще.
Однако при этом основная технология (модель GPT) все еще принадлежит одной компании, которая будет главным бенефициаром потенциальной трансформации, но вдруг…
Месяц назад случился позитивный черный лебедь на рынке AI:Компания Together объявила, что смогла обучить свою модель с открытым кодом GPT-JT (6 млрд параметров):
• децентрализованно (на разнородной группе не самых крутых графических процессоров)
• соединенных медленными интернет-каналами (1 Гбит/с)
Авторы модели GPT-JT придумали способ уменьшения вычислительной и коммуникационной нагрузки при децентрализованном обучении. В результате, эта модель на тестах классификации приближается к современным моделям, которые намного её крупнее.
Вместо нескольких компаний – гигантов, оснащенных суперкомпьютерными системами для ИИ, распределенные коллективы разработчиков могут объединять свои скромные компьютерные мощности через не самые быстрые интернет-каналы, чтобы вместе обучать большие модели.
Так что в отличии от бизнеса поисковиков / ecom впервые за много лет в технологической индустрии есть перспектива строить по-настоящему децентрализованную технологию, на базе которой можно строить огромное число сервисов для автоматизации/ удешевления интеллектуальной работы.
На этот процесс уйдёт года 3-4, но вектор развития задан.
В интересное время живем! 🧐
PS: Это еще и шанс для России, лишенной доступа к современным микрочипам для суперкомпьютеров.
Мой канал: Гуринович делится!