Продолжаются стенания вокруг ChatGPT, OpenAI и AGI. Краткая версия топ-3 дискуссионных тем выглядит сегодня так: 1. ChatGPT + плагины к другим разной степени умности системам — это ultimate all-in-one universal application. Тон дискуссии примерно такой: GPT и его аналоги будут везде и вберут в себя все источники данных, становясь конечным интерфейсом для всего на свете. Шутка ли, уже есть примеры, как прикрутить GPT-4 к изучению конкретного документа. Но, конечно, же... ChatGPT не будет конечным интерфейсом для всего на свете, потому что текст и текстовый интерфейс не для всего удобен. Но там есть о чем поразмышлять. ChatGPT — это новый браузер и новая консоль. 2. OpenAI неожиданно для очень большого количества людей пивотнулся из open в closed, из non-profit в for-profit и из community-driven в практически corporate-focused & owned. Ну с кем не бывает. Илон вон уверен, что все будет хорошо у них. Но главная претензия-то не в этом, а в том, что OpenAI "продолжают себя вести как спасители человечества" и мол только они могут сделать все правильно и ответственно. Но как-то слабо верится. 3. Мы находимся внутри той самой байки про полет внутри строящегося самолета. И, если мы не обуздаем ИИ, он обуздает нас. Кажется, ИТ и весь пласт с ИИ — это тот уникальный случай, когда мы понимаем, что эффект и вред от внедрения могут быть колоссальными, но при этом делаем ровно ничего, чтобы внедрить систему безопасности. Как пишут Юваль Харари и ко, фармацевтические компании не могут продавать лекарства без серьезного тестирования, биотех-компании не могут выпускать новые вирусы, чтобы удивить акционеров в своем мастерстве. Но почему-то со штуками вроде GPT-4 так не получается. И корень вопроса очень прост и фундаментален: современные ИИ-системы могут массово на миллионы и миллиарды людей "манипулировать языком и генерировать его (слова, звуки, изображения)". Это означает, что ИИ (и стоящие за ним люди?) "могут хакнуть и управлять операционной системой цивилизации", которой язык и является. И это уже прямо-таки экзистенциальный вопрос.