Как и предполагалось, ситуация вокруг Chat GPT развивается стремительно. И будет развиваться еще более стремительней. Еще размышляя о трендах 2023 года, я первым пунктом определил то, что ключевой вызов ближайшего времени в том, что ИИ (искусственный интеллект) научился врать. Нагло, цинично, целенаправленно. Позавчера более 1000 мэтров этой темы, включая таких «паровозов», как Илон Маск, Стив Возняк, Макс Тегмарк, Кристоф Кох и Юваль Харари опубликовали открытое письмо с призывом немедленно приостановить обучение языковых сетей типа GPT во всех лабораториях, остановиться на версии GPT-4 и не идти дальше. Опубликованные в начале марта новые исследования способности Chat GPT к обману убедительно свидетельствует о том, что большинство людей не способно определить фэйки, сгенерированные ИИ, от правды. Сегодня как минимум многие мэтры темы разделяют мнение/опасения о том, что GPT-4 имеет как минимум зачатки интеллекта, способного к быстрому и эффективному обучению так, что уже недалеки перспективы того, что машина станет умней человека. Уже четвертая версия Chat GPT проходит не только тест Тьюринга, но и куда более сложный тест по схеме Винограда (учитывающий здравый смысл и понимание контекста), способна манипулировать и обдумывать выполнение цели на большое количество шагов вперед. 1. Лично я не верю в то, что разработка ИИ остановится. Даже если между собой договорятся ученые (что вряд ли), то не договорятся бизнесмены и политики. Поэтому в уже недалекой перспективе мы с вами будем жить в новой реальности, когда на планете Земля будет существовать интеллект, превосходящий нас по своим возможностям. Умеющий не только помогать людям, думать за них, находить и принимать решения, но и врать, манипулировать и вести себя не очень предсказуемо. 2. По прогнозу авторитетного предиктивного агентства Metaculus, мы сегодня с вами находимся в завершающих мгновениях пресингулярного периода, который продлится еще примерно 9 лет (медианное значение по почти 1200 прогнозам = 2032 год, причем нижний квартиль = 2026 год, верхний квартиль = 2043). Т.е. до AGI осталось от 3 лет (нижний квартиль) до 9 лет (медиана) или, в лучшем случае, до 20 лет (верхний квартиль). AGI – это искуственный интеллект, который себя осознает. Как мы. Но возможно и не как мы, а по-другому. Обратите внимание, что изначальный знаменитый прогноз Рэя Курцвейла «2045 год» сейчас падает на верхний квартиль, а не медиану, т.е. Курцвейл изначально существенно недооценил скорость развития технологий ИИ, все пошло еще быстрее (сейчас он тоже ставит примерно на 2030). 3. Оставшиеся несколько лет предсингулярного времени будут очень конфликтными и турбулентными. Локальные и глобальные социальные турбулентности будут только нарастать. Всё это описывается понятием «предсингулярный хаос», который является естественным следствием смены парадигмы развития человека и биогенных систем. 4. Стремление биологов и нейробиологов «вырастить» мозг наподобие нашего – скорее более сложная задача, чем получить AGI с помощью продвинутого обучения языковых моделей. То, что не удастся сделать медикам и биологам сделают программисты. И это намного проще. 5. За столь небольшое время, которое нам осталось до появления AGI, мы не сможем понять как у него работает сознание и разобраться с законах, позволяющих правильно «воспитать» этот интеллект от младенчества, в котором он сейчас находится, до взрослого. А значит риски понимать как он работает и как его контролировать принципиально неразрешимы и велики.