Вчера в журнале Nature вышел манифест на тему разговорного искусственного интеллекта ChatGPT (Большие языковые модели - LLM - Large Language Models). Ученые ставят вопрос о рисках и возможностях. Безусловно отказываться от использования этих систем нелепо, вопрос только в том, как избежать рисков. Во-первых, думая о рисках, я сразу вспомнил, как однажды в школе на викторине очень бойкий парень придумал ряд фактов и его команда выиграла. На мой вопрос, откуда он взял столь интересные и неизвестные всем факты, он просто ответил, что придумал их. Этот момент запомнился мне на всю жизнь и даже произвел микро революцию в сознании. Иногда лучше дать цифру не очень точную, чем не дать ее вовсе. И это вопрос этики и здравого смысла, но ChatGPT не имеет совести и здравого смысла, ложная информация может быть критической. Второе, что мне понравилось в Манифесте - предостережение о том, что страны с высоким уровнем дохода с применением этих технологий, как и ранее, еще больше расширят неравенство в мире. Увы, это факт. Ну и поскольку от ИИ уже не убежать, мы в Теремке тоже начинаем его использование и скоро представим первые плоды. Если взять в целом все модели и системы искусственного интеллекта, то наиболее прогрессивные из них основаны на методах машинного обучения. Обучение проводится на нейросетях, а последний и самый важный прорыв состоялся в области глубокого машинного обучения на базе Больших Языковых Моделей (LLM - Large Language Model). Это та самая знаменитая Chat-GPT, основанная на LLM, в которую вложилась Майкрософт. Вот что пишут в манифесте: 1. Чаты могут генерировать ложную информацию и очень убедительно ее обосновывать. Только человек должен нести ответственность за научные публикации. 2. Вопрос авторского права встает в полный рост. Кому принадлежат права - промт инженерам LLM, корпорациям или ученым, использовавшим ИИ. 3. Необходимо обеспечить открытость и прозрачность систем ИИ. Сегодня системы выдают нерелевантный результат, «заложенный» владельцами закрытых кодов. И это создает этические проблемы, кто владеет монополией на истину? 4. Использование LLM может не только ускорить написание работ, но, в перспективе, с созданием концептуального и творческого мышления, усилить возможности человеческого интеллекта. При этом возникает риск возникает в возможной потере человеческого потенциала и ряда навыков. 5. Учитывая разрушительный потенциал LLM сообществу необходимо организовать срочные и широкомасштабные дебаты. Мы рекомендуем исследовательским группам попробовать ChatGPT и выработать принципы корректного его использования. Вероятность того, что, как и в случае с большинством инноваций, страны с высоким уровнем дохода и привилегированные исследователи быстро найдут способы использовать LLM таким образом, чтобы ускорить их собственные исследования и расширить неравенство.