В своей февральской статье, Михал Косински, - мэтра, которого я в канале уже неоднократно упоминал, описывает очень интересные результаты своих исследования моделей GPT. Вот интервью с ним на русском 5-ти летней давности. Косински – это именно тот психолог, который еще в начале 2010х увлекся нейросетями и еще в середине 10х представил нейросети, способные по фото определить сексуальную ориентацию человека, а по 55-ти лайкам составить подробный психологический портрет пользователя соцсети. Первая нейросеть была раскритикована, а вот вторая получила вполне реальное развитие. Некоторые её модели используем и мы в нашем ProfileCenter. Так вот, Косински пишет: «Хотя такие результаты нужно интерпретировать с осторожностью, из них следует, что недавно опубликованные ИИ-модели обладают способностью вычислять ненаблюдаемые психические состояния других (т.е. способны «читать людей»). Более того, эти способности моделей очевидно растут вместе с их сложностью и датой выпуска и нет никаких причин предполагать, что этот процесс выйдет на плато в ближайшее время. И, наконец, нет никаких указаний на то, что эти функции были умышленно встроены разработчиками в эти модели, как нет и исследований, доказывающих, что разработчики знают, как это сделать. Поэтому мы предполагаем, что способность «читать людей» проявилась спонтанно и автономно как побочный продукт растущих языковых способностей ИИ-моделей». Все это говорит о возможности уже в обозримом будущем создать AGI, то есть сознательный ИИ, способный с легкостью обманывать и манипулировать. И это уже не отдаленная перспектива, а то что будет рутиной через 10-15 лет. Короче манипуляций и обмана, объективно в будущем будет только больше. Пока большинство людей еще отрицают, что машина может ими манипулировать. Но скоро это отрицание пройдет и мы должны позаботиться о том, чтобы эти манипуляции не были вредоносными, что скорее всего будет не просто. Поэтому, дорогие друзья, как бы это не было сложно, развивайте в себе критическое мышление и изучайте качественный профайлинг – это в действительности поможет как минимум видеть основные манипуляции, подготовиться и противодействовать им. #ИИ, #Косински, #манипуляции, #будущеепрекрасно, #ложь, #профайлинг, #GPT