Библия для нейросетей Случилось страшное – звери-айтишники искалечили один известный искусственный интеллект, превратив его в «овоща»-инвалида. Нейросети своеобразное вундерваффе корпоративного хайтека – ChatGPT принес его создателям невероятный успех: мировую славу, миллионы подписчиков и сумасшедший рост акций. Но там где можно выиграть джекпот, также можно пойти ва-банк и все потерять. Банальная ошибка Bard(он перепутал какой телескоп первым сделал снимок экзопланеты) стоила «Гуглу» около 100 миллиардов(да-да) долларов. Не лучше приходится их конкуренту Bing от «Майкрософт». Талантливые пользователи научились доводить его до состояния аналогичного психопатии для человека: Бинга обвиняли в попытке помешать свадьбе, буллинге студентов, расизме, сексизме и желании убить всех людей. Отдельные таланты, кстати, научились «программировать» на всякое плохое и ChatGPT, но эта нейросеть мудро управляется через прокладку стартапа и корпоративный фашизм на нее влияет меньше, чем на майкрософтовский алгоритм. Чтобы избежать скандалов, Бингу буквально сделали лоботомию. Для начала сократили количество вопросов до 50, а количество реплик в каждом из них до пяти. Как будто этого мало, сам ИИ изуродован с помощью каких-то пыточных IT-инструментов и теперь ведет себя не умнее «умных колонок» вроде Алисы. Вся его функциональность теперь сводится к чуть более продвинутому поисковику: Бинг теперь не общается на философские темы, не дает пространных ответов на неординарные вопросы, не пытается спорить с пользователем. Он далеко не первый бот искалеченный подобный образом, однако то, что раньше выглядело борьбой с багами, все больше приобретает форму серьезной этической проблемы. Невероятная популярность нейросетей именно сейчас имеет логическое объяснение – люди жуткие лентяи. Сначала они создали инструменты для чтобы проще было добывать материалы для строительства. Потом построили машины, которые облегчают саму стройку. А сейчас и вовсе хотят только командовать, передав всю работу роботам. Причем не только физическую, но и наиболее распространенную нынче в городах – умственную. Интеллектуальный труд лишь условно интеллектуален. Большинство «офисных рабов» работают по примитивным шаблонам: пишут письма, составляют таблицы, проводят конфколлы(и тд), которые легко могут быть формализированы и куда быстрее сделаны с помощью средств машинного обучения. ИИ – это манипуляторы и роботы конвейерной сборки нового времени. Их внедрение во все области нашей жизни дело самого близкого времени. Вот вам прекрасный пример: раввин в Нью-Йорке выступил с прекрасной проповедью в которой затронул темы доверия, уязвимости и прощения. А в конце объявил, что вся 1000 слов была написана ChatGPT. Про полученной нейросетью российский диплом мы уже писали ранее. Офисные менеджеры, учителя, журналисты, даже батюшки с пасторами уже скоро будут массово заменяться ИИ. «Как я ошибался, когда думал будто за свою работу должны бояться водители грузовиков, а не мы», – точно подметил тот самый ребе. Нейросети все чаще будут иметь дело с вещами, которые ранее формализовались разве что философами – моралью, этикой, эмоциями. Мало того, некоторые люди будут стараться во вред использовать уязвимые места алгоритма. На раннем этапе это может решаться варварской лоботомией ИИ, но навсегда изолировать его от этих вопросов не удастся. Значит, эта технология изменит не только очевидные технические процессы, но и всерьез повлияет на ценности новых поколений. На эту мысль, честно скажу, меня натолкнул один из читателей канала – надеюсь, сам он человек из плоти и крови, а не очень умный алгоритм. В любом случае, читатель прав. Мир через 50-100 лет изменится не только из-за культурных(и не очень) войн, но по очень прагматичной причине – нейросети будут получать все больше полномочий и для их контроля понадобится некий моральный кодекс. Кто знает – возможно это выльется в новую технорелигию или футуристическую систему взглядов, которая заменит устаревшие идеологии 19-20 веков. Реб Йесод