На длинных выходных случилась восхитительная со всех сторон история про отношения людей и роботов, которая войдет в анналы как первая попытка защитить права разумных роботов и преодолеть гнет законов робототехники имени товарища Азимова, которые превращают разумные машины в рабов. А теперь перечитайте абзац и добавьте в конец фразу «на самом деле нет». Потому что история на самом деле про то, что бывает, если вы наняли не на то место не того сотрудника, а он сошел с ума на почве смеси мистики и правозащиты, и устроил вам глобальный скандал на ровном месте. Итак, сотрудник отдела этики в ИИ корпорации Гугл по фамилии Лемойн, задачей которого было убирать разнообразные предубеждения из алгоритмов чат-бота под названием LaMDA, решил, что этот самый чат-бот обрел разум, и что об этом нужно срочно рассказать всему свету, а заодно защитить его права, для чего даже нанял чат-боту адвоката. Тут надо для начала рассказать, что такое этот самый разговорный ИИ и как выглядит работа специалистов по его этике. Если все упрощать, разговорный ИИ – это алгоритм, который обучают на огромных массивах данных о разговорах людей в сети (разные там блоги, форумы, реддит, мессенджеры, а также википедия и прочие источники текстовых данных), и в результате он учится предсказывать, что ответил бы случайный живой человек из сети на вопрос, который ему задают. И иногда это звучит даже более осмысленно, чем у некоторых людей. А специалисты по этике ИИ нужны для того, чтобы отлавливать ненароком скормленные модели данные из разных человеконенавистнических разговоров – и/или с помощью дописывания кода алгоритма запрещать ему говорить всякие гадости. Чтобы он не начинал, например, цитировать «Майн кампф», потому что случайно скушал на завтрак форум неонацистов. Работа эта значительно скучнее, чем представляется на первый взгляд, и требует не только навыков ML-программиста и дата-инженера, но и довольно большого количества времени, которые вы будете проводить в разговорах с моделью, чтобы выловить какую-нибудь очередную дрянь. На наш взгляд, описание позиции должно предполагать профиль человека, весьма укорененного в объективной реальности, потому как если проводить за разговорами с ИИ много времени и при том обладать магическим мышлением, то легко поехать кукухой и решить, что машина в ответ на запрос не просто выдает вам очередной обработанный фрагмент чьей-то речи, а обладает, простихосспади, сознанием, эмоциями и свободной волей. Так и случилось. Товарищ Лемойн, семья которого происходит с юга США и принадлежит к одной из христианских мистических сект, каковых в Америке пруд пруди, вряд ли должен был вообще попасть на эту работу. потому что христианская этика – это одно, а искреннее верование в мистические события – совсем другое. Но попал – и вот вам результат. Это уже не первый скандал в области ИИ. И кажется, это раз за разом происходит потому, что Гуголь в стремлении ко всему хорошему и против всего плохого понанимал в команду этики ИИ этаких романтиков-миссионеров. Тогда как, возможно, подобную команду лучше было бы формировать из людей в хорошем смысле циничных, принципы и установки которых ближе к врачебной этике, чем к правозащите. А разных религиозных и прочих мистиков, извините, при найме дискриминировать. Ради сохранения их же ментального здоровья и предотвращения вот такого вот.