Некоторым из вас, возможно, уже надоели наши байки про искусственный интеллект, но тут такая случилась история, что ни в сказке сказать, ни пером описать. Но мы таки попробуем в сказке. Ну, поехали.

Значит, в тридевятом царстве, в тридесятом государстве, при сорок пятом царе, что по прозванию как утенок из мультика, завелся Интеллект Искусственный. И как давай людям помогать – сложные закономерности на основании данных выявлять да предсказания делать!
И повадились разные купцы да торговые люди его пользовать, чтоб работников себе набирать, кредиты эффективно выдавать да поиск в Интернете облегчать. И все бы хорошо, да только выяснился у искусственного интеллекта один изьян.

Посмотрели люди добрые да принципиальные на результаты работы ИИ, да поняли, что интеллект их искусственный – расист, сексист и бог вообще знает какой -ист. Что робот-рекрутер Амазона барышень при подборе дискриминирует, робот-кредитный консультант Apple предлагает маврам да гишпанцам давать деньгу серебряную, а ариям да кельтам - золотую, а Гуголь при поиске выдает подсказки срамные с сексистскими и расистскими высказываниями. Ну и все такое прочее.

И вот, собрались мудрецы математические да инженерные со всего тридевятого царства и окрестных земель – и давай думать-размышлять, да брейнштормингами разными заниматься: а давайте, говорят, придумаем такой искусственный интеллект, который будет контролировать все искусственные интеллекты, чтобы этакого сраму не творилось.
Думы такие, надо сказать, вообще мудрецам математическим да инженерным свойственны. И правда – один искусственный интеллект – уже красота, а ежели искусственный интеллект на искусственном интеллекте, да им же его и погоняет – то еще краше.

В общем, долго ли, коротко ли, а создали мудрецы алгоритм волшебный, что с другими алгоритмами и моделями общается да строго-настрого им наказывает, чтобы те добрых молодцев с красными девицами (а также все остальные варианты) ценили да любили одинаково, и мавров от кельтов не отличали, да срамных подсказок не выдавали. А он их, если что, будет судить по справедливости.
И проверили мудрецы алгоритм на проблемах реальных да гипотетических, и назвали его именем Хари Сэлдона – великого мудреца-предсказателя из книжек сказочника Айзека Азимова, что в деревне Петровичи под Смоленском родился.

Но вот беда – чтобы алгоритм Сэлдона мог другим алгоритмам строго-настрого наказывать да по справедливости их судить, ему самому нужно сначала объяснить, что такое эта самая справедливость. А справедливость – штука изменчивая, у одних людей она одна, а у других – другая, а еще справедливость иногда противоречит эффективности, о чем торговый люд хорошо осведомлен. А самое печальное, что даже в одном и том же сообществе справедливость константой не является, уж простите что мы тут выражаемся словами заморскими.

А потому не важно, сколько искусственных интеллектов друг на другу на голову надето, чтобы злочинства разные предотвратить – все равно качество модели будет определяться тем, какие параметры задаст в самом начале интеллект естественный – то бишь, человеческий.
И как поняли наши математики с инженерами эту простую истину, так и закручинились – ибо даже в прекрасном тридевятом царстве будущего (с) без этики, психологии да корпоративной культуры каши не сваришь. А значит и эйчарам в нашей сказке место найдется – только это уже совсем другая история.

Тут и сказочке конец, а кто слушал – заслужил пару бокалов просекко в пятницу вечером. Хороших выходных!