СПРАВЕДЛИВОСТЬ: АЛГОРИТМ ИЛИ ЭКСПЕРТ? В Китае продолжается киберпанк — на этот раз там обязали судей консультироваться с искуственным интеллектом (ИИ) при вынесении вердикта. Дела автоматически проверяются на признаки судебных ошибок и коррупции, а нейросеть обучили на сотнях тысяч прошлых дел. Причём любой приговор, не совпадающий с решением нейросети, судье придётся письменно обосновывать. Пишут, что каждое судебное дело обязано идти через эту систему, а за последние три года работы она сэкономила внушительные 1,7 миллиардов (!) человеко-часов и сумму, эквивалентную $45 миллиардам. Власти страны конечно же в восторге, но такое обширное применение ИИ напрочь убивает принцип независимости судебной системы, а также забывает про личный опыт, образование и моральные качества живых судей. И это - совершенно другая крайность. Конечно, причина стремления ухода от личного мнения к алгоритмам понятна: они уменьшают количество предвзятостей и шума. Но эта крайность не менее опасна. И все же, давайте порассуждаем. Допустим, вас признали виновным в угоне автомобиля. Вы бы предпочли, чтобы наказание определил судья или алгоритм? Алгоритмы все чаще заменяют людей в принятии решений, начиная от найма новых сотрудников и вопросов здравоохранения и заканчивая уголовным правом. Но авторы новой статьи в Journal of Experimental Psychology отмечают‎: общественность все больше беспокоится о том, как именно алгоритмы принимают решения. В некоторых штатах США компании, использующие алгоритмы при приеме на работу, теперь обязаны разъяснять этапы отбора. Однако этот акцент на прозрачности процесса принятия алгоритмических решений, хотя и хорошо мотивирован, сам порождает парадокс. Судьи, рекрутеры и врачи не обязаны объяснять каждое решение. Так почему возникает проблема с алгоритмами, которые делают то же самое? Дело в том, что люди считают более понятным процесс принятия решений человеком, нежели алгоритмом. Но, как утверждают исследователи, люди, делающие выбор, «часто такие же «черные ящики», как и алгоритмы, которые призваны их заменить. Люди тоже не знают, по каким на основании чего они принимают решения. А если и говорят, что знают, - то это далеко не всегда является правдой. Команда ученых провела серию исследований. В первом из них группу онлайн-участников попросили рассмотреть один из трех сценариев, в которых решение принимает либо эксперт, либо алгоритм. Один из них предполагал оценку риска повторного совершения преступления; другой — ответ на вопрос, выявила ли магнитно-резонансная томография заболевание; и последний — просмотр видео-интервью для принятия решения о найме на работу. Затем участники оценили, насколько хорошо они понимают процесс, который человек или алгоритм будет использовать для принятия решения. Во всех сценариях те, кто читал о человеке, сообщили, что лучше понимают процесс, чем те, кто читал об алгоритме. А другую группу участников сначала попросили объяснить, как человек или алгоритм на самом деле будут принимать решения. У этих участников оценки «понимания» процесса были ниже, как в том, что касалось эксперта, так и в отношении алгоритма. Но значительное влияние было оказано на оценки, относящиеся к эксперту, что в некоторых случаях означало исчезновение разницы между человеком и алгоритмом. «Эти результаты показывают, что люди создают сильную иллюзию лучшего понимания человека, чем алгоритма, при принятии решений», — заключает команда. В последующем онлайн-эксперименте некоторым участникам сообщили, что неспециалистам легко оценить риск повторного совершения преступления обвиняемым и принять решение об условно-досрочном освобождении. Это привело к ложной «иллюзии понимания» процесса у человека, но не повлияло на понимание процесса алгоритма. То есть мы думаем, что больше «понимаем» ход мысли эксперта, потому что проецируем свой подход на других людей. Не удивительно, но это помогает укрепить аргументацию команды.