👾 #AI Соцлицензия на деятельность ИИ Коллеги из BCG опубликовали интересную статью, где рассматривается вопрос необходимости социальной лицензии для ИИ. Обществу, похоже, недостаточно методологии, известной как «ответственный ИИ» (responsible AI), т. к. её принципы сфокусированы скорее на технологической стороне вопроса (необходимость контроля человеком, ответственность на всех уровнях и т. д.). Несмотря на применение этой методологии, ИИ по-прежнему часто выдает неоднозначный и предвзятый результат. За рамками также остается вопрос одобрения общества в случае массового внедрения технологий ИИ. Социальная лицензия — это своего рода попытка найти компромисс между юридическим и социальным правами на применение ИИ, когда общество со своей стороны понимает и подтверждает, что компания может использовать технологию для определенных целей на обозначенной территории. Это не документ, а неформальное признание и доверие, которые компания может завоевать благодаря последовательным и заслуживающим этого самого доверия действиям в отношении всех заинтересованных сторон. Для справки: концепция социальной лицензии на деятельность (social license to operate, SLO) возникла в конце 1990-х гг. в связи с участившимися случаями конфликтов местных сообществ с ресурсодобывающими компаниями. Термин впервые был применен канадским экспертом по горной промышленности Джеймсом Куни на встрече с сотрудниками Всемирного банка в 1997 году для описания качества отношений между горнопромышленной компанией и местным сообществом, на аспекты развития которого, в т. ч. экономические, экологические и социальные, влияет её деятельность. В отношении ИИ социальная лицензия подразумевает три составляющие: 1. Способность объяснить решения ИИ: хотя даже решения человека не всегда можно объяснить, общество ожидает, что выводы ИИ должны быть более прозрачными и честными; 2. Выгода от использования ИИ должна превосходить цену последствий. Простой пример: ИИ-переводчик так хорош, что люди-переводчики начинают терять работу. Поэтому необходимо изначально взвесить пользу и негативные последствия для общества от внедрения ИИ; 3. Социальные обязательства: организациям необходимо завоевать доверие общества путем принятия на себя ответственности за все решения и выводы ИИ. Это все к вопросу о том, кто будет виноват в аварии с участием беспилотного авто (эту тему мы уже затрагивали на нашем канале — ссылка на пост ниже). Для получения такой формы признания компаниям потребуется: 🔸 Явно обозначить выгоду и последствия использования ИИ; 🔸 Приоткрыть черный ящик алгоритмов ИИ, чтобы общество понимало, как он принимает решения. Идеальный вариант — самообъяснимый ИИ (self-explainable AI); 🔸 Разработать механизмы исправлений, чтобы выявленные неточности в выводах ИИ легко можно было скорректировать; 🔸 Приоритезировать управление рисками; 🔸 Активно участвовать в формировании современной, ответственной и принятой обществом экосистемы ИИ. Материалы: - Why AI Needs a Social License - Social License to Operate (SLO) - Социальная лицензия на деятельность ресурсодобывающих компаний как новый инструмент муниципального развития / Л. А. Рябова, В. В. Дидык Посты редакции: - Искусственный интеллект, вам авторские не положены! - ИИ становится умнее и токсичнее