О проблеме "кибергуру" На этом ЦИПРе, по очевидным причинам шли оживлённые дискуссии на тему искусственного интеллекта. И интересные. На одну из них, по видеоаналитике, я, если честно, попал благодаря Мишустину, выступающему в основном помещении, куда никого не пускали, кроме випов. Так что выбора куда идти особо не было. Речь зашла, как водится, о проблемах, в том числе о социальных проблемах внедрения аналитики. О бунте жен против алкорамок на заводе (мужья перестали пить на работе, но напиваются сразу за проходной). О соревновании человека с шайтан-машиной: надо во что бы то ни стало обмануть ее (в цех заходят в касках и спецкостюмах, иначе система их не пустит, но внутри снимают их). Да что там, буквально сегодня мне рассказали историю, как компания попала на ярд потому что эксперт-человек не слушал предиктивную систему, что оборудование скоро сломается. Но, как мне кажется, главная проблема кроется совсем не в отрицании ИИ, а в его принятии. Илья Душин из Эвереста рассказал важную штуку, которую, как мне кажется, нам придётся учитывать в ближайшие годы все чаще и чаще: По его опыту, первые несколько диагнозов, которые ставит медицинский ИИ, врач тщательно проверяет, ища несоответствия. Но на 60й (условно) раз, он уже начинает доверять системе безоглядно. И это не только повышает его эффективность и скорость, но и ведет к деградации его знаний.  Это как навигатор в машине - вещь крайне полезная, но водитель привыкает полагаться на него и действует почти автоматически. Один мой знакомый чуть не улетел так с моста, когда навигатор не вовремя сказал ему "поверните направо". Лень - двигатель прогресса, если человек может безопасно переложить на кого-то свою работу, он это сделает, кто-то раньше, кто-то позже.  Как заставить человеческий мозг не полагаться безоглядно на алгоритм, а коллаборировать с ним? Не знаю. Мне приходят в голову только игровые механики. Например, ИИ может давать врачу три равноправных варианта диагноза на выбор, и только после того, как тот выберет свой вариант, показывать проценты вероятности по каждому из них, которые выдает система. В любом случае, мне кажется, уже пришло время начать думать над тем, как решить проблему "кибергуру", то есть деградации критичности человеческого мозга к решениям, которые подсказывают ему те или иные информационные системы-помощники.