​​Мир погубят не ИИ системы, а интересы их владельцев. Чтобы выжить, цивилизации нужно менять свои экономические стимулы. Со мной повторилась история, о которой Остап Бендер рассказывал так. “Слушайте, что я накропал вчера ночью при колеблющемся свете электрической лампы: «Я помню чудное мгновенье, передо мной явилась ты, как мимолетное виденье, как гений чистой красоты». Правда, хорошо? Талантливо? И только на рассвете, когда дописаны были последние строки, я вспомнил, что этот стих уже написал А. Пушкин. Такой удар со стороны классика! А?” Вот и я, давно собираясь компактно упаковать ключевую мыслью о перспективах цивилизации с распространением ИИ, вчера прочел ее прекрасно упакованной в Твиттере Джека Кларка. И поскольку к сказанному ни убавить, ни прибавить, - то просто процитирую. «ИИ системы решают задачи математических олимпиад, соревнуются с людьми в чемпионатах по программированию, ускоряют науку, предсказывая структуры белка, пишут стихи и художественную литературу, которые нравятся людям, и революционизируют нашу способность отслеживать изменение климата. Но также ИИ системы значительно усиливают возможности государств по слежке за своими гражданами, учатся взламывать любую защиту в системах компьютерной безопасности, управляют уникально эффективными дронами-убийцами, идеально подделывают фото и видео, значительно упрощая массовое производство дешевой дезинформации. Дело в том, что каждое положительное использование ИИ имеет двойное назначение, порождая и отрицательную возможность его использования. И в соответствии со структурой экономических стимулов современной цивилизации, весьма вероятно, что ИИ будет иметь больше негативных применений, чем позитивных. А поскольку развитие ИИ систем требует все больше и больше капитала, большинство таких систем будет пытаться максимизировать выгоду для их владельцев путем глобального применения». https://twitter.com/jackclarkSF #ИИ