👾 #AI ИИ становится умнее и токсичнее Отчет Стэнфордского университета AI Index 2022 Report оценивает ежегодный прогресс в развитии ИИ с точки зрения исследований, разработки, этики, политики и управления. Этот фундаментальный труд готовился в партнерстве с Google, OpenAI, Bloomberg, McKinsey и др. Конечно, мы не смогли пройти мимо такой работы, и сегодня представляем вам основные выводы 230-страничного документа: ◽ Одним из основных направлений развития ИИ стало совершенствование моделей обработки естественного языка, когда нейронная сеть учится читать, понимать и делать выводы на основе полученной информации. ◽ Технически языковые модели становятся более сложными и продвинутыми, но в качестве побочного эффекта они генерят больше искажений и становятся более необъективными. Модель Gopher, разработанная в 2021 году лабораторией DeepMind (подразделение Alphabet), содержит 280 млрд параметров, но демонстрирует увеличение токсичности результатов почти на треть по сравнению с более старой моделью от 2018 года, содержащей 117 млн параметров (модель BERT от Google). Получается, что с ростом способностей ИИ растет и серьезность искажений, возникающих в выводах. Пока нейросеть учится, ИИ из хороших побуждений осваивает плохие примеры и с удовольствием их применяет. Открытым остается вопрос: будет ли правильнее убрать токсичные примеры из данных, на которых обучается нейросеть, или же стоит расширить набор данных для обучения, чтобы правильных примеров было больше, чем неправильных... ◽ В 2019 году человек превосходил ИИ в части определения логических выводов на 9 пунктов. В 2021 году этот показатель сократился до 1 пункта. Особенно интересно этот факт воспринимается в свете пункта про токсичность выше. Прямо-таки проблема курицы и яйца 😎 ◽ Несмотря на геополитические разногласия, США и Китай среди других стран продемонстрировали наибольшее количество коллабораций в публикациях на тему ИИ. Это объясняется отчасти тем, что многие студенты из Китая учатся в США. После выпуска они основывают компании и, конечно, предпочитают работать со своими одногруппниками. Свой вклад вносит и то, что большие американские корпорации размещают исследовательские центры в Китае, равно как китайские — в США. ◽ ИИ становится более доступным и производительным. Например, по сравнению с 2018 годом стоимость обучения системы классификации картинок снизилась почти на 2/3, в то время как период обучения сократился на 94%. ◽ Испания, Великобритания и США стали лидерами по количеству законов на тему ИИ: каждая страна приняла по три таких закона. Материалы: - A new Stanford study suggests AI still has a bias problem - Artificial Intelligence Index Report 2022