OpenAI, Meta*, Microsoft, Google, Amazon заключили соглашение с администрацией Байдена о «предотвращении распространения вредоносных ИИ-моделей». Правда, юридической силы документ не имеет и является «добровольным обязательством». ‼️ Главное, о чём договорились члены администрации и разработчики — позволять экспертам проводить внешний аудит ИИ-продуктов компаний перед релизом, а также обмениваться информацией друг с другом и федеральным правительством о рисках и уязвимостях. Внешний аудит потихоньку становится стандартом тестирования ИИ. Например, похожее требование содержится в масштабном законе ЕС о регулировании искусственного интеллекта. Уже сейчас компании внедряют подход red-teaming (атака «красной команды») — когда внешние эксперты пытаются сломать модель, находящуюся в разработке, и по результатам такого теста публикуют отчёты. Этот подход уже используют Meta*, Google и OpenAI. Также компании пообещали: ➖ проверять модели на предвзятость ответов и дискриминацию; ➖ уделять внимание кибербезопасности и учитывать риски более широкого вреда для общества: например, угрозы конфиденциальности или биологические угрозы; ➖ сообщать пользователям об ограничениях своих моделей; ➖ информировать, что контент создан ИИ, в том числе ставить водяные знаки на сгенерированные изображения и видео. Соглашение подписали не только OpenAI и представители big tech, но и стартапы. Например, на личной встрече с Джо Байденом были также CEO Anthropic (чат-бот, созданный выходцами из OpenAI) и Inflection (разработчик ИИ-ассистента). Некоторые представители администрации Байдена расценили бум ИИ как «необдуманное первоначальное внедрение технологии». Вероятно, больше всего чиновники опасаются вмешательства ИИ в предвыборную кампанию 2024 года. Развитие ИИ они сравнивают с возникновением соцсетей: если тогда политики запоздали с регулированием, то теперь цель — удержать технологию под контролем. 💭 «Один из извлеченных уроков заключается в том, что мы должны двигаться быстро — мы не можем гнаться за этой технологией», — прокомментировал соглашение Джефф Зинтс, глава аппарата Белого дома. Предполагается, что добровольное соглашение в будущем обретет форму федерального закона, обязательного к соблюдению, но конкретных сроков в Белом доме не назвали. * Meta признана экстремистской в России