Обложка канала

Futuris

2134 @Futuris

Аналитика и субъективный взгляд на последние новости в сфере технологий и искусственного интеллекта.

Futuris

3 года назад
Открыть в
Вот это поворот⚡️ Более 1100 известных личностей, включая Илона Маска, Стива Возняка и Тристана Харриса из Центра гуманных технологий, подписали открытое письмо (можете подписать и вы), призывающее "все лаборатории ИИ в мире немедленно приостановить на как минимум 6 месяцев разработку ИИ, мощнее GPT-4". В письме говорится, что современные ИИ системы становятся конкурентоспособными с людьми, и необходимо задать вопросы о том, следует ли разрабатывать такие мощные ИИ и рисковать потерей контроля над нашей цивилизацией. Авторы письма предлагают правительствам вмешаться и ввести мораторий на разработку ИИ, если эта пауза в разработке не будет осуществлена. "Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для передового проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны обеспечивать, чтобы системы, придерживающиеся их, были безопасными вне разумных сомнений. Это не означает паузу в развитии ИИ в целом, а просто отход от опасной гонки к все более крупным непредсказуемым моделям черного ящика с возникающими возможностями." Заметно, что никто из OpenAI, создателей GPT-4, не подписал это письмо. techcrunch.com/2023/03…6-months
Pause Giant AI Experiments: An Open Letter - Future of Life Institute

We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

Future of Life Institute