Обложка канала

Мастриды

63166 @mustreads

Лучшие тексты Интернета на русском и английском.

Мастриды

3 года назад
Открыть в
Новость для тех, кто всё ещё сохраняет скепсис насчёт того, что риски развития ИИ — одна из главных тем сегодня, и кто удивлён, что я посвящаю ей так много времени и паникую на ровном месте. Статью об угрозах ИИ опубликовал DeepMind — подразделение Google, ответственное за развитие ИИ. В соавторах — OpenAI (GPT) и другие эксперты. Если вы считаете, что разбираетесь в ИИ лучше этих людей, вы ошибаетесь :) deepmind.com/blog/an-early-warning-system-for-novel-ai-risks В самой статье много общих слов и ничего принципиально нового, но сам факт анализа и оценки всех этих рисков лидерами индустрии радует. #ИИ_мастрид
An early warning system for novel AI risks

AI researchers already use a range of evaluation benchmarks to identify unwanted behaviours in AI systems, such as AI systems making misleading statements, biased decisions, or repeating copyrighted content. Now, as the AI community builds and deploys increasingly powerful AI, we must expand the evaluation portfolio to include the possibility of extreme risks from general-purpose AI models that have strong skills in manipulation, deception, cyber-offense, or other dangerous capabilities.

Deepmind