Вчера я писал про прорывную нейросеть DALL-E 2, способную создать по текстовому описанию любую иллюстрацию. Безусловно, это потрясающее изобретение. За последние годы человечество проделало огромный прогресс в сфере ИИ, и эта нейросеть — наглядное тому подтверждение. При этом, как это обычно бывает с технологическими прорывами, есть одно "но". Создатели DALL-E 2 из Open AI опубликовали про это большую статью "Риски и ограничения". Нейросеть склонна к тем же гендерным и расовым стереотипам, что и люди — например, при запросе нарисовать юристов она рисует серьёзных деловых белых мужчин, а если попросить изобразить flight attendant (стюарда/стюардессу — в английском у этого слова нет рода), на картине обязательно будет женщина. По ключевому слову "свадьба" нейросеть показывает типичную картинку американской или европейской свадьбы, а не китайской или африканской (при этом новобрачные — обязательно гетеросексуалы). Казалось бы, что тут такого — какой мир, так и нейросеть рисует. Она ведь обучается на существующем массиве картинок из интернета, поэтому такой и результат. Скорее всего, в мире будущего будет больше толерантности и "дайвёрсити", так что нейросети будущего будут мимикрировать под новые реалии. Тем не менее, западные СМИ бьют тревогу — если ИИ будет руководствоваться теми же стереотипами, что и люди, счастливое будущее построить будет сложнее. Особенно если этот ИИ будет не просто рисовать картинки, а, например, управлять миром. В статье Vox приводятся мнения разных экспертов о том, как можно регулировать индустрию, чтобы бороться со стереотипами. Но думаю, регулирование здесь не поможет. Да и вообще главная проблема не в стереотипах, а в том, что мы пока понятия не имеем, как обезопасить себя от рисков появления сверхсильного ИИ, который получит власть над миром и сможет сделать с людьми и со всей нашей планетой что угодно (намеренно или по ошибке). Скоро сделаю об этом видео. #ИИ_мастрид #техно_мастрид #тренд_мастрид