OpenAI боится своего детища и тормозит развитие технологии описания фотографий в ChatGPT Помните, при релизе GPT-4 компания OpenAI заявила, что нейросеть теперь мультимодальна, то есть может с лёгкостью переключаться между изображением и текстом? Так вот, одна из функций — текстовое описание предоставленной фотографии — может быть неэтичной или вовсе угрожающей конфиденциальности людей. По крайней мере, этого опасается сама OpenAI. Функция описания фото человека не была в общем доступе, но её получила через API компания Be My Eyes, соединяющая слепых людей со зрячими добровольцами. При помощи ChatGPT компания запустила сервис, описывающий для незрячих людей то, что видит камера их устройств. У тестирующего функцию слепого Джонатана Мозефа были исключительно положительные впечатления. ChatGPT описывал и людей: например, что на фото изображена «женщина со светлыми волосами, которая выглядит счастливой». Правда, спустя некоторое время описание людей перестало работать по инициативе ChatGPT. Джонатан Мозеф был разочарован: он считает, что должен иметь такой же доступ к информации, как и зрячий человек. Вот только некоторые причины для опасений: ➖ ChatGPT сможет идентифицировать личность по фото, и тогда это приведёт к нарушениям конфиденциальности — в первую очередь в зоне риска известные люди; ➖ или, наоборот, ChatGPT будет «галлюцинировать» и распознавать известных и неизвестных людей неверно; ➖ ChatGPT будет делать выводы об эмоциональном состоянии людей по фото; ➖ ChatGPT будет неверно определять пол людей, что в условиях гендерного самоопределения чревато скандалами. В Bing, работающем на GPT-4, запросить описание человека на фото тоже не выйдет: при загрузке лицо размывается из-за соображений конфиденциальности.