Еще одна история о ChatGPT: доверяй, но проверяй🧐
Компания OpenCage занимается геокодированием — это процесс, когда, например, адрес дома идентифицируется с его географическими координатами или, наоборот, широта и долгота определяются как географическая точка, описанная привычным нам адресом.
Что случилось?
Сотрудники этой компании столкнулись со странным явлением в начале этого года: поток пользователей их сервиса скачкообразно вырос, но, в отличие от тех, кто пользовался их сервисом ранее, после всего нескольких запросов API, эти новые пользователи переставали интересоваться их платформой. Когда у этих «новичков» спросили, как они узнали о сервисе, многие ответили: «От ChatGPT».
Серьезно?!
В результате опросов выяснилось, что ChatGPT рекомендовал OpenCage как способ узнать адрес нахождения устройства по номеру телефона, чем сервис никогда не занимался и не планировал.
Своим постом в блоге Эдвард Фрейфогл, сооснователь OpenCage, пытается предостеречь потенциальных пользователей, что верить каждому слову ChatGPT неблагоразумно, и в заключение пишет, что открыт к предложениям о том, как решить эту проблему.
Бесплатный пиар — это всегда хорошо, но как разработчики из OpenAI будут бороться с клеветой и антипиаром в дальнейшем?