Удивительно множатся страшилки вокруг всяких технологий, основанных на машинном обучении. Первая их волна была лет пять назад, потом как-то затихла. Но сейчас продукты реально вышли в массы — будь то ChatGPT или автомобили, где никого нет за рулем, в потоке транспорта. И ужастики начали снова захватывать прессу. Свежая статья про беспилотники, если читать внимательно, изумляет. Неназванные городские службы Сан-Фанциско требуют затормозить разворачивание флота беспилотников от Cruise и Waymo в городе. Причины впечатляют. Оказалось, уже дважды (!) случались ложные вызовы службы 911 по следующему сценарию: пассажир в беспилотнике не отвечал на голосовое обращение диспетчера (в машинах есть постоянно действующий канал для общения пассажира с диспетчерской службой). Диспетчер на всякий случай вызывал 911 к машине, но оба раза оказалось, что пассажир просто спокойно заснул и проспал звонок диспетчера. «Доколе деньги налогоплательщиков будут разбазаривать плохо работающие беспилотники?» — всерьез возмущаются обеспокоенные чиновники. А еще беспилотники не всегда распознают пожарные шланги и наезжали на них, прерывая подачу воды при тушении пожаров. И все это когда-то довольно гиковый журнал Wired долго и тревожно обсуждает. Ну, а про экзистенциальные страхи и что “чужие уже среди нас” — вот классный экземпляр, даже пересказывать не буду 🙂