Я усиленно тестировал софт от ElevenLabs по синтезированию голоса (т.е. любого голоса!) по короткому примеру речи друзей — результат впечатлил, мы смеялись и веселились. В то же время я понимал, что не все юзают подобные фичи для хохм и мемесов, мошенникам он явно пригодится для иных задач.
И вот The Washington Post разразился историей на тему: скамеры прикидываются членами семьи, звонят бабушкам с дедушками и вымогают у доверчивых предков довольно крупные суммы денег.
Кажется, новый способ развода несчастных юзеров на кэш будет только расти и распространяться вширь да вглубь. Предпосылок много, но вот две основные:
— мошенников, использующих подобные схемы довольно сложно отследить;
— разработчики "умных" синтезаторов речи в принципе не задумывались над тем, чтобы вшивать в свои инструменты защиту от нецелевого/злостного использования;
Хорошо, конечно, что на русском такой ИИ работает плохо (пока), но как показывает англоязычная практика, эта технологическая беда скоро и до нас докатится...