Обложка канала

Красный Сион

119 @redzion

Аналитика, большие тексты и актуальные новости. Пишем о политике, религии, истории, науке и всём, что есть на свете.

Красный Сион

3 года назад
Открыть в
Идиот в скрипте Сбылось мое очередное предсказание – авторов текстов стали заменять нейросетями. Правда, с непредсказуемыми результатами. Буквально на днях разразился громкий скандал – случайно выяснилось, что крупнейший новостной сайт о хайтеке и IT CNET начал использовать ИИ-бота для создания материалов о финансах и экономике. Причем не объявлял об этом публично и даже подпись у таких статей была нейтральной «Сотрудник финансового отдела». Главред CNET Конни Гульельмо была вынуждена написать пост о проводимом ее сайте «эксперименте». Заодно она пообещала, что каждая нейро-статья будут особенно тщательно проверяться на факты и ошибки редактором-человеком перед тем как будет опубликована. Правда в ее же собственном посте главред есть ссылки на статьи ИИ с грубейшими ошибками. Так, в материале, объясняющем суть сложных процентов, нейросеть наврала в примере – умножив возможный доход по депозиту почти в 30 раз. Причина проста – она добавила к проценту исходную сумму вклада. Ошибка крайне грубая и явная – сразу понятная человеку даже не с экономическим образованием, а простейшими навыками счета. В написанном экспертом-«кожаным мешком», разборе приводится еще ряд очевидных ошибок и объясняется главная претензия к CNET. Такие статьи читают, прежде всего, люди с самыми базовыми представлениями о финансах, слепо доверяющие авторитету известного проекта и его специалистов. Для них грубые ляпы ИИ могут иметь реальные и далеко идущие последствия. А виноват, как всегда, капитализм и порождаемая им жадность. В интернете навалом финансовых советов, которые куда лучше и четче сформулированы, чем ИИ-статьи CNET. Сайт производит их с единственной целью – увеличить трафик, а значит заработки на рекламе. ИИ-статьи дешевле и быстрее в «производстве» авторских текстов, но главное что умеет скрипт, так это манипулировать поисковыми алгоритмами гугла – бот бота не обидит. ИИ-тексты примитивные и не несут никакой свежей информации, по факту – это просто переписанная копипаста. Зато попадающая на первые строчки поиска. По мнению экспертов, все больше крупных сайтов имеющих основной доход от текстового контента, будут отказываться от авторов в пользу скриптов. Тексты будут все хуже, глупее и зачастую бессмысленнее – напомню, что искусственный интеллект по сути интеллектом так и не стал – зато будут приносить деньги. Проблема не в самом ИИ, верно пишут авторы сайта «Футуризм». «То, что нейросети стали массовыми в момент когда журналистская отрасль почти достигла дна в ходе многолетнего кризиса – создало ситуацию идеального шторма. Которой готовы воспользоваться люди – топ-менеджеры отрасли, всегда радостно урезающие доходы авторов-людей», – отмечают они. Действительно, нейросеть всего лишь молоток, которым можно забивать гвозди, а им крушат стены в надежде добраться до якобы спрятанного за ними клада. У нас в индустрии такая ситуация возникла еще до ИИ – вспомним мусорные «новостные сети» забившие интернет баннерами о гибели Пугачевой, Якубовича и лекарстве от ногтевого грибка. Другой пример – сам телеграм. Самые популярные каналы сейчас – отвратительный котел копипасты, украденных мемов и спертых историй. Даже воришки с «двача» бледнеют на фоне современных уродов-миллионников типа «Топора» и прочего убожества. Делают эти каналы люди, ежедневно производя бурный поток тошнотворной грязи. Наверняка, среди их подписчиков полно тех же ботов, но также много и обычных людей – увы, люди подчас глупее любого самого «тупого» скрипта. Поэтому я в последнее время успокоился – в будущем число подписчиков вообще потеряет хоть какое-то значение. Цениться будет только их «качество» и вовлеченность, а она будет зависит от уровня оригинальности производимого контента. В этом смысле, мы абсолютно непревзойденный телеграм-ресурс. Реб Йесод
CNET's Article-Writing AI Is Already Publishing Very Dumb Errors

The AI bot that CNET is using to churn out personal finance articles has a relatable problem: it keeps making dumb mistakes.

Futurism