Обложка канала

Politeconomics

Economics and Everyday Life / Экономическая наука и повседневная жизнь.

Politeconomics

3 года назад
Открыть в
Фейковые ссылки chatGPT Каждый раз, когда я прошу chatGPT дать мне ссылку на какую-то основную обзорную работу в научной области, она выдаёт мне фейковые статьи. Выглядят как настоящие, но их тупо не существует! Я понимаю, в целом, почему так происходит, но вот хорошее пошаговое расследование того, почему так получается на примере «самой известной экономической статьи». Кратко: 1. ChatGPT учится по началу фразы оценивать вероятность возможных продолжений. 2. Если ты просишь её назвать самую известную статью в экономике, она, используя информацию из интернета, предсказывает самые вероятные слова, продолжающие запрос. 3. Самые частые слова в названии экономических статей: «economic» и «theory». Поэтому ответ будет начинаться с этих слов. 4. Самое вероятное слово, продолжающее эту последовательность - “history”. Получаем «A theory of economic history”. 5. Дальше выбирается самый вероятный (читай: цитируемый) автор в области экономики. 6. Самое популярное число авторов в экономических статьях – 2. Поэтому выбирается соавтор, который чаще всего появлялся в интернете (читай: цитировался) вместе с выбранным первым автором. 7. Журнал подбирается тот, в котором чаще всего печатался первый автор. 8. Год публикации подбирается более или менее из середины творческой биографии автора(ов). P.S. Когда я в очередной раз жаловался на фейковые ссылки chatGPT, мне подсказали, что есть сервис, который выдает существующие ссылки по такому же свободному запросу – https://app.wordtune.com/editor/.

Why does chatGPT make up fake academic papers? By now, we know that the chatbot notoriously invents fake academic references. E.g. its answer to the most cited economics paper is completely made-up (see image). But why? And how does it make them? A THREAD (1/n) 🧵

Twitter