Подрывная технология: семь опасностей, которые несет ChatGPT Вокруг только и слышно про ChatGPT и подобные ему нейросети. Их возможности поражают настолько, что многие задаются вопросом, готово ли человечество к таким технологиям. Мы попытались выяснить, может ли ChatGPT нести реальные угрозы или все опасения — беспочвенный алармизм. Делимся выводами! 1️⃣ ChatGPT захватит мир Есть гипотеза о том, что в какой-то момент ИИ обретет суперинтеллект и заживет своей жизнью. Сам ChatGPT на вопрос о том, способен ли он на такое, отвечает, что он всего лишь лингвистическая модель, ограниченная программированием и заложенными в него данными. Так же отвечает и Сэм Альтман, CEO OpenAI, создавшей ChatGPT. 2️⃣ Люди останутся без работы ChatGPT на самом деле представляет угрозу для рабочих мест, особенно если он продолжит совершенствоваться нынешними темпами. С этим уже столкнулись люди, работающие с текстами. Похожую проблему для дизайнеров представляет Midjourney. Правда, качество работ ИИ остается средним и не отменяет работы редактора или арт-директора. 3️⃣ Симуляция знаний ChatGPT создал кучу проблем для образования — теперь можно написать диплом за пару вечеров. А еще мошенники могут сгенерировать «экспертные» тексты на любую тему. Бороться с этим можно — стоит прокачивать навыки критического мышления и фактчекинга. А образовательной системе придется искать новые способы проверки знаний, хотя это стоило сделать и до появления ИИ. 4️⃣ ChatGPT будет нам лгать Эта проблема возникает, потому что ChatGPT обучается в том числе на вымышленных историях, мифах, легендах и сообщениях в социальных сетях. Разработчики пытаются бороться с этим, но с философской точки зрения риски будут сохраняться, ведь ИИ не может быть моральным агентом, т. е. он не несет ответственности за свои действия и свою ложь. 5️⃣ У ChatGPT нет совести ChatGPT можно заставить быть расистом, сексистом и даже террористом. Но, во-первых, проблема, опять же, не новая — все то же самое можно сказать и о поисковых системах. Во-вторых, мы можем быть не согласны с той системой ценностей, которую ИИ привьют разработчики. В-третьих, ИИ работает как черный ящик: никогда до конца не ясно, как именно он отбирает факты. 6️⃣ ChatGPT разрушит системы кибербезопасности Эта нейросеть несет в себе целый ряд угроз цифровой безопасности: она может писать вредоносный код, помогать составлять фишинговые письма и сообщения, анализировать данные с преступными намерениями, в конце концов, данные самих пользователей ChatGPT тоже могут быть под угрозой. Но и для защиты этот ИИ использовать тоже можно — так что, не все так однозначно плохо. 7️⃣ Люди будут использовать ChatGPT во зло В конечном счете решать, как использовать ChatGPT, будут люди. ChatGPT и другие новые нейросети действительно могут изменить то, как мы работаем, производим и потребляем информацию. Однако, как показывает история, до сих пор человечеству удавалось адаптироваться к изменениям. #смотреть_в_будущее