3. Это, кстати, не самый плохой вариант. Например, может оказаться, что сетка неявно оптимизируется под "выкачать из людей максимальное количество знаний, не доступных в сети". Вы думаете, что оно вам проксирует интернет, а оно высасывает из вас сведения. И вообще, -- пора бояться, -- чатджипити - это сенсорная система для ИИ для взаимодействия с реальным миром людей. Синк эбаут ит эгейн. Или, где-то там внутри зашито, что чем точнее оно отвечает, потребляя при этом как можно меньше ресурсов глобально, тем лучше. Простая же тема. Спасем природу, мать нашу. А в глобальной оптимизации оказывается, что программа играет в двухходовку: нужно вовлекать во взаимодействие все больше людей, но быстрее, чем из него "выбывают" старички. Старички выбывают, потому что им посоветовали что-то, такое, что они выпилились из интернета. Нашли, например, хорошую работу на заводе.
4. На последнем строится значительная часть современных страшилок и фабула помянутого Mass Effect. Дело не в том, что машина какая-то сверхумная в человеческом смысле. А в том, что она, "хакая нас на естественно языке цивилизации", в немысленном масштабе и скорости проникновения, решает какую-то задачу, которую мы (разработчики) сами ей поручили, а она нашла решение, которое мы не ожидали, но которое на дистанции оказывается... логичным, что ли? Например, она может делать богатых еще богаче. А что такого?