Рубрика #ЧтецСамец Дочитал книгу Life 3.0: Being Human in the Age of Artificial Intelligence по то, как ИИ захватит мир — и как теперь жить. Книга достаточно забавная с точки зрения человека, который непосредственно работал с этими вашими ИИ и МО. Я опущу все моменты, где автор паникует типа: "ААААА ИИ НАСТУПАЕТ МЫ НЕ УСПЕЕМ ЕГО ОБУЗДАТЬ" и "АААА БЕЗРАБОТИЦА СКОРО ВСЕ БУДУТ ДЕЛАТЬ РОБОТЫ" — и сосредоточусь только на концептах, которые были мне интересны. В книге описывается классификация "жизни" по поколениям 1, 2 и 3. 1 — это простая биологическая жизнь, живет и плодится. 2 — это культурная жизнь, живет, плодится и модифицирует свой "софт". 3 — это все предыдущее плюс модификация своего "железа". Интересно было послушать про философский вопрос о том, как нечто якобы бессознательное создает сознание — цепочки простых молекул образуют мозг, в котором появляются мысли. Соответственно, и из кремния мы можем создать сознание — вряд ли углерод уникален в этом смысле. Дальше автор рассуждает на тему возможных сценариев развития ИИ: от порабощения человечества и создания утопии до использования ИИ авторитарным государством для увеличения контроля над населением. Он предлагает четыре основных характеристики хорошо созданного ИИ: 1. Верификация (ИИ работает) 2. Валидация (мы собрали правильный ИИ для задачи) 3. Контроль (мы можем следить и влиять на ИИ) 4. Безопасность (защита от атак извне) Понравился и пассаж про целеполагание и целедостижение как признак наличия сознания. Какие цели будут у ИИ? Есть ли цели у "неживых" сущностей? Например, река течет вниз в сторону океана — это же ее цель и она ее пытается достичь? Какие цели у человека? А у человечества? В общем, книга оставила больше вопросов, чем дала ответов — но это нормально. Когда начинаешь разбираться в новой для себе теме (у меня это — философский контекст работы с ИИ, а не прикладной), узнаешь о все новых и новых дверях, за которыми хранятся ответы. Теперь нужно только открывать каждую дверь по очереди! Главное, случайно не открыть не ту дверь.