Обложка канала

Чорт ногу сломит

5571 @nejdanov

Как цифровые технологии хакнули ваш мозг? Слежка, большие данные, ИИ — с точки зрения психологии и цифровой осознанности.

Чорт ногу сломит

4 года назад
Открыть в
ИИ-прокуратура В Китае появился ИИ-«прокурор». Ученые вместе с Шанхайской прокуратурой разработали нейросеть, выполняющую функцию прокурора. Систему создали ученые вместе с сотрудниками Шанхайской прокуратуры. ИИ-прокурор оценивает 1 000 параметров дела и выдвигает обвинение с 97% точностью, а запустить его можно на обычном ноутбуке. Китайская прокуратура использует нейросети с 2016 года. Один из инструментов, легших в основу ИИ-прокурора, называется «Система 206»: она определяет силу улик, условия для ареста и степень опасности подозреваемого. Нейросеть Системы 206 натренирована на 17 000 случаев из китайской судебной практики за 2015-2020 годы. Раз сторону обвинения теперь представляют искусственные нейросети, скоро они возьмутся и за защиту, и мы услышим об ИИ-адвокатах, которые, например, станут альтернативой бесплатного адвоката для малоимущих. Вообще, юриспруденция — довольно дружелюбная к ИИ сфера, так как она по большей части основывается на документах и базах данных. Современные алгоритмы обработки естественного языка вроде GPT-3 способны анализировать текстовые материалы дела и судебные архивы гораздо быстрее людей. ИИ уже умеет суммировать прочитанное и формулировать выводы “на человеческом” языке, а значит, может помочь и прокурору и адвокату сформулировать тезисы и обвинения и защиты. Конечно, прокурор и адвокат – это не судья, и окончательные решения относительно судьбы подсудимых все еще принимают биологические нейросети людей, а не ИИ. Другими словами, пока что именно человек остается носителем судебной власти, а ИИ пробуется в роли человеческого помощника. Но долго ли продлится человеческая монополия на судебную власть? Вспоминается «эффект голодного судьи» – склонность живых судей выносить более мягкие приговоры после обеда, когда они сыты, и более жесткие перед самым обедом, когда голодны. Легко представить, что с помощью ИИ мы еще внимательнее всмотримся и вдумаемся в работу судей, да и всей системы правосудия, и придем к выводу, что она переполнена человеческой предвзятостью, необъективностью и эмоциональностью. Затем мы сравним работу живых судей с ИИ-судьями и поймем, что человека вообще опасно допускать к таким важным вопросам, как правосудие, – потому что правосудие — это математика, а не эмоции. Так мы постепенно уступим судебную власть машинам, а потом настанет черед власти законодательной.
Chinese scientists develop AI ‘prosecutor’ that can press its own charges

Machine is so far able to identify eight common crimes such as fraud, gambling, dangerous driving and ‘picking quarrels’, researchers say.

South China Morning Post