Новейшая работа в Google: проверять, этичен ли доморощенный #AI 😷 Три рабочие группы будут оценивать, насколько новые проекты, продукты и сделки Google соответствуют принципам корпорации – и в каком случае можно пойти на компромисс. Группы включают социологов, политологов, технологических экспертов, специалистов по правам человека и этике, руководителей подразделений.

Quartz с тенью неодобрения пишет, что теперь отдельные программисты / разработчики продуктов лишатся основания публично критиковать корпорацию, если, по их мнению, она нарушает этические принципы.

Но вы ведь помните, что четких принципов в области AI от Google потребовали сами же сотрудники – после бури негодования из-за госпроекта Maven с использованием искусственного интеллекта для наведения военных беспилотников. В итоге 1) от проекта отказались, 2) руководитель научных разработок Google Cloud Фей-Фей Ли ушла, и 3) глава корпорации Сундар Пичаи выложил Google’s AI Principles.

Он провозглашает среди прочего, что Google не будет разрабатывать ИИ в тех областях, где эта технология:

🧨 облегчает разработку и применение оружия,

🧨 обеспечивает наблюдение с нарушением международных норм и прав человека,

🧨 причиняет вред людям – по крайней мере покуда «выгоды существенно не перевешивают риски».

В общем, новым рабочим группам будет чем заняться. Они уже проверили больше сотни продуктов и сделок. И, например, временно заморозили выпуск технологии по распознаванию лиц 🤖

Кроме того, в октябре Google по этическим соображениям отказалась от заявки на «джедайский» контракт по созданию облачной платформы для Пентагона JEDI. А победа сулила $10 млрд; теперь за них сражаются Amazon, IBM, Microsoft и Oracle. Первая была фаворитом, но вчера ее обвинили в нечестной конкуренции, посмотрим, что будет. Три последние, как и Google, ратовали за разделение контракта между поставщиками – и создание разных облаков для разных задач 🌤 Но Пентагон от этой идеи отказался – в итоге все документы Минобороны, в том числе секретные, переведут в единое облако от одного поставщика, который станет одним из крупнейших федеральных подрядчиков в США. Такие дела.

#technoetics #government #corporations #USA