👾 #AI С ИИ-шного на человеческий  Проблема объяснимости выводов и решений, которые принимает ИИ, становится всё более актуальной. Получив отличного помощника в лице бездушных, но высокопроизводительных алгоритмов, обученных на огромных массивах данных, руководители сбиваются с ног в попытках узнать, как ИИ пришёл к тому или иному выводу. Отсюда и вопрос доверия к самой технологии, которая к тому же является относительно новой. На фоне всего этого исследователи из MIT определили 4 фактора, которые пока существенно тормозят полномасштабное внедрение ИИ в корпорациях: 1. Недоказанная ценность: мало хороших примеров работы ИИ, что создает сомнения в окупаемости инвестиций в его внедрение; 2. Непрозрачность модели: ИИ опирается на сложную математику и статистику, поэтому зачастую невозможно понять, дает ли модель точные результаты и соответствуют ли они поставленным требованиям; 3. Нестабильность модели, которая будет давать ошибочные результаты, если данные, используемые для её обучения, содержат изъяны; 4. Бездумные выводы: результаты вычислений ИИ не должны трактоваться как окончательные. Необходим человеческий разум для их правильного применения. Очень похоже, что «объяснимый искусственный интеллект» вскоре может стать отдельной научной дисциплиной, которая будет заниматься изучением и устранением вышеобозначенных пунктов. В компаниях появятся соответствующие специалисты, своего рода переводчики с ИИ-шного на человеческий. Ну а пока учёные из MIT призывают всех работающих с ИИ делиться итогами и опытом, отмечая, что «методичка создаётся на коленке по ходу дела». Со своей стороны добавим, что благодаря 4-му фактору мы продолжим относиться к ИИ, как в своё время относились к BI-решениям: это не самостоятельный продукт, а сущность, требующая анализа со стороны человека. По факту ИИ — это помощник человека, а не его замена. Так что запасаемся терпением... Материалы: - Why companies need artificial intelligence explainability  - Why businesses need explainable AI—and how to deliver it