БЕСПРИСТРАСТНЫЙ AI Искусственный интеллект тоже подвержен когнитивным искажениям. Если, например, в обучающей выборке женщины возвращали кредиты исправнее мужчин, то нейросетка может запомнить этот параметр и начать мужчин дискриминировать и реже выдавать им займы при прочих равных. Это и напрямую невыгодно банку – он недозарабатывает, и приводит к диким скандалам, если кто-то обнаружит. Американский #стартапдня KOSA обещает корпорациям лечение проблемы. Их Умные Алгоритмы посмотрят на ваши модели, всё заметят, всё поправят, всё объяснят сотрудникам и руководству, и станут ваши алгоритмы тоже Умными. Реально продукта у стартапа, видимо, ещё нет. В разделе успешных кейсов они приводят выглядящее серьезным для непрофессионала исследование об уточнении диагностики рака кожи (там афроамериканцев дискриминировали) и какой-то фантастически стыдный отчет о том, как они считали мужские и женские слова в публичных вакансиях. Дескать, слово “analyst” – мужское (моего знания английского не хватает, чтобы понять, почему), и женщины, когда видят его в описании, на такую вакансию не откликаются. А KOSA написал автозамену, чтобы делать тексты гендерно-нейтральными.   Тем не менее как консалтинговый проект они, наверное, могут зарабатывать уже сейчас, а когда-нибудь и до реального продукта доберутся, если повезет. Инвесторы пару раундов им давали, сумма инвестиций публично не раскрывалась. https://kosa.ai/ --- http://t.me/startupoftheday — рассказ о новом стартапе каждый день. Кратко и без воды.