🙅‍♂️ Власти Орегона откажутся от использования ИИ для защиты детей из-за расовой предвзятости модели. В июне 2022 года правительство намерено перейти на менее автоматизированную систему проверки. В 2018 году Департамент социальных служб штата внедрил алгоритм, предоставляющий работникам горячей линии по вопросам жестокого обращения с несовершеннолетними «оценку риска». Система анализирует звонок и при необходимости рекомендует социальному работнику дополнительно исследовать его содержание. ⚙️ Алгоритм основан на инструменте Allegheny Family Screening Tool, предназначенном для прогнозирования риска попадания ребенка в приемную семью на основе ряда социально-экономических факторов. Выяснилось, что технология непропорционально часто выбирает ситуации с усыновлением темнокожих детей для «обязательного» расследования касательно отсутствия заботы. #США #регулирование