Нью-Йорк начал регулировать искусственный интеллект, используемый в инструментах найма, чтобы искоренить дискриминацию в этой сфере. Новый закон — NYC 144 — уже вступил в силу. Согласно ему работодатели будут проверять любое программное обеспечение, играющее роль в их решениях о найме и продвижении по службе, и публиковать так называемые коэффициенты неблагоприятного воздействия, показывающие влияет ли процедура на определенную расу или пол. За несоблюдение правил предусмотрены штрафы в размере до 1500 долларов в день.
Вообще искусственный интеллект уже давно обвиняют в предвзятости, которая зачастую объясняется историческими обстоятельствами, а вовсе не злым умыслом. Например, случай с Amazon: компания использовала свой алгоритм найма, который анализировал заявки от ведущих разработчиков программного обеспечения, поступавшие в течение 10 лет, а затем искал кандидатов, чей опыт напоминал их. Но поскольку большинство абитуриентов в те годы были мужчинами, алгоритм быстро понизил рейтинг абитуриентов, использовавших определенные термины в своих резюме или окончивших некоторые женские колледжи.
Сегодня, когда американское правительство не может допустить дискриминации ни в одной области жизни общества, ИИ будет подвергаться трансформациям, видимо, до тех пор, пока равенство в сфере найма не наступит так, как уже наступило в образовательной сфере, где теперь не так важен уровень знаний ученика, как его раса или гендерная принадлежность.
www.wsj.com/article…79a2260f