Нью-Йорк вимагає аудиту інструментів найму
11 грудня 2021 року в Нью-Йорку набув сили Local Law 144: з 1 січня 2023 року роботодавець не може відбирати кандидатів автоматизованим інструментом, якщо той не пройшов аудиту упередженості за рік до використання і підсумок аудиту не оприлюднено; кандидатів треба повідомити щонайменше за десять робочих днів.
Чому це важливо
Закон зобов'язав тих, хто застосовує алгоритм у наймі, заздалегідь виміряти його непропорційний вплив на групи людей і показати результат публічно. Попередні норми вимагали згоди чи пояснення; ця вимагає виміру.
Інструмент — будь-який обчислювальний процес на основі машинного навчання, статистичного моделювання, аналітики даних чи ШІ, що видає бал, класифікацію чи рекомендацію і суттєво допомагає або замінює розсуд у рішенні про найм чи підвищення. Аудит — неупереджена оцінка незалежним аудитором, щонайменше тест на непропорційний вплив за расою, етнічністю й статтю в категоріях федеральної звітності роботодавців. Аудит і оприлюднення — дві умови разом. Кандидат може просити інший порядок відбору; про тип і джерело даних — відповідь за 30 днів на письмовий запит. Штраф — до 500 доларів за перше порушення, від 500 до 1 500 за кожне наступне, кожен день використання без аудиту — окреме порушення. Правил відомства, ухвалених 2023 року, запис не описує: сайт правил не відповідав. Сайт міської ради теж недосяжний; текст прочитано в архівній копії її запису.