Германский регулятор оштрафовал SAP на 500 тысяч евро за непрозрачное использование AI при найме

15 августа 2024 года Федеральное ведомство по защите данных Германии (BfDI) объявило о наложении штрафа в размере €500 000 на компанию SAP за нарушение требований прозрачности при использовании искусственного интеллекта в процессах подбора персонала. Расследование показало, что AI-система, внедрённая в HR-платформу SAP SuccessFactors, автоматически отклоняла кандидатов старше 45 лет без объяснения причин.

Согласно заявлению регулятора, алгоритм не предоставлял соискателям и работодателям информации о критериях оценки, что противоречит GDPR и национальному законодательству Германии. «Когда решающим фактором становится чёрный ящик, мы обязаны вмешаться», — прокомментировал глава BfDI Ульрих Кельбер. Штраф стал одним из первых применений новых европейских правил, касающихся алгоритмической отчётности.

В SAP заявили, что не согласны с решением и намерены его обжаловать. Компания подчеркнула, что инструмент был разработан с учётом этических норм, а выявленная проблема связана с настройкой параметров клиентом. «Мы уже обновили документацию и добавили дополнительные слои аудита», — отметил представитель SAP.

Эксперты отмечают, что этот случай создаёт важный прецедент для рынка HR-tech в Европе. Ожидается, что аналогичные проверки пройдут в других странах ЕС, а также активизируется работа над едиными стандартами аудита AI-решений. Уже несколько европейских компаний-разработчиков ПО для найма объявили о доработке своих алгоритмов в соответствии с рекомендациями BfDI.