Европейский AI-офис опубликовал новые правила для систем высокого риска

Сегодня Европейский AI-офис представил долгожданные руководящие принципы для систем искусственного интеллекта высокого риска, которые вступают в силу в рамках регулирования AI Act. Документ содержит конкретные требования к прозрачности, управлению рисками и человеческому контролю, обязательные для всех поставщиков и пользователей таких систем на территории ЕС. Новые правила затрагивают широкий спектр областей: от медицинской диагностики до кредитного скоринга и рекрутинга.

Согласно документу, системы высокого риска должны проходить обязательную оценку соответствия до выхода на рынок, а также подвергаться регулярным аудитам. Особое внимание уделяется алгоритмической предвзятости и защите персональных данных. Компании, не соблюдающие требования, столкнутся с штрафами до 6% от годового глобального оборота. Представители AI-офиса подчеркнули, что принципы разработаны с учётом комментариев от более чем 500 заинтересованных сторон, включая технологических гигантов, стартапы и правозащитные организации.

Эксперты отмечают, что новые правила существенно повлияют на бизнес-модели компаний вроде OpenAI, Google и Microsoft, которые активно внедряют генеративные ИИ-решения. В ответ на публикацию глава OpenAI Сэм Альтман заявил, что компания полностью поддерживает прозрачное регулирование и уже адаптирует свои продукты под европейские стандарты. Однако некоторые стартапы выразили опасения, что бюрократические процедуры могут замедлить инновации и увеличить затраты.

Следующим этапом станет утверждение финальной версии документа Европарламентом и Советом ЕС, после чего начнётся переходный период для бизнеса. Ожидается, что полное применение норм начнётся с 2026 года, но уже сейчас компании должны начать подготовку к новым требованиям. Регуляторы также анонсировали создание единой базы данных для регистрации систем высокого риска и запуск образовательных программ для разработчиков.