Anthropic раскрывает нейронные основы юридического мышления в языковых моделях

Сегодня компания Anthropic опубликовала результаты масштабного исследования, посвященного механистической интерпретируемости языковых моделей в контексте юридического мышления. Ученые впервые смогли идентифицировать конкретные нейронные цепи, которые активируются при анализе законодательных норм и прецедентов.

В ходе экспериментов на моделях семейства Claude исследователи применили метод активации нейронов и смогли не только локализовать области, отвечающие за понимание юридической логики, но и показать, что они организованы в модульную иерархию. Оказалось, что более глубокие слои отвечают за абстрактные правила, а поверхностные - за конкретные факты.

Практические результаты впечатляют: после целенаправленной стимуляции этих цепей точность модели в задачах классификации юридических документов выросла на 15%, а уровень ложных срабатываний снизился до рекордных 2%. В тесте на определение применимости статей закона модель достигла точности 96%.

Представители Anthropic отметили, что работа открывает новые возможности для создания прозрачных AI-систем в юриспруденции. "Теперь мы можем не только доверять выводам модели, но и понимать, как она к ним приходит", - заявил один из ведущих авторов исследования.