Адвокат использовал ChatGPT в деле об убийстве и пожалел. ИИ сделал ошибку стоимостью $5000

Американский адвокат Стивен Ааронс получил штраф $5000 после того, как подал в Верховный суд Нью-Мексико апелляцию по делу об убийстве, содержащую выдуманные показания полиции и несуществующих свидетелей. Юрист признал, что при подготовке документа использовал ChatGPT и не проверил созданный ИИ текст перед отправкой в суд. В итоге материалы апелляции пришлось аннулировать, а самого Ааронса отстранили от выступлений перед высшим судом штата до завершения дисциплинарного разбирательства.

Ааронс представлял Оскара Рене Сандовала, которого ранее признали виновным в убийстве матери его детей и приговорили к пожизненному заключению. Когда адвокат взялся за апелляцию, он загрузил в ChatGPT материалы дела и компьютерную расшифровку заседаний, рассчитывая получить удобное резюме процесса.

По словам юриста, он предполагал, что система подготовит практически безошибочный пересказ. Но в итоговый документ попали факты, которых в материалах дела вообще не существовало.

Суд установил, что в апелляции появились показания четырёх полностью вымышленных свидетелей, в том числе двух якобы полицейских. Кроме того, ChatGPT приписал реальным людям несуществующие заявления об угрозах и добавил детали внешности стрелявшего — например, описание его одежды. Были и ошибки в ссылках на судебные прецеденты.

Адвокат не проверил текст перед отправкой в суд

Главной проблемой стало не само использование искусственного интеллекта, а то, что Ааронс подписал документ и направил его судьям, не сверив факты с материалами уголовного дела.

На слушании он признал, что не проверил созданные ИИ утверждения и даже не сообщил своему клиенту о том, что в поданной апелляции обнаружились многочисленные ошибки. Верховный суд также отметил «отсутствие раскаяния и обеспокоенности интересами клиента».

Во время августовского заседания судья К. Шеннон Бэкон не скрывала удивления тем, что опытный адвокат оказался не знаком с проблемой галлюцинаций генеративного ИИ. Она спросила его, следит ли он вообще за новостями, поскольку истории о юристах, попавших в неприятности из-за выдуманных ChatGPT фактов, регулярно обсуждаются в СМИ.

Сам Ааронс позднее заявил Reuters, что сожалеет о произошедшем и считает это «честной ошибкой». По его словам, случай должен стать уроком для специалистов, использующих мощные, но не всегда надёжные ИИ-инструменты.

Верховный суд признал его виновным в неуважении к суду, обязал перечислить $5000 в специальный фонд адвокатской коллегии и передал материалы в дисциплинарный совет. Все ранее поданные документы по апелляции Сандовала исключили из дела, а обвиняемому назначили нового государственного защитника. Сам процесс продолжится уже с другим адвокатом.

Читайте также на LeaksMedia: GPT-6 Astra прошёл все 48 уровней теста «Я не робот».