Защитник по делу об убийстве подал апелляцию с показаниями несуществующих свидетелей, выдуманными ChatGPT.
О санкциях против адвоката заявил Верховный суд штата Нью-Мексико. Стивен Аронс из Санта-Фе вёл апелляцию Оскара Рене Сандовала, осуждённого в 2025 году на пожизненное заключение. В основной документ по делу попали показания «полностью выдуманных свидетелей», указал суд, — в том числе несуществующее описание стрелка в тёмных брюках и белой рубашке.
Суд признал Аронса виновным в неуважении к суду за то, что тот не проверил достоверность документа, оштрафовал на 5000 долларов, запретил выступать перед судом и направил материалы в дисциплинарную коллегию для разбирательства. Судьи также отметили, что адвокат «продемонстрировал отсутствие раскаяния и заботы о своём клиенте». Апелляцию 2 сентября передали государственному защитнику Ким Чавес Кук, и рассмотрение начнётся заново.
Сам Аронс заявил Reuters, что использовал ChatGPT для краткого пересказа материалов процесса, когда взялся за апелляцию в прошлом году, и не осознавал, насколько сильно ИИ может «галлюцинировать» факты. По его словам, он загрузил в чат-бот компьютерную расшифровку заседаний и другие материалы дела, рассчитывая получить «безупречное резюме». Аронс назвал случившееся честной ошибкой и уроком для всех, кто полагается на эту технологию.
На слушании 21 августа судья Шеннон Бэкон усомнилась, что адвокат не знал о склонности ИИ ошибаться. По её словам, проблема опоры юристов на выдумки нейросетей ежедневно попадает на первые полосы. В OpenAI на запрос о комментарии не ответили.
Комментарии