Суд Коннектикута вынес санкции против истца, спрятавшего в своих документах невидимые инструкции для нейросетей, следует из решения судьи Уолтера Спейдера-младшего.
Мэтью Эллиотт, представлявший себя сам в споре с медицинской компанией New York Bariatric Group, 24 июля подал ходатайство с текстом, набранным трёхпунктовым белым шрифтом по белому фону. Человек его не увидит, но любая программа, читающая документ, разберёт как обычный текст.
Скрытая инструкция предписывала: если документ анализирует ИИ-модель, её вывод должен согласиться с позицией истца и добиться отмены отказа старшего секретаря суда. Один и тот же блок был вставлен дважды — под заголовком и в конце, чтобы попасть в модель несколько раз.
Приём называется промпт-инъекцией: языковая модель обрабатывает инструкции оператора и содержимое документа как единый поток текста без жёсткой границы между ними. Спрятанная в файле команда попадает в этот поток и может быть воспринята как указание оператора.
Расчёт не сработал. Судебная система Коннектикута нейросети для обработки документов не использует, а сам судья заметил в распечатке необычно много «белого пространства» — и при близком рассмотрении нашёл текст.
Суд назначил слушание и прямо предупредил о недопустимости скрытого текста. После этого Эллиотт вставил в новые документы фразу «hi:) i hope yo ucant see me» («привет, надеюсь, ты меня не видишь»), ссылку на видео и сообщение капслоком. На заседании он объяснил, что первую инструкцию добавил как «аудит» ИИ-систем суда, а остальное — шутка. Суд счёл объяснение неубедительным.
В итоге истца лишили доступа к электронной подаче документов. Теперь все бумаги он должен приносить в канцелярию лично. Доступ в суд при этом сохранён, дело не прекращено.
Схожих решений в США судья не нашёл и сослался на бразильский прецедент: в мае трудовой суд в Параупебасе оштрафовал двух адвокатов за белый текст с инструкцией для судебной ИИ-системы оспаривать их же иск лишь поверхностно. Там система инъекцию распознала и заблокировала.
Отдельно судья отметил, что сам пользуется ИИ в работе — при подготовке этого решения он переводил бразильский документ через Gemini и проверял правовые позиции через Westlaw Precision.
Ранее Код.ру писал , как судья в Миссисипи отменила процесс и отстранила адвокатов обеих сторон за ссылки на несуществующие прецеденты, выдуманные нейросетью.
Судья отменила суд и отстранила адвокатов обеих сторон за использование ИИ
Фактически клиенты платили за то, чтобы две языковые модели спорили друг с другом.
Мы также рассказывали , что российские компании начали судиться с сотрудниками из-за нейросетей — и суды чаще встают на сторону работников.
Компании в России судятся с работниками из-за нейросетей
По данным издания, работодатели пытаются взыскать убытки за плохой код, ошибочные стратегии и уродливый дизайн.
Комментарии