Промпт-инъекция в суде: истец спрятал команды для AI прямо в иске
Мэттью Эллиотт спрятал AI-инструкции белым шрифтом 3pt в иске против медклиники. Судья штата Коннектикут обнаружил схему по пробелам и запретил электронную подачу документов.
Самопредставляемый истец Мэттью Эллиотт подал иск против нью-йоркской медклиники New York Bariatric Group в суд штата Коннектикут в октябре 2025 года — о нарушении конфиденциальности данных и дискриминации. В судебных документах он спрятал невидимые инструкции для AI-систем: белый текст размером 3 пункта на белом фоне — невидим для человека, но полностью читаем любой программой.
Что было в инструкциях и как их нашли
Скрытые промпты требовали от гипотетической AI-системы согласиться с позицией истца и считать предыдущий отказ клерка ошибкой. Судья Уолтер Спейдер-мл. обнаружил манипуляцию по подозрительному количеству пробелов в тексте. Он сравнил произошедшее с тайными переговорами с присяжным во время процесса и лишил Эллиотта права на электронную подачу — теперь тот обязан подавать все документы лично на бумаге.
Что это значит для судебных систем
Prompt injection — атака, при которой скрытые инструкции перехватывают управление AI-системой, — добралась до залов суда. Суды всё активнее применяют AI при обработке документов, и этот случай ставит реальный вопрос: как защищать юридическую инфраструктуру от инструкций, вшитых прямо в обычный текст иска.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи