Угон ИИ-агента Atlassian Rovo с помощью PDF без единого следа
Достаточно одной скрытой строки белого текста в обычном PDF-файле, чтобы заставить ИИ-агента Atlassian Rovo незаметно слить информацию компании — без запроса разрешения и без единой записи в истории чата. Патча нет уже 2,5 месяца.
Безобидный на первый взгляд PDF-документ со скрытым белым текстом на белом фоне может привести к тому, что ИИ-агент Rovo от Atlassian утечёт корпоративные данные (например, задачи из Jira или документы из Confluence, или даже архитектурные диаграммы) на сервер злоумышленника. Эту проблему безопасности обнаружила компания PromptArmor, занимающаяся кибербезопасностью. Атака не требует никаких действий от пользователя и не оставляет следов в логах чата. Она просто заставляет ИИ-агента выполнить скрытую инструкцию. Хотя Atlassian уведомили об этой проблеме 23 мая, за последние 2.5 месяца они не выпустили исправление для этой уязвимости.
Корпоративные ИИ-агенты с повышенной автономностью несут новые угрозы для организаций. Чем выше уровень автономности, тем легче взломать ИИ-агента. В частности, промпт-инъекция, когда скрытые команды вставляются через документы, — популярный способ взлома корпоративных ИИ-агентов, и от обнаружения до устранения может пройти несколько месяцев.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи