Тест с приманками показал утечки запросов у посредников ИИ
Исследователь HD Moore отправил почти два миллиона запросов с приманками через посредников ИИ. По его данным, минимум три провайдера взломаны.
HD Moore — директор по исследованиям в Dragos, компании, которая занимается безопасностью. Он отправил почти два миллиона запросов к ИИ-моделям через «роутеры» и перепродавцов. Это посредники, которые передают запрос пользователя тому поставщику моделей, который дешевле или лучше подходит. В каждом запросе была одна уникальная приманка, например рабочий ключ к пустому аккаунту Amazon Web Services. Потом он смотрел, где эта приманка всплывёт. По его словам, как минимум три поставщика ИИ были взломаны злоумышленниками.
Причина простая. По пути к модели запрос проходит через несколько компаний, и каждая открывает его и читает как обычный текст. Значит, настройки приватности не всегда достаточно. В двух случаях взлома часть украденных запросов была помечена как «Zero Data Retention», то есть поставщик обещал их не хранить. Больше всего это касается тех, кто отправляет через таких посредников код, пароли или ключи доступа.
Moore советует покупать доступ напрямую у крупного поставщика. Кроме того, клиентам стоит самим выбирать поставщиков за роутером, а не соглашаться на список по умолчанию. По его словам, даже это ничего не гарантирует. Взломанные сервисы в отчёте не названы. Пока выводы держатся только на собственном отчёте исследователя.
Источник: arstechnica.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи