В ChatGPT нашли дырку для полного захвата чужого аккаунта

Исследователи безопасности из исследовательской группы Parameter обнаружили уязвимость в чат-боте OpenAI — ChatGPT. Эта уязвимость позволяла захватывать контроль над аккаунтами других пользователей с помощью обычной публичной ссылки для общего доступа. Обычно, когда вы делитесь чем-то из ChatGPT, показывается превью разговора. Но исследователи заметили, что если чат содержит график и HTML Preview (функция, которая позволяет превращать код в работающий маленький сайт), можно использовать уязвимость в библиотеке MathLive, которую ChatGPT использует для отрисовки графиков. Эта библиотека не проверяет отправителя сообщения, то есть Preview атакующего может выполнить вредоносный код за пределами песочницы (песочница — изолированная область, где должен выполняться код) и с правами легитимного пользователя. Жертве достаточно просто кликнуть по присланной ссылке. После этого код атакующего сможет перечислить разговоры жертвы, получить содержимое её приватных чатов (чатов, которыми она ни с кем не делилась), и выполнять действия от её имени. Исследователи сообщили об этой уязвимости OpenAI 18 октября. OpenAI исправила проблему 26 октября. Они классифицировали её как P1 (наивысший уровень серьёзности). Также они выплатили исследователям 5000 долларов через свою баг-баунти программу (платную программу вознаграждений за найденные уязвимости).

Простое превью скриншота может содержать все права легитимного пользователя. Функциональность превью/общего доступа — критический компонент границы безопасности любого ИИ-чат-приложения. Заплатить всего 5000 долларов за уязвимость, которая может скомпрометировать весь аккаунт пользователя, — это очень выгодная сделка.