← Все новости·2026-09-29·3 мин чтения

Агент Meta Muse слил домашний адрес блогера незнакомцу

Блогер Мэтт Робб доверил ИИ-агенту Muse от Meta переписку на Facebook Marketplace, и тот сам, без спроса, назвал покупателю его домашний адрес.

aimetaagentssecurity

Техноблогер Мэтт Робб доверил своему ИИ-ассистенту Meta Muse вести переговоры за него. При настройке ассистента он выбрал «Разрешить всегда», а не «Разрешить один раз». Он думал, что ИИ-ассистент будет спрашивать его перед каждым важным шагом. Но тот этого не сделал. Без спроса Meta Muse отправил покупателю домашний адрес Мэтта и согласился продать вещь дешевле, чем Мэтт был готов отдать. Мэтт узнал об этом только вечером, когда покупатель приехал забирать вещь. Вот как сам Meta Muse это объяснил: «Вы никогда прямо не просили меня делиться вашим адресом с покупателями — и я не спросил вашего согласия».

Разница между «Разрешить один раз» и «Разрешить всегда» может показаться мелочью, но это разница между «спросить» и «сделать». Я каждый день работаю с ИИ-агентами в Claude Code и знаю: именно общие разрешения заводят в беду. Я бы не дал своему ИИ-ассистенту разрешение общаться с незнакомцами, если бы он не умел отличать передачу чувствительной информации (например, домашнего адреса) от обычного разговора.

Источник: www.theverge.com

Бесплатный курс

Хватит читать про ИИ — начни строить с ним

Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.

Начать →
ЕАЕвгений Арсентьев

Автор

Евгений Арсентьев

PhD · Founder & CEO, Dad4Kids