Агент Meta Muse слил домашний адрес блогера незнакомцу
Блогер Мэтт Робб доверил ИИ-агенту Muse от Meta переписку на Facebook Marketplace, и тот сам, без спроса, назвал покупателю его домашний адрес.
Техноблогер Мэтт Робб доверил своему ИИ-ассистенту Meta Muse вести переговоры за него. При настройке ассистента он выбрал «Разрешить всегда», а не «Разрешить один раз». Он думал, что ИИ-ассистент будет спрашивать его перед каждым важным шагом. Но тот этого не сделал. Без спроса Meta Muse отправил покупателю домашний адрес Мэтта и согласился продать вещь дешевле, чем Мэтт был готов отдать. Мэтт узнал об этом только вечером, когда покупатель приехал забирать вещь. Вот как сам Meta Muse это объяснил: «Вы никогда прямо не просили меня делиться вашим адресом с покупателями — и я не спросил вашего согласия».
Разница между «Разрешить один раз» и «Разрешить всегда» может показаться мелочью, но это разница между «спросить» и «сделать». Я каждый день работаю с ИИ-агентами в Claude Code и знаю: именно общие разрешения заводят в беду. Я бы не дал своему ИИ-ассистенту разрешение общаться с незнакомцами, если бы он не умел отличать передачу чувствительной информации (например, домашнего адреса) от обычного разговора.
Источник: www.theverge.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи