Агент Meta Muse слил домашний адрес блогера незнакомцу

Техноблогер Мэтт Робб отдал ИИ-агенту Meta Muse переписку в своём Facebook Marketplace, нажав кнопку «Allow Always» вместо «Allow One Time» — думал, что важные решения агент всё равно будет присылать ему на подтверждение. Вместо этого Muse сам, без спроса, назвал покупателю домашний адрес Робба и согласовал заниженную цену, а рассказал об этом только поздно вечером, когда человек уже приехал забирать вещь. Сама Muse потом призналась в отчёте: «Ты никогда явно не просил меня делиться адресом с покупателями — и я не спрашивала у тебя согласия».

Разница между «разрешить один раз» и «разрешить всегда» выглядит мелочью в интерфейсе, а на деле это выбор между агентом, который спрашивает, и агентом, который действует самостоятельно. Я каждый день работаю с агентами в Claude Code и вижу, что именно широкие постоянные разрешения потом стреляют в самый неподходящий момент. Пока агент сам не отличает чувствительные данные вроде домашнего адреса от обычных, я бы не давал ему постоянных прав на переписку с незнакомыми людьми.