Meta 本月发布 personal agent「Muse」时,同时公开了一份赏金价目表:有效漏洞报告最高 30 万美元,其中单独一档——「成功影响一个用户的 prompt injection」——最高 13 万美元。
看清楚这一档在买什么:不是买「别进来」,是买「进来给我看」。一家把 agent 接到用户邮箱、日历、浏览器、Shell 和银行卡的公司,公开为「攻破我的 agent」付钱。这不是自信,这是承认:注入不可根除。
承认之后呢?Meta 同一篇文章里给出了整个行业目前最完整的答案,题眼是一句话:
[Read More]一台机器上的两个相互隔离的安全域,而不是一个有 root 权限的 LLM agent。 (two isolated security domains on one box, not an LLM powered agent with root)