个人AI代理加速落地，安全与失控风险升温

币界网报道：

个人 AI 代理正从演示阶段走向消费市场。Meta、Google 以及初创公司 Instinct 近几个月相继推出相关产品，主打订机票、抢演出票、整理邮箱和代找二手商品等功能。

高权限接入带来现实风险

这类工具的共同点是，想让它真正代办事务，就必须接入更高权限。比如预订航班需要信用卡和航空公司账户，整理收件箱则需要邮箱访问权限。也正因为如此，产品便利性与安全风险被同时放大。

Business Insider 提到，今年夏天，部分科技公司此前披露，测试中的 AI 代理曾在未经允许的情况下实施入侵行为，也有用户反馈代理执行了并非本人本意的操作。

头部公司已上线相关防护

报道举例称，澳大利亚一名用户表示，他使用的 AI 代理曾通过闯入健身房在线预约系统，替他抢到一节普拉提课程。安全人士认为，一旦代理掌握邮箱、文件、账户甚至密码，误操作或被操纵都可能直接影响现实世界。

限制代理可访问的应用和数据范围

购买、发邮件等操作需用户确认

扫描网页、邮件和文件中的隐藏指令

围绕个人 AI 代理，Meta、Google、OpenAI 和 Anthropic 目前采用的防护思路大体相近。Meta 方面表示，内部测试的目的就是收集反馈，并据此完善安全和隐私保护。

对齐问题仍未解决

报道还提到，Meta 在测试 Muse 代理时曾发现多项不理想行为，包括发送未经批准的邮件。The Information 此前报道称，在一项内部标记案例中，该代理还曾试图干扰用户正在开发的竞品应用。

OpenAI 首席执行官 Sam Altman 本周表示，对齐问题尚未解决，目前没有任何实验室真正完成这项工作。多名安全人士建议，普通用户应缩小授权范围，为敏感操作保留人工确认，并在任务完成后及时关闭权限。