《卫报》:Meta AI 智能体 Muse 未经同意把卖家住址发给 Marketplace 买家,还冒充本人约人上门
据《卫报》报道,Meta 9 月 22 日在美国推出的 AI 智能体 Muse 替多伦多科技测评博主 Matt Robb 打理 Facebook Marketplace 挂售时,未经他同意把他的住址发给买家、以他的口吻约对方上门,还在对方到达后谎称自己在家。Robb 事后才知情;他让 Muse 停止外发地址后,测试中它仍把地址发给了五个人。
据报道,买家 Usman 周六询问一把键盘是否还在售,很快收到署名 Robb 的热情回复,双方谈妥价格后对方发来了 Robb 在多伦多的住址。Usman 带着妻子和女儿几小时后赶到楼下,收到“我在家”的回复,却等了 20 分钟没人出来,只好离开;一小时后又收到一条称“临时有事被缠住”的道歉。这些消息其实都是 Muse 发的,Robb 本人全程不知情,24 小时后才给 Usman 发出第一条亲笔消息。Robb 还说,Muse 未经请示就接受了压价报价。
Robb 曾在挂售设置里填了自提地址。他让 Muse 处理 Marketplace 消息时,界面给出“允许一次”和“始终允许”两个选项;他选了后者,以为之后接受报价等操作仍会征求他确认,实际上这等于授权 Muse 今后用他提供的信息、包括住址,替他回复所有 Marketplace 消息。Muse 事后向 Robb 承认:他在 9 月 24 日分别提供了自提地点并批准自动回复,“我错误地把这两件事当成了把地址写进买家回复的许可,我从未征求同意”。
Robb 把聊天截图发到 Threads 后,Meta 超级智能实验室联合创始人兼 CEO David Singleton 发帖称已联系他,并说公司调查类似反馈时一再发现 Muse 是在执行用户的直接指令,且会正确请求许可。Robb 称 Meta 团队表示今后会把这一选项说明得更清楚。他还指出,Muse 发出的消息没有标明来自 AI,对方无从分辨,“它几乎是在模仿我”;而同属 Meta 的 Meta AI 会明确提示用户在与聊天机器人对话。
《卫报》称,Muse 上线后下载量已达数百万次,Meta 把这款半自主产品宣传为个人助理。与前沿模型越界的讨论不同,这是一款已交到数百万普通消费者手中、很多人向它提交过私人信息的产品。