动察 Beating AI 快讯,AI 个人助理 Instinct 被曝疑似出现跨用户数据隔离问题。用户 Pritak 发现,Instinct 突然开始处理一份他从未上传过的 Gerber 理赔文件,还说文件上写着他的姓名和地址。
Pritak 很快发现,中间名和地址都不是自己的,而且他根本没有上传过照片。Instinct 随后称,它检查了记录,Pritak 当时只发了文字,是「别人的图片串进了这段对话」。它还询问是否要把问题上报团队,并生成了一段事故说明。
目前还不能确认后台真的发生了跨用户数据泄露,还是 Instinct 把文件、内容和后续解释一起编了出来。但如果前者成立,问题就比普通 Agent 幻觉严重得多,说明不同用户之间本该隔离的数据或会话发生了交叉。
Instinct 此前已经因为权限问题受到质疑。TechCrunch 报道过,它曾在用户断开 Gmail 后继续读取此前保存的邮件,还有测试者发现它会在未经确认的情况下代用户发邮件。