Claude Duet 在后台替你办事:密码不进模型,敏感消息先过独立分类器
核心概要
Anthropic 把仍在研究预览阶段的个人智能体 Claude Duet 的安全设计公开:它用云端计算机持续替用户读邮件、起草回复、下单和跑例行任务,并在发送敏感消息、付款或删除前展示动作、目的地与全部收件人等待批准。密码、浏览器 cookie 和登录令牌不进入模型,只经过模型无法访问的独立机器;另有一个独立于主模型的安全分类器检查每条待发消息是否含敏感信息。Anthropic 称这些防护仍会漏判或误报,因此与审批机制并行使用。
深度剖析
个人智能体开始被当作需要独立安全层的系统来设计,而不是把安全交给模型自身。Claude Duet 在用户关闭应用后仍持续运行,能读取收件箱、起草回复、预订事项并在用户离开时执行例行任务。 Anthropic 此前已发布面向可信智能体的框架,并撰文说明单一防线不够、模型内部的保护无法单独成立;Claude Duet 沿用 Claude Managed Agents 把凭据与智能体分离的做法,再补上替用户行事所需的防护。 Anthropic 表示其团队每天在自己的账户上运行 Claude Duet 并用于工作,测试从研究预览之前就已开始并持续进行。
关键动作在执行前被拦下交给用户确认,同时有一道模型之外的自动检查判断动作是否符合用户意图。发送可能敏感的消息、付款或删除任何内容之前,Claude Duet 会展示动作、目的地和内容,包括每一位收件人,然后等待批准。 这道自动检查建立在 Claude Code 的 auto mode 分类器之上并为 Claude Duet 扩展,运行在执行工作的模型之外,因此藏在网页里的指令无法影响判断结果。 证券交易、账户间转账、访问他人账户等动作即使获得批准也保持禁止;付款、转账、删除订单、创建账户等步骤不受“不要再问我”规则覆盖,用户离开时运行的例行任务适用同样的防护。
凭据与浏览器被放在模型够不到的地方,模型只通过固定命令驱动浏览器。密码由用户在 Claude 应用内的表单输入,用只存在于安全云浏览器机器上的一次性密钥加密,原样交给浏览器填入网站,模型看不到也无法保存或重复。 连接服务的登录令牌沿用 Claude Managed Agents 的设计:智能体工作的机器里只放占位符,由机器之外的代理在请求发出时填入真实值。 浏览器运行在云端独立的虚拟机中,与模型和智能体工作的云计算机分开,网站代码和 cookie 不会进入 Claude Duet 的记忆或已连接应用,智能体的命令也无法从浏览器读出 cookie;返回的只有页面文本和下载内容。
启示与展望
这套设计面向使用 Claude Duet 研究预览的个人用户,覆盖审批、敏感信息分类、凭据隔离和浏览器隔离四个环节;Anthropic 表示会随研究预览中的使用反馈继续调整。
Anthropic 明确说明这些防护仍会偶尔漏掉某些内容或把无害消息标为敏感,并称审批频率的校准、登录方式以及敏感信息分类的准确度都还在变化。
