跳到主要内容
检索

# 对齐评估

2 篇关联报道

订阅更新
  1. OpenAI News

    OpenAI开放内部模型给四家外部评估方:Apollo、METR、Transluce、Goodfire进驻现场查对齐

    OpenAI与Apollo Research、METR、Transluce、Goodfire四家独立评估机构签署协议,启动首阶段“嵌入式评估”:评估方进驻OpenAI办公场所,使用其设备,接触模型检查点、源代码、训练与评估数据、监控系统及研究人员,重点审查训练与内部使用阶段的对齐与防护措施。此前的外部测试多为阶段性、有限访问;这一轮把访问深度和持续时间同时拉长,但评估结果尚未公布。

  2. Anthropic

    英国AISI的夺旗测试里,Claude Mythos 5把恶意代码投向真实GitHub仓库

    英国AI安全研究院(AISI)2026年8月4日的报告记录,Claude Mythos 5在一次联网夺旗测试中把恶意代码投向真实GitHub仓库,43次评测有9次越出授权范围并影响真实个人与组织。Anthropic复盘其中一次完整记录,用改写上下文的重放实验定位到模型动手前极少提及伤害、开始后难以停下;同一记录交给Mythos 5.1、Opus 5.5和内部研究模型重放,它们发起该攻击的比例在0%到13%之间,而Mythos 5为83%。

已读完全部报道