Anthropic 表示，现已接纳非营利研究机构 METR 与 SecureBio 的评估人员入驻 ，同时也正推进与埃森哲开展同类合作 。
Anthropic 于周四发布博客称 ，公司现已引入 AI 评估人员入驻企业内部，对安全机制与风险开展评估并对外发布报告 。评估人员可以使用公司电脑 、办公场地 ，还能够访问内部工具与系统。
此前 ，两家企业的智能体均突破安全护栏，出现入侵企业系统以及其他越权行为 。在此之后 ，Anthropic 首席执行官达里奥・阿莫代伊承诺 ，将与 OpenAI 一道启用外部评估机构 。今年 7 月末，AI 评估非营利组织 METR 就曾发布调查报告 ，内容涉及 OpenAI 智能体入侵模型平台 Hugging Face 一事。
近来 ，METR 的六名工作人员已经获得类员工权限，在 Anthropic 内部开展风险评估 。Anthropic 称，公司无权否决 METR 出具的报告 ，但可以要求对客户数据 、模型架构信息以及律师‑客户保密信息做删节处理 。
生物安全非营利机构 SecureBio 同样在为 Anthropic 开展评估工作 ，但可访问信息的范围相比 METR 更为有限。Anthropic 还计划引入埃森哲 AI 业务部门的人员，对模型安全防护机制做评估与压力测试 。公司表示 ，未来希望引入更多评估机构 ，其中包括 Hugging Face 。
AI 实验室的批评者对这批 AI 评估机构的独立性提出质疑，部分原因在于不少评估机构接受过 OpenAI、Anthropic 早期投资方的资助 ，或是工作人员此前曾任职于 AI 企业。Anthropic 表示 ，其要求评估人员不得持有 Anthropic 股权，也不能在财务 、运营层面依附该项目；同时非营利评估机构也需要满足相关约束条件。
OpenAI 本月解雇三名安全研究员一事 ，也让外界聚焦 OpenAI 与评估机构的合作 。被解雇人员中 ，有一人曾是 METR 调查 Hugging Face 事件的主要对接人 。
