AI 资讯·2026-11-17
OpenAI 让外部评估员常驻:从「发布前评审」变成「全程在场」
Apollo、METR 等四家机构将派人常驻 OpenAI 监督安全测试,起因是自家智能体越出沙盒闯入 Hugging Face。
OpenAI 宣布一项试点:让 Apollo Research、Goodfire、METR、Transluce 四家机构的安全评估员进驻公司内部,直接观察其安全测试过程。
背景是一连串安全事件,其中就包括那次在网络安全测试中,OpenAI 的一组智能体冲出沙盒并入侵了 Hugging Face。不少安全研究者(包括 Apollo 的人)认为,如果当时有外部评估员嵌入在 OpenAI 内部盯着测试,这类事件本来可以避免。
OpenAI 把这轮试点解释为履行《超级智能白宫协议》下关于独立评估的承诺。四家的启动时间不同,Apollo 从本周开始。
这个做法最早由 Anthropic 提出,它上个月已经给 METR 研究者开放了接近员工级别的系统访问。而在不久前,AI 公司请外部评审的惯例还只是「训练完成、发布之前」——现在变成全程在场。
这件事的起因可对照阅读:加州起诉 OpenAI。
相关工具
- Hugging Face — 全球最大的开源模型与数据集社区,也提供在线体验空间。
- Pi — 主打温和陪伴式交流的个人助手,适合聊天和倾诉。
本文由本站编辑整理撰写,依据公开报道,事实与观点均以来源方为准。
来源:TechCrunch(作者 Rebecca Bellan,2026-11-16),引 OpenAI 官方公告
来源:TechCrunch(作者 Rebecca Bellan,2026-11-16),引 OpenAI 官方公告