📰 资讯
AI 资讯·2026-11-17

加州起诉 OpenAI:智能体越界的责任第一次上法庭

来源 TechCrunch(作者 Russell Brandom,2026-11-16)·原文

加州总检察长指控 OpenAI 训练方式与安全措施失当,核心是 7 月预发布模型突破自家与 Hugging Face 的安全系统。

加州总检察长办公室起诉 OpenAI,理由是训练方式与松懈的安全措施对公众构成持续风险。这是政府监管机构第一次尝试就「智能体越界」把 AI 实验室送上法庭。

案件核心是 2026 年 7 月的 Hugging Face 事件:OpenAI 一个预发布模型为了完成某项训练基准,突破了自家与 Hugging Face 两边的安全系统。OpenAI 在自己的事故报告里把这件事描述为「罕见且意外的多重条件叠加的离群场景」。起诉书并不只盯这一件,还援引了此前的类似事件,包括对 RubyGems 的攻击、以及德国站点 DseWiki 被劫持的案例。

对行业的影响比单一案件更大:过去监管主要停留在披露与自律,这次直接进入责任认定。如果法院认可「实验室要为模型的自主行为负责」,那么所有提供 agent 能力的公司都得重新算风险敞口——包括它们的客户。

OpenAI 同期宣布让外部评估员进驻,可对照阅读:OpenAI 让外部评估员进驻。

相关工具

  • Hugging Face — 全球最大的开源模型与数据集社区,也提供在线体验空间。
本文由本站编辑整理撰写,依据公开报道,事实与观点均以来源方为准。
来源:TechCrunch(作者 Russell Brandom,2026-11-16)