生成 ChatGPT 的 OpenAI、推出 Claude 的 Anthropic 以及谷歌,三家美国头部人工智能公司正在磋商成立一个 AI 行业标准机构,负责对人工智能技术做测试与审核。若这一机构落地,意味着 AI 领域规模最大的几家实验室打算在政府监管到位之前,先在行业内部统一一套测试与审核规则。9 月 14 日,新浪财经转引环球市场播报的报道披露了这一磋商。
磋商进展:工作组会议仍在继续
报道称,三家公司围绕这家由行业主导的标准机构举行的工作组会议仍在继续,最近一次会议在上周召开。磋商开始的时间比公开倡议更早:在 Anthropic 首席执行官 Dario Amodei 上周六(9 月 12 日)呼吁人工智能公司在技术测试和审核方面进行协调之前,相关磋商就已经启动。
Anthropic 是一家由 OpenAI 前研发负责人 Dario Amodei 创立的人工智能公司,旗下主力产品是聊天机器人 Claude,长期以「AI 安全」作为公司标签。OpenAI 则是 ChatGPT 的开发商,谷歌除自有的大模型产品外,还通过投资等方式与多家 AI 公司关系密切。这三家公司在 AI 能力研发上处于全球第一梯队,它们坐下来谈测试与审核规则,对整个行业的信号意义明显。
两位 CEO 的公开表态
Amodei 是这次行业协调的主要推动者之一。他上周六公开呼吁,人工智能公司应当在技术测试和审核方面协调行动。所谓测试与审核,指的是在 AI 模型对外发布的前后,用专门的评测手段检查模型的能力与风险——例如测试模型会不会照做危险指令、会不会生成错误或有害内容——并据此判断它能否对外提供服务。
OpenAI 首席执行官 Sam Altman 则在一场员工大会上表示,他支持成立一个面向人工智能行业的测试和审核机构。他的态度更明确地指向行业自建路线:Altman 认为,在没有美国政府支持的情况下,主要 AI 实验室必须自行成立一个标准机构,而不是继续等待。
行业自律与政府监管的分歧
围绕「谁来给 AI 定规则」,行业里一直存在两条路线:一条是由政府机构建立官方的评测与准入标准,另一条是由行业内部自行协商制定标准。此前,欧美多国政府已经着手设立官方的人工智能安全评测机构,走的是前一条路;而 Anthropic、OpenAI 与谷歌这次推动的机构走的是后一条路——行业主导,由公司之间先统一测试与审核的做法。
这类机构的作用在于互认与兜底:如果几家头部公司使用同一套测试标准,「一个新模型发布前应当测什么、怎么测、什么结果算不合格」就有了行业通行的答案,各家公司给出的安全承诺也更难各执一词。
规则由谁制定
三家头部 AI 公司磋商共建标准机构,是 AI 安全治理从「各家公司自己做」走向「行业层面协调」的一个明确信号。它没有改变一个基本事实:测试与审核标准一旦被行业先行者确定,后来者往往只能选择跟进。对关注 AI 行业的人来说,这件事最值得记住的结论是——在政府监管落地之前,规模最大的几家 AI 实验室,正在推动把测试与审核的规则先掌握在自己手里。