开放外部评估权限：AI安全治理从封闭走向透明

Anthropic近日宣布向经过审核的第三方研究机构开放其前沿模型的评估权限，允许外部专家在受控环境中对模型进行系统性测试。这一举措被视为人工智能安全治理领域的重要转向。长期以来，前沿AI实验室的模型内部机制与安全测试流程基本处于封闭状态，外界难以独立验证其安全声明。Anthropic此次开放评估权限，意味着独立研究者可以针对模型在生物安全、网络安全、自主复制等高风险领域的能力进行实测，并将结果公开发布。公司方面表示，开放评估的目的不是展示透明度姿态，而是借助外部视角发现内部测试可能遗漏的风险盲区。参与评估的机构需签署安全协议，测试在隔离环境中进行，以防止模型能力被滥用。

评估权限的具体边界与操作框架

根据披露的信息，开放权限并非无条件放开。Anthropic将建立一套申请与审核机制，评估方须具备相应的安全研究资质，并承诺遵守信息披露规范。测试范围涵盖模型在危险知识获取、说服操纵、代码漏洞利用等维度的表现，但涉及模型权重、训练数据和核心架构的部分仍不对外开放。评估结果将经过双方联合审阅后发布，若发现严重风险，Anthropic承诺在公开前先行采取缓解措施。这一框架试图在透明度与安全之间取得平衡：既让外部声音进入安全对话，又避免敏感信息扩散带来新的风险。业界人士认为，该机制能否真正产生独立、有分量的评估，取决于审核标准是否足够开放，以及评估方能否获得足够的测试自由度。

公共利益基金的构想与资金来源

开放评估权限同步，Anthropic提出设立公共利益基金的初步构想。该基金拟由公司出资并引入外部捐赠，用于支持AI安全研究、受影响群体的补偿机制以及公共政策研究。公司尚未公布基金规模与治理结构，但表示将独立理事会管理模式，确保资金分配不受商业利益左右。这一构想回应了外界对AI企业“获利巨大而社会成本外溢”的批评。随着大模型能力快速提升，就业冲击、信息生态污染、算力能耗等外部性问题日益突出，单靠企业自律难以覆盖。设立公共利益基金，相当于在商业回报与社会责任之间建立制度化的连接通道。不过，批评者指出，基金规模若与企业营收不成比例，其实际作用可能有限，治理独立性也需要更具体的制度设计来保障。

行业反应：欢迎与质疑并存

消息公布后，AI安全研究界反应不一。部分学者对开放评估表示欢迎，认为这是前沿实验室首次将“红队测试”的部分权力让渡给外部，有助于打破安全评估的“自我认证”循环。也有研究者提出质疑：评估权限由企业单方面设定边界，外部机构实质上仍在企业划定的范围内工作，独立性的含金量存疑。竞争同行则关注此举是否会形成新的行业标准压力，迫使其他实验室跟进开放。政策制定者方面，多国监管机构长期抱怨缺乏独立数据来评估前沿模型风险，Anthropic的举措可能为监管提供新的信息渠道。但也有官员提醒，企业自愿开放不能替代法定披露义务，公共利益基金的治理若缺乏外部监督，同样可能流于形式。

从企业自律到制度约束的过渡意义

将这一举措放在更大的治理背景下看，其意义不止于一家公司的政策调整。当前全球AI治理仍以企业自律和软性承诺为主，具有约束力的国际规则尚未成型。Anthropic开放评估权限并拟设公共利益基金，本质上是在“企业主导、外部参与”的中间路径。这条路径若能积累可信的评估案例和透明的资金运作记录，可为未来立法提供实践基础；反之，若开放流于象征性，则可能削弱公众对自愿治理模式的信心。值得关注的是，评估结果如何影响模型发布决策、基金如何界定“公共利益”、外部机构是否有权挑战企业的风险判断，这些细节将决定该构想的实际成色。AI安全治理的下一步，或许正取决于这类制度实验能否从姿态走向可验证的机制。