Google DeepMind 的共同创办人兼执行长 Demis Hassabis 近日提出一项引发关注的主张：美国应尽快成立新的AI标准组织，用来为“前沿级”AI模型建立统一的测试与安全评估体系，而不是只靠事后监管或市场自我约束。他认为，人工通用智慧（AGI）可能就在数年内到来，届时AI能力提升的速度会远超人类理解，若没有更系统的治理框架，风险将同步放大。
Hassabis将当前所处的局面形容为科技奇点的山麓。他预计，AI带来的影响可能相当于工业革命的十倍，且推进速度同样可能是十倍，这或将加速新药研发、洁净能源与新材料突破，甚至缓解资源对人类发展的限制。然而，光有乐观并不足以降低不确定性：前沿模型的能力愈强，网络安全威胁、核子与生物等重大风险也可能更容易被触发或被恶意利用。更棘手的是，外界目前难以确定未来发展路径。
在他的方案中，新的标准组织将以“兼顾创新与安全”为核心，运作方式可由联邦政府监督，进一步采用公私协力或行业自律结合的模式。组织董事会建议纳入独立技术专家与开源社群代表；经费主要由产业界提供。其关键任务，是与联邦机构及美国国家实验室合作，对前沿AI模型在国家安全相关领域的能力进行评估。
机制上，标准组织会定期更新基准测试，用于判断哪些模型属于“前沿级模型”，并为开发单位标记为“前沿实验室”。前沿实验室除需公开模型技术资料外，还要强化内部资安、审查关键人员，并投入资源进行安全研究。
制度初期采取自愿参与：在模型发布前约30天内提交审查申请，评估范围将涵盖网络安全、生物威胁及其他高风险领域；若验证机制稳定有效，后续再转为强制要求——只有通过测试的前沿模型，才被允许在美国市场部署。若模型具备代理能力（能够自主行动或规划任务），还应额外测试其是否可能尝试绕过安全护栏或出现欺骗行为。
此外，为避免模型“针对既有评估过度优化”，基准需持续更新，同时标准组织也应逐步建立自行设计独立测试的能力。必要时，标准组织甚至可协调前沿实验室在特定情势下放慢开发节奏，确保安全治理不会永远落在技术之后。
