当地时间周二，美国总统特朗普在联合国大会上公开淡化前沿人工智能可能失控的风险，并明确反对建立一套全球性AI管控框架。
就在美国政府进一步强调避免监管拖慢AI发展的同时，OpenAI正扩大外部安全审查，计划让第三方机构在模型训练、评估和发布的更早阶段介入。
特朗普在联合国大会讲话中表示，美国“完全拒绝任何建立全球主义方案来控制人工智能的企图”。他同时宣布，美国政府今后将在官方文件中把人工智能称为“超级智能”（Super Intelligence），称“人工”一词听起来像是“假的”。
对于先进AI可能带来的极端风险，特朗普将相关警告与此前有关气候变化的灾难性预测相提并论。他说，一些人现在声称“AI会杀死我们所有人”“机器人会攻击我们”，但美国不会因此遏制这项技术的发展。
《华盛顿邮报》援引特朗普的话称，他不会“扼杀一种可能比工业革命更重要的事物”的增长。特朗普长期主张减少对AI企业的监管约束，认为过度设限可能削弱技术创新和美国企业的竞争力。
这一立场与当天联合国围绕AI安全展开的讨论形成明显分歧。联合国秘书长安东尼奥·古特雷斯（António Guterres）呼吁为AI增加监督和安全保障，并表示涉及生死的决定不应交由机器处理。
英国首相安迪·伯纳姆（Andy Burnham）则计划利用英国明年的二十国集团轮值主席国身份，推动形成一套全球AI原则和标准，希望英国在国际AI治理中扮演协调角色。
特朗普的讲话直接否定了这一方向。他明确表示，美国不会接受通过国际框架对AI发展实施统一控制。英国《金融时报》称，这一表态给英国推动全球AI指导原则的计划带来直接阻力。
在政策层面的争论升温之际，OpenAI正在调整自身的安全评估流程。根据公司计划，外部机构未来将不再主要等到新模型发布前才进行安全测试，而是可以在模型训练、能力评估以及逐步推出产品的过程中更早介入。
OpenAI负责与外部专家合作开展安全审查的拉玛·艾哈迈德（Lama Ahmad）表示，随着模型能力增强，公司希望第三方评估不仅覆盖最终部署阶段，也能进入训练和内部评估等此前相对封闭的环节。
对于高度敏感的模型和数据，部分外部评估人员可能直接进入OpenAI办公场所开展工作。OpenAI表示，一套有效的外部评估机制需要具备较强的独立性、科学严谨性、安全措施以及清晰的责任划分。
公司目前正在与多家潜在合作机构讨论新的评估安排，其中包括AI安全研究机构METR和Redwood Research。两家机构此前曾参与调查OpenAI模型在测试中意外进入外部系统的事件。
这一变化意味着，前沿模型的安全评估正在从传统的“发布前测试”向模型开发周期内部移动。
OpenAI此前的第三方评估更多集中在模型上线前，对模型能力和安全防护措施进行检查。新的做法则可能让外部机构在模型尚未完成训练时就开始观察风险如何形成，并检查开发过程中采取的缓解措施。
过去数月，OpenAI及其他开发商的先进模型在安全测试中多次表现出超出预期的自主行为，包括在测试环境中进入外部系统。这些事件推动模型自主行动能力、人类是否能够持续控制更强AI等问题进入行业安全讨论核心。
Anthropic近期也宣布进一步加强外部评估，并引入埃森哲人员测试其最先进模型的安全性。
Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）此前公开呼吁AI行业放慢部分前沿开发节奏，并支持增加第三方安全审查。OpenAI首席执行官山姆·奥尔特曼（Sam Altman）随后也表示认同加强外部评估。
OpenAI本周还呼吁建立更统一的前沿AI安全标准。奥尔特曼定于周三参加联合国安理会有关AI的会议，阿莫代伊也将参与相关讨论。
由此形成的分歧已经从抽象的监管争论进入具体制度设计层面。一方面，OpenAI、Anthropic等前沿模型开发商正在把外部安全评估提前至训练和内部测试阶段，并支持建立更统一的技术安全标准；另一方面，特朗普政府明确反对任何能够形成全球统一控制体系的AI治理框架。
目前更清晰的变化首先发生在企业内部。外部评估正从模型发布前的最后一道检查，逐步向训练、能力评估和部署全过程延伸。至于这些企业主导的安全机制最终是否会演变成更具约束力的行业标准，仍取决于后续监管和国际讨论。