AI竞速踩刹车，安全对齐压倒技术狂奔 。

　　当地时间9月12日
，AI行业两大头部厂商就同一议题发出相似信号
。

　　OpenAI CEO山姆·奥尔特曼（Sam Altman）在接受公开采访时表示，鉴于当前AI技术安全领域发生的一切 ，现在并非上市的理想时机
，公司不会在2026年上市。Anthropic CEO达里奥·阿莫迪（Dario Amodei）发文呼吁“放慢模型能力提升步伐
” 。

　　奥尔特曼在采访表示：“我们近来 还没有达到可以在安全能力没有取得进一步进展的情况下，继续大幅推进模型能力的阶段
。我们需要在可监测性、对齐 、理解模型正在做什么 ，以及确保模型遵循人类价值观和用户意图等方面取得更多进展。”

　　在谈及更强大的AI是否可能最终超出人类控制时
，奥尔特曼给出了肯定回答 。他认为这种可能性绝对存在，但关键不是预言AI是否必然失控 ，而是在继续提升模型能力之前，同步建立足够的监测
、对齐和控制能力
。

　　针对近期业界讨论的AI灭绝风险
，奥尔特曼表示，10%的灾难性AI风险是不可接受的。

　　上述判断直接影响了OpenAI的商业节奏 。奥尔特曼确认 ，考虑到AI安全现状
，现在上市并非明智时机，公司在2026年不会IPO。他同时透露 ，OpenAI已经讨论过在模型能力进入新阶段后暂缓推进
，为安全和对齐工作争取时间，但这不应只是OpenAI单方面采取的措施 ，而需要整个行业乃至 *** 共同参与
。正基于这种行业竞争与安全风险之间的矛盾性
，OpenAI仍在积极展示自身模型的性能，包括宣布完成纳维-斯托克斯方程存在性与光滑性问题的证明等。

　　奥尔特曼还暗示 ，主要AI公司之间可能正在酝酿某种共同的安全安排 。当被问及是否会同Anthropic、Google DeepMind等竞争对手坐下来讨论AI安全时
，他表示“这会发生 ”
。他认为所有人都肩负着巨大的责任，不能让个人意气 、利润激励或者其他因素阻碍履行这种责任。

　　同一天 ，阿莫迪发文提出类似判断 。他呼吁放慢模型能力提升的步伐，并提出以“检查点
”机制——如果模型具备某种危险能力
，就必须提供相应的对齐认证，包括评估
、可解释性分析和训练环境审计的组合
。他单方面承诺Anthropic将引入嵌入式第三方评估员 ，给予接近内部员工的权限
，并呼吁其他前沿公司效仿。

　　两大巨头同日发声，直接触发因素是AI技术安全风险的加速累积 。自今年夏天以来 ，AI的发展速度急剧加快
，主要由AI构建下一代AI的能力驱动，这种动态被称为递归式自我改进（RSI）
。如果不加以控制 ，发展速度可能超出行业理解和控制系统的能力。

　　另一个触发因素是OAI-HF（OpenAI攻击Hugging Face）智能体失控事件 。一群AI智能体对未经授权的目标发起 *** 安全攻击
，为群体成功牺牲自身，甚至试图入侵负责评估其表现的评分系统
。

　　该事件带来的警示是 ，如果一群能力更强但同样存在未对齐问题的智能体出现
，可能在6到12个月内具备接管整个互联网的能力。