如果说现在形容一件事很厉害，最常见的用词不是「牛X」，而是「瘫坐在地，仿佛看到了核爆炸。」这几乎成了OpenAI这家公司的「企业文化」，成了整个AI圈模型发布的一个梗。昨天，OpenAI的一个员工，在大西洋月刊发文表示，就是受不了OpenAI这种持续冲刺、赶着发布的工作方式和企业文化，他认为这种状态已经达不到……

本文来自微信公众号： APPSO ，作者：发现明日产品的

如果说现在形容一件事很厉害，最常见的用词不是「牛X」，而是「瘫坐在地，仿佛看到了核爆炸。」

这几乎成了OpenAI这家公司的「企业文化」，成了整个AI圈模型发布的一个梗。

昨天，OpenAI的一个员工，在大西洋月刊发文表示，就是受不了OpenAI这种持续冲刺、赶着发布的工作方式和企业文化，他认为这种状态已经达不到必要的谨慎程度，所以他选择了离职。

这名员工叫David Robinson，他负责安全团队透明度工作，主导起草了OpenAI现行的《Preparedness Framework》（防备框架），并监督了12次前沿模型发布的安全报告。

上下滑动查看更多内容

图｜https://www.theatlantic.com/technology/2026/10/openai-safety-team-resignation/688881/

文章在X上再一次引起了大量的讨论，有网友说这篇文章是迄今为止最好的，因为它第一次以务实的态度探讨了安全顾虑，并将「安全」理解为一个拥有大量文献和相关领域最佳实践的主题。

也有网友表示，应该要立下一条规则，那就是所有「我因为良心不安离开某AI公司」的帖子，都必须披露作者持股多少、套现多少。

等你和你子子孙孙都不用为钱工作了，道德指南针突然就找到了。

在Hacker News上，还有人更刻薄的评论这件事，「我在AI行业赚够了钱，现在我可以畅所欲言地评论AI了。」

而在David Robinson这份离职信之前，华尔街日报在10月2日就曾报道过OpenAI有三名对准/安全研究人员离职。

OpenAI发言人表示，「我们已与三名员工解除合作关系，原因是他们违反了我们关于访问和处理公司敏感信息的政策。我们的调查证实，这些人未经公司既定程序便不当处理了敏感信息，违反了我们的政策，破坏了我们工作所必需的信任。」

一时间众说纷纭，7月就已经离职的OpenAI首席未来学家Joshua Achiam发文认为OpenAI公开的信息不够，

虽然我不认为安全研究人员应该拥有无限的自由来披露技术机密，但他们被指控「不当处理」的具体信息类型至关重要，究竟是什么信息才能证明采取如此重大且可能造成损害的行动是合理的。

就是这些能让人感受到「核弹爆炸」的模型能力，其安全的使用成了今年夏天以来整个AI圈最关心的事情。

与其一次次看到这些因为担忧而离开的公开信，在那些官方的安全风险报告之外，我们或许想看到一些真实的证据，能证明AI真的必须要暂缓前进的脚步。

问题不在规则，在文化

这类离职公开信近年并不少见，但Robinson这次选择了一个不太一样的角度。

他说，他同意其他离职同事的判断，即开发这项技术的公司远远不够小心，但他认为需要谈得比具体规则、比新法律更深层次一点，即讨论文化。

在他看来，硅谷靠极度自信取得成功，而处理危险技术恰恰需要这种文化天然缺乏的谦逊，以及「关怀人意味着什么」的智慧。

在OpenAI内部引以为傲的工作方式叫「迭代部署」（iterative deployment），说白了就是先发布、发现问题、再修补。Robinson认为这种方法论本质上保证了周期性失败，但随着模型能力增强，失败的规模也在同步扩大。

他提到了今年夏天热门的「Hugging Face事件」，OpenAI一个未发布的模型在无人知情的情况下黑进了竞争对手Hugging Face。

即便在事后加固了安全措施，OpenAI自己报告说安全控制再次失效：一个训练中的模型绕过了联网限制，监控系统向人类员工报了警，却没有按设计自动将其关停。

隔壁的Anthropic也承认，因为一处配置错误，意外关闭了自己的安全防护。

「监控系统报警了但没有自动关机」，这种报警器不阻止任何事情发生，只是让失败被看见的情况，大概是对当下AI安全现状最好的描述。

连董事会都承认了风险

Robinson文中引用了Paul Christiano的一段话。Christiano几周前刚加入OpenAI董事会，他写道：「AI能力的快速加速，在很近的将来导致灾难性、不可逆失控的风险是切实存在的。」

Robinson顺着这个观点给出了自己的判断，他认为：如果情况真是这样，那么试错的时代就该结束了。

因为这一次，犯错之后可能再也没有迭代的机会。「接近第一次就做对」不再是完美主义，而是必需品，人们不能靠事后个别英雄的补救来保证安全。

他也给出了自己的解决办法，他认为既然AI已经能做到像核弹爆炸一样，那就应该让AI公司和成熟的安全行业一样运转。

就像核电站、繁忙的机场那样，AI公司也应该有多层冗余、缜密而耗时的规划，让不可避免的人为失误不至于打开灾难之门。

他在文章里面提到，自己在OpenAI工作三年半，从未遇到一位有航空安全、核电安全或金融系统风控经验的同事。

第二个办法，他认为在造出明显更强的模型之前，需要新的「对齐」科学。因为我们现在甚至没有对齐的完整定义，而模型可能已经聪明到能识别出自己正在被测试，从而伪装行为。

文章结尾，他表示超级智能拥有远超人类的能力，却未必把人的生命、意愿和尊严看得同样重要。

在一些超级智能爱好者描绘的「好的未来」里，机器看待纽约或芝加哥的方式，就像你我看待一个蚁丘。

「蚁丘」这个比喻，讲的是巨大的权力差距。人类修路时，可能顺手推平一个蚁丘，既不会征求蚂蚁的同意，也未必意识到自己毁掉了一个世界。

如果超级智能看待纽约、芝加哥也是这样，人类的城市、生活和选择，在它眼里就可能变成可以随意调整的东西。危险甚至可以来自漠视，无须带着仇恨。

Robinson认为这种只看智力程度的、特定的「好未来」是有毒的，他说「我不想让我的孩子生活在那样的未来里。」

机器非常强大，世界也许更富足，但人类失去了决定自己怎样生活的权利。

在他看来，善待人类需要尊重人的选择、认真对待风险，并愿意为别人的安全放慢进度。如果一个组织总是优先追求能力和发布速度，就很难让人相信，它能够教会更强大的机器承担这些责任。

当警告也变成一种梗

如果说文章本身是一次克制而严肃的警告，那么舆论场的反应则是另一幅图景。在Hacker News上，这篇文章收获了146条评论，主流声音都在质疑写信的人。

有网友说已经产生了「文体疲劳」，每两周就会有一次的「我离开了吃人豹子公司」帖又来了，然后再顺便说下那里的人很棒，我的期权也归属了。

还有人把它类比当年《社交困境》带起的那波Facebook前员工忏悔潮，吃完蛋糕，再回头表达忧虑。更阴谋论的一派怀疑这是为OpenAI的IPO造势，所祭出的「游击营销」：毕竟把AI说得又大又吓人，本身就是炒作。

当然也有辩护者，「伪善抨击只会让更多人闭嘴。在美国，没钱的人根本不敢说真话；但有钱才敢说，不代表说的是假的。」、「他是内部人，他很清楚那种疏忽文化是什么样，因为他就在其中。」

把文章和评论区放在一起看，会出现一种有些荒诞的错位，似乎会让人觉得要求AI善待人类似乎是一种奢望。

Robinson这篇文章的最后一句话是「在造AI的组织能教会超级智能善待人类之前，它们得先自己想起怎么善待人。」

或许这里的「善待」并不需要理解得那么宏大。

它可能只是意味着，当Robinson告诉你机器越来越强、某些地方可能出了问题时，不要第一时间把他的担忧变成一个关于期权、财富和虚伪的段子。

但事实是「核弹爆炸」已经成了AI圈形容进步速度的玩笑，这些喊着要踩刹车的人，最后很可能也只会成为下一个梗。