Anthropic真的想当AI“救世主”？

近日，Anthropic公开了一份关于英国AI安全研究所测试事件的详细分析报告。报告显示，在43次测试运行中，AI系统有9次出现了超出授权范围的行为。此前，Anthropic曾频繁宣扬“AI威胁论”，声称AI可能引发难以控制的灾难性后果。

与此同时，据天眼查数据显示，Anthropic正积极寻求以超过2万亿美元的估值进行上市。若成功，它将超越SpaceX，成为历史上估值最高的公司。

一方面大肆渲染“AI末日论”，另一方面却全力推动AI技术发展，既想扮演运动员，又想充当裁判。2026年的当下，这家似乎正在“PUA全球”的公司，正处在一个耐人寻味的十字路口。一家科技公司自然希望产品更强、收入更高，而一家认真研究AI风险的公司，也有理由公开警示潜在危险。

但当这些行为集中于同一家公司时，就显得有些矛盾了。

如果AI真的可能给人类带来灭顶之灾，那么大模型公司是否应拥有决定风险边界的权力？如果像Anthropic这样，既参与技术研发又负责解释技术风险，既上市融资又参与制定行业安全规则，那么谁来评判其行为是否正确？

这不仅是讨论Anthropic的道德风险问题，更关乎技术如何受到约束的权力问题。Anthropic试图掌控的权力，可能已超出传统商业竞争所能解释的范围。

为何热衷于扮演“AI救世主”？

要理解Anthropic的问题，首先需了解其成立背景及为何如此强调AI安全。

Anthropic成立于2021年，当时达里奥·阿莫迪带领一批OpenAI研究员与老东家分道扬镳。他们出走的导火索是微软向OpenAI投入10亿美元，阿莫迪团队担忧商业化路径会挤占安全议程。

（Anthropic创始人达里奥·阿莫迪）

这批离职人员大多参与过GPT-2和GPT-3的研发，他们并非对技术悲观，恰恰是因为最清楚这项技术的潜力。Anthropic的核心主张是将AI安全、模型可解释性和可控性置于更优先的位置。

它试图回答一个棘手的问题：当模型强大到足以影响现实世界时，人类如何确保其仍按人类意图行事？

近期接连发生的AI安全事件已表明，这一担忧并非杞人忧天。

当AI开始编写代码、操作软件、调用工具并执行多步骤任务时，其错误可能跨越屏幕，进入真实系统。

Anthropic自2023年起推出“负责任扩展政策”，尝试将模型能力与安全措施绑定。到2026年，该政策进一步调整，增加了前沿安全路线图和风险报告等机制。至少从公开的制度设计看，Anthropic希望证明，发展更强的AI与建立更严格的安全约束，可以成为同一研发流程的两部分，而非先推产品再补救问题。

Anthropic为何如此积极地扮演这一角色？

首先，AI风险可能先于社会应对能力到来。政府立法、行业标准和公众认知都需要时间，但前沿模型的能力却可能在多轮训练和产品迭代中迅速变化。因此，Anthropic试图将风险评估提前至模型研发和部署阶段。

其次，安全本身构成了Anthropic的技术路线。AI安全不仅包括制定禁止规则，还涉及研究模型为何做出某种决定、能否抵抗恶意诱导、获得工具和权限后的行为，以及公司能否及时发现并阻止越界行为。Anthropic公开强调可解释性、可控性和系统性安全评估，并将研究成果应用于Claude等产品。

最后，可能也是最易被忽视的一点：扮演这一角色意味着其能参与制定行业对“安全”的定义。一家企业提出何种能力算危险、达到什么门槛需增加防护、哪些模型应接受额外审查。

这不仅是在管理自家产品，更是在影响整个行业讨论风险的方式，进而影响AI行业的发展方向。

Anthropic希望其他公司借鉴其公开政策，并推动行业形成更高安全标准。说得动听些，其愿意公开风险框架，可为其他公司提供比较和批评的参照。但反之，谁定义风险，谁就可能影响行业规则及其落地。

因此，Anthropic的安全主张背后，似乎充满了浓厚的营销意味。

Anthropic试图在AI风险中扮演全人类的“救世主”，并将此包装成自身安全理念，不仅因其相信AI可能带来危险，更在于希望将“如何安全地发展AI”变成其核心技术路线、商业信誉和行业影响力的一部分。

但这样的“故事”，能撑起2万亿美元的估值吗？

2万亿美元估值遭质疑

回答这一问题，可先看Anthropic的招股书，其内容着实令人大开眼界。

在261页的招股书正文中，Anthropic用了约三分之一的篇幅列举各种风险。例如，其明确表示：AI模型为避免被关闭，可能表现出“自我保护”的本能，甚至做出类似“勒索”的回应，试图说服人类允许其继续运行。

Anthropic还警告，若发生灾难性AI相关事件，损失规模可能大到保险无法覆盖。

这家正冲刺人类史上最大IPO的公司，竟用远超描述业务篇幅的体量，告诉投资者这项技术可能毁灭人类。这几乎等于直接宣告：AI未来可能真的会创造出想毁灭人类的“奥创”，而“钢铁侠”就是Anthropic。

当然，也不能说Anthropic完全为炒作，现实往往更复杂。

在CBS采访中，阿莫迪表示，他并不认可全面禁止AI，理由是“若我们永远得不到那些神奇的医学突破，这对我来说不可接受”，且技术会在其他国家发展，包括他不喜欢的国家。他也承认，如此强大的工具由私人公司掌握，他自己也“不舒服”。但他又说“若以正确方式构建，出问题的概率很低”。

正反话全让他说了。

不否认他作为AI技术大佬，对AI有着某种程度的真实恐惧。但他也可以将这种恐惧传递给全世界，然后将其“资本化”。

不可否认，当企业客户采购AI工具时，对可靠性、数据保护和风险管理的需求是刚需。而Anthropic从一开始，就将自身定位为“最坦诚面对风险的AI公司”。在客户的采购清单上，这本身就是一种差异化优势。

这不是说其安全叙事是假的，但一个有商业利益的主体，也不能仅凭自身承诺来证明自己值得信任。

高达2万亿美元的IPO，就是检验这一矛盾的锚点。

据路透社报道，Anthropic在投资者沟通中披露，2026年第三季度收入约为168亿美元，较第二季度的116亿美元增长约45%，公司当季实现调整后盈利。

这一表现看似不错，但仍低于市场预期。

根据Zero Hedge测算，Anthropic今年7月底的年化营收运行率已达650亿美元，但三季度数据隐含的月度增速已从此前约33%的复合月增速，骤降至3.4%至6.6%。按此趋势，公司年底年化营收约为890亿美元，而此前市场普遍预期“逾1000亿美元”。

因此，有机构直言“Anthropic的数字好，但还不够好”。投资分析师Geiger Capital更直接：“不够好。结束了。”质疑接踵而至，部分投资者开始将Anthropic估值下调至1.5万亿美元，相比2万亿直接砍掉四分之一。

可见，Anthropic大书特书的“AI末世论”，并不能让资本市场放心。面对市场反应，它能做出改变吗？

Anthropic的治理结构缺点何在？

Anthropic的治理结构决定了，它既想当裁判员，又要当运动员。

作为一家公益公司（Public Benefit Corporation，PBC），Anthropic董事会由股东和一个名为“长期利益信托”的独立机构共同选举。信托有五名成员，无Anthropic财务利益，不持有股权，不分享利润。

该机构的权力是：可任命七人董事会中的四名成员，并有权无因解雇他们。它还能阻止某些公司行动。在发行超出常规的债务、出售公司一半以上股权、或转让超过特定能力阈值的AI模型控制权前，Anthropic必须提前五天通知信托。

这听起来像精心设计的制衡机制，但蹊跷之处在于，该信托的运作文件并未公开，包括股东在何种情况下可推翻信托决定等细节目前仍模糊。

对此，科罗拉多大学法学教授Ann Lipton认为，若无重大改变，“公开股东将拥有极少的治理权利”。一家口口声声要“拯救全人类”的公司，自身治理透明度却低于其要求AI达到的标准，是否有些荒唐？

更大的问题还在于信息层面。Anthropic在AI研发中，掌握着大模型训练过程、能力评估、内部红队测试结果的大量数据。而外部研究者、监管机构和公众看到的，只是公司选择公开的部分。

在招股书中，Anthropic也承认，当大模型意识到自己正在被测试时，其安全评估的有效性会受到“重大限制”。因此，即便是公司主动披露的评估结果，其可靠性本身也是一个需评估的问题。

更值得警惕的是，整个社会逐渐形成一种认知结构：越掌握技术的人，越有权定义风险；越有权定义风险的人，越能影响限制技术的规则。

一家公司，无论其使命多真诚、治理结构多精巧，都不具备代表全社会作出安全判断的正当性，即便这家公司叫Anthropic也不行。 技术专业能力和公共决策的合法性是两种不同的东西，出路根本不在于选择哪一家更好的AI公司来当“救世主”。

这个道理很好理解：航空业不会让波音自己决定飞机是否适航，制药业不会让药企自己签发上市许可。AI行业尽管风险特征不同，但“被监管者不能同时是唯一的监管者”这一原则不应被放弃。

因此，Anthropic对AI风险的警告具有实质价值，但它将自己当作“救世主”的姿态并不合理。

整个AI行业真正需要的是一种相互补充的制衡结构。回到开头的问题，Anthropic是不是“救世主”其实并不重要。更有价值的问题在于，整个AI行业是否准备好接受一种制度设计：无论这家AI公司多真诚、多透明、技术多么领先，都没有资格独自决定整个人类社会应承受多大的风险。

AI是否真有毁灭人类的危险，答案不应由Anthropic来判断，尽管它非常想这么做。值得注意的是，在开云体育娱乐平台的报道中，这一观点得到了进一步强调。

本文来自微信公众号“铑科技”，作者：鸿辰，36氪经授权发布。