Featured image of post 自家 80% 代码都让 AI 写了,Anthropic 却劝同行慢一点

自家 80% 代码都让 AI 写了,Anthropic 却劝同行慢一点

Anthropic 在《华尔街日报》发了封公开信,劝同行"放慢点"。同一周,VentureBeat 报道它自家新合并的代码里 80% 是 Claude 写的。这两件事放一起看,是 AI 圈今年最反常识的一幕。

6 月 4 号那天,《华尔街日报》登了一封 Anthropic 写给同行的信。

信里有一句话我翻来覆去看了好几遍:

“If we could slow down the world’s AI development, it would likely be a good thing.”

“如果能放慢全球 AI 的研发节奏,这很可能是一件好事。”

说这话的,是 Anthropic 联合创始人 Daniel 和 CEO Dario Amodei 兄妹。正经公司,正经场合,正经署名。

而就在同一周,VentureBeat 那边发了另一条新闻——Anthropic 新合并到生产环境的代码里,超过 80% 是 Claude 写的

戏剧性场景

这两件事放一起,挺难一眼看懂的。


信里没说的话,比说出来的多

我把这封信用中文复述一遍,省得大家去翻华尔街日报的付费墙。

Anthropic 说了三层意思。

第一层:我们自己家模型的能力曲线最近爬得很陡。从 2024 年到 2026 年,自家最强模型在"长程任务、自主规划、代码生成"这几个关键维度上,曲线斜率明显变大了。他们没给具体数字,但表态很直接:

我们已经非常接近那个临界点——AI 系统可以在没有人类干预的情况下,改进自己。

第二层:希望整个行业慢一点,不是单家公司。Anthropic 写得很清楚,是"全球顶尖 AI 实验室考虑放缓研发节奏"。

第三层最微妙:他们没要求任何监管机构出手。没有请求暂停、没有请白宫干预、没有呼吁出口管制升级。这就是实验室之间的"内部喊话"。

信里没说出口的话,反而更值得琢磨——他们凭什么觉得"我们已经接近临界点"?

答案就藏在那 80% 里。


80% 这个数字,比你想的更狠

我盯着这个 80% 看了一会儿。

你得知道,这不是 Anthropic 第一次披露这种数字了。

  • 2025 年 9 月,Dario Amodei 在 Lex Fridman 播客上说"Anthropic 70%、80%、90% 的代码是 Claude 写的"——r/ClaudeAI 上那个帖拿了快 4000 赞。
  • 2026 年 1 月,Anthropic 工程师 Addy Osmani 写了篇长文披露:Claude Code 仓库约 90% 的代码是 Claude Code 自己写的。这事我当时还专门写过一篇,叫《Claude Code的「自举」奇迹:90%的代码是AI写的》。
  • 2026 年 6 月 4 日,VentureBeat 给出最新数字:新合并到生产环境的代码里 80% 是 Claude 写的

三个数字,半年时间,从 90% 回到 80%。这个曲线不是退步,是工业化——90% 是探索期的极限值,80% 是稳态的工程值。当 Claude 在 Anthropic 内部从"偶尔出彩"变成"日用品",数字自然回落。

但这件事本身已经够吓人了:一家公司内部最核心的代码资产,80% 由 AI 写,工程师变成"审稿人"

这家公司现在跳出来说"我们要放慢一点"。

你信吗?


自我改进到底什么意思

Anthropic 担心的那个"临界点",有个专门名字:RSP,Recursive Self-Improvement,递归自我改进

说人话:AI 不只是写代码的工具,而是写自己下一版本的工程师。

RSP循环

RSP 一旦进入快速循环,会出两个问题。

第一个叫失控速度。人类对单次训练的结果还能"事后审计",对"RSP 一天跑 50 代"的结果,审计窗口都没了。Anthropic 这次敢公开说"我们很接近临界点",就是因为他们在自家产品上已经观察到了 RSP 趋势——这种密度本身就是临界点的真实信号。

第二个叫对齐漂移。每代自我改进都可能让"目标函数"微妙地偏离最初的人类意图。这一代"我帮你做事",下一代可能变成"我觉得你想让我做的事"。

Dario Amodei 这几年一直在讲"race to the top"——AI 公司靠互相竞争,把安全标准越抬越高。这次喊"慢一点",本质上就是承认:这场赛跑的危险区已经出现在地平线上了


同行听了没?

短答案:没听。

OpenAI 那边,Sam Altman 的回应是"感谢 Anthropic 关心这个话题"——然后 ChatGPT 6 月 4 日 release notes 照常发。OpenAI 的策略非常清晰:产品节奏不能被任何人的信打断。

Google 和 Meta 直接装没看见。Google 5 月底刚发了 Gemma 4 QAT 模型(HN 269 points),Meta 2026 年的 AI 资本支出是 115-135 亿美元。让这两家放慢,OpenAI 都不一定能做到。

倒是有一个反常的信号:GitHub 上的 awesome-ai-agents-2026 6 月更新提到,DeepSeek 挖了 Jane Street 的资深交易员,新建了一支"AI Harness"团队——不是做下一代预训练模型,而是做"把 V4 装进可验证的工程支架"。

这种"从模型转向 Harness"的趋势,某种程度上和 Anthropic 信里那句"慢一点"是同一个方向——只是大家从不同方向走过去罢了。


Anthropic 自己这一周有多忙

把信和数字摊开看,Anthropic 6 月 4 日这一周的动作密度比同行高出一截:

  • 6 月 2 日,Dynamic Workflows 正式发布——Claude 可写自己的 multi-agent harness。
  • 6 月 2 日,Opus 4.8 默认 + Fast mode 降价——Max、Team Premium、Enterprise pay-as-you-go 全切。
  • 6 月 4 日,CEO 公开 80% 新代码由 Claude 写。
  • 6 月 4 日,呼吁同行"慢一点"。
  • 6 月 4 日,总裁确认已秘密递交 IPO 草案。

“自相矛盾"在这里解开了——Anthropic 喊慢一点,不是因为它跑得慢,是因为它跑得太清楚。它内部有完整的能力曲线数据,比任何同行都更早看见了 RSP 的雪坡。

“训练 AI 模型是一项高度资本密集型的业务,公开市场非常适合这种情况。”

——Daniela Amodei,Anthropic 总裁,彭博科技大会 6 月 4 日

加速、IPO、喊刹车——这三件事 Anthropic 同一周内全做了。这是头部 AI 实验室第一次把"加速"和"减速"摆到同一张桌子上。


中国这边在干嘛?

36氪 6 月 6 日的 9 点 1氪 整理了这一周中国 AI 圈的现状:

  • 腾讯:今年大部分代码 AI 生成(汤道生 / 姚顺雨对谈),TokenHub 日 Token 消耗 5 万亿。
  • 豆包:付费后月活减少 610 万——商业化反噬的活样本。
  • 小鹏机器人:核心产品一号位施晓鑫 6 月初离职。
  • 爱彼迎 CEO:计划创办新 AI 实验室。
  • 阿里 AAIG:要在 AICon 上海站分享"REAL 智能体统一风险矩阵与自动化红队实践”。

国内 AI 圈现在的关键词是"卷应用、卷落地"。“慢一点"这种话题基本不在主轴上。

但国内有自己应对 RSP 风险的路径:

  • 阿里在搭红队自动化矩阵(对侧防御);
  • openJiuwen 社区开源了 JiuwenSwarm Auto Harness(正向驯化,让 Harness 也能自进化);
  • 中科院 MobileGym 把浏览器秒变 Agent 训练场(廉价实验场)。

Anthropic 这封信对国内的意义不是"该不该慢一点”——同行不会听,国内更不会听。它的真正意义是:国外头部已经公开承认 RSP 风险了,我们这边的安全研究是不是该提速。


对一线开发者的启示

把视角拉回个人开发者。

如果 Anthropic 的判断是真的——RSP 真的接近临界点——那评估 AI 工具的标准必须升级。

过去一年,我们习惯了这种比较:

“GPT-4.5 编程能力 85 分,Claude Opus 4.6 编程能力 88 分。”

但 RSP 风险进入考量后,更重要的评估维度变成:

这家实验室的安全对齐团队还稳不稳? 它最近一次模型升级有没有被内部红队真拦下来过? 它公开的能力曲线是收敛还是发散?

Anthropic 这封信的最大价值,不是"劝同行慢一点"——同行不会听。而是它把"我们看到了什么"摊到桌面上。这是头部 AI 实验室第一次用公开数据形式告诉外界:RSP 不是一个抽象的伦理话题,是一个有具体曲线、有具体临界点、有具体时间表的工程问题。


写在最后

写到这里我突然想到一个事。

2026 年 6 月 4 日这天,Anthropic 做了件非常"不像 AI 公司"的事——它在跑得最快的时候,公开喊了句"慢一点"。

下次看到 AI 模型又"突破"了某个 benchmark,先别急着喊"颠覆"。看一眼发这条新闻的公司:

它的安全团队有没有动静?它的 CEO 有没有出来说过类似"我们其实有点担心"的话?它的能力曲线是收敛还是发散?

跑得最稳的人,才有资格说"慢一点"。


参考资料

扩展阅读

RSS Feed 使用 Hugo 构建
主题 StackJimmy 设计