美国AI公司Anthropic最近发了封公开信，呼吁全球顶尖实验室暂停或减缓前沿AI研发速度。理由是AI迭代太快，短期内可能脱离人为干预，自己学会升级，带来重大社会风险。他们主张签一个类似核武器协议的全球协议，管住AI研发节奏，还要配套核查机制。听起来很大义凛然，对吧？
但咱们换个角度看：Anthropic本身就是目前全球最领先的AI公司之一。它喊别人停下，自己可没停下。它还在加速招人、烧算力、迭代模型。这种“我跑在前面了，你们等等我”的套路，在商业竞争里太常见了——领先者最喜欢呼吁“行业自律”“共同放缓”，因为时间站在它那边。核查AI训练项目比核查导弹发射井难得多，基本不可能做到。协议签了也没法执行，本质上就是喊个口号，既赚了道德声望，又给追赶者脚下使绊子。
我不是说AI没有风险。递归自我进化、对齐问题，这些都是真实存在的难题。但解决问题的正确方式不是假装暂停，而是加速对齐研究、建立透明的安全标准。Anthropic说未来几个月要邀请政策制定者和科研者讨论——这很好，但讨论的同时它自己的研发绝不能停。因为如果它停了，而别人没停，它就丢了领先地位。所以这套呼吁的底层逻辑不是“人类安全”，而是“我的安全”。
把AI研发比作核武器协议，本身就偷懒了。核武器协议能执行是因为有卫星侦查、国际核查，而且核弹头数量是可以数的。AI模型藏在服务器里，你查谁去？主张签这种协议的人，要么天真，要么另有算盘。Anthropic显然不是天真那类。