AI要觉醒了吗？

现在各行各业都在用AI改造自己行业，那么大模型公司也不能例外。目前这些AI大模型公司的商业模式都是：开发并训练模型，最终靠销售Token获得收入。

大模型公司也可以用AI来优化自己的产品。如果这样，那有没有可能，让模型来写代码，自己给自己升级？

硅谷给AI的自我升级造了个新词，叫 RSI（Recursive Self-Improvement），中文翻译是递归自我改进。

现在可以很明显的感觉到，AI公司发布新版本的周期在持续缩短。从公开的报道看，大模型公司早就用AI来写代码了，只是少部分环节还是需要人工来解决，没有完全地达到RSI。

不过有传言说，AI巨头内部未发布的模型，已经实现了RSI。这些模型的能力，已经远远超过目前公众所使用的版本。

近期，硅谷AI公司的老板们频繁出来说AI的风险，倡导暂缓新模型的研发。背后的原因大概率就是大模型实现了RSI之后带来的恐惧，认为AI有可能会毁灭全人类。

这完全不是代码给谁来写的问题，是人类亲手把方向盘交给了AI。而且，人类越来越看不懂模型的思维过程。AI 为啥这么干，我们完全不知道，也理解不了。这事只是想想就很恐怖。巨佬们最近的反应，我想他们应该看到了这个场景。

现在RSI还是在软件层面，进化到一定程度后，一定会受物理条件的约束。如果哪天，AI能自己能完成设计芯片、造发电厂、建数据中心，并设计机器人来帮它们完成物理世界的任务，那才是真正值得警惕的事情。

我们生活在“矩阵”中吗？

……

01 谷歌发布 Gemini 4 Argon ，顺手给了个首发优惠价活动。新模型擅长处理复杂任务，官方公告里面说在多步骤任务上的深度和精度比同行要好。在编码、金融、法律、网络安全、科学等领域表现较好。

02 Character.ai 要被卖掉了。这家公司创立于2021年，创始人履历非常光鲜。两位创始人 Noam Shazeer 和 Daniel De Freitas 都来自谷歌，Shazeer 更是 Transformer 架构奠基论文的作者之一。

他们的AI角色聊天产品，2022年公测，第二年公司就估值10亿美元了，当时团队只有22人。2024年与谷歌达成27亿的技术授权协议。虽然不缺钱了，但是核心研发人员都被挖去干Gemini项目，核心竞争力也就没了。

现在公司每个月都在亏钱，月活用户已经腰斩，还面临很多法律诉讼。除了卖掉，就只能关门了。