@Steed 的围脖:全世界把 AI 往前推得最猛的两家公司,在一周之内先后说了同一句话:该有人来踩刹车了。
本周一,OpenAI 发布了一篇博客,呼吁成立一个国际组织来监督 AI 发展,必要时采取协调行动,让最前沿的 AI 研发慢下来。文章署名是 CEO 山姆・奥特曼和首席科学家雅库布・帕霍茨基。一周前,它最大的对手 Anthropic 刚说过几乎同样的话:如果可能,单方面给全球 AI 发展踩一脚刹车,“很可能是件好事”。
赛道上跑得最快的两辆车,主动要求给比赛装限速器。这事不寻常。
Anthropic 给出的理由,与递归自我改进有关,意思是 AI 模型开始有能力参与训练下一代更强的 AI,徒弟出师就带徒弟,而且每代徒弟都比师傅强。Anthropic 说,公司内部已经看到了这种迹象的证据。
这条路一旦走通,AI 进步的速度就不再受人类研究员数量的限制。OpenAI 在博客里把话说得更直接:未来几年,AI 做 AI 研究将成为决定行业进展速度的关键因素。OpenAI 已经排进了时间表:到 2028 年 3 月,OpenAI 相当一部分研究可能由 AI 系统和人类研究员共同完成。离现在,只有 21 个月。
那封信没拦住任何人。3 年过去,喊暂停的人从旁观者,变成了开车的人。而开车的人,油门一点没松。OpenAI 在同一篇博客里写下两个目标:造出自动化 AI 研究员,以及让地球上每个人都拥有一个 “个人 AGI”。
AGI,也就是通用人工智能,大致指在任何脑力活上都不输普通人的 AI 系统。说大致,是因为整个行业至今没有公认的定义,连现在这套大语言模型的技术路线能不能造出它,业内都还在争论。这并不妨碍 OpenAI 多年来拿它当招牌融资,而且融得很成功:直到上个月之前,它一直是全世界估值最高的 AI 创业公司。把它挤下王座的,正是 Anthropic。