预览帖子
| 游客 |
主题回顾
匿名 发表于 2026-6-23 09:26
[attach]262881[/attach]
@Steed 的围脖：全世界把 AI 往前推得最猛的两家公司，在一周之内先后说了同一句话：该有人来踩刹车了。
本周一，OpenAI 发布了一篇博客，呼吁成立一个国际组织来监督 AI 发展，必要时采取协调行动，让最前沿的 AI 研发慢下来。文章署名是 CEO 山姆・奥特曼和首席科学家雅库布・帕霍茨基。一周前，它最大的对手 Anthropic 刚说过几乎同样的话：如果可能，单方面给全球 AI 发展踩一脚刹车，“很可能是件好事”。
赛道上跑得最快的两辆车，主动要求给比赛装限速器。这事不寻常。
Anthropic 给出的理由，与递归自我改进有关，意思是 AI 模型开始有能力参与训练下一代更强的 AI，徒弟出师就带徒弟，而且每代徒弟都比师傅强。Anthropic 说，公司内部已经看到了这种迹象的证据。
这条路一旦走通，AI 进步的速度就不再受人类研究员数量的限制。OpenAI 在博客里把话说得更直接：未来几年，AI 做 AI 研究将成为决定行业进展速度的关键因素。OpenAI 已经排进了时间表：到 2028 年 3 月，OpenAI 相当一部分研究可能由 AI 系统和人类研究员共同完成。离现在，只有 21 个月。
担心这件事的远不止这两家。2023 年，马斯克和图灵奖得主、“AI 教父” 约书亚・本吉奥等人联署过一封公开信，呼吁把最前沿的 AI 模型研发暂停 6 个月。理由是同一个：商业竞争压过安全考量，可能引爆一场 “智能爆炸”，AI 改进 AI，越改越快，快到人类来不及确认方向盘还在不在自己手里。
那封信没拦住任何人。3 年过去，喊暂停的人从旁观者，变成了开车的人。而开车的人，油门一点没松。OpenAI 在同一篇博客里写下两个目标：造出自动化 AI 研究员，以及让地球上每个人都拥有一个 “个人 AGI”。
AGI，也就是通用人工智能，大致指在任何脑力活上都不输普通人的 AI 系统。说大致，是因为整个行业至今没有公认的定义，连现在这套大语言模型的技术路线能不能造出它，业内都还在争论。这并不妨碍 OpenAI 多年来拿它当招牌融资，而且融得很成功：直到上个月之前，它一直是全世界估值最高的 AI 创业公司。把它挤下王座的，正是 Anthropic。
更关键的时间点还在后面：两家公司都预计在今年上市。上市意味着要对股东的回报负责，而安全投入恰恰是财报上最容易被砍的那一栏。外界的担心由此而来：等股价开始说话，安全还排得上号吗？
把这些拼在一起，两家公司的呼吁不是因为觉悟高，而是因为时间紧，得有人把缰绳接过去，因为用不了多久，这事就不在我们手里了。
