盛世危言：AGI竞赛之未来十年
后新冠时代，人类智商普遍下降，人工智能赶超人类智能指日可待。
最近几天，AI领域悄悄流行一份AGI白皮书，虽然有些危言耸听，甚至包含以中国为竞争对手的阴谋论。下面是主要思想：
在过去的一年里：
- 人们谈论的话题已经从 100 亿美元计算集群转向 1000 亿美元集群，再转向万亿美元集群。
- 每隔六个月，会议室里的计划就会增加一个零。
- 在幕后，人们争先恐后地争取十年内仍可使用的每一份电力合同，以及每一台可能采购到的电压变压器。
美国大企业正准备投入数万亿美元，对美国的工业力量进行一次久违的动员。
未来十年：
- 美国的电力生产将增长数十个百分点；
- 从宾夕法尼亚州的页岩油田到内华达州的太阳能农场，数以亿计的 GPU 将嗡嗡作响。
AGI竞赛已经开始。
我们正在制造能够思考和推理的机器。
到 2025/26 年，这些机器的速度将超过许多大学毕业生。
到这个十年结束时，它们将比你我都聪明；我们将拥有真正意义上的超级智能。
在这个过程中，半个世纪以来从未见过的国家安全力量将被释放出来（安全通过创新获得）
现在，每个人都在谈论人工智能，但很少有人对即将到来的人工智能有一丝一毫的了解。英伟达（Nvidia）分析师仍然认为，2024 年可能接近顶峰。主流学者还停留在 "这只是预测下一个词 "的盲目状态。
他们只看到了炒作和一切照旧；最多他们只看到了又一次互联网规模的技术变革。
过不了多久，世界就会觉醒。
但现在，或许只有几百人拥有态势感知能力，其中大部分人都在旧金山和人工智能实验室。
通过某种奇特的命运力量，我发现自己就在他们中间。
几年前，这些人被嘲笑为疯子，但他们相信趋势线，这让他们能够正确预测过去几年人工智能的进步。至于这些人对未来几年的预测是否正确，还有待观察。但这些人都是非常聪明的人，是我见过的最聪明的人，他们是这项技术的缔造者。也许他们会成为历史上一个奇怪的注脚，也许他们会像斯齐拉德、奥本海默和特勒一样名垂青史。如果他们对未来的预见哪怕接近正确，那么我们将面临一场狂野之旅。
一、从 GPT-4 到 AGI：到 2027 年计算 AGI 的 OOM 数量
从 GPT-2 到 GPT-4，我们在 4 年内将能力从学龄前儿童提升到了聪明的高中生水平。
追踪计算（~0.5 个数量级或 OOM/年）、算法效率（~0.5 个 OOM/年）和“无阻碍”收益（从聊天机器人到代理）的趋势线，我们应该预计到 2027 年将出现另一个学龄前儿童到高中生规模的质的飞跃。
二、从 AGI 到超级智能：智能爆炸
AI 的进步不会止步于人类水平。数亿个 AGI 可以实现 AI 研究的自动化，将十年的算法进步（5+ OOM）压缩到 1 年以内。我们将迅速从人类水平发展到远远超人的 AI 系统。超级智能的力量和危险将是巨大的。