主要观点总结
文章探讨了计算与能耗的关系,回顾了历史上科学家对信息、能量和智能的理解。文章从麦克斯韦妖的概念开始,通过西拉德、兰道尔、本内特和弗雷德金等人的研究,逐步揭示了计算与能量消耗之间的联系。文章提出,计算过程中信息擦除需要消耗能量,且计算速度越快,所需能量越多。随着技术的发展,计算所需能量呈指数增长,可能会在未来遇到兰道尔极限,即计算的最小能量消耗。文章还讨论了计算与物理的关系,认为信息是物理的,物理也是信息的,并指出计算理论比理论物理学更加本质。文章最后提出,尽管奇点可能预示着人工智能超越人类的时代,但“遗忘点”或“O点”可能预示文明的停滞,需要更多的能量才能创造更精美的东西。
关键观点总结
关键观点1: 计算与能耗的关系
计算过程中信息擦除需要消耗能量,且计算速度越快,所需能量越多。
关键观点2: 兰道尔极限
随着技术的发展,计算所需能量呈指数增长,可能会在未来遇到兰道尔极限,即计算的最小能量消耗。
关键观点3: 计算与物理的关系
信息是物理的,物理也是信息的,计算理论比理论物理学更加本质。
关键观点4: 奇点与遗忘点
尽管奇点可能预示着人工智能超越人类的时代,但“遗忘点”或“O点”可能预示文明的停滞,需要更多的能量才能创造更精美的东西。
文章预览
图源:Pixabay 导读: 从麦克斯韦妖到弗雷德金门,可以体会科学史和哲学史深刻且又老生常谈的概念对,如信息vs物理,唯心vs唯物,bit vs it,灵魂vs肉体等。人工智能对算力的剧烈需求,迫使我们思考新的概念对:计算vs能耗。对历史的小心审视能为我们展望未来提供可靠的基础。 尼克 | 撰文 只有一件事要紧,那就是遗忘。 There is only one thing. It is oblivion. ——博尔赫斯Jorge Luis Borges SAIXIANSHENG 1、引言 大语言模型强化了我们的一个直觉:计算需要能量。“奇点”派及“强人工智能派”都预言奇点,即人工智能会全面超越人类的时刻,会在2030-2040年间来临。有人甚至更为具体地宣称:2028年最大的大模型(极有可能是OpenAI的某个版本)需要相当于一千万张英伟达H100 算力的GPU集群,消耗10G瓦的电力,
………………………………