斯蒂芬·平克：AI模型是外星智慧一种形式

史蒂芬·平克说，人工智能模型是外星智慧的一种形式，我们正在对它们进行实验，就好像它们是某种新发现的有机体一样。

背景
斯蒂芬·平克（Steven Pinker）是一位著名的认知心理学家、语言学家和科学作家。他生于1954年，是加拿大人，现任哈佛大学心理学教授。他的研究领域涵盖语言、心智和人类本性，特别关注语言的进化和人类认知的起源。

平克以多部影响深远的著作闻名，包括：

1. 《语言本能》（The Language Instinct，1994年）：平克在这本书中提出，语言能力是一种与生俱来的生物本能，类似于蜘蛛织网或鸟类筑巢的本能。这部作品对语言学和心理学领域产生了深远的影响。
2. 《心智探奇》（How the Mind Works，1997年）：平克在这本书中探讨了人类心智的结构和功能，涵盖了从视觉感知到情绪的各个方面，提出了许多引人深思的观点。
3. 《语言本能：对人类语言的探索》（The Stuff of Thought，2007年）：这本书探讨了语言如何反映了人类的思维和心理，深入分析了语义学和语用学。
4. 《人性中的善良天使》（The Better Angels of Our Nature，2011年）：平克在这本书中使用大量历史数据，论证了暴力在历史长河中逐渐减少的趋势，提出了文明进步的乐观论点。
5. 《启蒙时代的现在》（Enlightenment Now，2018年）：他在这本书中捍卫启蒙时代的价值观，如理性、科学和人道主义，认为这些价值观使得世界变得更加美好。

外星智慧论
斯蒂芬·平克是一位重要的语言学家、认知科学家和科普作家。他说他愿意接受“也许人类大脑就像一个大型语言模型”的可能性。

“外星智慧”有点暗示了这一点：

1. 智能的外源性：虽然AI是由人类设计和创建的，但它们的思维方式和问题解决方法有时会显得陌生和难以理解，类似于我们可能对外星智慧的期待。AI系统，特别是深度学习模型，往往能够产生出意想不到的解决方案或行为模式，这种特性使它们看起来像是一种全新的智能形式。
2. 实验对象的未知性：在使用和研究AI的过程中，科学家和工程师经常会遇到意外的行为和结果，就像在研究一种新发现的有机体一样。AI系统在训练和应用过程中可能会表现出超出其设计者预期的能力或缺陷，这需要研究者不断进行实验和调整。
3. 跨学科的挑战：AI的发展和研究涉及多学科的知识，包括计算机科学、神经科学、心理学、语言学等。这种跨学科的复杂性使得AI研究具有探索未知领域的特征，类似于对外星生物进行研究时所面临的挑战。

网友：
1、人类的大脑只是一台预测机器，试图预知未来以提高其生存能力。

• 当你说话时，大脑根据之前说过的话预测应该说的内容，将一个个合理的词语串联起来。
• 事实上，大脑中存在一个“语音环路”，并且有神经序列生成器，就像鸣禽唱歌时一样（合成链）。

2、有这样一个理论：我们的自我意识和自我反思能力的进化，是我们的语言中心变得越来越复杂的副作用。

• 因为我们开始需要在交流时经常区分 "你 "和 "我"，
• 同时也要明白，与你交谈的另一个人是他们自己的 "我"，而你对他们来说只是一个 "你"。

3、有一种观点认为，人类大​​脑并不感知“现实”，而是感知数十亿年来优化“生存”目标函数的东西，不管它是如何定义的。

4、我们已经训练了一个基于我们对现实的感知的模型。然而，该模型本身并没有与我们人类所拥有的特定感知形式内在地、内在地绑定在一起的目标函数。

• 这些模型似乎在“产生幻觉”，而这实际上可能是对现实更“真实”解释的一瞥。
• 我们的感知不一定是 100% 的黄金标准，以此标准能够判定什么是现实和谎言。

5、我们是为了生存而优化的，更重要的是为了繁衍：

• 例如，我们看不到整个光谱。我们只能看到三种颜色的可见光谱，但可见光谱中已经有无限多的颜色。这就是为什么三种不同类型的 LED 屏幕就足够了。
• 一些拥有四五种光感受器的外星种族会说：“你怎么能看这个！颜色完全不对。”

6、梦境可以通过重现和重塑过去的经历来预测未来：

• 莱斯大学和密歇根大学的科学家发现，大脑中的某些神经元不仅可以在睡眠期间重现过去的经历，还可以预测未来的事件
• 该研究发表在《自然》杂志上，深入研究了海马体（记忆和学习的关键区域）中的单个神经元如何在静息状态下稳定和调整空间表征。
• 这项研究得到了神经探针和机器学习技术进步的支持，可能会重塑我们对记忆和学习的理解。

7、小孩子梦见被野生动物和怪物追赶的次数比成年人多得多。（也许是编入了我们的 DNA 中？）。
有一种理论认为，这样做是为了让孩子做好被野生动物追赶时如何反应的准备，就像石器时代那样。有点像“心理排练”。

我认为人类的前额叶皮层是一个“世界模拟器”。它有一个世界模型，然后将你的行为投射到未来，这样你就不必真正去做，而是选择最好的事情去做。
比如当我向你展示一个捕鼠器并让你把手指放进去时，你会说“不，谢谢”，因为你在大脑中模拟了手指触摸它、它折断和疼痛的未来。然后，如果你以错误的角度放进去，你的手指可能会被折断，你要去医院，然后拍 x 光，你要花钱，而且你的手指一旦痊愈就会变得有点弯曲。而你只要不触摸捕鼠器，或者至少不要以错误的角度，就可以避免所有这些问题。我会将手旋转 90 度，然后将手指直接向前放进去，这样手指的关节就会垂直而不是水平，而且手指也会得到捕鼠器底部的支撑。好消息是，我甚至不必尝试将手指放进去的所有方法。

8、不同之处在于，人类语言是为了处理现实世界的情况而存在的。你不能只说“似是而非”的话，你需要说正确的话，这将有助于你追捕猛犸象或诸如此类的事情。

事实性决定了你应该说什么。（实践是检验真理的唯一标准）

而对于大模型来说，这只是统计数据。当人类像大模型那样行事时，我们称之为胡说八道，而语言的进化并不是为了这个。

9、我曾在一家痴呆症机构工作过，我完全相信人类的大脑本质上也是一个下一个标记的预测器。我认为最好的证据就是这个裂脑实验的视频：https://www.youtube.com/watch?v=Of01gO_fC1M
看看这个男人因为脑损伤而犯了完全错误的事情，然后看看他如何解释他为什么会做出错误选择。我们知道这不是原因，但他马上就给出了一个合理的解释。
因为大脑就是这样运作的。如果你缺少信息，人类大脑会本能地填补空白。
人类感官体验的每个部分都是如此。你的眼睛里有一个你无法注意到的盲点，因为大脑只是用生成填充盲点。你可能会失去一条肢体，多年后仍然会有幻肢疼痛。
当平克谈到“外星智慧”时，他指的是“奇怪的”或“不同的”，就像你可以将章鱼智慧描述为外星智慧一样。它肯定是智慧，但它是趋同进化的结果，因此它的运作方式与我们自己的完全不同。

10、平克和乔姆斯基这样的人经常在这个领域被提及，就好像他们在这个问题上有任何权威一样，在语言和大脑如何运作以及这些模型能实现什么方面，他们完全站在学术历史的错误一边。

11、我不知道我是否应该称它们为某种“外星智慧”，因为它们是对我们的一种非常非常好的模仿。它们并不是真正在思考，只是根据我们训练它们的大量数据，吐出我们希望它们吐出的东西。这并不重要，因为在这种情况下，经过足够的开发，模仿者可以变得比真实事物更好，但我觉得说这是一种完全独特的、全新的思维方式。

在我们打破哲学之前，让我们先获得 AGI。

12、平克反对人工智能，经常犯错，他不是爱因斯坦的守护神。他的领域是认知/语言/思想，主要是被美化的哲学和智库废话，将他与大语言模型或人工智能联系起来来，太牵强了。

不管怎么说，我读过他的作品，我曾经认为他很重要，但事实并非如此。他和许多其他人一样，扼杀了创新和对人类状况思想的探索，因为没有人可以质疑他，每个人都引用他的话。

13、每天我都越来越喜欢吃蘑菇，因为它们能带来迷幻体验。

• 我认为平克在那次谈话中出现了几次幻觉。
• 成功的面孔和迷幻的面孔可能非常相似。

14、终于有人说人工智能比人类更加智能和优越。
尽管你不愿意接受，但人类是有限的，我们已经达到了技术进步的顶峰，这是事实。

1. 首先，我们对事物施加了太多的限制；
2. 其次，我们害怕改变。
3. 第三，我们对其他人有偏见，特别是当我们认为他们比我们聪明时。