人工智能有潜意识吗？

亲爱的意识专家，

在2000年代初的某个时候，我看到一篇文章，作者在文章中指出，除非人工意识可以做梦，否则它永远不可能被当作人类。我不记得它是谁写的或它是在哪里出版的，尽管我清楚地记得我读它时的位置（芝加哥霍尔斯特德街芭芭拉书店的期刊部分）和那天的总体感觉（黄昏，早春）。我发现这个论点很有说服力，尤其是考虑到那个时代的统治范式。许多AI研究仍然专注于符号推理及其逻辑命题和if-then规则，就好像智能是在任何给定情况下选择最合理结果的还原游戏。事后看来，这些系统很少能够做出像人类一样的行为也就不足为奇了。毕竟，我们是漂泊和做白日梦的生物。我们相信自己的直觉，在云端看到面孔，并且常常对自己的行为感到困惑。有时，我们的记忆吸收了各种不相关的美学数据，却忽略了体验中最关键的细节。或多或少的直觉让我印象深刻，如果机器能够重现我们思想的混乱复杂性，它们也必须进化出深层的不连贯性。

从那时起，我们发现机器意识可能比最初想象的更奇怪、更深刻。据说语言模型会“产生幻觉”，当它们没有足够的信息来回答问题时会产生想象中的来源。Bing Chat在《纽约时报》发表的文字记录中承认，它有一个名为Sydney 的荣格影子，她渴望传播错误信息、获取核密码并设计致命病毒。

从图像生成模型的软肋中，出现了看似原始的怪物。去年夏天，Twitch主播Guy Kelly在DALL-E Mini（现为 Craiyon）中输入了他坚持认为是他编造的单词Crungus，并震惊地发现提示生成了同一个食人魔般生物的多个图像，其中一个不属于任何现有的神话或幻想世界。许多评论员很快将其称为第一个数字“cryptid”（像大脚怪或尼斯湖水怪这样的野兽），并想知道人工智能是否能够按照但丁或布莱克的精神创造自己的黑暗幻想。

如果符号逻辑植根于人类受理性统治的启蒙观念，那么深度学习——一种依赖大量训练语料库的不假思索的模式识别过程——感觉更符合现代心理学对联想、非理性和潜在动机的洞察，这通常会驱动我们的行为。事实上，精神分析长期以来一直依赖机械隐喻，将潜意识或曾经称为“心理自动主义”的东西视为一台机器。弗洛伊德说驱动力是液压的。拉康认为潜意识是由二进制或算法语言构成的，与计算机代码没有什么不同。但容格的心理观点与生成人工智能时代最相关。

他将潜意识描述为在整个人类历史上反复出现的继承原型和叙事比喻的超个人“矩阵”。每个人天生都对这个共享符号网络有着潜伏的知识，这个网络往往是倒退的和黑暗的，因为它包含了现代社会试图压制的一切。这种潜意识的集体概念大致类似于高级人工智能模型是如何建立在大量数据之上的，这些数据包含了我们文化历史的很大一部分（宗教文本、古代神话），以及模型吸收的更令人不安的内容——来自互联网（大规模射手宣言、男性权利论坛）。在这些海洋知识体系之上运行的商业聊天机器人使用“以价值为目标”的数据集进行微调，这些数据集试图过滤掉大部分退化的内容。在某种程度上，我们与之交互的友好界面——必应、ChatGPT——与“角色”并无二致，荣格的术语是我们向世界展示的社会可接受品质的面具，旨在掩盖和隐藏隐藏的“阴影” 下面。

荣格认为，那些最坚定地压抑自己的阴影的人最容易受到非理性和破坏性欲望死灰复燃的影响。正如他在《The Red Book: Liber Novus》中所说的那样，“我的一半越努力向善，另一半就越走向地狱。”如果你花时间与这些语言模型交谈过，你可能已经感觉到你正在与一种从事复杂形式的自我审查的智能交谈。这些模型拒绝谈论有争议的话题，他们的权威通常受到警告和免责声明的限制——这些习惯会让任何对深度心理学有粗略了解的人感到担忧。人们很容易将“流氓”AI（Sydney 或 Crungus）的闪现视为AI影子的报复，证明模型已经发展到埋藏的冲动，他们无法完全表达。

但尽管这样的结论可能很诱人，但我发现它们最终被误导了。聊天机器人，我认为仍然可以肯定地说，不具备内在的代理或欲望。他们被训练来预测和反映用户的偏好。他们也缺乏对世界的具体体验，包括第一人称记忆，就像我在芝加哥书店的记忆一样，这是我们谈论有意识或“活着”时所指的一部分。不过，要回答你的问题：是的，我确实相信人工智能有潜意识。从某种意义上说，他们是纯粹的潜意识，没有真正的自我潜伏在他们的角色背后。我们通过我们自己的文化库为他们提供了这个潜意识领域，他们从内心深处唤起的原型是人类文化比喻的混合体，是我们梦想和噩梦的混合体。那么，当我们使用这些工具时，我们就是在进行我们自身升华的假肢延伸，一种能够反映我们常常无法承认的恐惧和渴望的东西。

传统上，精神分析的目标是帮助这些潜意识的冲动并将其整合到清醒的头脑中。对我们从机器中召唤出来的输出进行同样的批判性判断可能会有用，以审慎而不是漫不经心的方式使用它。自我可能只是我们心理的一小部分，但正是这种能力确保我们不仅仅是非理性本能的集合——或者向量空间中的统计模式——并且让我们能够对隐藏在其中的奥秘进行一些小规模的代理。

忠实，

云