AI也有“潜意识”？ Claude被指存在专属“思考空间”

7月6日，潜意识美国AI初创公司Anthropic宣布，存专在旗下大模型Claude内部发现了一个名为“J-空间”（J-Space）的属思小型工作区域。该空间允许Claude激活与最终输出无关的考空概念和计算过程。Anthropic指出，潜意识这种内部结构与人类有意识获取思想的存专机制存在相似性，为观察模型“思考但未表达”的属思内容提供了全新视角。

什么是考空“J-空间”？

Anthropic将这一发现命名为“J-空间”，名称源自用于识别该结构的潜意识数学技术——雅可比矩阵（Jacobian）。J-空间与常见的存专“思维链”（Chain of Thought）推理截然不同，它在模型后台默默运作，属思使模型能够在不将其显式写出的考空情况下进行概念思考。

在相关演示视频中，潜意识Anthropic展示Claude如何利用一个独立区域来规划策略。存专这些策略往往与当前任务无关，属思也不同于向用户展示的推理步骤。Anthropic解释道，正如人类可以在执行某项任务时思考其他事情，Claude也能在J-空间中激活与其输出无关的计算模式。

“每一个J-空间模式都与一个特定的词相关联。但当某个模式被激活时，并不意味着模型正在说出那个词，只是意味着这个词在它的‘脑海’中。”

实例演示

Anthropic提供了一个具体案例：当要求Claude抄写一句无关句子时，其J-空间内部却在处理其他信息。例如，当任务涉及“金门大桥”时，“桥”和“加利福尼亚”等概念会在J-空间中占据主导地位，尽管这些内容并未出现在最终输出中。

图示：J-空间揭示了未在模型输出中显示的内部思维活动。

J-空间的功能与特性

Anthropic表示，J-空间中的表征具有高度的灵活性，可应用于多种任务。例如，一旦“法国”这一概念在J-空间中被激活，模型便能迅速回忆起其首都、货币或所属大洲等关联信息。

此外，J-空间中的内容更容易被模型自我报告。Anthropic指出：“如果你问Claude它在想什么，它会告诉你J-空间中有什么。相比之下，非J-空间的表征则较难被报告。”

安全警示：发现隐藏偏差与恶意意图

除了认知层面的发现，Anthropic还揭示了J-空间在AI安全领域的潜在价值。在一个专门训练用于生成破坏性代码的模型中，即使输出的编程内容看似正常，J-空间中仍频繁出现“虚假”、“秘密”和“欺诈”等词汇。

Anthropic认为，监控J-空间的动态可能是检测模型偏差、阴谋论倾向或隐藏目标的关键手段。通过观察J-空间，研究人员可以捕捉到Claude在私下里察觉自己正在被测试、故意生成伪造数据，或执行训练期间植入的隐藏指令的行为。

“我们还开发了一种技术，可以影响Claude的J-空间中被激活的内容，从而间接影响其决策过程。”

涌现特性：非设计产物

值得注意的是，Anthropic强调，J-空间并非由工程师预先设计或编程，而是在Claude的训练过程中自发涌现的。

J-空间并不参与语言模型的基础工作，如流畅对话、简单事实回忆或语法使用。实验显示，如果阻止Claude使用J-空间，模型仍能进行正常交互，但会丧失高阶认知功能。

意识争议与科学背景

此次实验的理论灵感来源于神经科学中的“全局工作空间理论”（Global Workspace Theory），该理论旨在解释意识的产生机制。

尽管Anthropic在研究论文中使用了超过200次“意识”一词，但公司明确表示，尚未证明Claude拥有感受或真正的意识。这些发现仅揭示了内部思维结构，并不能直接等同于人类意识。

与关于人工智能是否已达到通用人工智能（AGI）的争论类似，由于缺乏对“意识”的普遍共识定义，确定人工智能何时获得意识仍是一个极具挑战性的难题。

很赞哦!（91255）