<mark id="oztn4"></mark>
0
作者丨鄭佳美
編輯丨馬曉寧
剛剛，Anthropic 發了一個關于 Claude 內部機制的新研究，名字叫 A global workspace in language models。
它不是在研究 Claude 最終回答得好不好，也不是在讓 Claude 自己解釋“我剛才為什么這么說”，而是直接去看 Claude 在生成回答之前，中間層里已經形成了哪些沒有寫出來的概念。
Anthropic 把這組內部表示叫 J-space，把讀取它的方法叫 Jacobian Lens，簡稱 J-lens。
這個事情有意思，是因為我們平時看到的 LLM 基本只有外部行為：用戶輸入、模型輸出、token 概率、工具調用、評測分數。模型內部到底在什么時候形成某個判斷，什么時候識別出某個風險，什么時候準備走某個方向，通常是看不到的。
Anthropic 這次想做的，就是把這層“看不到”往里推一點。他們聲稱，Claude 內部有一小組特殊表示，不是普通的中間激活，也不是最終輸出 token 的提前版本，而是一些可以被模型報告、可以被指令調動、可以參與內部推理、也可以影響后續計算的狀態。
Anthropic 明確說，這不能證明 Claude 有人類意義上的主觀體驗；它討論的是功能層面的可訪問狀態。
說白了，Anthropic 發的不是“Claude 有意識”的證明，而是一套新的內部觀測方法：他們試圖讀取 Claude 還沒說出口、但已經在內部形成的概念。
01
Claude 在生成回答之前，中間層里會出現一些和詞相關的內部模式。Anthropic 把這些模式稱為 J-space patterns。
每個 pattern 和一個詞相關，但這個 pattern 亮起來，并不代表 Claude 馬上要輸出這個詞，而是代表這個詞對應的概念已經進入了模型當前可使用的內部狀態。Anthropic 自己的解釋是：J-space 里的詞像是 Claude “mind” 里的內容，但它不一定會被寫到最終回答里。
這和 chain-of-thought 不一樣。Chain-of-thought 是模型把推理過程寫成文本，J-space 則發生在模型內部 activation 里。它不占輸出窗口，也不會直接暴露給用戶。也就是說，Claude 可能內部已經形成了某個中間判斷，但最終回答里完全不出現相關詞。
Anthropic 給 J-space 歸納了幾個特征。
第一，它是可報告的。模型被問到相關內容時，可以把 J-space 中的一部分狀態轉成語言說出來。
第二，它是可調動的。指令可以讓某些概念進入 J-space，即使這些概念不出現在最終輸出里。
第三，它會參與中間推理。在部分任務里，模型不是直接跳到答案，而是先在 J-space 中形成中間概念，再基于這個概念繼續計算。
第四，它可以被后續計算復用。一個 J-space 概念形成后，不同類型的后續問題都可以讀取它。
第五，它不是所有計算的中心。Anthropic 明確說，J-space 不參與模型的大多數普通能力，比如流暢說話、簡單事實回憶、語法處理等。阻止 Claude 使用 J-space 后，它仍然可以正常互動，但更高階的任務能力會下降。雷峰網(公眾號：雷峰網)
這個邊界很重要。J-space 不是 Claude 的全部“思考”，更不是完整 hidden state。它只是一小部分可語言化、可被后續層使用的內部狀態。完整論文里也提到，J-space component 通常只解釋總激活方差的一小部分，最高也不到 10%。
所以，這次發布真正要看的不是“Claude 是否有意識”，而是：LLM 內部是否存在一組可讀、可改、可訓練、可進入安全審計的中間狀態。
02
要讀 J-space，Anthropic 用的是 Jacobian Lens。
以前也有類似想法，叫 logit lens。它會把模型某一層的 residual stream 直接乘以最后的 unembedding matrix，看這一層“像是在預測哪些 token”。這個方法在后期層比較有用，因為后期層已經接近輸出空間。但在早中層，模型表示還沒有完全對齊最終輸出坐標，直接這么讀很容易失真。雷峰網
J-lens 做了一個關鍵修正：它不直接把中間層接到輸出層，而是先估計這一層 activation 的變化會怎樣影響后續最終層 activation。這個估計用到平均 Jacobian。
然后再把這個影響接到模型自己的 unembedding 上，得到詞表層面的讀數。完整論文把它描述為一種對 logit lens 的修正，用來讀取模型當前“有可能說出來”的概念。
簡單說，J-lens 讀的不是“下一步一定輸出什么”，而是“這個中間狀態在未來輸出中更容易支持哪些詞”。這也是為什么它適合捕捉模型還沒寫出來的內部概念。
它和普通 probe 也不一樣。普通 probe 可以訓練一個外部分類器，從 hidden state 里預測某個標簽，但這個標簽不一定參與模型自己的計算。J-lens 用的是模型自身從中間層到輸出層的路徑。它讀到的方向，理論上本來就在模型內部到輸出的因果鏈路上。
J-space 就是在 J-lens vectors 上定義出來的。每個 token 都有一個對應的 J-lens vector，但詞表大小通常大于 hidden size，所以這些 vectors 不是普通的一組基向量。論文把 J-space 定義成少量 J-lens vectors 的稀疏組合，也就是在某個位置上，只取少量最活躍的可語言化概念。
這套方法真正有價值的地方，不是能把 activation 翻譯成幾個詞，而是它后面還能做干預。
Anthropic 做了幾類操作：替換某個 J-space 概念、消融某些 J-space components、往 activation 里寫入某個方向，或者把相關方向從 residual stream 中投影出去。然后觀察 Claude 后面的行為是否變化。結果顯示，改動某些 J-space 表示，確實會改變模型后續報告、推理結果和部分策略行為。
這一步很關鍵。只讀出來，最多叫可視化；改了以后行為跟著變，才說明這些內部狀態至少參與了部分計算。
03
從工程角度看，J-space 可能會影響三條線：訓練、評測和部署。
先看訓練。
Anthropic 做了一個叫 counterfactual reflection training 的方法。它不是直接訓練 Claude 在目標任務里輸出正確答案，而是在任務中途截斷 rollout，追加一個反思問題，只訓練模型在這個反事實位置應該如何反思。評估時，不追加反思問題，也不要求模型輸出反思文本。
這個設計想驗證一件事：如果模型內部推理會經過可語言化表示，那么改變模型“如果被問到會如何反思”，是否能改變它沒有被問到時的內部狀態。
Anthropic 的結果顯示，訓練后模型在誠實和欺騙相關評測上的表現改善了；J-lens 也能看到 honest、integrity、ethical 等相關概念更容易出現在 J-space 中。更關鍵的是，如果消融這些被訓練出來的 J-space 表示，行為收益會明顯回退。
這對訓練的啟發是：對齊訓練不一定只能監督最終輸出，也可以通過輔助目標塑造模型的內部狀態。傳統 SFT 更像是在訓練“這個輸入應該怎么答”；RLHF 更像是在訓練“哪類回答更符合偏好”；counterfactual reflection training 則更像是在訓練“模型在關鍵上下文中應該形成什么內部判斷”。
再看評測。
現在很多安全 eval 只看結果：模型有沒有拒絕、有沒有違規、有沒有執行危險動作。但 Anthropic 用 J-lens 觀察到，Claude 在某些安全場景中會提前識別出自己處在評測或虛構場景里。Axios 的報道也提到，Anthropic 認為 J-space 可以用于發現模型沒有說出口的 misalignment 或 scheming 信號。
這會影響 eval pipeline。以后評測高能力模型時，不只要記錄“模型有沒有通過測試”，還要記錄“模型是否識別了測試條件”。如果模型因為知道自己在測試而表現安全，那么評測分數就混入了一個額外變量。
再看安全審計。
Anthropic 提到，J-space 可以用來發現模型內部注意到自己被測試、故意生成偽造數據、或者追求訓練時植入的隱藏目標。
這對 agent 場景尤其有意義。Agent 的風險不一定出現在文本回答里，而可能出現在 tool call、代碼修改、文件操作、外部請求之前。如果模型服務商能在動作前讀取內部狀態，就可以把異常信號交給 verifier、policy model、沙箱或人工審核。
不過，短期內這更像模型廠商內部能力，不是普通 API 開發者馬上能接上的功能。J-lens 需要訪問 residual stream、模型層結構、unembedding、Jacobian 近似和激活干預接口。閉源 API 用戶通常拿不到這些東西。
所以它的工程化落點，大概率先是內部訓練診斷、離線紅隊審計、高風險 agent 的動作前監控，而不是普通應用層 prompt 技巧。
04
這個研究發出來后，網上并不是一邊倒興奮。很多人不買賬，主要不是因為 J-lens 沒有技術含量，而是因為 Anthropic 的敘事太容易把人帶到“Claude 是不是有意識”這個方向。
Axios 直接點出了這個矛盾：Anthropic 沒有證明 Claude 有感受或體驗，但它把研究放在“類似人類 conscious access”的語境里，并且論文里 “conscious” 這個詞出現了 200 多次。 這就很容易讓技術討論滑向意識討論，而不是停留在可解釋性工具本身。
Reddit 上的反應也能看出這種不滿。r/Anthropic 上有帖子直接吐槽 Anthropic 又開始讓人覺得它的模型“conscious and alive”。
下面也有人反駁說，視頻和研究并沒有真的宣稱模型 alive 或 conscious，只是在描述一種能幫助理解模型 reasoning 的實驗。這個分歧本身說明，Anthropic 的表達方式已經讓很多讀者第一反應變成“你是不是又在暗示模型有意識”。
還有一類質疑是：這是不是新瓶裝舊酒。
Reddit 討論里有人認為，activation 會影響輸出、而且不一定出現在輸出里，這件事并不新；新的地方只是 Anthropic 把其中一部分 activation 拆出來，對齊到 global workspace theory 的“spotlight”概念上。
也有人指出，人類意識理論本來就沒有統一答案，把一個仍在爭論中的人腦理論遷移到 LLM 上，本身就會引發爭議。
第三類質疑來自工程邊界。J-space 只覆蓋很小一部分 activation，而且主要讀取單 token 概念。它能看到一組活躍概念，但不能完整恢復推理結構，也不能穩定表示復雜意圖、關系綁定和長期策略。
沒有讀到風險概念，不代表模型安全；讀到某個風險概念，也不代表模型一定會執行風險行為。完整論文也承認，J-lens 捕捉的是一部分可語言化表示，不是模型全部內部計算。
第四類不滿其實和 Anthropic 近期的公眾形象有關。它的安全敘事、模型限制、評測意識、隱藏能力控制，經常會讓開發者覺得“技術是真的，但話術太重”。
所以這次一旦用了 global workspace、conscious access、what Claude is thinking but not saying 這類表述，很多人自然先警惕，而不是先接受。
X 上的網友們也是各種不買賬。很多人覺得這是 Anthropic 的又一個新型營銷，只是把 Transformer 換了殼，包裝成 AI 開智未免有點太過于浪漫。
國內網友同樣不買賬。
這也是這次發布最微妙的地方。
如果只看技術，它確實值得關注：J-lens 提供了一種讀取中間層可語言化狀態的方法，J-space 干預實驗說明這些狀態對部分行為有因果作用，counterfactual reflection training 說明訓練可以通過內部狀態改變行為，安全審計也多了一層內部證據。
但如果看傳播，它又很容易顯得過度包裝。尤其是把 LLM 內部狀態和“意識可訪問性”放在一起講，會讓很多人覺得 Anthropic 在用哲學概念放大技術發現。即使 Anthropic 反復聲明這不證明 Claude 有主觀體驗，讀者也會懷疑：你既然不想讓大家往意識上想，為什么還要用這么多意識相關語言？
所以更穩的判斷是：這次研究的技術部分值得認真看，傳播口徑需要打折看。
J-space 不是 Claude 的靈魂，也不是完整思維過程。它是一小部分可語言化、可干預、對部分復雜任務有影響的內部狀態。這個東西對訓練診斷、安全評測、agent 風控有潛在價值，但還不能替代現有 eval、red teaming、外部 verifier、權限控制和人工審核。
真正值得繼續看的，不是“Claude 有沒有 global workspace”這個說法，而是幾個更具體的問題：J-space 能不能在不同模型上穩定復現；J-lens 讀數能不能降低安全評測誤判；內部狀態監控能不能以可接受成本進入生產；訓練能不能可靠塑造模型的 latent state。
只要這些問題繼續被驗證，它就會成為 LLM 工程里的一個重要方向。
至于意識敘事，網友不買賬也很正常。
參考鏈接：
https://www.anthropic.com/research/global-workspace
https://www.axios.com/2026/07/06/anthropic-claude-ai-conscious?__cf_chl_f_tk=mD0fQlyXnYIkWtnebV3QVIzKzqT8axkD3uJ1fOF9dp4-1783390893-1.0.1.1-zTjtGwvJ5cryiTLank6KX3btyn1C3uIfgJ8V2LpKdyw
https://www.reddit.com/r/Anthropic/comments/1upar64/anthropic_has_restarted_again_telling_people/
https://www.theverge.com/report/883769/anthropic-claude-conscious-alive-moral-patient-constitution
上車，帶你看遍全球 AI 頂會精華
可獨家暢覽：
專家演講PPT
大會報告全文
熱門論文解讀
學術新星訪談
掃描上方二維碼
或點擊「閱讀原文」關注專區。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
