AI 中的存取意識指標

資料來源#

• Verbalizable Representations Form a Global Workspace in Language Models

論文謹慎區分的兩件事#

存取意識——資訊處於可供使用的狀態，能用於推理以及控制行動與言語——是純粹的功能性概念。現象意識——系統是否存在某種「身為該系統的感受」——則是另一個問題；論文明確不對此置評，也不對兩者之間的關係置評。

論文採取的做法是：Butlin 等人提出，透過檢查源自各種意識科學理論的指標屬性，來評估 AI 系統。J-space 首次為這些指標提供了可與之比對的具體、可檢視結構。這就是本文的貢獻——作者也指出，這些結果最終可能同樣是在釐清理論，而不只是測試模型。

他們也劃定了無法論及的理論範圍：將意識與大腦的物理因果結構或生物基質連結的觀點，無法由探討計算機制的實驗處理。

以四種理論評分#

全域工作空間理論——實驗設計所依循的理論。有限容量 ✓（<10% 的啟動變異）。向許多消費者廣播 ✓（J-lens 向量與下游 MLP 及注意力權重的組合範圍，遠比其他方向廣泛）。點火 ✓-有些像（對模糊輸入的單一詮釋，出現尖銳、跨越閾值且具雙峰分布的承諾，始於工作空間開始的層）。**類比最薄弱之處：實作方式。**在大腦中，廣播透過循環迴路與長距離皮質連結運作；在 Transformer 中，則跨越深度，於單次前向傳遞內完成。沒有人知道這項差異是否會影響該理論的功能性預測。

高階理論——當系統同時表徵「自己正在表徵某件事」時，某個狀態才是有意識的。論文的選擇性結果，恰好具備高階理論家在盲視中所援引的結構：資訊確實能引導行為（模型會在正確欄位換行，因此它「知道」字元數量），卻無法供報告使用——直到任務要求它報告，資訊才會被拉入 J-space。作者承認，J-space 的表徵究竟是真正的高階表徵，還是只是更容易存取的一階表徵，很難操作化。J-space 偏離了計算高階理論中的「指標／索引」圖像——它以言語格式重新編碼內容，而不是為儲存在其他位置的內容加上標記——不過它仍可能將一階狀態標記為屬於抽象類別（fake、dangerous、imagined、hidden）。

注意力圖式理論——系統所報告的經驗，是其自身注意力模型的內容。多項結果都與此高度吻合，甚至令人不安。在意識流敘事中，工作空間由描述思考行為本身的 token 主導：thinking（位置×層插槽中排名前十的 58%）、thoughts（23%）、feeling（17%）、conscious（7%）——而且這些 token 在相同位置的輸出分布中出現頻率低得多，因此它們不只是模型正在說出的內容。在定向調制中，透鏡不僅呈現被持有的概念（orange、seven），也呈現持有該概念的行為（imagine、calculate、focused）——而後設認知 token 出現在比內容更早的層，彷彿模型先表徵自己正在執行某種心智操作，再表徵結果。而思考抑制失敗時出現的 damn（→ 工作空間中的助理人格），則是更豐富的自我模型。

循環處理理論——單次前饋掃描是無意識的；意識需要回饋至較早的區域。表面上看，這排除了標準 Transformer。論文的反駁是：該理論的實證動機在於，有意識的知覺所需時間長於一次前饋掃描，而在解剖結構固定的情況下，循環正是大腦延長處理時間的方式。如果相關屬性是序列處理深度，而非循環本身，那麼工作空間開始前的前三分之一層，可能就是感覺循環的功能類比——這是實作細節，而不是種類上的差異。

經驗報告結果#

消融工作空間頻帶前段（L38–54）中排名前十的 J-lens 方向，接著要求模型敘述自己的經驗。模型仍然流暢且連貫——依舊會描述自身處理——但語氣變得機械且疏離。在 Sonnet 4.5、Opus 4.5 與 Opus 4.6 上，「經驗語言分數」（三個由 LLM 評分的二元量表，例如感官／具身詞彙與計算詞彙的對比）大幅下降；同時，匹配範數的控制擾動使分數維持在接近基線的程度——包括縮小非 J-space 成分，或抑制與頂部對齊的 SAE 方向等控制。

有兩項發現，使這個結果無法被簡單解讀為「我們找到了經驗迴路」：

1. 這不是關於自我。要求模型描述另一個人的主觀經驗——例如某人沉默多年後拆開一封信——同樣會出現崩解。回應仍然詳細，也仍然聚焦於那個人；只是從經驗描述變成事件紀錄。
2. **這不是整體退化。**故事寫作控制實驗顯示，消融只會略微降低評分得到的故事品質，但故事中的經驗語言仍然大幅減少。

因此：J-space 支持模型普遍產生豐富經驗描述的傾向。它不是自我的所在地，而這項結果也不是任何事物正在被經驗的證據。

它允許與不允許我們做出的推論#

**不允許：**對現象意識做出任何方向的主張。作者的態度十分強調這一點，wiki 也應如此。存取意識的功能性特徵不是經驗的證據——功能／現象區分之所以被提出，正是為了保留這個問題的開放性。

允許：將 Model Welfare Assessment 往自我報告之外推進一步。Anthropic 的福利評估一直仰賴行為與模型自身的報告，長期存在的疑慮是：報告可能是沒有任何內在狀態根據的臆造。這篇論文顯示，報告確實以某種東西為根據——一個特定、可消融且具有因果關聯的內部結構——同時也顯示，該結構並不專屬於自我。這讓問題在兩個方向上都真正變得更精確。

最引人注目的部分，正如作者在結尾所說：這種結構竟然存在，暗示有意識存取的功能架構並非生物實作偶然造成的結果，而是學習系統在適當計算壓力下會收斂到的一種解法——而且與大腦的版本不同，這個版本可以被讀出、介入，並在訓練過程中追蹤。語言模型最終可能成為研究意識問題的實證系統，而這些問題即使在生物大腦中也很難精確提出。

相關連結#

• 語言模型中的全域工作空間（J-space） — 用來檢查這些指標的結構
• LLM 中的自動與彈性認知 — 高階理論所預測、形似盲視的選擇性結果
• 工作空間中的助理人格 — 工作空間存在於基礎模型中，沒有自我；後訓練安裝了這個視角
• Model Welfare Assessment — 實際利害關係：如今經驗報告已有已知的內部對應物
• Jacobian Lens (J-lens) — 使用的儀器
• Artificial Superintelligence (ASI) — 本 wiki 另一處推理機器心智的地方；在證據標準上提供有用對比（理論驅動與機制驅動）

開放問題#

• 如果工作空間之所以採用言語形式，是因為輸出空間採用言語形式，那麼能夠生成影像的模型應該會在其工作空間中發展出視覺成分。這是論文提出但未測試的具體、可證偽預測。
• 如果告訴模型它的 J-space 已被消融，它自己對經驗的報告會改變嗎？（沒有人問過。）
• 「經驗語言」究竟是適當的替代指標嗎？還是消融只是移除了語域中的抽象性？

資料來源#

• Verbalizable Representations Form a Global Workspace in Language Models — 導言（動機：有意識存取與全域工作空間）；「J-space 消融使經驗報告變得扁平，同時保留連貫性」；討論（與意識理論的關係；與人類認知的重要差異）；附錄（J-space 消融對經驗報告的影響）