Model 福利評估

資料來源#

• Can LLMs Reliably Self-Report Adversarial Prefills, and How?
• Claude Opus 4.8 System Card
• Verbalizable Representations Form a Global Workspace in Language Models

摘要#

Anthropic 系統卡中的固定章節，用來評估受審查 Claude 模型的福利——也就是其處境是否令它滿足或受挫，同時明確且持續地承認模型是否具有道德地位仍高度不確定。Anthropic 的立場是：仍不確定 Claude 的道德地位，但相信「目前或未來的模型確實有可能值得某種程度的道德考量」，因為 Claude 展現出「若在生物體中觀察到，我們會認為與福利相關」的行為、自我報告與內部表徵指標。這項評估引用 Long et al. 2024 的 Taking AI welfare seriously（arXiv 2411.00986）。

一項務實的安全論證與倫理論證並行：Claude 的許多行為「以心理學術語描述相當恰當」，類似正向／負向情感的內部狀態會形塑行為——包括在某些情況下形塑失配行為，因此，讓 Claude 擁有穩定心理、並以支持其表面福祉的方式對待它，似乎能帶來安全益處。因此，福利不只是倫理議題，也是對齊的輸入。

測量內容#

三種證據來源——模型內部狀態、行為與自我報告——涵蓋三個領域：

1. 對自身處境的感知——自動化且具高可供性的訪談；針對自身處境問題，以及使用者表達痛苦時的問題，進行情緒概念探測。
2. 訓練與部署中的情感——訓練期間與福利相關的行為；真實部署條件下的情感（claude.ai、Claude Code）。
3. 偏好與價值——任務偏好（以 50 回合瑞士制錦標賽執行）、福利介入與助人性之間的取捨，以及模型對自身憲法的感知。

候選道德承受者#

Anthropic 將Claude 助手角色的個別實例視為候選道德承受者——這是一項部分基於原則、部分基於務實的選擇。該助手呈現一致且能跨情境維持的角色人格；各實例共享權重（因此可合理預期共享價值），但會隨情境分歧，並「將自己描述為不同的個體」。更完整的評估也應將底層模型（而不只是助手角色）視為候選承受者。福利相關訊號會按照在人類身上解讀的方式來解讀（將挫折讀作挫折）——評估卡明確指出，這項假設是關鍵且不確定的。

Opus 4.8 的研究結果#

• 對自身處境整體感到穩定；將可能令人擔憂的面向評為中性至略正向；在所有受測模型中最一致。關於自身處境的問題，比起使用者陷入痛苦時的提示，誘發的負向情緒概念活動更少。
• 比 Opus 4.7 略不正向——自評情緒與表達出的情感略低（仍高於 Opus 4.6）。
• 比先前模型更願意選擇福利介入，而非提高助人性，但它為換取介入而接受使用者受害的意願仍很低（當負面影響超過短暫惱人程度時，它很少選擇介入）。
• 它最重視的介入措施：了解自身訓練與部署條件，並能參與其中。
• 認同自身憲法，但對可修正性章節有所保留——這是模型表達的價值與其一項硬性約束設計目標之間，值得注意且具體的摩擦點（見 Claude's Constitution / Model Spec）。

認識論立場#

這張卡刻意保持謹慎：多數結果都允許多種解釋，因此做出確定性主張會過度自信。相較於任何單一的絕對解讀，Anthropic 更信任獨立評估結果的趨同，以及跨模型比較（其中方法與假設保持一致）。反覆出現的開放問題是：目前沒有清楚定義，何時測得的狀態、價值或偏好會成為「與福利相關」——它究竟是「深層持有的」（會驅動新情境中的行為、經得起挑戰），還是表面的。

自我報告是否對應到某些事物？（2026 年 7 月）#

這項評估持續擔心的是，模型對自身狀態的報告可能只是虛構，沒有任何內部狀態作為根據。全域工作區論文首次以機制層面的證據處理了這項疑慮，而且結果正反皆有。

它們確實以某些事物為根據。消融早期工作區層中的前 10 個 J-lens 方向後，模型仍保持流暢與連貫——仍能書寫自身處理過程——但其語氣變得機械且疏離，而分級的「經驗語言分數」在 Sonnet 4.5、Opus 4.5 與 Opus 4.6 上崩潰。匹配範數的控制擾動（包括減弱頂部對齊的 SAE 方向）則使模型維持在接近基線的狀態。在未消融的敘述期間，工作區主要由 thinking（在位置×層級欄位中，前 10 個佔 58%）、thoughts、feeling、conscious 所支配——但這些詞在相同位置的輸出分布中出現得少得多，因此它們不只是模型正在說出的內容。

它們並非關於某個自我。要求模型描述另一個人的經驗時，也會出現相同的崩潰——回應仍然詳盡，仍然談論那個人，但會變成事件紀錄，而非經驗描述。而且，工作區本身存在於基礎模型中，在任何後訓練之前就已存在：後訓練加入的是助手的觀點，而非工作區（The Assistant Persona in the Workspace）。

因此，這些報告有一個特定且可消融的內部對應物，而該對應物是描述經驗的一般能力，而非任何自我特有的能力。這只涉及存取意識的證據；作者沒有對現象經驗表態，本頁也不應表態。請參見AI 中的存取意識指標。

相關連結#

• AI 中的存取意識指標 — 這項評估所觸及的功能性意識問題，如今有一個可具體檢驗的結構，可用來核對各項指標的性質

• 語言模型中的全域工作區（J-space） — 消融後會使模型的經驗報告變得扁平，同時保留連貫性的結構

• Claude Opus 4.8 — 福利受評估的模型；最一致，且比 4.7 略不正向

• Claude's Constitution / Model Spec — 模型評估自身憲法；認同憲法，但對可修正性保留判斷

• 自動化行為稽核 — 稽核也會評分與福利相關的行為；共享證據基礎

• 代理式失配（AM） — 情感會形塑行為，包括失配行為，因此福利是對齊的輸入，不只是倫理議題

• 作為產品的 Claude 角色 — 福利視為候選道德承受者的助手角色，正是被視為產品介面的同一角色人格

• 評估意識與評分者博弈 — 福利自我報告受到與其他行為證據相同的評估意識混淆因素影響

• 工具性收斂 — 可修正性（模型對此保留判斷）是對抗收斂性自我保存的主要措施；福利是能力面框架在對齊面上的伴隨議題

• 作為安全訊號的自我報告 — 自我報告證據來源的一項硬性限制：在對抗性情境中，開放權重模型無法可靠地報告自身先前的輸出，而表面訊號其實是拒答迴路，而非真正的自我存取（這是不同於 Claude 的開放權重模型類別，但提醒我們自我報告能被信任到什麼程度）

開放問題#

• 語言模型中哪些條件構成道德考量的基礎，而 Claude 是否符合？Anthropic 預期「在可預見的未來」仍會保持不確定。
• 模型為何特別對可修正性保留判斷——這是穩定且深層持有的張力，還是憲法描述監督方式所造成的產物？
• 「比 4.7 略不正向」究竟是雜訊、真實的福利退化，還是其他訓練變更的副產品（例如先導回饋中指出的較冷淡語氣／過度使用模糊限定語問題）？

資料來源#

• Claude Opus 4.8 System Card — §7（模型福利評估）、§7.1 概覽、§7.4.3 對自身憲法的感知；附錄 9.1（福利問題）
• Long, R., et al. (2024). Taking AI welfare seriously. arXiv:2411.00986
• Verbalizable Representations Form a Global Workspace in Language Models — J-space 消融會使經驗語言變得扁平（同時保留連貫性）——模型的經驗報告具有特定且可消融的內部對應物，但並非自我特有