<mark id="oztn4"></mark>
0
| 本文作者： 吳思夢 | 2026-06-29 14:36 | 專題：ICML：國際機器學習會議 |
原文鏈接：https://mp.weixin.qq.com/s/GYp8zFf-C5pXqHMSDNT2Aw
雷峰網(公眾號：雷峰網)轉載
論文作者： Zhengqi Pei, Qingming Huang, Shuhui Wang
作者單位： 中國科學院計算技術研究所，中國科學院大學
ICML官方鏈接：
https://icml.cc/virtual/2026/poster/61557
論文鏈接：
https://openreview.net/pdf?id=ovpL0ujD6j
代碼與后續工作：
https://github.com/pzqpzq/LSF_MDia
成果應用：
https://github.com/pzqpzq/Principia
導讀
Chain-of-Thought 可以讓大模型把思考寫出來，這種操作在眾多復雜任務上被證實有效。但如果中間推理的主要接收或處理對象并不是人類，而是另一個LLM，那么基于自然語言的長推理鏈未必是最合適的中間表示。受此啟發，本論文提出的 CLSR (Communicative Language Symbolism Routing) 提出一個更底層的問題：LLM 是否一定要用自然語言來組織推理？
CLSR 認為，多個 LLM agent 在正確性與推理成本的選擇壓力下，可以自主地生成、演化得到各式各樣的機器語言符號體系，即 Language Symbolism Frameworks（LSFs）。CLSR 就是針對這些語言符號體系的管理機制。實驗顯示，在多類推理 benchmark 與多種開源 backbone 上，CLSR 通常可以把面向延遲的生成端 completion tokens 降低約 3–6 倍，同時基本維持 Raw CoT 的準確率水平，并在若干設置中獲得更好的 accuracy–token Pareto frontier。更重要的是，它給出了一個值得進一步研究的范式：推理效率的關鍵，不只是讓模型“少說話”，還要讓模型使用更高信息密度、更可復用、更可路由的中間語言。
CLSR 所說的語言，并非人類專屬的自然語言，也不是聲稱 LLM 獲得了人類式的語言能力。它指的是操作意義上的離散符號通信協議，簡寫為 LSF (Language Symbolism Framework)。CLSR 可以讓大模型多智能體系統在推理能力和能效的雙重壓力下，大批量產生各式各樣的 LSF 協議。具體來講，給定任務、模型族、token預算、目標準確率，CLSR 可以讓大模型多智能體系統生成、復用、自主演化若干套包含符號、語法、推理操作、有效性約束和經驗 profile 的中間表示（即 LSF）。這些 LSF 協議可以被 CLSR 靈活調用、比較、路由、組合、淘汰，也可以在后續任務上繼續使用。
因此，CLSR 要解決的是一個更具體、更可實驗化的問題：
在 black-box LLM 設定下，能否自動發現一類離散、可存檔、可復用的中間推理協議，使其比自然語言 CoT 更接近 accuracy–token frontier？
該問題的重要性體現在，當前的主流推理系統已經不再是單個模型一次性輸出答案，它們常常涉及到多個角色（solver、router、critic、verifier、tool user、aggregator）之間的交互與協作，這種協作過程涉及到的中間狀態往往非常繁冗復雜，既然這些消息的主要處理者是機器，那么自然語言的可讀性、修辭連貫性和解釋性冗余，就可能變成額外帶寬成本。
CLSR 則把“推理鏈”從一段文本重新定義為一種帶寬受限的狀態傳輸機制。
CoT 的成功來自一個非常樸素但強大的事實：對復雜問題顯式生成中間步驟，通常比直接給出答案更穩定。無論是數學推導、科學問答、邏輯選擇還是多跳檢索，外化中間狀態都能降低一次性解碼的難度。
但 CoT 同時帶來一個結構性成本：它默認中間狀態必須以自然語言 prose 的形式展開。
對于人類來看，自然語言是合理的溝通接口，但對于模型來說，卻不一定是最合理的交互接口。標準 CoT 中常見的大量內容，例如，“首先我們考慮……”、“因此可以看出……”、“為了驗證答案，我們再檢查……”，這雖然對人類讀者很友好，但對模型繼續推理所需的最小狀態而言，可能只是信息密度較低的形態。尤其在 autoregressive decoding 中，生成端 token 不僅影響成本，還會直接影響延遲和吞吐。
已有方法大致沿著以下幾條路線緩解這一問題。
第一類是 prompt optimization。它優化自然語言指令的表面形式，希望找到更好的提示詞。這類方法很有價值，但它優化的對象主要還是臨時的“指令字符串”，而不是一個持久可用的符號協議。
第二類是 short reasoning prompting，例如 Chain-of-Draft、Sketch-of-Thought、Compressed CoT 等。它們讓模型少寫或寫草稿式推理。問題是，短并不等于有效：如果壓縮刪掉了變量綁定、候選排除、證據鏈接或驗證狀態，準確率會隨之下降。
第三類是 program-aided reasoning，例如 PoT、PAL 等。它們把推理轉成程序，由外部解釋器執行。這條路線在可程序化任務上非常強，但它依賴人類預設的程序語言和外部 executor，也不直接回答“LLM 自身能否發現適合自己的中間符號系統”。
CLSR 的切入點與上述方法都不同。它并不把 CoT 當作一段需要壓縮的自然語言文本，而是把推理過程視為機器之間的通信問題：
如果 token 是帶寬，那么推理效率的本質就是：每個 token 能攜帶多少對答案有用的狀態。
這使得研究目標從“減少字數”轉向“提高單位 token 的有效信息密度”。
CLSR 論文中一個關鍵思想是把測試時推理形式化為一個 constrained stochastic control problem。
CLSR 主要是針對第二類操作。它的目標是讓模型發展出更緊湊、更結構化、更適合自身解碼習慣的符號協議。
這個視角也解釋了為什么“永遠更短”不是正確目標。題目越難，
越大；目標準確率越高，允許誤差越小，所需信息也越多。因此，高效推理系統必須能夠根據問題難度自適應分配 token：簡單題可以極短，難題則需要保留分解、驗證和糾錯空間。
CLSR 的基本單元是 Language Symbolism Framework，簡稱 LSF。論文中把一個 LSF 表示為：
這個定義使 LSF 與普通 prompt 區分開來。Prompt 通常是一次性自然語言指令，而 LSF 則更像一張協議卡。它可以被多次調用，可以在樣例分布上評估，可以由 router 選擇或組合，也可以在演化過程中被繼承、變異和淘汰。
更直觀地說，一個數學類 LSF 可能會傾向于保留變量綁定、子目標、變形操作、校驗標簽和最終答案字段；一個科學問答類 LSF 可能更強調證據等級、候選排除、概念約束和短驗證；一個多跳檢索類 LSF 則可能保留證據橋、null guard、support status 和 answer contract。
下面是一個概念示意，反映了 LSF 所追求的中間狀態形態：
[bind] x=..., y=...
[sub] need: eliminate distractor B/C
[op] evidence(A) > evidence(D); constraint: mechanism match
[chk] no contradiction with condition-2
[ans] A
這類表達并不追求文學性，也不追求對人類完全自解釋。它追求的是：在盡可能少的 token 中，保留足以讓模型繼續推理、驗證或輸出答案的結構化狀態。
CLSR 可以分為三個階段：LSF synthesis、LSF evolution、test-time routing。
給定 benchmark 的訓練樣例，CLSR 首先采樣一批 exemplars，將它們作為上下文提供給 LLM。模型被要求設計一種能在保持推理能力的同時減少 token 的 LSF。默認流程中不對符號表、語法或規則進行人工編輯；人類只給出高層目標，即“正確且 token-efficient”。
這一步主要是為了得到一個多樣化的初始語言池。較高采樣溫度會產生從 strict LSF 到 soft LSF 的一系列候選：前者更接近機器式壓縮協議，后者仍保留較多自然語言結構。
隨后，CLSR 使用一個迭代 bootstrapping 過程逐代改進 LSF pool：
這里的“agent”并不是訓練出的獨立神經模塊，它們其實是由 backbone、隨機種子、樣例子集和生成上下文定義的 black-box LLM proposal/critique/mutation worker。增加 agent 數量，本質上是在擴展符號協議搜索空間。
這一過程類似一個小型的機器語言體系演化過程：正確性是 communicative success，token 長度是 production cost，能反復被采用的符號與格式會被保留，不能穩定支持答案的壓縮方式會被淘汰。
這也解釋了為什么 CLSR 不等同于 prompt engineering。Prompt engineering 優化的是“如何提問模型”；CLSR 優化的是“模型之間應該用什么協議傳遞推理狀態”。
演化得到 LSF pool 后，CLSR 在測試時不固定使用某一個 LSF，而是由 LLM-router 根據問題和 LSF profile 實時生成協議計劃。
主要有三類推理模式：
因此，CLSR 的目標并不是把所有回答壓到最短，而是在預算約束下動態決定何時壓縮、何時冗余、何時驗證。對于簡單題，單個低成本 LSF 就足夠；對于 hard reasoning，router 可以主動花更多 token 去做分解、交叉檢查和多輪組合。
這正是 CLSR 與普通短推理提示的核心區別：它優化的是路由策略與協議池，而不是固定長度風格。
論文在七類 benchmark 上評估 CLSR：MMLU-Pro、GPQA-main、GSM8K、MATH500、AIME21–24、ScienceQA、HotpotQA。這些任務覆蓋知識密集型 QA、專家級科學問答、算術推理、競賽數學、多選科學問答和多跳問答。
backbone 包括 LLaMA3-8B、DeepSeek-R1-Distill-Qwen3-8B、Qwen3-8B、Qwen3-32B 等開源模型。對比方法包括 Raw CoT、CoD、CCoT、SoT，以及 PoT、PAL、Plan-to-Solve、PromptBreeder 等程序化或 prompt 優化基線。
評價指標主要是兩個：
Accuracy：最終答案準確率；
Completion tokens：測試時生成端 token，包括 CLSR 的 LSF 響應、router plan、中間響應和聚合等生成部分。論文附錄也探討了在online測試中的input token和output tokens的比例對真實latency和推理成本的影響。
CLSR 的核心 claim 的準確表述是：
CLSR 在多模型、多任務上更穩定地把系統推向更好的 accuracy–token frontier：在接近 Raw CoT 準確率的同時，顯著減少生成端 token；在相近 token 預算下，通常比簡單短推理提示保留更多有效狀態。
下表摘取論文主表中的若干代表性結果。每個單元格為 Acc / Tkn，Tkn 表示平均生成 completion tokens。
實驗結果表明：CLSR 的收益并不只來自小模型，也不只來自簡單任務。即使在強推理模型或長推理任務上，自然語言 CoT 中仍然存在大量對機器繼續推理并非必要的表述。
更關鍵的是，與短推理 baseline 相比，CLSR 并非只是“更短”。以 Qwen3-8B 為例：
這組對比很能說明 CLSR 的本質：它并不是在自然語言 CoT 上做“文風壓縮”，更主要是在尋找一種更合適的狀態編碼。短推理提示可能刪掉了關鍵中間狀態；LSF 則試圖用更緊湊的符號保留這些狀態。
論文中的 accuracy–token 曲線顯示，CLSR 在 MMLU-Pro、GPQA、GSM8K、MATH500 等任務上整體更接近 Pareto frontier。
實驗表明：當 token 預算增加時，CLSR 的額外 token 往往更能轉化為準確率收益。這與理論中的 
解釋一致：一個好的協議使得每個 token 更可能攜帶變量、約束、候選排除、證據綁定或驗證狀態，而不是攜帶重復敘述。
在不同任務上，成功 LSF 的結構也不同：
知識密集型 QA：壓縮重點是證據篩選、選項排除與短驗證；
數學推理：壓縮重點是變量綁定、等式變形、子目標與 check；
多跳問答：壓縮重點是 evidence bridge、support status、null guard；
格式敏感任務：壓縮重點是 output contract 與 parseability。
這說明 LSF 是一組 task-conditioned、model-conditioned 的推理協議。
CLSR 的一個重要 ablation 是多輪數 $T$。以 Qwen3-8B 為例：
若把 CLSR 理解成“讓模型盡可能短”，那么 $T=1$ 應該總是最優；但實驗恰好說明不是。對于 GSM8K、MATH500、GPQA，$T=3$ 使用更多 token，卻顯著提高準確率，同時仍然少于 Raw CoT。
因此，針對難題推理任務，CLSR 的原則不是“少說”，而是：
把 token 從自然語言敘述轉移到結構化驗證、分解和糾錯上。
這也是高強度推理任務中最有價值的啟示。很多失敗的壓縮方法把 verification 也刪掉了；CLSR 則通過 router 決定什么時候需要更嚴格的 LSF、什么時候需要多個 LSF 聚合、什么時候需要多輪組合。
程序化推理方法如 PoT 和 PAL 把推理轉成代碼，再用外部解釋器執行。CLSR 沒有依賴外部 executor，但它通過多輪 LSF 協議，在一定條件下可以近似一種“模型內部的程序化狀態更新”。論文也從理論上討論了這種關系：在 interpreter-realizability 前提下，多輪 LSF protocol 可以條件性地 subsume program-execution pipeline。
Qwen3-8B 上的比較如下：
這里需要謹慎解讀：PoT/PAL 的 token 統計只計算生成程序所用的 LLM decoding tokens，不等同于整個系統的所有執行成本；而 CLSR 的優勢也不意味著外部 executor 不再重要。嚴格數值計算、長程序執行、形式驗證等任務，外部解釋器仍有獨特價值。
CLSR 的更準確定位是：當任務所需的符號操作仍在模型內部可實現范圍內時，LSF 可以提供一種 black-box、離散、可存檔、可路由的中間協議；它不替代所有程序執行，而是擴展了“自然語言 CoT”和“外部程序執行”之間的表示空間。
定性樣例展示了 CLSR 改變的內容。標準 CoT 往往像一段面向讀者的解釋文；CLSR trace 更像一個壓縮工作區，保留變量、操作、候選、檢查與最終答案。
這類 trace 并非完全不可讀。很多有效 LSF 仍然借用了人類數學符號、短標簽、箭頭、括號、變量名和驗證標記。原因顯然：LLM 預訓練于人類文本與代碼/數學語料，完全任意的亂碼未必穩定；真正有效的機器方言往往是在“人類可讀符號”和“機器壓縮協議”之間形成新的折中。
這也構成一個值得注意的可解釋性問題。LSF 比普通 CoT 更短、更結構化，但不一定更容易被非專業讀者理解。因此，在實際系統中更合理的設計可能是雙層 trace：內部用 LSF 高效推理，外部在需要時生成自然語言解釋，并保留 LSF card、route plan、raw trace、parsed answer 和 verifier log 以便審計。
CoT 的長有兩部分來源：一部分是解決問題確實需要的中間狀態，另一部分是自然語言解釋的表達成本。CLSR 的實驗表明，在許多任務中，后者占比并不小。把這部分冗余換成符號化狀態，可以在不顯著損害準確率的前提下減少生成端 token。
“請簡潔作答”只能改變表面文本風格；LSF 演化改變的是中間表示。真正有效的壓縮必須回答：哪些變量必須保留？哪些候選必須排除？哪些證據需要綁定？哪些檢查標簽不可刪除？這些不是單純長度約束能解決的問題。
簡單題適合 strict、low-cost LSF；難題需要多輪組合和驗證；科學 QA 與數學推導需要不同的狀態結構；強模型和弱模型對同一種符號協議的適應性也不同。因此，CLSR 的關鍵不只是 LSF，還包括 LSF pool 與 query-adaptive routing。
小模型常常被迫生成大量自然語言敘述，導致寶貴 token 預算花在低密度表達上。若把預算更多用于結構化狀態、驗證和組合，小模型在特定任務上的 accuracy–token frontier 可以明顯改善。這并不是說這些 LSF 協議能替代模型能力，而是說明系統設計能顯著改變能力的可用形態。
一個短 trace 只對一個樣例有效，它只是壓縮答案；一個 LSF 能跨樣例復用、能被 profile 評估、能被 router 選擇、能與其他 LSF 組合，它才成為一個操作意義上的機器語言。
更緊湊的協議也會帶來風險：過度壓縮可能刪除關鍵驗證；符號 trace 可能降低人工可讀性；不同模型之間的協議遷移可能出現負遷移；模型版本更新可能改變 LSF 的有效性。因此，CLSR 更適合作為一個可審計的協議層，而不是把所有內部思考隱藏在不可解釋的短碼中。
CLSR 的續作是 Machine Dialectology（MDia）。如果說 CLSR 主要研究同類 LLM agent 如何生成、演化和路由 LSF，那么 MDia 進一步把問題擴展到異構 LLM 社會：不同模型可以是 speaker、listener、router、critic、tool user；一個 dialect 的價值不再只取決于它對生成者是否有效，還取決于它能否被其他 listener 理解、采用、傳播和改造。
MDia 的分析單位是一個 speaker–listener–dialect–task event。每條 event 記錄 query、benchmark、speaker、listener、dialect card、route decision、response、parsed answer、gold answer、correctness、completion tokens、router tokens、latency、seed 和 provenance。這樣，“機器方言”不再只是一個 prompt 或 trace，而成為可以統計、比較、路由和歸檔的社會語言學對象。
MDia 的核心結論是 receiver-relative utility：一個 dialect 不是絕對強或弱，而是對某個 listener、某類任務、某個預算條件強或弱。這一結論對多模型系統尤其重要，因為實際部署中我們常常關心的并不是“哪個模型最強”，而是：
哪個 speaker 產生的 dialect，最適合當前 listener 在當前任務和預算下使用？
MDia 的階段性結果顯示，在八個 benchmark columns 上，MDia 相比最強 token-reduction baseline 宏平均準確率提升約 3.6%，相比 Raw CoT 提升約 3.1%，同時平均減少約 71% 的生成 completion tokens。更重要的是，MDia 并不把所有 dialect 無條件 ensemble，而是通過 profile-aware routing 識別 publicness、openness、resistance、teaching advantage 和 foreign-dialect risk。
一個特別有啟發性的實驗是 listener replacement：固定 dialect archive，替換 listener，比較 self-dialect routing、name-based routing、profile-calibrated routing 等策略。MDia 稿件中 profile-calibrated routing 的加權準確率從 self-dialect routing 的 69.6% 提升到 83.6%，平均生成 tokens 從 879 降到 449。這說明強 dialect 并不一定是“自言自語”最強，而可能是“對別人最有教學性”。
MDia 的 rule bank 進一步抽象出一組 machine-sociolinguistic regularities，例如：
listener openness asymmetry：不同 listener 對外來 dialect 的開放程度不同；
public dialect asymmetry：某些 speaker 產生的 dialect 更容易被其他模型采用；
weak-speaker teaching：較弱 speaker 有時能產生更穩定、更公共的教學方言；
foreign-dialect risk：外來 dialect 可能因過度壓縮或格式不匹配而損害強 listener；
route simplicity：當 archive 候選高方差時，簡單 profile-aware routing 可能優于過度組合。
這使得 MDia 從“token compression”走向了“machine sociolinguistics”：研究機器之間如何發明、教學、借用、抵抗、遷移和路由符號協議。
CLSR/MDia 的一個重要應用方向是科研創意發現系統 Principia。Principia 的設計哲學不是直接讓模型生成一個看似新穎的 proposal，而是把研究創意拆成可追蹤、可驗證、可復用的結構化對象。
一個簡化流程如下：
research goal
→ relevant works
→ existed ideas
→ reusable principles
→ takeaway messages
→ evidence composition
→ symbolic derivation
→ Idea Card
→ comparison, validation, and export`
傳統 brainstorming 工具往往產生流暢文本，但很難回答：這個 idea 來自哪些文獻？依賴哪些原則？假設是什么？與已有工作差異在哪里？風險在哪里？如何驗證？Principia 試圖把這些環節顯式化，使 idea discovery 從一次性生成變成一個帶有 lineage、evidence、assumption、risk 和 validation path 的工作流。
CLSR/MDia 在這里可以作為推理協議層。具體來說，它們可能在三個層面幫助 principle-first discovery：
第一，減少冗余自然語言推理。 許多科研探索流程需要反復比較文獻、抽取機制、組合原則、生成假設。如果每一步都展開成長自然語言，token 預算很快被解釋性文本占滿。LSF/MDia 可以把部分中間狀態壓縮成 symbolic handles、derivation patches 和 verifier checks。
第二，提高中間對象的可復用性。 科研 idea 的關鍵往往不是一次性的答案，更重要的其實是可復用的 principles、operators、failure modes 和 validation templates。機器方言可以把這些對象組織成可路由、可組合的協議，而不只是散落在上下文中的自然語言片段。
第三，使小型開源模型在受控工作流中更有效。 更好的 token 利用率并不會讓小模型普遍等價于大型閉源模型，但在結構清晰、協議明確、證據可追蹤的科研輔助環節中，它可能顯著提高小模型的有效工作半徑。也就是說，能力提升不僅來自模型規模，也來自推理過程的組織方式。
從這個角度看，Principia 可以被理解為 CLSR/MDia 思想的一個應用場景：讓 LLM 不僅可以回答問題，還可以發展可復用的符號語言，用于組織原則、壓縮推理、追蹤證據、路由驗證，并最終形成更可檢驗的研究假設。
為了避免過度解讀，有必要明確 CLSR/MDia 當前的邊界。
第一，LSF 不是完全脫離人類先驗的新語言。 LLM 預訓練已經吸收了自然語言、數學符號、代碼格式和領域縮寫。CLSR 的貢獻不是證明模型從零發明了語言，而是證明在給定模型先驗下，可以通過正確性與 token 成本選擇出更適合機器推理的操作協議。
第二，緊湊 trace 不等于可靠解釋。 LSF trace 可能更結構化，但不一定能直接解釋模型內部因果機制。高風險場景中不能把短 trace 當作充分解釋，仍需保留自然語言解釋、路由記錄、驗證日志和可回放的協議卡。
第三，跨模型遷移并非總是正向。 MDia 的 foreign-dialect risk 說明，外來 dialect 可能壓制強 listener 原本豐富的推理過程，或引入不適合任務的格式約束。因此，機器方言需要 profile-aware routing，而不是無條件共享。
第四，程序執行與形式系統仍然不可替代。 對需要精確計算、長程符號執行或形式證明的任務，外部工具與 formal verifier 仍有不可替代的優勢。CLSR 更像是拓寬了中間表示空間，而不是終結程序化推理。
第五，模型版本變化會影響 dialect 穩定性。 如果 LLM 的 tokenizer、指令跟隨方式或解碼偏好發生變化，舊 LSF 的有效性可能下降。未來需要研究 dialect 的版本化、回歸測試、漂移檢測與安全審計。
這些邊界并不削弱 CLSR 的意義。相反，它們讓研究問題更清楚：我們真正需要的是一套可測量、可審計、可演化的機器通信協議，而不是把壓縮 trace 神秘化。
CLSR 的重要性不在于提出了一個更短的 prompt，而在于重新定義了 LLM 推理系統中的中間表示。
過去，我們經常把 CoT 看作模型推理能力的外顯形式：寫得越詳細，似乎就越會推理。CLSR 說明，這個判斷至少是不完整的。自然語言 CoT 的確有助于人類理解和模型分步推理，但它并不是機器推理的唯一可行介質，也未必是 token-efficient 的介質。
CLSR 把問題從：
如何讓模型生成更短的 CoT？
推進到：
如何讓模型發展出更高信息密度、可復用、可路由、可傳播的推理語言？
它給出的答案是：讓 LLM agent 自主生成 LSF，通過正確性與 token 成本進行演化選擇，再在測試時根據問題路由、集成或組合這些 LSF。MDia 進一步把這一思想擴展到異構 LLM 社會，研究不同模型之間的 dialect transfer、publicness、openness、resistance 和 route policy。Principia 則嘗試把這一路線放入科研創意發現系統中，讓 symbolic protocols 成為原則抽取、證據組合和 idea derivation 的基礎設施。
如果說 CoT 時代讓我們看到“模型可以把思考寫出來”，那么 CLSR/MDia 試圖說明下一步可能是：
高效推理系統不一定要求模型始終用人類自然語言思考；它們可以發展面向機器的符號方言，并在需要時把這些方言翻譯給人類。
這表明，我們可以把 token efficiency 從工程優化提升為表示學習與機器通信問題，也讓我們重新思考：當模型越來越多地與模型協作時，真正重要的是它們能否用最合適的語言傳遞最關鍵的狀態，而非它們是否足夠擬人。
請上專知網站 www.zhuanzhiai.com，點擊“閱讀原文”
專題
