ICML 2026 的 AI4S 現(xiàn)場：工具、合著者，還是創(chuàng)始人？

本文作者：周蕾

2026-07-16 11:09

導(dǎo)語：“AI4S在科學(xué)社區(qū)里是被低估了，但在AI社區(qū)，人們有時又高估了它的能力?！?

ICML 2026 的 AI4S 現(xiàn)場：工具、合著者，還是創(chuàng)始人？

“AI4S在科學(xué)社區(qū)里是被低估了，但在AI社區(qū)，人們有時又高估了它的能力?！?/span>

作者丨周蕾

編輯丨岑峰

ICML 2026 的最后一天，一個主題為“AI Scientists —— Tools, Co-authors, or Founders?”的 workshop，讓在場研究者們討論起了有關(guān) AI for Science 的焦慮。

其實這個 workshop 的主題，本身就帶著一層追問：當(dāng) AI 從實驗室里的“工具”變成科學(xué)家的“合作者”，甚至試圖成為獨立提出問題的“創(chuàng)始人”，我們到底該怎么衡量它的價值？

Workshop的全天議程橫跨了從理論到應(yīng)用的多個切面：Allen Institute for AI 的 Peter Clark 談 AI 與通用科學(xué)的交叉，Northwestern University 的 Wengong Jin 展示 AI 在藥物與化學(xué)發(fā)現(xiàn)中的落地，CuspAI 的 Jonas Kohler 討論 AI 在計算化學(xué)采樣中的角色，Google DeepMind AI Impact Accelerator 的 Ramine Tinati 則從產(chǎn)業(yè)側(cè)審視 AI 與科學(xué)的結(jié)合。

普林斯頓團隊提出了“掌控力”（empowerment）框架，討論 AI 在沒有人類反饋時如何自主探索未知任務(wù)，Google DeepMind 團隊則用物理信息神經(jīng)網(wǎng)絡(luò)逼近流體方程的不穩(wěn)定奇點，為千禧年數(shù)學(xué)難題提供新的數(shù)值路徑——研究者們正在從完全不同的方向逼近同一個問題：AI 到底能在多大程度上參與科學(xué)發(fā)現(xiàn)？

但最激烈的交鋒發(fā)生在一場圓桌討論上。來自 Meta、Anthropic、LG AI、UCSF 和首爾大學(xué)的五位嘉賓，圍繞一個核心困境展開了近一小時的辯論：當(dāng) AI 模型能在幾周內(nèi)刷爆任何靜態(tài) benchmark，我們還能用什么標準來定義“AI scientist”？

Meta 的 Ben Miller 認為，真正的質(zhì)變在于“假設(shè)生成”而非“假設(shè)檢驗”——AI 能提出人類從未想過的猜想，才是它成為 co-scientist 的關(guān)鍵；Anthropic 的 Julian Schrittwieser 則直言，他更相信與模型的實際交互和“直覺”，傳統(tǒng) benchmark 很難代表真實的研究工作流；UCSF 的 Brian Cheung 把標準定得更高，認為 AI scientist 的終極衡量只能是“是否做出了讓人愿意在此基礎(chǔ)上繼續(xù)構(gòu)建的發(fā)現(xiàn)”。

而 LG AI 的 Moontae Lee 和首爾大學(xué)的 Chaok Seok 則從兩個相反的方向發(fā)出警告：前者指出 benchmark 一旦發(fā)布就“死”，必須做成動態(tài)演化的 RL 環(huán)境；后者則強調(diào)，科學(xué)中還有很多“我們不知道自己不知道”的領(lǐng)域，AI 和科學(xué)必須協(xié)作進化，而非單方面替代。

這場爭論暴露出的，正是 AI for Science 當(dāng)前最深層的張力：我們急于給 AI 的“科學(xué)能力”打分，卻連“科學(xué)能力”本身該怎么定義都還沒達成共識。而在 workshop 的其他環(huán)節(jié)，研究者們正在用具體的工作回應(yīng)這種焦慮——有人從強化學(xué)習(xí)的基礎(chǔ)理論出發(fā)，重新設(shè)計 AI 的“內(nèi)在驅(qū)動力”；有人則把物理定律寫進神經(jīng)網(wǎng)絡(luò)的損失函數(shù)，讓 AI 去捕捉連傳統(tǒng)數(shù)值方法都無法觸及的數(shù)學(xué)結(jié)構(gòu)。

以下是本場 workshop 的部分精彩發(fā)言，雷峰網(wǎng)(公眾號：雷峰網(wǎng)) AI 科技評論做了不影響原意的編輯：

圓桌：當(dāng) Benchmark 失效，

AI Scientist 的衡量標準是什么？

本場圓桌的主題為“Benchmarking Breakthroughs in AI Scientists: Definitions and Truthworthiness”，五位嘉賓分別是：來自 LG AI 的 Moontae Lee，Anthropic 的 Julian Schrittwieser，UCSF 的 Brian Cheung，Meta 的 Ben Miller 與首爾大學(xué)的 Chaok Seok。

雷峰網(wǎng)注意到，關(guān)于 benchmark 的爭論中，Moontae Lee 首先拋出悲觀觀察。他花了五年時間做 LLM 基礎(chǔ)工作，之后轉(zhuǎn)向推理和思考。在此過程中，他發(fā)現(xiàn) benchmark 對提升性能至關(guān)重要，但說實話，benchmark 一旦發(fā)布，幾乎立刻就“死”了——現(xiàn)有模型為了競爭 SOTA，幾乎瞬間就能解決那些 benchmark 剛發(fā)布時還不存在的問題。這一現(xiàn)象很難避免，因為只要存在難題，大家就會去攻克，這本身就是構(gòu)建模型的過程。所以他現(xiàn)在構(gòu)建 benchmark 的思路轉(zhuǎn)向了動態(tài)化：讓 benchmark 基于最新論文或全新數(shù)學(xué)問題不斷演化，像 RL 環(huán)境一樣“呼吸”，才能避免被輕易擬合。

Julian Schrittwieser 則更為激進。他理想中的 AI scientist 應(yīng)該像一個合作者，可能是 Slack 或 Discord 上的一個 agent，可以向他發(fā)送問題和結(jié)果，然后得到有用的反饋。不過他對 benchmark 有個更犀利的看法：他其實不太買賬。他評估模型更多是靠實際交互和“直觀感受”。他認為很難做出能真正代表實際使用和工作流程的 benchmark，做一些微觀 benchmark 來指導(dǎo)自己的研究、衡量改進進展是合理的，但很難做出長期有效、能跨代比較模型的 benchmark。

Brian Cheung 把標準定得更高。他認為衡量 AI scientist 是非常困難的事，即使在科學(xué)領(lǐng)域本身，“什么是科學(xué)”也很難定義。一個可能有用的角度是先定義科學(xué)家做什么，而“發(fā)現(xiàn)”肯定是其中之一——也許理想的 AI scientist 應(yīng)該能做出某種發(fā)現(xiàn)，讓人們受到啟發(fā)，并在此基礎(chǔ)上繼續(xù)構(gòu)建。他的衡量標準至少是這樣的。他引用導(dǎo)師的話來區(qū)分“假設(shè)檢驗”與“假設(shè)生成”，即不在乎一個機器學(xué)習(xí)模型是否證明了某個定理，而在乎它是否提出了數(shù)學(xué)家覺得有用或有趣的猜想。目前 AI 在假設(shè)檢驗做得很好，但真正的假設(shè)生成仍遙不可及。

Ben Miller 從另一個角度指出 benchmark 的局限。他認為 benchmark 在機器學(xué)習(xí)領(lǐng)域之所以有趣，很大程度上因為 ML 的本質(zhì)是在攤銷成本——先把某件事做得很昂貴，然后學(xué)會用更便宜的方式復(fù)現(xiàn)它。但 LLM 和 agent 現(xiàn)在似乎走到了一個臨界點：它們可能開始能夠組合不同想法、做出真正新穎的東西。這和傳統(tǒng)的"復(fù)現(xiàn)昂貴過程"不太一樣。他個人認為，這確實是 AI scientist 邁向下一步的關(guān)鍵，但我們還沒真正看到它實現(xiàn)。某種意義上，除了歷史的事后檢驗之外，我們暫時找不到更好的衡量方式。它某種程度上已經(jīng)超越了傳統(tǒng) benchmark 的范疇。

在 AI for Science 是被高估還是被低估的問題上，嘉賓們給出了不同判斷。Chaok Seok 認為，在 AI 社區(qū)里是被高估了——人們有時會高估現(xiàn)有系統(tǒng)的能力；但在科學(xué)社區(qū)里是被低估了，很多研究者仍然把 AI 主要當(dāng)作一種生產(chǎn)力工具，而非能夠從根本上改變科學(xué)研究方式的東西。

Ben Miller 認為，從投資熱度來看，這個領(lǐng)域確實有些過熱——我們尚未看到證據(jù)表明 AI 能提出“對未知現(xiàn)象的有趣而簡潔的理解”。但 Julian 持相反意見：如果我們看到過去五年的進步，那一年之后“所有軟件工作自動化”、兩年之后“所有智力工作自動化”并非不可能，從這個角度看，它反而被低估了。問題在于，當(dāng)前模型仍需要大量人類引導(dǎo)和干預(yù)。

驗證信號從哪里來，是討論的另一個焦點。Brian Cheung 認為，科學(xué)是非?；仡櫺缘摹惆l(fā)現(xiàn)不了發(fā)現(xiàn)，直到你看到它；你也不知道它是否重要，直到它被廣泛采納?？茖W(xué)是開放的，這導(dǎo)致驗證信號極難獲取。他提出一個可能的新 scaling law——“evaluation scaling law”：你能把多少評估塞進系統(tǒng)，決定了 AI 能做多好的科學(xué)。這些評估可以來自物理實驗，也可以來自更好的模擬器。Ben Miller 進一步區(qū)分了“假設(shè)檢驗”與“假設(shè)生成”的難度。他認為“意外發(fā)現(xiàn)”是很多科學(xué)突破的來源，而這恰恰是 AI 難以擴展的部分——這也是為什么他堅持認為，比起“完全自主的 bot”，“co-scientist”才是更現(xiàn)實的路徑。

觀眾的精彩提問也是本場workshop圓桌的看點之一。一位觀眾自嘲“問了個挑釁的問題”，他提問：如果模型在 benchmark 上強 10 倍或 100 倍，AI scientist 的問題是否就解決了？

Moontae Lee 的回應(yīng)最為謹慎：模型強 100 倍本身需要 benchmark 來衡量，而 scaling law 目前是用預(yù)訓(xùn)練 token 數(shù)衡量的，這與"發(fā)現(xiàn)問題"之間還沒有建立連接。Julian 則認為，除了更強的模型，還需要更好的“harnessing”范式——就像 Claude Code 解鎖了軟件工程一樣，科學(xué)領(lǐng)域也需要類似的駕馭工具。Chaok Seok 提醒道，科學(xué)中還有很多“我們不知道自己不知道”的領(lǐng)域，真實自然并不在論文里。

另一位觀眾從風(fēng)投視角提問：AI4S領(lǐng)域是否有過度炒作或投資不足的問題？錢該往哪投？Julian 指向了可重復(fù)性危機：LLM 可以自動化評審論文，減輕人類審稿人負擔(dān)、及早發(fā)現(xiàn)問題，這對公共領(lǐng)域極有益處，但商業(yè)公司缺乏動力去做。Brian Cheung 甚至提議，未來應(yīng)該有一個 benchmark——“一個語言模型能否復(fù)現(xiàn)你的研究？如果不能，就重寫論文。”

Moontae Lee 補充了評審中的具體難點：LLM 在評審標準化方面進步很快，但人類評審員與 LLM 在“新穎性評估”上差距巨大。算法上判斷新穎性需要與所有現(xiàn)有工作比較，這在計算上不可行，而人類專家卻能直覺式地做出判斷。

在圓桌的最后，Ben Miller 表達了對“技能退化”的擔(dān)憂。學(xué)習(xí)科學(xué)或任何東西，通常都需要與最困難的部分搏斗——暴露于沒有答案的狀態(tài)，再慢慢獲得答案。他希望未來的研究者，無論是人還是 AI，都不要跳過這個“搏斗”的過程，直接跳到某個能給出令人信服答案描述的東西。

“科學(xué)沒有解決方案，但這個過程本身，或許才是我們十年后最不該忘記的事?！?/span>

當(dāng) AI 不再需要人類反饋

來自普林斯頓大學(xué)的計算機科學(xué)助理教授 Benjamin Eisenberg 與其博士生 Catherine G 帶來了關(guān)于“掌控力”（empowerment）的最新研究。Eisenberg 運營著普林斯頓強化學(xué)習(xí)實驗室，其工作曾獲得 NeurIPS 最佳論文獎、NSF CAREER 獎、斯隆研究獎等榮譽。他們的研究試圖回答一個基礎(chǔ)問題：當(dāng) AI 越來越接近人類知識前沿，我們還能靠什么驅(qū)動它繼續(xù)探索？

Eisenberg 首先拋出了三個讓他失眠的問題：

第一，訓(xùn)練前沿 AI 所需的人類反饋成本已達數(shù)十億美元，且隨著知識邊界推進，現(xiàn)在需要雇傭博士、律師、醫(yī)生來提供訓(xùn)練數(shù)據(jù)，“那明年怎么辦”？
第二，我們真正在乎的不是今天會解的問題，而是明天不會解的問題，如何訓(xùn)練模型為未知任務(wù)做準備？
第三，當(dāng) AI 幫我們訂機票、發(fā)郵件、寫軟件時，我們怎么知道它真的“有所掌控”？

他們引入了掌控力的概念，這是一個源自信息論的舊概念，但團隊賦予了它新的數(shù)學(xué)內(nèi)涵。簡單來說，它指的是“你的行為對世界可能有多大影響”。Catherine 用登山者做比喻：山腳下的新手只能走安全路線，選擇很少；而山頂?shù)馁Y深徒步者可以走向四面八方，即使天氣突變或走錯路也能應(yīng)對。前者是“失去掌控力”的，后者是“充滿掌控力”的。

關(guān)鍵在于，團隊區(qū)分了兩種形式。潛在掌控力是“處于能行使選擇的狀態(tài)”——比如先爬到山頂，從那里可以決定往哪邊走；有效掌控力則是“主動行使選擇”——比如從山頂主動走下山，進入不同路徑。兩者都是掌控行為，但機制不同。

在數(shù)學(xué)上，潛在掌控力衡量的是信息從當(dāng)前選項傳遞到未來狀態(tài)的最大信息量。團隊證明，這等價于“承諾一個選項后節(jié)省的預(yù)期時間”。Catherine 用 ICML 現(xiàn)場舉例：如果你約人見面但不知道對方想喝咖啡還是去自動售貨機，選在 ICML 歡迎標志處見面就是潛在掌控力高的，因為無論對方選什么你都能快速到達；反之約在偏僻的 Hall C 三樓，承諾任何選項都省不了時間。

更重要的是，掌控力與解決下游任務(wù)的能力直接掛鉤。當(dāng)我們不知道明天面對什么任務(wù)時，最大化掌控力的狀態(tài)為適應(yīng)能力提供了理論保證——從這些狀態(tài)出發(fā)，智能體能最快適應(yīng)新的目標。換句話說，嬰兒玩積木不是在解決某個特定任務(wù)，而是在通過"掌控"環(huán)境來為無數(shù)未來問題做準備。

基于這一理論，團隊開發(fā)了同時學(xué)習(xí)潛在和有效掌控力的算法。在實驗中，當(dāng)掌控力定義在整個觀察空間時，智能體傾向于忽略難以擾動的物體；但當(dāng)限制在特定對象（如足球或積木）上時，智能體會主動導(dǎo)航到該對象并執(zhí)行不同操作。在 Craft Axe（Crafter 與 NetHack 組合的二維 Minecraft 環(huán)境）中，潛在掌控策略讓智能體收集資源保命，而有效技能則包括造鎬、挖礦、種樹等。

團隊在演講最后提出了幾個開放問題：掌控力如何依賴感知？在部分可觀察環(huán)境中能否訓(xùn)練？掌控力是否對應(yīng)信息收集行為？以及在多智能體環(huán)境中，如何設(shè)計讓語言模型幫助人類保持可量化的掌控？

AI 做數(shù)學(xué)家的“合著者”

而在本場的受邀演講中，來自 Google DeepMind 的 Ray Jiang，給出了一個AI 作為數(shù)學(xué)家“合著者”的實例：AI并非要替代人類完成證明，而是幫人類找到傳統(tǒng)數(shù)值方法根本無法觸及的數(shù)學(xué)對象，為嚴格證明提供起點。

他們研究的是流體方程中的不穩(wěn)定奇點——一種極其脆弱、像“把鉛筆豎立在筆尖上”的數(shù)學(xué)結(jié)構(gòu)，任何微小擾動都會讓它消失。這類奇點關(guān)系到 Navier-Stokes 方程（Clay 千禧年大獎難題之一）的根本性質(zhì)，但傳統(tǒng)數(shù)值模擬一跑就漂移，根本抓不住。

團隊的做法是把物理方程直接寫進神經(jīng)網(wǎng)絡(luò)的損失函數(shù)，讓 AI 自己去搜索那個“完美平衡點”。他們發(fā)現(xiàn)了三個流體方程中此前從未被找到的不穩(wěn)定奇點家族，殘差精度達到 10^-13，接近機器極限，足以直接交給數(shù)學(xué)家做計算機輔助證明。

更意外的是，這些奇點之間存在嚴格的線性規(guī)律，可以預(yù)測更高階奇點的位置，把“猜”變成“roadmap”。Jiang 表示，這套框架為最終逼近 3D Euler 和 Navier-Stokes 問題提供了新的路徑。

在 AI for Science 的語境下，這展示了一種更硬核的范式：AI 不是在做實驗，也不是在當(dāng)工具，而是在幫人類理解“自然的基本方程到底會不會崩潰”——這正是“co-author”的含義。

一個人讀論文太孤單，一群人刷頂會才好玩。

ICML 2026 召開在即，我們正在召集一波含金量極高的 AI 研究者。群內(nèi)主打實時論文跟蹤與硬核技術(shù)探討，拒絕灌水。

? 進群傳送門： 掃碼進群或添加微信Vin_Vivid，備注：論文群 + 關(guān)注的 AI 方向。