<mark id="oztn4"></mark>
0
| 本文作者： AI科技評論 | 2024-09-18 10:44 |
AI安全國際對話發起人，從左到右依次是Stuart Russell，姚期智，Yoshua Bengio，張亞勤
雷峰網消息，九月五日至八日，全球頂尖的人工智能（AI）科學家匯聚威尼斯，共同呼吁各國政府和研究人員聯手應對AI可能帶來的災難性風險。圖靈獎得主Yoshua Bengio、姚期智教授，清華大學講席教授張亞勤、加州大學伯克利分校教授Stuart Russell等多位計算機科學領域的領軍人物，一道出席了由AI安全國際論壇（Safe AI Forum）和博古睿研究院共同舉辦的第三屆國際AI安全對話（International Dialogues on AI Safety）。
圖靈獎得主Yoshua Bengio
圖靈獎得主姚期智
在為期三天的會議中，與會科學家們共同達成了一份具有重要意義的共識聲明，其核心觀點強調了AI安全作為“全球公共產品”的重要性，建議各國應將AI安全納入學術與技術合作的核心領域。
共識指出，人工智能系統的濫用或失控可能給全人類帶來災難性后果。然而，我們尚未開發出必要的科學手段來管控和保障對高級智能的使用。由于人工智能帶來的風險具有全球性，我們必須將人工智能安全視為全球公共產品，并為實現這些風險的全球治理而努力。我們必須未雨綢繆，齊心防范任何隨時可能出現的災難性風險。國際社會的初步積極舉措表明，即使在緊張的地緣政治局勢下，在人工智能安全和治理方面開展合作也是可以實現的。然而，各國需要在現有的努力上邁出更大步伐。
清華大學講席教授張亞勤
北京智源人工智能研究院創始主席張宏江，與即任約翰·霍普金斯大學教授Gillian Hadfield
共識認為，作為第一步，各國應設立有能力在其境內監測和應對人工智能事故與災難性風險的部門。各國監管部門應協同合作，制定應對重大人工智能事故與災難性風險的全球應急計劃。長遠來看，各國應建立國際監管機制，以防止出現可能帶來全球災難性風險的模型。
為了應對可能到來的由高級人工智能系統引發的災難性風險，科學家呼吁，國際社會應考慮啟動以下三項工作程序：
應急準備協議與制度
通過這一機制，各國的安全監管部門可召集會議，合作制定并承諾實施模型注冊和披露制度、事故報告機制、預警觸發點及應急預案。
安全保障體系
當模型的能力超過特定閾值時，要求開發者為模型的安全性提供高度可信的論證。對于高性能的人工智能系統，隨著它們的廣泛應用，部署后的監控也將成為保障體系的關鍵組成部分。這些安全保障措施應接受獨立審計。
全球人工智能安全和驗證的獨立研究
應通過技術開發，使各國能夠確認開發者以及其他國家提出的與人工智能安全相關的聲明是真實有效的。為了確保研究的獨立性，這項研究應在全球范圍內進行，并由多個國家的政府和慈善機構共同資助。
清華大學國際安全與戰略中心主任傅瑩，清華大學人工智能國際治理研究院院長薛瀾, 中國科學院自動化研究所類腦智能研究中心副主任曾毅遠程參與了討論。
在會議的第二天，科學家們與政策制定者、前國家元首及其他領域的專家進行了深入討論，參會者包括前愛爾蘭總統Mary Robinson，卡內基國際和平基金會主席Mariano-Florentino (Tino) Cuéllar，歐盟人工智能標準CEN-CENELEC JTC 21主席Sebastian Hallensleben。面對人工智能技術的快速發展，專家們一致認為，盡快實施這些提案至關重要。此次聲明將呈交給多國政策制定者，并在會議中探討了國際社會應如何協同合作，實現這一目標的戰略路徑。
歐盟人工智能標準CEN-CENELEC JTC 21主席Sebastian Hallensleben
此次會議為全球AI安全領域注入了新的動力，也為未來AI治理架構的完善指明了方向。
-- 相關信息 --
AI安全國際對話
AI安全國際對話旨在匯集全球科學家共同合作，減輕人工智能帶來的風險。此次對話由博古睿研究院和AI安全國際論壇聯合舉辦。
AI安全國際論壇
AI安全國際論壇是一個專注于推動全球行動與合作以減少極端人工智能風險的501(c)3非營利組織，成立于2023年10月。除了促成國際人工智能安全對話外，我們還進行獨立研究，并為其他專注于國際人工智能安全合作的項目提供咨詢服務。
博古睿研究院
博古睿研究院致力于通過促進批判性分析和全球合作，為21世紀的政治、經濟和社會制度提供指導。研究院匯集了來自不同文化的頂尖思想家，共同探討當代的根本性問題，目標是對全球社會產生持久影響。
雷峰網(公眾號：雷峰網)
