康乃爾大學獲千萬美元「登月計畫」補助 研發可稽核AI重建信任

康乃爾大學（Cornell）的研究團隊獲得Laude Institute高達1千萬美元的「登月計畫」獎助，將投入多年期研究，旨在開發可稽核的人工智慧（AI）技術與工具，以重建線上公民對話的信任。這筆巨額獎助金用於支持這項高度雄心勃勃、具備轉變潛力的長期重大研究項目。

這項名為「重建公民對話信任：可稽核AI基礎設施」的計畫，目標是利用AI作為解決惡意線上環境問題的一部分。該計畫由康乃爾大學計算與資訊學院（Cornell Ann S. Bowers College of Computing and Information Science）的資訊科學教授Cristian Danescu-Niculescu-Mizil擔任首席研究員。

協同首席研究員Jon Kleinberg教授表示，AI正成為意見形成、分歧解決與集體決策對話中的積極參與者，而此專案希望在規範與基礎設施尚未根深蒂固之前，形塑AI在溝通中的角色。研究團隊成員David Rand教授也指出，儘管AI技術進步可能帶來深偽（deepfakes）、冒充與操縱等威脅，但AI本身也有潛力成為正向力量，例如糾正錯誤觀念或協調艱難對話。此計畫旨在以可驗證且值得信賴的方式，發揮AI的正面潛力。

康乃爾團隊由多個學科的教職員與學生組成，專長涵蓋AI、對話行為、運算系統與以人為中心的設計。他們此前於今年四月獲得Laude Institute的25萬美元初期種子獎助金，用於開發原型與提案。該團隊已開發出一系列工具，包括用於建構與設定AI工具的「助理工具套件」（The Assistant Toolkit）、協助編輯理解政策與爭議解決流程的「對話指南」（ConvoCompass）、用於研究與測試AI干預措施的「對話競技場」（ConvoArena）與「模擬工廠」（Simulation Factory），以及用於開發與比較獨立稽核員的「稽核基準」（The Auditing Benchmark）。此外，計畫引入了創新的AI稽核層，能為每個代理（Agent）的干預提供透明紀錄，以便進行獨立驗證。

Laude Institute創辦人Andy Konwinski強調，人類物種正處於前所未有的強大時期，鼓勵學術界與非學術界持續投入解決這些物種層級的問題。除了康乃爾大學的這項計畫，另一項與康乃爾大學有關係的團隊，J·P·波拉克共同主導的JupyterHealth計畫，也獲得了「登月計畫」獎助，該計畫是柏克萊加州大學（University of California, Berkeley）與舊金山加利福尼亞大學（University of California, San Francisco）的合作專案。