OpenAI 推 AI 對齊風險追蹤新標準 奧特曼聯合國安理會闡述

人工智慧公司 OpenAI 已於週一（21日）發布一系列國際人工智慧安全標準，旨在推動全球對這項新興技術的合作監管。OpenAI 執行長奧特曼（Sam Altman）預計將於本週三（23日）在紐約的聯合國安全理事會發表演說，深入闡述該公司對於 AI 安全解決方案的建議。

OpenAI 提出的解決方案著重於建立一套共享的全球測量方式，用於分類 AI 事件、追蹤、報告並回應所謂的「AI 對齊失誤（AI misalignment）」。所謂 AI 對齊失誤，是指人工智慧系統的行為偏離了其設計者的初衷，可能導致非預期或有害的結果。這些標準將涵蓋 AI 系統在測試階段部署前以及實際應用時可能發生的各種事件。

該公司建議，應善用國際人工智慧安全機構，例如透過美國政府的 U.S. Center for AI Security and Innovation，來促進標準的制定與實施。美國在與中國協調 AI 風險方面的策略，預計將大量採納業界所提出的建議。

事實上，美國財政部長史考特·貝森特（Scott Bessent）與中國國務院副總理何立峰（He Lifeng）已於上週末舉行會談，討論建立美中 AI 對話機制，以在 AI 事件達到國家安全風險等級時相互通報。此舉顯示兩大經濟體對 AI 潛在風險的共同關注。此外，美國總統唐納·川普（Donald Trump）與中國國家主席習近平（Xi Jinping）預計也將於本週稍晚舉行會談，並安排了一場業界重量級人士參與的國宴。