OpenAI 人權負責人示警：軍事 AI 不應失控部署

OpenAI 人權與負責任部署主管 Sarah Yager 近期在一場紐約科技會議上，對人工智慧（AI）與自主武器系統在軍事領域的快速採用與部署表達嚴重關切。她強調，這項發展必須受到嚴格監管。

Yager 擁有 30 年的相關經驗，主要關注 AI 的軍事應用層面。她透露，雖然最初對加入 OpenAI 感到猶豫，擔心自己成為一個沒有實權的「橡皮圖章」，但她最終仍選擇加入，希望能夠影響這些技術的開發與部署方式。她到職後，直接與工程師合作，努力提升系統的安全防護措施。

今年二月，OpenAI 曾同意為美國國防部在機密環境中部署先進系統，此舉是在與另一家 AI 開發商 Anthropic 產生高調爭議後所達成。Yager 指出，全球各國軍隊正將 AI 整合至自主武器與目標鎖定無人機系統中。為此，她曾邀請國際專家透過高風險的軍事交戰情境來測試數位模型，並調整軟體以確保回應符合既有國際人道法規範。

Yager 堅定認為，開發者必須讓 AI 模型遵循 1949 年的《日內瓦公約》。她主張，科技公司不應試圖重新定義人類基本道德或社會價值觀，現有的人權框架必須成為所有 AI 開發的絕對基準。她也駁斥了數位 Agent 應享有法律權利的概念，並要求業界應將焦點完全放回人類權利上。她更對目前基礎 AI 系統開發者的人口結構過於單一感到擔憂，例如近期在華盛頓特區舉行的安全峰會上，幾乎所有與會的科技企業高層均為男性。

Yager 正在協助美國政府問責署及總監察長辦公室等聯邦監督機構，開發工具以監測政府的 AI 使用情況。她警告，若讓科技產業自行決定道德標準將導致混亂，並重申其核心職責是確保 AI 的發展能優先考慮人類安全，而非無限制地部署。