美國參院協商AI安全規範 擬賦予聯邦政府攔阻權

美國參議院（美國國會的上議院，負責立法審議）兩黨議員正在協商一項框架，旨在對先進人工智慧（AI）模型開發商施加直接的安全義務。該提案規劃賦予聯邦政府權力，以阻止其認為不安全的 AI 模型發布，同時也限制各州對部分與 AI 模型相關的風險制定獨立的法律。

根據協商內容，這項草案將允許美國政府在確認 AI 模型不安全時，有權力介入阻擋其發布。不過，被阻擋的開發商將有機會向聯邦法院提出挑戰。此外，該提案也將防止各州政府就 AI 模型的某些風險制定自身的法規，以避免法規碎片化。

參議院助理們指出，這項立法考量到 AI 系統可能被惡意行為者用於協助設計生物或核武器等災難性情境。美國參議員泰德·克魯茲（Ted Cruz）表示，他正與參議員艾米·克羅布徹（Amy Klobuchar）和約翰·圖恩（John Thune）合作，共同制定法案以應對涉及生物或核威脅的災難性風險。

艾米·克羅布徹（Amy Klobuchar）則強調，她持續尋求兩黨共識，以監管 AI 模型帶來的最大風險。這包括要求開發商與政府專家合作，驗證並測試其系統，確保 AI 發展的安全性。然而，由於國會目前仍面臨諸多議題，該立法能否在今年 11 月 3 日期中選舉前通過，仍存在不確定性。