美報告揭43州已納AI治理框架 兼顧創新與風險管理

根據一份由 UC Berkeley School of Information 上月發布的報告指出，隨著生成式人工智慧（AI）工具在美國各州政府機構中日益普及，已有高達43個州政府著手建立正式的AI治理框架，將其視為日常IT運作的核心部分，而非獨立的政策制定。這項發展旨在有效管理AI技術帶來的機遇與風險。

該報告為各級政府部署AI系統提供了實用指南，內容涵蓋最佳實務，包括成立治理委員會、訂定人類監督與資料隱私的明確規範。報告建議，應將AI治理直接整合至採購、資安及營運流程中，而非僅視為單獨的合規程序。同時，各機構必須建立清晰的問責機制，並在AI系統部署後持續進行監控。

報告強調，政府機構進行風險評估至關重要，以防範AI驅動的網路攻擊以及針對AI系統的攻擊。此外，還建議定期掃描AI設計與實施中可能導致危害或偏誤的錯誤。「這些風險始於管理任何資訊科技系統固有的挑戰（例如網路安全和系統可靠性），並擴展至AI獨特的影響，」報告指出，「若政府未能有效管理自身AI應用中的這些風險，對民眾生活的衝擊可能非常嚴重。」

在聯邦法規有限的情況下，許多州政府已啟動AI試點計畫並發展出符合報告建議的治理結構。例如，賓夕法尼亞州（Pennsylvania）在州長喬什·夏皮羅（Josh Shapiro）於2023年發布行政命令後，率先啟動了全州範圍的生成式AI試點計畫，該計畫明確禁止員工將敏感或個人身份識別資訊輸入AI系統。

加州（California）近期則推動「Engaged California」平台，旨在蒐集居民對於AI如何影響勞工、政府服務及整體經濟的意見回饋。科羅拉多州（Colorado）與北卡羅來納州（North Carolina）則著重於資安與資料治理，在AI應用大規模部署前，先行測試其潛在風險。

該指南警告：「AI的能力與風險情勢不斷演進。AI風險管理不僅要處理極端的濫用情境，也必須審慎應對AI系統在人類決策、福祉和信任方面可能形成的細微累積性影響。」美國各州政府積極應對AI挑戰的做法，對於全球各地，包括台灣在內，在研擬AI監管策略時，都提供了寶貴的參考經驗。