AI治理從合規走向技術應用 重塑IT職涯發展新面向

隨著企業廣泛部署人工智慧（AI）系統與自動化應用，AI治理（AI Governance）已不再僅限於法律或合規層面，而是逐漸演變為一項更具技術性的專業領域。這為IT專業人士開闢了新的職涯發展路徑，讓他們能夠在組織政策與AI實際運作之間，扮演關鍵的橋樑角色。

根據《Dice Insights》報導，AI治理專業人員的職責範圍涵蓋識別AI系統、界定其資料與工具的存取權限、衡量系統行為，並提供風險控管的證據。他們同時也需建立程序，以應對偏頗結果、資料外洩或未經授權操作等問題。Tempo Software 的技術長 Shams Chauthani 指出，AI治理團隊正吸納來自資安、風險管理、合規、平台工程、資料科學及機器學習評估等不同領域的專業人才。

新漢電腦股份有限公司（NEXCOM）的資安專家 KC Chen 表示，資安架構師、風險工程師以及IT/OT資安專業人士，因其評估複雜系統漏洞與非預期行為的經驗，特別適合擔任此職務。例如，在工業環境中，AI治理便需要理解操作技術，包括模型如何與感測器和設備互動，以及對生產可能造成的影響。治理專業人士必須深入理解AI系統本身及其運作環境，特別是當決策失誤可能影響設備或人員時。

這項工作結合了政策詮釋、系統架構、監控以及重複的技術評估，超越了傳統合規的範疇。企業正尋找能將公平性、安全性及問責制等廣泛原則，轉化為工程師可實作與測試之具體要求的專業人才。AI治理團隊需要建立一份詳盡的AI模型與代理程式清單，載明其擁有者、商業目的、開發來源、資料消耗、工具存取、影響決策與採取行動的細節。

Chauthani 強調，將政策聲明轉化為可實際測試與執行，是這項工作的難點。AI治理不同於傳統資安對未經授權存取或資料移動的關注，更側重於評估已授權系統在合法存取下，可能產生不可靠、帶有偏見或不安全的決策。由於AI系統的行為會因模型、輸入資料或操作情境演變而改變，因此AI治理必須進行持續評估。他進一步表示，若未能將從失敗中學到的教訓轉化為永久測試，等於未能真正閉環處理問題。

IT專業人士可透過盤點AI工具、文件化其細節、識別風險並將其對應到控制措施，來累積AI治理經驗。例如，一份實用的資歷組合可包括AI系統庫存、風險評估、評估套件、監控計畫及事件應變手冊。跨職能經驗至關重要，需與資安、隱私、法律、資料科學及業務團隊保持溝通。具體的成果可能包含識別未經批准的工具、限制代理程式存取、增加偏誤測試或改善稽核證據等。