商傳媒｜何映辰／台北報導
隨著人工智慧（AI）技術快速變革各行各業，美國地方政府正被敦促將現有的AI試點計畫，從單獨測試轉向全州範圍的廣泛部署。然而，要實現這一目標，必須同步建立健全的治理與風險管理機制。
根據《Center for Data Innovation》的報告指出，公共部門不能落後於AI的發展浪潮。而為確保AI系統部署的可信度與安全性，Gartner 提出的 AI TRiSM 框架（AI信任、風險與安全管理）正受到越來越多政府機構的重視。AI TRiSM 是一個全面性的框架，旨在管理AI模型的治理、可信度、公平性、可靠性、安全性及資料保護，而非僅依賴一次性的治理審查。專家 Rosiek 指出，AI發展速度之快，現有框架與法規難以跟上，且AI在某些方面具不可預測性，決策原因可能不明，因此須預先防範，而非問題發生後才被動應對。
要實施 AI TRiSM，政府機構可採行兩大基礎步驟：
建立全面性AI監管政策
首先，各機構應建立與現有治理體系一致的AI監管政策，並確保對其資料的充分掌握。這包括清楚了解存在哪些資料、儲存位置、存取權限，以及哪些類型的資訊絕不應暴露給公開的AI系統。Rosiek 強調，AI的基礎在於IT基礎設施，以及對資料的能見度。此外，必須解決「影子AI」（Shadow AI）問題，即員工在未經監督下使用商用AI工具。因此，制定內部政策並提供相關培訓至關重要。政府機構不必建立全新的AI治理計畫，而是可在現有的網路安全、合規性和資料治理結構基礎上，將AI TRiSM 作為擴展這些控制措施的框架。
實施模型持續監測
第二個核心步驟是持續監測AI模型的偏差、漂移（模型效能隨時間下降）和準確性下降問題。由於AI系統運作速度極快，且其行為會隨資料變化而改變，因此持續監測尤為重要。在AI部署初期，仍需要人工審查AI的輸出結果並批准相關動作（即「人在迴路中」，humans in the loop）。然而，為了充分發揮AI的效益，Rosiek 預期未來將逐漸轉變為「人在迴路外」（humans on the loop），即工作人員主要負責監測系統，而非審批每一個單獨的動作。
相關新聞推薦
正在載入相關新聞...
