AI 應用風險攀升 DTEX 推創新工具監測人機活動

商傳媒｜葉安庭／綜合外電報導

隨著企業加速導入人工智慧（AI）系統，資安挑戰也隨之加劇。網路安全公司 DTEX Systems, Inc. 近期宣布擴展其 AI Risk Management 產品，推出兩款全新安全代理程式——Triage Guardian Agent 和 Threat Hunter Agent，旨在協助企業有效監控工作場所的 AI 系統行為，防範潛在的資安風險。

DTEX 指出，目前許多資安工具雖能記錄活動，卻無法判斷 AI 系統的行為是否符合預期目的。為解決此痛點，DTEX 的 AI Risk Management 平台透過行為分析，擴大監控範圍至員工與 AI 代理程式。其中，Triage Guardian Agent 主要負責區分人類與 AI 驅動的活動，確保每個行為的主體明確。而 Threat Hunter Agent 則專注於主動威脅發現，利用代理工作流程評估不斷變化的風險情勢，識別傳統系統難以察覺的威脅。

這項擴展功能使 AI Risk Management 平台能夠辨識組織內所有（無論是否經授權的）AI 工具使用情況，並即時監控 Prompt、回應及數據移動，以揭露企業在擴大 AI 應用時可能面臨的風險區域。DTEX 強調，隨著 AI 代理程式能以高速和大規模執行指令，但其決策邏輯對於管理者而言可能不夠透明，這對企業資安團隊構成獨特挑戰。

DTEX 舉例說明，其產品已在某政府機構成功部署，每月為每位分析師節省 40 小時工作時間，相當於每年超過 500 小時，並達到 100% 的準確性。這項數據凸顯在資安營運中心面臨日益增加的警報量、人手不足及工具繁多的壓力下，運用 AI 監控來減少重複性工作，讓分析師能專注於需要判斷力的調查，已成為重要趨勢。DTEX 認為，AI 系統的行為應如同人類用戶接觸敏感資訊般，受到嚴格審查，此觀點尤其適用於受高度監管的行業或政府機關。