商傳媒｜吳承岳／台北報導
美國媒體公司MeetingTV已對資安業者Koi Security及其四名創辦人提起訴訟，指控其人工智慧（AI）系統產生「AI幻覺」，錯誤地將MeetingTV列為與中國政府相關的間諜網路一部分。去年四月收購Koi Security的資安巨頭派拓網路（Palo Alto Networks），於今年五月也被列為共同被告，此事件突顯了AI在關鍵應用中潛藏的風險與治理挑戰。
根據《ctech》報導，此訴訟案於三月在南加利福尼亞州聯邦法院提出。去年底，Koi Security發布一份名為「DarkSpectre」的威脅情報報告，聲稱揭露一個與中國政府相關的網路攻擊組織。該報告錯誤地將MeetingTV的網域列入其「入侵指標（IOC）」清單，導致眾多資安供應商、企業防火牆及國防承包商自動封鎖MeetingTV的網站和應用程式，造成其線上可見度崩潰、營運中斷，並嚴重損害其營收與聲譽。MeetingTV聲稱，此錯誤並非來自傳統的鑑識調查，而是Koi專有AI系統「Wings」的錯誤輸出，且未經充分人工監督或驗證即發布。
儘管Koi Security事後更新報告，澄清後續審查未發現MeetingTV網域與惡意活動的關聯，派拓網路和Koi Security仍否認指控。派拓網路認為，該報告僅是廣泛的網路資安情報分析，並非直接指控MeetingTV涉及犯罪，且資安研究人員應受保護，免於因公共利益相關的善意分析錯誤而面臨誹謗訴訟。這起訴訟揭示了AI生成內容的不可靠性可能帶來實際的營運損害，也引發各界對AI系統的驗證與責任歸屬問題的關注。
與此同時，美國政府對AI模型的審查也日益嚴格。據《The Hill》報導，川普政府近期加強對專有AI模型的監管，並曾於上月要求Anthropic旗下Claude Mythos 5與Fable 5模型在亞馬遜（Amazon）提出網路資安疑慮後，在90分鐘內下架，導致這些模型停用超過兩週，直到上週才解除限制。OpenAI的GPT-5.6系列模型也因類似疑慮，被要求延後發布。
川普政府的審查顯示出對AI治理結構與風險的重視。儘管早期報導曾稱Anthropic的模型獲得批准，但實際狀況是其一度被限制。根據《Indiaherald.com》報導，川普政府之所以相對信任Anthropic，是因為其公共利益公司結構、憲法式AI安全方法論，以及相對較少的董事會爭議。相較之下，OpenAI與微軟（Microsoft）的深度合作關係，以及其去年底的董事會危機與馬斯克提起的訴訟，都讓監管機構對其採取更謹慎態度。政府對「邊緣AI模型」（frontier AI models）的審查，正從純粹的能力評估轉向治理結構和企業關聯的信任考驗。
這使得AI業界關於開源與專有模型的辯論更加激烈。Palantir執行長亞力克斯·卡普（Alex Karp）批評，政府和軍方不應依賴如OpenAI和Anthropic等私人AI公司的模型進行敏感操作，尤其對其「按使用量付費」的Token系統提出質疑，認為這讓使用者缺乏對模型結構的控制權。他更直言，將國家安全戰場外包給矽谷的共識觀點「簡直是瘋狂」。Box公司總裁亞倫·萊維（Aaron Levie）也警告，若受高度監管的邊緣AI無法與開源模型保持競爭力， Token使用量恐將流向由第三方控制與營利的替代技術堆疊。
越來越多企業因成本考量轉向開源模型，MIT斯隆管理學院的研究顯示，開源模型已佔AI Token使用總量的五分之一。然而，Anthropic執行長達里奧·阿莫代（Dario Amodei）則在2023年警告，規模化開源模型可能帶來「危險之路」，因其恐遭濫用。目前，中國在開源AI領域的發展迅速，安德里森·霍羅威茨（Andreessen Horowitz）研究指出，全球80%使用開源工具的開發者正在使用中國模型。連Airbnb執行長布萊恩·切斯基（Brian Chesky）也坦承，其公司大量依賴阿里巴巴（Alibaba）的Qwen模型，稱其「非常好用、快速且便宜」。
這些事件對台灣的資安從業人員、AI應用關注者及科技業決策者而言，無疑提供了警示。AI模型，無論是作為資安防禦工具或企業應用，其背後的透明度、可驗證性及治理結構至關重要。避免類似「AI幻覺」的錯誤，確保AI輸出結果的可靠性，並在技術開發與商業合作中審慎考量監管與國家安全因素，將是台灣業者在推動AI發展時不可忽視的挑戰。
