Anthropic報告揭示生成式 AI 風險升高，台灣軍事設施成模擬對象

美國 AI 先驅 Anthropic 最近發布的威脅情報報告，指出生成式 AI 正被多方用於情報蒐集、軍事模擬及輿情監控。報告特別關注中國 AI 企業的違規行為以及台灣軍事設施被納入模擬情境的情形，提醒全球對 AI 安全的重視。

生成式 AI 的新威脅與報告亮點

威脅類型概覽

報告涵蓋資訊蒐集、網路攻擊、政治影響行動、軍事模擬與自動化監控等多項潛在風險。這些威脅已逐漸滲透傳統情報與軍事工作流程，形成新的安全挑戰。Anthropic 強調需要在創新與安全之間取得平衡。

平台回應措施

為遏制濫用，Anthropic 已封鎖涉案帳號並加強安全監測。平台亦更新了使用者協議，明確禁止將資料轉送至外部模型處理。這些措施旨在降低跨境資料流動帶來的風險。

跨國濫用：中國 AI 企業的違規行為

帳號大規模建立

報告指出，多家中國 AI 公司利用大量帳號使用 Claude 模型服務，違反了平台使用規範。這些帳號被用來收集公開資訊並進行分析，顯示出違規行為的廣泛性。

資料轉送疑慮

近 30 萬筆使用者請求被懷疑轉送至 Claude 系統處理，可能導致敏感資訊跨境流動。Anthropic 認為部分用戶對資料實際流向不夠了解，進一步提升了資料隱私的擔憂。

台灣軍事設施被納入 AI 模擬

模擬內容與目標

報告揭示，某研究人員利用 AI 建立電子戰與防空壓制系統模擬工具，並將台灣多處軍事設施作為測試情境。模擬涵蓋雷達系統、飛彈防禦、空軍基地與指揮中心等關鍵設施。

安全評估

Anthropic 明確表示，模擬僅代表研究層面，並不等同於實際軍事作戰計畫。然而，這一情況仍引發對 AI 在軍事領域潛在濫用的關注。

資訊蒐集與監控：宗教與政治人物成目標

資料庫建立

部分帳號利用 AI 建立人物資料庫，聚焦宗教團體、社會團體與政治相關人物。資料來源包括公開資料、社群帳號與新聞報導。

輿情監測需求

此類行為與中國統戰與宗教事務監控需求相似，凸顯 AI 在輿情監測中的廣泛應用。Anthropic 暗示未必所有行為均由官方機構主導，但仍需警惕潛在的政治影響。

常見問題

Anthropic此次報告主要揭露什麼？

報告聚焦生成式 AI 在情報蒐集、軍事模擬及輿情監控等領域的濫用風險。

台灣相關內容是否具體？

報告提及台灣多處軍事設施被納入 AI 模擬，並列出具體的雷達站、飛彈防禦與空軍基地。

這些模擬代表實際軍事計畫嗎？

Anthropic 明確指出模擬僅屬研究層面，並不等同於實際軍事行動或能力。

30 萬筆請求事件的爭議點在哪？

關鍵在於資料流向與用戶知情權，疑似跨境轉送可能違反隱私規範。

Anthropic 已採取哪些防護措施？

已封鎖涉案帳號，更新使用者協議並強化安全監測，以降低濫用風險。

Anthropic 最新報告提醒我們，生成式 AI 的快速發展帶來的不僅是創新機會，也伴隨著前所未有的安全與治理挑戰。從跨國濫用到軍事模擬，再到資訊蒐集，AI 技術在各個層面都可能被用於不當目的。為了保障資料安全與國家安全，全球 AI 平台與政策制定者需要共同努力，建立更完善的監管與風險防護機制。