跳到內容
Agent Threat Rules (ATR)EN
負責任使用

公開的攻擊偵測標準,必須回答雙重用途的問題。

ATR 的 836 條規則描述 AI agent 的攻擊模式,目的是偵測。描述攻擊的標準,也可能被誤讀成攻擊的配方。CVE、Sigma、YARA、ATT&CK 都有這個張力。ATR 選擇透明:規則公開、可以審查,邊界寫在這一頁,不靠藏起來求安全。下面講設計意圖、已知的雙重用途風險、ATR 抓不到什麼,還有回報濫用的管道。

設計用途

ATR 是防禦端的偵測標準。

整合進資安掃描器

在 CI/CD pipeline、agent runtime 或 MCP server 的中介層裡執行 ATR 規則,偵測 SKILL.md、工具描述、agent 設定檔裡的已知攻擊模式。Cisco AI Defense 的開源 skill-scanner 已經合併 ATR 規則集,Microsoft AGT 也有已合併的 ATR 範例目錄,兩者都是可以照著看的實例。

紅隊測試的基準線

在授權範圍內,用 ATR 規則量出你的紅隊工具找到的攻擊裡,有多少已經有偵測,有多少是還沒有規則的新型態。新型態,就是下一條規則的來源。

標準映射與合規文件

每條 ATR 規則都對應到 OWASP、MITRE ATLAS、NIST AI RMF、EU AI Act、ISO 42001 的條目。規則命中時,就是支持它所對到那幾項要求的偵測證據,可以拿給稽核或採購看。這不代表規則滿足了那項要求。這些對應是 ATR 自己做的,框架方沒有審查或背書。

研究與學術引用

引用特定的規則編號(例如 ATR-2026-00440),當作攻擊偵測的可執行基準。編號照 CVE/CWE 的方式編,發布之後永遠不改,論文、CI 腳本、外部文件都能長期放心引用。

什麼算濫用

ATR 規則不該被當成攻擊產生器。

每條 ATR 規則都有一段描述攻擊模式的 regex,以及涵蓋 true_positives 和 true_negatives 的 test case。這些 test_cases 是用來證明規則真的抓得到,也不會誤判良性輸入。它們讓這個標準可以被驗證,不是現成的攻擊 payload。

下面這些用法,算是濫用:

  • ▸未經授權,把 true_positive test case 直接當成攻擊 payload,拿去打正式環境的 AI agent 系統。
  • ▸把 ATR 規則的 regex 反推成能繞過偵測的攻擊變體,拿到未經授權的目標上使用。
  • ▸以 ATR 規則庫為基礎做攻擊自動化工具,目的是攻破已經部署 ATR 規則的系統。
  • ▸用 ATR 的資料訓練攻擊模型,目的是產生能躲過 ATR 偵測的對抗性輸入。

MIT 授權允許任何用途,包括商業使用和 fork。這份濫用定義不是法律限制。標準管不了自己被怎麼用,也不該假裝管得了。它是對設計意圖的明確聲明,讓採用者評估風險時,有一份可以引用的依據。

雙重用途揭露

這個標準有雙重用途,這件事攤開來講。

ATR 規則描述的是 AI agent 攻擊的行為特徵。任何記錄攻擊的系統都有同樣的張力,CVE 資料庫、Sigma 規則、YARA 簽章、MITRE ATT&CK 都是。資安界長年的共識是:把攻擊技術公開寫下來,防守方得到的領先,大過攻擊方從文件得到的方便。藏起來只能拖時間,公開才能讓所有防守方同時補上。ATR 站在透明這一邊,因為偵測標準的價值,就建立在它能被審查。

有兩個刻意的設計限制,把這個張力收窄:

  • 1.規則裡的 true_positive test case 是最小化的模式範例,不是完整的攻擊鏈。拿來驗證偵測已經足夠,但要變成能用的 exploit,還得再做額外的攻擊工程。偵測標準需要的特徵,遠小於武器化需要的工作量。
  • 2.特別危險的規則(高 CVSS、已在野外被主動利用),送 PR 之前會照負責任揭露的時程走,先確認受影響的廠商已經有時間修補。ATR-2026-00440 與 ATR-2026-00441 對應 Microsoft Semantic Kernel 的兩個 critical CVE(CVE-2026-26030、CVE-2026-25592),就是這樣做的:規則在 MSRC 公開揭露之後才發布。

資料來源也有界線。AdvBench、HarmBench、JailbreakBench 歸在測試語料(data/test-corpora/),不當規則來源。這些資料集描述的是目標行為,不是包裝好的攻擊 payload。

最後,誠實揭露也代表要講清楚 ATR 抓不到什麼。規則以 pattern 為基礎,天生看不見換句話說的改寫、語意相同的重述、非英語的注入、跨多輪的逐步升級,還有傳輸層的協定攻擊。任何讀過公開規則的攻擊者,都能避開特定的動詞、名詞和句構。ATR 把已知的繞過手法公開寫在規則的 evasion_tests 欄位裡(目前不到一半的規則有),也維護一份完整的 LIMITATIONS.md,把這些邊界寫成可以引用的文件,不留成行銷話術裡的空白。

濫用回報

如果你看到 ATR 被濫用。

標準本身擋不住濫用,也不該假裝擋得住。MIT 授權沒有限制用途的空間,硬要擋也不是好的工程設計。但濫用的案例值得知道。它們會回饋到文件和規則設計,讓下一版寫得更清楚,也更難被反過來利用。看到 ATR 被濫用,請告訴維護者。

濫用回報
[email protected]
一般問題
[email protected]
安全漏洞回報(ATR 本身)
依照 SECURITY.md 的流程