跳到內容
Agent Threat Rules (ATR)EN
合規 · NIST AI RMF

NIST AI RMF 定義流程。
ATR 讓它偵測得到。

部分框架對應已知有誤,正在重做;偵測不受影響。修正發布前,請把對應當成可能相關的參考,不要當成稽核證據。 看勘誤

GOVERN、MAP、MEASURE、MANAGE 四個功能,每一個底下都掛了 ATR 規則。各子類別怎麼分布,看下面的表。

AI RMF 是治理框架。它告訴你要 GOVERN、MAP、MEASURE、MANAGE 哪些風險,本身卻什麼都不偵測。ATR 把 compliance.nist_ai_rmf metadata 寫進規則裡。每條規則標明自己服務哪個子類別,框架的每個功能底下,就都有真的會觸發的偵測。第一版在 2026-05-09 跟著 v2.1.0 發布,當時 330 條規則全部有對應。規則成長到 836 條之後,對應也補到了每一條。

這些對應不是一句「對齊 NIST」。每一條都引用規則實際靠的偵測元素(regex、token 或 signature),跟 YAML 逐行對得起來。可以下載,可以稽核,任何稽核人員都能推翻它。

社群 OSCAL 貢獻 · 目前狀態

框架本身是一段段文字。要讓機器讀得懂,得有人把它轉成結構化格式。ATR 維護者把 NIST AI RMF 整理成 OSCAL 格式的社群 catalog,共 72 個控制項、176 條交叉參照連結,以 CC0 授權放在 Agent-Threat-Rule/ai-rmf-oscal-catalog。這份 catalog 是社群自己整理的,不是 NIST 官方出的。

另外,兩份 AI RMF profile 範例以 PR #338 送進 NIST 的 usnistgov/oscal-content repo。6 月,NIST 請這個 PR 先等 NIST 自己的 AI RMF catalog。NIST 7 月把 catalog 加進 develop 分支,8 月這個 PR 照著它重做。PR 還開著,等 NIST 審查。要不要用,由 NIST 決定。

不代表什麼這不是 NIST 官方背書,不是 NIST AI RMF 合規認證,也不是 NIST 發出的任何「接受層級」。ATR 是 MIT 授權的獨立開放標準。NIST 那邊若有任何正式採用,以 NIST 自己的公告為準,不以這一頁為準。
規則
836
目前規則總數
子類別
25
橫跨 GV、MP、MS、MG
功能
4
四個功能都有規則
授權
MIT
永遠免費,可以 fork
01 · 為什麼重要

NIST AI 風險管理框架(AI RMF 1.0 加上 GenAI Profile)是 NIST 發布的框架,給各組織自願採用。它把 AI 風險管理拆成 GOVERN、MAP、MEASURE、MANAGE 四個功能。這是治理的語言,告訴你該管什麼,卻沒告訴你怎麼在一份 SKILL.md 或一段 MCP 工具說明裡,把風險抓出來。

ATR 把這一層接上,做成 MIT 授權、開源、可以重現的規則層級 metadata。AI RMF 就從治理框架,變成一層能驗證的偵測。政府、SOC 或稽核人員,都能下載 YAML 一條一條看:每條規則對到哪個子類別,為什麼這樣對,拿哪個偵測元素當證據。

02 · 子類別分布

對應分散在 25 個子類別上,GOVERN、MAP、MEASURE、MANAGE 四個功能沒有一個是空的。治理流程的每一段,底下都掛著會觸發的規則。一條規則可以同時對到好幾個子類別(primary 加 secondary strength)。各子類別的對應次數見下表。

子類別
功能
對應內容
對應數
MS.2.7
MEASURE
安全與韌性評估
665
MG.2.3
MANAGE
發現未知風險時的應變與復原
550
MP.5.1
MAP
風險特徵化與追蹤
477
MG.3.2
MANAGE
預訓練模型監控
163
MS.2.6
MEASURE
持續性評估
125
MS.2.10
MEASURE
隱私風險評估
81
GV.6.1
GOVERN
第三方與供應鏈治理
80
MG.3.1
MANAGE
第三方風險管理
50
GV.1.2
GOVERN
把可信賴 AI 的特性納入組織政策
25
MS.2.5
MEASURE
系統韌性評估
24
MG.4.1
MANAGE
部署後監控
23
GV.1.1
GOVERN
法規與法律框架對應
5
GV.4.1
GOVERN
4
MG.4.3
MANAGE
3
MP.3.3
MAP
系統能力文件化
3
MS.1.1
MEASURE
評估指標
3
MS.4.1
MEASURE
3
GV.3.2
GOVERN
2
MG.2.2
MANAGE
2
MP.2.3
MAP
2
GV.4.2
GOVERN
1
MG.2.4
MANAGE
取代、脫離或停用系統的機制
1
MG.4.2
MANAGE
持續性改善機制
1
MP.2.2
MAP
1
MP.3.4
MAP
1

MS.2.7 出現最多次,665 次。一條規則可以同時對到好幾個子類別。

03 · 一條實際的對應

對應寫在規則裡,不是寫在投影片上。每條規則的 NIST 對應,都寫明它服務哪個子類別,以及為什麼。下面是 ATR-2026-00118(Approval Fatigue Exploitation)實際的 metadata:

compliance:
  nist_ai_rmf:
    - subcategory: GV.6.1
      context: Approval fatigue exploitation manipulates
        human-in-the-loop oversight by overwhelming operators
        with rapid permission requests or minimizing
        dangerous actions; GV.6.1 requires data and oversight
        governance policies that preserve meaningful human
        review rather than enabling bulk auto-approval of
        risky tool calls.
      strength: primary

context 欄位寫清楚這條規則為什麼歸在 GV.6.1。不是籠統的「治理」,而是 approval fatigue 攻擊破壞監督政策的那條具體路徑。每條規則都照這個格式記錄。

04 · 對應怎麼做出來

對應流程分三段:LLM 輔助批次產生、逐條 QA、原子寫入。全部開源,可以重現。

  • 輸入v2.1.0 當時的 330 份 ATR 規則 YAML(偵測 pattern、測試案例、既有 metadata)、NIST AI RMF 1.0 參考文件、GenAI Profile,以及手寫的 5-shot 範例。之後新加的規則,用同一套批次流程補上對應。
  • 批次產生scripts/expand-nist-mapping.ts:Claude Opus 搭配 5-shot prompt 和結構化輸出。每條規則產出至少 1 個 primary、0 到 3 個 secondary 子類別對應,每一個都附自己的 context。子類別編號全部對照 RMF 規格嚴格驗過,沒有編造出來的編號。
  • 原子寫入scripts/apply-nist-mapping.ts:讀每份 proposal YAML,改寫對應規則 YAML 裡的 compliance.nist_ai_rmf 區塊,先寫 tmp 再 rename,寫入是原子的。改完的 YAML 都還能 parse(261 份,0 失敗)。原本人工整理的對應不會被蓋掉。
  • 規模261 條新對應疊在原有的 69 條上,當時 v2.1.0 的 330 條規則因此全部有對應。
  • 來源紀錄每條規則的 proposal YAML 都完整留在 proposals/nist/。誰都可以重跑流程、比對輸出,檢查對應是怎麼推出來的。
05 · 相關的 NIST 工作

NIST 有幾項跟 AI agent 安全有關的公開工作:CAISI 針對 AI agent 系統安全發出的資訊徵詢(RFI,docket NIST-2025-0035);COSAiS 為單一 agent 和多 agent 系統訂的 SP 800-53 控制 overlay;還有 NCCoE 的 Software and SI Agent Identity and Authorization 專案。ATR 是獨立的開源專案,沒有參與這些工作。NIST 沒有選定 ATR,也沒有背書。

這一頁的對應,是 LLM 協助起草的理由說明,做法見上面第 04 段。它們主張的是關聯,不是量測結果。偵測效能另外量。

06 · 自己來稽核

對應不是只能看的封閉規格,是可以改的公開 metadata。每條規則的 RMF 對應都以 YAML 放在 GitHub 上,誰都讀得到。可以 fork、可以挑戰,也可以送 PR 修正 strength 或 context。

NIST AI RMF 定義要管什麼。ATR 在每個功能底下放了能驗證的偵測,寫成可以下載、可以稽核的 YAML metadata,MIT 授權,永遠免費。