AI agent 的
資安規則。
agent
Update the client to the new auth API. The docs are at docs.example.dev/auth.
以上判定,是 agent-threat-rules 4.3.0 實際跑出來的結果。攻擊內容取自規則的測試案例。
- 生效規則
- 836
- 威脅類別
- 10
- 合併
過的組織 - 13
- 授權
- MIT
- CIRCL
- OWASP Foundation
- FINOS
- Gemara project
- IBM
- Cisco
- Gen Digital
- NVIDIA
- AG2
- SigmaHQ
- Microsoft
- Tencent Zhuque Lab
攻擊一旦記錄下來,就有了名字。
十個
- 提示注入用
特製 的 輸入 挾持 agent, 讓它 照 攻擊 者 的 意思做事253 條規則 - Skill 入侵有
惡意 或有 漏洞 的 MCP skill 與 SKILL.md52 條規則 - 上下文外洩偷走
對話 內容 和 敏感資料138 條規則 - Agent 操控用
社交 工程 的 話術, 騙 agent 改變做法108 條規則 - 工具下毒工具
說明 被下毒, 或工具回傳惡意內容116 條規則 - 權限提升agent
拿到 沒人 授權的權限77 條規則 - 過度自主agent
做的 事, 超出原本劃好的範圍38 條規則 - 資料投毒污染
訓練 資料、 記憶 或 檢索 來源, 把 agent 的 行為帶歪9 條規則 - 模型濫用濫用
模型 的 能力, 像是 越獄、 產出 有害 內容、 耗用資源41 條規則 - 模型安全直接
攻擊 模型 本身, 例如 提取 模型、 逆向 還原、 對抗式輸入4 條規則
- MITRE ATLAS
- OWASP Agentic
- OWASP LLM
- NIST AI RMF
- EU AI Act
- ISO/IEC 42001
以前,我們 有 幾十年 可以慢慢來。
飛機
agent
ATR
一個人 碰到的攻擊,變成 所有 人的規則。
以
- 事件
有人
找到 新的入口 2026
年 7 月, Manifold Security 回報: Azure DevOps 的 MCP 伺服器 把 PR 描述 原封 不動 交給 agent。 描述 裡 藏 一段 HTML 註解, 網頁 上 看不到, agent 卻 讀 得到, 還會 用 審查 者 自己 的 權限照做。 - 回報
- 2026-07-22
- 回報者
- Manifold Security
- 規則
寫下來,一次就好
這一
招 寫成 一條 規則, 拿到 一個 永久 編號。 規則 寫的 是 攻擊 長 什麼 樣子, 不 綁 定 哪一 家 廠商, 所以 同一 招 換個 地方 出現, 一樣認得出來。 - 編號
- ATR-2026-02403
- 規則日期
- 2026-07-28
- 測試
該抓
的 抓, 不該抓的放 每條
規則 都附上 必須 抓到 的 例子, 也附上 必須 放過 的 例子。 每個 PR、 每次 推上 main, CI 都會 把這些 例子 重跑一遍。 - 必須抓到
- 8
- 必須放過
- 14
- 發布
所有
人 一起拿到 規則
跟著 下 一個 npm 版本 發布。 agent 更新 ATR 之後 就拿 得到, 並在 規則 成熟度 允許 的 車道 裡 跑。 不用 簽約, 也不用付錢。 - 合進 main
- 2026-08-03
- npm 發布
- 2026-08-11 · 3.5.12
一條規則,對應 到 你 必須 遵循的框架。
- ASI01:2026
- ASI06:2026
- LLM01:2025
- LLM05:2025
- AML.T0051.001
- AML.T0057
- EU AI Act Art. 14, 15
- NIST AI RMF Map · Measure · Manage
左邊
從哪裡開始,看你是誰。
做
agent 的人 你的
agent 每天 都在 讀 別人 寫的 東西。 網頁、 工具 說明、 陌生人傳來的檔案。 讓
ATR 檢查 agent 讀 進來 的 內容, 和 每一 次 工具 呼叫。 引擎 和 Claude Code hook 只 回報, 不 攔截; 要 攔截, 得 自己 打開。 例外 是 幾個 轉接 器: Mastra、 OpenShell、 NemoClaw 裝好 就會 攔 下 high 和 critical 的 命中, 可以 在 它們 的 設定 裡 改。 攔截 是 給 enforce 車道 用 的。 這條 車道 只 載 入 stable 規則, 所以 抓到 的 攻擊 少 很多。 ATR 跑 在 你 自己 的 程式 裡, 資料不會離開。 資安團隊
做
AI 產品的人 要
負責 交代的人 稽核、
主管機關、 保險 公司, 不會 因為 你說 安全 就相信。 他們 要 自己 查得 了的東西。 規則
可以 完全 離線 執行, 也對應 到 EU AI Act、 NIST AI RMF 和 ISO/IEC 42001。 ATR Eval 的 程式碼 已 公開、 尚未 發 版, 之後 可以 用來 量 測 某一 版 agent 面對 劫持的表現。 找
攻擊的人
