ATLAS Matrix（中文版）

这是一篇关于ATLAS Matrix（中文版）的思维导图，主要内容包括：Reconnaissance 侦察，Impact 影响，Exfiltration 渗出（数据窃取），ML Attack Staging 机器学习攻击准备阶段，Collection 收集，Discovery 发现，Credential Access 凭证访问，Defense Evasion 防御规避，

ATLAS Matrix（中文版）

• Reconnaissance 侦察
  • Search for Victim's Publicly Available Research Materials 搜索受害者公开可用的研究资料
    • Journals and Conference Proceedings 期刊与会议论文集
    • Pre-Print Repositories 预印本知识库
    • Technical Blogs 技术博客
  • Search for Publicly Available Adversarial Vulnerability Analysis 搜索公开可用的对抗性漏洞分析资料
  • Search Victim-Owned Websites 搜索受害者所属网站
  • Search Application Repositories 搜索应用程序库
  • Active Scanning 主动扫描
• Resource Development 资源开发
  • Acquire Public ML Artifacts 获取公开的机器学习制品
    • Datasets 数据集
    • Models 模型
  • Obtain Capabilities 获取能力
    • Adversarial ML Attack Implementations 对抗性机器学习攻击实现方式
    • Software Tools 软件工具
  • Develop Capabilities 开发能力
    • Adversarial ML Attacks 对抗性机器学习攻击
  • Acquire Infrastructure 获取基础设施
    • ML Development Workspaces 机器学习开发工作区
    • Consumer Hardware 消费级硬件
    • Domains 域名
    • Physical Countermeasures 物理防范措施
  • Publish Poisoned Datasets 发布被污染的数据集
  • Poison Training Data 污染训练数据
  • Establish Accounts 建立账户
  • Publish Poisoned Models 发布被污染的模型
  • Publish Hallucinated Entities 发布虚构实体
• Initial Access 初始访问
  • ML Supply Chain Compromise 机器学习供应链受损
    • Hardware 硬件
    • ML Software 机器学习软件
    • Data 数据
    • Model 模型
  • Valid Accounts 有效账户
  • Evade ML Model 躲避机器学习模型
  • Exploit Public-Facing Application 利用面向公众的应用程序
  • LLM Prompt Injection 大型语言模型提示注入
    • Direct 直接注入
    • Indirect 间接注入
  • Phishing 网络钓鱼
    • Direct 直接方式
    • Indirect 间接方式
    • Spearphishing via Social Engineering LLM 通过社会工程学大型语言模型进行鱼叉式网络钓鱼
• ML Model Access 机器学习模型访问
  • Al Model Inference API Access 人工智能模型推理应用程序编程接口访问
  • ML-Enabled Product or Service 具备机器学习能力的产品或服务
  • Physical Environment Access 物理环境访问
  • Full ML Model Access 完整机器学习模型访问
• Execution 执行
  • User Execution 用户执行
    • Unsafe ML Artifacts 不安全的机器学习制品
    • Malicious Package 恶意软件包
  • Command and Scripting Interpreter 命令与脚本解释器
  • LLM Plugin Compromise 大型语言模型插件受损
• Persistence 持久化
  • Poison Training Data 污染训练数据
  • Backdoor ML Model 在机器学习模型中植入后门
    • Poison ML Model 污染机器学习模型
    • Inject Payload 注入有效载荷
  • LLM Prompt Injection 大型语言模型提示注入
    • Direct 直接注入
    • Indirect 间接注入
  • LLM Prompt Self-Replication 大型语言模型提示自我复制
• Privilege Escalation 权限提升
  • LLM Prompt Injection 大型语言模型提示注入
    • Direct 直接注入
    • Indirect 间接注入
  • LLM Plugin Compromise 大型语言模型插件受损
  • LLM Jailbreak 大型语言模型越狱
• Defense Evasion 防御规避
  • Evade ML Model 躲避机器学习模型
  • LLM Prompt Injection 大型语言模型提示注入
    • Direct 直接注入
    • Indirect 间接注入
  • LLM Jailbreak 大型语言模型越狱
• Credential Access 凭证访问
  • Unsecured Credentials 不安全的凭证
• Discovery 发现
  • Discover ML Model Ontology 发现机器学习模型本体
  • Discover ML Model Family 发现机器学习模型族系
  • Discover ML Artifacts 发现机器学习制品
  • LLM Meta Prompt Extraction 大型语言模型元提示提取
  • Discover LLM Hallucinations 发现大型语言模型产生的幻觉内容
  • Discover Al Model Outputs 发现人工智能模型输出结果
• Collection 收集
  • ML Artifact Collection 机器学习制品收集
  • Data from Information Repositories 从信息库收集数据
  • Data from Local System 从本地系统收集数据
• ML Attack Staging 机器学习攻击准备阶段
  • Create Proxy ML Model 创建代理机器学习模型
    • Train Proxy via Gathered ML Artifacts 通过收集的机器学习制品训练代理模型
    • Train Proxy via Replication 通过复制方式训练代理模型
    • Use Pre-Trained Model 使用预训练模型
  • Backdoor ML Model 在机器学习模型中植入后门
    • Poison ML Model 污染机器学习模型
    • Inject Payload 注入有效载荷
  • Verify Attack 验证攻击
  • Craft Adversarial Data 制作对抗性数据
    • White-Box Optimization 白盒优化
    • Black-Box Optimization 黑盒优化
    • Black-Box Transfer 黑盒迁移
    • Manual Modification 手动修改
    • Insert Backdoor Trigger 插入后门触发条件
• Exfiltration 渗出（数据窃取）
  • Exfiltration via ML Inference API 通过机器学习推理应用程序编程接口渗出（数据窃取）
    • Infer Training Data Membership 推断训练数据归属
    • Invert ML Model 反转机器学习模型
    • Extract ML Model 提取机器学习模型
  • Exfiltration via Cyber Means 通过网络手段渗出（数据窃取）
  • LLM Meta Prompt Extraction 大型语言模型元提示提取
  • LLM Data Leakage 大型语言模型数据泄露
• Impact 影响
  • Evade ML Model 躲避机器学习模型
  • Denial of ML Service 拒绝机器学习服务
  • Spamming ML Systemwith Chaff Data 用干扰数据对机器学习系统进行垃圾邮件式攻击
  • Erode ML Model Integrity 侵蚀机器学习模型完整性
  • Cost Harvesting 成本获取
  • External Harms 外部危害
    • Financial Harm 财务危害
    • Reputationa Harm 声誉危害
    • Societal Harm 社会危害
    • User Harm 用户危害
    • ML Intellectual Property Theft 机器学习知识产权盗窃
  • Erode Dataset Integrity 侵蚀数据集完整性