目录

第一篇 对抗 AI 概览

第1章 AI入门 2

1.1 理解 AI 和 ML 2

1.2 ML 类型与生命周期 3

1.3 ML 中的关键算法 5

1.4 神经网络和深度学习 6

1.5 ML 开发工具 7

1.6 总结 8

1.7 扩展阅读 8

第2章 搭建攻防环境 9

2.1 技术要求 9

2.2 配置开发环境 10

2.3 动手实践基础 ML 基线方法 12

2.4 使用 CNN 开发目标 AI 服务 15

2.5 规模化 ML 开发 19

2.6 总结 21

第3章 安全与对抗AI 22

3.1 技术要求 22

3.2 安全基础知识 23

3.3 加固对抗性测试环境 24

3.4 保护代码和产物 33

3.5 使用对抗 AI 绕过安全防护 38

3.6 总结 40

第二篇 模型攻击

第4章 投毒攻击 42

4.1 投毒攻击的基本原理 42

4.2 简单投毒攻击的实施方法 45

4.3 后门投毒攻击机制 48

4.4 隐藏触发器后门攻击 54

4.5 干净标签攻击 55

4.6 高级投毒攻击 56

4.7 防御与应对措施 57

4.8 总结 61

第5章 模型木马篡改与模型重编程 62

5.1 基于 pickle 序列化的后门注入 62

5.2 通过 Keras Lambda 层注入木马 65

5.3 使用自定义层的木马 70

5.4 神经负载注入 73

5.5 边缘 AI 攻击 76

5.6 模型劫持 80

5.7 总结 82

第6章 供应链攻击与对抗AI 83

6.1 传统供应链风险与 AI 83

6.2 AI 供应链风险 93

6.3 数据投毒 103

6.4 AI/ML 软件物料清单 106

6.5 总结 106

第三篇 针对已部署 AI 的攻击

第7章 针对已部署AI的规避攻击 108

7.1 规避攻击基础原理 108

7.2 扰动与图像规避攻击技术 111

7.3 使用 TextAttack 和 BERT 进行 NLP 规避攻击 121

7.4 通用对抗扰动 123

7.5 具有可迁移性的黑盒攻击 125

7.6 防御规避攻击 126

7.7 总结 132

第8章 隐私攻击之模型窃取 133

8.1 理解隐私攻击 133

8.2 通过模型提取攻击窃取模型 133

8.3 防御和应对措施 145

8.4 总结 150

第9章 隐私攻击之数据窃取 151

9.1 理解模型反演攻击 151

9.2 模型反演攻击类型 152

9.3 模型反演攻击示例 158

9.4 理解推理攻击 159

9.5 属性推理攻击 160

9.6 属性推理攻击示例 162

9.7 成员推理攻击 163

9.8 总结 169

第 10 章 隐私保护 AI 170

10.1 隐私保护 ML 与 AI 170

10.2 简单数据匿名化 171

10.3 高级匿名化 174

10.4 差分隐私 182

10.5 联邦学习 184

10.6 拆分学习 185

10.7 隐私保护 ML 的高级加密方案 185

10.8 高级 ML 加密技术实践 187

10.9 应用隐私保护 ML 技术 189

10.10 总结 190

第四篇 生成式 AI 与对抗攻击

第11章 生成式AI前沿 192

11.1 生成式 AI 简要介绍 192

11.2 使用 GAN 195

11.3 使用预训练的 GAN 204

11.4 总结 207

第12章 GAN深度伪造与对抗攻击 208

12.1 GAN 在深度伪造与检测中的应用 208

12.2 GAN 在网络攻击与渗透测试中的应用 222

12.3 防御和应对措施 232

12.4 总结 237

第13章 对抗AI大语言模型基础 238

13.1 LLM 简介 238

13.2 使用 LLM 开发 AI 应用 240

13.3 使用 Python 体验 LLM 241

13.4 基于 LangChain 的智能对话 244

13.5 引入自有数据 245

13.6 LLM 引发的对抗 AI变革 247

13.7 总结 248

第14章 提示词对抗攻击 249

14.1 对抗输入和提示词注入 249

14.2 直接提示词注入 250

14.3 基于梯度的自动化提示词注入 260

14.4 自有数据的风险 261

14.5 间接提示词注入 262

14.6 使用提示词注入实现数据渗出 263

14.7 通过提示词注入实现权限提升 265

14.8 通过提示词注入实现 RCE 265

14.9 防御和应对措施 266

14.10 总结 273

第15章 LLM投毒攻击 274

15.1 RAG 中的嵌入向量投毒 274

15.2 针对 LLM 微调的投毒攻击 289

15.3 总结 302

第16章 高级生成式AI攻击场景 303

16.1 LLM 中的供应链攻击 303

16.2 隐私攻击与 LLM 312

16.3 LLM 模型反演与训练数据提取攻击 313

16.4 LLM 推理攻击 314

16.5 基于次级模型的 LLM 模型复制技术 316

16.6 隐私攻击的防御与应对措施 317

16.7 总结 318

第五篇 安全设计 AI 与 MLSecOps

 第17章 安全设计与可信AI 320

17.1 安全设计 AI 320

17.2 构建威胁分类体系 323

17.3 AI 威胁分类 325

17.4 AI 威胁分类映射 326

17.5 AI 威胁建模 331

17.6 威胁建模实践 331

17.7 增强版 FoodieAI 威胁建模 332

17.8 风险评估与优先级排序 337

17.9 安全设计与实施 341

17.10 测试与验证 347

17.11 前移策略：尽早落实安全措施 348

17.12 实时运营 348

17.13 超越安全：可信 AI 350

17.14 总结 351

第18章 基于MLSecOps的AI安全实践 352

18.1 MLSecOps 的必要性 352

18.2 MLSecOps 2.0 框架 354

18.3 构建基础 MLSecOps 平台 359

18.4 MLSecOps 实战 364

18.5 集成 MLSecOps 与 LLMOps 374

18.6 基于软件物料清单的高级MLSecOps 376

18.7 总结 379

第19章 不断成熟的AI安全 380

19.1 企业级 AI 安全挑战 380

19.2 企业级 AI 安全基础 382

19.3 基于企业安全的 AI 防护 383

19.4 运营级 AI 安全 384

19.5 循序渐进的企业级安全 385

19.6 总结 386