目录
第一部分人工智能安全概述
第1章人工智能安全观
1.1人工智能及其安全问题的出现
1.2人工智能安全观的基本内容
1.3人工智能安全的层次结构
1.4人工智能的漏洞与对抗
1.5人工智能安全的基本属性
1.6人工智能安全的技术体系
1.6.1技术体系组成
1.6.2人工智能应用与对抗场景技术
1.6.3针对AI模型与数据的攻击
1.6.4AI模型与数据的防御与治理
1.6.5人工智能平台安全
1.7人工智能安全技术的学习方法
1.8人工智能安全的相关法律与规范
1.9人工智能安全的发展趋势
参考文献
第2章人工智能安全基础
2.1网络空间安全的主要技术
2.1.1攻击技术
2.1.2防御技术
2.2人工智能的主要技术
2.2.1学习范式
2.2.2预训练与微调
2.3学科交叉关系
2.4人工智能安全的数学基础
第二部分人工智能应用与对抗场景
第3章网络安全中的AI应用与检测
3.1网络入侵与检测
3.1.1AI安全的起点
3.1.2AI应用的总体情况
3.1.3数据集
3.1.4数据预处理
3.1.5特征工程
3.1.6AI模型及其应用开发
3.1.7入侵检测问题与对抗演进
3.2SQL注入攻击与检测
3.2.1概述
3.2.2SQL注入方法
3.2.3SQL注入检测与AI安全起点
3.2.4SQL语句的特征提取
3.2.5AI模型及其应用开发
3.3虚假信息检测
3.3.1概述
3.3.2虚假信息与AI安全
3.3.3基于统计学习的检测
3.3.4基于多任务学习的检测
3.3.5有待人工智能解决的问题
参考文献
第4章AIGC的滥用与伦理风险
4.1AIGC的简介
4.2AIGC的应用
4.3AIGC工具与原理
4.3.1AIGC工具
4.3.2AIGC技术原理
4.4AIGC的滥用场景与风险
4.4.1偏见
4.4.2歧视
4.4.3不良信息
4.4.4不实信息
4.4.5深度伪造
4.4.6侵犯知识产权
4.4.7辅助网络攻击
4.4.8学术诚信与过度依赖
4.5AIGC滥用原因
4.6大模型注入攻击
第三部分对抗的演进： 攻击AI模型与数据
第5章机器学习系统的攻击者
5.1从垃圾邮件检测谈起
5.2机器学习系统的漏洞
5.3攻击者及其目的
5.4知识及攻击者能力
5.4.1知识
5.4.2攻击者能力
5.5攻击者的代价与收益
5.6攻击行为与分类
5.6.1攻击行为
5.6.2攻击行为分类
第6章对抗样本的理论与方法
6.1对抗样本与方法
6.1.1对抗样本及其存在性
6.1.2对抗样本生成方法概述
6.2对抗样本生成方法
6.2.1基于梯度的方法
6.2.2基于优化的方法
6.2.3ZOO对抗样本生成
6.2.4决策树的对抗样本生成
6.2.5面向普适扰动的对抗样本生成
6.2.6基于生成对抗网络的生成方法
参考文献
第7章典型的对抗攻击方法与实例
7.1投毒攻击
7.1.1投毒攻击场景
7.1.2投毒攻击的原理
7.1.3基于天池AI的SVM投毒实现
7.1.4手写数字分类器的投毒
7.2后门攻击
7.2.1后门攻击的原理
7.2.2后门攻击的实例
7.3逃避攻击
7.3.1逃避攻击场景
7.3.2逃避攻击的原理
7.3.3手写数字识别的逃避攻击
7.4迁移攻击
7.4.1迁移攻击的原理
7.4.2迁移攻击的实例
7.5自然语言对抗样本生成
7.5.1自然语言对抗攻击的场景
7.5.2文本情感分类的逃避攻击
7.5.3原文本的对抗样本生成
7.5.4伪文本生成
7.6口令对抗样本生成
7.6.1PassGAN设计原理
7.6.2PassGAN的应用
7.6.3基于GPT模型的口令生成
参考文献
第8章智能系统的数据隐私攻击
8.1概述
8.2机器学习模型的隐私
8.3数据隐私攻击
8.3.1外部知识攻击
8.3.2差分攻击
8.4成员推理攻击
8.4.1基本原理
8.4.2实例
8.5其他类型的隐私推理攻击
8.6大语言模型的数据隐私攻击
8.6.1大模型的训练
8.6.2隐私攻击
第9章聚类模型的攻击
9.1聚类攻击场景
9.2聚类算法的攻击模型
9.2.1攻击者的目标
9.2.2攻击者的知识
9.2.3攻击者的能力
9.2.4攻击方式
9.2.5攻击性能评价
9.3聚类算法的攻击方法
9.3.1桥接攻击
9.3.2扩展攻击
9.4天池AI上的聚类攻击实现
9.4.1桥接攻击
9.4.2扩展攻击
参考文献
第四部分对抗的演进： AI的防御与治理
第10章防御与治理的共性技术
10.1防御与治理技术概况
10.2数据层的防御
10.3模型层的防御
10.3.1正则化
10.3.2蒸馏网络
10.4算法层的防御
10.4.1对抗训练
10.4.2防御蒸馏
10.4.3算法鲁棒性增强
10.5机器遗忘学习
10.5.1需求与动机
10.5.2方法
10.5.3评估与验证
10.5.4机器遗忘带来的防御挑战
10.6对抗训练实例
第11章非平衡数据分类
11.1数据非平衡现象与影响
11.2非平衡数据分类方法
11.2.1数据欠采样
11.2.2数据过采样
11.2.3数据组合采样
11.2.4特征层的不平衡数据分类
11.2.5算法层的非平衡数据分类
11.3非平衡数据分类方法的实现
参考文献
第12章噪声数据处理
12.1噪声的分类、产生原因与影响
12.2噪声处理的理论与方法
12.3基于数据清洗的噪声过滤与实例
12.4主动式噪声迭代过滤
12.5噪声鲁棒模型
12.5.1调整错误样本的权重
12.5.2损失函数设计
参考文献
第13章小样本学习方法
13.1小样本学习基础
13.1.1小样本学习的类型
13.1.2小样本学习与其他机器学习的关系
13.1.3小样本学习的PAC理论
13.1.4小样本学习方法体系
13.2小样本的数据增强方法
13.3基于模型的小样本学习
13.3.1多任务学习
13.3.2嵌入学习
13.3.3生成式模型
13.4基于算法的小样本学习
13.5小样本学习的相关资源
参考文献
第14章大模型的内容安全保障
14.1概述
14.2大模型价值对齐
14.2.1价值与对齐的解释
14.2.2对齐方法
14.3内容安全技术
14.4相关数据集
第15章智能系统的隐私保护
15.1概述
15.2隐私保护技术基础
15.2.1隐私保护应用场景
15.2.2数据脱敏
15.2.3匿名化
15.2.4差分隐私保护
15.2.5同态加密
15.3大数据的隐私保护
15.3.1关系型数据隐私保护
15.3.2位置数据隐私保护
15.3.3社交网络数据隐私保护
15.4隐私计算架构
15.4.1安全多方计算
15.4.2联邦学习
15.5典型应用中的隐私保护
15.5.1LBS推荐中的隐私保护
15.5.2苹果手机中的差分隐私
参考文献
第16章智能系统的网络安全防御策略
16.1概述
16.2攻击图简介
16.2.1攻击图的基本概念
16.2.2攻击图生成方法
16.2.3攻击图的计算任务
16.3基于图论的方法
16.3.1图的路径算法
16.3.2图节点排序算法
16.4基于贝叶斯网络的方法
16.5基于马尔可夫理论的方法
16.5.1马尔可夫链
16.5.2马尔可夫决策过程
16.5.3隐马尔可夫模型
16.5.4部分可观测马尔可夫决策过程
16.6基于博弈论的方法
16.7攻击图的发展趋势
参考文献
第五部分人工智能平台的安全与实验
第17章人工智能平台的安全
17.1机器学习平台漏洞
17.1.1机器学习平台自身的漏洞
17.1.2依赖库漏洞
17.2TensorFlow的模型安全
17.2.1TensorFlow的模型机制与使用
17.2.2TensorFlow的模型风险与攻击
17.2.3安全措施
17.3智能体及其平台安全
17.3.1智能体框架
17.3.2针对智能体的攻击
17.3.3智能体的安全技术
参考文献
第18章人工智能安全实验
18.1实验案例介绍
18.2阿里云天池AI学习平台上的实验
18.3壁仞科技GPU环境下的实验
参考文献
