本书对人工智能安全的理论与实践技术进行了梳理，全面完整地覆盖了人工智能安全技术的主要方面，构建了人工智能安全知识体系，将机器学习、深度学习、大模型、AIGC等特定场景下的人工智能安全有机统一起来。该体系划分为五部分，即人工智能安全观、人工智能应用与对抗场景、针对AI模型与算法的攻击、针对AI的防御与治理，以及人工智能平台安全与实验。 本书可以作为高等院校网络空间安全、人工智能、大数据、计算机以及电子信息等相关专业研究生和高年级本科生的教材，也可以作为网络空间安全、人工智能安全、大数据、计算机等领域研究人员、专业技术人员和管理人员的参考书。

曾剑平，2006年获厦门大学博士学位，现为复旦大学计算机科学技术学院副教授、硕士生导师。主要研究方向：大数据安全、人工智能安全、社交媒体分析及应用、主动防御技术。

前言 近年来，人工智能理论与技术无论在学术研究还是在实际应用中，都得到了广泛关注，成为当今信息科技的发展潮流。但同时，诸如自动驾驶、AIGC等人工智能应用中发生了一系列安全事件，引发了人们对人工智能应用前景的担忧。由此，人工智能安全被提上了重要议程，业界加快了人工智能安全的理论与实践研究，积极推进人工智能监管。从学科发展的角度看，人工智能和网络空间安全存在密切的联系。一方面，人工智能技术有效提升了网络空间安全攻击与防御的智能化水平，网络空间安全对抗必然升级到人工智能对抗； 另一方面，人工智能模型应用越来越多地被发现存在漏洞和安全风险，并成为网络空间安全的新问题。人工智能安全则是这两个学科方向发展和交叉的必然结果。 本书第一版在教育部阿里云产学合作协同育人项目的支持下，对人工智能安全的理论与实践技术进行了全面梳理。第二版对人工智能安全的知识体系做了进一步完善，将机器学习、深度学习、大模型、AIGC等典型场景下的人工智能安全有机融合起来，使得读者能够在统一的思维框架下理解和掌握各种人工智能安全问题和方法。 本书作为一本产学兼顾的教材，具有如下特色： （1） 创新性地提出并构建了人工智能安全观这一重要认知框架，为识别、理解、评估及应对人工智能应用中各种安全威胁、风险、漏洞及对抗行为提供方法论，有助于读者更深刻地在网络空间应用中理解人工智能安全问题与技术。 （2） 梳理并构建了完整的人工智能安全知识体系，以攻防对抗为主线，充分体现人工智能安全的产生与演进路线。以数据驱动为辅助线索，突出数据在人工智能对抗方法中的作用，这符合数据驱动的人工智能基本范...