序

全局最优化方法就是最优化方法, 加上“全局”二字是为了强调本书介绍的方法以获取最优化问题的全局最优解为目的, 这一点有别于目前大多数的最优化方法教材。

最优化是大自然的固有属性, 例如, 宇宙是朝着熵最大的方向不断演化的; 最优化也是人类的不舍追求, 例如, 消费者追求效用最大化, 而厂商追求利润最大化和成本最小化。因此, 最优化问题广泛出现在科学研究、工程设计、经济生产、管理实践等人类活动中。正因如此, 最优化方法是数学中应用最广泛的分支之一。

有趣的是, 数学领域往往更关注最优化问题的局部极值, 而不是真正的全局最值。原因是有很好的最优性条件来检验某个解是否为局部极值, 却没有合适的数学条件来确认找到的是否是真正的全局最优解。于是, 在很长一段时间里, 最优化方法被分割成两个分支。一个是数学规划领域, 执着于数学最优性条件, 依赖真实的或近似的梯度信息, 设计和分析能收敛到极值的局部最优化方法。另一个是全局最优化领域, 由少量(但越来越多)数学规划领域的研究人员和大量工程技术以及经济管理领域的研究人员组成, 不局限于梯度引导, 拥抱各种有益的启发, 执着于开发能找到全局最优解或其良好近似的算法。后者在算法层面非常繁荣, 不仅包含如分支定界等经典的确定性全局最优化算法, 也包含启发式优化、演化优化和群体智能优化等源于工程技术领域的大量随机性全局优化算法。

由于全局最优化方法的研究人员来自数学、工程技术和经济管理等多个不同学科, 研究内容跨度也很大, 导致目前很少有教材全面系统地介绍这些方法及其理论基础。幸运地, 围绕最优化问题, 本书作者在这些学科方向都有一些研究积累。因此, 本书试图全面系统地介绍全局最优化问题及各类求解方法。

本书把全局最优化方法分成两大类: 第一类是梯度优化的多次重启以及无导数优化, 主要特点是(真实的或近似的)梯度引导和多次重启, 一般是确定性的; 第二类是启发式优化、演化优化和群体智能优化, 主要特点是群体搜索和智能启发, 一般是随机性的。在介绍完这些算法后, 本书另一半篇幅详细介绍如何科学地对最优化方法进行理论评价和数值评价, 特别关注关于数值比较可能出现悖论以及如何消除悖论的前沿成果。

本书是《全局最优化——基于递归深度群体搜索的新方法》(清华大学出版社, 2021年)和《全局最优化——算法评价与数值比较》(清华大学出版社, 2024年)的姊妹篇。前两本书属于学术专著, 重点阐述作者研究团队在全局最优化领域的研究成果; 本书则属于教材, 提供了对经典算法和重要算法的详细介绍, 也提供了对最优化算法进行理论评价和数值评价的系统论述, 还附带了最优化算法设计与分析的实操指引, 并配有大量习题。

本书共12章, 除第2章由张宁撰写外, 其余均由刘群锋撰写。第1章介绍最优化问题的数学模型与基本理论, 剩余11章分为4部分。第1部分包含第2~4章, 首先介绍数学规划的经典算法, 然后介绍基于梯度优化的多次重启策略, 最后介绍无导数优化算法。第2部分包含第5~7章, 分别介绍启发式优化、演化优化和群体智能优化。第3部分包含第8~11章, 首先介绍最优化算法的理论评估, 然后介绍最优化算法数值比较中的三大环节: 测试问题、数据分析方法、策略选择与悖论消除。第4部分包含第12章, 介绍如何设计和分析一个最优化算法, 具有实操指引作用。

本书得到了国家自然科学基金委(项目编号: 61773119, 12271095)、广东省普通高校国家级重点领域专项(项目编号: 2019KZDZX1005)和广东省自然科学基金委(项目编号: 2022A1515010088)的资助, 在此一并感谢!

本书适合作为数学、计算机、工程、经济、管理等相关学科的高年级本科生和研究生学习最优化方法的教材, 也适合从事最优化相关工作的研究人员或工程师阅读。本书有配套在线慕课课程和配套微信科普公众号(二维码如下), 可供教师开展教学和同学们自学。

最后, 由于作者水平有限, 欢迎同行朋友和广大读者不吝指出书中可能存在的纰漏和谬误, 以携作者日后改进, 甚谢!

作者

2024年12月