随着大规模资源分配、信号处理、机器学习等应用领域的快速发展,凸优化近来正引起人们日益浓厚的兴趣。本书力图给大家较为全面通俗地介绍求解大规模凸优化问题的最新算法。
本书是作者2009年出版的Convex Optimization Theory一书(原版影印本及中译本: 《凸优化理论》,分别于2010年和2015年由清华大学出版社出版)的补充。不过,本书也可以单独阅读。《凸优化理论》一书侧重在凸性理论和基于对偶性的优化方面,而本书则侧重于凸优化的算法方面。本书是从《凸优化理论》原来的一章扩展而来。两本书所需要的数学基础相同,合起来内容比较完整地涵盖了有限维凸优化领域的几乎全部知识。两本书的一个共同特色是在坚持严格的数学分析基础上,十分注重对概念的直观展示。
本书几乎囊括了所有主流的凸优化算法。包括梯度法、次梯度法、多面体逼近法、邻近法和内点法等。这些方法通常依赖于代价函数和约束条件的凸性(而不一定依赖于其可微性),并与对偶性有着直接或间接的联系。作者针对具体问题的特定结构,给出了大量的例题,来充分展示算法的应用。各章的内容如下: 第1章,凸优化模型概述; 第2章,优化算法概述; 第3章,次梯度算法; 第4章,多面体逼近算法; 第5章,邻近算法; 第6章,其他算法问题。本书的一个特色是在强调问题之间的对偶性的同时,也十分重视建立在共轭概念上的算法之间的对偶性,这常常能为选择合适的算法实现方式提供新的灵感和计算上的便利。
本书均取材于作者过去15年在美国麻省理工学院的凸优化方面课堂教学的内容。本书和《凸优化理论》这两本书合起来可以作为一个学期的凸优化课程的教材; 本书也可以用作非线性规划课程的补充材料。因为通常传统的非线性规划课程侧重于可微但非凸的内容,如Kuhn-Tucker理论、牛顿法、共轭方向法、内点法、罚函数法和增广的拉格朗日法等。
本书作者德梅萃·博塞克斯(Dimitri P. Bertsekas)教授是优化理论的国际著名学者、美国国家工程院院士,现任美国麻省理工学院电气工程与计算机科学系教授,曾在斯坦福大学工程经济系和伊利诺伊大学电气工程系任教,在优化理论、控制工程、通信工程、计算机科学等领域有丰富的科研教学经验,成果丰硕。博塞克斯教授是一位多产作者,著有14本专著和教科书。
赵千川教授
2016年1月于清华大学