凸优化与非线性规划基础（1）-- 基本概念

1. 凸优化问题分类 凸优化的标准问题有四类： Linear Programming(LP) Quadratic Programming(QP) Semi-Definite Programming(SDP) Cone Programming(CP) 而这四类的标准问题具有包含与被包含的关系，如下图所示： 所以可以这么说：LP是QP的一种特殊情况，QP又是SDP的一种特殊情况，SDP...

他人博客：凸优化学习之路 数值优化（Numerical Optimization）学习系列-目录 知乎数值最优化专栏 经典书籍： Jorge Nocedal Stephen J. Wright Numerical Optimization Second Edition Convex Optimization 作者: Stephen Boyd / Lieven Vandenberghe 国内书籍： 凸优化 清华大学出版社 译者: 王书宁 / 许鋆 / 黄晓霖 数值最优化方法 高立 最优化理论与算法

在工程实践中，无需关心 二次规划/凸优化的细节，工程师 只需要 调相应的第三方成熟软件包计算二次规划/凸优化的结果即可。当然，更重要的是知道算法的使用条件、优缺点、使用场景。 决策规划算法的输出目标：输出一条满足约束条件的最优轨迹。（用代价函数来量化最优性） 最优的评价指标： 1，平滑 2，舒适 3，耗时短 约束： 1，轨迹连续 2，无碰撞 3，遵守交通规则 4，满足车辆动力学、运动学约束 一、迭代法求高维复杂约束函数的最小值 回顾 高中数学，求连续可导函数F(x)在定区间[a,b]上的最小值。 步骤：

最优化问题—非线性规划(二) 在之前的文章最优化问题—非线性规划(一)里面，我们主要关注了对于非线性规划的一般形式和最优条件，在最后我们介绍了关于凸规划的相关定义和其最优条件。下面，我们要介绍的是关于对于非线性规划问题的一般的求解思路。 1. 非线性规划的求解思路 1.1 迭代法以及其基本思想 对于非线性规划问题的求解，一般情况下，我们都是采用迭代法进行求解，这种方法的思路很简单，首先给定一个初始的点x0∈Rnx_0∈R^nx0​∈Rn，按照某种迭代法则产生一个点xkx_kxk​，使得当{xk}\{x_k\

最优化问题—非线性规划(一) 1. 非规划模型的引入和形式描述 1.1 一个非规划的例子 在之前的文章中，我们主要介绍了线性规划模型。其实，在我们建模的过程中，更多的是非规划的问题。我们下面从一个问题进入： 设第iii个仓库的位置为(xi,yi),(i=1,2,,...,m)(x_i,y_i),(i=1,2,,...,m)(xi​,yi​),(i=1,2,,...,m)，第i个仓库向第j个市场的货物供应量为zijz_{ij}zij​(i=1,2,3,…,m,j=1,2,…,n)，第i个仓库到第j个市场的距离

线性规划与非线性规划 线性规划的特点是最优解在顶点或者边上，否则为非线性规划。 凸规划和非凸规划 仿射集=》仿射组合（泛化）/仿射包 直线是仿射集，线段不是：任意连接任意两点的直线也在原集合中； 线性方程c={x∣Ax=b}c=\{x|Ax=b\}c={x∣Ax=b}的解集是一个仿射集合。反之任意仿射集合可以表示为一个线性方程组的解集。 引出子空间： v={x−x0∣x∈c}∀x0∈c={x−x0...

凸优化学习------数学优化问题的分类 一、 无约束优化和有约束优化        在连续优化问题中，根据是否有变量的约束条件，可以将优化问题分为无约束优化问题和约束优化问题。有变量的约束条件则为约束优化问题，反之则为无约束优化问题。 二、 线性优化和非线性优化        目标函数和所有的约束函数都为线性函数，则该问题为线性规划问题（Linear Programm

matlab求解混合的非线性规划软件说明 “混合非线性规划软件包”使用说明 本软件包用于求解混合的非线性规划问题： 其中为自变量，为向量的上下界，分别为线性约束条件中等式约束条件的系数矩阵和常数项，分别为线性约束条件中不等式约束条件的系数矩阵和常数项，和分别为非线性约束条件中等式约束条件和不等式约束条件。为离散非整数变量，取值范围为，为整数变量，其余为连续变量。 我们可以用一个的数组来设定离散或者...

CMU凸优化笔记--凸集和凸函数 结束了一段时间的学习任务，于是打算做个总结。主要内容都是基于CMU的Ryan Tibshirani开设的Convex Optimization课程做的笔记。这里只摘了部分内容做了笔记，很感谢Ryan Tibshirani在官网中所作的课程内容开源。也很感谢韩龙飞在CMU凸优化课程中的中文笔记，我在其基础上做了大量的内容参考。才疏学浅，忘不吝赐教。 1...

出处：https://blog.csdn.net/weixin_37589896/article/details/78712955优化问题涉及关键词：凸优化、凸锥、凸集、线性规划、非线性规划（np）、拉格朗日chengzi、hessian矩阵、泰勒展开式、梯度、方向导数、牛顿法、凸二次优化、局部最小化、随机梯度、最速梯度、批量梯度、kkt条件、等高线 、共轭梯度、二次型、二次型矩阵、对偶问题一，前...