凸优化 凸集

仿射集

• 任意两点间所在的直线在仿射集内

凸集

• 任意两点间所在的线段在凸集内
  
  从这里可以知道 仿射集一定是凸集

• 上面说了仿射组合 那么这里一定有凸组合 唯一的区别就是 凸组合的系数之和还是得满足加和为1 ，因为毕竟是线段嘛~
  

• 要注意的是这里除了 系数之和的约束之外 还要求系数本身在0，1之间（还是那句话 毕竟是个线段~）

• 上面说了仿射组合一定在仿射集里面 那么这里一定有凸组合一定在凸集里面的扩展定义并且能与原定义相互推导

• 上面说了仿射包 那么这里一定有凸包

锥

• 锥的集合不一定是凸集合 所以我们要构造凸锥convex cone
  

看到红框中的形式很容易联想到之前在仿射集里面我们试图扩展到的一般形式，大家可以想想特点是什么==》过原点

凸锥组合

凸锥包

注意 两个点(连线过原点)的凸锥包不应该是过原点的直线，而应该是一条射线，因为包要求是最小的集合

一个简短的summary

• 对于affine 、convex、cone ，其原本定义中的系数取值范围是多少，对应的xx组合的取值范围就是多少，但是convex比较特殊，还有个[0,1]的约束，毕竟是线段 和 射线、直线还是有点差距
  

其实可以写的更加简洁一点：

• 第二个式子是第一个式子、第三个式子的特例 ？？ 这个逻辑没有反把。。？

考虑一个点

• 一个点也是一个仿射集、凸集，如果它是原点，就也是凸锥
  
  这里忘了写系数加和为1 了

逻辑是：因为一个点可以满足上面截图中的式子，which means 第一行的结论就成立

考虑空集

所有都是

几种重要的凸集

Rⁿ空间

n维空间的子空间也还是 那三种

任意直线

要过原点才会使凸锥，另外两个是符合的

任意线段

除非只是一个点，否则只是凸集(凸集当时就是拿线段定义的)，另两种就不属于了

除非过原点 否则不是affine set （这个对x₀和θ都有要求）
除非x₀是原点，否则不是cone
不过确实是凸集无疑

超平面与半空间

所谓超平面实际上也就是一个集合

球和椭球

球

欧式平面中 球的定义

证明凸集 利用三角不等式

三角不等式很重要，证明的时候可以试试作为突破口

椭

各个维度之间的加权（ 用 轴长度量 ）就用P定义
P决定椭球每一维的半轴长 对应矩阵的奇异值

多面体

由线性等式和不等式组成的

• 单纯形 比较特殊的多面体
  
  大意就是选出来的线性无关向量的凸包

注意，其中选择欸得点数k不能超过维数+1 不然就会构成超出维数的向量，肯定会存在线性相关的情况的

所以二维空间不会有四边形多面体， 三维空间最多也只有四面体多面体

证明单纯性是一个多面体

属于凸优化里面很简单的一个证明



这里的y是一个遍历的集合 所以对于空间中的任意y都要成立

对称矩阵的集合Sⁿ

半正定 所有特征值（老师口误讲成了奇异值 which是开根号的 所以肯定大于0）非负

证明Sⁿ₊是一个凸锥

老师这里讲的一句话，让我觉得很有感触： 像之前的椭球啊之类的还能用我们的空间想象能力，现在这种高维的矩阵只能用我们的逻辑能力去判断了 which means只能通过证明

• 证明思路 --》 就用定义去证明

首先 Sⁿ₊加权之和肯定还是对称的，所以这个就不用证了
齐次就是要证明Sⁿ₊加权值和是正定的

• 证明半正定：
  

Sⁿ₊₊是一个凸锥么？

• 不是
• 因为正定 所以不能过原点 （举一个一维的例子看看）
  这个经验告诉我们 虽然证明的时候要运用逻辑思维，但是还是可以先想下低维的情况，一方面说不定可能有反例，另一方面可以帮助理解

？？当它是一个凸集的时候就不是凸锥 否啧就是凸锥

（半）正定阵的几何理解

n维的(半)正定矩阵实际上是(n+1)维空间的一部分 这里举一个三维空间的例子

• 补充小知识
  ==正定的话 每个奇异值都大于0（不仅仅针对于分量） ==
  一个矩阵有多种奇异值分解的分解情况