凸分析 基本概念

1)凸函数的一阶导数性质： 如果定义在$C$上的函数$f$一阶可导则，则$f$是凸函数和下面的式子等价 $$f(z) \geq f(x) + \nabla f(x)(z-x)$$ 用语言描述就是用一阶导数做的线性approximation会低估凸函数。

上面的性质可以导出，$f$在$x^*$取到$C$上极小值的充要条件是 $$\nabla f(x^*)(z-x^*)\geq 0,\ \forall z \in C$$ 2)投影定理：$C$是$R^n$上的非空凸子集，$z\in R^n$，那么存在$C$里的唯一的向量极小化$\|z-x\|$，这个向量称为$z$在$C$上的投影，并且对$C$里的所有向量，$z$的投影$x^*$有下面的性质 $$(z-x^*)^T(x-x^*)\leq 0$$ 也就是两个向量，(从投影出发指向$z$)和(从投影出发指向任何$C$里的一个点)，夹角不小于90度。