文章目录
一、数学优化
数学优化是寻找最大化（或最小化）函数输出的最佳输入集的过程。在优化领域，被优化的函数称为目标函数。存在大量用于解决优化问题的开箱即用工具，尽管这些工具仅适用于表现良好的函数，也称为凸函数。行为良好的函数包含一个最优值，无论是最大值还是最小值。在这里，我们可以将函数视为具有单个山谷（最小）和/或山丘（最大）的表面。因此，非凸函数就像具有多个山谷和丘陵的表面。
凸函数的优化，也称为凸优化，适用于简单的任务，例如投资组合优化、航班调度、开发最佳广告和机器学习。在机器学习的背景下，凸优化在训练几种机器学习模型时起作用，包括线性回归、逻辑回归和支持向量机。
凸优化的一个限制是它假设目标函数保证有一个山谷和/或山