title: 不能直接计算导数值时，有什么优化算法？
desc: 排除进化算法，通过单个点迭代寻找最优点的算法。可以假设优化函数可导，但是导函数不能直接用点位置得到而已。<br>先谢谢大神们
topic: 凸优化
content: Bayesian optimization 大意是我们首先对目标函数形状有个先验，然后在每次迭代 1. 在当前对目标函数形状的后验估计下（当然首次迭代就直接用先验），在某个“最可能是最优”的地方取点，获得其函数值2. 根据刚才的点及其函数值，更新函数的后验估计。上面说的“最优位置”一般是两个指标的折衷：1. 在当前后验估计下，函数最优值的位置（exploitation）2. 尽量也试一试其他的位置，说不定有惊喜（exploration）。以流行的