title: 为什么nn的较大问题是会陷入局部最优时，不选用凸函数作为激活函数？
desc: sigmoid函数是指数簇家族 使熵最大的优势是知道的 <br>想问的 rt
topic: 人工智能
content: 似乎题目中有一些误区。1. 全局最优不一定是好的解，局部最优不一定是差的解 2. NN中设计得激活函数是为了引入非线性变换，凸不凸都可以 3. 题主似乎认为激活函数设计为凸就可以得到凸的优化目标，然而NN不凸，是多个隐藏层导致的，即使每一层激活函数都是凸的，目标函数依旧是非凸问题，举例说明： 假设一个NN的最后一层为least square loss（凸的）：minW1， W2 sumi^N hatyi - yi^2，其中hatyi是NN的预
answerer_tags: Machine Learning， Optimization， Computer Vision