title: 神经网络训练时对输入有什么特别的要求吗？
desc: 请教各位大神，神经网络进行回归分析，除了数据要预先清洗以外，在以下方面有没有特别的限制。假设一层隐含层激活函数为tanh，输出层为linear。那么<br>（1）输入特征之间的相关性是否会影响到网络的性能，导致比起特征间独立的情况下性能要差？（特征相关性）<br>（2）原问题：输入样不大会对网络训练造成什么样的影响？（样本间相关性）<br> 按蓝白 的建议，修改为数据的散布程度和分布特点会对训练造成什么样的影响？<br> 比如说我有两个特征 一个回归输出。其中一个实例是（5，3，6）另外一个是（5.1，3.3，6.1）。那么这两个实例中，对于神经网络来说是否有一者冗余？<br>（3）数据顺序打乱与不打乱对于训练的影响？<br>（4）输入数据不进行归一化会有什么样的影响。<br>请各位大神赐教！
topic: 机器学习
content: 必须归一化，不归一化不但效果会差，而且随时可能爆掉。打乱之后效果会好。以上和数据量关系不大，都要做 以下和数据量有关 样本之间的相关性不怕，特别是数据量大的时候。输入特征之间最好还是不要相关，但是如果数据量够大，问题也不大。
answerer_tags: 正在搞机器学习，干过搜索引擎，码农