title: 机器学习以及贝叶斯统计里，关于近似intractableintegral，大家都偏爱什么算法？
desc: 几乎大多数的问题，都不可避免的要对prior distribution进行integrate out。但是大部分情况下是没有解析形式的。通常大家会用蒙特卡洛等近似。<br>我知道stochastic approximation包括MCMC，MCEM，Gaussian Quadrature，Laplace。<br>analytical（deterministic） approximation 有VB（variational Bayesian）。关于在怎样的情景下选择怎样的近似方法大家有哪些经验？各种算法有什么优劣？现在统计里面比较“潮”的方法是哪个？<br>问题表述中有不准确的地方欢迎编辑
topic: 数据挖掘
content: 这个问题提了很久了，并没有等到很好的回答。自己抛砖引玉，慢慢来砌。要严谨全面，请参阅 这两本经典 著作 GivensComputational Statistics BishopPattern Recognition and Machine Learning 以下答案是根据笔者阅读课本 网上课件 自己跑实验总结的 通俗版本。MCMC Markov Chain Monte Carlo 狗皮膏药工具，基本上所有能用其它工具解的，都可以用MCMC解。缺点： 取样过程耗时久，如果算法中有迭代，因为不使用解析解
answerer_tags: Statistical modeling， machine learning