title: 如何理解谷歌团队的机器翻译新作《Attentionisallyouneed》？
desc: 谷歌團隊 6月13號發表在 Arxiv 上的文章：
topic: 机器学习
content: 刚看到论文确实很震惊，FAIR在上个月刚祭出state of the art的convseq2seq，Google就用一堆attention予以回应，WMT en-de和en-fr都刷到了新的state of the art，而且这次不用RNN，不用CNN，只有attention，可谓大道至简。算法细节可以参见paper，这里简单说下attention取得好的效果的直观感觉。传统的用RNN建模语言的时序特征，前面的单词信息都依次feed到后面一个单词，这种信息的堆叠感觉有点浪费，而且反而把信息糅杂在一起不
answerer_tags: 研究各种涮法，清汤的，麻辣的