Transformer 的 Decoder 为什么都说是要一个单词一个单词输出，所以要 masked multi-head attention

This topic created in 1657 days ago, the information mentioned may be changed or developed.

encoder 能并行，decoder 为什么不能并行，看了好多资料都没讲到这个

1 replies

1023

Nov 26, 2021 via Android

因为 decoder 本来就是要根据前一个词的结果计算下一个词，没法并行