标签存档 | 自然语言处理

我们已经熟悉了 Transformer 模型及其注意力机制背后的理论。通过了解如何实现缩放点积注意力，我们已经开始了实现一个完整模型的旅程。现在，我们将把缩放点积注意力封装成一个多头 […]，从而在旅程中再前进一步。