Tagged

Attention

Oct 16, 2024 Time Series Forecasting 10 min read

时间序列模型(四):Attention 机制 -- 直接的长程依赖

自注意力、多头注意力和位置编码在时间序列中的应用。逐步推导数学公式,附 PyTorch 实现和注意力可视化。