相対位置エンコーディングの理論 — Shaw et al.からTransformer-XLまで、相対位置の系譜 2026年6月27日 Transformer Transformerに位置情報を与える方法として、sin/cosによる絶対位置... Self-AttentionT5TransformerTransformer-XL位置エンコーディング機械学習深層学習相対位置エンコーディング