LLM/MLLM中的位置编码

位置编码是大模型的基础概念之一,本文从位置编码需满足的条件出发,分析绝对位置编码和旋转位置编码(RoPE)的原理,及其在多模态大模型中的拓展。

August 31, 2025 · 大青山