← 关联知识节点：位置编码：RoPE 直觉 → 推导 → 实现
交互工具 · 原理

RoPE 外推相位仪表

快慢针的代价藏在波长里：训练时最慢的针只转过一小段弧，推理位置一超窗，这根针就读到没学过的读数——这是外推失败的根因。三种修法代际演进：压标号（PI，需微调）、调时钟（NTK，免微调）、分频段＋修温度（YaRN，主流）。拧长度看弧怎么被撑满、切修法看针怎么被按回来。

纯前端真公式：θᵢ = base^(−2i/d)、λᵢ = 2π/θᵢ（8 维教学算例，波长 6.3/63/628/6283 与文章快慢针图逐位一致）；训练弧 2π·L/λ（4096→末维 4.10 rad ≈ 235° 文章案例）；PI 等效距离 ÷s；NTK base×s^(d/(d−2))——末维波长恰好 ×s、θ₀=1 与 base 无关（秒针不动）均为可验证的几何事实；base=100 万（Qwen2-7B）末维波长 ≈19.9 万（文章约 20 万）。展示前 4 组（真实模型上百维结论只强不弱）。零 API、零随机。

RoPE 每维是一根转速不同的针：训练长度内模型只见过各针转过的一段弧——4096 的训练只让最慢的针转过 235°。 推理位置往外续，相位冲出训练弧 = 读没见过的刻度。 切三种修法，看末维的针怎么被「压标号」或「调时钟」按回熟悉的弧。
越界 1/4 组

末维（最慢的针）· 文章 235° 案例

λ 6283 · 训练弧 235°
0° 在正上，顺时针
训练转过：0.65 圈（235°）不满一圈
推理相位：469°（109° 落点 + 1 圈）
冲出训练弧——这根针正在读没见过的刻度。
组 0 · 秒针λ 6.3 · 训练 651.90 圈熟区
标尺 0–720°（两圈）；青底 = 训练见过的弧（234684° ≈ 651.9 圈，铺满即满覆盖）黑/琥珀针 = 推理相位（469367°）
组 1 · 分针λ 63 · 训练 65.19 圈熟区
标尺 0–720°（两圈）；青底 = 训练见过的弧（23468° ≈ 65.2 圈，铺满即满覆盖）黑/琥珀针 = 推理相位（46937°）
组 2 · 慢分针λ 628 · 训练 6.52 圈熟区
标尺 0–720°（两圈）；青底 = 训练见过的弧（2347° ≈ 6.5 圈，铺满即满覆盖）黑/琥珀针 = 推理相位（4694°）
组 3 · 最慢针λ 6283 · 训练 0.65 圈越界
标尺 0–720°（两圈）；青底 = 训练见过的弧黑/琥珀针 = 推理相位
1 个低频维读到没见过的刻度——直接外推质量骤降的根因

直接外推：位置标号直往外续。末维这类慢针波长（6283）长于训练长度，训练只见过 235° 的弧，推理相位冲到 469°——没读过的刻度上打分，质量骤降。这是五级阶梯的第 0 级，生产上没人这么干。

和「RoPE 快慢针」「RoPE 旋转指针」是什么关系

那边两件管单针怎么转：快慢针看各维波长怎么随 base 拉伸（θᵢ=base^(−2i/d) 同一条公式）， 旋转指针看「只看相对位置」的不变性。本件管针转出的弧够不够长—— 训练长度框住相位覆盖，外推/PI/NTK 三种修法是把针按回熟悉弧的代际演进。

判据与文章逐字同构：λ > L_train 的维没转满一圈才有「越界」可言（235° 案例）； 满圈维任何角度都见过，PI 的代价在刻度密度、NTK 的优势在秒针不动。α 之外再送一个锚： base=100 万（Qwen2-7B）时末维波长 ≈ 19.9 万 token（文章「约 20 万」）。零 API、全公式实算。