← 关联知识节点:DPO / GRPO 等后训练新范式
交互工具 · 算账

GRPO 组内优势计算器

GRPO 把 Critic 换成「组」:同一道题采样一组回答,组均值就是免费的基线,组内标准差定幅度——得分减均值再除以标准差就是每条回答的优势。滑一组奖励看两步账怎么走,再亲手试试组大小这条生命线:全对全错的组白采,组大小取 1 时完全失效。

公式口径与知识库《DPO / GRPO 等后训练新范式》动手节逐字对齐:优势 = (r − 组均值) / (组标准差 + 1e-6),标准差用总体口径(除 N,对齐 statistics.pstdev);默认组 0.9/0.1/0.6/0.2 → 优势 +1.41 / −1.09 / +0.47 / −0.78 逐字复现;组大小影响区为固定种子的规则奖励抽样,真公式,零 API。

同一道题采样一组回答,组均值就是免费的 Critic:高于组均值受奖、低于受罚,幅度按组内标准差归一。滑一组奖励,逐步看每条优势怎么算出来——再亲手试两个边界:全对白采、组大小 = 1 完全失效。
组大小 n
4
同一道题的回答数
组均值(基线)
0.45
替代 Critic 的免费基线
组标准差(幅度)
0.32
总体口径 · 除 N(pstdev)

每条回答的优势

高于组均值 · 受奖 低于组均值 · 受罚

中间横线是零线(优势为 0 的位置):条的上下位置只看这条回答高不高于组均值,条的长短由「偏离几个标准差」决定——组内分数全相等时零线上一条条都没有。

组内奖励(裁判给的分数)

R10.90+1.41
R20.10-1.09
R30.60+0.47
R40.20-0.78

优势 = (r − 组均值) / (组标准差 + 1e-6),基线 = 组均值,幅度 = 组标准差

文章锚点与边界,点一下复现

0.90 那条回答的优势 +1.41——比组均值高 1.4 个标准差,更新时被强力拉向;0.10 那条 -1.09,被推开。受奖受罚的分界线就是组均值。

组大小是生命线

n = 8

换一个更贴近实战的场景:对/错规则奖励(答对 1、答错 0),真实对率 0.5。固定种子抽一个 n 条的组,看「免费基线」随组大小稳不稳——GRPO 原文每组 64 条不是白给的。

抽到的组
5 对 3 错
基线(组均值)
0.63 偏差 +0.13
白采率 pⁿ+(1−p)ⁿ
0.7813%

组均值偏了 +0.13:这个基线本身就不准,所有回答拿它对表——小组的「免费 Critic」很毛糙。

滑杆从 2 起步:再往下就是组大小 = 1——基线就是自己,优势恒为零,点上面的「组大小 = 1」可以直接试。