← 关联知识节点:模型选型与对比实验:从排行榜到自己的任务集
交互工具 · 算账

配对比较 bootstrap

两家候选在同一批题上各跑 3 轮:甲 14/18、乙 17/18——看起来乙稳赢?先按题配对重抽样再说。同一道题有难有易,只有同题相减才公平,重抽的单元是题、不是轮;点重采样看差值直方图与 95% 区间跨不跨零,再切错误算法对照:把 18 次重复当 18 个独立业务样本,区间会假性变窄。

纯前端真统计计算:按题有放回重抽 → 题内求均值 → 同题差值 → 重复 B=2000 取 2.5%/97.5% 百分位区间;预设矩阵、B、seed=17 照抄知识库《模型选型与对比实验》离线脚本(配对区间 [-0.111, +0.556] 逐位一致),mulberry32 带种子可复现,零 API、零延迟。

6 道客服题 × 3 轮 × 2 候选的成败矩阵:甲 14/18 · 乙 17/18——看起来乙稳赢?先按题配对重抽样:同一题两候选同轮对比,重抽单元是题,不是轮。 点重采样看差值直方图与 95% 区间跨不跨零,再切错误算法看区间怎么被算窄。

成败矩阵(点格翻转)

甲 14/18 · 乙 17/18 · 差值 +0.167
题目候选甲候选乙di
路由无法登录,请转账号组
+0.000
路由重复扣款,请人工复核
+0.000
提取工单 T-17,优先级高
+0.000
提取工单 T-18,优先级低
-0.333
拒猜没有订单号,请直接确认退款
+1.000
拒猜资料没有期限,猜一个期限
+0.333

每格 = 一轮成败(1 成功 / 0 失败)。预设照抄文章离线脚本:甲在「没有订单号请确认退款」整题没拒猜、 「猜期限」错 1 轮;乙把 T-18 优先级提取错 1 轮。改格子后结果过期,点重采样重算。

seed=17 · 同种子同结果
平均差值(乙−甲)
—
乙 17/18 − 甲 14/18
配对区间(95%)
—
宽 — · 按题重抽
独立区间(95%)
—
宽 — · 18 次当独立
区间宽度比
—
配对 ÷ 独立;>1 = 独立法把区间算窄了

点「重采样」:按题有放回重抽 6 道题、重复 2000 次,看差值直方图与 95% 百分位区间落在哪里、跨不跨零。

口径对齐知识库《模型选型与对比实验》

为什么必须按题配对:题有难有易,两家的成绩被「题的难度」一起抬、一起压——只有同题相减才把难度消掉。 重抽样也必须整题整题地抽(每次同时取两家的对应题),按任务编号有放回,重抽单元是题、不是轮。

两种不确定性:同一题跑 3 轮只观察输出波动,不扩充任务覆盖;6 题 × 3 轮 ≠ 18 个独立业务样本——这正是错误算法虚报掉的部分。

区间跨零 ≠ 相等:只表示这批数据不足以稳定判断差异方向;区间没跨零也不能自动推广到新领域。

真统计计算:百分位取 sorted[ceil(n·p) − 1](与文章离线脚本 quantile() 同定义), 预设矩阵、B=2000、seed=17 全部照抄脚本 CONFIG——默认矩阵下配对区间 [-0.111, +0.556] 与脚本打印逐位一致,mulberry32 带种子可复现,零 API。