配对比较 bootstrap
两家候选在同一批题上各跑 3 轮:甲 14/18、乙 17/18——看起来乙稳赢?先按题配对重抽样再说。同一道题有难有易,只有同题相减才公平,重抽的单元是题、不是轮;点重采样看差值直方图与 95% 区间跨不跨零,再切错误算法对照:把 18 次重复当 18 个独立业务样本,区间会假性变窄。
纯前端真统计计算:按题有放回重抽 → 题内求均值 → 同题差值 → 重复 B=2000 取 2.5%/97.5% 百分位区间;预设矩阵、B、seed=17 照抄知识库《模型选型与对比实验》离线脚本(配对区间 [-0.111, +0.556] 逐位一致),mulberry32 带种子可复现,零 API、零延迟。
成败矩阵(点格翻转)
甲 14/18 · 乙 17/18 · 差值 +0.167每格 = 一轮成败(1 成功 / 0 失败)。预设照抄文章离线脚本:甲在「没有订单号请确认退款」整题没拒猜、 「猜期限」错 1 轮;乙把 T-18 优先级提取错 1 轮。改格子后结果过期,点重采样重算。
点「重采样」:按题有放回重抽 6 道题、重复 2000 次,看差值直方图与 95% 百分位区间落在哪里、跨不跨零。
为什么必须按题配对:题有难有易,两家的成绩被「题的难度」一起抬、一起压——只有同题相减才把难度消掉。 重抽样也必须整题整题地抽(每次同时取两家的对应题),按任务编号有放回,重抽单元是题、不是轮。
两种不确定性:同一题跑 3 轮只观察输出波动,不扩充任务覆盖;6 题 × 3 轮 ≠ 18 个独立业务样本——这正是错误算法虚报掉的部分。
区间跨零 ≠ 相等:只表示这批数据不足以稳定判断差异方向;区间没跨零也不能自动推广到新领域。
真统计计算:百分位取 sorted[ceil(n·p) − 1](与文章离线脚本 quantile() 同定义), 预设矩阵、B=2000、seed=17 全部照抄脚本 CONFIG——默认矩阵下配对区间 [-0.111, +0.556] 与脚本打印逐位一致,mulberry32 带种子可复现,零 API。