SeanWang0027/sciworld-newsplit-rollouts

ScienceWorld 蒸馏评测 rollout —— task-type 不相交 split

Qwen3-1.7B / Qwen3-4B 从 Qwen3-32B 蒸馏, 在 训练与测试题型完全不相交 的 ScienceWorld split 上的逐 episode rollout 记录。

对照的是两种蒸馏目标函数:

• OPD(on-policy distillation) teacher 给学生自己写的每个 token 打分, 分差当 per-token advantage。整条序列都有梯度。
• online ROSE 学生 rollout 到随机某个 turn(U[2,5]), teacher 接管写那一个 turn, cross-entropy 只加在 teacher 那些 token 上。学生自己的前缀 mask=0, 一点梯度都收不到。

两条的 lr 都是 1.0e-6, teacher / 步数 / batch / 采样 / prompt / split 全部相同 —— 唯一变量就是目标函数。

结果

配置	mean	peak	succ	failout	说明
1.7B OPD s250	0.3629	0.4726	0.1690	0.4151	Qwen3-1.7B ← Qwen3-32B, on-policy distillation, 250 步
1.7B ROSE s250	0.3469	0.4524	0.1575	0.4656	Qwen3-1.7B ← Qwen3-32B, online ROSE, 250 步
4B OPD s250	0.3944	0.4689	0.1315	0.3670	Qwen3-4B ← Qwen3-32B, on-policy distillation, 250 步
4B ROSE s250	0.3354	0.4158	0.0979	0.4365	Qwen3-4B ← Qwen3-32B, online ROSE, 250 步
Qwen3-32B	0.4250	0.5115	0.2064	0.3662	teacher, 未训练
Qwen3-4B	0.2008	0.2526	0.0711	0.5183	学生基线, 未训练
Qwen3-1.7B	0.0721	0.0913	0.0107	0.2469	学生基线, 未训练
gold	0.7399	0.7399	0.5145	0.0000	上界: 回放 ScienceWorld 自带的 gold action sequence
random	0.0281	0.0380	0.0000	0.5398	下界: 随机合法动作

mean = 每个 episode 结束时归一化得分的均值;peak = episode 过程中到达过的最高分 (ScienceWorld 允许倒扣, 所以 peak > mean);succ = 满分率;failout = 30 步内没做完的比例。

保留率 (模型 − 同尺寸未训练基线) / (teacher − 同尺寸未训练基线)

	mean 保留率	占 gold
1.7B OPD	82.4%	49.0%
1.7B ROSE	77.9%	46.9%
4B OPD	86.4%	53.3%
4B ROSE	60.0%	45.3%

⚠ 读这些数字前要知道的

1. gold 不是所有题型上的真上界。 它回放的是 ScienceWorld 自带的参考动作序列, 在 mendelian-genetics-unknown-plant(gold 0.276 vs 32B 0.304)和 inclined-plane-friction-unnamed-surfaces(0.219 vs 0.518)上, teacher 反而比 gold 高。 总的 0.7399 要打折扣看。

2. teacher 自己在三个题型上接近 0 —— freeze 0.000(gold 0.895)、 chemistry-mix-paint-tertiary-color 0.011(gold 0.878)。蒸馏拿不到这些分不是蒸馏的问题。

3. 题型权重很不均。 test-conductivity-of-unknown-substances 一个题型占 300/1308, 且它 mean 0.49 但 succ 只有 1% —— 典型的"拿部分分但做不完"。总均值对 split 组成敏感。

4. thought 契约, 不是 think。 Qwen3 的 chat template 在 enable_thinking=False 下会预先吐出一个闭合的 <think></think>, 模型不会再开一个 —— 11k 个记录 turn 里 出现率 0.0%。所以要求 <think> 推理的 prompt 是完全失效的。这里统一用 Thought: 一行 + <action></action>, 与训练侧一致。

文件

runs/<name>.json        原样产出: {"summary": {...}, "rollouts": [...]}
rollouts/<name>.jsonl   一行一个 rollout, 可直接 load_dataset("json", data_files=...)
summary.csv             上表的机器可读版
eval_code/              prompts_thought.py(评测契约) / evaluate.py / eval.sh

每个 rollout:

{"item_id": "...", "task_name": "...", "variation_idx": 53,
 "score": -100, "peak_score": 10, "norm_score": 0.0,
 "failed_out": true, "success": false, "steps": 3,
 "invalid": 0, "malformed": 0, "done": true,
 "trace": [{"response": "Thought: ...\n<action>go hallway</action>",
            "action": "go hallway", "obs": "You move to the hallway.", "score": 5}]}

trace 是完整的逐 turn 记录 —— 模型原文、解析出的动作、环境回复、当步得分。 invalid 数的是环境不认的动作(No known action matches 等), malformed 数的是 <action> 解析不出来的回复。这两个要分开看: 1.7B 基线 malformed 只有 1.7% 但 invalid 高达 54%, 说明它的问题不是格式而是走不通。

数据

split: SeanWang0027/scienceworld-tcod-split train 2294 / test 1308, 题型完全不相交(train 17 种, test 13 种, 交集为空)。 这里的所有数字都在 test 的全部 1308 题上跑, n=1, 30 步上限, temperature 1.0。

复现

cd eval_code
bash eval.sh --model <权重路径> --split <test.jsonl> --contract thought \
             --n 1 --max-env-steps 30 --thinking off