slippedJim/ATOM_regen_seeklight_kimi_mtp

ATOM regen: seeklight kimi-mtp responses by Kimi-K3

用 Kimi-K3 对 lightseekorg/kimi-mtp-dataset 的 prompt 重新生成了一遍回答，供 off-policy 投机解码蒸馏（SDDD）使用。

原始 pipeline 每轮都要用 teacher 重新解码一次（Phase A1）。把回答预生成并缓存下来， A1 整个消失，之后每一轮训练都直接复用，代价从「每轮一次」变成「一共一次」。

数据

450,625 行，每行一段对话：

{"conversations": [
  {"role": "user", "content": "..."},
  {"role": "assistant", "reasoning_content": "...", "content": "..."}
]}

reasoning_content 是 K3 的 thinking 内容，和 content 分开存。 多轮对话保留了历史轮次里完整的 assistant reasoning——K3 就是这么训练的， 把历史 thinking 剥掉会留下空的 think block，与训练时的上下文不一致。

行数	450,625
单轮 / 多轮	322,985 / 127,640（多轮占 28.3%）
对话轮数 p50 / p90 / max	2 / 8 / 140
reasoning 字符数 p50 / p90	1,182 / 5,593
content 字符数 p50 / p90	763 / 3,459
图文对话（见「已知局限」）	122,812（占 27.3%）

已打乱（固定种子 20260815）。源数据集是按来源分块拼接的，不是乱序的： idx 0–275k 平均 prompt 770 token，350k–400k 整块只有 141，425k 之后整块是 3700 的长多轮。 这里打乱主要是为了让任意前缀切片都能代表全量分布——LumenRL 自己在预处理阶段 也会 ds.shuffle(seed)，所以对它的训练采样顺序而言这一步是冗余的。

生成配置

引擎	ATOM LLMEngine，TP=8，8×MI355X
采样	greedy（temperature=0）
thinking	thinking=true，thinking_effort=max（K3 模板默认值）
窗口	max_model_len=16384，KV cache fp8
生成预算	逐行 16384 - len(prompt) - 32，不是全局固定 max_tokens
prompt 渲染	LumenRL KimiK3Parser，与训练侧同一份实现

prompt 上限取 14304（= 16384 - 2048 - 32），保证每行至少剩 2048 token 作答。 这是生成窗口推出来的物理边界，不是训练超参：源数据 476,904 行里 只有 2,014 行的 prompt 本身就超过这个上限（最长一行 425,065 token）。

校验

每一行都做了 token 级往返校验，不是抽样：把生成结果拆成 reasoning/content、 塞回 conversation、用同一个 parser 重新渲染并 tokenize， 要求 prompt 段和 response 段都与引擎实际跑的 token 序列逐个相等。 拆分时不做 strip()——K3 会在 <|close|>think<|sep|> 之前留空格， strip 掉就少一个 token。

丢弃 24,265 / 474,890 行（5.11%），原因分布：

原因	行数	占比
response_mismatch	12,338	2.60%
no_think_close	6,340	1.34%
extra_channel	3,115	0.66%
no_response_close	1,803	0.38%
not_response_channel	669	0.14%

被丢弃的行是整行剔除，不做任何截断或修补：宁可少一行， 也不能把一段悄悄截掉的内容送进训练。

已知局限

• 不保证逐 token 复现。 即使 temperature=0，batched MoE 推理的 GEMM tiling、专家路由和 logit 归约顺序都依赖 batch 组成， 同一个 prompt 在不同 batch 里可能产出不同 token。长度分布在统计上一致。
• 回答长度长尾很重。 p95 达 6028 token，p99 顶到生成上限。 训练窗口小于这个值时会被截断——这对 teacher 自己生成的回答是无害的 （每个位置的目标仍是 K3 真实产出的下一个 token）， 但要注意 max_prompt_tokens 必须和窗口一起定， 否则长 prompt 的行会被截成「全是 prompt、没有 response」的废行。
• 122,812 行（27.3%）是图文对话，但回答是凭空编的。 源数据集把这些消息的 content 存成了字面 JSON 字符串 （[{"type":"image_url","image_url":{"url":"http://images.cocodataset.org/..."}}, ...]）。 K3 虽然是多模态模型，但这次生成走的是纯文本 token 路径，模型从没拿到图， 于是自信地编造内容（"Based on the image, this appears to be..."）。 这是源数据集的既有形态，本数据集原样透传，未做过滤。 要纯文本训练的话建议按首条 user 消息是否匹配 ^\s*\[\s*{\s*"type" 剔除。

与旧版 train-partial.jsonl 的可比性

本 repo 早期有一份 107,760 行的 train-partial.jsonl，它只覆盖了源数据集 前 ~11 万行——恰好落在一个高度同质的块内。全量版里只有 137,732 行 与它同源，其余 312,893 行（69%）是它从未包含的 prompt。

在共同的那 137,732 行上，两版回答的 gzip 压缩率同为 0.391、 长度 p50/p90 为 521/2360 vs 522/2359，生成是忠实一致的。 但新增部分的压缩率是 0.442，客观上更发散、更难预测。

所以拿全量版训练时，eval/simulated_acc_len 会明显低于在旧 partial 上 测到的值。这不是质量退化，是评测分布变宽了——尤其当 eval 集是从数据集 尾部切出来的时候（LumenRL 默认行为），换数据集就等于换了一把尺子。 跨数据集比较 acceptance length 之前，请先固定一份独立的 eval 集。