Beyond Heuristic Algorithm: dLLM Decoding Optimization

金义杰

2026-03-17

Learning to Parallel: Accelerating Diffusion Large Language Models via Learnable Parallel Decoding

Learn2PD: 数据构建 (Data Construction)

核心目标

学会判断「当前 Token 是否已经稳了」

数据来源

• FLAN 数据集：66 类任务 × 40 样本 = 2,640 个训练样本
• 上帝视角解码：Prompt + 参考答案，用 EGP 并行解码 跑完整轨迹

特征与标签

• 特征：每步各 Token 的 置信度分布
• 标签：比对参考答案，对记 1（Unmask），错记 0（继续 Mask）

收集成本

4×A6000，约 3 小时 完成全部数据收集

要训练出一个能判断“当前 Token 是否已经稳了”的模型，我们首先需要收集高质量的训练数据。这个过程其实非常巧妙而且低成本：

1. 样本选取： 作者选取了涵盖 66 种问题类型的 FLAN 数据集，每种类型挑 40 个样本，一共只用了 2,640 个样本来做训练集。
2. “上帝视角”跑数据： 给定这些样本的 Prompt 和真实参考答案（Reference Answer），强制开启前文提到的 EGP (Extremely Greedy Parallel) 策略 让大模型进行并行解码。
3. 记录特征与打标签：
   • 输入特征： 记录模型在每一步解码时，对各个 Token 预测所输出的 置信度 (Confidence Scores)。
   • 目标标签（Ground Truth）： 拿着模型的预测词和真实答案比对。如果模型这步预测的是对的，对应的标签 \(y_i\) 就记为 \(1\)（表示应该 Unmask）；如果错了，\(y_i\) 就记为 \(0\)（表示需要继续 Mask）。

结论： 整个数据收集过程非常轻量，在 4 张 A6000 显卡上只花了约 3 个小时 就收集完毕了。

Learn2PD: 训练策略 (Training Strategy)

核心思想

不动 dLLM，只训练一个 2 层 MLP 作为过滤器

模型架构 (Filter Model \(f_\theta\))

• 输入：Token 的置信度
• 输出：该 Token「已正确」的概率 Logit
• 通过 Sigmoid 得到 \(\sigma(z_i)\)

损失函数 (BCE Loss)

\(L_{\text{BCE}} = -\frac{1}{m} \sum_{i=1}^m \left[ y_i \log \sigma(z_i) + (1 - y_i) \log(1 - \sigma(z_i)) \right]\)

• \(y_i\)：数据标签（1=保留，0=重塑）
• \(z_i\)：MLP 输出的 Logit

训练开销（极小）

• Diffusion LLM 参数冻结，仅更新 MLP
• Block Size 32 时，可训练参数仅约 2,112 个
• 单张 T4：6 分钟 / 5000 Epoch 即可收敛

一句话总结

把复杂的解码控制压缩成几千参数的 二分类小头，便宜又好训。

拿到数据后，我们怎么做训练呢？作者并没有去动庞大的 Diffusion 大模型本身，而是把这个问题转化成了一个超级轻量的二分类任务。

1. 模型架构（Filter Model \(f_\theta\)）： 仅采用了一个两层结构的 MLP（多层感知机）。它的输入就是大模型输出的置信度，输出就是判定这个 Token 是不是已经正确的概率 Logit。

2. 优化目标： 本质上是一个标准的二元交叉熵损失（Binary Cross-Entropy Loss, BCE Loss），公式如下：

   \[\arg \min -\frac{1}{m} \sum_{i=1}^m \left[ y_i \log p_i + (1 - y_i) \log(1 - p_i) \right]\]

   具体到网络中，为了保证输出在 \([0, 1]\) 的合法概率区间，我们在过滤器输出的 Logit（记为 \(z_i\)）外包裹一层 \(\sigma\)（Sigmoid 函数），最终使用的 Loss 公式为：

   \[\mathcal{L}_{\text{BCE}} = -\frac{1}{m} \sum_{i=1}^m \left[ y_i \log \sigma(z_i) + (1 - y_i) \log(1 - \sigma(z_i)) \right]\]

   公式参数拆解：

   • \(m\)：当前迭代中处理的 Token 总数。
   • \(y_i\)：我们在第一步利用上帝视角收集到的真实标签（\(1\) 为正确可保留，\(0\) 为错误需重塑）。
   • \(z_i\)：我们的两层 MLP 模型 \(f_\theta\) 输出的判定值（Logit）。
   • \(\sigma(z_i)\)：最终预测出“这个 Token 已经正确，可以直接 Unmask”的概率。

3. 训练开销： 这也是这个方法最惊艳的地方。训练时，Diffusion LLM 的参数是完全冻结的，只需要更新这个 2 层 MLP。以 Block Size 为 32 为例，可训练参数量只有区区 2,112 个！在单张普通 T4 显卡上，只需 6 分钟 就能跑完 5000 个 Epoch 实现收敛。

Learn2PD: 推理执行 (Inference Process)

无参考答案场景

训练好的 MLP 过滤器 \(f_\theta\) 充当「裁判」

执行流程

1. 并行生成：Diffusion LLM 生成整块 Token 及其置信度
2. 快速裁决：置信度输入 2 层 MLP，零额外延迟 得到 \(\sigma(z_i)\)
3. 阈值判定（\(\tau = 0.96\)）：
   • \(\sigma(z_i) > \tau\)：Unmask，后续不再改动
   • \(\sigma(z_i) \le \tau\)：置为 [MASK]，继续 refinement
4. Block 终止：所有 Token 都 Unmask 时，该 Block 解码完成

核心优势

高优策略造数据 → 超小 MLP 训裁判 → 毫秒级裁决，避免无意义反复解码

到了实际的推理（Inference）阶段，我们就没有正确答案可以参考了。这时候，刚才用 6 分钟训练出来的 MLP 过滤器 \(f_\theta\) 就会替补上场，充当“裁判”。

1. 并行预测生成： Diffusion LLM 根据当前的输入（包含一堆 [MASK]）生成一组预测 Token 及其对应的置信度。
2. 过滤器快速裁决： 我们将这组置信度直接喂给 MLP 过滤器 \(f_\theta\)。由于 MLP 只有两层，这步的计算延迟完全可以忽略不计（Negligible overhead）。MLP 会输出每个 Token 已经正确的概率 \(\sigma(z_i)\)。
3. 引入阈值判定（Thresholding）： 模型设定了一个严谨的阈值 \(\tau\)（作者通过消融实验发现 \(\tau = 0.96\) 是速度和精度的黄金平衡点）：
   • 如果 \(\sigma(z_i) > \tau\)：裁判判定该 Token 已经生成完美，直接 Unmask，在后面的解码步中不再对它做任何修改。
   • 如果 \(\sigma(z_i) \leq \tau\)：裁判判定该 Token 还有不确定性，将其重新置为 [MASK]，交给下一轮去继续打磨。
4. 循环退出： 当一个 Block 里的所有 Token 都成功超过阈值被 Unmask 时，这一区块解码完成。

总结陈词： 通过这一整套机制，Learn2PD 形成了一个完美的闭环：用高优策略造数据 -> 极低成本训裁判 -> 毫秒级延迟做拦截。它巧妙避开了模型无意义的重复猜测操作，直接带来了数倍乃至几十倍的有效加速！

Efficient Diffusion LLMs via Temporal-Spatial Parallel Decoding and Confidence Extrapolation

1. 时空并行解码 (TSPD)

• 痛点：传统方法只看「当前一步」的置信度是否超阈值，单步、静态判断脆弱，忽略了时间轨迹和位置差异（靠后的 token 稳定更晚）。
• 机制：lightweight 序列控制器（2 层 LSTM）综合时间轨迹特征（置信度、熵、动量）+ 空间相对位置，每步直接输出二元决策（固定/继续降噪）。
• 优势：决策更鲁棒，准确识别已收敛或延迟稳定的 token，减少重复计算。

2. 置信度外推 (CE)

• 痛点：现有加速多是「被动等待」，置信度不够就只能继续降噪。
• 机制：Training-free，利用状态空间模型（类似卡尔曼滤波）预测 token 未来几步置信度走向及不确定性。
• 风险控制 (Risk-aware Horizon)：根据左侧上下文完成度及预测不确定性，动态决定可预测多远，历史可靠时才启用外推。
• 优势：化被动为主动，趋势稳定即可提前固定（Look-ahead），砍掉多余等待步数。

1. 图表内容解析 Figure 1 (Flip prob. vs. Step conf.)： 展示内容：对比了在相同的局部置信度下，具有“稳定轨迹”和“不稳定轨迹”的 Token 最终发生值改变（Flip）的概率。 核心结论：即使当前步的置信度完全一样，如果历史轨迹不稳定，该 Token 以后“翻脸”改值的概率会高出好几倍。 Figure 2 (Consistent steps vs. Token index)： 展示内容：横轴是 Token 在序列中的位置，纵轴是该位置 Token 保持值不变的步骤比例（代表稳定性）。 核心结论：越往右侧（序列后方）的 Token，稳定得越晚，保持一致性的步数越少。
2. 复杂版本：学术深度总结 论文引用这两张图是为了论证：传统的“步局部（Step-local）”和“空间均匀（Spatial-uniform）”的解码控制逻辑存在本质缺陷。

The authors focus on a fundamental problem: 扩散模型解码过程中的冗余计算。

通过这两张图，作者提出了两个关键洞察：

时间维度的非独立性（Fig. 1）：扩散模型的置信度并不是均匀校准的。单纯看某一步的置信度快照（Snapshot）会产生歧义，因为“看似自信”的 Token 可能正处于剧烈波动的轨迹中。必须引入时间轨迹特征（如动量、熵的变化趋势）来识别真正的收敛。 空间维度的非均匀性（Fig. 2）：解码过程存在结构化的空间效应。右侧 Token 依赖左侧上下文的稳定，因此呈现延迟稳定（Delayed Stabilization）的特征。 The authors appear to assess a central concept: 将解码视为一个动态控制问题，而非一系列独立的阈值测试。

基于此，作者开发了 TSPD（时空并行解码）。它不再使用全局统一的静态阈值，而是利用一个轻量级控制器（LSTM）同时吸收时间轨迹信号（Fig. 1 的启示）和相对位置编码（Fig. 2 的启示），从而做出更鲁棒的“锁定（Fix）”决策。

3. 简单版本：直白总结 这两张图解释了为什么现在的加速方法“不够聪明”：

图 1 告诉我们：别只看现在，要看历史。 就像判断一个学生能不能考好，不能只看他某一次模拟考的分数（当前置信度），还得看他最近几次考试是一直很稳还是忽高忽低（历史轨迹）。只看当前的加速方法容易“看走眼”，导致提前锁定错误的词。 图 2 告诉我们：位置很重要。 句子后面的词通常比前面的词更难确定，稳定得更慢。现在的加速方法对所有位置都用同一个标准，这显然不合理。 总体总结： 因为“只看当前步”和“不管位置”的方法不靠谱，所以作者发明了新招：TSPD 盯住每个词的动态变化趋势和它在句子里的位置，CE（置信度外推） 则像天气预报一样预测这个词未来稳不稳定。两招结合，让模型不用跑完全部流程就能提前知道哪些词已经算对了，从而实现巨大的提速（最高 58 倍）。

问题所在：为什么不理解“轨迹”会出事？ 论文中提到的问题在于，如果你只设定一个简单的规则（例如：置信度达到 0.9 就停止计算并锁定）：

对于“摇摆者”： 有些 Token 可能会偶然冲到 0.9，但它的轨迹显示它并不稳定。如果你此时把它“锁死”，它就失去了在后续步骤中修正回正确答案的机会。这就是过早提交（Premature Commitment）导致的质量下降。 对于“潜力股”： 有些正确的词，其置信度上升得非常稳，但爬得慢（比如一直维持在 0.7-0.8）。传统的规则会一直让它“重算、重算、重算”，直到它磨叽到 0.9。但如果看轨迹，我们其实早就能预测它肯定会赢。如果不提前锁定它，就会造成冗余计算（Redundant Denoising）。 论文的研究发现 The authors focus on a fundamental problem: 扩散模型中“置信度”与“稳定性”的不匹配。

在 Figure 1 中，作者展示了一个令人惊讶的事实：

两个 Token 现在的置信度都是 0.7。 如果一个是“稳定爬升”的，它以后改主意的概率（Flip prob.）接近 0。 如果一个是“震荡不安”的，它以后改主意的概率可能高达 40%。 The authors appear to assess a central concept: 利用时间维度的“动量（Momentum）”和“熵（Entropy）”的变化，来提供比单一置信度更可靠的信号。

总结一句话： “Stable Trace”的问题就在于：置信度的高低（海拔）不代表它是否已经安全（是否已经收敛）。 只有观察它走过来的路径（轨迹），我们才能区分谁是真的“学会了”，谁只是“碰巧猜对了一瞬间”。

现有启发式方案的不足

被动等待

• 不要死等：趋势一致时置信度可预测，外推法能提前锁定；“Potential to save”即死等 0.9 的浪费
• 并非个例：约 44.9% 的步骤里 Token 已定型，模型仍在反复确认

其他关键不足

1. 太死板（阈值脆弱）：固定 \(\tau\) 缺乏输入自适应性，A 任务好用换 B 任务可能过激或过保守
2. 没耐心（延迟稳定）：无法区分“大器晚成”与“彻底错误”，低置信度直接重算导致不必要重复掩码
3. 不合群（系统兼容）：与 KV Cache 结合差，打破缓存连续性反而增加单步延迟

总结

现有方案将扩散解码视为独立阈值测试，而非动态控制问题；在处理非对齐置信度与位置异质性时乏力。

• Fig 3：置信度曲线，外推法提前预测达标；Standard thres 死等 0.9
• Fig 4：44.9% 步骤已定型仍反复确认
• CE 动机：State-space model 预测置信度+不确定性；Fig 4 揭示加速上限
• 直白版：太死板 / 没耐心 / 不合群

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)： 展示内容：一个 Token 置信度随时间变化的曲线。图中显示，Token 的置信度在很早的时候就开始稳定上升（Real）。传统的策略（Standard thres）必须等到它跨过 0.9 那条红线才停止；而作者提出的外推法（Extrapolated）能提前预测它会达标。 核心结论：如果只是“被动”等待置信度达标，会浪费大量已经可以预测的步骤。 Figure 4 (Distribution of consistent steps ratio)： 展示内容：统计了有多少比例的 Token 在最终确定前，已经表现出了长时间的“值不再改变”。图中显示平均有 44.9% 的步骤，Token 其实已经算对了，但模型还在反复确认。 核心结论：解码过程中存在巨大的“提前预测”空间。 2. 文中引用部分讨论的问题 在论文的 3.1.2 节，作者引用这两张图重点讨论了一个观点：“被动等待错失了可预测的加速机会（Passive Waiting Misses Forecastable Acceleration）”。

The authors focus on a fundamental problem: 现有控制器通常只能在不确定时被动地运行更多去噪步骤，直到越过阈值。

对 Fig 3 的引用：作者指出，一旦一个 Token 进入了“趋势一致（Trend-consistent）”的状态，它未来的置信度其实是可以从一小段前缀预测出来的。图中展示的“Potential to save”部分，就是因为模型太死板，非要等那个数字跳到 0.9 才肯放手。 对 Fig 4 的引用：作者通过数据证明，这种情况并非个例。大量的 Token 在生成的中期就已经“定型”了（保持一致）。这说明扩散模型在做很多无用功。 The authors appear to assess a central concept: 主动预测（Proactive Forecasting）。他们认为不应该“等”信号达标，而应该“预测”信号何时达标。

3. 两个版本的总结 简单版本： 图 3 说：不要死等。 就像你看进度条，如果它一直匀速走，你其实能猜到它什么时候完，不用死盯着屏幕。现在的模型太笨，非要看到 100% 才停。 图 4 说：浪费很多。 数据显示，接近一半的计算时间里，词其实已经填对了，但模型还在那儿翻来覆去地重新计算。 结论：如果能像天气预报一样预测置信度的走势，就能省下大把时间。 复杂版本（学术）： 作者论证了扩散模型解码具有可外推性。

• 直白版：太死板 / 没耐心 / 不合群

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)： 展示内容：一个 Token 置信度随时间变化的曲线。图中显示，Token 的置信度在很早的时候就开始稳定上升（Real）。传统的策略（Standard thres）必须等到它跨过 0.9 那条红线才停止；而作者提出的外推法（Extrapolated）能提前预测它会达标。 核心结论：如果只是“被动”等待置信度达标，会浪费大量已经可以预测的步骤。 Figure 4 (Distribution of consistent steps ratio)： 展示内容：统计了有多少比例的 Token 在最终确定前，已经表现出了长时间的“值不再改变”。图中显示平均有 44.9% 的步骤，Token 其实已经算对了，但模型还在反复确认。 核心结论：解码过程中存在巨大的“提前预测”空间。 2. 文中引用部分讨论的问题 在论文的 3.1.2 节，作者引用这两张图重点讨论了一个观点：“被动等待错失了可预测的加速机会（Passive Waiting Misses Forecastable Acceleration）”。

The authors focus on a fundamental problem: 现有控制器通常只能在不确定时被动地运行更多去噪步骤，直到越过阈值。

对 Fig 3 的引用：作者指出，一旦一个 Token 进入了“趋势一致（Trend-consistent）”的状态，它未来的置信度其实是可以从一小段前缀预测出来的。图中展示的“Potential to save”部分，就是因为模型太死板，非要等那个数字跳到 0.9 才肯放手。 对 Fig 4 的引用：作者通过数据证明，这种情况并非个例。大量的 Token 在生成的中期就已经“定型”了（保持一致）。这说明扩散模型在做很多无用功。 The authors appear to assess a central concept: 主动预测（Proactive Forecasting）。他们认为不应该“等”信号达标，而应该“预测”信号何时达标。

3. 两个版本的总结 简单版本： 图 3 说：不要死等。 就像你看进度条，如果它一直匀速走，你其实能猜到它什么时候完，不用死盯着屏幕。现在的模型太笨，非要看到 100% 才停。 图 4 说：浪费很多。 数据显示，接近一半的计算时间里，词其实已经填对了，但模型还在那儿翻来覆去地重新计算。 结论：如果能像天气预报一样预测置信度的走势，就能省下大把时间。 复杂版本（学术）： 作者论证了扩散模型解码具有可外推性。

• 直白版：太死板 / 没耐心 / 不合群

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)： 展示内容：一个 Token 置信度随时间变化的曲线。图中显示，Token 的置信度在很早的时候就开始稳定上升（Real）。传统的策略（Standard thres）必须等到它跨过 0.9 那条红线才停止；而作者提出的外推法（Extrapolated）能提前预测它会达标。 核心结论：如果只是“被动”等待置信度达标，会浪费大量已经可以预测的步骤。 Figure 4 (Distribution of consistent steps ratio)： 展示内容：统计了有多少比例的 Token 在最终确定前，已经表现出了长时间的“值不再改变”。图中显示平均有 44.9% 的步骤，Token 其实已经算对了，但模型还在反复确认。 核心结论：解码过程中存在巨大的“提前预测”空间。 2. 文中引用部分讨论的问题 在论文的 3.1.2 节，作者引用这两张图重点讨论了一个观点：“被动等待错失了可预测的加速机会（Passive Waiting Misses Forecastable Acceleration）”。

The authors focus on a fundamental problem: 现有控制器通常只能在不确定时被动地运行更多去噪步骤，直到越过阈值。

对 Fig 3 的引用：作者指出，一旦一个 Token 进入了“趋势一致（Trend-consistent）”的状态，它未来的置信度其实是可以从一小段前缀预测出来的。图中展示的“Potential to save”部分，就是因为模型太死板，非要等那个数字跳到 0.9 才肯放手。 对 Fig 4 的引用：作者通过数据证明，这种情况并非个例。大量的 Token 在生成的中期就已经“定型”了（保持一致）。这说明扩散模型在做很多无用功。 The authors appear to assess a central concept: 主动预测（Proactive Forecasting）。他们认为不应该“等”信号达标，而应该“预测”信号何时达标。

3. 两个版本的总结 简单版本： 图 3 说：不要死等。 就像你看进度条，如果它一直匀速走，你其实能猜到它什么时候完，不用死盯着屏幕。现在的模型太笨，非要看到 100% 才停。 图 4 说：浪费很多。 数据显示，接近一半的计算时间里，词其实已经填对了，但模型还在那儿翻来覆去地重新计算。 结论：如果能像天气预报一样预测置信度的走势，就能省下大把时间。 复杂版本（学术）： 作者论证了扩散模型解码具有可外推性。

• 直白版：太死板 / 没耐心 / 不合群

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)： 展示内容：一个 Token 置信度随时间变化的曲线。图中显示，Token 的置信度在很早的时候就开始稳定上升（Real）。传统的策略（Standard thres）必须等到它跨过 0.9 那条红线才停止；而作者提出的外推法（Extrapolated）能提前预测它会达标。 核心结论：如果只是“被动”等待置信度达标，会浪费大量已经可以预测的步骤。 Figure 4 (Distribution of consistent steps ratio)： 展示内容：统计了有多少比例的 Token 在最终确定前，已经表现出了长时间的“值不再改变”。图中显示平均有 44.9% 的步骤，Token 其实已经算对了，但模型还在反复确认。 核心结论：解码过程中存在巨大的“提前预测”空间。 2. 文中引用部分讨论的问题 在论文的 3.1.2 节，作者引用这两张图重点讨论了一个观点：“被动等待错失了可预测的加速机会（Passive Waiting Misses Forecastable Acceleration）”。

The authors focus on a fundamental problem: 现有控制器通常只能在不确定时被动地运行更多去噪步骤，直到越过阈值。

对 Fig 3 的引用：作者指出，一旦一个 Token 进入了“趋势一致（Trend-consistent）”的状态，它未来的置信度其实是可以从一小段前缀预测出来的。图中展示的“Potential to save”部分，就是因为模型太死板，非要等那个数字跳到 0.9 才肯放手。 对 Fig 4 的引用：作者通过数据证明，这种情况并非个例。大量的 Token 在生成的中期就已经“定型”了（保持一致）。这说明扩散模型在做很多无用功。 The authors appear to assess a central concept: 主动预测（Proactive Forecasting）。他们认为不应该“等”信号达标，而应该“预测”信号何时达标。

3. 两个版本的总结 简单版本： 图 3 说：不要死等。 就像你看进度条，如果它一直匀速走，你其实能猜到它什么时候完，不用死盯着屏幕。现在的模型太笨，非要看到 100% 才停。 图 4 说：浪费很多。 数据显示，接近一半的计算时间里，词其实已经填对了，但模型还在那儿翻来覆去地重新计算。 结论：如果能像天气预报一样预测置信度的走势，就能省下大把时间。 复杂版本（学术）： 作者论证了扩散模型解码具有可外推性。

• 直白版：太死板 / 没耐心 / 不合群

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)：

（以下为原详细笔记，可删） Figure 3 (Missed acceleration opportunity)： 展示内容：一个 Token 置信度随时间变化的曲线。图中显示，Token 的置信度在很早的时候就开始稳定上升（Real）。传统的策略（Standard thres）必须等到它跨过 0.9 那条红线才停止；而作者提出的外推法（Extrapolated）能提前预测它会达标。 核心结论：如果只是“被动”等待置信度达标，会浪费大量已经可以预测的步骤。 Figure 4 (Distribution of consistent steps ratio)： 展示内容：统计了有多少比例的 Token 在最终确定前，已经表现出了长时间的“值不再改变”。图中显示平均有 44.9% 的步骤，Token 其实已经算对了，但模型还在反复确认。 核心结论：解码过程中存在巨大的“提前预测”空间。 2. 文中引用部分讨论的问题 在论文的 3.1.2 节，作者引用这两张图重点讨论了一个观点：“被动等待错失了可预测的加速机会（Passive Waiting Misses Forecastable Acceleration）”。

The authors focus on a fundamental problem: 现有控制器通常只能在不确定时被动地运行更多去噪步骤，直到越过阈值。

对 Fig 3 的引用：作者指出，一旦一个 Token 进入了“趋势一致（Trend-consistent）”的状态，它未来的置信度其实是可以从一小段前缀预测出来的。图中展示的“Potential to save”部分，就是因为模型太死板，非要等那个数字跳到 0.9 才肯放手。 对 Fig 4 的引用：作者通过数据证明，这种情况并非个例。大量的 Token 在生成的中期就已经“定型”了（保持一致）。这说明扩散模型在做很多无用功。 The authors appear to assess a central concept: 主动预测（Proactive Forecasting）。他们认为不应该“等”信号达标，而应该“预测”信号何时达标。

3. 两个版本的总结 简单版本： 图 3 说：不要死等。 就像你看进度条，如果它一直匀速走，你其实能猜到它什么时候完，不用死盯着屏幕。现在的模型太笨，非要看到 100% 才停。 图 4 说：浪费很多。 数据显示，接近一半的计算时间里，词其实已经填对了，但模型还在那儿翻来覆去地重新计算。 结论：如果能像天气预报一样预测置信度的走势，就能省下大把时间。 复杂版本（学术）： 作者论证了扩散模型解码具有可外推性。

主动控制的必要性：目前的 dLLM 加速器是响应式的（Reactive），而作者提倡前瞻式的（Anticipatory）。 置信度外推（CE）的动机：基于 Fig 3 的观察，作者设计了基于状态空间模型（State-space model）的 CE 模块。它不仅预测未来的置信度数值，还计算预测的不确定性（Uncertainty）。 效率上限的挖掘：Fig 4 揭示了理论上的加速上限——如果我们能完美预测所有进入“稳定区”的 Token，推理速度可以提升一倍以上。这为 TSPD 结合 CE 模块提供了强有力的实证支持。

除了我们详细讨论过的轨迹稳定性（Fig. 1&2）和被动等待（Fig. 3&4）之外，作者在 Preliminary (3.1.2) 以及 Introduction 中还提到了现有方案（如 Fast-dLLM, Learn2PD, Prophet 等）的以下几个关键不足： 1. 阈值调优的“脆弱性”与“工作负载敏感性” (Fragility & Sensitive to Variation)

问题：现有的方法（无论是手动设定的规则还是学习出来的分类器）最终通常都依赖一个固定的阈值 \(\tau\)（Static Threshold）。 后果：由于扩散模型在不同提示词（Prompt）、不同领域（Domain）以及不同任务下的置信度分布是不均匀的（Not uniformly calibrated），一个在 A 任务上表现良好的阈值，在 B 任务上可能就会因为太激进导致错误，或因为太保守而没提速。 总结：现有方案缺乏输入自适应性。

2. 忽略了“延迟稳定”现象 (Delayed Stabilization)

问题：作者提到有些 Token 虽然最终是正确的，但它们在生成初期会经历一段很长时间的“低置信度”阶段。 后果：简单的“局部规则”看到低置信度就会要求模型重算。 总结：现有方案无法识别哪些 Token 是“大器晚成”（需要等待上下文），哪些是“彻底错误”，导致了不必要的重复掩码（Repeated Remasking）。

3. 系统兼容性的缺失 (Missing Synergy with System Optimizations)

问题：很多算法层面的加速方案在设计时，没有充分考虑如何与底层的系统级优化（如 KV Caching）无缝结合。 后果：有些方案虽然减少了步骤，但打破了 KV Cache 的连续性，导致单步延迟反而增加。 总结：作者强调 TSPD 的优势之一是它能与 KV Cache “Cleanly compose”（干净地组合），从而实现叠加的加速效果。

除了我们详细讨论过的轨迹稳定性（Fig. 1&2）和被动等待（Fig. 3&4）之外，作者在 Preliminary (3.1.2) 以及 Introduction 中还提到了现有方案（如 Fast-dLLM, Learn2PD, Prophet 等）的以下几个关键不足： 1. 阈值调优的“脆弱性”与“工作负载敏感性” (Fragility & Sensitive to Variation)

问题：现有的方法（无论是手动设定的规则还是学习出来的分类器）最终通常都依赖一个固定的阈值 \(\tau\)（Static Threshold）。 后果：由于扩散模型在不同提示词（Prompt）、不同领域（Domain）以及不同任务下的置信度分布是不均匀的（Not uniformly calibrated），一个在 A 任务上表现良好的阈值，在 B 任务上可能就会因为太激进导致错误，或因为太保守而没提速。 总结：现有方案缺乏输入自适应性。

2. 忽略了“延迟稳定”现象 (Delayed Stabilization)

问题：作者提到有些 Token 虽然最终是正确的，但它们在生成初期会经历一段很长时间的“低置信度”阶段。 后果：简单的“局部规则”看到低置信度就会要求模型重算。 总结：现有方案无法识别哪些 Token 是“大器晚成”（需要等待上下文），哪些是“彻底错误”，导致了不必要的重复掩码（Repeated Remasking）。

3. 系统兼容性的缺失 (Missing Synergy with System Optimizations)

问题：很多算法层面的加速方案在设计时，没有充分考虑如何与底层的系统级优化（如 KV Caching）无缝结合。 后果：有些方案虽然减少了步骤，但打破了 KV Cache 的连续性，导致单步延迟反而增加。 总结：作者强调 TSPD 的优势之一是它能与 KV Cache “Cleanly compose”（干净地组合），从而实现叠加的加速效果。

综合学术总结

The authors focus on a fundamental problem: 现有方案将扩散解码视为一系列独立的阈值测试，而非一个连续的动态控制问题。

The authors appear to assess a central concept: 现有的加速器在处理非对齐置信度（Miscalibrated Confidence）和位置异质性（Positional Heterogeneity）时表现乏力，导致了性能与质量之间的“跷跷板”效应。

简单直白版本 除了前面说的“不看历史”和“死等”，作者还吐槽了：

太死板：调好一个参数换个题可能就不灵了。 没耐心：有些词前面表现不好但后面能对，老方案没法识别这种“潜力股”，直接打回重算。 不合群：很多加速方案没法跟那种专门提速的硬件缓存技术（KV Cache）一起用，导致实际提速并不明显。

TSPD (Temporal and Spatial Parallel Decoding)

Part 1 时空特征向量 \(r_i^{(t)} = [p_i^{(t)}, H_i^{(t)}, \Delta \bar{p}_i^{(t)}, \phi(i)]\) - 置信度、熵、动量/趋势、相对位置，综合时间轨迹与空间异质性

Part 2 序列感知控制器 \(h_i^{(t)} = f_{\psi}(h_i^{(t-1)}, r_i^{(t)})\), \(z_i^{(t)} = W h_i^{(t)} + b\) - 2 层 LSTM（~2k 参数）记忆历史轨迹，输出 Logit

Part 3 动作决策 \(a_i^{(t)} = I(\sigma(z_i^{(t)}) \geq 0.5)\) - \(a_i=1\) 锁定；\(a_i=0\) 继续去噪；用 STE 解决离散可微

训练 \(L_{gate} = \text{BCEWithLogits}(z_i^{(t)}, y_i^{(t)})\)，\(y_i^{(t)}\) 为 Oracle 标签（当前预测与最终一致则为 1）

对比：传统方案用 \(p_i^{(t)} > \tau\) 静态阈值，单步快照、易误判；TSPD 用 \(f_{\psi}(\text{Trace}, \text{Position}) \to \{0,1\}\) 动态控制，看轨迹、更鲁棒

亮点

• 极轻量：额外开销约 0.3%
• 高性能：GSM8K 上 5.0x（无缓存）~ 11.2x（有缓存）
• 通用性：LLaDA、Dream-7B 等架构验证

5k epoch：损失由 ~0.7 速降至 ~0.28 后平稳收敛；验证略高于训练且无分叉，表明轻量控制器有效收敛、泛化偏差小、未过拟合。

Part 1: 时空特征向量 (Temporal-Spatial Features)

TSPD 的核心是不再只看当前的置信度，而是构造一个包含时间动态和空间位置的特征向量 \(r_i^{(t)}\)。

公式： \[r_i^{(t)} \triangleq [p_i^{(t)}, H_i^{(t)}, \Delta \bar{p}_i^{(t)}, \phi(i)] \tag{3}\]

• \(p_i^{(t)}\) (Confidence): 当前步骤 \(t\) 位置 \(i\) 的最大概率值。
• \(H_i^{(t)}\) (Entropy): 预测分布的熵，衡量不确定性。
• \(\Delta \bar{p}_i^{(t)}\) (Momentum): 指数移动平均置信度的一阶差分，代表动量/趋势。
• \(\phi(i)\) (Spatial Position): Token 的相对位置编码（\(i/L\)），捕捉空间异质性。

Part 2: 序列感知的二进制控制器 (Sequential Controller)

TSPD 使用一个轻量级的循环神经网络（如 LSTM/GRU）来记忆轨迹信息，而不是做独立的快照测试。

公式： \[h_i^{(t)} = f_{\psi}(h_i^{(t+1)}, r_i^{(t)}) \tag{4}\] \[z_i^{(t)} = W h_i^{(t)} + b \tag{5}\]

• \(f_{\psi}\): 轻量级控制器（论文中使用 2 层 LSTM，仅约 2000 个参数）。
• \(h_i^{(t)}\): 隐藏状态，储存了该 Token 走过的“历史轨迹”信息。
• \(z_i^{(t)}\): 输出的 Logit 值。

Part 3: 动作决策与直通估计 (Hard Gating & STE)

TSPD 直接输出“固定”或“继续”的二进制指令，并通过 STE（Straight-Through Estimator）解决离散决策的训练问题。

决策公式： \[a_i^{(t)} = \mathbb{I}(\sigma(z_i^{(t)}) \geq 0.5) \tag{6}\]

• \(a_i^{(t)} = 1\): 该 Token 已经收敛，锁定（Fix），后续步骤不再更新。
• \(a_i^{(t)} = 0\): 该 Token 不稳定，继续（Continue）参与去噪。

训练损失函数 (Oracle Imitation): \[\mathcal{L}_{gate} = \frac{1}{LT} \sum_{t=0}^{T} \sum_{i=1}^{L} \text{BCEWithLogits}(z_i^{(t)}, y_i^{(t)}) \tag{7}\] * \(y_i^{(t)}\): Oracle 标签（如果当前预测与最终生成一致，则为 1）。

Slide 制作建议 (核心 Point)

• 标题： TSPD: From Threshold Testing to Dynamic Control
• 对比：
  • Old Way: \(p_i^{(t)} > \tau\) (基于当前置信度的静态阈值) —— 脆性、冗余
  • TSPD Way: \(f_{\psi}(\text{Trace}, \text{Position}) \to \{0, 1\}\) (基于时空轨迹的动态控制) —— 鲁棒、高效
• 亮点：
  • 极轻量： 额外开销仅占模型前向传播的 0.3%。
  • 高性能： 在 GSM8K 上实现 5.0x（无缓存）到 11.2x（有缓存）的加速。
  • 通用性： 论文证明了其在 LLaDA, Dream-7B 等多种 dLLM 架构上的泛化能力。

TSPD 控制器的训练和验证损失随 5,000 个 epoch 的变化情况。训练初期两者的损失值迅速从约 0.7 降至 0.28 左右，随后进入平稳下降的微调阶段并最终趋于稳定，验证曲线始终略高于训练曲线且未出现明显分叉，这表明该轻量化控制器已有效收敛，且在保持较小泛化偏差的同时避免了严重的过拟合。

TSPD 输入信号 \(r_i^{(t)}\) 详解

	原始版 (4 维)	扩展版 (6 维)
目的	验证有效性	生产用稳健版
差异	基础置信度+位置	+ \(\bar{p}\) 平滑 + \(u\) 不确定性

A. 基础瞬时

1. \(p_i^{(t)} = \max_{v \in [V]} p_\theta(v \mid c, x^{(t)})\) — 置信度，模型当前步的“自信”
2. \(H_i^{(t)} = -\sum_v p_i^{(t)}(v) \log p_i^{(t)}(v)\) — 熵，低熵=集中、高熵=犹豫

B. 时间趋势

3. \(\bar{p}_i^{(t)} = \alpha p_i^{(t)} + (1-\alpha)\bar{p}_i^{(t+1)}\)（\(\alpha=0.25\)）— EWMA 平滑去噪
4. \(\Delta \bar{p}_i^{(t)} = \bar{p}_i^{(t)} - \bar{p}_i^{(t+1)}\) — 动量，正值=收敛、负值=分歧

C. 空间与不确定性

5. \(\phi(i) = \frac{i}{L-1}\) — 相对位置，右侧 Token 需更久稳定（Fig. 2）
6. \(u_i^{(t)} = \text{Var}(\delta_{i,t+h})\) — CE 预测方差，大则谨慎锁定

Part 1: 时空特征向量 (Temporal-Spatial Features)

TSPD 的核心是不再只看当前的置信度，而是构造一个包含时间动态和空间位置的特征向量 \(r_i^{(t)}\)。

公式： \[r_i^{(t)} \triangleq [p_i^{(t)}, H_i^{(t)}, \Delta \bar{p}_i^{(t)}, \phi(i)] \tag{3}\]

• \(p_i^{(t)}\) (Confidence): 当前步骤 \(t\) 位置 \(i\) 的最大概率值。
• \(H_i^{(t)}\) (Entropy): 预测分布的熵，衡量不确定性。
• \(\Delta \bar{p}_i^{(t)}\) (Momentum): 指数移动平均置信度的一阶差分，代表动量/趋势。
• \(\phi(i)\) (Spatial Position): Token 的相对位置编码（\(i/L\)），捕捉空间异质性。

Part 2: 序列感知的二进制控制器 (Sequential Controller)

TSPD 使用一个轻量级的循环神经网络（如 LSTM/GRU）来记忆轨迹信息，而不是做独立的快照测试。

公式： \[h_i^{(t)} = f_{\psi}(h_i^{(t+1)}, r_i^{(t)}) \tag{4}\] \[z_i^{(t)} = W h_i^{(t)} + b \tag{5}\]

• \(f_{\psi}\): 轻量级控制器（论文中使用 2 层 LSTM，仅约 2000 个参数）。
• \(h_i^{(t)}\): 隐藏状态，储存了该 Token 走过的“历史轨迹”信息。
• \(z_i^{(t)}\): 输出的 Logit 值。

Part 3: 动作决策与直通估计 (Hard Gating & STE)

TSPD 直接输出“固定”或“继续”的二进制指令，并通过 STE（Straight-Through Estimator）解决离散决策的训练问题。

决策公式： \(a_i^{(t)} = \mathbb{I}(\sigma(z_i^{(t)}) \geq 0.5) \tag{6}\)

• \(a_i^{(t)} = 1\): 该 Token 已经收敛，锁定（Fix），后续步骤不再更新。
• \(a_i^{(t)} = 0\): 该 Token 不稳定，继续（Continue）参与去噪。

训练损失函数 (Oracle Imitation): \[\mathcal{L}_{gate} = \frac{1}{LT} \sum_{t=0}^{T} \sum_{i=1}^{L} \text{BCEWithLogits}(z_i^{(t)}, y_i^{(t)}) \tag{7}\] * \(y_i^{(t)}\): Oracle 标签（如果当前预测与最终生成一致，则为 1）。

Slide 制作建议 (核心 Point)

• 标题： TSPD: From Threshold Testing to Dynamic Control
• 对比：
  • Old Way: \(p_i^{(t)} > \tau\) (基于当前置信度的静态阈值) —— 脆性、冗余
  • TSPD Way: \(f_{\psi}(\text{Trace}, \text{Position}) \to \{0, 1\}\) (基于时空轨迹的动态控制) —— 鲁棒、高效
• 亮点：
  • 极轻量： 额外开销仅占模型前向传播的 0.3%。
  • 高性能： 在 GSM8K 上实现 5.0x（无缓存）到 11.2x（有缓存）的加速。
  • 通用性： 论文证明了其在 LLaDA, Dream-7B 等多种 dLLM 架构上的泛化能力。

提示： 论文中的公式 3 在附录 A.3 中有一个扩展版本 \(r_i^{(t)} = [c_i^{(t)}, H_i^{(t)}, \bar{c}_i^{(t)}, \Delta \bar{c}_i^{(t)}, \phi(i), u_i^{(t)}]\)。如果你的 Slide 需要更细致，可以提到这个版本加入了移动平均值 \(\bar{c}\) 和外推不确定性 \(u\)。

为了确保你的 Slide 具有严谨的学术性和准确性，我根据论文正文（Section 3.2）和附录（Appendix A.3 & A.7）整理了 TSPD 输入信号的原始版本与扩展版本的详细对比、计算公式及物理意义。

1. 信号演进对比表

特性	原始版本 (正文 Eq. 3)	扩展/完整版本 (附录 A.3)
设计目的	验证时空控制的基本有效性	实际生产/实验中使用的稳健版本
核心差异	基础置信度与位置	引入平滑平稳信号与预测不确定性
维度	4 维特征	6 维特征

2. 信号特征详细拆解

对于每一个 Token 位置 \(i\) 在第 \(t\) 步，其特征向量 \(r_i^{(t)}\) 包含以下维度：

A. 基础瞬时信号 (Instantaneous Signals)

1. 置信度 (Top-1 Confidence) \(p_i^{(t)}\)
   • 公式： \(p_i^{(t)} = \max_{v \in [V]} p_\theta(v | c, x^{(t)})\)
   • 解释： 当前步模型预测概率最大的 Token 的概率值。反映了模型在这一瞬间的“自信”程度。
2. 预测熵 (Predictive Entropy) \(H_i^{(t)}\)
   • 公式： \(H_i^{(t)} = -\sum_{v} p_i^{(t)}(v) \log p_i^{(t)}(v)\)
   • 解释： 衡量整个概率分布的混乱程度。低熵表示模型预测非常集中，高熵表示模型还在犹豫。

B. 时间趋势信号 (Temporal Dynamics)

3. 平滑置信度 (EWMA Confidence) \(\bar{p}_i^{(t)}\) (仅限扩展版)
   • 公式： \(\bar{p}_i^{(t)} = \alpha p_i^{(t)} + (1-\alpha)\bar{p}_i^{(t+1)}\) (附录 A.3, \(\alpha=0.25\))
   • 解释： 使用指数移动平均（EWMA）过滤掉去噪过程中的高频随机噪声，获得更稳定的置信度信号。
4. 置信度动量 (Confidence Momentum) \(\Delta \bar{p}_i^{(t)}\)
   • 公式： \(\Delta \bar{p}_i^{(t)} = \bar{p}_i^{(t)} - \bar{p}_i^{(t+1)}\)
   • 解释： 连续两步平滑置信度的差值。物理意义： 正值代表模型正在逐渐收敛并达成共识；负值或剧烈波动代表模型正在产生分歧。

C. 空间与不确定性信号 (Spatial & Proactive Signals)

5. 相对空间位置 (Relative Position) \(\phi(i)\)
   • 公式： \(\phi(i) = \frac{i}{L - 1}\)
   • 解释： Token 在生成序列中的相对比例位置（0 到 1 之间）。
   • 物理意义： 解决 Fig. 2 提到的“空间异质性”。告诉控制器，右侧的 Token 天生需要更久才能稳定。
6. 外推不确定性 (Uncertainty Feature) \(u_i^{(t)}\) (仅限扩展版)
   • 公式： \(u_i^{(t)} = \text{Var}(\delta_{i, t+h})\) (源自附录 A.7)
   • 解释： 由 Confidence Extrapolation (CE) 模块提供的预测方差。
   • 物理意义： 风险指示灯。如果这个值很大，说明“天气预报”不准，控制器应该谨慎做出锁定决策。

3. 总结建议（Slide 用）

在 Slide 中，你可以这样总结这两个版本：

• Equation 3 (Standard): \(r_i^{(t)} \triangleq [p_i^{(t)}, H_i^{(t)}, \Delta \bar{p}_i^{(t)}, \phi(i)]\)
  • “Captures the essential logic of ‘where I am’ (Spatial) and ‘how I’m changing’ (Temporal).”
• Appendix A.3 (Full Implementation): \(r_i^{(t)} = [p_i^{(t)}, H_i^{(t)}, \bar{p}_i^{(t)}, \Delta \bar{p}_i^{(t)}, \phi(i), u_i^{(t)}]\)
  • “A robust version that filters out noise (EWMA) and considers forecasting risk (CE Uncertainty).”

为什么要做这个演进？ 论文提到，原始信号足以超越基座，但扩展版本通过引入 \(\bar{p}_i^{(t)}\)（平滑）和 \(u_i^{(t)}\)（方差），解决了扩散模型中常见的震荡不稳定性，使得 TSPD 在 GSM8K 等复杂推理任务上更加稳健。

Confidence Extrapolation (CE)：风险感知的预测性加速

1. 动机：被动等待 vs 主动预测；用历史轨迹预测未来稳定态，实现「抢跑」

2. 状态空间模型 - 状态 \(x_i^{(t)} = [\delta_i^{(t)}, \dot{\delta}_i^{(t)}]^\top\)（边际 \(\delta\) + 变化率） - 转移 \(x_i^{(t-1)} = A x_i^{(t)} + \epsilon\)，\(A = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}\)（常速） - 观测 \(o_i^{(t)} = \delta_i^{(t)} + \eta\)；Kalman 在线估计

3. \(h\) 步预测 - \(\hat{x}_{t+h|t} = A^h \hat{x}_t\)；\(P_{t+h|t} = A^h P_t (A^h)^\top + Q_h\) - 步数越远，\(\sigma^2_{t+h}\) 越大

4. 风险感知决策 - 保守下界 \(\text{LB}_{t+h} = \hat{\ell}_{t+h} - z \cdot \sigma_{t+h}\)（\(z\) 风险系数） - 动态地平线 \(h_{\text{pot}} = H \cdot r_t(j)\)，\(r_t\) 由 left_coverage 决定

5. 实现与价值 - Training-free；输入 \(\delta_i^{(t)}\)（Top-1 与 Top-2 边际）；开销 0.13% - 加速比再提升 0.5x~1.5x（GSM8K: 4.4x→5.0x）

1. 技术定位与动机 (Motivation)

• 被动等待 vs. 主动预测：传统扩散 LLM 加速方法（如 TSPD 或 Learn2PD）通常是“被动”的，即在当前置信度达到阈值时才停止。
• 加速机会窗：观察发现，许多 Token 的置信度在达到阈值前，就已经表现出稳定的增长趋势。CE 的核心思想是通过 Token 的历史置信度轨迹（Trace），预测其未来的稳定状态，从而实现“抢跑”。

2. 核心数学模型：状态空间模型 (State-Space Model)

• 建模对象：CE 建模的是 Token 的置信度水平（Confidence Level）及其变化速度（Velocity）。
• 具体过程：
  • 将 top-1 概率或置信度边际（Margin）进行对数几率（Log-odds）或单调变换，映射到连续空间 \(y_t\)。
  • 线性动态系统：使用二阶常速模型 \(x_{t+1} = Ax_t + w_t\)，其中状态向量包含当前置信度水平 \(\ell_t\) 和增长速度 \(\dot{\ell}_t\)。
  • 卡尔曼滤波 (Kalman Filter)：在推理过程中，CE 利用卡尔曼滤波在线估计这些隐含状态，并滤除推理过程中的噪声。

3. 风险感知的前瞻机制 (Risk-aware Look-ahead)

• \(h\) 步预测：基于当前滤波状态，计算未来第 \(h\) 步的预测值 \(\hat{\ell}_{t+h}\) 及其方差 \(\sigma^2_{t+h}\)。
• 保守估计 (Lower Bound)：为了保证准确率，CE 不直接使用预测均值，而是使用置信下界：\(LB = \hat{\ell}_{t+h} - z \cdot \sigma_{t+h}\)。
  • 其中 \(z\) 是风险系数，控制前瞻的激进程度。
• 动态地平线 (Horizon Selection)：预测步数 \(h\) 受限于左侧上下文的收敛情况。只有当左侧 Token 足够稳定时（由 left_coverage 衡量），才允许更大步数的前瞻。

4. 实现细节与开销 (Appendix A.7)

• 无需训练 (Training-free)：CE 是一个纯数学/统计模块，不需要对扩散模型进行微调，属于“即插即用”插件。
• 置信度度量：附录提到，实际实现中常用 Top-1 与 Top-2 Logits 之间的边际（Margin）\(\delta^{(t)}_i\) 作为输入。
• 极低算力开销：由于仅涉及标量运算和小型矩阵（2x2）操作，CE 的运行耗时仅占模型前向传播时间的 0.13%，几乎可以忽略不计。

5. 核心价值 (Key Takeaways)

• 解耦控制：CE 为下游控制器（如 TSPD）提供了一个更稳健、具备前瞻性的“增强版置信度信号”。
• 性能提升：实验表明，在相同控制器下，加入 CE 模块能进一步提升约 0.5x 到 1.5x 的加速比（例如在 GSM8K 上将加速比从 4.4x 提升至 5.0x），且基本不损失精度。

Slide 标题：Confidence Extrapolation (CE) —— 状态空间建模与风险控制预测

1. 核心数学建模：二阶状态空间模型 (State-Space Model)

CE 将 Token 的置信度演化视为一个带有噪声的动态系统。其核心是建模置信度水平（Level）及其变化速率（Velocity）：

• 状态向量 (State Vector)： 根据附录 A.7，定义状态 \(x^{(t)}_i\) 包含当前的置信度边际 \(\delta\)（Top-1 与 Top-2 Logits 之差）及其变化率 \(\dot{\delta}\)： \[x^{(t)}_i = \begin{bmatrix} \delta^{(t)}_i \\ \dot{\delta}^{(t)}_i \end{bmatrix}\]

• 状态转移 (Transition)： 采用常速模型（Constant-velocity Model），状态转移矩阵 \(A\) 如下： \[x^{(t-1)}_i = Ax^{(t)}_i + \epsilon, \quad A = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}\] 其中 \(\epsilon \sim \mathcal{N}(0, Q)\) 是过程噪声（Process Noise），描述趋势的不确定性。

• 观测方程 (Observation)： \[o^{(t)}_i = \delta^{(t)}_i + \eta, \quad \eta \sim \mathcal{N}(0, R)\] 其中 \(\eta\) 是观测噪声，对应扩散模型单步推理的波动。

2. 未来预测与不确定性量化 (Forecasting)

利用卡尔曼滤波得到当前状态估计 \((\hat{x}^{(t)}_i, P^{(t)}_i)\) 后，进行 \(h\) 步前瞻预测：

• \(h\) 步预测状态：\[\hat{x}_{t+h|t} = A^h \hat{x}_t\]
• 预测协方差 (方差累积)：\[P_{t+h|t} = A^h P_t (A^h)^\top + Q_h\] 其中 \(Q_h = \sum_{i=0}^{h-1} A^i Q (A^i)^\top\)。这体现了预测步数越远，不确定性 \(\sigma^2_{t+h}\) 越大。

3. 风险感知决策 (Risk-aware Control)

为了防止过度激进的“抢跑”，CE 引入了两个关键约束：

• 保守估计下界 (Lower Bound)： 不直接使用均值，而是取其置信下界作为输出给控制器的信号： \[\text{LB}_{t+h} = \hat{\ell}_{t+h} - z \cdot \sigma_{t+h}\] 其中 \(z\) 是控制风险偏好的系数。

• 动态预测地平线 (Horizon Selection)： 预测步数 \(h\) 受限于左侧上下文的收敛率（Left Coverage）： \[r_t(j) = \left[ \frac{\text{left\_cvg}_t(j) - \tau}{1 - \tau} \right]_0^1, \quad h_{\text{pot}} = H \cdot r_t(j)\] 最终选取的预测步数 \(h^{(t,j)}\) 需满足： \[h^{(t,j)} = \max \{ h \leq h_{\text{pot}} : \hat{c}_{LB}^{t+h} \geq c_{\min} \}\]

4. 实验结论：即插即用的增量收益

• 计算开销：附录指出其单步延迟仅占基础模型的 0.13%。
• 加速效果：在多种控制器（TSPD, Learn2PD, Fast-dLLM）上均有稳定提升。

演讲备注要点 (Reviewer Perspective)

“The authors focus on a fundamental problem: the latency-heavy iterative denoising in diffusion LLMs.”

“The authors appear to assess a central concept: replacing passive thresholding with a predictive, state-space-based confidence extrapolation mechanism to safely skip redundant steps.”

验证提示： * 公式符号：\(\ell\) 代表变换后的置信度空间，\(\delta\) 代表 Logit 边际，两者在文中逻辑一致。 * \(A\) 矩阵：附录 A.7 明确给出了其形式为 \(\begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}\)，这在 Slide 中能体现数学严谨性。

这份研究论文（Anonymous, 2026）针对扩散大语言模型（dLLMs）推理延迟高的问题，提出了 TSPD（时空并行解码）和 CE（置信度外推）两个核心组件。

The authors focus on a fundamental problem：即扩散模型在生成过程中，由于频繁的重新掩码（remasking）和冗余的去噪步骤，导致推理速度受限且计算资源浪费。

The authors appear to assess a central concept：即通过捕捉每个 Token 的“去噪轨迹”（Denoising Trajectories）信号，可以更精准、前瞻性地判断 Token 是否已经收敛，从而实现更高效的早停（Early Stopping）。

Algorithm 1 推理工作流解读

Algorithm 1 推理工作流解读

该算法描述了在推理阶段如何将 TSPD 控制器和 CE 外推模块集成到标准的扩散模型去噪循环中。

1. 初始化阶段 (Lines 1-2) * 序列准备：将提示词（Prompt）与对应长度的掩码占位符 [MASK] 拼接。 * 固定状态 (F)：初始化一个标志位向量 \(F\)，记录每个位置是否已被“固定”（Fixed）。 * 轨迹缓存 (H)：初始化一个缓冲区，用于存储每个 Token 随步骤变化的特征（如置信度、熵、动量等）。

2. 迭代去噪循环 (Lines 3-12) 该循环从总步数 \(K\) 倒计时到 1，每一步包含以下关键操作：

• 模型前向传播 (Line 4)：执行一次 dLLM 的前向推理，获取当前所有位置的概率分布。
• 特征更新 (Line 5)：将最新的预测统计量更新到轨迹历史 \(H\) 中。
• 置信度外推 (Line 6)：CE 模块基于历史轨迹预测未来几步的置信度趋势，并给出带不确定性的估计值 \(\hat{r}\)。
• 时空控制判断 (Line 7)：TSPD 控制器消耗特征 \(\hat{r}\) 和空间位置信息，通过轻量级感知单元（如 LSTM）做出二元决策：固定还是继续去噪。
• 状态提交与早停 (Lines 8-10)：
  • 根据控制器的决策 \(A\)，将确定的 Token 提交到序列中，并更新固定标志位 \(F\)。
  • 效率关键：如果所有 Token 都已被固定（\(\sum F = L\)），则提前跳出循环，结束推理。
• 动态掩码 (Line 11)：对于尚未固定的 Token，应用标准的重掩码策略进入下一步。

3. 输出 (Line 13) * 返回最终生成的完整响应序列。

性能提升总结 根据论文实验数据，该工作流在保持极高准确率的同时，显著提升了吞吐量（TPS）：

任务 (L=256)	加速比 (无缓存)	加速比 (含 KV 缓存)
GSM8K	5.0×	11.2×
MATH	4.0×	8.3×
MBPP	5.6×	11.8×

核心优势： * 轨迹感知：相比于只看当前步的启发式规则，TSPD 能识别“波动”或“稳步上升”等时间特征。 * 空间感知：考虑 Token 在块中的相对位置（序列右侧的 Token 通常收敛较慢）。 * 主动预测：CE 模块不再消极等待置信度达标，而是通过状态空间模型实现“风险受控的超前决策”。

实验结果 (一)

Table 1 & 2 核心性能表现：证明该方法在多种模型架构和任务上的通用性和领先性。

Table 1：在 GSM8K, MATH, HumanEval, MBPP 上均显著优于其他加速方案；GSM8K 配合 KV 缓存达 11.2x 加速，准确率几乎无损。

Table 2：在 Dream-7B 和 LLaDA-MoE 上同样有效，TSPD+CE 不依赖特定模型，具有普适性。

实验结果 (二)

Table 3 生成长度：256→1024 时加速比 11.2x→58.3x，长文本场景优势更明显。

Table 4 KV Cache：与 Dual Cache 叠加，34.2 TPS→77.3 TPS；与 Prefix Cache 叠加也有提升。

Table 5 消融：w.o. TSPD 降至 2.9x；w.o. CE 降至 4.4x；TSPD 贡献基础加速，CE 提供额外预判。

Q & A