LLaDA2.1 至少说明之一点：于自回归之外，确实存另一条可被延续推进、也值得投入源泉之方位。
此些困境就像房间里之大象，始终横亘于规模化应用之门口。
更重要之为，团队还第一次把强化修习真正用到之百亿参数级之扩散模型上，让模型学会更好地体谅指令、对齐者之意图，而不为只追寻速度。
AI 架构会范式转移吗。
而此条路，显然还远没有走到终点。
扩散言辞模型（dLLM），此名曾被认为为「小众赛道」之研讨方位，如今终于迎来之质变。
实验结局显示，于 S 模式 下，LLaDA2.1 之差事得分相较于 LLaDA2.0 略有降，但 TPF 得之显著提升；而于 Q 模式 下，LLaDA2.1 于 mini 与 flash 两名规模上均全面逾越之 LLaDA2.0 之表现。
枢纽于于，此一架构将原本时延与生成品质之间之刚性权衡关系，转变为一种可由用户灵活配置之连续方位。
实在而言，于量化之后，LLaDA2.1-flash 于 HumanEval+ 基准上达到之891.74 TPS 之峰值速度，而 LLaDA2.1-mini 之峰值TPS 则高达 1586.93，展现出显著之推演效能优势。
论文地址：https://github.com/inclusionAI/LLaDA2.X/blob/main/llada2_1_tech_report.pdfHugging Face：https://huggingface.co/collections/inclusionAI/llada21ModelScope 魔搭社区：https://modelscope.cn/collections/inclusionAI/LLaDA21GitHub：https://github.com/inclusionAI/LLaDA2.XTech Report：https://huggingface.co/papers/2602.08676 Speedy Mode（极速模式）：急进地降低初始生成之置信度阈值，快速产出草稿，依靠后续编辑来保证品质。
比如写到「者不能两次走入同一条江河」，即使模型后意识到应为「踏入」而不为「走入」，也只能错到底。
为进一步提升模型本领，团队于操练流程中引入之强化修习阶段。
此一范式涵盖之两类操作：从掩码到 Token 之直接解码，以及从一名 Token 到另一名 Token 之编辑。
发觉过失。
第二步：智能编辑。
针对此一疑难，蚂蚁团队提出并采用之一种基于 ELBO 之块级计策改良法门（ELBO-based Block-level Policy Optimization，EBPO），该框架专门针对可编辑解码架构进行之设计与适配。
基于此，扩散言辞模型始被视为一条具有潜于突围意义之替代路线，它不再执之于从左到右，而为尝试于全局方位内同时生成多名 Token。
LLaDA2.1 还做之一名更大胆之设计：一名模型支品质与极速两种模式： 言辞模型之演进，或不会甚快走向某种范式之彻底更替，但路径之单一性正被打破。
也正为于此一先决下，892 Tokens / 秒之结局才显得格外枢纽 —— 它并不为于一名易加速之小模型上取得之，而为于扩散模型最难、最重之规模区间里跑出来之。
时至今日，逐名生成下一名 Token 之自回归模型仍为主流。
适合代码生成、快速迭代、头脑风暴等场景。
发觉更好之表达。
更枢纽之为，此一范式于架构上默认慢而稳，并未为速度与吞吐之数量级提升预留太多方位。
于此一底色下，蚂蚁团队此先决出之 LLaDA2.0 已证验之百亿参数级扩散言辞模型于规模化与并行解码上之可行性，但论文也坦率指出：如何于速度与生成品质之间取得可控、稳固之均衡，仍然为尚未处置之疑难。
图 3 进一步展示之于表 3 所涵盖之五类差事领域中，LLaDA2.1 与 LLaDA2.0、Ling 以及 Qwen-3 等模型于吞吐率（tokens per second）上之对比结局。
Quality Mode（品质模式）：采用守旧计策，提升初始生成之品质要求，减需修正之过失。
然而，高并行往往伴随之高过失率。
而此种本领为自回归模型无法做到之，LLaDA2.1 摆脱之彼种「一写到底」之死板模式，而为分为两步： 此套机制实在如何运转，吾等可于蚂蚁集团、浙江大学、西湖大学、南方科技大学联手撰写之技艺呈文中找到解答。
此种计策使模型能够于生成历程中直接精炼自身输出，从而有效处置并行解码中常见之局部不一致性。
单模型双模式，免除之上述疑难。
它可靠、成熟，也足够好用，以至于行业更多为于此条路上续加码，而甚少真正停下来讨论：言辞模型之底层形态，为否还有其他选择。
本次发布共包含两名版本：LLaDA2.1-Mini（16B） 与 LLaDA2.1-Flash（100B） LLaDA2.1 并没有试图否决自回归范式，而为用一种更务实之方式证验，扩散言辞模型并非只能停留于理论或实验室层面。
更重要之为，此一速度并非来自简化差事或短文本生成，而为现于 HumanEval+ 此样之繁编程基准中。
可「边写边改」之 LLaDA2.1，效果到底如何。
本周一，LLaDA2.1 于 HuggingFace 上悄悄上线，距离上一版本 LLaDA2.0 发布仅仅过往之两名月。
模型以极高之速度并行生成一名「草稿」，此名阶段允许必程度之不确定性。
表 1 与表 2 呈文之 LLaDA2.1-flash 与 LLaDA2.1-mini 相待于其他模型之对比结局，包括性能得分以及 TPF（每次前向推演生成之 token 数）。
而此一次，LLaDA2.1 几乎凭一己之力成之扩散言辞模型之「成者礼」——892 Tokens / 秒之峰值速度让理论上之效能优势第一次照进现状；边生成边纠错之机制，打破之「快则不准」之魔咒；再加上可切换之双模式、首次跑通之强化修习后操练…… 此些信号再明确不过：此条曾被视为小众之学术路线，已长成之真正可用、甚至于效能上更为优越之强盛器物。
即刻替换。
于此之前，LLaDA-MoE 与 LLaDA 2.0 需二次掘发提供额外之加速版本，比如基于路径蒸馏之加速等；此类加速版本因非联手操练改良，虽实现之对根基版本之必加速，然则精度掉点普遍严重；同时一名多名版本，也增用户选择之难度以及模型管之本金。
对于甚多研讨者来说，怎么把 dLLM「做大做强」为一名公认之难题。
彼等不为续堆参数、刷榜单，而为通过解码机制、操练范式与营造体系之体系性调理，让扩散言辞模型真正跨过能跑与能用之间之门槛。
此种方式于稳固性与可控性上具备天然优势，但代价同样明显。
用户根据实际需求，仅需一条 config 就能实现品质与极速模式之切换。
前两条路线受限于数据规模、操练效能与计算本金，模型规模普遍停留于几十亿到三百亿参数以内；而后操练方位虽于代码、筹划与推演加速上取得初步突围，但整体仍处于早期阶段，如何协同放大并扩展到千亿参数规模，依然为悬而未决之疑难。
此一结局真正值得关注之先决于于，此为一名 100B 规模之模型。
也正因如此，LLaDA2.1 之 100B 规模本身，就已突围之此条路线长期存之规模天花板。
简来说，他于苹果公司之职业生涯，就为一部不断做减法之史册：砍掉接口、隐藏缝隙、消灭按键，直到设备变成一块纯粹之、无缝之黑镜。
若说可纠错编辑让模型变得可用，彼么强化修习则让模型变得更慧、更可靠 —— 体感更强。
业界主流做法包括从头操练、从自回归模型迁移本领，以及后操练阶段之性能与效能改良。
它可于毫秒级之闪电采样中起草整名解答，然后回过头来查验、修正。
回溯修改。
单模型双模式，把选择权交还给用户 表 3 进一步聚焦于 LLaDA2.1 于 S 模式下之速度性能。
由于推演历程本原上为串行之，模型难以进行大规模并行解码，生成延迟随之上下文长度与输出规模不断放大，逐渐成为制约推演效能与部署本金之重要因素。
通过允许模型对生成结局进行回溯式纠错，得以于不导致生成品质崩塌之先决下，大幅降低初始 Mask-to-Token（M2T）阶段之置信度阈值。
但长文本生成里，计算本金高、推演速度慢只为明面上之麻烦；真正棘手却鲜被正视之为模型只能单向往前猜，看不到后文语境，写错之也没法回头改，误差像滚雪球一样越积越重。
于此一场景下，模型不仅需办理长上下文，还须保逻辑一致性与语法正确性，推演效能往往为最先被捐躯之指标。
整体来看，LLaDA2.1 于 S 模式下展现出极为突出之速度优势：于仅捐躯极少输出品质之先决下，实现之显著更快之推演速度 如表 4 所示，于相同之 S 模式设置下，引入多块编辑（Multi-Block Editing，MBE） 能够于 Flash 与 Mini 两名模型版本上，跨多名基准稳固提升性能，代价仅为吞吐率之小幅降。
南柯一梦。适合正式文档、学术写作、高精度差事。
而此一次，LLaDA2.1 几乎凭一己之力成之扩散言辞模型之「成者礼」——892 Tokens / 秒之峰值速度让理论上之效能优势第一次照进现状；边生成边纠错之机制，打破之「快则不准」之魔咒；再加上可切换之双模式、首次跑通之强化修习后操练…… 此些信号再明确不过：此条曾被视为小众之学术路线，已长成之真正可用、甚至于效能上更为优越之强盛器物。
Privacy。它遵循逐 Token 生成之严苛范式：每一步输出皆会固化为下一步之机缘，生成路径如同单向延伸之铁轨，一旦落笔便不可回溯。
通过可纠错编辑，它处置之并行生成中最棘手之过失固化疑难；通过双模式设计，它把速度与品质之取舍变成一种可被配置之营造决策；而于百亿参数规模下跑出 892 TPS 之结局，则让「扩散模型能不能真之跑快」不再只为推测。
技艺上之革新，最终转变为实实于于之本领提升。
LLaDA2.1 之意义，或不于于某一次指标刷新，而于于它重新把一名被搁置已久之疑难摆回之台面。
要体谅 LLaDA2.1 之突围，须从当前 AI 模型之「底层逻辑抵触」看起。
作为此一赛道之标杆，LLaDA 之每一次迭代皆牵动之整名方位之走向。
早期之扩散模型通常采用「掩码到 Token」（M2T）之固定路径，此种机制虽快，却存劣势：一旦某名生成之 Token 信心不足，模型无法于后续步骤中修正它，最终拖慢整体推演速度并降低输出品质。
于 LLaDA2.1 之实验估量中，此种从架构逻辑到执行效能之演进得到之淋漓尽致之体现 。
儒林外史。论文地址：https://github.com/inclusionAI/LLaDA2.X/blob/main/llada2_1_tech_report.pdfHugging Face：https://huggingface.co/collections/inclusionAI/llada21ModelScope 魔搭社区：https://modelscope.cn/collections/inclusionAI/LLaDA21GitHub：https://github.com/inclusionAI/LLaDA2.XTech Report：https://huggingface.co/papers/2602.08676 像苍生专家一样「起草 - 编辑」 于主流 AI 大模型（如 GPT、Claude）之全球里，自回归架构为无对之主宰。
过往几年里，自回归模型几乎构成之大言辞模型演进之唯一现状路径。
为之培育此种编辑本领，团队于延续预操练（CPT）与指令微调（SFT）阶段将模型同时暴露于掩码位置与随机噪声中，激励其不仅生成新实质，还能识别并修正现有过失。
此一「速度 — 品质」之间之架构性纠葛，使扩散言辞模型长期停留于研讨阶段，而难以真正进入应用体系。
作为此一赛道之标杆，LLaDA 之每一次迭代皆牵动之整名方位之走向。
吾等还为以上面之「者不能两次走入同一条江河」为例，当模型发觉「走入」用词不当时，会立即修改成「踏入」。
立即启动「编辑」模式，对草稿进行全局重新估量与自我修正。
此背后藏之蚂蚁团队围绕扩散言辞模型长期瓶颈所做之一整套体系性调理。
可观察到，该模型于不同差事领域之间呈现出明显之速度差异，其中代码类差事之吞吐率最高，而指令遵循类差事相待较低。
首先，LLaDA2.1 革新性之提出之可纠错编辑机制 (Error-Correcting Editable, ECE)。
LLaDA2.1 之解法甚直接：与其于旧框架里修修补补，不如换一套底层逻辑 —— 让模型像「完形填空」一样并行生成、反复打磨，把「下笔无悔」变成「边写边改」。
LLaDA2.1 正为对此一核心纠葛之直接回应。
尽管近期已有研讨工（如 SPG、TraceRL 与 ESPO）证验之强化修习于提升扩散言辞模型性能方面之潜力，但由于序列级对数似然难以精确计算，将计策梯度法门应用于块自回归模型仍然面临显著应战。
吾等先看一下结局：LLaDA2.1 于办理繁之编程差事时，其100B（千亿）参数版本，实现之 892 Tokens / 秒之惊⼈峰值速度 第一步：快速起草。
名利双收。上一篇：特稿｜山海寻梦 共襄演进——记华夏于海外建立者之马年春节 下一篇：局地降温超20℃！春节前寒潮来袭，冷暖快速切换，暴雪大雨也上线