东谈主类在濒临肤浅发问频频常不假念念索奏凯复兴欧洲杯体育，唯有遭受复杂难题才会崇敬推理。

要是 AI 模子也能像东谈主同样决定"要不要念念考"，效力是否会大大普及？

近日，香港华文大学不绝新加坡国立大学 Show Lab 的盘问者提议了一种名为TON（Think Or Not）的新颖选定性推理框架，让视觉话语模子（VLM）不错自主判断是否需要显式推理。

实验标明，在不葬送准确率的前提下，该设施权臣减少了生成的念念考链长度，使模子推理经过更高效。

△图 1："要不要念念考"的暗示

左侧示例问题肤浅，无需完好推理即可奏凯得出谜底；而传统设施如 GRPO 仍然生成了冗长的推理经过。右侧示例问题复杂，需要爽快推理才能获取正确谜底。

TON 框架令模子大概像东谈主类同样，对肤浅问题奏凯作答（跳过冗余念念考），对艰难问题则给出密致的推理经过。

中枢转换：引入"是否念念考"的决策

TON 框架的灵感源自东谈主类决策经过：并非逢问必细想，而是视问题难易选定念念考或不念念考。

现存强化学习设施（如GRPO，Group Relative Policy Optimization）强调让模子在复兴前生成完好的推理链。这种"一刀切"的作念法固然提高了复杂任务的推理能力，但也导致对肤浅任务的缱绻糜费——模子不论易题难题皆冗长"自言自语"一番。

比较之下，TON 的转换之处在于让模子当先判断"要不要念念考"。这一选定性推理战略意味着模子将推理与否视作一项稳重技术来学习，而非默许老是现实推理。

正如作家所言，他们眷注的是" When to think "而非传统设施盘问的" How to think "。

△图 2: GRPO 与 TON 的采样经过对比暗示图

其中，q_1 走漏问题，{o_1, … , o_5} 为生成的反应汇集，每个反应包含念念维经过 T（圆形）和谜底 S（三角形）。TON 设施大概从空念念维 T_{nn} 中进行采样，从而 GRPO 权臣普及了反应种种性。

为完满这一目的，盘问者瞎想了两阶段检修机制使模子掌捏选定性推理的才气。

第一阶段是有监督微调（SFT）引入的"念念想丢弃（Thought Dropout）"。具体来说，他们将模子检修数据华夏本的推理经过立地替换为空内容\n\n。

换言之，模子有约一半概率看到示例是不包含中间念念考圭臬的。这一步非常于教养模子输出一种"不念念考"的体式，让模子知谈奏凯复兴亦然允许的。

值得一提的是，盘问者还用了一个"反向念念考"战略来自行构造高质料的念念考经过数据，以援手模子学习何时不错跳过推理。

第二阶段是强化学习的GRPO 优化检修。在这一阶段，模子被荧惑自主探索何时应该念念考、何时跳过，以最大化任务奖励。

具体作念法是：模子针对归拢输入图像和问题生成多个候选反应，其中有的包含完好念念考链，有的为空想（即无念念考经过奏凯复兴）。

接着通过比较这些候选的为止正确性和体式，给以奖励并用 GRPO 算法更新战略，指引模子学会在确保正确率的前提下尽量跳过不必要的推理。

经过这两阶段检修，VLM 模子便掌捏了"一题一策"的选定性念念考能力：肤浅题跳过推理，复杂题老真针织推理。

实验为止：念念考效力大幅普及，准确率不降反升

作家在多个具有不同推理难度的视觉 - 话语任务上考据了 TON 的效力，包括CLEVR（肤浅图形推理）、GeoQA（数学几何问答）以及AITZ（Mobile 智能体导航任务）等。

在这些基准上，TON 框架展现出惊东谈主的效力普及——平均推理输出长度最多减少了 90%！

举例，在 CLEVR 数据集上，TON 将模子每次复兴所需的生成文本长度减少了近九成，而在 GeoQA 上也减少了约 65%。

值得防范的是，模子准确率不仅莫得下跌，反而在某些任务上有所提高。

以问答 GeoQA 为例，TON 模子比较恒久念念考的 GRPO 基线，准确率普及了最高 17 个百分点。

这意味着，让模子学会"偷懒"跳过不消念念考不仅检朴缱绻，还可能带来性能的"免费午餐"。

△图 3:TON 和 vanilla GRPO 在 CLEVR 和 GeoQA 上的为止对比

TON 平均推理长度最多减少了 90%，而况准确率不降反升。

另外，盘问东谈主员对比了 TON 在 AITZ 的漫步外数据集上头的效力，效力不错和 vannila grpo 保持一致，然则输出长度从 3k 减少到了 900，愈加高效。

△图 4: TON 在 AITZ 的不同 domain 测试集上头的进展。

由图 4 不错看出效力保持一致，然则 task level 的长度从 3k 减少到了 900。

盘问东谈主员进一步测试了检修经过的更多决策，发现检修经过中，TON 输出空内容\n\n的比例跟着 reward 的高潮而增多，进而进一步缩短了模子输出的平均长度，然则输出的有内容的念念考经过的长度仍然看守不变。

△图 5: TON 和 vanilla GRPO 在检修经过中的 reward 可视化图

△图 6: TON 和 vanilla GRPO 在检修经过中的输出空念念考的比例可视化图

另外发现，肤浅的任务更容易跳过念念考（比如 CLEVR），然则难的任务反而拒接易跳过（比如 GeoQA），展现出模子在强化学习的经过中，自适合的针对问题的难易进度，学习何时该念念考稳妥不念念考。

在不缩短准确率的情况下减少快要九成的推理圭臬，这对大型模子的本色部署带来了切实的益处。

一方面，推理效力的普及意味着更快的反应速率和更低的算力糜费。这关于需要及时互动的多模态助手、机器东谈主等欺诈尤为紧要。

另一方面，TON 展现的"按需念念考"方式让 AI 更接近东谈主类的念念维民俗——该念念考时就崇敬念念考，该缔结时则不牵丝攀藤。这种东谈主性化的推理战略有望普及模子在推理任务上的通用性和可靠性。

总的来说，TON 提议了一个值得眷注的地方：并非一味追求更长的念念维链，而是先问问我方"要不要念念考？"。

以前，这类机制可能成为普及大模子实用性的一个紧要道路。

以下是两个代表性的 TON 系列模子，它们在不同任务上展示了这一机制的本色欺诈效力。

例子 1

△图 7: GRPO 与 TON 在 GUI agent AITZ 上的对比

TON 在多步出动导航经过中自适合跳过不必要的念念考圭臬，在保持任务准确性的同期完满了比 GRPO 更高的解码效力（本例中检朴了 60% 的 token 糜费）。

例子 2

△图 8: CLEVR 中念念考方式与非念念考方式的对比图示

TON 展示了选定性激活推理的能力——仅在需要时运转机念考机制，而 GRPO 则不加离别地为所有这个词情况生成推理轨迹。

论文地址：https://arxiv.org/abs/2505.16854

代码地址：https://github.com/kokolerk/TON

一键三连「点赞」「转发」「小心心」

接待在驳斥区留住你的主见！

—  完  —

� � 点亮星标 � �

科技前沿进展逐日见欧洲杯体育