Machine Report编辑的心脏编辑：最近的Zhang Qian采访计划，演员Zhang Jun开玩笑说，DePseek是一个非常“内部”的AI，“ 1加1等于数字”应该长时间考虑。在AI领域，这种情况称为“思考太多”。它的存在是极其问题的，因为IA公司浪费了计算机功率，而且订阅率根本没有涵盖。然后，在去年的GTC会议上，Transformer Papers的作者之一Illia Poosukhin说，自适应计算机科学是接下来必须发生的事情之一，我们需要知道应该在特定主题上花费多少计算机资源。今年，越来越多的模型制造商将此问题放在其议程上：OpenAI将使用GPT -5安装一个“路由器”，以允许该模型在获得用户的问题后自动选择正确的模型。 DeepSeek更加激进，直接将对话和推理功能直接结合在一起DeepSeek v3.1在双重独特的模型模式下。如图所示，两种解决方案都对令牌存储都有很大的影响。在内部评论中，GPT-5（使用思维方式）使您可以使用与以前的模型更少的令牌完成任务。如果输出令牌少约50-80％，则可以实现相同的结果甚至更好。测试数据显示，诸如AIME 2025，GPQA Diamond和LiveCodebench之类的参考点已获得DeepSeek v3.1（使用Think模式），类似于DeepSeek R1，但消耗的令牌数量已减少25-50％。预计该混合推理模型将在一段时间内成为较大模型领域的新正态性。如何平衡成本和绩效成为竞争模特的新参考点。本文分析了这种趋势的原因，大公司和相关研究的趋势。最好的型号始终是最受欢迎的，但是您如何看模型制造商？你掩盖了罢工吗e？不久前，TextQl的共同创始人兼首席执行官Ethan Ding在他的博客中讨论了矛盾的现象：代币的成本正在降低，但公司正在拍摄的模型的订阅率。他归因于该问题的核心：最低价格的大多数模型不是SOTA模型，而99％的需求变化是因为大多数人只想要“最强大的大脑”，因此人类认知贪婪的法官。最佳型号的价格始终相同。更糟糕的是，由于“详细研究”和其他模型的出现，任务的持续时间每六个月可能会增加一次AI。 for2027，可能有AI的代理商每天可以连续24小时工作而无需离开主题。如果这种趋势继续下去，这些“最强大脑”消耗的令牌数量将爆炸。将其转变为经济帐户意味着20分钟的“深入研究”的费用约为1美元，但到2027年，代理商的电话为每天72美元。这因此，许多AI型号制造商的订阅率提高了，今年使用有限。因为每月$ 20的订阅率不足以让用户每天拨打$ 1的深度电话。此额外的订阅率为型号制造商提供了缓冲空间，但毕竟是延迟策略。因此，模型制造商还考虑了处理成本攻击的其他几种方法，例如将处理任务放电给用户机器以及基于加载的模型。这在GPT-5中显示。 DeepSeek更进一步，这使模型可以确定问题的难度和思想模式之间的替代方案。此外，克劳德（Claude），Qwen和其他人也是这条路线的探险家，这也值得关注。所有这些伟大的模型都试图在克劳德（Claude）系列的人类中推断人类。 Claude 3.7十四行诗于今年2月推出，是马萨诸塞州的第一个混合推理模型rket。几乎实时可以做出反应或逐渐思考，也可以向用户展示思想过程。 API用户还可以对模型思维的持续时间有良好的控制（Claude在下面的n noken n）。在当时的博客中，人类解释了其哲学。 “开发十四行诗Claude 3.7的想法与theMarket的其他推理模型有很大不同。人类使用单个大脑进行快速响应和深刻的思想，并相信推理应该是Avant -Garde模型的整合，而不是完全独立的模型。整合思想模式，而不是在两个模式之间使用单个模型的思考，由用户完全控制，而不是基于自动集或其他参数。混合推理模型无法实现理想的结果，并且在参考测试中不能很好地工作。已经取得了进步。对于Qwen来说，这是一个小的挫折。但是，团队并没有完全放弃这个想法。 Ishe筛选了团队，他表明，在解决质量问题时，该特征可能会重新出现。 Google的Gemini系列在今年4月，Google推出了首个混合推断模型2.5 Flash Gemini。该模型引入了一种“思想预算”机制，该机制允许开发人员在生成答案之前指定应分配多少计算机功率来推断复杂问题。在生成答案之前，该模型会评估多个路线和潜在考虑因素。考虑预算的思考可以从0到24,576芯片调整。当使用GEMINI 2.5闪存时，输出成本会取决于是否启用推理功能。 Deep Gemini 2.5 Pro ThougHT启动时没有“思想预算”机制，但在6月份进行了重要更新。它的外观被定义为B侧的实用创新，而不是普通消费者的一般模型。对于需要实施规模应用程序的公司和开发人员来说，这是一个很棒的功能，因为公司可以准确调整生产系统中的AI思想成本，例如TAP调整。从实施的角度来看，有些人推测这可能是“混合解决方案”。这些模型确实在推理良好的大型模型和基于预算的良好模型之间发生了变化。但是，这种猜测尚未得到证实。 Gemini 2.5系列的技术报告：https：//arxiv.org/pdf/2507.06261 Kuahou Kuahou Kwai系列启动了Kwaicoder-Autothink-Preview自动思维模型，于今年6月初。该模型结合了“思想”和“非思想”特征，这使您可以自动更改基于问题的难度的思维模式。 Hismain的想法是在思考之前添加一个阶段，事先考虑问题的困难。我们将确定模型。简而言之，Kwaicoder-Autothink-Previsalizatizatization模型使用了两阶段的训练方法。首先，长期和短期思想的起始数据是通过代理方法构建的。因此，在考虑确定问题的难度之前，该模型可以实现“思想”。接下来，我们使用专门针对自动链接任务设计的流程监管SRPO PASO富集模型，以确定多个任务的困难任务的准确性。今年7月，库胡（Kuahou）领先，并开放了伟大的Autthink Kat-V1车型的来源。这也重点介绍了没有手动人工配置的模型的独立判断。有关更多信息，请参见技术报告。技术报告：https：//arxiv.org/pdf/2507.08297seed 1.6（自适应cot），零件 – 时间字节He Beanbao系列是今年6月推出的，它也是一种支持三种思想模式的混合推理模型。根据官方报道，这种适应性思维能力是通过动态思维技巧（即自适应婴儿床）实现的。自适应COT文档于5月启动（ADACOT：对激活触发器的思想的最佳自适应思考）模型对帕累托优化问题的自适应推断。确保模型性能，同时最小化成本（包括激活频率和计算机过载）。具体而言，研究人员采用了一种基于强化学习的方法，该方法使用近端策略（PPO）的优化来控制COT触发的决策限制，以动态调整惩罚的系数。重要的技术贡献是“选择性损失掩盖”（SLM）。这用于防止在多个阶段进行RL培训中决策崩溃的限制，以确保激活机制为强大而稳定。 At that time, this technology was the first of Doubao-1.5-peration-m-m-expanding to version 250428. For more information, see the article: https://arxiv.org/pdf/2505.11896 However, Byte shows that they finally wish to integrate the effect of final inference (represented by the thought of Seed1.6) and the techniques of dynamic thought (represented by Seed1.6) in the model and将模型提供给模型。我们提供更智能的型号。 Tencent的Hunyuan-A13b，腾讯的腾讯，于今年6月推出，也是混合推理的模型。为了允许模型根据需求的静脉曲张动态调整推理的深度，我们实现了一个双重框架，以在快速和缓慢思考之间进行更改。在一份技术报告中，他们提到了此框架的一些细节。在训练后的阶段，采用统一的训练结构来同时优化两种推理模式。为了标准化模型输出，两个M的训练样品ODE使用统一的结构设计。具体而言，快速思维方式将有意思考\ n \ n视为空内容的块，而慢慢的思维方式清楚地包括该块的步骤 – 步骤推理过程。用户可以选择指定控制标签的模式。使用“/no_think”启用快速思考模式和“/下沉”以实现慢速思维模式。如果没有提供控制标签，则默认系统将采用大斋节思想模型。技术报告：https：//github.com/tencent-hunyuan/hunyuan-a13b/blob/blob/main/report/report/hunyuan_a13b_technical_report.pdf glm-4.4.5 Zhipu在今年7月的Zhipu系列，Zhipu启动了GLM-4.4.5和GLM-4.44.5–4.5–主要与模型培训有关。具体来说，经过培训，我们将进行两个独立的阶段。他们分裂了。在第一阶段（专家培训）中，我们建立了一个专注于三个领域的专家模型：推理，权力和一般聊天。在第二阶段（统一的培训），我们使用自我划分来整合多个专家，这使该模型可以应用长上下文推断对每个任务更有效，以获得精确的答案。特别是，由于某些领域（例如稍作讨论）不需要长时间的思考过程，因此我们仔细平衡没有明确思考过程的数据平衡，包括训练数据，包括完整的推理过程。这种方法使模型可以在反射和快照响应模式之间进行更改，以创建混合推断模型。有关更多信息，请参见技术报告。技术报告：https：//arxiv.org/pdf/2508.06471openai’s GPT-5如果GPT-3到GPT-4的巨大进步是专家的混合物，有人说GPT-4O/O3至GPT-5的巨大进步可能是模型的组合。与许多整合在同一模型中思考/不思考能力的想法不同，GPT-5选择了实时添加整个系统的地址对话。类型，复杂性，工具要求和清晰的意图（例如，如果您在通知中说“考虑此问题”）迅速确定要使用的模型（下表）。在技术报告GPT-5中，我们考虑了高速高性能模型以及GPT-5-MAIN和GPT-5-MIAN-MINI，以及诸如GPT-5之类的思想模型以及GPT-5思想的标记模型。 API中还提供了较小且更快的思想模型的纳米版本，而GPT-5-Pressing-Pro也可以在Chatgpt中使用。所有这些模型都从上一代模型（左列）演变。该路线通过真实信号进行了持续训练，包括用户更改模型，响应偏好，测量精度等等，并且会随着时间的流逝而继续改善。一旦达到了使用的限制，每个模型的迷你版将处理其余的咨询。但是，此模式反应不佳。许多人抱怨社交网络的问题S摆脱了低质量的模型。甚至疯狂的是，路由的结果是不透明的，因此不可能一次又一次地说模型给出的响应。这使Chatgpt在专业用户中的声誉降低了。但是，对于增加了95％以上CHATGPT用户的自由用户，此路由改进可以改善体验。以前，这些用户很难使用高级思想模型，但是现在有可能生成高级模型。从这个意义上讲，半手分析的首席执行官迪伦·帕特尔（Dylan Patel）分析了这可能是使其自由使用者获利的重要一步。与专门从事B模式的Anthrope不同，OpenAI的商业方法仍在ST库存用户中，但其中大多数是免费用户。在这种情况下，传统应用程序通常通过允许免费用户查看广告来赚钱，但是使用AI应用程序，此模型不再适用。路由M的值奥德尔（Odel）在于能够确定许多免费用户提出的问题的商业意图，例如预订票，寻求律师并将这些高价值请求指导到高级电源模型 +后续代理服务。该路由模型允许OpenAI在模型的决策逻辑中首次编写“成本”和“商业价值”。这不仅可以节省计算机的力量，而且为下一个“ AI超级应用委员会”铺平了道路。但是，路由不一定是实现这些目标的最佳方法。歌剧还表示，他计划在以后的单个模型中将两种思想模式之间的变化整合在一起。 DepSeek最近发起的DeepSeek v3.1是国家队“在单个模型中实施思想模式/不思考之间的变化”的另一种尝试。这位DeepSeek官员表示，DeepSeek-V3.1 Thought是为了划出与PSEEK-R1-0528相当的响应质量，并提供了更快的答案。对于开发人员，他们的快速序列中的标记可以触发思维模式和非思想。 CIF您是股票用户，您可以通过单击“深思熟虑”按钮来更改方式。释放时间的关闭和混合推理模式不可避免地将DeepSeek v3.1与GPT-5进行比较。从性能角度来看，DeepSeek v3.1竞争对手GPT-5在基准测试中，但其理解功能仍然不如GPT-5好。在价格方面，DeepSeek v3.1具有明显的优势。可以说，这为公司提供了有利可图的开源选择。您想详细查看混合的推理吗？值得关注此调查的地址。从以前的模型中，我们可以看到所有人的共同目标是减少推理过程中的代币浪费，但是特定的实施方法不同。有些人采用借来的路线来指导问题不同的模型，而另一些则可以快速思考和对模型思考之间的缓慢变化。一些switchiNG方法由用户明确控制，但有些是由模型自动确定的。通过一些审查研究，您可以看到更多不同的想法。例如，在“大规模推理模型中的简洁和自适应思维”中，研究人员将存在的方法分为两类。一种方法不需要训练，包括快速单词取向，基于管道的方法（例如路由），操纵，模型融合等。 （（慎重に设计されたプロンプト（ダイレクトプロンプト、トークン予算、思考パターン、考えなしの指示など）（慎重に设计されたプロンプト（ダイレクトプロンプト、トークン予算、思考パターン、考えなしの指示など）（慎重に设计されたプロンプト（ダイレクトプロンプト、トークン予算、思考パターン、考えなしの指示など）（を通じて指示に従うモデルの机能を活用します。）を通じて指示に従うモデルの机能を活用します。）を通じて指示に従うモデルの机能を活用します。）を通じて指示に従うモデルの机能を活用します。）尽管该方法的简单性允许脱身，但其有效性取决于对模型限制的满足，这通常是不一致的。研究表明，这些方法具有不必要的后果，例如隐藏的不准确性和减少结果的稳定性，尤其是在实施严格的令牌限制或推理步骤时。基地的Pipuraenfoque：这种方法可以通过放电任务来模块化推理工作流程，并通过放电任务降低大规模语言推理模型的计算成本。其中，基于路由的方法会根据进入，模型功能或预算限制的复杂性动态选择最佳模型/推理模式。其他策略包括动态编程和迭代优化和效率提高技术。这些方法大大降低了持久性作用，但引入了额外的过载（例如路由潜伏期），增加终端 – 结束潜伏期，并需要效率和潜伏期之间的补偿。解码操作：它通过预算，早期输出验证，logit调整或激活方向在生成过程中动态介入。等技术D Flashink（例如D）允许通过监视可靠性或语义收敛来简短推理链，尽管频繁验证步骤可以补偿计算节省。并行规模的策略进一步提高了效率，但是需要仔细的校准才能平衡冗余和精确度。模型融合：这是一个慢速思维模型（LRM）的伟大语言推断和单个模型中快速思想（LLM）的伟大语言模型的整合，并且可以预期，这种唯一的模型平衡了快速和慢速思考，从而实现了适应性的思想。这种方法通过基于激活的参数的插值或融合结合了长而短的推理特征。这种方法在中等大小的模型中起作用，但是很难处理极端尺度（小型或大型模型），并且对推理深度没有很好的控制。同时，最近的进步，例如激活（ACM）指导的共识融合突出了pote在调整异质模型的调整中进行共同信息分析。另一个类别是一种基于培训的方法，重点是减少语言模型的推理和教育持续时间。精细调整：精细调整可以分为五类：长链压缩方法提高了推理效率和适应性，而面对压缩效应和推理效果的表面补偿，而Finmejora调整，而Finmejora调整，但促进了简洁的或自我评估的选择途径，以提高优势培训的风险，但会构成复杂的培训过程。隐含的思维链，精细的调整通过提炼可能的推理或知识来实现效率的提高，但由于不清楚的推理程序而牺牲了可解释性，可能会在压缩表示和任务要求之间存在不一致的风险。操作方法接近策略（DPO）的尖锐变体通过优先学习在简单和精度之间实现了多个目标的优化平衡，但是在建造高质量优先级对并在严格的长度限制下保持推理深度时面临挑战。其他混合方法实施了一种自适应推理，结合了快速/缓慢的认知系统或新的损失功能，但通常需要复杂的训练过程并仔细校准相互作用。强化学习：加强学习方法通过五个重要范式平衡简单性和精度。加强惩罚的强化学习通过通过奖励或外部限制的形式来惩罚长期的结果，从而提高了效率，但有可能简化复杂的任务或过度制裁的风险。 GRPO变体方法通过多元化推理模式和整合奖励相关来解决“格式阻止”的问题困难，但通常需要复杂的损失设计和多个组件系统。极其困难的增强学习可以通过估计明确的难度或隐式信号（响应长度，解决方案）来适应响应长度的复杂性，但是面临校准和交叉域概括的精确困难。强大的心态XI化学经过仔细而仔细的改变（“思考”）和反应性模式（“否”），但是稳定与探索和选择之间的补偿很困难。其他强化学习创新引入了学习特征。特定分类如下图所示。评论链接：https：//arxiv.org/pdf/2507.09662除了语言模型外，我们还开始探索多模型模型领域中的混合推断，R-4出现Adaptativeas B.ITHUB项目：https：//github.com/hemingkx/awesome-eforeience-eficience-eficience-moyaptive-tinkingnextfrontier：近年来成本最低，AI领域的竞争集中在更强的模型上。如今，混合推理模型的大规模外观展示了AI行业方法的变化，从建造更强大的系统到创建实用系统。正如IBM研究项目高级经理亚伯拉罕·丹尼尔斯（Abraham Daniels）所说，这种变化对公司很重要，因为复杂的AI的运营成本是重要的考虑因素。但是，这种过渡也会遭受痛苦。一方面，相对较少的成功模型可以激活深度思维模式而不依赖人类的指示。另一方面，当我尝试消除显式开关的门会转换时，我没有得到足够的结果。所有这些现象表明，混合推理的下一个边界是最聪明的SELF-调节。换句话说，混合推理的未来能力不再仅仅是“如果您可以考虑的话”，而是“如果您可以在适当的时间考虑到最低成本的情况下考虑它”。目前可以找到最佳解决方案的任何人都将在下一个AI性能和成本游戏中主动进行主动。
特殊声明：先前的内容（包括照片和视频（如果有），如有）已由网络自我媒体平台的用户收费和发布。该平台仅提供信息存储服务。
注意：以前的内容（如果您有照片或视频）将由社交媒体平台NetEase Hao的用户收取和发布，仅提供信息存储服务。
