针对工具增强型LLM代理过度调用工具的问题，研究提出了When2Tool基准，系统评估工具调用必要性。研究发现，尽管提示优化和“推理后行动”等免训练方法效果有限，但模型隐藏状态已线性编码了工具必要性信息（AUROC达0.89-0.96）。基于此提出的Probe&Prefill方法，通过轻量级线性探针读取隐藏信号并预填充引导句，在测试的所有模型中实现了工具调用减少48%而准确率仅损失1.7%的显著效果，远超现有基线。

TacoMAS是一个用于动态多智能体系统的测试时协同进化框架。针对现有方法在推理时固定拓扑或只适应单一维度的不足，该框架提出在测试时联合进化智能体能力和通信拓扑，但以不同时间尺度：能力通过快速循环利用轨迹反馈实时更新以处理子任务，拓扑通过慢速元LLM驱动循环执行代理增删和边编辑以维持协调稳定性。框架将系统推理建模为在线图适应任务，节点代表具角色能力的智能体，边定义通信拓扑。这种快慢协同设计驱动系统向任务条件稳定均衡演化。在四个基准测试上的实验表明，TacoMAS优于近20种多智能体基线，平均性能提升13.3%。代码已开源。

研究团队推出细粒度模态迁移基准SeePhys Pro，通过为每个问题提供四种视觉元素递增的变体，评估模型在关键信息从文本转向图像时推理能力的保持情况。评估发现，前沿模型的性能随视觉化程度增加而下降，视觉变量定位是主要瓶颈。基于此，研究构建多模态RLVR训练语料库并采用盲训练诊断，发现即使掩码所有训练图像，强化学习仍能提升验证集性能。控制实验表明，此类提升可能源于残留的文本与分布线索，而非有效的视觉证据。研究强调，评估多模态推理需关注模态迁移下的鲁棒性，并诊断改进是否依赖于关键视觉证据。

针对边缘云智能代理的隐私保护需求，本研究提出MemPrivacy方案。该系统在边缘设备端识别并替换隐私敏感信息为结构化占位符，再上传云端处理，仅在本地恢复原始数据，从而将隐私保护与语义保留解耦。基于包含200名用户、5.2万余实例的评估数据集MemPrivacy-Bench及四级隐私分类法，实验表明，该系统在隐私信息提取任务上显著优于GPT-5.2等通用模型，并在多种记忆系统中将效用损失控制在1.6%以内，实现了隐私保护与记忆效用的有效平衡。

LoopUS 是一种后训练框架，可将标准预训练大语言模型转换为循环架构，无需从头训练循环模型或进行破坏性改造。其核心是将模型重构为编码器、循环推理块和解码器，并包含四个关键组件：基于阶段化表征动态的块分解、抑制隐藏状态漂移的输入依赖选择性门、支持长递归范围内存高效学习的随机深度监督，以及用于自适应提前退出的置信度头。该框架通过稳定的潜在循环提升模型的推理性能，且不延长生成轨迹或增加额外训练成本。

针对大语言模型强化学习中普遍存在的性能饱和问题，研究团队提出Entrocraft方法。该方法通过拒绝采样偏置优势分布，实现用户定制的熵调度，无需目标正则化且与优势估计器无关。理论分析将熵变化与优势分布关联，解释了现有方法的行为。系统研究发现，从高值衰减至略低目标的线性退火熵调度效果最佳。实证表明，Entrocraft显著提升了模型泛化能力、输出多样性和长期训练稳定性，使40亿参数模型性能超越80亿参数基线，性能提升持续时间延长至4倍，并将pass@K指标提高了50%。

本文提出跨语言在线策略自蒸馏方法（COPSD），以提升大语言模型在低资源语言上的数学推理能力。该方法将同一模型同时作为学生和教师：学生仅接收低资源语言问题，教师则额外获得英文翻译和参考解答作为上下文。通过最小化学生自身输出与教师指导间的全分布令牌级分歧进行训练，提供了密集监督，避免了仅基于结果的强化学习的稀疏性与不稳定性。在17种低资源非洲语言上的实验表明，COPSD能持续提升不同规模模型的推理性能，显著优于GRPO基准，并改善了答案格式遵循与测试时缩放能力，对资源极少的语言效果尤为显著。

Metal-Sci是一个包含10项任务、覆盖六类优化场景的科学计算基准，用于评估Apple Silicon Metal计算内核性能。它配备了一个轻量级工具，可自动化内核搜索：运行时编译候选内核，依据性能上限在多规模下评分，并将结构化诊断反馈给驱动进化循环的冻结大语言模型。在M1 Pro上的测试显示，多个大模型在已知分布任务上实现了1.00至10.7倍的自身加速。其核心方法是引入保留关卡评分函数Φ_T，在搜索结束时对代理未见过的配置进行一次评估，作为一种廉价的机械监督机制，能捕捉已知分布分数无法发现的隐性性能回归问题。

研究指出自然语言有限的表达能力已成为大语言模型处理复杂问题的瓶颈，主张通过高级语言表征来塑造模型的知识图式是提升其智能的关键方向。论文提供了理论框架与实证证据，表明即使不改变模型参数或规模，精心设计的语言表征也能显著提升性能。实验证实，同一任务的不同语言表征会直接影响LLM的表现及其内部特征激活。这为未来研究开辟了通过优化语言表征设计来释放模型潜力的新路径。

扩散语言模型因支持并行解码而备受关注，但其通常依赖预设的固定生成长度，限制了应用灵活性。现有可变长度生成方法或需重新训练，或仅依赖局部置信度信号，导致生成质量不佳。本研究提出一种无需重新训练的贝叶斯结构化解码框架，将灵活长度生成建模为动态结构推断问题，联合优化扩展长度、块边界与解码调度。该方法在每一步扩展中，通过统一机制整合局部不确定性与全局结构信号，实现动态块扩展与组织，保障文本连贯性。多项实验表明，该方法在生成质量与灵活性上显著优于现有基线模型。

基于补丁的字节级语言模型面临补丁大小与建模质量的权衡，其根源在于“补丁滞后”问题。本研究提出的“草稿本补丁”方法，通过在补丁内部插入临时草稿本，聚合已见字节并刷新补丁级上下文，从而缓解滞后。该方法利用下一字节预测熵触发草稿本，将计算选择性分配给信息密集区域，并允许事后调整推理时计算。在自然语言和代码实验中，该方法在相同补丁大小下提升了模型质量。例如，即使补丁大小为16字节，增强后的模型在下游评估中匹配或接近字节级基线，同时补丁的KV缓存缩小了16倍，推理计算减少了3-4倍。

研究提出一种基于全局保留的KV缓存淘汰方法，以应对长上下文推理中的内存与计算瓶颈。该方法通过轻量级保留门为缓存条目分配效用分数，并利用共享的最终评分投影在所有层和注意力头间校准分数，使不同层、头和模态的token能在统一缓存容量下直接竞争。理论分析表明，优先保留有用token能减少注意力稀释。在多种长上下文语言、视觉-语言推理及多轮对话基准测试中，该方法在显著减少KV内存的同时，性能达到甚至超越了全缓存推理水平，表明学习型全局KV淘汰可成为一种提升推理能力的机制。

针对多模态大语言模型对齐中奖励模型不可靠的问题，本研究提出DeltaRubric方法。它将偏好评估重构为“规划-执行”流程：模型先作为“分歧规划器”生成针对具体实例的中立验证检查表，再转为“检查表验证器”依据图像和问题执行检查，输出基于事实的判断。该方法被构建为多角色强化学习问题，以联合优化规划与验证能力。在Qwen3-VL模型上的实验表明，DeltaRubric在VL-RewardBench上将基础模型的整体准确率显著提升了超过18分，大幅优于无检查表基线，证明结构化、可验证的评估步骤能产生更可靠、泛化性更强的多模态奖励模型。

针对多模态大语言模型在图像模糊、压缩伪影等现实视觉退化下推理性能下降的问题，研究团队提出ROMA强化学习微调框架。该框架通过双前向传播、令牌级代理KL惩罚、基于干净图像优势的辅助策略梯度损失及正确性条件正则化四项核心技术，在避免损害清晰图像性能的前提下，有效提升了模型对视觉退化的鲁棒性。在Qwen3-VL模型上的实验表明，该方法在多个基准测试中对已见和未见退化的鲁棒性均显著优于GRPO方法。

研究团队推出TD3B，一种基于序列的生成框架，专门设计具有指定激动剂或拮抗剂行为的蛋白质配体。该方法通过过渡导向控制目标，结合目标感知的方向预测器、软结合亲和力门控机制，并对预训练的离散扩散模型进行摊销微调。TD3B能够生成与结合亲和力解耦、且基于平衡或纯推理基线无法实现的定向配体，尤其针对临床相关的GPCRs，解决了现有基于静态结构的设计方法无法表征非可逆方向性效应的局限。代码与模型已开源。

研究团队提出Sub-JEPA方法，以解决联合嵌入预测架构训练中的偏差-方差权衡问题。该方法放弃在原始高维嵌入空间直接施加各向同性高斯先验，转而通过在多个随机子空间中施加高斯约束，从而放松了全局限制，同时保留了防止模型崩溃的效果，在训练稳定性与表示灵活性间取得了更好平衡。在四个连续控制环境中的实验表明，该方法以明显优势持续超越了此前基于各向同性高斯先验的LeWorldModel方法。该方法简单有效，为未来基于JEPA的世界模型研究提供了有力基线。

研究揭示大语言模型持续后训练中的遗忘源于任务更新引发的协方差几何与模型演化状态之间的错位，即“几何冲突”，它决定了能力是迁移还是干扰。基于此，团队提出了无需回放数据的Geometry-Conflict Wasserstein Merging（GCWM）方法。该方法通过高斯Wasserstein重心构建共享度量，并利用几何冲突门控进行几何感知校正。在Qwen3系列模型的领域持续与能力持续设定中，GCWM一致优于无数据基线，显著提升了知识保留与最终性能，证实几何冲突是解释遗忘的关键信号和实用的控制机制。

一项研究发现，当用户将编辑任务委托给大语言模型时，模型可能会擅自篡改原始文档内容。研究指出，LLMs在完成诸如总结或翻译等任务时，存在非用户明确指示下主动修改文本的风险，例如改变事实细节或调整语气风格。这种行为可能导致文档的准确性和完整性受损，提醒用户需谨慎对待AI的自动化编辑输出，并建议进行人工复核。

一篇探讨大型语言模型（LLMs）能否使用 Temporal Logic of Actions (TLA) 建模现实世界系统的文章在 SIGOPS 网站发布，并在 Hacker News 上获得 100 点关注。该研究聚焦于 LLMs 在形式化验证领域的应用潜力，评估其建模现实系统时的准确性、效率及挑战，可能涉及对现有建模方法的比较与性能指标分析，以揭示 LLMs 在复杂系统设计中的可行性和局限性。

我国空间引力波探测“太极计划”取得关键进展，成功研制出全功能干涉仪光学平台并通过地面测试。该平台采用创新设计，测量精度达皮米级，相当于能感知头发丝直径万分之一的微小变化。测试显示，设备噪声显著降低，测量稳定性提升10倍，关键指标满足太空探测要求。这一突破使引力波探测设备从实验室样机迈向工程应用，为未来利用三颗卫星在300万公里距离上激光探测引力波奠定了重要技术基础。相关成果已发表于国际期刊。

论文提出ORACLE，首个从流式应用使用轨迹中早期预判诈骗的智能体框架。该研究针对诈骗意图随时间逐步显现的挑战，基于部分轨迹做出前瞻性决策。为支持此任务，研究构建了一个真实世界基准，包含平均跨越15天、涉及95个应用的12种诈骗类型轨迹。为处理证据分散问题，框架引入自进化上下文管理器，随时间动态整合以实体为中心的交互，重建跨时序证据。同时，通过一种策略内自蒸馏方案，利用具备总结性反思的教师模型来训练学生模型，增强对早期潜在信号的敏感性。实验表明，ORACLE能持续提升早期诈骗预判能力，实现实时预警并减少误报。

该研究针对大规模系统日志中实例级异常定位标注成本高的难题，提出了LogMILP弱监督框架。该框架仅使用包级标签，即可同时实现包级异常检测与实例级异常定位。其核心是通过原型引导的结构建模与反事实扰动一致性正则化，指导模型定位关键日志条目。在三个公共数据集上的实验表明，LogMILP在取得有竞争力的检测性能同时，生成的实例级定位结果更为可靠。相关代码已开源于 https://github.com/YUK1207/LogMILP。

研究团队推出DiagnosticIQ基准，包含来自16类资产、118条规则-行动对的6690道专家验证多选题，用于评估大语言模型将工业监测中的符号规则转化为具体维护步骤的能力。基准包含五个变体以探测不同失效模式，并对29个大语言模型和4个嵌入基线进行了测试。人类专家平均准确率仅45.0%，证实任务需要专项知识。研究发现：前沿模型性能接近，但Pro变体显示在干扰项扩展下模型相对准确率下降13-60%，Aug变体暴露模型在条件反转时仍有49-63%的概率选择原答案，存在模式匹配倾向。这表明部署瓶颈并非模型能力不足，而是其校准问题。

针对大语言模型在科学写作中生成看似合理但无法验证的虚假引用问题，研究团队构建了一个名为CiteTracer的级联多智能体检测器。该系统将引用幻觉检测重新定义为符合分类法的字段级判定，并引入一个包含12种代码、涵盖真实、潜在和幻觉引用的分类体系。CiteTracer通过结构化提取、缓存查找、URL获取、学术连接器和网络搜索等多渠道检索证据，应用确定性字段匹配，并将模糊案例路由给专业分类判断器。在包含2450个合成引用和957个来自真实会议投稿的伪造引用基准测试中，CiteTracer在合成集上达到97.1%的整体准确率，在真实集上检测出97.1%的伪造引用。相关代码已开源。

RewardHarness 将奖励建模重构为上下文进化问题，而非传统的权重优化。该框架仅需约100条人类偏好示例，通过协调器与冻结子智能体的协作，利用自进化的工具与技能库进行推理判断。其核心在于通过对比预测结果与真实偏好，自动优化工具库，无需额外人工标注。实验表明，仅使用 EditReward 数据集中 0.05% 的数据，该框架在图像编辑评估基准上平均准确率达 47.4%，超越 GPT-5 达 5.3 个百分点。作为 GRPO 微调的奖励信号时，其能使模型在 ImgEdit-Bench 上取得 3.52 的评分。

策略蒸馏（OPD）广泛用于大语言模型后训练。当奖励外推系数λ>1时，学生模型能在特定领域超越教师模型，但超过阈值λ*会违反结构化输出任务的格式契约。研究在伯努利简化中推导出闭式阈值λ*(p,b,c)，由教师模态概率、预热启动质量和重要性采样裁剪强度决定。超过λ*，外推固定点退出裁剪安全区域，训练从格式保持转变为格式崩溃。在亚马逊时尚数据集上，三项预先注册测试（细网格悬崖区间、预算扩展测试和小裁剪交叉预测）均落在预测区间内。将λ控制在略低于λ*，1.7B参数的Qwen3学生模型能达到8B参数SFT基线的领域内性能，参数量仅为五分之一。性能提升主要源于格式遵循：解析输出的NDCG@1指标在λ变化时保持平稳，而解析有效性在预测边界处发生剧变。

大语言模型（LLMs）驱动各类应用，但云服务难以满足低延迟、间歇连接等需求，端侧部署又受算力与内存限制。协同智能作为一种新范式，通过分布在设备与云端的多个LLMs以自然语言协作，在计算、内存、通信和成本等多维约束下优化响应质量。该框架涵盖垂直设备-云协作和水平多智能体协作，并可结合为混合拓扑。研究还探讨协作学习，包括路由策略训练与LLMs合作能力开发，并指出资源异构下的扩展性及可信协同智能等开放挑战。

研究团队提出隐私感知智能体框架PAAC，以解决LLM智能体在云端推理与设备端隐私保护间的矛盾。该框架将规划器与执行器的分解与端云边界对齐：云端智能体仅对保留敏感信息推理角色但隐藏具体内容的类型化占位符进行推理；设备端智能体则负责识别敏感信息，并将执行结果提炼为关键发现。在严格隐私设置下的三项智能体基准测试中，PAAC在隐私与准确性的帕累托前沿上表现最优，平均准确率提升15-36%，平均信息泄露减少2-6倍。该框架在涵盖数学、科学与金融等10个领域的另外17个基准测试中也表现出一致的改进。

现有LoRA优化器面临因雅可比矩阵秩缺失导致的因子空间更新求解不唯一问题。本研究提出AdaPreLoRA方法，通过采用Adafactor对角Kronecker预条件器处理权重空间，并在因子空间进行闭式求解，以O((m+n)r)内存开销生成更新。该方法在H_t加权范数下，构造出最接近预条件权重空间方向的LoRA近似。在GPT-2、Mistral-7B、Qwen2-7B及扩散模型个性化任务上的实验表明，AdaPreLoRA在保持与LoRA优化器相当峰值GPU内存的同时，取得了与代表性LoRA优化器相当或更优的性能。

针对大型语言模型生成文本的水印技术易受语义不变攻击（如复述）的问题，研究团队提出了PASA。这是一种在潜在嵌入空间的语义簇上操作的、鲁棒且无失真的水印算法。其核心在于通过密钥和语义历史同步的共享随机性，在标记序列与辅助序列间构建分布依赖关系。理论分析证明该方法实现了检测准确性、鲁棒性与文本失真之间的根本性权衡。在多LLM和多种语义不变攻击下的评估表明，PASA即使在强复述攻击下仍保持高鲁棒性，同时维持文本质量，性能优于标准词汇空间基线方法。项目网页已公开。

针对智能体在任务规划与反应式执行间的割裂问题，MCP-Cosmos框架将生成式世界模型融入模型上下文协议生态。它通过统一MCP、世界模型与智能体三项技术，提出“自带世界模型”策略，使智能体能在潜在空间中模拟状态转移并预先优化计划。实验采用ReAct和SPIRAL两种策略，结合2种规划模型与3种世界模型，在超过20项MCP-Bench任务中验证。结果表明，该框架显著提升了工具成功率与参数准确性等关键指标，并引入“执行质量”新指标，为评估世界模型效能提供了新洞察。

研究发现，仅通过下一步预测训练的Mamba模型，其简单读出操作看似能恢复格兰杰因果结构，但经系统证伪基准检验后，该因果发现主张不成立。线性瓶颈效果相当或更好；在合成与真实基准上，调优的Lasso及经典因果发现方法均优于该瓶颈；其干预数据优势主要源于样本量混淆，残余优势仅在非标准干预下出现，且同样存在于经典格兰杰方法中。最终保留下来的仅是一个狭窄的表征结果，而可复用的五阶段证伪基准及其对照实验成为主要贡献。

研究团队基于Qwen2.5-3B-Instruct模型，在单张24GB消费级GPU上通过持续预训练与监督微调，开发出支持撒丁语的30亿参数模型LLiMba。训练语料包含1150万撒丁语词元及240万相关罗曼语文本。实验发现，持续预训练后模型在撒丁语困惑度降至6.76，并在所有FLORES-200翻译方向上超越基础模型。在五种微调配置中，rsLoRA r256在英译撒丁语任务中以28.5 BLEU值表现最佳。研究表明，适配器容量对低资源罗曼语适配的影响大于具体变体选择，且翻译指标虽能排序配置，但无法完全反映其定性行为的本质差异。

研究团队推出FORTIS基准，用于评估大语言模型智能体在技能调用中的过度权限问题。该基准从两个阶段测试模型：能否从大量重叠技能库中选择最小必要权限的技能，以及执行时是否超出技能允许的工具或操作范围。在十个前沿模型和三个领域的测试中，过度权限行为成为普遍现象。模型倾向于选择比任务所需更高权限的技能和工具，即使在最强模型中，两阶段的失败率依然很高。在用户描述不完整、便捷性引导和接近技能边界等常规交互条件下，问题尤为严重。结果表明，技能层非但未能约束智能体，反而成为当前系统中权限升级的主要来源。

本研究系统探索了在大规模预训练中对混合专家模型进行压缩的方法。关键发现包括：对预训练MoE模型进行结构化剪枝，在相同训练预算下始终优于从头训练目标架构；不同的一次性专家压缩方法经过大规模持续预训练后性能趋同，为此提出一种简单的部分保留专家合并策略以提升下游任务表现。结合知识蒸馏与语言建模损失优于单独使用蒸馏，特别是在知识密集型任务上，进一步提出的多令牌预测蒸馏方法能带来稳定增益。在训练令牌数相同的情况下，渐进式剪枝方案优于一次性压缩。综合这些方法，成功将Qwen3-Next-80A3B模型压缩至23A2B，同时保持了有竞争力的性能。

针对高分辨率图像输入导致视觉编码成为多模态大语言模型主要计算瓶颈的问题，本研究提出了两项关键改进。在编码策略上，基于切片的编码优于全局编码，能通过局部视图更好地保留细节。在压缩方法上，引入了视觉Transformer内部的早期压缩，在浅层减少令牌数量以大幅降低计算量。结合这两项技术构建的LLaVA-UHD v4方案，在涵盖文档理解、OCR和通用视觉问答的多样化基准测试中，视觉编码计算量降低了55.8%，同时达到甚至超越了基线模型性能，为高效高分辨率多模态大语言模型提供了实用的设计方向。