推理增强大语模型（LLMS）在生成最终答案之前明确生成了中间的推理步骤，从而帮助模型在复杂的问题解决方面表现出色。在本文中，我们证明了这个新兴生成框架为对模型行为进行更细粒度的控制提供了独特的机会。我们提出了思维干预措施，这是一种新颖的范式，旨在通过策略性地插入或修改特定思维 Token 来明确指导LLM的内部推理过程 ...

大型语言模型（LLMS）在复杂的任务和交互式环境中表现出了令人印象深刻的功能，但它们的创造力仍然没有被忽视。本文使用游戏Balderdash介绍了一个模拟框架，以评估LLM的创造力和逻辑推理。在Balderdash中，玩家为晦涩的术语生成虚拟的定义，以欺骗他人，同时确定正确的定义 ...

（rag）通过为llm提供更新的相关知识，在减轻过时的知识或幻觉方面展现出巨大的价值。然而，rag在理解复杂的多跳查询和检索相关文档方面仍然存在一些困难，llm逐步进行推理和检索。受人类逐渐搜索所需信息的推理过程的启发 ...

强化学习（RL）可以直接增强大语言模型的推理能力，而无需广泛依赖监督微调（SFT）。在这项工作中，我们重新审视了传统的政策梯度（PG）机制，并提出了一种简约的RL方法，称为团体策略梯度（GPG）。与常规方法不同，GPG直接优化了原始RL目标，从而避免了对替代损失函数的需求 ...

增强学习（RL）算法对每个问题进行了多个n> 1的解决方案尝试并独立奖励它们。这可以优化通过@1性能，并优先考虑隔离样品的强度，而牺牲了一组样本的多样性和集体效用。这不足以使采样能力限制，限制了探索并最终改善了更艰难的例子 ...

强化学习（RL）已成为提高大语模型（LLMS）推理能力的关键方法。但是，由于依赖基于结果的奖励和激励探索的机制不足，诸如近端策略优化（PPO）和群体注册政策优化（GRPO）之类的普遍RL方法面临关键限制。这些限制导致多步推理过程效率低下的指导 ...

最近的大型推理模型（例如DeepSeek-R1）通过产生长链（COT）推理步骤，表现出强烈的复杂问题解决能力。直接训练小语言模型（SLM）以出现长床是一项挑战。因此，蒸馏成为一种实用方法，可以使SLM获得这种推理能力 ...

站在2025年，在追求人工通用智能（AGI）的关键时刻，加强微调（RFT）在增强大语言模型（LLMS）的推理能力方面具有巨大潜力，并导致开发了诸如OpenAI-O1和DeepSeek-R1之类的切割AI模型。此外，RFT在增强多模式模型（MLLM）的推理能力方面的有效应用引起了社区的广泛关注。在这个立场论文中，我们认为加强微调为多模式大语模型的推理能力提供了能力 ...