大型语言模型解决难题的新思路

为了提高大型语言模型（LLMs）在处理复杂问题时的准确性，研究者通常倾向于让模型花费更多时间思考潜在解决方案。然而，现有方法多采用固定计算资源的分配模式，无论问题难易程度如何，都分配相同的计算预算。这一方式可能导致模型在简单问题上浪费资源，或无法应对需要更深度推理的复杂问题。针对这一挑战，麻省理工学院（MIT）的研究团队开发出一种动态计算资源分配方法，根据问题难度和每个部分解决方案的正确性可能性，调整计算预算。这一技术不仅大幅提高模型效率，还降低了计算资源消耗，为复杂问题解决带来了新的突破。

MIT研究团队发现，通过这一名为“实例自适应缩放”（instance-adaptive scaling）的方法，模型能够根据问题复杂性动态调整计算资源分配，使其在不同难度的问题上更加高效地进行推理。他们的研究结果表明，这种动态调整能够节省多达一半计算资源，同时在一系列难度各异的问题上实现与现有方法相当的准确性。

此外，这项技术允许规模较小、资源需求较低的大语言模型在复杂问题上的表现与更大的模型相当，甚至超越后者，为研究者探索小型、高效的AI模型应用创造了更多可能。通过提升复杂推理任务的可靠性和效率，该技术不仅降低了生成式AI系统的能耗，还为在高风险、时效性要求高的领域中部署大语言模型提供了可能性。

与另一种名为“推理时间扩展”（inference-time scaling）的技术不同，MIT的实例自适应缩放方法提供了一种基于问题解决可能性优化计算资源的新策略。推理时间扩展方法通过同时生成多个解决方案或探索不同推理路径，筛选最佳选项以解决复杂问题。相比之下，实例自适应缩放框架能够动态调整所需的解决路径或解决方案数量，依据问题难度和模型处理问题时的成功可能性灵活分配资源。

这一框架的核心依赖于概率反思模型（PRM），实时评估问题难度以及部分答案的潜在正确性。在推理过程的每一步，PRM不仅对问题和部分解决方案进行评估，还能够判断每个部分解决方案是否有潜力通向正确答案。如果模型信心较高，则可以减少潜在解决方案数量，从而节约计算资源。然而，研究团队发现现有PRM往往会高估模型的成功概率。因此，他们通过一个校准好的PRM，使框架能够利用概率评分来有效降低计算资源需求，同时保持输出的准确性。