介绍 Qwen 的 QwQ 32B 推理模型

Qwen 的 QwQ 32B 推理模型的发布标志着本地推理模型领域的重要里程碑。本文将深入探讨该模型的细节、其创建过程，以及如何在个人计算机上本地使用该模型。我们还将探讨与其他模型（如 Deep Seek R1）的基准测试和比较。

Qwen QwQ 32B 模型概述

Qwen 之前已经发布了 QwQ 32B 模型的预览版本，可能仍在优化强化学习（RL）的最佳方法，并探索该领域的不同思路。Deep Seek R1 模型的发布可能也影响了 Qwen 的 QwQ Max 预览版本的开发。QwQ 32B 模型实际上是他们的大型模型，可能没有开源。

QwQ 32B Model QwQ 32B 模型详情

基准测试和比较

QwQ 32B 模型在基准测试中与 Deep Seek R1 模型进行了比较，后者是一个 671B 模型。然而，需要注意的是，Deep Seek R1 是一个混合专家模型，任何时候只有 370 亿参数处于活跃状态。而 QwQ 32B 模型是一个密集模型，拥有 320 亿参数。基准测试显示，QwQ 32B 模型表现非常出色，经常超过 Deep Seek R1 模型的各个精简版本。

强化学习过程和训练

用于训练 QwQ 32B 模型的强化学习（RL）过程分为两个阶段。第一阶段使用基于结果的奖励，重点关注数学和编码任务，这些任务有明确的对错答案。第二阶段利用训练好的奖励模型和基于规则的验证器来教授模型更广泛的能力。尽管 RL 过程的细节并未完全公开，但显然 QwQ 32B 模型已经取得了令人印象深刻的结果。

本地运行 QwQ 32B 模型

要试用 QwQ 32B 模型，可以从 Hugging Face 下载并在 Transformers 中使用多 GPU 运行。或者，可以在 Hugging Face Spaces 或通过 Ollama 运行。该模型还可以通过 LM Studio 进行测试，它提供了一个用户友好的界面，可以轻松调整各种设置。