QwQ-32B 测评和使用教程来了！

文章主旨：

阿里开源的小参数推理模型 QwQ-32B 性能强悍，支持本地部署和 Function Call，显著降低计算资源依赖，推动 AI 技术普惠化。

关键要点：

• QwQ-32B 模型性能媲美超大参数模型 DeepSeek-R1（671B），在五项基准测试中的表现不输主流大模型。
• QwQ-32B 支持代码能力、数学能力和逻辑推理能力的深度测试，并展现了强大的综合实力。
• 模型可在消费级硬件上运行，本地部署简单，量化版本在一张 4090 GPU 上显存占用不到 18GB。
• 支持 Function Call 功能，可用于开发智能体应用，例如股票数据分析助手，显著增强模型实际应用能力。
• 通义千问团队开源了 200 多款模型，推动 AI 技术普惠化和国内大模型生态建设。

内容结构：

1. 模型性能介绍

阿里开源了 QwQ-32B 小参数推理模型，性能媲美超大参数模型 DeepSeek-R1（671B）。官方评测显示，在五项基准测试中，QwQ-32B 的表现接近满血版 DeepSeek-R1，远超同尺寸蒸馏模型。

2. 本地部署及测试

作者通过租用一张 4090 GPU 部署了 QwQ-32B-AWQ 量化版本，显存占用不到 18GB，测试显示模型运行流畅，适配消费级硬件。实测推理时间为 21.39 秒，结果准确。

3. 性能实测：代码、数学及逻辑能力

• 代码能力：模型能够准确编写复杂的物理场景 Python 脚本，展现出优异的代码生成能力。
• 数学能力：测试考研数学题，均回答正确，证明其数学方面的强大能力。
• 逻辑推理：在复杂的逻辑题中，模型展现了长时间思考和正确解答的能力。

4. Function Call 功能测试

QwQ-32B 支持智能体开发功能（Function Call），作者搭建了一个股票查询助手，通过 API 本地调用，可执行实时行情查询、历史数据获取及财务数据分析。功能测试表明模型能够批判性思考并调整推理过程。

5. 总结与未来发展

QwQ-32B 作为小参数模型，性能卓越且资源需求低，适合创业者、小型团队和专业 AI 应用开发。通义千问团队的开源努力推动了 AI 技术的普惠化和国内生态繁荣。

文章总结：

阿里开源的 QwQ-32B 模型性能优异、应用广泛，正在引领 AI 技术向环保、普惠方向发展，值得关注和推广。

华为的IPD产品思维怎么培养？

了解更多

Datawhale

查看原文：QwQ-32B 测评和使用教程来了！

文章来源：

Datawhale

扫码关注公众号