PPIO解锁QwQ-32B:小参数大能量,推理性能亮眼!

PPIO解锁QwQ-32B:小参数大能量,推理性能亮眼!

QwQ 系列推理模型在 AI 界久负盛名。

2025 年 3 月 6 日凌晨,阿里巴巴正式发布并开源了其中极具潜力的 QwQ-32B 模型。与传统的指令调优模型相比,QwQ 具备卓越的思考和推理能力,能够在下游任务中实现显著增强的性能,尤其是在解决困难问题方面表现突出。

Ⅰ. 模型简介:中型推理的实力担当

QwQ-32B 是一款 320 亿参数的中型推理模型,在与最先进的推理模型,如 DeepSeek-R1、o1-mini 的对比中,也能展现出极具竞争力的性能。

该模型在一系列评估数学、编码和结构化推理的基准上进行了测试。

在 AIME24 数学测试、LiveCodeBench 编码测试中,QwQ-32B 均紧追 DeepSeek - R1 。在 IFEval 测试、LiveBench、BFCL 通用技能评估方面,QwQ-32B 分别以 83.9 、73.1 、66.4分高于 DeepSeek - R1。

Ⅱ. 模型应用:PPIO打造优质体验

作为深耕 AI infra 领域的行业先锋,PPIO派欧云上线 QwQ-32B 模型,旨在为广大用户提供更高效、更智能的 AI 解决方案。

在价格方面,QwQ-32B 模型具有相当的吸引力,输入仅¥1 / 百万 tokens,输出仅¥3.5 / 百万 tokens同时,其 context 长度可达 32k,能够获取更丰富的上下文信息,从而做出更精准、全面的判断与解答

平台支持针对该模型的 function call 功能,提供了更高的灵活性,能更高效地将模型融入各类应用场景之中 。

模型结果对比:

DeepSeek - R1 分点明确,公式与文字结合紧密,以标准 “解析” 形式呈现;

QwQ - 32B 采用 “自问自答”,穿插大量计算细节,思考过程外显,适合教学场景。

准确性方面,两者均正确解题。

👉在线体验:https://ppinfra.com/llm/qwen-qwq-32b

👉API 文档:https://ppinfra.com/docs/model-api/reference/llm/

Read more

PPIO发布Agent Runtime:让Agent部署像Serverless一样简单

PPIO发布Agent Runtime:让Agent部署像Serverless一样简单

近期,PPIO 发布了基于 Sandbox(沙箱)自研的新产品:Agent Runtime,一个轻量级的 Agent 运行时框架。 Agent Runtime 是为了顺应 Agent 的专属需求而推出,其定位与 AWS AgentCore Runtime 类似。AgentCore 是 AWS 在 2025 年推出的专为 Agent 设计的基础设施平台,AgentCore Runtime 则是其中一个子产品,是基于 Firecracker 微虚拟机的 Serverless 运行时环境,旨在解决 Agent 低成本、高效率的部署问题。 PPIO Agent Runtime 通过简单易用的 SDK 与强大的沙箱运行环境来简化 Agent 的部署过程。用户无需关心基础设施配置、

By PPIO
当Agent计算规模扩大100倍,我们需要什么样的Agentic Infra?

当Agent计算规模扩大100倍,我们需要什么样的Agentic Infra?

近期,PPIO Sandbox(沙箱)发布了一个重要功能:沙箱克隆。 沙箱克隆旨在助力提高 Agent 的并行计算能力,也就是经典的“Scale up”规模扩展问题。 今年最流行的 Agent 产品是 Deep Research,它可以看作对单个研究问题持续追踪、推演、迭代直到形成洞察的长链路串行推理过程。 那么,如果将 Deep Research 的能力 Scale up 一百倍会发生什么?像 Manus 这样的 Agent 正在解决这类挑战,并将这种并行计算架构的 Agent 称之为 Wide Research。 从 Agent 的串行计算到并行计算,离不开“沙箱克隆”这一核心技术的助力,这是 PPIO 在 Agentic Infra

By PPIO
PPIO上线Kimi K2 Thinking,兼容Anthropic协议

PPIO上线Kimi K2 Thinking,兼容Anthropic协议

今天,PPIO 上线 Kimi K2 Thinking,这是 Kimi 最新、功能最强大的开源思考模型。 Kimi K2 Thinking 基于 Kimi K2 后训练而来的混合专家模型(MoE),总参数达 1T,激活参数 32B,上下文长度 256K。该模型支持深度思考、Function Call、结构化输出、json_schema、json_object 等功能。 现在,你可以到 PPIO 官网在线体现 Kimi K2 Thinking,也可以将 PPIO 的模型 API 部署到 AI 应用中。 PPIO 在线体验地址: https:

By PPIO
PPIO独家上新GPU实例模板,一键部署Kimi-Linear

PPIO独家上新GPU实例模板,一键部署Kimi-Linear

昨晚,月之暗面发布了混合线性注意力架构新模型 Kimi-Linear,旨在解决大语言模型在长上下文推理中的计算瓶颈。 Kimi-Linear 的核心亮点: * Kimi Delta Attention(KDA),一种通过细粒度门控机制改进门控规则的线性注意力架构。 * 混合架构:采用 3:1 的 KDA 与全局 MLA 比例,在保持甚至超越全注意力质量的同时降低内存占用。 * 卓越性能:在 1.4T Token 的训练规模下,经公平对比,KDA 在长文本与类强化学习基准等多项任务上均优于全注意力。 * 高吞吐:在 1M 上下文中实现最高 6 倍的解码吞吐量,显著缩短单输出 Token 耗时(TPOT)。 今天,PPIO 独家上新 GPU 实例模板,可一键部署 Kimi-Linear-48B-A3B-Instruct 的专属模型。 PPIO 算力市场的

By PPIO