PPIO独家上新GPU实例模板,一键部署Kimi-Linear

分享
PPIO独家上新GPU实例模板,一键部署Kimi-Linear

昨晚,月之暗面发布了混合线性注意力架构新模型 Kimi-Linear,旨在解决大语言模型在长上下文推理中的计算瓶颈。

Kimi-Linear 的核心亮点:

  • Kimi Delta Attention(KDA),一种通过细粒度门控机制改进门控规则的线性注意力架构。
  • 混合架构:采用 3:1 的 KDA 与全局 MLA 比例,在保持甚至超越全注意力质量的同时降低内存占用。
  • 卓越性能:在 1.4T Token 的训练规模下,经公平对比,KDA 在长文本与类强化学习基准等多项任务上均优于全注意力。
  • 高吞吐:在 1M 上下文中实现最高 6 倍的解码吞吐量,显著缩短单输出 Token 耗时(TPOT)。

今天,PPIO 独家上新 GPU 实例模板,可一键部署 Kimi-Linear-48B-A3B-Instruct 的专属模型。

PPIO 算力市场的 GPU 实例模板是将大语言模型进行私有化部署的模板,方便企业及个人开发者降低模型部署成本,实现高效、安全调用。

在线体验:

https://ppio.com/gpu-instance/console/explore

# 01

PPIO GPU 私有化部署模板

一键部署 Kimi-Linear

Step 1: 在 PPIO 算力市场的子模版市场选择 Kimi-Linear 的对应模板,并使用此模板。  

图片

Step 2: 按照所需配置点击部署。

图片

Step 3: 检查磁盘大小、计费方式等信息,确认无误后点击下一步。

图片

Step 4: 稍等一会,实例创建需要一些时间。

图片

Step 5: 在实例管理里可以查看到所创建的实例。

图片

Step 6: 查看实例日志,确保服务正常启动。

图片

Step 7: 点击启动 Web Terminal 选项,启动后点击连接选项即可连接到网页终端。

# 02

如何使用?

访问您的私有模型,注意请将下文中的

 “http://127.0.0.1:8080” 替换为您真正的访问地址,复制以下代码,访问您的私有模型!

curl --request POST \
  --url http://127.0.0.1:8080/v1/chat/completions \
  --header "Authorization: Bearer " \
  --header "Content-Type: application/json" \
  --data '{
      "model": "moonshotai/Kimi-Linear-48B-A3B-Instruct",
      "messages": [
        {"role": "user", "content":"who are you?"}
      ],
      "max_tokens": 128
  }'
 {"id":"chatcmpl-de7c4de865e94699b80eb1a0d0bc9f22","object":"chat.completion","created":1761904682,"model":"moonshotai/Kimi-Linear-48B-A3B-Instruct","choices":[{"index":0,"message":{"role":"assistant","content":"I'm Kimi, a large language model trained by Moonshot AI. I'm here to help you with any questions or tasks you have. How can I assist you today?","refusal":null,"annotations":null,"audio":null,"function_call":null,"tool_calls":[],"reasoning_content":null},"logprobs":null,"finish_reason":"stop","stop_reason":163586,"token_ids":null}],"service_tier":null,"system_fingerprint":null,"usage":{"prompt_tokens":11,"total_tokens":46,"completion_tokens":35,"prompt_tokens_details":null},"prompt_logprobs":null,"prompt_token_ids":null,"kv_transfer_params":null}

将 API 地址配置到您的 Cherry Studio 等应用,就可以拥有专属模型及聊天助手!

目前,PPIO 算力市场已上线几十个私有化部署模板,除了 Kimi-Linear,你可以将 DeepSeek-R1-Distill-Qwen-1.5B、StableDiffusion:v1.10、PaddleOCR-VL 等模型快速进行私有化部署。

如果你有企业级 Model API 需求,可扫下方二维码获取报价与权益说明。

阅读更多

Agent 的任务成本,如何管理?

Agent 的任务成本,如何管理?

模型价格持续下降,Agent 完成一项工作的花费却未必同步下降。一次任务可能先读取资料,再规划步骤、调用工具、检查结果;任何一步失败,都可能带来新一轮模型调用。 对企业来说,成本已经不只是价格表上的每百万 Token 单价,还包括完成任务所需的调用次数、执行时间与返工次数。PPIO 智能模型网关面向的,正是这条任务链上的模型选择与 Token 调度问题。

By PPIO
PPIO亮相AICC算力大会:以智能Token工厂打造Agent时代的智能生产线

PPIO亮相AICC算力大会:以智能Token工厂打造Agent时代的智能生产线

近日,PPIO 受邀参加 AICC 2026 人工智能计算大会。 PPIO 研发副总裁李星星发表了题为《PPIO 的 Token 工厂与智能模型网关实践》的主题演讲,分享了 PPIO 在智能模型网关、推理加速引擎、全球算力调度与 Agent 沙箱等核心能力,系统阐述了面向 Agent 时代的智能 Token 工厂方法论与全球化实践。 从人使用 Token,到 Agent 使用 Token Token 工厂这一概念由英伟达较早提出,今年以来随着 AI 产业的高速发展,Token 工厂正式进入爆发期。李星星指出,5G 时代比拼的是手机流量,AI 时代比拼的则是 Token。 来自工业和信息化部、国家数据局的最新数据显示,截至 2026 年 6

By luigi
PPIO Agentic Cloud 是什么?从 Claude Projects 看 Agent 的运行底座

PPIO Agentic Cloud 是什么?从 Claude Projects 看 Agent 的运行底座

PPIO Agentic Cloud 是 PPIO 面向 AI Agent 构建、部署与运行提出的云服务体系。 2026 年 7 月,PPIO 用智能模型网关与 Agent Harness 两个功能侧解释这一体系:前者负责模型与 Token 的选择、调度和治理,后者关注长程任务中的上下文、工具与执行循环;PPIO Sandbox 是 Harness 的核心组件之一。 这套体系回答的是一个越来越具体的问题:当 Agent 不再只完成一次问答,而要持续调用工具、处理文件、执行代码并交付结果时,模型之外还需要什么? 当对话成为入口,Project 成为工作对象 2026 年 9 月 17 日,Anthropic 重新设计了 Claude

By luigi
PPIO 沙箱支持接入 OpenAI Agents API:一键托管 Agent Harness

PPIO 沙箱支持接入 OpenAI Agents API:一键托管 Agent Harness

近期,OpenAI 发布了一个重要的 API 产品:Agents API,把驱动 Codex 和 ChatGPT for Work 的 Harness 基础设施开放给了所有开发者。 这是 OpenAI 最新一代的智能体托管方案。用户只需通过一次 Agents API 调用,指定任务、模型、工具和环境参数,即可创建出可投入实际使用的智能体。 作为国内领先的独立 Agentic Cloud 服务商,PPIO 沙箱已在第一时间完成对 Agents API 的支持接入,成为不可或缺的 Harness 基础设施组件。 国内开发者从今天起可以在 OpenAI 这套全新范式上跑智能体,并自主选择 PPIO 沙箱作为智能体运行环境。 一次 API 调用,换来一个“数字员工”

By luigi