Jasper-K-32B

Jasper-K-32B

这个模型编写 GPU 内核，并通过在测试环境里反复尝试来提升速度。它是用强化学习从 QwQ-32B 训练出来的 32B 模型，面向调优 GPU 代码的工程师。

由 ragentile 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Jasper-K-32B 是 Ragentile 做的 GPU 内核优化模型。模型卡说它来自对 QwQ-32B 的强化学习后训练。它写出候选内核，得到关于能否编译、运行是否正确、跑得多快的反馈，再经过几轮修改。

适合谁：适合想要一个能提出更快内核代码的模型的 GPU 程序员和机器学习系统研究人员，许可证为 Apache 2.0。

Industry | Who uses it | How they use it | Example
AI 基础设施 | GPU 工程师 | 为模型工作负载起草和调优内核 | 加速一个自定义算子
研究 | 机器学习系统研究人员 | 研究用强化学习做代码优化 | 复现内核基准测试的运行
高性能计算 | 性能工程师 | 为现有内核搜索更快的版本 | 按实测时间比较候选内核
教育 | 学生 | 学习反馈循环如何改进生成的代码 | 观察一个内核在几轮中不断变好

如果你不写也不调优 GPU 内核，可以跳过它，因为这个模型只为这一项工作而做。

用在哪里：它在把模型和代码评估器连起来的运行器里运行。

• 用 GitHub 上的配套项目配置的部署环境
• 能编译、测试并计时内核的执行环境
• Windows、macOS 或 Linux，下载时需要 Python

Use case | Who | What they get back
写内核 | GPU 工程师 | 候选内核实现
调优内核 | 性能团队 | 根据编译、正确性和计时反馈修改后的内核
基准研究 | 研究人员 | 按固定流程测得的加速数据

如何设置：你需要 Python、权重，以及单独的运行器。

• 带 pip 的 Python
• 配套的 GitHub 项目，里面有推理运行器、评估器模板、反馈示例和自测
• 按它的说明配置的部署环境和评估器

1. 用 pip 安装 Hugging Face hub 工具。
2. 把模型文件下载到本地文件夹。
3. 从它的 GitHub 项目获取运行器。
4. 按说明设置模型路径、部署环境和评估器。

python3 -m pip install --upgrade huggingface_hub
hf download ragentile/Jasper-K-32B --local-dir ./Jasper-K-32B

如何使用：你通过运行器来使用模型。它发出一个内核任务，运行模型写出的代码，返回编译、正确性和计时反馈，让模型继续修改。具体步骤请看模型卡指向的运行器说明。

示例：你把自己工作负载里的一个内核任务交给运行器。模型提出一个实现，评估器报告它是否正确、跑得多快，模型最多再改四轮。

新手与专家：如果你刚接触这类模型，要知道它不会单独运行。先下载权重，再去读运行器说明，然后才试第一个任务。也看一下文件大小。Hugging Face 为这个仓库只列出约 2 MB 的权重和 1.1M 参数，这和 32B 模型对不上，所以请确认文件里到底是什么。

如果你熟悉这个领域：训练用的是多路径、多轮的 GRPO。基于改进幅度的奖励促使模型在找到正确内核后继续搜索。训练用了 180 个 KernelBenchFixed 的 Level 1 和 Level 2 任务，另有 20 个用于监控。LeetCuda 是一个 50 题的内部测试集，只用于测试，没参与训练。

拿到一个内核任务
模型写出候选内核
评估器编译、检查并计时
反馈送回给模型
模型经过几轮修改

注意事项：模型卡报告的是每个任务最佳加速比的几何平均，从 16 次尝试中挑选，每次最多四轮。这些数字来自作者自己的技术博客。

• License: Apache 2.0，基础模型的署名在 NOTICE 文件里
• Cost to run: 未提及，只需要你自己的 GPU 硬件
• Data it reaches: 模型文件、它写出的内核代码，以及你的评估环境运行的任何内容
• Not for: GPU 内核优化之外的工作，因为模型卡只描述了这一种用途

Hugging Face 上的数据（2026年11月13日）

• 任务：reinforcement learning
• 参数量：1.1M
• Weights: about 2 MB in BF16; about 1 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：90
• 点赞：5
• 许可证：apache-2.0
• 基于：Qwen/QwQ-32B
• Quantized versions: 1
• 标签：safetensors, qwen2, kernel-optimization, reinforcement-learning

链接

• 模型：https://huggingface.co/ragentile/Jasper-K-32B
• 文件：https://huggingface.co/ragentile/Jasper-K-32B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ragentile/Jasper-K-32B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。