Qwen3.5-4B-Qwenputer

Qwen3.5-4B-Qwenputer

一个实验性的 Qwen3.5-4B，把 32 位 RISC-V CPU 编译进了权重里，所以能在模型内部做精确算术，适合想探索语言模型内部计算的研究人员和好奇的开发者。

由 divagr1925 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwenputer 是一个实验性模型，它拿 Qwen3.5-4B 为基础，在权重里加入了一个 32 位 RISC-V CPU。这个 CPU 是放在 Qwen 自己 32 层前面的 11 个额外层，其中每个权重都由编译器算出，所以没有任何训练。它不是插件、工具或沙箱。CPU 在模型自己的前向传播过程中运行 C 和 MicroPython 代码。

适合谁：它适合想探索语言模型内部精确计算的研究人员和开发者，也适合想要一个惊艳演示的老师。

Industry | Who uses it | How they use it | Example
人工智能研究 | 研究人员 | 研究语言模型内部的精确计算 | 在新程序上测试把 CPU 放进权重的想法
教育 | 计算机老师 | 展示计算机和模型如何合在一起 | 一堂展示 RISC-V CPU 在 transformer 里的课堂演示
软件 | 开发者 | 不借助外部工具得到精确算术 | 在模型内部做大数相乘
硬件 | 编译器爱好者 | 探索把程序编译进模型权重 | 让 C 代码跑过模型的前向传播

如果你想要一个经过测试、可用于生产的聊天模型，可以跳过它，因为模型卡称它为实验性。

用在哪里：

• 带 uv 的 Python，使用项目自己的聊天驱动程序
• transformers 库，模型页面把它列为这个模型的库
• 带 GPU 的机器，因为模型卡给出的速度是在 L4 上测的

Use case | Who | What they get back
精确算术 | 开发者 | 由内置 CPU 算出的逐位答案
研究演示 | 研究人员 | 一个在前向传播中运行 C 和 MicroPython 代码的模型
教学 | 教育工作者 | 一个在模型内部计算的具体例子

如何设置：

你需要先准备：

• Python、uv 和 git
• 一块 GPU，因为模型卡报告的速度来自 L4
• 大约 18.8 GB 磁盘空间，因为 bf16 文件大部分是零填充
• 项目在 GitHub 上的代码仓库，模型卡里有链接

1. 安装 Hugging Face hub 工具，把模型下载到本地文件夹。
2. 克隆项目的代码，进入它的 experimental riscv 文件夹，用 hf 扩展运行 uv sync。
3. 用固件文件和一个问题运行聊天驱动程序，如下所示。

pip install -U huggingface_hub
hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv

如何使用：用模型文件夹、一个固件文件和你的问题运行聊天驱动程序。模型写出一个 calc 的工具调用，但模型之外没有任何东西去运行它。模型内部的 CPU 层读取这个调用并算出答案，模型再逐位写出结果。

uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf \
    --ask "Use calc: what is 123456789 * 987654321?"

Tool | What it does
RvChat driver | 在解码前用固件文件启动 CPU
calc-bridge.elf | 模型卡示例里用的固件文件
hf download | 把模型取到本地文件夹
uv | 安装项目的 Python 依赖

示例：你让模型用 calc 工具把两个九位数相乘。模型写出调用，里面的 CPU 做乘法，模型再一位一位地写出答案。没有外部程序参与。

新手与专家：常规语言模型一位一位地猜长算术，可能出错。这里模型里有一台小计算机，所以算出的结果是精确的。第一步可以先运行模型卡的 calc 示例，再改别的东西。

Gated DeltaNet 层保存着一个不断更新的状态，这个项目把这个状态的各行用作存储单元。程序、数据、寄存器和程序计数器都放在这些行里。Qwen 的基础权重保持不变，模型卡说文字方面的表现与基础模型很接近。

你问一个需要算术的问题
Qwen 写出 calc 的工具调用
内置 CPU 在模型内部运行它
模型逐位写出结果

注意事项：下面的分数是作者自己的，每组 40 道题，用贪心解码。

Title: DeepMind mul_big 题组上的得分
Base Qwen3.5-4B: 55.0
Qwenputer: 97.5
Python tool on the host: 100

• 实验性: 模型卡说这是一种新型模型，所以可能有粗糙之处
• 检查: 作者把大约 230,000 个输出位置拿去和一台参考机器对照，没有发现任何不一致
• 磁盘占用: bf16 文件共 18.8 GB，其中大部分是零填充，因为加入的计算机只有约 1M 个非零权重
• 相关: 模型卡链接了一个单独的 Filesystem 模型
• 其他版本: 列出了其他人做的 1 个量化版本和 1 个微调版本
• License: 模型是 Apache 2.0，模型卡说源代码是 MIT 许可
• Cost to run: 未提及，GPU 由你自己提供
• Data it reaches: 你给它的提示词，以及你下载的文件

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：9.4B
• Weights: about 18.7 GB in BF16; about 4.7 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：2,598
• 点赞：189
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-4B
• Quantized versions: 1
• Fine-tunes: 1
• 标签：transformers, safetensors, qwen3_5_text, text-generation, qwen3.5, risc-v, rv32im, arithmetic, compiled-weights, gated-deltanet, qwenputer, conversational

链接

• 模型：https://huggingface.co/divagr1925/Qwen3.5-4B-Qwenputer
• 文件：https://huggingface.co/divagr1925/Qwen3.5-4B-Qwenputer/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download divagr1925/Qwen3.5-4B-Qwenputer

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。