halogen-qwen3.8-flash-next

halogen-qwen3.8-flash-next

存放 halogen-flash-server 所用的模型权重，这个引擎能在 AMD Strix Halo 机器上运行 Qwen3.8-Flash-Next，适合想在本机运行该模型的这类硬件的主人。

由 peonist-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库存放的是 halogen-flash-server 所用的权重，这个专用引擎在 AMD Strix Halo 芯片（gfx1151）上运行 Qwen3.8-Flash-Next。文件使用 halogen 自己的 .hgn 格式，所以 transformers、vLLM 和 llama.cpp 都无法加载。它们是用来挂载进 halogen-flash-server 容器的。

适合谁：如果你有一台内存很大的 AMD Strix Halo 机器，想自己在上面运行 Qwen3.8-Flash-Next，它适合你。

Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
自托管 | 家庭实验室玩家 | 在一台 AMD 机器上运行大模型 | 从 Strix Halo 机器上提供模型服务
软件 | 开发者 | 在工作流里使用本地模型服务器 | 让应用指向本地服务器的端口
AI 基础设施 | 工程师 | 测试为一种芯片调校的推理引擎 | 在自己的机器上对比各个检查点选项

如果你没有 Strix Halo 机器，或者想要标准的模型格式，可以跳过它。

用在哪里：

• halogen-flash-server 容器，用 podman 或 Docker 运行
• AMD Strix Halo 主机，模型卡提到的是 128 GB 的那种
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

Title: Jobs it does
用途 | 适合谁 | 得到什么
本地文本生成 | 开发者 | 在你自己机器上运行的模型服务器
图片输入 | 要发送截图的用户 | 加上可选的视觉文件后，能读取图片
更省内存的选项 | 内存紧张的主人 | 内存占用少约 8 GiB 的较小检查点

如何设置：你需要一台内存充足的 Strix Halo 机器和约 110 GiB 的磁盘空间。模型需要约 62 GiB 常驻内存，外加内存映射的查找表。

• 带 pip 的 Python，用于 hf 命令
• podman 或 Docker
• 一台 AMD Strix Halo 机器，最好是专门腾出来做这件事的

1. 把仓库下载到一个模型文件夹里。
2. 启动服务器容器，传入 AMD GPU 设备，并以只读方式挂载模型文件夹。
3. 如果用 Docker 而不是 Podman，把 keep-groups 选项换成 video 和 render 组。
4. 可选：设置 HALOGEN_VISION_TOWER=1 来开启图片输入，或用 HALOGEN_CHECKPOINT 选择较小的检查点。

hf download peonist-ai/halogen-qwen3.8-flash-next --local-dir ~/halogen-models

如何使用：容器启动后，服务器监听 8731 端口，你的应用向它发送请求。模型卡完整给出了容器命令，还说明了每条路径需要哪些文件。

Title: Files in the repository
工具 | 作用
qwen38-flash-next-v2.hgn | 默认检查点，62.1 GiB
qwen38-flash-next-ngram.hgn | 它的查找表，必须保留，47.7 GiB
qwen38-flash-next-ht43.hgn | 可选的较小检查点，53.7 GiB
qwen38-flash-next-vision.hgn | 用于读取图片的可选文件，0.84 GiB
qwen38-flash-next-mtp.hgn | 运行 GGUF 副本用的草稿头，1.42 GiB

示例：你下载仓库，启动容器，向 8731 端口发送一条文字提示词。把视觉文件放在检查点旁边并打开视觉选项后，你还可以发送截图让模型去读。

新手与专家：这是专业配置，所以先确认你有这样的硬件。第一小步是下载文件，并在启动容器之前先读模型卡的文件列表。

较小的 ht43 检查点用更少的位数存放专家，占用的内存少约 8 GiB，提示词读取更慢，解码也略慢。从 0.7.0 版本起，服务器还可以直接打开 llama.cpp 的 GGUF，草稿头文件提供 GGUF 缺少的那个头。0.14 版本的旧 w4b 文件仍然可以加载。

下载 .hgn 文件
把它们挂载进容器
halogen-flash-server 加载模型
请求到达 8731 端口

注意事项：给服务器单独一台机器。在默认设置下，它会占用 128 GB 主机的大部分内存，其他大型进程可能会卡住，直到内存释放。

Title: File sizes in the repository
v2 检查点: 62.1 GiB
查找表: 47.7 GiB
ht43 检查点: 53.7 GiB
w4b 检查点: 115.55 GiB
草稿头: 1.42 GiB
视觉文件: 0.84 GiB

• License: Apache 2.0。
• Cost to run: 未提及，除了 AMD 硬件。
• Data it reaches: 文件来自 Hugging Face，之后模型在你自己的机器上运行。
• Not for: transformers、vLLM 或 llama.cpp，也不适合 AMD Strix Halo 以外的硬件。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：halogen
• 最近 30 天下载：0
• 点赞：198
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.8-Flash-Next
• Fine-tunes: 1
• 标签：halogen, halogen-flash, qwen, mixture-of-experts, long-context, quantized, 4-bit, strix-halo, gfx1151, rocm, radeon, ryzen-ai

链接

• 模型：https://huggingface.co/peonist-ai/halogen-qwen3.8-flash-next
• 文件：https://huggingface.co/peonist-ai/halogen-qwen3.8-flash-next/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download peonist-ai/halogen-qwen3.8-flash-next

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。