LFM2.5-8B-A1B-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

LFM2.5-8B-A1B-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

LiquidAI 的稀疏混合专家模型 LFM2.5-8B-A1B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统和 12 种推理模式。8.5B 的实验性发布，供本地运行。

由 DavidAU 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库放的是 LiquidAI 的 LFM2.5-8B-A1B 的 GGUF 版本，由 DavidAU 修改。基础模型是稀疏混合专家模型，有 32 个专家，每次激活其中 4 个，活跃参数约 1B。这个版本加入了一个叫 Turbo Brilliance 的系统，有 12 种推理模式，可以用提示词里的标签、API 或关键词切换。Hugging Face 列出的参数量是 8.5B，4 位时约 4.2 GB。

适合谁：在自己电脑上运行模型，并喜欢调设置的人。模型卡把基础模型描述为通用模型，带有工具调用和代理训练。它没有说这个版本有多稳定，所以依赖它之前请先测试。

Title: 谁在用，怎么用
Industry | Who uses it | How they use it | Example
本地 AI | 爱好者 | 运行带可切换推理模式的稀疏模型 | 对同一个提示词试两种模式，并对比回答
写作 | 创作者 | 按指定长度起草长文 | 要求写一个长场景，并说明想要的长度
软件 | 开发者 | 通过本地 API 调用模型 | 在请求里用关键词切换模式
AI 研究 | 爱好者 | 对比量化级别和专家数量 | 在默认和提高后的专家数量下运行同一个任务

如果你想要一个有这个版本实测基准分数的普通发布版，可以跳过它，因为模型卡里关于质量和速度的说法出自作者本人。

用在哪里：

• 能加载 GGUF 文件的运行工具，在 Windows、macOS 或 Linux 上
• 聊天，在提示词里输入模式标签
• API，模型卡说可以通过关键词切换模式
• Windows、macOS 或 Linux，用于下载文件，需要 Python

Use case | Who | What they get back
聚焦的回答 | 爱好者 | 按你选的推理模式生成的回复
长输出 | 写作者 | 按模型卡所说，约 2k 到 12k 个 token 或更多的文字
专家调节 | 爱好者 | 通过提高活跃专家数，用速度换质量的一种方法

如何设置：你需要 Python 和 pip 来下载文件，还需要一个能运行 GGUF 模型的工具。这个页面里的模型卡被截断了，所以完整的运行步骤没有显示。请按你所用工具自己的说明加载 GGUF 文件。

• Python 和 pip
• 一个 GGUF 运行工具
• 放你所选量化版的磁盘空间
• 至少 24,000 个 token 的上下文窗口，模型卡强烈建议

1. 安装 Hugging Face hub 库。
2. 下载这个仓库。
3. 在运行工具里加载一个量化版，并设置模型卡的数值。

pip install -U huggingface_hub
hf download DavidAU/LFM2.5-8B-A1B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

模型卡说，量化级别越高，新模式的表现越好。它点名 MAX 量化版和 BF16 文件是最好的。它还说，要进行多轮对话，就把上下文设为 128k 的最大值。

Title: 模型卡建议的设置
Setting | Card's testers | LiquidAI
Temperature | .2 到 1 | 0.2
Top K | 64 | 80
Repetition penalty | 1，也就是关闭 | 1.05
Top P | 0.95 | 未给出
Min P | 0.05 | 未给出

如何使用：开始聊天，用模型卡列出的标签选一个推理模式。模式列表在模型卡可见部分的下方，请到那里去看。如果需要特定的长度，就写明，因为模型卡说模型会遵守。

Tool | What it does
Reasoning modes | 十二种模式，在模型思考之前让它聚焦
Help system | 内置在模型里的交互式帮助，用来选模式
Expert count | 默认激活 32 个里的 4 个，有些模式用 6 个或 8 个
Context setting | 建议至少 24,000 个 token，模型最大为 131,000

示例：你加载一个量化版，设置好温度和上下文，然后在提示词开头加一个模式标签，要求写一篇指定长度的短故事。模型会按那个模式回答。模型卡说缓存应保持关闭。

新手与专家：如果你是新手，先从 4 位文件开始，照抄模型卡的设置，对一个提示词试一个模式。如果回答感觉偏弱，再换更高的量化版。

对熟悉的人来说，模型卡说你可以在应用里加载量化版时提高活跃专家数，有些模式需要 6 个或 8 个。它还声称在 RTX 5090 上能达到每秒 400 到 500 个 token。这是作者自己的数字，这个页面没有显示基准分数。

下载一个量化版
在 GGUF 运行工具里加载
设置上下文、采样参数和专家数
在提示词里加一个模式标签
阅读回答

注意事项：

• License: Apache 2.0
• Cost to run: 没有列出费用，你用的是自己的电脑
• Data it reaches: 它从 Hugging Face 下载文件，模型卡没有提到它还会接触其他内容
• Not for: 需要有文档的稳定发布版的场合
• 基础模型自己的基准数据在模型卡更靠后的部分，这个页面里被截掉了

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 参数量：8.5B
• Weights: about 4.2 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：23,710
• 点赞：67
• 许可证：apache-2.0
• 语言：ar, zh, en, fr, de, hi, id, it
• 基于：LiquidAI/LFM2.5-8B-A1B
• 标签：gguf, liquid, lfm2.5, edge, turbo-brilliance, text-generation, conversational

链接

• 模型：https://huggingface.co/DavidAU/LFM2.5-8B-A1B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF
• 文件：https://huggingface.co/DavidAU/LFM2.5-8B-A1B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download DavidAU/LFM2.5-8B-A1B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。