MedErtas v0.1 27B LS

MedErtas v0.1 27B LS

压缩到 22 GB 的开放权重医学语言模型，最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。

由 ErtasAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：MedErtas v0.1 27B LS 是 ErtasAI 基于 Qwen3.8-27B 构建的医学语言模型。团队用医学数据做校准来量化它的权重，架构保持不变。结果是一个 22 GB 的版本，原来在 BF16 下是 55.6 GB，适合快速、低成本的部署。

适合谁：需要临床计算，或需要从长病历中得出答案的医疗 AI 产品团队。模型卡说它在这两件事上最强。请把它的回答当作草稿，交给有资质的人核对。

Title: 谁在用，怎么用
Industry | Who uses it | How they use it | Example
健康软件 | 产品团队 | 为剂量、评分和风险提供计算功能 | 工具根据录入的患者数值算出临床评分
临床数据 | 数据和病历团队 | 从长病历中提取事实，并返回简短的答案 | 审阅者询问病历里关于某项检查结果是怎么写的
医学 AI 研究 | 评测人员 | 把压缩版本和它的全精度基础模型对比 | 在你自己的环境里重跑模型卡里的医学测试集
基础设施 | 机器学习平台工程师 | 在一块 GPU 上以更低成本部署 27B 医学模型 | 在 Blackwell 显卡上用 vLLM 运行它

如果你的产品主要做考试式回答、ICD-10 编码或幻觉检查，可以跳过它，因为模型卡为这些任务推荐 31B-LS 的兄弟版本。

用在哪里：

• NVIDIA Blackwell GPU 上的 vLLM，4-bit 格式需要它
• Ertas AI gateway 和 API，模型卡把它们列为托管方式
• Windows、macOS 或 Linux，用于下载文件

Use case | Who | What they get back
临床计算 | 产品团队 | 剂量、评分和风险数值，在模型卡的计算测试集上得分 77.3
长病历 | 数据团队 | 从长病历中得出的简短答案，得分在 88.5 到 89.4 之间
快速部署 | 平台团队 | 快速解码，使用模型卡提到的 Perigee 草稿模型

如何设置：你需要 Python 和 pip 来下载，还需要一块 NVIDIA Blackwell GPU 来运行。模型卡测的是一块 96 GB 的 RTX PRO 6000，并说更小的 Blackwell 显卡没有测过。

• Python 和 pip
• NVIDIA Blackwell GPU，因为 NVFP4 格式需要它
• 模型卡列出的 vLLM 版本，0.32.0
• 可选：约 4.0 GB 的 Perigee 草稿模型

1. 安装 Hugging Face hub 库。
2. 下载这个仓库。
3. 在 Blackwell GPU 上用 vLLM 提供服务。

pip install -U huggingface_hub
hf download ErtasAI/MedErtas-v0.1-27B-LS

如何使用：用 vLLM 部署模型，再通过服务器向它发送临床问题或计算任务。模型卡是在关闭思考的情况下测试的。加上 Perigee 草稿模型可以加快解码。

Tool | What it does
vLLM | 提供模型服务，测试版本为 0.32.0
Perigee drafter | 一个 4.0 GB 的辅助模型，加快医学文本的解码
Ertas AI gateway | 不用自己的 GPU 就能使用模型的托管方式

示例：你给部署好的模型一位患者的化验数值，让它算出风险评分。它会做完计算，再返回一个数字。请让人核对结果，因为模型卡在它的计算测试集上测得的是 77.3。

新手与专家：如果你是新手，这是一个缩小后能放进一块高端 GPU 的医学专用模型。它需要较新的 NVIDIA 硬件，所以先确认你有 Blackwell 显卡。

对熟悉的人来说，这个版本对 MLP 投影和 LM head 使用 NVFP4 的 W4A4，注意力使用 FP8，门控、嵌入和视觉塔使用 BF16。这和 NVIDIA 的 NVFP4 布局一致，区别在于医学校准。模型卡报告它在 12 个测试集上达到 BF16 平均分的 98.2%，在临床计算上每秒 207 个词元，而 BF16 是 26。

从 Qwen3.8-27B 出发
用医学数据校准
量化为 NVFP4
在 Blackwell GPU 上用 vLLM 部署
搭配 Perigee 草稿模型

注意事项：

Title: 12 个医学测试集的平均分
BF16: 78.4
This model: 77
Red Hat NVFP4: 76.4
NVIDIA NVFP4: 76.7

• License: Apache 2.0，来自 Qwen3.8
• Cost to run: 本地使用没有列出费用，只需要 Blackwell GPU，托管的 Ertas API 是另一项服务
• Data it reaches: 它从 Hugging Face 下载文件，调用托管服务会把你的提示词发给 Ertas
• Not for: 比 Blackwell 更旧的 GPU，或超过模型卡测过的 65,536 个词元的上下文
• 有些得分比 BF16 低几分，比如临床计算低 3.6

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：vllm
• 参数量：18.2B
• Weights: about 18.2 GB in U8
• Formats: Safetensors
• 最近 30 天下载：4,187
• 点赞：6
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3.8-27B
• 标签：vllm, safetensors, qwen3_5, medical, clinical, nvfp4, modelopt, speculative-decoding, qwen3.8, ertas, medertas, text-generation

链接

• 模型：https://huggingface.co/ErtasAI/MedErtas-v0.1-27B-LS
• 文件：https://huggingface.co/ErtasAI/MedErtas-v0.1-27B-LS/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ErtasAI/MedErtas-v0.1-27B-LS

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。