DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
针对一条消息、文档或智能体轨迹的类型化问题,一次计算就给出每个允许答案的校准概率,不生成文字。这是面向波兰语和英语决策的实验性 31B 模型。
basal-omni-1.0-ultra 是一款工具包,属于商务类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Remek/basal-omni-1.0-ultra
basal-omni-1.0-ultra 是基于 Google Gemma 4 的实验性 31B 模型,是 basal-omni 系列里最大的一个。它不写答案。它读取一个状态,比如一条消息、一份文档、检索到的段落或智能体轨迹,然后回答一个关于它的类型化问题。回复是每个允许选项的概率。
需要对波兰语或英语文本做快速、校准决策的团队,例如分流、打标签或评判内容。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 在流程里加一个决策步骤 | 为智能体的请求挑选合适的工具 |
| 运营 | 流程负责人 | 自动给文档打标签或分流 | 对收到的合同分类 |
| 研究 | 机器学习研究人员 | 研究校准的决策模型 | 与较早的 basal-1.5-max 做比较 |
如果你需要会写文字的模型,可以跳过它,因为它只在你给出的选项里选。
| Use case | Who | What they get back |
|---|---|---|
| 选择工具 | 智能体开发者 | 要调用的工具,而不是它的参数 |
| 是非检查 | 开发者 | 是和否各自的概率 |
| 打分和选择 | 分析师 | 每个选项的概率,最多 255 个 |
pip install -U huggingface_hub hf download Remek/basal-omni-1.0-ultra
你向引擎发送一个状态和一个带允许答案的类型化问题。它返回每个答案的概率。模型卡提到的问题类型见下表。服务器开启 media 选项后,图像可以放在同一个请求里。
| Tool | What it does |
|---|---|
| choice | 在你给出的选项里选一个 |
| noul | 回答是或否 |
| score | 给状态打分 |
| tool | 从 OpenAI 或 MCP 工具定义里挑一个工具 |
你把一条客户消息作为状态,问它是不是投诉,答案是是或否。模型返回是和否各自的概率,这样当它有把握时你可以自动处理,没把握时交给人处理。
如果你是新手,可以把它想成一个速度快、还会告诉你有多确定的分类器。它不能给出你所给选项之外的答案。
如果你是专家,它受 System 1 式决策模型启发。它的训练集有大约 640,000 条波兰语和英语的类型化决策,标注用的软目标来自 basal-1.5。它通过 Gemma 4 自带的图像编码器零样本处理图像,不接受音频。
模型卡的 Werdykt v1 基准在隐藏的波兰语和英语任务上比较了三个模型。
针对一条消息、文档或智能体轨迹的类型化问题,一次计算就给出每个允许答案的校准概率,不生成文字。这是面向波兰语和英语决策的实验性 31B 模型。
由 Remek 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:basal-omni-1.0-ultra 是基于 Google Gemma 4 的实验性 31B 模型,是 basal-omni 系列里最大的一个。它不写答案。它读取一个状态,比如一条消息、一份文档、检索到的段落或智能体轨迹,然后回答一个关于它的类型化问题。回复是每个允许选项的概率。
适合谁:需要对波兰语或英语文本做快速、校准决策的团队,例如分流、打标签或评判内容。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在流程里加一个决策步骤 | 为智能体的请求挑选合适的工具
运营 | 流程负责人 | 自动给文档打标签或分流 | 对收到的合同分类
研究 | 机器学习研究人员 | 研究校准的决策模型 | 与较早的 basal-1.5-max 做比较
如果你需要会写文字的模型,可以跳过它,因为它只在你给出的选项里选。
用在哪里:
Use case | Who | What they get back
选择工具 | 智能体开发者 | 要调用的工具,而不是它的参数
是非检查 | 开发者 | 是和否各自的概率
打分和选择 | 分析师 | 每个选项的概率,最多 255 个
如何设置:
pip install -U huggingface_hub
hf download Remek/basal-omni-1.0-ultra
如何使用:你向引擎发送一个状态和一个带允许答案的类型化问题。它返回每个答案的概率。模型卡提到的问题类型见下表。服务器开启 media 选项后,图像可以放在同一个请求里。
Tool | What it does
choice | 在你给出的选项里选一个
noul | 回答是或否
score | 给状态打分
tool | 从 OpenAI 或 MCP 工具定义里挑一个工具
示例:你把一条客户消息作为状态,问它是不是投诉,答案是是或否。模型返回是和否各自的概率,这样当它有把握时你可以自动处理,没把握时交给人处理。
新手与专家:如果你是新手,可以把它想成一个速度快、还会告诉你有多确定的分类器。它不能给出你所给选项之外的答案。
如果你是专家,它受 System 1 式决策模型启发。它的训练集有大约 640,000 条波兰语和英语的类型化决策,标注用的软目标来自 basal-1.5。它通过 Gemma 4 自带的图像编码器零样本处理图像,不接受音频。
你发送一个状态和一个类型化问题
模型一次前向计算读取它们
它为每个允许选项返回一个概率
你的代码据此行动或交给人处理
注意事项:模型卡的 Werdykt v1 基准在隐藏的波兰语和英语任务上比较了三个模型。
Title: 模型卡中的 Werdykt v1 宏平均分
basal-omni-1.0-ultra: 0.879 分
basal-omni-1.0-max: 0.823 分
basal-1.5-max: 0.773 分
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Remek/basal-omni-1.0-ultra
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| basal-omni-1.0-ultra 本页 | 3,831 | 43 | 31.3B | apache-2.0 | |
| H2O-Lightning-4B共有 calibration · typed-decisions · decision-making | 10,530 | 107 | 4.7B | apache-2.0 | |
| Laplace-1-Atlas共有 text-generation · decision-making · image-text-to-text | 10,692 | 51 | 27.4B | apache-2.0 | |
| Drex DLM共有 typed-decisions · classification · decision-model | 177 | 25 | 8.2B | cc-by-nc-4.0 | |
| Laplace-1-Vector共有 text-generation · decision-making · transformers | 10,582 | 44 | 4.1B | apache-2.0 | |
| Amos 1 large共有 calibration · classification · decision-model | 694 | 28 | — | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
perplexity-ai · 工具包
根据文字和图片为一个决策挑出最合适的选项,比如哪个团队应该处理一条请求,并给出每个选项的概率,适合构建分流和审核工作流的开发者。
numind · 工具包
以文本或图像读取文档,按你要的字段填写 JSON 模板,或把页面转成 Markdown。这是一个 4B 模型,适合处理扫描件、表单和发票的团队。
nace-ai · 工具包
一次推理就对一份文档的是非题、选择题和打分题给出每个选项的概率。这是 Nace.AI 的 8B 决策模型,你可以自己运行,许可证为非商业。