DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
判断 AI 智能体该采取哪个行动、谁该负责任务、谁能看到什么,这是一个能在你自己硬件上运行的 4B 模型,组织数据不出门。
Laplace-1-Vector 是一款工具包,属于商务类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download JuneoAI/Laplace-1-Vector
Laplace-1-Vector 是 JuneoAI 的 4B 决策模型,是 Laplace-1 系列里的小型边缘成员。它被设计成放在 AI 智能体旁边,在行动执行之前,判断这个行动会在组织内部引起什么后果。它在你自己的硬件上运行,所以数据留在你手里。
如果你的团队让 AI 智能体在公司内部行动,又想要一道不把数据送到外部的检查,它适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 销售运营 | 营收团队 | 决定谁来负责一条新线索 | 给线索打分,并点名最适合跟进的人 |
| 合同与法务 | 运营人员 | 把超出审批额度的工作转交出去 | 把大额合同交给它的负责人,而不是自己处理 |
| 现场服务 | 调度团队 | 让智能体处理常规工单 | 不问人就下发一张维修单 |
| 专业服务 | 交付团队 | 在签收前检查成果 | 把交付物和验收标准做对比 |
如果你没有运行智能体,也没有要分流的决策,可以跳过它。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 分配工作 | 团队负责人 | 谁该负责一项任务的排序 |
| 共享信息 | 安全和数据团队 | 谁可以看到什么、能看多少的判断 |
| 行动 | 智能体开发者 | 直接执行、调整或先询问的结论 |
| 评估结果 | 审核人员 | 对照标准检查一个结果 |
你需要 Python 和约 8.2 GB 的磁盘空间放 BF16 权重,按 Hugging Face 的估算,4 位副本约 2.1 GB。
pip install -U huggingface_hub hf download JuneoAI/Laplace-1-Vector
你把组织的状态、智能体背后的授权链和候选行动交给模型。一次决策只需要一次前向计算。你从下一个 token 的分数里读出候选项上的分布,不需要采样,也不需要解析。模型卡里有一节用法,给出了确切格式。
一个智能体手里有一份超出额度的合同,有三个选择:发出、调整或先询问。你把背景和三个候选项传进去。模型为每个选项返回分数,被看好的最高,强度表示证据有多坚定地指向它。
你可以把它看作智能体的一个快速第二意见。智能体行动之前,先问哪个选项最好,以及模型有多确定。第一次小测试就是给一个任务准备两三个候选行动。
模型学习的是,在给定谁授权了智能体的前提下,一个候选行动之后组织的下一个状态是什么样。公开文本只记录发生了什么,不记录一个行动在公司内部引起了什么,模型卡把这个模型定位为填补这个空白。它基于 XHToken/Spark-X2.6-4B 构建,更大的 27B Laplace-1-Atlas 是这个系列的旗舰。
作者报告称,在他们运行的 8 个基准中,Vector 在 7 个上排名第一,对比的是多家实验室的模型,并列也算在内。他们还说在 COMPASS、OrgAccess 和 Coherence 上,27B 的 Atlas 最多领先 Vector 0.5 分。这些都是他们自己的结果。其他人发布了 1 个量化版本。
判断 AI 智能体该采取哪个行动、谁该负责任务、谁能看到什么,这是一个能在你自己硬件上运行的 4B 模型,组织数据不出门。
由 JuneoAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Laplace-1-Vector 是 JuneoAI 的 4B 决策模型,是 Laplace-1 系列里的小型边缘成员。它被设计成放在 AI 智能体旁边,在行动执行之前,判断这个行动会在组织内部引起什么后果。它在你自己的硬件上运行,所以数据留在你手里。
适合谁:如果你的团队让 AI 智能体在公司内部行动,又想要一道不把数据送到外部的检查,它适合你。
Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
销售运营 | 营收团队 | 决定谁来负责一条新线索 | 给线索打分,并点名最适合跟进的人
合同与法务 | 运营人员 | 把超出审批额度的工作转交出去 | 把大额合同交给它的负责人,而不是自己处理
现场服务 | 调度团队 | 让智能体处理常规工单 | 不问人就下发一张维修单
专业服务 | 交付团队 | 在签收前检查成果 | 把交付物和验收标准做对比
如果你没有运行智能体,也没有要分流的决策,可以跳过它。
用在哪里:
Title: Jobs it does
用途 | 适合谁 | 得到什么
分配工作 | 团队负责人 | 谁该负责一项任务的排序
共享信息 | 安全和数据团队 | 谁可以看到什么、能看多少的判断
行动 | 智能体开发者 | 直接执行、调整或先询问的结论
评估结果 | 审核人员 | 对照标准检查一个结果
如何设置:你需要 Python 和约 8.2 GB 的磁盘空间放 BF16 权重,按 Hugging Face 的估算,4 位副本约 2.1 GB。
pip install -U huggingface_hub
hf download JuneoAI/Laplace-1-Vector
如何使用:你把组织的状态、智能体背后的授权链和候选行动交给模型。一次决策只需要一次前向计算。你从下一个 token 的分数里读出候选项上的分布,不需要采样,也不需要解析。模型卡里有一节用法,给出了确切格式。
示例:一个智能体手里有一份超出额度的合同,有三个选择:发出、调整或先询问。你把背景和三个候选项传进去。模型为每个选项返回分数,被看好的最高,强度表示证据有多坚定地指向它。
新手与专家:你可以把它看作智能体的一个快速第二意见。智能体行动之前,先问哪个选项最好,以及模型有多确定。第一次小测试就是给一个任务准备两三个候选行动。
模型学习的是,在给定谁授权了智能体的前提下,一个候选行动之后组织的下一个状态是什么样。公开文本只记录发生了什么,不记录一个行动在公司内部引起了什么,模型卡把这个模型定位为填补这个空白。它基于 XHToken/Spark-X2.6-4B 构建,更大的 27B Laplace-1-Atlas 是这个系列的旗舰。
组织状态和授权链
输入候选行动
一次前向计算
每个候选项的分数
注意事项:作者报告称,在他们运行的 8 个基准中,Vector 在 7 个上排名第一,对比的是多家实验室的模型,并列也算在内。他们还说在 COMPASS、OrgAccess 和 Coherence 上,27B 的 Atlas 最多领先 Vector 0.5 分。这些都是他们自己的结果。其他人发布了 1 个量化版本。
Title: AgentDecisionBench L2 score
常见: 89.6 %
偏移: 88.1 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download JuneoAI/Laplace-1-Vector
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Laplace-1-Vector 本页 | 10,582 | 44 | 4.1B | apache-2.0 | |
| Laplace-1-Atlas共有 agent-safety · agents · causal-inference | 10,692 | 51 | 27.4B | apache-2.0 | |
| basal-omni-1.0-ultra共有 text-generation · decision-making · transformers | 3,831 | 43 | 31.3B | apache-2.0 | |
| H2O-Lightning-4B共有 decision-making · transformers · safetensors | 10,530 | 107 | 4.7B | apache-2.0 | |
| NuExtract3共有 transformers · safetensors | 40,915 | 397 | 4.5B | apache-2.0 | |
| Drex DLM共有 transformers · safetensors | 177 | 25 | 8.2B | cc-by-nc-4.0 |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
perplexity-ai · 工具包
根据文字和图片为一个决策挑出最合适的选项,比如哪个团队应该处理一条请求,并给出每个选项的概率,适合构建分流和审核工作流的开发者。
numind · 工具包
以文本或图像读取文档,按你要的字段填写 JSON 模板,或把页面转成 Markdown。这是一个 4B 模型,适合处理扫描件、表单和发票的团队。
nace-ai · 工具包
一次推理就对一份文档的是非题、选择题和打分题给出每个选项的概率。这是 Nace.AI 的 8B 决策模型,你可以自己运行,许可证为非商业。