DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
VIDRAFT 的主页,VIDRAFT 是一家位于首尔的 AI 模型实验室,这是个静态站点。它介绍实验室用于训练、合并、压缩、测试和加速语言模型的开放模型与工具。
VIDRAFT 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download VIDraft/AI --repo-type space --local-dir AI cd AI
这个 Space 是 VIDRAFT 的主页,VIDRAFT 是首尔的一家 AI 公司。它发布开放的语言模型,以及用来检验模型的工具。这个页面是一个静态站点,仓库里有页面、图片、一份论文 PDF 和一份 Darwin 模型清单。页面介绍了它做模型的四种方式:从头预训练、合并、跨架构杂交和压缩。
适合关注开放模型实验室、想一次看清 VIDRAFT 提供什么的机器学习研究者和工程师。想在电脑或手机上运行大模型的人,可以看看其中的压缩一条线。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| AI 研究 | 模型研究者 | 阅读合并、预训练和验证的思路 | 看看 Darwin 系列是怎么介绍的 |
| 端侧 AI | 在电脑和手机上运行模型的开发者 | 查看用于本地运行的压缩产品线 | 查一查 POCKET 涵盖哪些模型规模 |
| 安全 | 代码和 AI 智能体的测试人员 | 查看基于证明的测试工具 | 读一读 Chitos 打算测试什么 |
| 数据与数据库 | 分析师 | 查看自然语言转 SQL 的工具 | 读一读 ViSQL 如何通过运行来检查查询 |
如果你现在就想要一个能运行的工具,可以跳过它,因为这个页面只是一家实验室的概览。
| 用途 | 适合谁 | 你得到什么 |
|---|---|---|
| 了解一家模型实验室 | 研究者 | 一张列出模型线和工具及其作用的表 |
| 查找页面列出的模型和数据集 | 工程师 | 六个模型名和六个数据集名,可以去 Hugging Face 上查 |
在线使用什么都不用准备,页面直接在浏览器里运行。想保留一份副本,需要的东西很少。
pip install -U huggingface_hub hf download VIDraft/AI --repo-type space --local-dir AI cd AI
打开页面,通读各条产品线。下面的表列出了页面所介绍的主要几项。
| 工具 | 作用 |
|---|---|
| Darwin | 不经过任何训练,用进化的方式合并模型 |
| AETHER | 从头预训练的基础模型,混合了 5、7 和 11 种注意力类型,权重、代码和日志按 Apache 2.0 开放 |
| 通过标准的 llama.cpp,在电脑、笔记本或手机上运行 26B 到 180B 的模型,不需要 GPU | |
| ZTC | 不生成任何 token,就判断一个答案有多可信 |
| VKAE、VKUE 和 VKIE | 分别加快 GPU、CPU 和 NPU 上的推理 |
| NPU (VKORE) | 在只为推理而造的 NPU 上运行推理、LoRA 调优和预训练 |
| AX-RAY | 在部署之前诊断大模型的安全、因果和可信度 |
| Chitos | 建立在证明之上的、针对代码和 AI 智能体的安全测试 |
| ViSQL | 把问题变成 SQL,并通过运行来检查结果 |
| CellOS | 可微分的细胞模拟,加上能自我纠错的研究智能体 |
你打开页面,读到 POCKET 这一条,上面说大模型可以通过 llama.cpp 在普通电脑、笔记本或手机上运行,不需要显卡。然后你去 Hugging Face 上查这个 Space 列出的模型名。
如果你是新手,先打开这个 Space 的页面,读开头那一段和产品表。不用安装任何东西,你就能得到这家实验室在做什么的一张地图。
如果你熟悉这个领域:页面报告了 Darwin 系列等的基准和排行榜成绩。这些是实验室自己的说法,页面还把项目和一份论文 PDF 联系在一起,所以请对照原始排行榜来核实。页面本身是纯静态文件,其中列出了可以去 Hugging Face 上获取的模型和数据集。
页面上的数字是实验室自己的报告,来源也没有给出在这里核实它们的办法。
VIDRAFT 的主页,VIDRAFT 是一家位于首尔的 AI 模型实验室,这是个静态站点。它介绍实验室用于训练、合并、压缩、测试和加速语言模型的开放模型与工具。
由 VIDraft 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:这个 Space 是 VIDRAFT 的主页,VIDRAFT 是首尔的一家 AI 公司。它发布开放的语言模型,以及用来检验模型的工具。这个页面是一个静态站点,仓库里有页面、图片、一份论文 PDF 和一份 Darwin 模型清单。页面介绍了它做模型的四种方式:从头预训练、合并、跨架构杂交和压缩。
适合谁:适合关注开放模型实验室、想一次看清 VIDRAFT 提供什么的机器学习研究者和工程师。想在电脑或手机上运行大模型的人,可以看看其中的压缩一条线。
行业 | 谁在用 | 怎么用 | 例子
AI 研究 | 模型研究者 | 阅读合并、预训练和验证的思路 | 看看 Darwin 系列是怎么介绍的
端侧 AI | 在电脑和手机上运行模型的开发者 | 查看用于本地运行的压缩产品线 | 查一查 POCKET 涵盖哪些模型规模
安全 | 代码和 AI 智能体的测试人员 | 查看基于证明的测试工具 | 读一读 Chitos 打算测试什么
数据与数据库 | 分析师 | 查看自然语言转 SQL 的工具 | 读一读 ViSQL 如何通过运行来检查查询
如果你现在就想要一个能运行的工具,可以跳过它,因为这个页面只是一家实验室的概览。
用在哪里:
用途 | 适合谁 | 你得到什么
了解一家模型实验室 | 研究者 | 一张列出模型线和工具及其作用的表
查找页面列出的模型和数据集 | 工程师 | 六个模型名和六个数据集名,可以去 Hugging Face 上查
如何设置:在线使用什么都不用准备,页面直接在浏览器里运行。想保留一份副本,需要的东西很少。
pip install -U huggingface_hub
hf download VIDraft/AI --repo-type space --local-dir AI
cd AI
如何使用:打开页面,通读各条产品线。下面的表列出了页面所介绍的主要几项。
工具 | 作用
Darwin | 不经过任何训练,用进化的方式合并模型
AETHER | 从头预训练的基础模型,混合了 5、7 和 11 种注意力类型,权重、代码和日志按 Apache 2.0 开放
POCKET | 通过标准的 llama.cpp,在电脑、笔记本或手机上运行 26B 到 180B 的模型,不需要 GPU
ZTC | 不生成任何 token,就判断一个答案有多可信
VKAE、VKUE 和 VKIE | 分别加快 GPU、CPU 和 NPU 上的推理
NPU (VKORE) | 在只为推理而造的 NPU 上运行推理、LoRA 调优和预训练
AX-RAY | 在部署之前诊断大模型的安全、因果和可信度
Chitos | 建立在证明之上的、针对代码和 AI 智能体的安全测试
ViSQL | 把问题变成 SQL,并通过运行来检查结果
CellOS | 可微分的细胞模拟,加上能自我纠错的研究智能体
示例:你打开页面,读到 POCKET 这一条,上面说大模型可以通过 llama.cpp 在普通电脑、笔记本或手机上运行,不需要显卡。然后你去 Hugging Face 上查这个 Space 列出的模型名。
新手与专家:如果你是新手,先打开这个 Space 的页面,读开头那一段和产品表。不用安装任何东西,你就能得到这家实验室在做什么的一张地图。
如果你熟悉这个领域:页面报告了 Darwin 系列等的基准和排行榜成绩。这些是实验室自己的说法,页面还把项目和一份论文 PDF 联系在一起,所以请对照原始排行榜来核实。页面本身是纯静态文件,其中列出了可以去 Hugging Face 上获取的模型和数据集。
在浏览器里打开页面
读实验室做模型的四种方式
浏览产品表
查找列出的模型和数据集
注意事项:页面上的数字是实验室自己的报告,来源也没有给出在这里核实它们的办法。
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| VIDRAFT 本页 | 24 | static | apache-2.0 | |
| Arena Leaderboard共有 static | 5,039 | static | apache-2.0 | |
| Browser共有 static | 533 | static | cc0-1.0 | |
| Model Pulse共有 static | 214 | static | apache-2.0 | |
| MTEB-BR Leaderboard共有 static | 126 | static | apache-2.0 | |
| Hub Stats共有 static | 65 | static | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
allenai · 工具包
allenai 的 ToyBlocks 积木堆叠项目的底层动作模型,用模拟的 Franka 机械臂数据训练,能在桌面上拾取、放置和旋转三块积木。这是面向机器人学的研究模型。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。