DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
在 ONNX 中本地识别中文、英文和混合文本、代码、日志以及 AI 编程助手请求里的个人信息和凭据。适合在敏感数据离开机器前对它做遮盖的开发者。
AstrLink Guard 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download QuantumNous/astrlink-guard
AstrLink Guard 是一个紧凑的模型,能从中文、英文或两者混合的文本里挑出私人细节和密钥。它还能读源代码、配置文件、日志,以及 AI 编程助手发给语言模型的请求。它在 CPU 上用 ONNX Runtime 本地运行,FP16 版本适合 GPU。每个命中的片段都会给出标签和分数,由你自己的代码决定隐藏什么。
适合想在文本到达语言模型或日志之前,先隐藏密钥和私人细节,并且偏好本地检查的开发者。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 工具开发者 | 扫描编程助手请求里的密钥 | 在提示词里找出 AWS 访问密钥 |
| 隐私 | 数据保护工程师 | 遮盖日志和文档里的个人信息 | 遮掉姓名、账号和证件号码 |
| 企业 IT | 平台团队 | 在模型网关前加一个本地过滤器 | 阻止凭据离开公司 |
需要检测中英文以外语言的人可以跳过。
| 使用场景 | 谁用 | 得到什么 |
|---|---|---|
| 密钥扫描 | 开发者 | 标为凭据的片段及其分数 |
| 隐私遮盖 | 隐私工程师 | 可直接遮盖的个人数据片段 |
| 请求过滤 | 平台团队 | 每个请求里的敏感片段列表 |
先准备好:
pip install -U huggingface_hub hf download QuantumNous/astrlink-guard
把文本按最多 512 个词元的窗口发送,更长的输入用 128 个词元的重叠。模型返回带标签和分数的片段,遮盖之前请按完整说明页里推荐的最小片段分数筛选。想保留旧的日期行为,就把仓库固定到 v0.1.1 版本。
| 工具 | 作用 |
|---|---|
| int8 文件夹 | 动态 INT8 版本,推荐用于 CPU,36 MiB |
| fp32 文件夹 | 准确度更高的 FP32 参考版本,141 MiB |
| fp16 文件夹 | 面向 GPU 运行时的 FP16 版本,每次输入正好 512 个词元 |
你传入一个 AI 编程助手请求,里面有一个 AWS 访问密钥和某人的出生日期。模型返回一个密钥片段和一个日期片段,各带标签和分数。然后你的代码把两者都遮盖掉。
可以把它看作私人信息的荧光笔。它标出文本里看起来像密钥或个人数据的部分,由你决定隐藏什么。一个好的第一步是用 INT8 版本试一小段样本。
模型是一个 BertForTokenClassification,12 层,隐藏层大小 384,约 3690 万参数,基于 Multilingual-MiniLM。0.1.2 版本把日期标签改成只覆盖和特定个人相关的日期,减少了误报,但降低了个人日期的召回率。
在 0.1.2 版本里,日期标签不再对非个人日期触发。这张图用的是编程助手请求里的 7,743 个这类日期。
在 ONNX 中本地识别中文、英文和混合文本、代码、日志以及 AI 编程助手请求里的个人信息和凭据。适合在敏感数据离开机器前对它做遮盖的开发者。
由 QuantumNous 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:AstrLink Guard 是一个紧凑的模型,能从中文、英文或两者混合的文本里挑出私人细节和密钥。它还能读源代码、配置文件、日志,以及 AI 编程助手发给语言模型的请求。它在 CPU 上用 ONNX Runtime 本地运行,FP16 版本适合 GPU。每个命中的片段都会给出标签和分数,由你自己的代码决定隐藏什么。
适合谁:适合想在文本到达语言模型或日志之前,先隐藏密钥和私人细节,并且偏好本地检查的开发者。
行业 | 谁在用 | 怎么用 | 例子
软件 | 工具开发者 | 扫描编程助手请求里的密钥 | 在提示词里找出 AWS 访问密钥
隐私 | 数据保护工程师 | 遮盖日志和文档里的个人信息 | 遮掉姓名、账号和证件号码
企业 IT | 平台团队 | 在模型网关前加一个本地过滤器 | 阻止凭据离开公司
需要检测中英文以外语言的人可以跳过。
用在哪里:
使用场景 | 谁用 | 得到什么
密钥扫描 | 开发者 | 标为凭据的片段及其分数
隐私遮盖 | 隐私工程师 | 可直接遮盖的个人数据片段
请求过滤 | 平台团队 | 每个请求里的敏感片段列表
如何设置:
先准备好:
pip install -U huggingface_hub
hf download QuantumNous/astrlink-guard
如何使用:
把文本按最多 512 个词元的窗口发送,更长的输入用 128 个词元的重叠。模型返回带标签和分数的片段,遮盖之前请按完整说明页里推荐的最小片段分数筛选。想保留旧的日期行为,就把仓库固定到 v0.1.1 版本。
Title: 仓库里的格式
工具 | 作用
int8 文件夹 | 动态 INT8 版本,推荐用于 CPU,36 MiB
fp32 文件夹 | 准确度更高的 FP32 参考版本,141 MiB
fp16 文件夹 | 面向 GPU 运行时的 FP16 版本,每次输入正好 512 个词元
示例:
你传入一个 AI 编程助手请求,里面有一个 AWS 访问密钥和某人的出生日期。模型返回一个密钥片段和一个日期片段,各带标签和分数。然后你的代码把两者都遮盖掉。
新手与专家:
可以把它看作私人信息的荧光笔。它标出文本里看起来像密钥或个人数据的部分,由你决定隐藏什么。一个好的第一步是用 INT8 版本试一小段样本。
模型是一个 BertForTokenClassification,12 层,隐藏层大小 384,约 3690 万参数,基于 Multilingual-MiniLM。0.1.2 版本把日期标签改成只覆盖和特定个人相关的日期,减少了误报,但降低了个人日期的召回率。
把长文本切成 512 词元的窗口
对每个窗口运行 ONNX 模型
收集带标签和分数的片段
遮盖你的应用关心的片段
注意事项:在 0.1.2 版本里,日期标签不再对非个人日期触发。这张图用的是编程助手请求里的 7,743 个这类日期。
Title: 被标出的非个人日期,INT8,共 7,743 个
0.1.1 版本: 7435 dates
0.1.2 版本: 21 dates
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download QuantumNous/astrlink-guard
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| AstrLink Guard 本页 | 408 | 29 | — | apache-2.0 | |
| cbx-indic-pii-extractor-58M共有 privacy · token-classification · onnx | 96 | 4 | 57.6M | apache-2.0 | |
| cbx-indic-pii-extractor-17M共有 privacy · token-classification · onnx | 76 | 3 | 16.7M | apache-2.0 | |
| bert-base-NER共有 token-classification · bert · onnx | 1,038,928 | 750 | 108M | mit | |
| OpenAI Privacy Filter共有 token-classification · onnx | 102,911 | 1,831 | 1.4B | apache-2.0 | |
| UltraBERT-150M-clairic-extraction共有 token-classification · onnx | 138 | 5 | 151M | apache-2.0 |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。