DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
一个 2.2 亿参数的文本到文本模型,能做英语、法语、罗马尼亚语和德语之间的翻译,也能做摘要、问答和分类。适合开发者和 NLP 学习者。
T5 Base 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download google-t5/t5-base
T5 Base 是 Text-To-Text Transfer Transformer 的 2.2 亿参数检查点。它用同一种方式处理所有语言任务:文本进,文本出。一个模型、一种训练方法、一套设置就能覆盖很多任务。
作者说它可以翻译、概括文档、回答问题,也可以把文本分到不同类别。Hugging Face 标注的语言有英语、法语、罗马尼亚语和德语。
适合想要一个小而知名的语言模型、能在自己机器上运行并改造成自己任务的开发者、学生和研究人员。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 应用开发者 | 给产品加入翻译或摘要功能 | 把简短的英语笔记翻译成德语 |
| 研究 | NLP 研究人员 | 用它作为文本到文本实验的基线 | 把新方法和 T5 Base 对比 |
| 教育 | 学生 | 学习一个模型如何服务多种语言任务 | 用同一个检查点试翻译和情感任务 |
| 内容 | 本地化团队 | 起草四种语言之间的译文 | 一段短文的法语初译 |
如果你需要其他语言,或者想要聊天助手,可以跳过它。模型卡列了四种语言,描述的是通用的文本到文本模型。
| Use case | Who | What they get back |
|---|---|---|
| 翻译 | 开发者 | 英语、法语、罗马尼亚语或德语的文本 |
| 摘要 | 内容团队 | 由长文本得到的较短文本 |
| 分类 | 分析师 | 以文本形式写出的标签,比如情感 |
你需要 Python 和 Transformers 库。
pip install -U huggingface_hub hf download google-t5/t5-base
用 Transformers 加载模型和分词器,把任务写进输入文本,然后读取它返回的文本。模型卡的入门部分在来源里被截断了,所以具体代码请查官方页面。
因为输入和输出始终是文本,同一个模型可以翻译、做摘要或打标签。甚至连数字也可以当作字符串来预测。
一位开发者把一句简短的英语句子交给模型,并在输入文本里要求翻成德语。模型以文本形式返回译文。输入里怎么描述任务,要按模型的文档来。
如果你刚接触,T5 是一个通用的文本 Transformer。下载它,在 Transformers 里加载,试一句简短的翻译,看看文本进文本出的思路是怎么运作的。
对专家来说,模型在 C4 语料上做了预训练,混合了无监督去噪任务和有监督任务,包括 CoLA、SST-2、MRPC、STS-B、QQP、MNLI、QNLI、RTE、CB 和 COPA。模型卡说同一个模型、损失函数和超参数适用于任何任务,回归任务可以通过预测数字的文本形式来完成。
下面几点说明了限制和成本。
一个 2.2 亿参数的文本到文本模型,能做英语、法语、罗马尼亚语和德语之间的翻译,也能做摘要、问答和分类。适合开发者和 NLP 学习者。
由 google-t5 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:T5 Base 是 Text-To-Text Transfer Transformer 的 2.2 亿参数检查点。它用同一种方式处理所有语言任务:文本进,文本出。一个模型、一种训练方法、一套设置就能覆盖很多任务。
作者说它可以翻译、概括文档、回答问题,也可以把文本分到不同类别。Hugging Face 标注的语言有英语、法语、罗马尼亚语和德语。
适合谁:适合想要一个小而知名的语言模型、能在自己机器上运行并改造成自己任务的开发者、学生和研究人员。
Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 给产品加入翻译或摘要功能 | 把简短的英语笔记翻译成德语
研究 | NLP 研究人员 | 用它作为文本到文本实验的基线 | 把新方法和 T5 Base 对比
教育 | 学生 | 学习一个模型如何服务多种语言任务 | 用同一个检查点试翻译和情感任务
内容 | 本地化团队 | 起草四种语言之间的译文 | 一段短文的法语初译
如果你需要其他语言,或者想要聊天助手,可以跳过它。模型卡列了四种语言,描述的是通用的文本到文本模型。
用在哪里:
Use case | Who | What they get back
翻译 | 开发者 | 英语、法语、罗马尼亚语或德语的文本
摘要 | 内容团队 | 由长文本得到的较短文本
分类 | 分析师 | 以文本形式写出的标签,比如情感
如何设置:你需要 Python 和 Transformers 库。
pip install -U huggingface_hub
hf download google-t5/t5-base
如何使用:用 Transformers 加载模型和分词器,把任务写进输入文本,然后读取它返回的文本。模型卡的入门部分在来源里被截断了,所以具体代码请查官方页面。
因为输入和输出始终是文本,同一个模型可以翻译、做摘要或打标签。甚至连数字也可以当作字符串来预测。
示例:一位开发者把一句简短的英语句子交给模型,并在输入文本里要求翻成德语。模型以文本形式返回译文。输入里怎么描述任务,要按模型的文档来。
新手与专家:如果你刚接触,T5 是一个通用的文本 Transformer。下载它,在 Transformers 里加载,试一句简短的翻译,看看文本进文本出的思路是怎么运作的。
对专家来说,模型在 C4 语料上做了预训练,混合了无监督去噪任务和有监督任务,包括 CoLA、SST-2、MRPC、STS-B、QQP、MNLI、QNLI、RTE、CB 和 COPA。模型卡说同一个模型、损失函数和超参数适用于任何任务,回归任务可以通过预测数字的文本形式来完成。
把任务写进输入文本
用 T5 分词器分词
模型生成输出文本
把词元解码回文本
读取译文、摘要或标签
注意事项:下面几点说明了限制和成本。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download google-t5/t5-base
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| T5 Base 本页 | 2,853,651 | 811 | 223M | apache-2.0 | |
| T5 Small共有 summarization · text2text-generation · t5 | 20,046,141 | 696 | 60.5M | apache-2.0 | |
| all-MiniLM-L6-v2共有 rust · pytorch · transformers | 174,740,184 | 6,104 | 22.7M | apache-2.0 | |
| GPT-2共有 rust · pytorch · transformers | 32,892,223 | 3,932 | 137M | mit | |
| BERT base model (uncased)共有 rust · pytorch · transformers | 31,346,528 | 3,071 | 110M | apache-2.0 | |
| DistilBERT base uncased共有 rust · pytorch · transformers | 5,452,853 | 1,148 | 67M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。