Meta-Llama-3.1-8B-Instruct-AWQ-INT4
hugging-quants · 工具包
以 4 位 AWQ 形式运行 Meta 的 Llama 3.1 8B Instruct 聊天模型,只需约 4 GiB 的 GPU 空闲显存来放权重。适合想要紧凑多语言聊天模型的开发者。
hugging-quants · 工具包
以 4 位 AWQ 形式运行 Meta 的 Llama 3.1 8B Instruct 聊天模型,只需约 4 GiB 的 GPU 空闲显存来放权重。适合想要紧凑多语言聊天模型的开发者。
unsloth · 工具包
用 Meta 的紧凑模型 Llama 3.2 3B 指令版聊天、总结和回答问题,提供 Unsloth 制作的 GGUF 文件,从 2 位到 16 位。小到普通笔记本也能用。
Serveurperso · 工具包
这个模型通过 C++ 运行时 qwentts.cpp,在 CPU、CUDA、Metal 或 Vulkan 上用多种语言朗读文本,有命名说话人和普通话方言,还能用一段短录音克隆声音。适合想在本地做文字转语音的开发者。
meta-models · 工具包
一个 300 亿参数智能体模型的 GGUF 版本,供 llama.cpp 使用,附带可选的图像编码器和推测解码草稿模型。适合在 24 GB 显卡上本地运行模型的人。
facebook · 工具包
Meta 的混合专家视觉编码器,无需额外训练就能把图片匹配到文字标签,这里是 384px 的 L/16 模型。授权用于非商业研究。
bartowski · 工具包
Llama-3.2-1B-Instruct 的 GGUF 量化版本,这是一个支持八种语言的 1.2B 文本模型,4 位文件约 0.8 GB。适合运行微型本地模型的人。
unsloth · 工具包
在本地运行一个能读文字和图片、调用工具并在调用失败后重试的 30B 智能体模型,使用 Unsloth 的 GGUF 文件。适合在消费级硬件上构建本地智能体的开发者。
prism-ml · 工具包
用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本,适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。
facebook · 工具包
把视频和图片转成嵌入向量,用于视频分类、检索,或作为视觉语言模型的视频编码器。由 Meta 的 FAIR 打造,适合处理视频的开发者和研究人员。
bartowski · 工具包
Meta Llama 3.1 8B Instruct 的量化 GGUF 文件,用于本地聊天,例如 Q4_K_M 为 4.92 GB,Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言,可在 LM Studio 中运行。
bartowski · 工具包
bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本,大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。
antirez · 工具包
为 Mac 用户提供 DeepSeek V4.1 Flash 经过校准的 2 位和 4 位 GGUF 文件,另有单独的视觉编码器,供 DwarfStar 的 Metal 引擎配合 SSD 流式加载使用。与其他 DeepSeek 权重不通用。
unsloth · 工具包
在笔记本上聊天、总结和回答文字问题,是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本,精度从 16 比特到 2 比特。适合开发者和学习者。
PediaMedAI · 工具包
一个关于罕见病临床病例报告的研究资源项目页:一个含 584 条记录的基准、一个大型病例报告元数据语料库和智能体代码。适合医学 AI 研究人员。
hugging-apps · 工具包
用一张上传的图片,从新的相机角度渲染场景,带偏航和俯仰控制。这是 MetaView 方法的交互演示,适合研究者、3D 美术师和开发者。
baconnier · 工具包
用元提示路由器和精炼器,调用 Zephyr、Llama 等开放模型来优化你写给 AI 模型的提示词。适合想让提示词更清晰的人。
Surn · 工具包
根据文字描述或一段引导旋律生成任意长度的音乐,方法是把生成的片段接起来。它扩展了 Meta 的 Audiocraft,适合音乐人、视频创作者和开发者。