Luciole-8B-Instruct-1.1-GGUF

Luciole-8B-Instruct-1.1-GGUF

Luciole-8B-Instruct-1.1 的量化 GGUF 副本，一个支持法语和英语的 8B 文本生成模型，可在你自己的电脑上运行。来自 LINAGORA 在 OpenLLM-France 联盟中的工作。

由 OpenLLM-France 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库收录了 Luciole-8B-Instruct-1.1 的 GGUF 量化副本。它是一个约 8.1B 参数的文本生成模型，支持法语和英语。按 Hugging Face 的估算，4-bit 副本约为 4 GB。模型卡很简短，关于模型如何工作的细节，它让你去看原模型的页面。

适合谁：它适合想在自己机器上运行开放的法语和英语模型的开发者和研究人员。

Industry | Who uses it | How they use it | Example
软件 | 法语应用的开发者 | 在自己的工具后面运行本地聊天模型 | 为内部助手起草法语回复
研究 | 自然语言处理研究人员 | 测试一个开放的 8B 模型处理法语的表现 | 用同样的提示词，把它的回答与另一个模型对比
本地 AI | 爱好者 | 和一个留在自己电脑上的模型聊天 | 让它为粘贴进来的一段文字写简短摘要

需要有据可查的基准数据或现成托管服务的人，可以跳过它。

用在哪里：你在能读取 GGUF 文件的本地应用里运行它。

• Ollama，模型卡指向它来做测试
• llama.cpp，模型卡用它来说明量化细节
• Windows、macOS 或 Linux，配合 Python，用来下载文件

Use case | Who | What they get back
用法语或英语聊天 | 任何人 | 在自己机器上生成的回复
为语言功能做原型 | 开发者 | 一个用来测试提示词的本地模型
比较开放模型 | 研究人员 | 可以和其他 8B 模型并排运行的回答

如何设置：安装就是下载，加上一个能打开 GGUF 文件的本地应用。

• Python，用于 Hugging Face hub 工具
• 存放你保留的那个文件的磁盘空间，4-bit 约 4 GB
• 一个本地应用，比如 Ollama 或 llama.cpp 构建版本

1. 安装 Hugging Face hub 工具。
2. 下载仓库文件。
3. 在本地应用里打开一个文件。模型卡指向原模型页面上的 Ollama 测试步骤。

pip install -U huggingface_hub
hf download OpenLLM-France/Luciole-8B-Instruct-1.1-GGUF

如何使用：模型卡本身没有给出运行命令。你在本地应用里加载文件，用法语或英语和它聊天。想走 Ollama 这条路，请打开原 Luciole-8B-Instruct-1.1 页面上关于用 Ollama 测试的那一节。

示例：你加载文件，输入 "Summarize this paragraph in two sentences."，后面接上你的文字。模型会在你的机器上写出一段简短摘要。你也可以用法语问同样的问题，得到法语回复。

新手与专家：GGUF 是一种在你自己电脑上运行模型的文件格式，量化会把模型缩小，让它放得下。第一次可以先下载文件，在 Ollama 或基于 llama.cpp 的应用里加载，再用法语问一个简短的问题。

如果你熟悉这个领域，这是一个 8.1B 模型的量化版本，模型卡没有给出量化类型、基准测试或训练数据。在依赖它之前，请到原模型页面查看这些内容。

原始的 Luciole-8B-Instruct-1.1
量化成 GGUF
在本地运行环境里加载
你用法语或英语聊天

注意事项：模型卡称，它由 LINAGORA 在 OpenLLM-France 联盟内开发，这是一个由 Bpifrance 资助的 France2030 项目。

• License: Apache-2.0
• Cost to run: 没有提到
• Data it reaches: 它从 Hugging Face 下载文件。模型卡没有提到账号、网络或剪贴板访问。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 参数量：8.1B
• Weights: about 4 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：281
• 点赞：7
• 许可证：apache-2.0
• 语言：fr, en
• 基于：OpenLLM-France/Luciole-8B-Instruct-1.1
• 标签：gguf, openllm-france, text-generation, conversational

链接

• 模型：https://huggingface.co/OpenLLM-France/Luciole-8B-Instruct-1.1-GGUF
• 文件：https://huggingface.co/OpenLLM-France/Luciole-8B-Instruct-1.1-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download OpenLLM-France/Luciole-8B-Instruct-1.1-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。