Llama-3.1-8B-Stheno-v3.4

Llama-3.1-8B-Stheno-v3.4

写故事，并在多轮对话中扮演角色。这是一个面向创意写作和角色扮演的 8B Llama 3.1 微调模型，适合在自己机器上运行模型的爱好者。

由 Sao10K 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Llama-3.1-8B-Stheno-v3.4 是 Sao10K 做的 80 亿参数模型，专为创意写作和角色扮演调过。它经过两轮微调，先用多轮对话和指令数据，再用创意写作和角色扮演数据。作者说它的感觉和早期的 Stheno 版本不同。

适合谁：适合在本地运行语言模型、想要一个专为故事和角色对话打造的模型的写作者和爱好者。记录里只列了英文。

行业 | 谁在用 | 怎么用 | 例子
创意写作 | 小说作者 | 用针对创意文本调过的模型起草场景和对白 | 从开头一段续写一个短篇故事
游戏与爱好 | 角色扮演爱好者 | 在多个回合里进行长时间的角色对话 | 在连续的故事里扮演一艘船的领航员
AI 爱好 | 本地模型折腾者 | 用自己的采样设置试用 8B 模型 | 把建议的温度和更低的温度做对比

需要商用或需要其他语言输出的人可以跳过它，因为许可证是非商业的，列出的语言是英文。

用在哪里：

• Windows、macOS 或 Linux，装有 Python，用来下载文件
• 能加载 Safetensors 模型并使用 Llama 3 Instruct 格式的聊天或角色扮演前端
• 你自己的硬件，因为权重在 BF16 下约 16.1 GB

使用场景 | 适合谁 | 你会得到什么
写故事 | 作者 | 创意风格的叙述和场景
角色扮演 | 角色扮演爱好者 | 在多个回合里仍能保持角色的回复
一般助手问题 | 爱好者 | 指令式的回答，模型卡说这是调教的一部分

如何设置：你需要先准备几样东西。

• Python 和 pip
• 约 16.1 GB 的磁盘空间，4-bit 下估计约 4 GB
• 能运行 8B Safetensors 模型的前端或脚本

1. 用 pip 安装 Hugging Face hub 工具。
2. 把模型文件下载到你的电脑。
3. 在你用的前端里加载它们，并选择 Llama 3 Instruct 提示词格式。

pip install -U huggingface_hub
hf download Sao10K/Llama-3.1-8B-Stheno-v3.4

如何使用：模型卡给的是提示建议，不是命令。使用 Llama 3 Instruct 格式，作者说 Euryale 2.1 预设效果不错。温度和 min_p 要自己设置。

• Temperature: 作者推荐 1.4
• min_p: 作者推荐 0.2
• 多试几次，因为作者说它和早期版本表现不同

示例：你让它继续一个场景，扮演一艘船的领航员并保持角色，使用 Llama 3 Instruct 格式，温度 1.4，min_p 0.2。你可以期待一段保持角色的回复，把对话往前推进，这正是角色扮演调教想要的效果。

新手与专家：如果你是新手，可以把它想成一个爱聊天、被训练来讲故事和演角色的模型。下载它，在支持 Llama 3 Instruct 格式的前端里加载，先用建议的温度和 min_p。

往底层看，调教数据混合了人工撰写的内容和 Claude 的输出，单轮样本也用 Opus 3 和 Sonnet 3.5 给出的新提示词和回复重做了。与早期 Stheno 数据集相比，角色扮演多了 55%，创意写作多了 40%。基础模型是 Llama 3.1，作者觉得它比 Nemo 基础模型更难调。

Llama 3.1 8B 基础模型
第一阶段：多轮对话调教
第二阶段：创意写作和角色扮演调教
用 Llama 3 Instruct 格式写提示词
模型写出回复

注意事项：

• License: cc-by-nc-4.0，一种用于非商业用途的 Creative Commons 许可证。
• Cost to run: 没有提到 API 密钥或付费服务。你自己提供硬件，训练用的算力由 Backyard.ai 提供。
• Data it reaches: 只有你给它的提示词。模型卡没有提到文件、网络或账号访问。
• Not for: 在这个许可证下做商用，或使用英文以外的语言。作者还说 Llama 3.1 的结果不如 Nemo 基础模型让人满意。

Hugging Face 上的数据（2026年11月13日）

• 参数量：8B
• Weights: about 16.1 GB in BF16; about 4 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,143
• 点赞：105
• 许可证：cc-by-nc-4.0
• 语言：en
• Quantized versions: 18
• Fine-tunes: 2
• 标签：safetensors, llama

链接

• 模型：https://huggingface.co/Sao10K/Llama-3.1-8B-Stheno-v3.4
• 文件：https://huggingface.co/Sao10K/Llama-3.1-8B-Stheno-v3.4/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Sao10K/Llama-3.1-8B-Stheno-v3.4

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。