Recursive Flint

Recursive Flint

为编程智能体打造的 39.8B 混合专家语言模型，能调查代码库、修复 bug、实现功能并编写测试，适合在 GPU 服务器上运行自己智能体的开发者。

由 RecursiveSI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Recursive Flint 是 Recursive 推出的编程智能体语言模型。它共有 398 亿参数，但每个 token 只激活约 25 亿。它接收并返回文字，能逐步推理，也能在多轮对话里调用工具。仓库里有 BF16 检查点、分词器、聊天模板和一套 SGLang 部署工具包。

适合谁：它适合想自己托管编程模型，并接入自己智能体的工程团队和工具开发者。

Industry | Who uses it | How they use it | Example
软件团队 | 工程师 | 在自己的 GPU 上运行编程智能体 | 让它在仓库里找出一个失败的测试
开发者工具 | 工具开发者 | 通过兼容 OpenAI 的 API 支撑智能体 | 用 SGLang 部署模型，再用 openai 客户端调用
AI 研究 | 研究人员 | 研究混合专家编程模型 | 在项目报告的智能体基准上运行它

没有 B300 或 H200 GPU 的人可以跳过 BF16 检查点，看看项目另外准备的量化版本。

用在哪里：

• 每个副本配一块 B300 或 H200 GPU 的服务器，使用 sglang 文件夹里的 SGLang 工具包
• Docker，用来构建和运行部署镜像
• 任何支持兼容 OpenAI 的 API 的客户端，包括工具调用
• 调用模型做代码工作的编程智能体

Use case | Who | What they get back
调查代码库 | 开发者 | 模型对仓库如何运作的发现
修复 bug | 工程团队 | 针对所报问题的代码修改建议
功能和测试 | 开发者 | 新功能的代码，以及为它写的测试

如何设置：

你需要先准备：

• Python 和 pip
• Docker
• 每个副本一块 B300 或 H200 GPU
• 大约 80 GB 磁盘空间存放 BF16 检查点

1. 安装 Hugging Face hub 工具和 openai 包。
2. 把模型下载到 flint 文件夹并进入它。
3. 用 sglang 文件夹构建 SGLang Docker 镜像。
4. 用对应你 GPU 的启动脚本 serve_b300.sh 或 serve_h200.sh 启动容器。
5. 等待健康检查有响应。

pip install -U huggingface_hub openai
hf download RecursiveSI/flint --local-dir flint && cd flint   # about 80 GB
docker build -t flint-sglang sglang
docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 \
  -v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve_b300.sh   # H200: serve_h200.sh
until curl -sf localhost:30000/health_generate >/dev/null; do sleep 15; done      # progress: docker logs -f flint

如何使用：服务启动后，用模型名 flint 向它兼容 OpenAI 的接口发送聊天请求。请使用检查点自带的聊天模板，并在对话历史里保留返回的 reasoning_content。提示词和输出共用一个上下文窗口。

Tool | What it does
sglang/example_client.py | 示例客户端，演示推理和一次工具调用
sglang/serve_b300.sh | 在 B300 GPU 上启动服务
sglang/serve_h200.sh | 在 H200 GPU 上启动服务
sglang/README.md | 说明环境要求、启动脚本选项、多 GPU 部署和 API 细节

示例：你向模型发出这样的请求：“找出我的日期解析测试为什么失败，并修好它。”它可以对代码做推理，在多轮里调用工具，并返回一个修复。遇到难题时，请至少留出 32768 个输出 token，推理也算在内。

新手与专家：Flint 是一个你自己托管的大型编程模型，不是聊天网站。第一步可以在服务报告健康之后，试一下 sglang 文件夹里的示例客户端。

从内部看，每个混合专家层有 256 个路由专家，每个 token 选 6 个，再加一个共享专家。49 层里有 2 层是稠密层，47 层是混合专家层。滑动窗口注意力在 35 层里覆盖 513 个 token，另有 14 层使用完整注意力。文档记录的上下文是 262,144 个 token，词表有 150,144 个 token。每个 token 只用到约 2.5B 参数，但全部权重仍要放进内存。

下载 BF16 检查点
构建并启动 SGLang 容器
等待健康检查通过
发送兼容 OpenAI 的聊天请求

注意事项：这些是项目自己的发布评测分数。不同来源的评测设置并不相同，Terminal-Bench 分数把通过网页检索得到的解答算作失败。

Title: 发布评测分数
Terminal-Bench 2.1: 54.9 %
SWE-bench Pro v2: 89.7 %
SWE-bench Verified: 74.2 %

• Transformers: 目前不包含 transformers 库的建模代码，所以要用 SGLang 工具包来运行
• 采样: 推荐设置是 temperature 1.0、top-p 0.95 和 top-k 20，请求里没写时服务会自动应用
• 其他版本: 列出了其他人做的 100 个量化版本和 17 个微调版本
• License: Apache 2.0
• Cost to run: 未提及，但每个副本需要一块 B300 或 H200 GPU
• Data it reaches: 你发给它的提示词，示例只在本机上发布服务端口

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：39.8B
• Weights: about 79.6 GB in BF16; about 19.9 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：51,087
• 点赞：1,391
• 许可证：apache-2.0
• Quantized versions: 101
• Fine-tunes: 17
• 标签：transformers, safetensors, flint, text-generation, conversational

链接

• 模型：https://huggingface.co/RecursiveSI/flint
• 文件：https://huggingface.co/RecursiveSI/flint/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download RecursiveSI/flint

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。