North Mini Code

North Mini Code

Cohere 的开放权重研究模型，用于写代码、智能体软件工程和终端任务。30B 模型，3B 激活，256K 上下文。适合自己运行编程模型的开发者。

由 CohereLabs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：North Mini Code 是 Cohere 和 Cohere Labs 发布的开放权重研究模型，面向代码生成、智能体软件工程和终端任务。它总共有 30B 参数，同一时间激活 3B。上下文长度是 256K，最大输出 64K。

适合谁：它适合想在自己硬件上运行编程模型的开发者和研究人员，包括在终端里做智能体式的工作。它输入文字，输出文字。

Title: 谁在用
Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 用本地模型生成和评审代码 | 请求写一个检查字符串的 Python 程序
AI 工具 | 智能体开发者 | 驱动编程或终端智能体 | 通过智能体运行软件工程任务
研究 | 评测人员 | 用开放权重测试编程基准 | 复现智能体编程结果

需要图像输入的人可以跳过它，因为模型卡列的只有文字。

用在哪里：

• 使用 transformers 库的 Python
• OpenCode，模型卡提到可以用它试用模型
• Cohere 托管的 Hugging Face Space，下载前先试用
• Windows、macOS 或 Linux，用来下载文件

Title: 主要用途
Use case | Who | What they get back
代码生成 | 开发者 | 根据平实描述写出的程序
智能体软件工程 | 智能体开发者 | 在代码仓库场景下的多步修复
终端任务 | 开发者 | 命令行工作的命令和步骤

如何设置：

• 你电脑上的 Python
• huggingface_hub 包
• 从带有该模型改动的源码仓库安装的 transformers
• BF16 约需 61 GB 磁盘空间，按估计 4-bit 约 15.2 GB

1. 安装 Hugging Face 的 hub 包。
2. 把模型文件下载到你的电脑。
3. 从源码安装 transformers，其中带有该模型需要的改动。
4. 加载模型，并用推荐的采样设置生成。

pip install -U huggingface_hub
hf download CohereLabs/North-Mini-Code-1.0

如何使用：加载分词器和模型，用聊天模板格式化你的请求，再生成。模型卡推荐温度 1.0、top_p 0.95。

# pip install transformers
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereLabs/North-Mini-Code-1.0"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

prompt = "Write a python program to check if a string is a palindrome or not."

# Format message with the North-Mini-Code-1.0 chat template
messages = [{"role": "user", "content": prompt}]
input_ids = tokenizer.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_tensors="pt",
)

gen_tokens = model.generate(
    **input_ids,
    max_new_tokens=1024,
    do_sample=True,
    temperature=1.0,
    top_p=0.95
)

gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)

模型卡还展示了 transformers 的 pipeline 抽象，作为另一种运行方式。

Title: 模型卡提到的基准
Benchmark | Kind
SWE-Bench Verified 和 SWE-Bench Pro | 智能体编程
Terminal-Bench v2 和 Terminal-Bench Hard | 智能体终端任务
SciCode 和 LiveCodeBench v6 | 不使用工具的复杂代码生成

示例：你发送提示词，要求写一个检查字符串是否为回文的 Python 程序。模型把代码写成文字，脚本把它打印出来。模型卡没有给出打印输出，所以请先运行代码，再决定是否信任它。

新手与专家：如果你是新手，先试用托管的 Space，满意再下载权重。第一件小事可以是用你熟悉的语言写一个短函数，这样你自己就能判断代码好坏。

对于专家来说，模型卡为每个基准列出 3 个随机种子，并推荐用温度 1.0 和 top_p 0.95 采样。智能体编程的测试用了 SWE-Agent 和一个带终端工具的简单 ReAct 设置。分数在一张图里，这段文字没有复制。

安装带有该模型支持的 transformers
加载分词器和模型
用聊天模板格式化请求
以温度 1.0 生成代码

注意事项：

• Research release: 模型卡称它是开放权重的研究发布。
• Input and output: 只有文字。
• Install note: transformers 必须来自带有该模型改动的源码仓库。
• License: Apache 2.0。
• Cost to run: 来源未提及，30B 的模型需要大量内存。
• Data it reaches: 它从 Hugging Face 下载文件，来源没有提到其他内容。
• Not for: 图像输入，因为模型只接受文字。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：30.5B
• Weights: about 61 GB in BF16; about 15.2 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：8,171
• 点赞：587
• 许可证：apache-2.0
• Quantized versions: 39
• Fine-tunes: 5
• 标签：transformers, safetensors, cohere2_moe, text-generation, conversational, chat, code, agent

链接

• 模型：https://huggingface.co/CohereLabs/North-Mini-Code-1.0
• 文件：https://huggingface.co/CohereLabs/North-Mini-Code-1.0/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download CohereLabs/North-Mini-Code-1.0

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。