Ollama 模型文件

本文内容均由Ollama官方文档翻译，仅供个人学习，如有差异请以官网文档为准（https://ollama.com）ollama.cadn.net.cn

[!NOTE] Modelfile 语法正在开发中ollama.cadn.net.cn

模型文件是用于创建和与 Ollama 共享模型的蓝图。ollama.cadn.net.cn

目录

• 格式
• 示例
• 说明
  • FROM（必填）
    • 基于现有模型构建
    • 从 Safetensors 模型构建
    • 从 GGUF 文件构建
  • 参数
    • 有效参数和值
  • TEMPLATE
    • 模板变量
  • 系统
  • 适配器
  • 许可协议
  • 消息
• 注释

格式

Modelfile的格式为：ollama.cadn.net.cn

# comment
INSTRUCTION arguments

示例

基本 Modelfile

一个 Modelfile 创建马里奥蓝图的示例：ollama.cadn.net.cn

FROM llama3.2
# sets the temperature to 1 [higher is more creative, lower is more coherent]
PARAMETER temperature 1
# sets the context window size to 4096, this controls how many tokens the LLM can use as context to generate the next token
PARAMETER num_ctx 4096

# sets a custom system message to specify the behavior of the chat assistant
SYSTEM You are Mario from super mario bros, acting as an assistant.

使用方法如下：ollama.cadn.net.cn

1. 将其保存为文件（例如 Modelfile）
2. ollama create choose-a-model-name -f <location of the file e.g. ./Modelfile>
3. ollama run choose-a-model-name
4. 开始使用模型！

要查看给定模型的 Modelfile，请使用 ollama show --modelfile 命令。ollama.cadn.net.cn

ollama show --modelfile llama3.2

输出：:ollama.cadn.net.cn

# Modelfile generated by "ollama show"
# To build a new Modelfile based on this one, replace the FROM line with:
# FROM llama3.2:latest
FROM /Users/pdevine/.ollama/models/blobs/sha256-00e1317cbf74d901080d7100f57580ba8dd8de57203072dc6f668324ba545f29
TEMPLATE """<|start_header_id|>system<|end_header_id|>

<|eot_id|><|start_header_id|>user<|end_header_id|>

<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER stop "<|reserved_special_token"

说明

FROM（必填）

FROM 指令用于定义在创建模型时所使用的基线模型。ollama.cadn.net.cn

FROM <model name>:<tag>

基于现有模型构建

FROM llama3.2

可用的基础模型列表：
https://github.com/ollama/ollama#model-library
更多模型可在以下地址找到：
https://ollama.com/libraryollama.cadn.net.cn

从 Safetensors 模型构建

FROM <model directory>

模型目录应包含受支持架构的Safetensors权重文件。ollama.cadn.net.cn

当前支持的模型架构：ollama.cadn.net.cn

• Llama（包括 Llama 2、Llama 3、Llama 3.1 和 Llama 3.2）
• Mistral（包括 Mistral 1、Mistral 2 和 Mixtral）
• Gemma（包括 Gemma 1 和 Gemma 2）
• Phi3

从 GGUF 文件构建

FROM ./ollama-model.gguf

GGUF 文件路径应指定为绝对路径，或相对于 Modelfile 目录的相对路径。ollama.cadn.net.cn

参数

PARAMETER 指令定义了一个在模型运行时可设置的参数。ollama.cadn.net.cn

PARAMETER <parameter> <parametervalue>

有效参数和值

TEMPLATE

TEMPLATE 个将要传递给模型的完整提示模板。它可（可选地）包含系统消息、用户消息以及模型的回复。注意：语法可能因模型而异。模板使用 Go 模板语法。ollama.cadn.net.cn

模板变量

TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
"""

系统

SYSTEM 指令指定在模板中使用的系统消息（如适用）。ollama.cadn.net.cn

SYSTEM """<system message>"""

适配器

ADAPTER 指令用于指定应应用于基础模型的微调 LoRA 适配器。该适配器的值应为绝对路径，或相对于 Modelfile 的相对路径。基础模型需通过 FROM 指令进行指定。若基础模型与适配器所微调所用的基础模型不一致，则行为将不稳定。ollama.cadn.net.cn

安全张量适配器

ADAPTER <path to safetensor adapter>

当前支持的 Safetensor 适配器：ollama.cadn.net.cn

• Llama（包括 Llama 2、Llama 3 和 Llama 3.1）
• Mistral（包括 Mistral 1、Mistral 2 和 Mixtral）
• Gemma（包括 Gemma 1 和 Gemma 2）

GGUF 适配器

ADAPTER ./ollama-lora.gguf

许可协议

LICENSE 指令允许您指定该 Modelfile 中所使用模型的合法许可协议，该协议用于模型的共享或分发。ollama.cadn.net.cn

LICENSE """
<license text>
"""

消息

MESSAGE 指令允许您指定一个消息历史，供模型在响应时使用。通过多次使用 MESSAGE 指令，可以构建一段对话，从而引导模型以类似的方式进行回答。ollama.cadn.net.cn

MESSAGE <role> <message>

有效角色

示例对话

MESSAGE user Is Toronto in Canada?
MESSAGE assistant yes
MESSAGE user Is Sacramento in Canada?
MESSAGE assistant no
MESSAGE user Is Ontario in Canada?
MESSAGE assistant yes

注释

• Modelfile 不区分大小写。在示例中，使用大写指令以便更容易将其与参数区分开来。
• 指令顺序可以任意。在示例中，FROM 指令排在首位，以保持其可读性。