Linux

本文内容均由Ollama官方文档翻译，仅供个人学习，如有差异请以官网文档为准（https://ollama.com）ollama.cadn.net.cn

安装

要安装 Ollama，请运行以下命令：ollama.cadn.net.cn

curl -fsSL https://ollama.com/install.sh | sh

手动安装

[!NOTE] 如果您正在从早期版本升级，应首先删除带有 sudo rm -rf /usr/lib/ollama 的旧库。ollama.cadn.net.cn

下载并解压安装包：ollama.cadn.net.cn

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

启动 Ollama：ollama.cadn.net.cn

ollama serve

在另一个终端中，验证 Ollama 是否正在运行：ollama.cadn.net.cn

ollama -v

AMD GPU 安装

如果您拥有 AMD GPU，请同时下载并解压额外的 ROCm 软件包：<br>ollama.cadn.net.cn

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM64 安装

下载并解压 ARM64 专用安装包：ollama.cadn.net.cn

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

将 Ollama 添加为开机自启服务（推荐）

为 Ollama 创建用户和用户组：ollama.cadn.net.cn

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

在 /etc/systemd/system/ollama.service 中创建服务文件：ollama.cadn.net.cn

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target

然后启动服务：ollama.cadn.net.cn

sudo systemctl daemon-reload
sudo systemctl enable ollama

安装 CUDA 驱动程序（可选）

下载并安装 CUDA。ollama.cadn.net.cn

通过运行以下命令来验证驱动程序是否已安装，该命令应打印出有关您的GPU的详细信息：ollama.cadn.net.cn

nvidia-smi

安装 AMD ROCm 驱动程序（可选）

下载并安装 ROCm v6.ollama.cadn.net.cn

启动 Ollama

启动 Ollama 并验证其正在运行：ollama.cadn.net.cn

sudo systemctl start ollama
sudo systemctl status ollama

[!NOTE] 尽管AMD已将amdgpu驱动提交至官方Linux内核源码，但该版本较旧，可能不支持全部ROCm功能。我们建议您从https://www.amd.com/en/support/linux-drivers安装最新驱动，以获得对Radeon GPU的最佳支持。ollama.cadn.net.cn

自定义

要自定义 Ollama 的安装，您可以通过以下方式编辑 systemd 服务文件或环境变量：ollama.cadn.net.cn

sudo systemctl edit ollama

或者，手动在/etc/systemd/system/ollama.service.d/override.conf中创建覆盖文件：ollama.cadn.net.cn

[Service]
Environment="OLLAMA_DEBUG=1"

更新中

通过再次运行安装脚本来更新 Ollama：ollama.cadn.net.cn

curl -fsSL https://ollama.com/install.sh | sh

或通过重新下载 Ollama：ollama.cadn.net.cn

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

安装特定版本

使用 OLLAMA_VERSION 环境变量配合安装脚本可安装 Ollama 的特定版本，包括预发布版本。您可在发布页面中查看版本号。ollama.cadn.net.cn

例如：ollama.cadn.net.cn

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

查看日志

要查看作为启动服务运行的 Ollama 的日志，请运行以下命令：ollama.cadn.net.cn

journalctl -e -u ollama

卸载

移除 Ollama 服务：ollama.cadn.net.cn

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

从您的 bin 目录中移除 ollama 二进制文件（可以是 /usr/local/bin、/usr/bin 或 /bin）：ollama.cadn.net.cn

sudo rm $(which ollama)

删除已下载的模型以及 Ollama 服务的用户和用户组：<br>ollama.cadn.net.cn

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

删除已安装的库：ollama.cadn.net.cn

sudo rm -rf /usr/local/lib/ollama

Linux 文档