开发

本文内容均由Ollama官方文档翻译,仅供个人学习,如有差异请以官网文档为准(https://ollama.com)ollama.cadn.net.cn

安装前提条件:ollama.cadn.net.cn

  • Go
  • C/C++ 编译器,例如 macOS 上的 Clang、TDM-GCC(Windows amd64)或 llvm-mingw(Windows arm64),以及 Linux 上的 GCC/Clang。

然后从代码仓库的根目录构建并运行 Ollama:ollama.cadn.net.cn

go run . serve

macOS (Apple Silicon)

macOS Apple Silicon 支持 Metal,Metal 已内置在 Ollama 二进制文件中。无需额外操作。ollama.cadn.net.cn

macOS (Intel)

安装前提条件:ollama.cadn.net.cn

  • CMakebrew install cmake

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Windows

安装前提条件:ollama.cadn.net.cn

[!IMPORTANT] 确保在运行 CMake 之前,先决条件已设置为 PATHollama.cadn.net.cn

[!IMPORTANT] ROCm 与 Visual Studio CMake 生成器不兼容。在配置项目时,请使用 -GNinjaollama.cadn.net.cn

[!IMPORTANT] CUDA 仅与 Visual Studio CMake 生成器兼容。ollama.cadn.net.cn

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build --config Release

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Windows (ARM)

Windows ARM 目前不支持额外的加速库。ollama.cadn.net.cn

Linux

安装前提条件:ollama.cadn.net.cn

  • CMakesudo apt install cmakesudo dnf install cmake
  • (可选)AMD GPU 支持
  • (可选)NVIDIA GPU 支持

[!IMPORTANT] 确保在运行 CMake 之前,先决条件已设置为 PATHollama.cadn.net.cn

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Docker

docker build .

ROCm

docker build --build-arg FLAVOR=rocm .

运行测试

运行测试,请使用 go testollama.cadn.net.cn

go test ./...

库检测

Ollama 会在相对于 ollama 可执行文件的以下路径中查找加速库:ollama.cadn.net.cn

  • ./lib/ollama(Windows)
  • ../lib/ollama(Linux)
  • .(macOS)
  • build/lib/ollama(用于开发)

如果未找到相关库,Ollama 将无法在任何加速库上运行。ollama.cadn.net.cn

匹配结果:""

    未找到匹配“"