本文内容均由Ollama官方文档翻译,仅供个人学习,如有差异请以官网文档为准(https://ollama.com)ollama.cadn.net.cn
安装前提条件:ollama.cadn.net.cn
然后从代码仓库的根目录构建并运行 Ollama:ollama.cadn.net.cn
go run . serve
macOS Apple Silicon 支持 Metal,Metal 已内置在 Ollama 二进制文件中。无需额外操作。ollama.cadn.net.cn
brew install cmake
然后,配置并构建项目:ollama.cadn.net.cn
cmake -B build cmake --build build
最后,运行 Ollama:ollama.cadn.net.cn
[!IMPORTANT] 确保在运行 CMake 之前,先决条件已设置为 PATH。ollama.cadn.net.cn [!IMPORTANT] ROCm 与 Visual Studio CMake 生成器不兼容。在配置项目时,请使用 -GNinja。ollama.cadn.net.cn [!IMPORTANT] CUDA 仅与 Visual Studio CMake 生成器兼容。ollama.cadn.net.cn
[!IMPORTANT] 确保在运行 CMake 之前,先决条件已设置为 PATH。ollama.cadn.net.cn
PATH
[!IMPORTANT] ROCm 与 Visual Studio CMake 生成器不兼容。在配置项目时,请使用 -GNinja。ollama.cadn.net.cn
-GNinja
[!IMPORTANT] CUDA 仅与 Visual Studio CMake 生成器兼容。ollama.cadn.net.cn
cmake -B build cmake --build build --config Release
Windows ARM 目前不支持额外的加速库。ollama.cadn.net.cn
sudo apt install cmake
sudo dnf install cmake
docker build .
docker build --build-arg FLAVOR=rocm .
运行测试,请使用 go test:ollama.cadn.net.cn
go test
go test ./...
Ollama 会在相对于 ollama 可执行文件的以下路径中查找加速库:ollama.cadn.net.cn
ollama
./lib/ollama
../lib/ollama
.
build/lib/ollama
如果未找到相关库,Ollama 将无法在任何加速库上运行。ollama.cadn.net.cn