Ollama Windows
本文内容均由Ollama官方文档翻译,仅供个人学习,如有差异请以官网文档为准(https://ollama.com)ollama.cadn.net.cn
欢迎使用 Ollama for Windows。ollama.cadn.net.cn
不再需要 WSL!ollama.cadn.net.cn
Ollama 现已作为原生 Windows 应用程序运行,包括对 NVIDIA 和 AMD Radeon GPU 的支持。
安装 Ollama for Windows 后,Ollama 将在后台运行,
ollama 命令行工具可在 命令提示符、PowerShell 或您喜爱的
终端应用程序中使用。一如既往,Ollama API 将在
localhost:11434 上提供服务。ollama.cadn.net.cn
系统要求
Ollama 使用 Unicode 字符进行进度指示,在 Windows 10 的某些旧版终端字体中可能显示为未知方块。如遇此情况,请尝试更改终端字体设置。ollama.cadn.net.cn
文件系统要求
Ollama 的安装不需要管理员权限,默认会安装到您的主目录中。您至少需要 4GB 的空间用于二进制文件的安装。安装 Ollama 后,您还需要额外的空间来存储大语言模型,其大小通常在几十到几百 GB 之间。如果您的主目录空间不足,您可以更改二进制文件的安装位置以及模型的存储位置。ollama.cadn.net.cn
更改安装位置
若要将 Ollama 应用安装到不同于您主目录的其他位置,请使用以下参数启动安装程序ollama.cadn.net.cn
OllamaSetup.exe /DIR="d:\some\location"
更改模型位置
要更改 Ollama 存储下载模型的位置(而非使用您的主目录),请在您的用户账户中设置环境变量 OLLAMA_MODELS。ollama.cadn.net.cn
启动“设置”(Windows 11)或“控制面板”(Windows 10)应用程序,然后搜索环境变量。ollama.cadn.net.cn
点击 编辑您账户的环境变量。ollama.cadn.net.cn
为您的用户账户编辑或创建一个新变量 OLLAMA_MODELS,用于指定模型的存储位置ollama.cadn.net.cn
点击“确定/应用”以保存。ollama.cadn.net.cn
如果 Ollama 已在运行,请退出托盘应用程序,并从“开始”菜单或在保存环境变量后新启动的终端中重新启动它。ollama.cadn.net.cn
API 访问
这是一个展示如何从 powershell 访问 API 的快速示例ollama.cadn.net.cn
(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
故障排除
Ollama 在 Windows 上将文件存储在几个不同的位置。您可以通过在资源管理器窗口中按 <Ctrl>+R 键并输入以下内容来查看它们:ollama.cadn.net.cn
explorer %LOCALAPPDATA%\Ollama 包含日志和下载的更新
- app.log 包含 GUI 应用程序的最新日志
- server.log 包含服务器的最新日志
- upgrade.log 包含升级过程的日志输出
explorer %LOCALAPPDATA%\Programs\Ollama 包含二进制文件(安装程序会将其添加到您的用户 PATH 中)
explorer %HOMEPATH%\.ollama 包含模型和配置
explorer %TEMP% 包含一个或多个 ollama* 目录中的临时可执行文件
卸载
Ollama Windows 安装程序会注册一个卸载程序应用。在 Windows 设置的 Add or remove programs 下,您可以卸载 Ollama。ollama.cadn.net.cn
[!NOTE]
如果您已更改 OLLAMA_MODELS 的位置,则安装程序不会删除您已下载的模型ollama.cadn.net.cn
独立命令行工具
在 Windows 上安装 Ollama 的最简便方法是使用 OllamaSetup.exe 安装程序。该安装程序将在您的用户账户下进行安装,无需管理员权限。
我们定期更新 Ollama 以支持最新模型,此安装程序将帮助您保持版本最新。ollama.cadn.net.cn
如果您想将 Ollama 安装为服务或作为独立组件集成,可下载一个仅包含 Ollama 命令行工具(CLI)及 Nvidia 和 AMD GPU 库依赖项的独立 ollama-windows-amd64.zip 压缩文件。这使得您能够将 Ollama 嵌入现有应用程序,或通过 ollama
serve 并结合 NSSM 等工具将其作为系统服务运行。ollama.cadn.net.cn
[!NOTE]
如果您是从先前版本升级,请先删除旧目录。ollama.cadn.net.cn