open webui安装以及open web ui的使用(gemini提供)
Open WebUI 是目前最流行、功能最丰富的本地大模型 Web 界面之一,它将 Ollama(或其他兼容 API)的服务封装成一个类似 ChatGPT 的用户界面,极大地提高了本地使用大模型的体验。
一、 Open WebUI 的安装
Open WebUI 的安装方式有多种,其中最推荐和最常用的是使用 Docker 和 Python/Pip。
前提条件
已安装 Ollama 并确保其正在后台运行(默认监听端口为 11434)。
已安装 Docker (推荐方式) 或 Python 3.11/3.12 (Python 方式)。
方式一:使用 Docker (推荐,最简单快捷)
这是最稳定的安装方式,它将 Open WebUI 隔离在一个容器中,避免了依赖冲突。
运行 Docker 命令: 在命令行(Terminal 或 PowerShell)中运行以下命令。
对于没有 GPU 的环境 (CPU 或集成显卡):
Bash
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
对于带有 NVIDIA GPU 的环境 (需要先安装 NVIDIA Container Toolkit):
Bash
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
注意:
--add-host=host.docker.internal:host-gateway 确保容器内的 WebUI 能正确连接到运行在宿主机(你的电脑)上的 Ollama 服务。
-p 3000:8080 表示通过你电脑的 3000 端口访问 WebUI。
访问 WebUI: 打开你的浏览器,访问地址:http://localhost:3000。
方式二:使用 Python/Pip (无需 Docker)
如果你不想使用 Docker,可以直接通过 Python 包管理器安装。
安装 Open WebUI:
Bash
pip install open-webui
启动服务:
Bash
open-webui serve
访问 WebUI: 打开你的浏览器,访问地址:http://localhost:8080。
二、 Open WebUI 的首次配置与使用
1. 首次登录与账户创建
第一次访问 http://localhost:3000 或 http://localhost:8080 时,系统会要求你创建一个本地用户账户(用户名、邮箱和密码)。
这个账户是本地的,用于管理你的聊天记录、设置等。
2. Ollama 连接 (通常是自动的)
如果你是按照上述 Docker 或 Python 步骤安装的,Open WebUI 会自动尝试连接到你本地运行的 Ollama 服务 (默认地址 http://localhost:11434)。
如果连接失败或 Ollama 运行在其他地方:
登录后,点击左下角的用户头像,进入 Admin Settings (管理设置)。
导航到 Connections (连接) 区域,找到 Ollama。
确保 Ollama API URL 被正确设置为 Ollama 服务实际运行的地址和端口 (例如:http://10.0.2.2:11434 或 http://host.docker.internal:11434 或你自定义的地址)。
3. 模型管理与下载
下载模型:
进入 Admin Settings (管理设置) -> Connections (连接) -> Ollama -> Manage (管理)。
在这里,你可以查看本地已安装的模型,也可以输入模型名称(如 llama3:8b)来直接下载和安装 Ollama 仓库中的模型。
快捷方式: 在聊天界面的模型选择下拉框中,直接输入你想要的模型名称,如果本地没有,WebUI 会提示你下载。