方案概述
实现体验满血版DeepSeek R1模型的方案大致分为三步:
- 准备工作:在操作前,您需要为部署做好准备工作。例如,准备满足部署条件的ECS实例、配置百炼API信息等。
- 安装Open WebUI:在准备好的实例上安装Open WebUI。
- 设置Open WebUI:设置后,新用户即可通过
http://:8080
访问并注册登录您部署的Open WebUI,与DeepSeek R1模型进行对话问答。
1. 准备ECS实例
- 前往ECS实例购买页。
- 购买实例,实例需要满足以下条件:
- 操作系统:Linux。本文以Alibaba Cloud Linux 3为例。
- 开通公网:您可以为实例分配固定公网IP地址或绑定弹性公网IP(EIP)以开通公网。本文以为实例分配固定公网IP地址为例。
- 安全组:入方向规则需已放行22、8080端口。
您可以在实例购买完成后,单击实例ID,进入实例详情页,在安全组页签中单击管理规则,手动添加入方向规则。
说明:如果需要使用http及https默认端口,安全组入方向规则还需要放行80及443端口。
2. 远程连接至ECS实例
连接至ECS实例,以便后续在实例上执行相关命令。
- 前往ECS控制台实例列表,选择目标实例所在的资源组和地域后,在列表中找到待连接的实例,单击操作列下的远程连接。
- 单击通过Workbench远程连接下的立即登录。
- 选择认证方式,填写相应登录凭证后,单击登录。
3. 安装Docker
在ECS实例上安装Docker,用于后续环境搭建及Open WebUI的部署。
- 执行以下命令,安装Docker社区版本。
#添加Docker软件包源 sudo wget -O /etc/yum.repos.d/docker-ce.repo http://mirrors.cloud.aliyuncs.com/docker-ce/linux/centos/docker-ce.repo sudo sed -i 's|https://mirrors.aliyun.com|http://mirrors.cloud.aliyuncs.com|g' /etc/yum.repos.d/docker-ce.repo #Alibaba Cloud Linux3专用的dnf源兼容插件 sudo dnf -y install dnf-plugin-releasever-adapter --repo alinux3-plus #安装Docker社区版本,容器运行时containerd.io,以及Docker构建和Compose插件 sudo dnf -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin #启动Docker sudo systemctl start docker #设置Docker守护进程在系统启动时自动启动 sudo systemctl enable docker
- 执行以下命令,验证Docker是否安装成功。
sudo docker -v
- 如下图回显信息所示,表示Docker已安装成功。
4. 配置百炼API信息
- 开通大模型服务平台百炼:使用便宜云服务器主账号前往百炼控制台,如果页面顶部显示以下消息,您需要开通百炼的模型服务,以获得免费额度。如果未显示该消息,则表示您已经开通。
- 获取百炼API Key:在控制台的右上角选择API-KEY,然后创建API Key,用于通过API调用大模型。具体操作,请参见API Key。
说明:请优先通过主账号空间获取API Key。
- 配置环境变量:在ECS中执行以下命令,配置百炼API服务地址与API Key到环境变量,并创建数据目录。
说明:请将命令中的<您的API KEY>替换为您获取的百炼API Key。
#创建数据目录 sudo mkdir -p /mnt/open-webui-data #设置百炼服务地址 export OPENAI_API_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1 #设置百炼API Key export OPENAI_API_KEY=<您的API KEY>
5. 拉取Python镜像
在ECS上执行以下命令,拉取Python镜像,作为基础环境。
sudo docker pull alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1
6. 安装Open WebUI
- 执行以下命令,根据Python镜像启动容器,并在容器内安装并启动Open WebUI。
#启动open-webui服务 sudo docker run -d -t --network=host --name open-webui \ --restart=always \ -e ENABLE_OLLAMA_API=False \ -e OPENAI_API_BASE_URL=${OPENAI_API_BASE_URL} \ -e OPENAI_API_KEY=${OPENAI_API_KEY} \ -e DATA_DIR=/mnt/open-webui-data \ -e HF_HUB_OFFLINE=1 \ -v /mnt/open-webui-data:/mnt/open-webui-data \ alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1 \ /bin/bash -c "pip config set global.index-url http://mirrors.cloud.aliyuncs.com/pypi/simple/ && \ pip config set install.trusted-host mirrors.cloud.aliyuncs.com && \ pip install --upgrade pip && \ pip install open-webui==0.5.16 && \ mkdir -p /usr/local/lib/python3.11/site-packages/google/colab && \ open-webui serve"
- 执行以下命令,实时监控下载进度,等待下载结束(预计下载耗时需要10分钟)。您可以随时按下
Ctrl+C
退出,这不会影响容器的运行,即使退出日志监控也不会中断下载。
sudo docker logs -f open-webui
- 当日志中输出以下信息时,说明Open WebUI服务已启动。此时您可以按下
Ctrl+C
退出。
INFO: Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)
7. 管理员登录并设置Open WebUI
- 在本地电脑上使用浏览器访问
http://:8080
,首次登录时,可根据提示创建管理员账号。
说明:请替换为您的具体ECS实例公网IP地址,具体公网IP地址可在实例列表页的IP地址栏查看。
- 单击右上角的头像,选择管理员面板。
- 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击通用。
- 打开允许新用户注册的开关,并设置默认用户角色为用户,设置完成后,单击保存。
- 在左侧导航栏单击模型,然后单击deepseek-r1模型后的 按钮。
- 在可见性的下拉列表中,选择Public,单击保存并更新。
说明:Public表示您将模型开放给其他用户使用,其他用户注册登录您的AI网站后,可以直接使用该模型,其他用户使用模型的费用由您承担。
8. 新用户访问测试
- 配置完成后,新用户可以访问
http://:8080
,注册并登录到部署好的Open WebUI。
说明:若您当前登录的账号为管理员账号,可以单击右上角的头像,单击登出,再次访问地址时即为新用户。
- 测试与DeepSeek R1模型进行对话问答。
相关文档
- 如果您想在部署的Open WebUI网站上实现更多功能,例如:希望使用DeepSeek R1模型对话问答时显示思考过程、 希望可以在AI网站上使用联网搜索、希望将AI网站分享给其他用户使用、希望在AI主页上使用多种模型等,请参见部署AI网站-进阶配置。
- 当前您的Open WebUI网站只能通过
http://:8080
地址访问,如果您想实现通过域名访问网站,例如https://example.com
,请参见使用域名访问部署在ECS上的网站。