在ECS上使用百炼部署满血版DeepSeek R1

本文涉及的产品
轻量应用服务器 2vCPU 4GiB,适用于搭建Web应用/小程序
轻量应用服务器 2vCPU 4GiB,适用于搭建容器环境
轻量应用服务器 4vCPU 16GiB,适用于搭建游戏自建服
简介: 本文为您介绍如何在ECS实例上部署Open WebUI,并通过大模型服务平台百炼API调用DeepSeek-R1模型推理服务。帮助您快速体验满血版DeepSeek-R1模型。

方案概述

实现体验满血版DeepSeek R1模型的方案大致分为三步:

  1. 准备工作:在操作前,您需要为部署做好准备工作。例如,准备满足部署条件的ECS实例、配置百炼API信息等。
  2. 安装Open WebUI:在准备好的实例上安装Open WebUI。
  3. 设置Open WebUI:设置后,新用户即可通过http://:8080访问并注册登录您部署的Open WebUI,与DeepSeek R1模型进行对话问答。

1. 准备ECS实例

  1. 前往ECS实例购买页
  2. 购买实例,实例需要满足以下条件:
  • 操作系统:Linux。本文以Alibaba Cloud Linux 3为例。
  • 开通公网:您可以为实例分配固定公网IP地址或绑定弹性公网IP(EIP)以开通公网。本文以为实例分配固定公网IP地址为例。
  • 安全组:入方向规则需已放行22、8080端口。
    您可以在实例购买完成后,单击实例ID,进入实例详情页,在安全组页签中单击管理规则手动添加入方向规则。
    说明:如果需要使用http及https默认端口,安全组入方向规则还需要放行80及443端口。



2. 远程连接至ECS实例

连接至ECS实例,以便后续在实例上执行相关命令。

  1. 前往ECS控制台实例列表,选择目标实例所在的资源组地域后,在列表中找到待连接的实例,单击操作列下的远程连接
  2. 单击通过Workbench远程连接下的立即登录。
  3. 选择认证方式,填写相应登录凭证后,单击登录

3. 安装Docker

在ECS实例上安装Docker,用于后续环境搭建及Open WebUI的部署。

  1. 执行以下命令,安装Docker社区版本。
#添加Docker软件包源
sudo wget -O /etc/yum.repos.d/docker-ce.repo http://mirrors.cloud.aliyuncs.com/docker-ce/linux/centos/docker-ce.repo
sudo sed -i 's|https://mirrors.aliyun.com|http://mirrors.cloud.aliyuncs.com|g' /etc/yum.repos.d/docker-ce.repo
#Alibaba Cloud Linux3专用的dnf源兼容插件
sudo dnf -y install dnf-plugin-releasever-adapter --repo alinux3-plus
#安装Docker社区版本,容器运行时containerd.io,以及Docker构建和Compose插件
sudo dnf -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
#启动Docker
sudo systemctl start docker
#设置Docker守护进程在系统启动时自动启动
sudo systemctl enable docker
  1. 执行以下命令,验证Docker是否安装成功。
sudo docker -v
  1. 如下图回显信息所示,表示Docker已安装成功。

4. 配置百炼API信息

  1. 开通大模型服务平台百炼:使用便宜云服务器主账号前往百炼控制台,如果页面顶部显示以下消息,您需要开通百炼的模型服务,以获得免费额度。如果未显示该消息,则表示您已经开通。
  2. 获取百炼API Key:在控制台的右上角选择API-KEY,然后创建API Key,用于通过API调用大模型。具体操作,请参见API Key
    说明:请优先通过主账号空间获取API Key。


  1. 配置环境变量:在ECS中执行以下命令,配置百炼API服务地址与API Key到环境变量,并创建数据目录。
    说明:请将命令中的<您的API KEY>替换为您获取的百炼API Key。
#创建数据目录
sudo mkdir -p /mnt/open-webui-data
#设置百炼服务地址
export OPENAI_API_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
#设置百炼API Key
export OPENAI_API_KEY=<您的API KEY>

5. 拉取Python镜像

在ECS上执行以下命令,拉取Python镜像,作为基础环境。

sudo docker pull alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1

6. 安装Open WebUI

  1. 执行以下命令,根据Python镜像启动容器,并在容器内安装并启动Open WebUI。
#启动open-webui服务
sudo docker run -d -t --network=host --name open-webui \
--restart=always \
-e ENABLE_OLLAMA_API=False \
-e OPENAI_API_BASE_URL=${OPENAI_API_BASE_URL} \
-e OPENAI_API_KEY=${OPENAI_API_KEY} \
-e DATA_DIR=/mnt/open-webui-data \
-e HF_HUB_OFFLINE=1 \
-v /mnt/open-webui-data:/mnt/open-webui-data \
alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1 \
/bin/bash -c "pip config set global.index-url http://mirrors.cloud.aliyuncs.com/pypi/simple/ && \
pip config set install.trusted-host mirrors.cloud.aliyuncs.com && \
pip install --upgrade pip && \
pip install open-webui==0.5.16 && \
mkdir -p /usr/local/lib/python3.11/site-packages/google/colab && \
open-webui serve"
  1. 执行以下命令,实时监控下载进度,等待下载结束(预计下载耗时需要10分钟)。您可以随时按下Ctrl+C退出,这不会影响容器的运行,即使退出日志监控也不会中断下载。
sudo docker logs -f open-webui
  1. 当日志中输出以下信息时,说明Open WebUI服务已启动。此时您可以按下Ctrl+C退出。
INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)

7. 管理员登录并设置Open WebUI

  1. 在本地电脑上使用浏览器访问http://:8080,首次登录时,可根据提示创建管理员账号
    说明:请替换您的具体ECS实例公网IP地址,具体公网IP地址可在实例列表页IP地址栏查看。
  2. 单击右上角的头像,选择管理员面板


  1. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击通用
  2. 打开允许新用户注册的开关,并设置默认用户角色用户,设置完成后,单击保存
  3. 在左侧导航栏单击模型,然后单击deepseek-r1模型后的 按钮。
  4. 可见性的下拉列表中,选择Public,单击保存并更新
    说明:Public表示您将模型开放给其他用户使用,其他用户注册登录您的AI网站后,可以直接使用该模型,其他用户使用模型的费用由您承担。

8. 新用户访问测试

  1. 配置完成后,新用户可以访问http://:8080,注册并登录到部署好的Open WebUI。
    说明:若您当前登录的账号为管理员账号,可以单击右上角的头像,单击登出,再次访问地址时即为新用户。
  2. 测试与DeepSeek R1模型进行对话问答。

相关文档

  • 如果您想在部署的Open WebUI网站上实现更多功能,例如:希望使用DeepSeek R1模型对话问答时显示思考过程、 希望可以在AI网站上使用联网搜索、希望将AI网站分享给其他用户使用、希望在AI主页上使用多种模型等,请参见部署AI网站-进阶配置
  • 当前您的Open WebUI网站只能通过http://:8080地址访问,如果您想实现通过域名访问网站,例如https://example.com,请参见使用域名访问部署在ECS上的网站
相关实践学习
快速体验PolarDB开源数据库
本实验环境已内置PostgreSQL数据库以及PolarDB开源数据库:PolarDB PostgreSQL版和PolarDB分布式版,支持一键拉起使用,方便各位开发者学习使用。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情:&nbsp;https://www.aliyun.com/product/ecs
相关文章
|
3天前
|
域名解析 人工智能 弹性计算
DeepSeek服务器繁忙解决方法:使用便宜云服务器一键部署DeepSeek个人网站!
通过便宜云服务器一键部署DeepSeek个人网站,解决服务器繁忙问题。学生用户可领取300元代金券实现0成本部署,普通用户则可用99元/年的服务器。教程涵盖从选择套餐、设置密码到获取百炼API-KEY的全流程,助您快速搭建专属大模型主页,体验DeepSeek、Qwen-max、Llama等多款模型,无需代码,最快5分钟完成部署。支持绑定个人域名,共享亲友使用,日均成本仅约1元。
39 10
|
4天前
|
机器学习/深度学习 人工智能 NoSQL
JAVA接入DeepSeek大模型接口开发---便宜云服务器的百炼模型
随着大模型的越来越盛行,现在很多企业开始接入大模型的接口,今天我从java开发角度来写一个demo的示例,用于接入DeepSeek大模型,国内的大模型有很多的接入渠道,今天主要介绍下便宜云服务器的百炼模型,因为这个模型是免费的,只要注册一个账户,就会免费送百万的token进行学习,今天就从一个简单的可以执行的示例开始进行介绍,希望可以分享给各位正在学习的同学们。
80 3
JAVA接入DeepSeek大模型接口开发---便宜云服务器的百炼模型
|
16天前
|
机器学习/深度学习 人工智能 测试技术
便宜云服务器百炼已上线超强推理开源模型QwQ-32B,尺寸更小,性能比肩DeepSeek满血版
通义千问团队推出了320亿参数的QwQ-32B模型,通过大规模强化学习和多阶段训练,在数学、编程及通用能力上达到或超越了DeepSeek-R1等先进模型。QwQ-32B模型已在便宜云服务器百炼上线,支持API调用,用户可通过官方文档了解详细使用方法。未来,团队将继续探索智能体与RL集成,推动人工通用智能的发展。
|
12天前
|
人工智能 JavaScript 前端开发
【最佳实践系列】AI程序员让我变成全栈:基于便宜云服务器百炼DeepSeek的跨语言公告系统实战
本文介绍了如何在Java开发中通过跨语言编程,利用便宜云服务器百炼服务平台的DeepSeek大模型生成公告内容,并将其嵌入前端页面。
|
12天前
|
域名解析 人工智能 API
学生看过来!白嫖便宜云服务器服务器自建DeepSeek个人网站,3分钟站点上线,超简单!
学生看过来!利用便宜云服务器服务器自建DeepSeek个人网站,3分钟快速上线,超简单!学生用户可领取300元代金券,实现0成本部署;普通用户则可选择99元/年的服务器。通过便宜云服务器计算巢“DeepSeek个人站点-快速部署”服务,无需代码,最快5分钟即可体验多个AI模型。教程详情涵盖从打开部署页面、选择套餐、设置实例密码到获取API-KEY的完整步骤,助你轻松搭建专属AI网站。
|
12天前
|
域名解析 人工智能 API
使用便宜云服务器服务器搭建自己的DeepSeek个人站点,3分钟尝鲜教程!
通过便宜云服务器服务器,您可以0成本部署专属的DeepSeek网站。学生用户可领取300元代金券,实现免费部署;普通用户则可以选择99元/年的服务器方案。使用便宜云服务器计算巢“DeepSeek个人站点-快速部署”服务,最快5分钟完成部署,无需编写代码。该服务集成了百炼API和Open WebUI,支持多种AI模型(如DeepSeek、Qwen-max、Llama等),并提供稳定、高性价比的个人专属AI网站体验。详情及教程请参考官方页面。
138 0
|
15天前
|
弹性计算
【已解决】Matomo本地SMTP配置可以发邮件,但部署到便宜云服务器ECS就发不了邮件
在便宜云服务器ECS上使用Matomo和PHPMailer发送邮件时遇到问题,邮件无法发出且接口调用Pending。经过排查,发现是ECS安全组未开放25/465端口,导致SMTP请求无法正常通信。解决方法为在安全组中配置并开放25/465端口,从而恢复邮件发送功能。
|
17天前
|
Linux 虚拟化 Docker
Linux服务器部署docker windows
在当今软件开发中,Docker成为流行的虚拟化技术,支持在Linux服务器上运行Windows容器。流程包括:1) 安装Docker;2) 配置支持Windows容器;3) 获取Windows镜像;4) 运行Windows容器;5) 验证容器状态。通过这些步骤,你可以在Linux环境中顺利部署和管理Windows应用,提高开发和运维效率。
74 1
|
9天前
|
Docker Python 容器
Docker——便宜云服务器服务器使用Docker部署python项目全程小记
本文记录了我在便宜云服务器服务器上使用Docker部署python项目(flask为例)的全过程,在这里记录和分享一下,希望可以给大家提供一些参考。
|
9天前
|
人工智能 负载均衡 数据可视化
评测|零门槛,即刻拥有DeepSeek-R1满血版 | 便宜云服务器百炼调用DeepSeek
本方案以 DeepSeek-R1 满血版为例进行演示,通过百炼模型服务进行 DeepSeek 开源模型调用,可以根据实际需求选择其他参数规模的 DeepSeek 模型。
39 0

相关产品

  • 云服务器 ECS
  • http://www.vxiaotou.com