一、环境准备
服务器要求
系统:Linux(推荐Ubuntu 22.04)
配置:NVIDIA显卡(显存≥16GB)+ 内存≥32GB
安装Docker及NVIDIA驱动
安装1Panel
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
二、通过1Panel部署Ollama
创建应用
进入1Panel「应用商店」
搜索并部署
ollama/ollama
官方镜像配置参数:
volumes: - /opt/ollama:/root/.ollama environment: - NVIDIA_VISIBLE_DEVICES=all runtime: nvidia
安装DeepSeek模型
进入容器终端执行:
ollama pull deepseek-r1:70b
三、部署Open WebUI
自定义部署配置
image: ghcr.io/open-webui/open-webui:main ports: - 3000:8080 environment: - OLLAMA_API_BASE_URL=http://ollama:11434 depends_on: - ollama
网络配置
确保两个容器处于同一Docker网络
四、访问验证
浏览器访问
http://[服务器IP]:3000
创建账号后选择
deepseek-r1:70b
模型
五、高级配置
性能优化
ollama run deepseek-r1:70b --num_gpu 1 --num_thread 8
安全设置
在1Panel配置HTTPS证书
开启身份验证白名单
常见问题
显存不足报错
尝试量化版本:
ollama pull deepseek-r1:70b-q4_K_M
API连接失败
检查容器网络策略
验证Ollama服务状态:
curl http://localhost:11434/api/tags
注:部署过程需保持网络畅通,首次模型下载可能耗时较久(约20分钟)。建议通过1Panel实时监控容器资源占用情况。