在 Linux 服务器上部署 Deepseek
-
安装 Ollama:
-
打开Ollama 官方网站 下载 Linux 版本。
-
运行以下命令安装 Ollama:
bash
curl -fsSL https://ollama.com/install.sh | sh
-
在
Service
中增加以下两行:bash
Environment="OLLAMA_HOST=0.0.0.0" Environment="OLLAMA_ORIGINS=*"
-
重启 Ollama 服务:
bash
systemctl daemon-reload systemctl restart ollama
-
-
部署 Deepseek R1 模型:
-
在 Ollama 官网上,选择 Deepseek R1 模型并运行以下命令:
bash
ollama run deepseek-r1:7b
-
-
配置可视化界面:
-
安装 Docker:
bash
wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io systemctl start docker systemctl status docker
-
运行以下命令启动 Open WebUI:
bash
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
-
-
访问控制台:
-
打开浏览器访问
http://192.168.47.136:3000
,可以进行专属知识库的建立和管理。
-