Linux 服务器部署 DeepSeek 教程（CentOS7，Ollama 极简方案，推荐新手）

两种方案：

Ollama（推荐，简单快速，适合测试 / 学习，支持 GPU/CPU，一条命令拉模型）

vLLM（生产高性能，高并发 API，需要 GPU+CUDA） DeepSeek 常用模型：DeepSeek-R1（推理）、DeepSeek-Coder（代码）；7B/14B 适合单机，32B/70B 需要多卡

硬件最低参考

CPU 跑：DeepSeek-R1:7b-q4，至少 16G 内存，速度慢
GPU 推荐：
- 7B 量化 Q4：显存≥6G
- 14B 量化 Q4：显存≥10G
- 32B 量化 Q4：显存≥20G

查看显卡：nvidia-smi，无 NVIDIA 显卡只能 CPU 推理

方案一：Ollama 一键部署 DeepSeek（CentOS7）

1. 安装 Ollama

# 一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh

安装完成自动注册 systemd 服务，自动启动。

# 查看状态
systemctl status ollama

默认监听127.0.0.1:11434，只能本机访问

允许外网访问（开放 API，云服务器需要）

# 修改ollama环境变量
vi /etc/systemd/system/ollama.service

找到 [Service]，在下面增加一行：

Environment="OLLAMA_HOST=0.0.0.0"

重载并重启服务

systemctl daemon-reload
systemctl restart ollama

防火墙放行 11434 端口

firewall-cmd --permanent --add-port=11434/tcp
firewall-cmd --reload

云服务器：安全组放行 11434 端口

2. 拉取 DeepSeek 模型

# DeepSeek R1 7B 量化版（最常用，推荐）
ollama pull deepseek-r1:7b

# 可选：14B
# ollama pull deepseek-r1:14b

# 代码模型 DeepSeek-Coder
# ollama pull deepseek-coder:6.7b

查看本地模型

ollama list

3. 命令行对话

ollama run deepseek-r1:7b

输入问题即可对话，/bye退出。

4. API 调用（兼容 OpenAI 接口，开发调用）

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-r1:7b",
    "messages": [{"role": "user", "content": "解释MySQL事务"}]
  }'

5. 【可选】网页可视化界面 Open-WebUI

Docker 一键部署 WebUI，浏览器访问对话

docker run -d -p 3000:3000 -v open-webui:/app/backend/data --add-host=host.docker.internal:host-gateway --name open-webui --restart always ghcr.io/open-webui/open-webui:main

浏览器访问：http://服务器IP:3000，首次注册账号，自动对接 ollama。

方案二：vLLM 高性能部署（生产环境，GPU，高并发 API）

适合对外提供 API 服务，吞吐更高，需要 CUDA 环境

1. 环境准备

安装 cuda、python、pip

# 安装vllm
pip install vllm

2. 下载模型（huggingface/modelscope）

# 使用modelscope下载模型，国内加速
pip install modelscope

3. 启动 vLLM 服务

python -m vllm.entrypoints.openai.api_server \
--model deepseek-ai/DeepSeek-R1-Distill-Qwen-7B \
--host 0.0.0.0 \
--port 8000 \
--tensor-parallel-size 1

tensor-parallel-size：GPU 卡数量，多卡可以填 2/4 端口 8000，防火墙放行 8000

测试 API

curl http://127.0.0.1:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-R1-Distill-Qwen-7B",
    "messages": [{"role":"user","content":"写一段Linux挂载磁盘脚本"}]
}'

Ollama 常用管理命令

ollama list                 # 列出本地模型
ollama rm deepseek-r1:7b    # 删除模型
ollama stop deepseek-r1:7b  # 停止模型
ollama ps                   # 查看正在运行模型

模型存储路径修改（大模型占用空间大，挂载数据盘）

默认模型在 /root/.ollama/models，迁移到数据盘（你前面学的挂载）

# 编辑ollama服务
vi /etc/systemd/system/ollama.service
# 添加环境变量指向新目录
Environment="OLLAMA_MODELS=/data/ollama/models"

systemctl daemon-reload
systemctl restart ollama

常见问题

nvidia-smi 找不到显卡：未安装 NVIDIA 驱动，GPU 推理必须先装驱动
Ollama 下载模型很慢：配置国内镜像，设置 OLLAMA_HOST 和 OLLAMA_MIRROR
内存溢出 OOM：换更小参数模型或者更高量化版本，如deepseek-r1:7b-q4_K_M
外网访问失败：检查防火墙 + 云服务器安全组，确认 OLLAMA_HOST=0.0.0.0
CPU 跑模型非常慢：属于正常现象，大模型优先 GPU

安全建议

公网不要直接暴露 11434/8000 端口，可加 Nginx 反向代理 + 鉴权
生产环境优先 vLLM，Ollama 适合测试
大模型文件单独放在独立挂载的数据盘（前面挂载教程）

文章版权归作者所有，未经允许请勿转载。

THE END

手把手教学 Windows系统部署DeepSeek