DeepSeek本地部署完整教程
DeepSeek 简介
DeepSeek 是国产开源大模型的佼佼者,由深度求索公司开发。其 DeepSeek-V3 和 DeepSeek-R1 模型在性能上可与 GPT-4、Claude 等国际顶尖模型媲美,且完全开源免费。
核心优势:
- 完全开源,可本地部署
- 中文理解能力强
- 推理性能优秀
- 支持 67B、7B 等多种规格
部署方式一:Ollama(最简单)
Ollama 是最便捷的本地 LLM 运行工具,一键拉取运行 DeepSeek。
安装 Ollama
# Linux/macOS |
运行 DeepSeek
# 拉取并运行 DeepSeek-R1 7B |
测试对话
>>> 你是谁? |
部署方式二:vLLM(高性能)
vLLM 适合需要高并发推理的场景,吞吐量比 Ollama 高 10 倍以上。
安装 vLLM
pip install vllm |
启动推理服务
# 下载模型(需要 HuggingFace 账号) |
调用 API
import requests |
部署方式三:LM Studio(可视化界面)
适合不想折腾命令行的用户,提供友好的 GUI 界面。
安装步骤
- 下载 LM Studio:https://lmstudio.ai
- 搜索并下载 DeepSeek-R1 模型
- 点击「Chat」开始对话
硬件配置建议
| 模型规格 | 显存需求 | 推荐显卡 |
|---|---|---|
| 1.5B | 4GB | GTX 1650 |
| 7B | 8GB | RTX 3060 |
| 8B | 12GB | RTX 4070 |
| 67B | 80GB+ | A100/H100(或多卡并行) |
CPU 运行方案:
显存不足时,可用 CPU + 内存运行,但速度较慢。8GB 内存可跑 1.5B 版本。
# CPU 模式运行 |
进阶:接入 Web UI
使用 Open WebUI 提供类似 ChatGPT 的网页界面。
# Docker 一键部署 |
总结
DeepSeek 本地部署方案对比:
| 方案 | 优点 | 缺点 |
|---|---|---|
| Ollama | 简单易用,一键部署 | 并发性能有限 |
| vLLM | 高吞吐量,API 服务 | 配置复杂 |
| LM Studio | 可视化界面 | 功能相对简单 |
推荐新手选择 Ollama,几分钟即可上手体验 DeepSeek 的强大能力!
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 AI技术前沿!
评论






