Windows 本地部署 DeepSeek 大模型
kecho

本文介绍如何通过 Ollama 部署 DeepSeek-R1 蒸馏版。


1. 安装 DeepSeek

去官网下载 Ollama 安装程序,使用 OllamaSetup.exe /DIR=D:\Software\Ollama 可指定安装路径。

Ollama 安装后执行 ollama run deepseek-r1:14b 即可运行 DeepSeek-R1-Distill-Qwen-14B,可以替换数字以安装不同数据集大小的模型,更多信息见 Ollama DeepSeek-R1

2. 安装 open-webui

运行成功后默认是通过命令行进行交互,可以利用安装 open-webui 提供网页交互入口,此处使用 pip 安装(依赖 python 3.11 ):

1
2
3
# 需已安装 python 3.11
pip install open-webui
open-webui serve

你也可以使用 docker 安装,更多信息详见 Open WebUI 文档

3. 参考文章