Windows 本地部署 DeepSeek 大模型

本文介绍如何通过 Ollama 部署 DeepSeek-R1 蒸馏版。
1. 安装 DeepSeek
去官网下载 Ollama 安装程序,使用 OllamaSetup.exe /DIR=D:\Software\Ollama
可指定安装路径。
Ollama 安装后执行 ollama run deepseek-r1:14b
即可运行 DeepSeek-R1-Distill-Qwen-14B,可以替换数字以安装不同数据集大小的模型,更多信息见 Ollama DeepSeek-R1。
2. 安装 open-webui
运行成功后默认是通过命令行进行交互,可以利用安装 open-webui 提供网页交互入口,此处使用 pip 安装(依赖 python 3.11 ):
1 | # 需已安装 python 3.11 |
你也可以使用 docker 安装,更多信息详见 Open WebUI 文档。