DeepSeek本地部署需通过Ollama工具实现,以下是详细步骤:
一、硬件与软件要求
-
硬件配置
-
CPU :支持AVX2指令集
-
内存 :至少16GB,推荐32GB以上
-
存储 :1.1GB-20GB(根据模型大小调整)
-
显卡 :NVIDIA GPU,显存需求与模型参数量相关(如7b模型需8GB显存)
-
-
软件环境
-
操作系统:Windows、macOS或Linux
-
必备工具:Ollama(需通过官网或可信渠道下载安装包)
-
二、部署流程
-
安装Ollama
- 访问官网(https://ollama.com/)下载对应系统的安装包,完成安装后通过命令行验证版本(如
ollama --version
)
- 访问官网(https://ollama.com/)下载对应系统的安装包,完成安装后通过命令行验证版本(如
-
选择与下载模型
- 在Ollama官网的Models页面搜索DeepSeek R1,根据硬件配置选择参数规模(如1.5b、7b等),复制命令行指令(如
ollama run deepseek-r1:7b
)
- 在Ollama官网的Models页面搜索DeepSeek R1,根据硬件配置选择参数规模(如1.5b、7b等),复制命令行指令(如
-
运行模型
- 打开命令行输入复制的指令,系统将自动下载并部署模型,完成后即可与AI交互
三、进阶配置
-
WebUI接入 :安装浏览器插件(如Page Assist)并配置模型路径,提升使用便捷性
-
环境变量设置 :Windows用户可通过
setx OLLAMA_MODELS
修改环境变量
四、注意事项
-
模型越大,对硬件要求越高,建议从较小规模(如1.5b)开始测试
-
若官网无法访问,可尝试第三方资源库下载安装包,但需注意安全性
通过以上步骤,即可完成DeepSeek的本地部署,享受个性化AI服务。