Win11本地部署DeepSeek-R1:从Ollama安装到API接入完整指南

发布时间:2026/10/20 14:53:26
Win11本地部署DeepSeek-R1:从Ollama安装到API接入完整指南 简介这份PDF指南以Windows 11系统为运行环境围绕Ollama工具讲解DeepSeek-R1的本地部署全流程面向AI爱好者、开发者和希望摆脱云端依赖的技术用户。指南首先给出硬件与软件准备建议涵盖多核处理器、NVIDIA GPU、内存容量、SSD存储及系统更新等要点然后按步骤说明Ollama安装、服务启动、模型拉取与列表验证并演示如何通过命令行与模型交互。除此之外内容还扩展到REST API调用范例、Modelfile自定义参数的方法以及模型拉取失败、运行缓慢、端口占用等常见问题的排查思路帮助读者独立完成部署并能灵活调整模型行为。资源为单个PDF文件压缩包仅264KB便于离线保存与随时查阅。目前该指南已有4341人学习下载作为轻量而系统的入门材料适合需要在本地离线运行大语言模型、保护数据隐私并降低响应延迟的读者参考。1. Win11 本地部署 DeepSeek-R1 的完整落地从 Ollama 安装到 API 接入大语言模型跑在本地这件事听起来像是有 GPU 的人才能玩的黑匣子但实际上只要选对工具和模型版本一台普通 Win11 机器也能把 DeepSeek-R1 拉起来跑对话。Ollama 把模型下载、依赖管理和推理封装成几条命令省掉了配置 Python 环境和手工下载权重的过程本地部署也就不再是玄学。这份 PDF 指南覆盖的就是这么一条完整链路硬件选型、Ollama 安装、模型拉取、命令行交互、REST API 接入、Modelfile 自定义参数以及最常见的拉取失败和端口占用问题。适合手里有一台 16GB 内存以上 Win11 电脑、想不依赖云端跑私有对话模型的开发者也适合刚入门 LLM 部署、想搞清楚本地推理到底怎么落地的新手。下面按我的实操顺序把每一步拆开讲包括那些指南里一笔带过、但实际非常容易翻车的细节。2. 硬件与软件准备别让 16GB 内存成为第一个瓶颈2.1 硬件红线的真实边界内存、显卡和 SSD 缺一不可指南里写的配置要求“CPU i7 或 Ryzen 7、内存 16GB、存储 20GB”看着不算苛刻但实际跑起来你会发现内存才是第一个瓶颈。DeepSeek-R1 的不同量化版本模型文件大小差异很大默认拉取的可能是一个 4.7GB 左右的量化版但模型加载进内存后占用的空间会翻倍16GB 内存的机器如果还开着浏览器和 IDE很容易在推理时出现明显卡顿甚至直接吃掉所有物理内存。我的建议是内存 32GB 起步尤其是你要同时开编辑器、浏览器和 Ollama 服务的情况。显卡方面NVIDIA GPU 加 CUDA 支持确实能显著加速推理但要注意 Ollama 在 Windows 上会自动检测显卡如果你只有核显它会回到 CPU 推理模式速度慢不少但也不是不能用。SSD 不是可选项而是必选项——模型文件十几个 GB 的读取速度直接决定首次启动时间机械硬盘跑大模型只会让你怀疑机器死机了。2.2 安装 Ollama 的关键路径与 PATH 生效问题从官网下载 Windows 安装包后安装向导默认路径是C:\Users\用户名\AppData\Local\Programs\Ollama模型文件则会下载到C:\Users\用户名\.ollama\models目录。安装过程不需要额外勾选组件一切默认即可。# 安装完成后验证是否成功打开一个新的 CMD 或 PowerShell 窗口 ollama --version注意这里有个容易忽略的细节安装完 Ollama 后如果你用的是之前已经打开的命令行窗口ollama命令可能会提示“不是内部或外部命令”。这是因为安装器把 Ollama 加入了用户级 PATH但已开窗口的环境变量不会刷新。解决方式很简单——关掉所有命令行窗口重新打开一个。提示如果重开后仍然找不到 ollama 命令手动检查系统环境变量 PATH 是否包含%LOCALAPPDATA%\Programs\Ollama没有就加上然后重启终端。3. 拉取并运行 DeepSeek-R1从命令行到 REST API3.1 启动服务与首次拉取ollama serve 与模型下载的完整过程Ollama 安装完成后服务不会像普通软件那样自动在后台常驻需要手动启动。打开新的 CMD 或 PowerShell执行ollama serve启动成功后终端会输出监听信息Ollama 默认在本地11434端口等待请求。这个终端窗口要保持开着一旦关闭服务就停了。我一般习惯专门开一个终端窗口跑ollama serve再开另一个窗口执行其他命令避免 CtrlC 误触把服务杀掉。服务起来后另一个窗口拉取模型ollama pull deepseek-r1拉取过程会显示分块下载进度具体耗时取决于网络。这里建议使用稳定的网络环境否则中途断流很容易出现“模型文件不完整”的问题。拉取完成后顺手跑一下ollama list确认模型名出现在列表里。ollama list输出大概长这样deepseek-r1:latest 4.7GB 2 days ago。如果列出的模型大小异常偏小说明下载不完整删掉重拉。3.2 命令行交互与性能排查为什么你的输出断断续续模型就绪后基础交互非常简单ollama run deepseek-r1 用一句话解释什么是递归模型会开始在终端里流式输出回答。这里想多说一句性能相关的体验如果感觉输出速度忽快忽慢、像打字机一样一顿一顿的先看 CPU 占用率是不是跑满了再看内存是否逼近上限。开太多程序会显著拖慢推理速度尤其是 CPU 推理模式下每一轮生成都是满负载运算。指南里建议“关闭不必要的程序”听起来像废话但实测影响非常大——我平时写代码开一堆标签页跑大模型时关掉浏览器比调参数管用得多。3.3 用 REST API 接入 Python 应用从单次请求到上下文对话命令行交互只是第一步真正实用的是把模型接到自己的程序里。Ollama 提供了原生 REST API无需额外装 SDK直接用requests就能调用。import requests data { model: deepseek-r1:latest, prompt: 介绍一个适合初学者的 Python 项目, stream: False } response requests.post( http://localhost:11434/api/generate, jsondata, timeout120 ) print(response.json()[response])这代码最核心的除了model和prompt参数外还有stream设为False。默认情况下 Ollama 的 generate 接口走的是流式输出直接response.json()解析会拿到一堆碎片设成False才能在响应体里拿到完整回答。另一个容易踩的坑是timeout——大模型生成慢默认的几秒超时必然报错我习惯给到 120 秒起步。如果要实现多轮对话api/generate单次请求无法记忆上下文需要改用api/chat接口并维护历史消息列表import requests messages [ {role: system, content: 你是 DeepSeek-R1用中文简洁回答}, {role: user, content: Python 里列表和元组的区别}, ] data { model: deepseek-r1:latest, messages: messages, stream: False } response requests.post( http://localhost:11434/api/chat, jsondata, timeout120 ) print(response.json()[message][content])api/chat接口的核心是messages数组每次请求把之前的问答历史带上模型才能理解当前问题是在延续上文。用这种方式你能很快把本地模型封装成 FastAPI 服务做内部工具或原型 Demo 都够了。3.4 Windows 下 REST API 请求失败的三个高频检查点用 Python 调本地 API 时如果连不上服务最常见的三个原因值得按顺序排查服务没起确认运行ollama serve的终端窗口还活着。端口被占用netstat -ano | findstr :11434查端口如果有程序占用但 Ollama 没起来需要换端口或用任务管理器处理占用进程。防火墙拦截Windows 防火墙可能弹窗询问是否允许 Python 访问网络这个弹窗很容易被忽略如果请求超时且上面两项都正常去防火墙放行 Python 或加一条本地回环的允许规则。另外Ollama 默认只监听127.0.0.1如果你想从局域网内另一台设备访问同机测试没问题后要改环境变量OLLAMA_HOST0.0.0.0再重启服务。这是个安全和功能双相关的设置需要自己权衡。4. 实战用参数调出符合场景的本地模型4.1 参数背后的含义temperature、top_p 到底在控制什么命令行直接跑模型默认参数只能说不犯错不能满足按业务场景定制的需求。Ollama 提供了 Modelfile 机制相当于模型的本地配置文件最常用的就是 temperature 和 top_p 这两个参数。temperature控制输出随机性值越高越天马行空值越低越保守稳定。做代码生成、知识问答这类需要高确定性场景0.2~0.4合适。写创意文案、头脑风暴时可以提到0.8~1.0让模型放开思路。top_p是核采样参数含义是从累计概率达到top_p的候选词里做采样通常在0.8~0.9之间。实际使用中我只调 temperaturetop_p 保持默认或取0.9就够——两个参数同时大改容易产出逻辑混乱的内容。4.2 自定义模型Modelfile 从创建到运行的完整流程在任意目录新建一个名为Modelfile的文件写入以下内容FROM deepseek-r1:latest PARAMETER temperature 0.3 PARAMETER top_p 0.9FROM指定基础模型PARAMETER设置推理参数。更多参数比如num_ctx上下文长度、num_predict最大生成 token 数也能写在这里。然后在同目录执行ollama create my-deepseek-r1-custom -f Modelfile创建成功后ollama list里会出现名为my-deepseek-r1-custom的新模型运行方式和原模型完全一样ollama run my-deepseek-r1-custom 写一段快速排序的 Python 代码这个派生模型会以基础模型为底每次推理自动加载你在 Modelfile 里定义的参数省去了手动处理参数传参的麻烦。唯一的坑是-f参数必须指向包含Modelfile的路径如果文件不在当前目录要写完整路径否则会报找不到文件。4.3 性能踩坑记录Windows 下本地部署的三条血泪经验现象 1拉取模型到 90% 后一直卡住不动原因网络请求中断或 CDN 节点不稳定Ollama 的下载任务没有自动重试机制。解决先ollama rm deepseek-r1删除残留再重新ollama pull。如果反复卡同一位置考虑切换网络环境或换个时间段再拉不要痴等。现象 2首次ollama run等待时间特别长感觉像卡死了原因模型文件较大时首次加载需要把全部权重读入内存机械硬盘或内存不足会显著拉长加载时间。解决把模型目录迁移到 SSD同时确认内存剩余充足。我习惯把.ollama整个目录放在固态盘分区加载速度差一个量级。现象 3ollama create自定义模型后ollama run报错原因Modelfile 的FROM写的模型名和ollama list里的实际名字不一致比如漏掉了 tag 或写错版本。解决先用ollama list确认基础模型的完整名字再写FROM。我一般会写deepseek-r1:latest而不只是deepseek-r1避免解析歧义。5. 模型文件管理与效率习惯给部署做个收尾模型拉多了以后磁盘空间就成了新问题。ollama list能看到所有本地模型及各自大小ollama rm 模型名可以删除不用的模型。我习惯把使用频率低的模型直接删除需要时再拉回来因为本地保留多个大模型的成本很高而重新拉取只是时间问题。另一个实用习惯是给模型建一个“快捷测试脚本”用 Python 写一个 20 行左右的简单封装把模型名、端口、超时时间都做成变量这样换电脑或换模型时不用改动业务代码。做这件事还有一个额外的好处——你会被迫理解接口结构而不是只能靠命令行交互。至于那份 PDF 指南本身它的价值在于把变量最少、最容易成功的路径走通了一遍。对于第一次接触本地大模型的人来说那确实就是完整路径安装、启动、拉取、运行。但从一个把模型跑上生产环境、天天和“跪求显卡”搏斗的人的角度看真正的工程量是在稳定性和参数打磨上。我不止一次因为忘记关进程导致端口被占也不止一次因为基础模型名字多了个空格而创建失败这些事情比核心步骤更容易让项目停滞。所以从那以后我每次新环境部署都强制走一遍固定流程开窗口跑服务、确认ollama list、写一个带 timeout 的 Python 请求脚本、再改 Modelfile。全套验证没问题再谈接入业务。这套流程同样适用于你在自己的机器上复现这份部署指南——先追求把链路跑通再想优化输出速度和回答质量。希望这套拆解对你实际落地 DeepSeek-R1 有帮助。本文还有配套的精品资源点击获取

关于本文作者

来自尧图内容编辑团队

尧图内容编辑团队 内容团队

尧图内容编辑团队

本文由尧图网络内容编辑团队执笔。团队由资深项目经理、前端工程师与设计师组成,所有内容均来自亲手交付的真实项目,先讲清问题、再给出可落地的解法。尧图深耕北京网站建设十年,服务过京华建材集团、智造科技等各行业客户,把一线经验沉淀为可复用的行业观察。

  • 十年建站经验,覆盖建材、制造、服务、文创等
  • 项目经理把关选题与事实准确性
  • 工程师与设计师联合撰写专业细节
  • 统一编辑规范,保证文风与排版一致
  • 每月复盘转化数据,迭代选题方向

延伸阅读

相关资讯与近期热门内容

深度阅读推荐

建站决策前值得细读的三篇

网站改版的5个关键决策
2024-08-12

网站改版的5个关键决策

什么时候该改版、改到什么程度、如何避免流量掉光,京华建材集团改版复盘给出答案。

获取专属建站方案

看完文章,把您的行业与预算告诉我们,免费获取一份量身定制的官网建设方案与报价。

立即免费咨询