一、基础网络构建在开始之前我们首先在天枢一体化虚拟仿真平台中拖拽出了1个ubuntu22.04镜像资源和网络设备一起组成一个简单的网络拓扑。1. 验证系统版本与内存# 确认系统确实是 22.04lsb_release -a# 查看可用内存建议 ≥ 8GB16GB 更稳妥free -hfree -h 中 available 列应至少有6GB以上才能为 Q4_K_M 量化的 7B 模型留出运行空间。2. 安装基础工具sudo apt updatesudo apt install -y curl wget git build-essential cmake libssl-dev验证编译器版本Ubuntu 22.04 默认的 GCC 11 满足 llama.cpp 的编译要求gcc --version | head -1# 预期输出gcc (Ubuntu 11.x.x-...) 11.x.x二、详细安装步骤Ollama 在无 GPU 环境下会自动回退到 CPU 推理无需手动配置设备。1. 安装并验证 Ollama 服务curl -fsSL https://ollama.com/install.sh | sh安装脚本会自动注册 systemd 服务。验证版本和服务状态ollama --version# 预期输出类似ollama version is 0.x.xsudo systemctl status ollama# 预期关键行Active: active (running)如果服务未自动启动手动启用sudo systemctl enable --now ollama2. 拉取模型并验证ollama pull deepseek-r1:7b验证模型已落地ollama list# 应能看到 deepseek-r1:7b 条目3. 运行推理与功能验证ollama run deepseek-r1:7b进入交互界面后输入一个需要推理的问题例如“你能干嘛”。如果输出中出现了 think 标签包裹的推理过程说明模型的 chain-of-thought 功能正常。4. CPU 线程调优Ollama 默认的线程策略可能无法充分利用物理核心。最直接的调优是指定线程数等于物理核心数而非逻辑线程数。先查看物理核心数lscpu | grep Core(s) per socket启动时临时指定线程数将 8 替换为你的物理核心数ollama run deepseek-r1:7b --num-thread 8如需持久化编辑 systemd 服务配置sudo systemctl edit ollama在打开的编辑器中加入[Service]EnvironmentOLLAMA_NUM_THREADS8保存后重载并重启sudo systemctl daemon-reload sudo systemctl restart ollama
