简介本资源是一份面向深度学习开发者的双系统环境搭建实战指南专为 Windows 11 用户平滑迁移至 Ubuntu 24.04 并完成 AI 开发栈部署而设计兼顾新手引导与进阶提速需求。内容覆盖 Ubuntu 24.04 安装、NVIDIA 驱动适配、CUDA 12.2 与 cuDNN 8.9.6 安装配置、Anaconda 环境管理、PyTorch 虚拟环境创建及 VS Code/PyCharm 集成等完整链路附关键命令、环境变量设置、验证方法与典型排错提示如驱动安装后 WiFi 失效的解决方案。资源为单文件 PDF 文档共 1 个大小 1.74MB结构清晰、图文结合便于离线查阅与快速执行。目前已有 17640 人学习下载实测步骤经作者在真实硬件环境反复验证显著降低多版本兼容性踩坑风险是构建稳定本地 GPU 开发环境的高复用性参考材料。1. 这不是装系统是给你的电脑“接上AI的电源”Ubuntu 24.04 NVIDIA 显卡驱动 CUDA 全链路到底是什么你是不是也遇到过这种场景想跑一个 PyTorch 训练脚本结果torch.cuda.is_available()死活返回False或者在 VS Code 里点开终端敲nvidia-smi提示“command not found”又或者好不容易下了个.run文件双击打不开右键属性一看——“不可执行”……别急这不是你手残而是你还没给电脑装上那根关键的“AI供电线”。这根线就是Ubuntu 24.04操作系统 NVIDIA 驱动显卡身份证 CUDAGPU 编程接口 cuDNN深度学习加速包组成的一整套协同工作链。它不玄乎——你可以把它想象成✅ Ubuntu 是你家的“新装修毛坯房”干净、开源、专为开发者优化✅ NVIDIA 驱动是“水电工”负责把显卡硬件和系统连通让电脑“认得”这张卡✅ CUDA 是“插座标准”定义了程序怎么往 GPU 上插电、怎么分配电流✅ cuDNN 是“智能配电箱”把常见的卷积、归一化等操作直接预装好省得你每次重写轮子。这套组合专治“明明有 RTX 4090 却只能用 CPU 跑模型”的心梗。它不是给程序员看的炫技配置而是零基础也能搭起来的 AI 开发地基——只要你有一台 Windows 11 笔记本或台式机带独立 NVIDIA 显卡就能双系统共存不删 Windows不丢数据稳稳当当把 GPU 算力真正用起来。本文就是为你写的“第一根电线接法说明书”不讲原理黑匣子不堆术语云山雾罩只带你从下载 ISO 开始一步步点亮nvidia-smi的绿色小字跑通第一个torch.cuda.is_available()为True的 Python 脚本。新手照着做3 小时内能完成老手跳读加粗步骤15 分钟快速复现。2. 为什么非得是 Ubuntu 24.04先搞懂这个选择背后的“三不原则”很多新手一上来就问“我能不能直接在 Windows 里装 CUDA”答案是能但会踩坑而 Ubuntu 24.04 是目前最省心、最顺滑、最接近“开箱即用”的选择。这不是跟风而是基于三个硬核事实总结出的“三不原则”——不绕弯、不降级、不妥协。2.1 不绕弯Ubuntu 24.04 原生支持最新 NVIDIA 驱动免手动编译Windows 下装 CUDA常要手动下载.exe、勾选一堆组件、再配环境变量稍错一步就报错而 Ubuntu 24.04代号 Noble Numbat自带 Linux 内核 6.8对 NVIDIA RTX 40 系、Ampere 架构显卡原生兼容性极强。它的“软件与更新”工具里NVIDIA 驱动版本直接显示为nvidia-driver-535或更高对应 CUDA 12.2点击安装后自动处理内核模块签名、DKMS 编译、X11 配置——你不用敲make、不用查dkms status、更不用重启进 recovery 模式修 initramfs。提示这是实测血泪经验——某开发者曾用 Ubuntu 20.04 装 RTX 4070因内核太老反复失败换 24.04 后 10 分钟搞定。原因很简单新版内核已把常见显卡 ID 写进源码驱动无需“猜型号”。2.2 不降级CUDA 12.2 是当前 PyTorch/TensorFlow 官方推荐的“黄金搭档”查 PyTorch 官网https://pytorch.org/get-started/locally/你会发现torch2.3.02024 年主流版本明确要求 CUDA 12.1 或 12.2torchvision0.18.0的 wheel 包名里直接写着cu121或cu122TensorFlow 2.16 同样只提供 CUDA 12.2 的预编译二进制。而 Ubuntu 24.04 的官方仓库默认提供cuda-toolkit-12-2apt 安装即可不用像旧版那样手动下.run文件、禁用 Nouveau、改 GRUB 参数——这些“玄学步骤”全被系统封装掉了。你装的不是 CUDA是“PyTorch 能直接认的 CUDA”。2.3 不妥协双系统比 WSL2 更真实、比虚拟机更高效有人会说“我用 WSL2 不香吗”WSL2 确实方便但它本质是 Linux 内核运行在 Windows Hyper-V 上GPU 加速需额外启用 WSLg CUDA on WSL且仅支持部分显卡如 RTX 3060 及以上RTX 40 系支持仍不稳定而 VMware/VirtualBox 虚拟机则根本无法直通 GPU。Ubuntu 24.04 双系统是唯一能让你 直接调用nvidia-smi查看显存实时占用 在htop里看到 GPU 进程真实 PID 用nvtop类似 top 的 GPU 版监控每个训练任务的显存/算力分配 未来无缝接入 Docker NVIDIA Container Toolkit 做模型部署。这不是“多此一举”而是为后续所有 AI 工作流埋下的确定性伏笔。2.4 新手避坑安装前必须确认的 4 个硬件与系统前提现象U 盘启动后卡在黑屏/紫屏/无限转圈或安装界面字体模糊、鼠标失灵。原因不是 ISO 问题而是硬件兼容性没提前筛查。解决动手前花 3 分钟自查以下 4 项全部满足再继续检查项怎么查不满足怎么办1. 显卡型号是否为 NVIDIA非 Intel 核显 / AMDWindows 下按WinR→ 输入dxdiag→ “显示”页签看“芯片类型”若是 Intel Iris Xe 或 AMD Radeon Graphics请停止——本指南不适用需 NVIDIA GTX 1050 及以上或 RTX 系列2. BIOS 中 Secure Boot 是否已关闭重启按 F2/F10/Del 进 BIOS → 找到 “Security” 或 “Boot” → 关闭 “Secure Boot”不关会导致 Ubuntu 安装时无法加载 NVIDIA 驱动模块报错modprobe: ERROR: could not insert nvidia: Operation not permitted3. 硬盘是否有 60GB 以上空闲空间建议 100GBWindows 磁盘管理中右键 C 盘 → “压缩卷” → 查看可压缩量压缩不足会导致安装中途失败且后续装 Anaconda 数据集会爆满4. 网络是否为有线连接非 WiFiUbuntu 安装过程需下载语言包、更新、驱动元数据WiFi 驱动可能未加载无线网卡在 Live 系统中常识别失败务必用网线直连路由器注意如果你的笔记本是雷电 4 接口 外接显卡坞eGPU请确认坞站固件已升级至最新——旧固件会导致 Ubuntu 无法识别外接 GPU此情况不在本指南覆盖范围。3. 第一步制作可启动 U 盘把 Ubuntu 24.04 “搬进”你的 Windows 11 电脑别怕“装系统”这个词——它现在就像给手机刷个新 ROM全程图形化无命令行恐惧。核心就三步下镜像、做启动盘、分硬盘。我们拆解成“人话三幕剧”每步附截图级说明文字描述已足够精准无需依赖图。3.1 下载官方 Ubuntu 24.04 ISO认准 .desktop-amd64.iso拒绝第三方魔改版打开浏览器访问 https://releases.ubuntu.com/24.04/找到文件名含ubuntu-24.04.1-desktop-amd64.iso的链接24.04.1 是当前稳定版2024 年 8 月发布。✅ 正确特征文件名以-desktop-amd64.iso结尾大小约 4.8 GB❌ 错误信号任何带server、minimal、netboot、legacy字样的都不是若看到ubuntu-24.04.1-desktop-amd64.iso.torrent那是种子文件需用迅雷等下载不推荐新手用。提示国内用户若官网下载慢可用清华镜像站完全同步、安全可信https://mirrors.tuna.tsinghua.edu.cn/ubuntu-releases/24.04/找同名 ISO 即可校验码SHA256在页面下方下载后建议用sha256sum ubuntu-24.04.1-desktop-amd64.iso核对——这是防止文件损坏的“后悔药”10 秒就能做。3.2 用 Rufus 制作启动 U 盘选对模式否则 BIOS 不认准备一个 ≥8GB 的空白 U 盘内容会被清空。下载 Rufus官网https://rufus.ie/zh/运行后按以下顺序设置“设备”下拉选你的 U 盘认准品牌和容量别选错硬盘“引导选择”点右侧小图标选你刚下的ubuntu-24.04.1-desktop-amd64.iso“分区方案”选GPT不是 MBR因为你的 Windows 11 默认是 UEFI 启动GPT 是 UEFI 标配“目标系统”选UEFI (non CSM)CSM 是兼容旧 BIOS 的模式关掉它才能发挥 UEFI 优势“簇大小”保持默认“格式化选项”全取消勾选不要勾“快速格式化”以外的任何项点击“开始”弹窗选“ISO 模式”确认。⏳ 过程约 3–5 分钟。完成后 U 盘会多出EFI、boot等文件夹这就是“能开机的 Linux”。注意若你用 Mac 或 Linux 制作启动盘请用dd命令sudo dd ifubuntu-24.04.1-desktop-amd64.iso of/dev/sdX bs4M statusprogress sync但新手强烈建议用 Rufus——它自动处理分区表、引导标志、FAT32 分区等细节避免dd写错/dev/sdX导致硬盘变砖。3.3 在 Windows 11 中分出空闲空间用磁盘管理“切”出一块地⚠️ 关键警告此步操作对象是 Windows 硬盘务必先备份重要数据Windows 下按WinX→ 选“磁盘管理”找到你的系统盘通常是“磁盘 0”下的“C:”卷右键 → “压缩卷”输入压缩空间量至少 60000 MB60GB建议输100000100GB点击“压缩”等待完成可能需 5–10 分钟取决于硬盘速度和碎片程度压缩后会出现一块“未分配”黑色区域——这就是留给 Ubuntu 的“宅基地”不要新建简单卷提示如果“压缩卷”按钮灰掉说明 C 盘有不可移动文件如页面文件、休眠文件。以管理员身份运行 CMD依次执行powercfg /h off # 关闭休眠释放 hiberfil.sys diskpart list volume select volume X # X 是 C 盘对应编号 shrink desired60000 exit再回磁盘管理尝试压缩。3.4 重启进 BIOS从 U 盘启动记住两个关键键F12 或 ESC插入做好的 U 盘重启电脑。在开机自检画面出现主板 Logo 时狂按多数品牌戴尔、惠普、联想F12华硕、微星ESC少数老机型F2/F10/Del若 F12 无效就试这些进入“启动菜单”Boot Menu后用方向键选中带USB或Rufus字样的选项如UEFI: SanDisk Cruzer Blade回车。✅ 成功标志屏幕出现紫色背景 Ubuntu logo “Try or Install Ubuntu” 文字❌ 失败标志直接进 Windows说明没按对键或 U 盘没识别——拔插 U 盘重试或进 BIOS 把 “Boot Mode” 设为UEFI Only关掉 Legacy/CSM。4. 安装 Ubuntu 24.04图形化安装向导重点盯住这 3 个选项进入 Live 系统Try Ubuntu后桌面双击“Install Ubuntu”图标。全程中文界面但有 3 个选项必须亲手确认否则后续 NVIDIA 驱动会翻车。4.1 语言与键盘选“中文简体”但键盘布局选“English (US)”安装向导第一步选语言选“中文简体”没问题。但到“键盘布局”页时务必选 “English (US)”而不是“Chinese”或“Pinyin”。原因Ubuntu 中文输入法fcitx5在安装阶段未加载若选中文键盘安装过程中按Shift2出不来/键位置错乱导致无法输入邮箱、密码等关键字段。血泪经验A同学曾因选“Chinese”导致安装卡在“设置用户名”页反复退格无效最后强制重启重来——其实只需切换键盘布局。4.2 安装类型选“与其他系统共存”别碰“清除整个磁盘”到“安装类型”页你会看到几个选项 “清除整个磁盘并安装 Ubuntu” →绝对不选这会删掉 Windows “现在安装 Ubuntu”手动分区→ 新手慎入易误删 EFI 分区✅ 正确选项“与其他系统共存”英文是 Install Ubuntu alongside Windows Boot Manager。Ubuntu 会自动识别你刚才压缩出的“未分配空间”并划分为/根分区约 50GB装系统和软件swap交换分区约 4GB内存不足时用硬盘暂存/home用户目录剩余空间存文档、代码、数据集。这个自动方案安全、合理、省心够用三年不重装。4.3 最后一步取消勾选“安装第三方软件”驱动留到系统装完再装安装向导倒数第二页有个勾选项☑️ “为图形或无线硬件安装附加的专有软件”❌必须取消勾选原因这个选项会尝试在安装过程中加载 NVIDIA 驱动但此时系统尚未完成初始化极易导致安装卡死、黑屏或 X11 启动失败。✅ 正确做法取消勾选 → 点“继续” → 安装完成 → 重启进新 Ubuntu 系统 → 再通过“软件与更新”图形化安装驱动。这是 Ubuntu 社区验证过的“零失败路径”比任何命令行都可靠。4.4 新手避坑安装后首次启动的 3 个高频问题排查现象安装完成重启卡在黑屏/紫屏/光标闪烁或进系统后分辨率极低、鼠标拖不动。原因NVIDIA 驱动未生效系统仍在用开源nouveau驱动。解决按CtrlAltF3进文本终端TTY登录你的用户名和密码执行# 1. 更新系统确保内核和固件最新 sudo apt update sudo apt upgrade -y # 2. 安装基础编译工具驱动编译必需 sudo apt install build-essential linux-headers-$(uname -r) -y # 3. 重启再进图形界面 sudo reboot若仍黑屏重启时长按Shift进 GRUB 菜单 → 选“Advanced options for Ubuntu” → 选带recovery mode的内核 → 选“resume normal boot”。注意若你用的是笔记本独显核显混合模式如 NVIDIA Optimus首次启动可能默认用核显屏幕正常但nvidia-smi不见——这是正常现象驱动装好后会在“NVIDIA X Server Settings”里切换。5. 装驱动、CUDA、cuDNN三步走每步一条命令失败立刻有解系统装好桌面出来了但nvidia-smi还报错别慌这才是真正“接电”的开始。我们抛弃.run文件手动安装的老路全程用 Ubuntu 24.04 原生 apt安全、快速、可回滚。5.1 一步到位装 NVIDIA 驱动用“软件与更新”图形界面比命令行还稳点左上角“活动” → 搜“软件与更新” → 打开切到“附加驱动”Additional Drivers页签等待几秒列表会刷出多个驱动版本如nvidia-driver-535-server服务器版稳定但功能少nvidia-driver-535推荐桌面版支持 CUDA 12.2nvidia-driver-545测试版可能不稳定✅选中nvidia-driver-535→ 点“应用更改”等进度条走完约 3–5 分钟弹窗点“重新启动”。重启后按CtrlAltT打开终端输入nvidia-smi✅ 成功标志顶部显示驱动版本如535.129.03、CUDA 版本如12.2下面列出 GPU 名称、温度、显存使用率❌ 失败标志NVIDIA-SMI has failed because it couldnt communicate with the NVIDIA driver。提示若失败大概率是 Secure Boot 未关。重启进 BIOS 关掉它再重试驱动安装。5.2 一行命令装 CUDA 12.2用官方 apt 仓库告别 .run 文件权限地狱Ubuntu 24.04 官方源已内置 CUDA 12.2无需去 NVIDIA 官网下.run文件那个文件需要chmod x、sudo ./xxx.run、还要手动禁 Nouveau——全是新手雷区。直接在终端执行# 添加 NVIDIA 官方 CUDA 仓库信任密钥自动导入 sudo apt update sudo apt install -y software-properties-common wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.0-1_all.deb sudo dpkg -i cuda-keyring_1.0-1_all.deb sudo apt update # 安装 CUDA 12.2 工具包含 nvcc 编译器、库、示例 sudo apt install -y cuda-toolkit-12-2 # 验证安装 nvcc --version✅ 成功标志输出nvcc: NVIDIA (R) Cuda compiler driver, 版本12.2.127❌ 失败标志E: Unable to locate package cuda-toolkit-12-2→ 检查lsb_release -a是否真为 24.04或网络是否通畅。5.3 两行命令装 cuDNN 8.9.6用 deb 包安装不碰 tar.gz 解压噩梦cuDNN 不是源码是 NVIDIA 提供的预编译加速库。Ubuntu 24.04 下最简方式是 deb 包安装访问 https://developer.nvidia.com/cudnn → 登录免费注册→ 下载cuDNN v8.9.6 Library for Ubuntu 22.04 x86_64 (Deb)注意虽然写 22.04但它兼容 24.04下载后文件名类似cudnn-local-repo-ubuntu2204-8.9.6.50_1.0-1_amd64.deb在终端执行# 安装 deb 包自动配置 apt 源 sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.6.50_1.0-1_amd64.deb # 导入 GPG 密钥否则 apt update 会报错 sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.6.50/cudnn-local-5E60450C-keyring.gpg /usr/share/keyrings/ # 更新 apt 并安装 cuDNN 运行时库 sudo apt update sudo apt install -y libcudnn8 # 验证进入 CUDA 示例目录运行测试 cd /usr/local/cuda-12.2/extras/demo_suite/ sudo ./bandwidthTest✅ 成功标志最后一行输出Result PASS❌ 失败标志./bandwidthTest: No such file or directory→ 检查ls /usr/local/cuda-12.2/extras/demo_suite/是否存在该文件若无说明 CUDA 安装不完整重装cuda-toolkit-12-2。5.4 常见问题排查新手必遇的 4 个“明明装了却用不了”场景现象 1nvcc -V显示版本但nvidia-smi报错“NVIDIA-SMI has failed...”。→ 原因驱动和 CUDA 版本不匹配如驱动 535 对应 CUDA 12.2但你装了 CUDA 12.1。→ 解决nvidia-smi顶部显示的 CUDA 版本是“驱动支持的最高 CUDA 版本”不是你装的版本。只要nvidia-smi能运行就证明驱动 OKnvcc -V显示你装的 CUDA 版本两者不同不冲突。现象 2import torch成功但torch.cuda.is_available()返回False。→ 原因PyTorch 未装 GPU 版或环境变量未生效。→ 解决先确认which python和python -c import torch; print(torch.__version__)然后装 GPU 版pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121注意cu121对应 CUDA 12.1若你装 CUDA 12.2用cu122。现象 3sudo apt install cuda-toolkit-12-2报错The following packages have unmet dependencies。→ 原因系统有旧版 CUDA如 11.x残留apt 依赖冲突。→ 解决sudo apt remove --purge cuda* nvidia-cuda-toolkit→sudo apt autoremove→sudo apt clean→ 重试安装。现象 4./bandwidthTest运行报错./bandwidthTest: error while loading shared libraries: libcudnn.so.8: cannot open shared object file: No such file or directory。→ 原因cuDNN 库路径未加入系统动态链接库搜索路径。→ 解决echo /usr/lib/x86_64-linux-gnu | sudo tee /etc/ld.so.conf.d/cudnn.conf sudo ldconfig。6. 下一步学什么从“能跑”到“会调”的 3 条实战路径与我的血泪习惯你现在应该已经能看到nvidia-smi的绿色输出nvcc --version显示 12.2torch.cuda.is_available()返回True——恭喜地基已稳。但这只是起点不是终点。接下来怎么走别被“深度学习”“分布式训练”吓住我们聚焦三个最实在、最常被问、最能立刻提升效率的方向每条都配具体动作。6.1 路径一用好 Anaconda 虚拟环境告别“包冲突焦虑症”为什么必须学你迟早会遇到项目 A 要tensorflow2.12需 CUDA 11.8项目 B 要pytorch2.3需 CUDA 12.2——同一台机器不可能同时装两个 CUDA。Anaconda 的虚拟环境就是你的“平行宇宙发生器”每个环境独立 Python、独立 pip、独立 CUDA 路径绑定。✅ 今天就能做的三件事装 Anaconda比 Miniconda 更全新手友好wget https://repo.anaconda.com/archive/Anaconda3-2024.06-Linux-x86_64.sh bash Anaconda3-2024.06-Linux-x86_64.sh -b -p $HOME/anaconda3 source $HOME/anaconda3/etc/profile.d/conda.sh conda init bash exec bash # 重载 shell创建一个专属 PyTorch 环境命名即意义conda create -n ai-gpu python3.10 # 用 3.10 因 PyTorch 2.3 官方推荐 conda activate ai-gpu pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu122把这个环境挂进 VS Code以后打开项目自动识别VS Code 里CtrlShiftP→ 输入Python: Select Interpreter→ 选~/anaconda3/envs/ai-gpu/bin/python。我的血泪习惯从那以后我每次新建项目第一件事不是写代码而是conda create -n 项目名 python3.10。哪怕只是写个爬虫我也建环境——因为某次我全局pip install了一个新包结果把 Jupyter 的内核搞崩了重装 Anaconda 花了 2 小时。现在conda env list就是我的项目地图conda deactivate就是我的一键还原键。6.2 路径二把 VS Code 变成“GPU 开发工作站”不只是代码编辑器VS Code 默认只是文本编辑器但装对插件后它能 实时显示 GPU 显存占用不用切 terminal 一键运行.ipynb并在侧边栏画出 loss 曲线 按F5调试 Python 时变量窗口直接展开torch.Tensor的 shape/dtype/device。✅ 今天就能装的 4 个核心插件插件名作用安装命令在 VS Code 扩展市场搜Python官方 Python 支持必装Microsoft 官方出品Jupyter直接运行.ipynb支持 GPU tensor 预览Microsoft 官方出品Remote - SSH连远程服务器如公司训练机开发本地写代码远程跑 GPUMicrosoft 官方出品NVIM可选若你爱 Vim 键绑定装此插件Esc进命令模式:执行!nvidia-smiGitHub: vscode-neovim提示装完 Jupyter 插件后在.ipynb文件里按CtrlShiftP→Jupyter: Create New Blank Notebook然后在第一个 cell 输入import torch x torch.randn(1000, 1000).cuda() print(fTensor on {x.device}, shape {x.shape})按CtrlEnter立刻看到Tensor on cuda:0, shape torch.Size([1000, 1000])—— 这就是 GPU 开发的呼吸感。6.3 路径三学会看懂nvidia-smi和nvtop做自己的 GPU 运维员nvidia-smi是你的 GPU 体检报告单但默认只刷新一次。学会这两个命令你就能 发现谁偷跑了你的显存同事共享服务器时 判断模型是否真在 GPU 上跑而非 fallback 到 CPU 估算训练时间显存带宽 vs 计算单元占用。✅ 今天就能掌握的 3 个技巧实时监控每 1 秒刷新watch -n 1 nvidia-smi # 按 CtrlC 退出看进程详情谁占了显存nvidia-smi pmon -i 0 # -i 0 指第 0 块 GPU输出 PID、显存占用、GPU 利用率装nvtop比nvidia-smi更直观的 topsudo apt install cmake libncurses5-dev libncursesw5-dev libudev-dev libdrm-dev libev-dev libzstd-dev git clone https://github.com/Syllo/nvtop.git mkdir nvtop/build cd nvtop/build cmake .. make sudo make install nvtop # 图形化界面按 F1 看帮助我的血泪习惯从那以后我每次跑训练前必开一个终端watch -n 1 nvidia-smi盯着Memory-Usage和GPU-Util两列。有一次发现GPU-Util长期 0%但Memory-Usage满了——立刻意识到数据加载瓶颈在 CPU加了num_workers4就解决问题。希望帮到你。本文还有配套的精品资源点击获取
