CUDA[#1]

2026.9.141.什么是CUDA来自维基百科CUDACompute Unified Devices Architecture统一计算架构是由英伟达NVIDIA所推出的一个并行计算平台是该公司对于GPGPU的正式名称。透过这个技术用户可利用NVIDIA的GPU进行图像处理之外的运算。2.CPU、GPU协同工作· 主机 (Host)指的是你电脑里的CPU 以及它直接管理的内存通常叫主存/内存条。它是整个电脑的“指挥官”负责跑操作系统、处理逻辑、调度任务。· 设备 (Device)指的是你插在主板上的 GPU显卡。它相当于一个“超级计算打工仔”专门负责处理海量并行计算任务。处理流程数据拷贝CPU内存→GPU内存加载GPU程序并执行结果拷贝GPU内存→CPU内存3.GPU内核函数__global__关键字声明内核函数功能在设备(device 也就是GPU)上运行被主机(host)代码调用也可被其它设备代码调用设备代码 即运行在GPU上的代码nvcc 编译器它就像一个交通警察。它会把你的代码拆成两部分带global的代码给 NVIDIA 自己的编译器处理最终变成 GPU 能懂的机器码。像 main() 这种普通的 C 代码交给普通的编译器比如 gcc、cl.exe处理变成 CPU主机 能懂的代码。4.CUDA内存管理CPU与GPU内存是分离的。Device指针指向GPU内存Host指针指向CPU内存。通常传递给CPU/GPU各自的代码通常无法在另一个地方解引用总结谁的指针给谁用物理上内存是分离的CUDA有API来处理设备内存API应用程序接口让 CPU 可以通过这些“专属通道”去指挥 GPU 的内存。