FFTrainer 论文总结与核心内容翻译一、主要内容总结本文针对大型语言模型（LLM）分布式训练中面临的节点故障频发、恢复时间长、 checkpoint（检查点）开销大等问题，提出了一种高效鲁棒的训练系统 FFTrainer。该系统核心目标是将故障恢复时间（MTTR）缩短至秒级，同时最小化对正常训练的性能影响。核心背景问题大规模集群故障频繁：16,384 GPU 集群的平均无故障时间（MTBF）仅约 3 小时，而传统恢复时间（MTTR）长达数十分钟甚至上千秒，导致训练效率下降 43%。Checkpoint 瓶颈：现有方案要么因检查点频率低导致故障后回滚损失大，要么因频率高带来过高 I/O 和网络开销；且检查点包含大量冗余状态，进一步加剧负担。网络与训练状态恢复耦合：传统框架中网络连接初始化（如 NCCL 组建立）与训练状态加载存在强依赖，且网络带宽在非同步通信阶段利用率极低（仅 1-3%）。系统核心设计FFTrainer 围绕五大关键思路构建，通过四个核心模块（状态控制器、检查点引擎、数据加载器、轻量级通信库 LCCL）实现高效故障转移：精简检查点内容：剔除数据并行组内的冗余状态（如重复模型权重、优化器状态），仅备份唯一信息，将检查点体积压缩至原来的 1/10 以下。解耦训练角色与网络秩：使训练状态恢复与网络状态恢复独立，支持并行执行，打破传统串行依赖。轻量化网
