1. 从像人到是人动作重定向到底在解决什么问题人形机器人这两年火得一塌糊涂但真正上手做过动作模仿的人都知道最难的从来不是让机器人站起来走两步而是让它学人。你拿一段人类跳舞的视频丢给机器人指望它直接复现结果往往是关节角度对不上、重心飘到天上、脚底打滑摔成一团。这背后的核心矛盾在于人类和机器人的运动学结构根本不在一个坐标系里。人类有206块骨头、复杂的脊柱柔性和足弓结构而主流人形机器人通常是20到40个自由度髋、膝、踝的旋转范围和人类差异巨大。比如人类膝盖可以轻微内旋但很多机器人的膝关节是纯铰链结构只能在一个平面内转动。所以动作重定向Motion Retargeting要干的事本质上是把人类动作的语义保留下来同时把物理不可行的部分替换成机器人能执行的等效动作。我刚开始接触这块的时候犯过一个典型错误直接把动捕数据按比例缩放到机器人关节空间结果机器人做挥手动作时肘关节直接撞到躯干。后来才明白重定向不是简单的坐标映射而是一个带约束的优化问题。你需要同时考虑关节限位、自碰撞、质心稳定性和接触约束。1.1 重定向的三层映射逻辑实际操作中我习惯把重定向拆成三层来处理第一层是骨架拓扑映射。人类骨架和机器人骨架的对应关系不是一一对应的。比如人类有锁骨和肩胛骨很多机器人只有一个肩部俯仰和横滚关节。这时候你需要定义一个虚拟骨架把人类的关键点映射到机器人的连杆坐标系上。常用的做法是用SMPL骨架的关节点位置通过逆运动学求解机器人关节角。第二层是运动学约束求解。这一步是整个重定向最耗时的部分。我通常用带优先级的分层IK先保证脚底接触点不滑动再保证质心投影在支撑多边形内最后才优化手臂和头部的姿态。优先级不能乱否则机器人会为了摆手而摔倒。第三层是动力学可行性修正。运动学上可行的轨迹动力学上未必可行。比如人类快速下蹲时机器人可能因为关节力矩不足而无法跟踪。这时候需要引入力矩约束对轨迹进行时间缩放或者幅度裁剪。提示重定向阶段不要追求100%还原人类动作保留70%到80%的语义相似度剩下的留给跟踪控制器去补偿效果反而更稳。1.2 为什么说重定向是数据集的翻译器数据集里的动作数据无论是动捕还是视频提取都是人类空间的表示。重定向就是把这些数据翻译成机器人空间的语言。翻译质量直接决定了后续跟踪的上限。我见过不少团队在重定向上偷懒结果后面训练跟踪策略时怎么调都调不好回头才发现是重定向阶段埋的雷。一个实用的经验是重定向后的轨迹一定要做可视化回放。把机器人模型加载到可视化工具里逐帧检查关节角速度是否突变、脚底是否穿地、手臂是否自碰撞。这一步花的时间比后面调RL策略省下来的时间多得多。2. 数据集选型别一上来就啃最难的做动作模仿数据集的选择直接决定了你项目的天花板和踩坑密度。市面上的数据集大致分三类动捕数据集、视频提取数据集和合成数据集。每类的精度、覆盖范围和获取成本差异巨大选错了就是给自己挖坑。2.1 动捕数据集精度高但场景受限动捕数据集是质量最高的关节角度和全局位移都有较高精度。典型代表是CMU MoCap、AMASS这类。AMASS把多个动捕数据集统一到SMPL格式动作种类覆盖走、跑、跳、舞蹈、格斗等。但它的局限也很明显大部分是平地动作地形变化极少而且动捕环境下的动作往往偏表演化和真实场景下的自然动作有差距。我用AMASS的时候发现一个细节很多动作的脚底接触标注不准确直接拿来训练会导致机器人脚底打滑。后来我加了一个基于足底速度和高度阈值的接触检测后处理才把这个问题压下去。2.2 视频提取数据集覆盖广但噪声大视频提取的数据集比如从网络视频里用姿态估计提取的3D关节位置覆盖的动作类型极其丰富但精度堪忧。抖动、深度歧义、遮挡导致的关节跳变都是家常便饭。如果你要用这类数据必须做时序滤波和物理修正。我的做法是先用滑动窗口中值滤波去掉高频抖动再用一个简单的物理模型比如倒立摆检查质心轨迹是否连续把明显违反物理的片段裁掉。这一步会损失不少数据但剩下的质量能提升一个档次。2.3 合成数据集可控但存在Sim-to-Real Gap合成数据集是在仿真环境里用虚拟人产生的动作优势是标注完美、地形可控、可以批量生成。但问题在于虚拟人的运动风格和真实人类有差异直接迁移到真机上会有明显的机械感。我一般把合成数据当作预训练数据先用它让策略学会基本的平衡和跟踪再用少量真实动捕数据做微调。这样既利用了合成数据的规模优势又避免了风格迁移的硬伤。数据集类型精度动作多样性地形覆盖获取成本推荐用途动捕数据集高中低高精细跟踪训练视频提取低高中低预训练/多样性补充合成数据集完美可控高中预训练/地形适应注意不管用哪类数据集都要做统一的坐标系对齐和尺度归一化。我见过因为坐标系没对齐导致机器人整体倾斜30度的案例排查了一整天才发现是数据预处理的问题。3. 通用跟踪策略让机器人学会跟而不是死记硬背数据集和重定向搞定之后核心问题变成怎么让机器人稳定地跟踪这些参考动作这里有两种主流路线基于模型的控制和基于学习的控制。我两条路都走过说说各自的坑和适用场景。3.1 基于模型的控制MPC加全身控制MPC模型预测控制加WBC全身控制是经典方案。思路是在每个控制周期求解一个优化问题同时满足跟踪误差最小、力矩限制、接触约束等条件。优点是解释性强、安全性好缺点是计算量大、对模型精度敏感。我实测下来MPC在慢速、接触丰富的动作上表现很好比如上下楼梯、搬箱子。但遇到快速跳跃、转身这类动作MPC的预测时域和求解频率往往跟不上机器人会显得迟钝。一个实用的调参经验MPC的预测时域不要设太长0.5到1秒足够太长反而会因为模型误差导致控制量震荡。权重矩阵里质心位置的权重应该比关节角度权重高一个数量级否则机器人会为了跟关节角而牺牲平衡。3.2 基于学习的控制RL加参考动作奖励RL强化学习路线这几年更火。核心思路是把参考动作作为奖励信号的一部分让策略在仿真里大量试错学出一个能跟踪动作的神经网络控制器。常用的算法是PPO或者SAC配合域随机化来提升Sim-to-Real的迁移能力。奖励函数的设计是成败关键。我通常用这几项组合关节位置跟踪奖励参考关节角和当前关节角的指数误差关节速度跟踪奖励防止动作过快或过慢质心跟踪奖励保证整体运动轨迹一致脚底接触奖励鼓励正确的接触时序生存奖励每步给一个小正奖励鼓励策略不要摔倒力矩惩罚避免策略用过大动作硬跟权重调参是个体力活。我的经验是先调跟踪奖励再调平衡奖励最后调正则项。如果一上来就把所有项都加上策略会陷入局部最优学出一个站着不动的懒策略。3.3 两种路线的混合分层架构纯MPC太慢纯RL太黑盒。我后来采用了一种分层架构上层用RL学一个参考动作的相位预测和步态规划下层用MPC做全身力矩分配。这样既保留了RL的灵活性又利用了MPC的安全性和可解释性。具体来说RL策略输出的是期望的质心轨迹和足端落点MPC负责在满足动力学约束的前提下跟踪这些期望。实测下来这种架构在地形变化场景下比纯RL稳定得多因为MPC能实时处理接触约束而RL只需要关注高层决策。提示分层架构的接口设计很关键。RL输出的期望不能太激进否则MPC求解会失败。我一般会给RL输出加一个低通滤波限制变化率。4. 地形感知从平地王者到全地形选手前面说的跟踪默认都是在平地上。一旦上了地形难度直接翻倍。机器人不仅要跟踪动作还要实时感知地形并调整步态。这块我踩的坑最多也最有心得。4.1 地形感知的三种技术路线第一种是本体感知靠关节力矩和IMU推断地形。优点是成本低、不需要额外传感器缺点是只能感知已经踩到的地形属于事后感知。我在早期项目里用这种方法机器人下台阶时经常因为感知滞后而踩空。第二种是外部感知用深度相机或激光雷达提前扫描地形。优点是能提前规划缺点是对传感器噪声和标定误差敏感。深度相机在强光或反光地面下容易失效激光雷达在稀疏点云下对细小障碍物分辨力不足。第三种是混合感知本体加外部融合。这是目前最稳的方案。我的做法是用深度相机做局部高程图用本体感知做接触估计两者通过卡尔曼滤波融合。高程图的分辨率不用太高2到5厘米足够太高反而增加计算负担。4.2 地形感知与动作跟踪的耦合地形感知不是独立的模块它和动作跟踪是强耦合的。比如机器人要跟踪一个跨步动作但前方地形有凸起这时候需要动态调整步高和落点而不是死跟参考轨迹。我的处理方式是在跟踪奖励里加入地形自适应项当检测到前方地形高度变化时允许机器人偏离参考动作一定范围只要整体语义不变即可。这个允许偏离的阈值需要仔细调太松会导致动作变形太紧会导致机器人硬撞地形。4.3 地形感知的实操避坑清单高程图更新频率要匹配控制频率我一般设成控制频率的一半太高会引入噪声太低会导致感知滞后。地形分类不要过度细化把地形分成平地、上坡、下坡、台阶、障碍五类就够了分太细反而增加策略学习难度。接触检测阈值要随地形调整在软地形上脚底接触的力矩阈值要比硬地形低否则会误判为未接触。仿真里的地形随机化要适度域随机化时地形参数不要随机得太离谱否则策略会学出一个万能但都不精的控制器。注意地形感知模块的延迟必须严格控制。我见过因为高程图处理延迟超过50毫秒导致机器人下台阶时踩空的案例。实时性比精度更重要。5. 从仿真到真机那些只有踩过才知道的坑仿真里跑得再好上真机又是另一回事。Sim-to-Real的鸿沟在动作跟踪任务里尤其明显因为动作跟踪对接触和力矩的精度要求极高。5.1 域随机化的边界域随机化是缩小Sim-to-Real Gap的常用手段但随机化什么、随机化多少很有讲究。我的经验是质量、摩擦系数、电机增益必须随机化范围可以大一些关节阻尼和摩擦适度随机化范围太大会导致策略过于保守传感器噪声必须随机化但要匹配真实传感器的噪声特性地形参数适度随机化不要随机到物理上不可能的地形我早期犯过一个错误把电机力矩随机化范围设得太大结果策略学出了一个永远不用全力的保守控制器上真机后连正常走路都费劲。后来把范围收窄到真实电机特性的±20%效果立刻好转。5.2 真机调试的排查链路真机上跟踪效果不好排查顺序很重要。我通常按这个链路走检查状态估计关节角、IMU、质心估计是否准确。状态估计错了后面全错。检查通信延迟控制指令从策略输出到电机执行的延迟。超过20毫秒就要优化。检查接触检测脚底接触信号是否和实际接触一致。不一致就调阈值。检查参考动作重定向后的轨迹在真机上是否物理可行。不可行就回去改重定向。检查策略输出策略输出的动作是否平滑。抖动就加滤波或调整奖励。这个顺序不能乱因为后面的问题往往会被前面的问题掩盖。我见过因为状态估计偏差导致策略输出抖动结果团队花了一周调奖励函数最后发现是IMU标定没做好。5.3 安全兜底策略真机调试必须有安全兜底。我的做法是力矩限幅不管策略输出什么力矩都不能超过电机安全范围姿态保护当机器人倾斜超过阈值时自动切换到阻尼模式紧急停止物理急停按钮和软件急停双保险吊装保护初期调试一定要用吊装别心疼那点准备时间提示真机调试的第一天不要跑复杂动作。先让机器人原地站立、缓慢摆臂、小步行走确认基础控制链路没问题再逐步加难度。6. 一个完整的动作跟踪Pipeline长什么样把前面所有环节串起来一个可落地的动作跟踪Pipeline大致是这样的数据准备阶段选数据集做坐标系对齐和尺度归一化做接触标注修正。重定向阶段骨架拓扑映射分层IK求解动力学可行性修正可视化回放检查。策略训练阶段设计奖励函数配置域随机化用PPO或SAC训练定期评估跟踪误差和稳定性。地形感知阶段搭建高程图模块融合本体和外部感知设计地形自适应跟踪策略。真机部署阶段状态估计校准通信延迟优化安全兜底配置逐步增加动作难度。迭代优化阶段收集真机数据分析失败案例回退到对应环节修正重新训练。这个Pipeline我跑过好几轮每一轮都会发现新的问题。最深的体会是动作跟踪是一个系统工程任何一个环节偷懒都会在后面加倍还回来。重定向没做好训练时怎么调奖励都白搭地形感知延迟大再好的策略也会踩空安全兜底不到位一次摔机可能毁掉几周的调试成果。6.1 评估指标怎么定评估跟踪效果不能只看像不像要有量化指标。我常用的有关节角度RMSE衡量跟踪精度但要注意不同关节的重要性不同质心轨迹误差衡量整体运动一致性接触时序准确率衡量脚底接触是否正确摔倒率最直观的稳定性指标力矩平滑度衡量控制是否经济这些指标要综合看不能只看一个。我见过关节角度RMSE很小但摔倒率很高的案例原因是策略为了跟角度牺牲了平衡。6.2 常见失败模式与对策失败模式典型表现根因对策动作僵硬关节运动不连贯奖励函数过于强调跟踪精度加入动作平滑奖励脚底打滑接触点滑动接触约束不足加强接触奖励和摩擦随机化重心偏移机器人整体倾斜质心跟踪权重过低提高质心奖励权重地形适应差上下坡时摔倒地形感知延迟或精度不足优化高程图更新频率真机抖动策略输出高频震荡状态估计噪声或通信延迟加低通滤波优化通信这张表是我从多次失败中总结出来的每次遇到新问题都会往里加一行。现在它已经成了我调试时的第一参考。7. 一些不写在论文里的实操心得最后分享几个我在实际项目中攒下来的经验这些在论文里基本看不到但实战中很管用。关于重定向的平滑性重定向后的轨迹一定要做加速度连续性检查。人类动作的加速度是连续的但重定向过程中因为约束求解的数值误差可能会出现加速度突变。这种突变在仿真里可能被策略硬扛过去但真机上会导致电机电流尖峰。我的做法是对重定向后的关节轨迹做一次B样条拟合强制二阶连续。关于奖励函数的稀疏性不要把所有奖励都设成稠密的。我通常保留一个稀疏的任务完成奖励比如完成一个完整步态周期给一次大奖励。这样策略不会陷入局部最优的稠密奖励陷阱能学到更长远的动作规划。关于仿真环境的搭建仿真里的地面摩擦系数不要设成理想值。我一般设成0.6到0.8之间接近真实橡胶鞋底和常见地面的摩擦。设成1.0会让策略学出过于依赖摩擦的控制方式上真机后容易打滑。关于训练时间的分配不要把所有时间花在训练上。我的经验是训练和评估的时间比例大概是3比1。评估时不仅要看成功率还要看失败案例的分布。如果失败集中在某类动作上说明数据集或奖励函数有偏。关于真机数据的利用真机跑出来的数据非常宝贵一定要记录。我通常会把真机的状态、动作、奖励都存下来定期做离线分析。很多仿真里发现不了的问题在真机数据里一目了然。比如某个关节的力矩总是偏大可能是重定向时那个关节的参考轨迹不合理。关于团队协作动作跟踪项目涉及数据、重定向、控制、感知、硬件多个环节接口定义一定要清晰。我吃过接口不清晰的亏重定向输出的关节顺序和控制器期望的顺序不一致导致机器人动作完全错乱排查了半天才发现是顺序问题。后来我们定了一个规矩所有模块的输入输出都用统一的关节顺序和坐标系写在文档里谁都不能改。这个领域变化很快新的数据集、新的算法、新的硬件层出不穷。但底层的那套逻辑——数据质量决定上限、重定向决定可行性、跟踪策略决定稳定性、地形感知决定适用范围——短期内不会变。把这几块吃透比追新算法管用得多。
