LeRobot数据集v3.0格式深度解析OpenLET具身智能挑战赛Parquet多目视频存储结构完全指南本文是LeRobot 数据集 v3.0 格式的完全指南基于OpenLET 具身智能挑战赛的官方数据集拆解 Parquet 帧级数据、多目 AV1 视频与 meta 元信息三大存储模块带你快速读懂并加载这份面向真实工业任务的人形机器人操作数据集。 先览全局三大任务的数据规模OpenLET 具身智能挑战赛面向高校实验室、企业研发团队与个人开发者邀请你围绕真实工业任务开发算法、持续打榜。仓库sim/目录下提供了 3 个任务的数据集全部遵循 LeRobot 数据集 v3.0 规范任务目录集数总帧数状态维度动作维度相机配置 零件抓取sim/task1_parts_pick/500237,8131821头部 右腕 箱子搬运sim/task2_box_move/500294,6783639头部 左腕 右腕 循环投料sim/task3_loop_feed/500316,7911821头部 右腕三个共同点值得记住机器人平台kuavo-5w人形机器人每条机械臂 7 自由度zarm_*_link 11 维sg100手部维度采样率10 fps单集约 30~50 秒约 487 帧封顶动作空间状态维度 底盘速度vx / vy / vyaw所以 task2 是 36→39 维、task1/task3 是 18→21 维️ v3.0 目录结构一张图看懂数据集布局以零件抓取任务为例sim/task1_parts_pick/meta/info.json 所在层级sim/task1_parts_pick/ ├── data/ # ① 帧级数据Parquet │ └── chunk-000/ │ └── file-000.parquet # 状态动作索引单文件 ≤100MB ├── meta/ # ② 元信息 │ ├── info.json # 数据集身份证特性、路径模板、帧率 │ ├── stats.json # 各字段统计量min/max/均值/分位数 │ ├── tasks.parquet # 任务索引 ↔ 自然语言指令 │ └── episodes/ │ └── chunk-000/ │ └── file-000.parquet # 每集 ↔ 视频文件帧偏移 索引 └── videos/ # ③ 多目视频MP4 ├── observation.images.head_cam_h/ # 头部相机 │ └── chunk-000/file-000.mp4 ... # 多集拼接单文件 ≤200MB └── observation.images.wrist_cam_r/ # 右腕相机v3.0 的核心设计思想就一句话数值数据进 Parquet图像数据进 MP4二者用 meta 里的索引对齐。按每 1000 集切一个chunk-000、chunk-001……方便大规模数据集并行处理。 info.json 逐字段解析数据集的身份证打开 sim/task1_parts_pick/meta/info.json关键字段如下字段示例值含义codebase_versionv3.0LeRobot 数据格式版本robot_typekuavo-5w采集用机器人平台total_episodes/total_frames500 / 237,813集数与总帧数fps10采样帧率chunks_size1000每个 chunk 的集数上限splits{train: 0:500}训练/验证划分data_path/video_path见下方文件路径模板data_path与video_path是路径模板读取器靠它把 (chunk, file) 编号还原成真实文件data_path: data/chunk-{chunk_index:03d}/file-{file_index:03d}.parquet, video_path: videos/{video_key}/chunk-{chunk_index:03d}/file-{file_index:03d}.mp4features区块则定义了每一列的dtype、shape和维度名称。比如 task2 双臂数据集的observation.state是 36 维 float32sim/task2_box_move/meta/info.jsonobservation.state: { dtype: float32, shape: [36], names: { state_names: [zarm_l1_link, ..., right_sg100_11] } } Parquet 帧数据一行就是一帧data/chunk-000/file-000.parquet 是整个数据集的心脏——表格的每一行对应一帧包含 7 类列列名类型说明observation.statefloat32[18/36]本帧本体状态臂关节 手部维度actionfloat32[21/39]本帧指令状态维度 底盘vx/vy/vyawtimestampfloat32相对本集起点的秒数如 0.0~48.7frame_indexint64集内帧号0 开始episode_indexint64集编号0~499indexint64数据集全局帧索引task_indexint64任务编号指向tasks.parquet 视频列如observation.images.head_cam_h不存在 Parquet 里只在features中声明元信息真实像素放在 MP4 中这正是 v3.0 比单文件存一切高效的原因。 多目视频存储AV1 编码与按体积切分videos/下每个相机 key 一个子目录MP4 的关键参数见info.json的features编码AV1像素格式yuv420p480×64010 fps无音轨体积上限video_files_size_in_mb: 200单文件接近 200MB 即自动开新文件多集拼接一个 MP4 内连续存放约 30 集的画面500 集 ÷ 16 文件 ≈ 31 集/文件⚠️ 注意各相机的文件数可以不同。例如 task1 头部相机是 16 个文件file-000~file-015.mp4右腕相机是 23 个——因为各目画面体积不同切分时机不同。每集在各目视频里的精确起止位置由 meta/episodes/chunk-000/file-000.parquet 中的偏移索引记录读取时先查索引、再定帧。 stats.json 与 tasks.parquet统计与任务索引meta/stats.json对每个数值字段给出min / max / mean / std / count / q01~q99全量统计。做动作归一化如 min-max、z-score时无需重新扫全量数据直接查表即可。图像字段同样统计了 RGB 三通道的分布均值约 0.34~0.45说明画面曝光适中。meta/tasks.parquettask_index→ 自然语言指令的映射表。本仓库每个任务目录只含 1 个任务total_tasks: 1但格式上天然支持一集数据混合多个任务训练 VLA 模型做多任务泛化。 快速上手两种加载方式方式一直接读 Parquet最轻量import pyarrow.parquet as pq t pq.read_table(sim/task1_parts_pick/data/chunk-000/file-000.parquet) print(t.column_names) # [observation.state, action, timestamp, ...]方式二用 LeRobot 官方数据加载器安装lerobot后以root指向任务目录即可得到统一的 Dataset 对象按集取帧、对齐视频帧都是内置能力。配合meta/info.json的路径模板加载器会自动把数值列与 MP4 帧对齐好。❓ 常见问题 FAQQ1为什么下载下来的 .parquet / .mp4 只有一百多字节这些大文件通过git-lfs存储未拉取 LFS 对象时目录里只是文本指针内容形如version https://git-lfs.github.com/spec/v1 sha256 哈希。安装 git-lfs 后执行git lfs pull即可还原为真实文件task1 的数据文件约 25MB单段视频约 200MB。Q2任务目录下的20261015/子目录是什么按日期命名的快照子集例如 sim/task1_parts_pick/20261015/meta/info.json 中只有 200 集主数据集的 40%且相机配置与主目录不同如 task1 快照是双目 36 维配置。适合下载量小、快速验证数据管线。Q3怎么算 chunk 编号episode_index // chunks_size。本数据集chunks_size1000且每任务 ≤500 集所以都落在chunk-000若扩展到 1500 集第 1200 集就会进入chunk-001。✨ 小结要点一句话总结格式标准LeRobot v3.0Parquet 存数值MP4 存视频meta 做对齐路径规则模板chunk-{03d}/file-{03d} 每 1000 集一切分视频编码AV1 / 480×640 / 10fps200MB 自动切分加速训练stats.json免扫描归一化tasks.parquet支持多任务读懂这套 OpenLET 具身智能挑战赛的数据结构后你就可以直接对接 LeRobot 生态的训练与评测流程围绕三大工业任务迭代你的操作算法、冲击榜单排名了 创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
