IMPLEMENTATION_PLAN.md

データセット整理計画

目的

• カメラデバイスが逆だったエピソード 0〜9 を完全に削除。
• 残り (エピソード 10〜49) を 0〜39 にリネームして連番を維持。
• meta/ 内の各種 JSONL / JSON を新しいインデックスと統計に合わせて更新。

対象ファイル

1. data/chunk-000/episode_000*.parquet
2. videos/chunk-000/observation.images.laptop/episode_000*.mp4
3. videos/chunk-000/observation.images.phone/episode_000*.mp4
4. meta/episodes.jsonl, meta/episodes_stats.jsonl, meta/info.json

手順

1. 削除
   episode_000000 〜 episode_000009 の Parquet と二つの MP4 を削除。
2. リネーム
   episode_000010 → episode_000000, episode_000011 → episode_000001, … episode_000049 → episode_000039 となるよう一括リネーム。
3. メタデータ更新
   • episodes.jsonl : 先頭 10 行を捨て、残り 40 行の episode_index を −10 した新ファイルを書き出し。
   • episodes_stats.jsonl : 各行の episode_index を −10。index など累積欄はそのまま (フレーム総数がズレても当面問題なし)。
   • info.json :
     • total_episodes → 40
     • total_videos → 80
     • splits.train → "0:40"
     • total_frames → episodes.jsonl の length 合計値 (後述スクリプトで再計算)
4. 自動スクリプト
   scripts/cleanup_reindex.py を作成し、上記 1〜3 を自動で実行出来るようにする。
5. 実行方法

   python scripts/cleanup_reindex.py
   

スクリプト概要

• glob と Path.rename でファイル名を変換。
• json, jsonlines パッケージでメタデータを読み書き。
• ログを出力して安全性を確保。

検証

• スクリプト完了後、以下を確認。
  1. data/chunk-000/ と 2 つの videos フォルダに episode_000040 以降のファイルが無いこと。
  2. meta/episodes.jsonl の最終行が episode_index": 39。
  3. meta/info.json の total_episodes が 40。

---