|
|
# データセット整理計画 |
|
|
|
|
|
## 目的 |
|
|
- カメラデバイスが逆だったエピソード 0〜9 を完全に削除。 |
|
|
- 残り (エピソード 10〜49) を 0〜39 にリネームして連番を維持。 |
|
|
- `meta/` 内の各種 JSONL / JSON を新しいインデックスと統計に合わせて更新。 |
|
|
|
|
|
## 対象ファイル |
|
|
1. `data/chunk-000/episode_000*.parquet` |
|
|
2. `videos/chunk-000/observation.images.laptop/episode_000*.mp4` |
|
|
3. `videos/chunk-000/observation.images.phone/episode_000*.mp4` |
|
|
4. `meta/episodes.jsonl`, `meta/episodes_stats.jsonl`, `meta/info.json` |
|
|
|
|
|
## 手順 |
|
|
1. **削除** |
|
|
`episode_000000` 〜 `episode_000009` の Parquet と二つの MP4 を削除。 |
|
|
2. **リネーム** |
|
|
`episode_000010` → `episode_000000`, `episode_000011` → `episode_000001`, … `episode_000049` → `episode_000039` となるよう一括リネーム。 |
|
|
3. **メタデータ更新** |
|
|
- `episodes.jsonl` : 先頭 10 行を捨て、残り 40 行の `episode_index` を −10 した新ファイルを書き出し。 |
|
|
- `episodes_stats.jsonl` : 各行の `episode_index` を −10。`index` など累積欄はそのまま (フレーム総数がズレても当面問題なし)。 |
|
|
- `info.json` : |
|
|
- `total_episodes` → 40 |
|
|
- `total_videos` → 80 |
|
|
- `splits.train` → "0:40" |
|
|
- `total_frames` → `episodes.jsonl` の `length` 合計値 (後述スクリプトで再計算) |
|
|
4. **自動スクリプト** |
|
|
`scripts/cleanup_reindex.py` を作成し、上記 1〜3 を自動で実行出来るようにする。 |
|
|
5. **実行方法** |
|
|
```bash |
|
|
python scripts/cleanup_reindex.py |
|
|
``` |
|
|
|
|
|
## スクリプト概要 |
|
|
- `glob` と `Path.rename` でファイル名を変換。 |
|
|
- `json`, `jsonlines` パッケージでメタデータを読み書き。 |
|
|
- ログを出力して安全性を確保。 |
|
|
|
|
|
## 検証 |
|
|
- スクリプト完了後、以下を確認。 |
|
|
1. `data/chunk-000/` と 2 つの videos フォルダに *episode_000040* 以降のファイルが無いこと。 |
|
|
2. `meta/episodes.jsonl` の最終行が `episode_index": 39`。 |
|
|
3. `meta/info.json` の `total_episodes` が 40。 |
|
|
|
|
|
--- |
