Delete forbin_dataset.py

forbin_dataset.py

@@ -1,176 +0,0 @@
-from collections import defaultdict
-import json
-import os
-import datasets
-from datasets import (
-    Value,
-    Image,
-    Sequence,
-    ClassLabel,
-)
-from typing import Dict, Any
-import tarfile
-from io import BytesIO
-
-_DESCRIPTION = """
- Forbin Dataset — a curated collection of heritage photographs and documents, combining digitized facsimiles, historical context, and fine-grained annotations.
-
-This collection brings together images from the archives of the French explorer and writer Victor Forbin (1868–1947), enhanced with semantic structures following the COCO Segmentation format for scientific reuse.
-"""
-_HOMEPAGE = "https://huggingface.co/mchelali/forbin_dataset"
-_LICENSE = "CC-BY-NC-4.0"  # Licence de votre choix
-_ANNOTATIONS_JSON = "forbin_annotated.json"
-
-
-def _load_image_from_tar(
-    dl_manager: datasets.DownloadManager,
-    repo_url: str,
-    tar_filename: str,
-    image_key_in_tar: str,
-) -> BytesIO:
-    """
-    Fonction CRITIQUE : Ouvre un fichier .tar distant en streaming et extrait un fichier spécifique par sa clé.
-    """
-    tar_url = f"{repo_url}/{tar_filename}"
-
-    # 1. Ouverture du fichier .tar en streaming via l'outil de téléchargement de datasets
-    # Cela évite de télécharger le fichier en entier.
-    with dl_manager.open(tar_url) as f:
-        # 2. Utilisation de tarfile pour lire le flux. Le mode 'r|*' est pour la lecture par flux (non-seekable).
-        with tarfile.open(fileobj=f, mode="r|*") as tar:
-            try:
-                # 3. Recherche du membre (l'image) par son chemin exact à l'intérieur du .tar
-                member = tar.getmember(image_key_in_tar)
-            except KeyError:
-                raise FileNotFoundError(
-                    f"Image '{image_key_in_tar}' non trouvée dans {tar_filename}."
-                )
-
-            # 4. Extraction du contenu binaire de l'image
-            image_file = tar.extractfile(member)
-            if image_file is None:
-                raise Exception(
-                    f"Impossible d'extraire le fichier pour {image_key_in_tar}."
-                )
-
-            # 5. Lecture du contenu dans un objet BytesIO pour la feature Image()
-            return BytesIO(image_file.read())
-
-
-class ForbinDataset(datasets.GeneratorBasedBuilder):
-
-    VERSION = datasets.Version("1.0.0")
-
-    # Définir le fichier de données (le manifeste Parquet)
-    DEFAULT_CONFIG_NAME = "default"
-    BUILDER_CONFIGS = [
-        datasets.BuilderConfig(
-            name=DEFAULT_CONFIG_NAME,
-            version=VERSION,
-            description=_DESCRIPTION,
-        )
-    ]
-
-    def _info(self) -> datasets.DatasetInfo:
-        # Définition des catégories
-        categories = ["legende", "texte", "image", "tampon", "etc"]
-
-        features = datasets.Features(
-            {
-                "image_id": Value("int32"),
-                # Utiliser Image() avec les URL générées (pipe:curl...)
-                "recto_image": Image(),
-                "verso_image": Image(),
-                # "tar_file": Value("string"),
-                # "dpi": Value("float32"),
-                "Carton": Value("string"),
-                "Pays": Value("string"),
-                # ...
-                "annotations": Sequence(
-                    {
-                        # ... Définition des champs d'annotations
-                        "id": Value("int32"),
-                        "category_id": ClassLabel(names=categories),
-                        "bbox": Sequence(Value("float32")),
-                        "text": Value("string"),
-                        # ...
-                    }
-                ),
-            }
-        )
-        return datasets.DatasetInfo(description=_DESCRIPTION, features=features)
-
-    def _split_generators(
-        self, dl_manager: datasets.DownloadManager
-    ) -> list[datasets.SplitGenerator]:
-
-        urls = {"annotations": os.path.join(dl_manager.manual_dir, _ANNOTATIONS_JSON)}
-        downloaded_files = dl_manager.download(urls)
-
-        return [
-            datasets.SplitGenerator(
-                name=datasets.Split.TRAIN,
-                gen_kwargs={"annotations_filepath": downloaded_files["annotations"]},
-            )
-        ]
-
-    def _generate_examples(self, annotations_filepath: str):
-        """Lit le manifeste Parquet et génère les exemples."""
-
-        # Lire le fichier Parquet
-        repo_id = "mchelali/forbin_dataset"
-        repo_url = f"https://huggingface.co/datasets/{repo_id}/resolve/main/data"
-
-        with open(annotations_filepath, "r", encoding="utf-8") as f:
-            annotations = json.load(f)
-
-        for _id, record in enumerate(annotations):
-
-            # Conversion de la chaîne JSON des annotations en objet Python
-            # --- STRUCTURE DE VOTRE ENREGISTREMENT JSON (À ADAPTER) ---
-            image_id = record.get("image_id", str(_id))
-            annotations_data = record.get(
-                "annotations", {}
-            )  # Votre champ d'annotations
-            recto_path_in_tar = record["recto_path"]  # Ex: SHDGR.../0001.jpg
-            verso_path_in_tar = record["verso_path"]  # Ex: SHDGR.../0002.jpg
-            # -----------------------------------------------------------
-
-            # 2. Déduction du nom de l'archive .tar (le dossier parent ou la clé principale)
-            # Cette logique suppose que le nom du dossier parent de l'image est aussi la base du nom du .tar
-            tar_name = (
-                recto_path_in_tar.split(os.path.sep)[2] + ".tar"
-            )  # Ex: SHDGR..._2.tar
-
-            try:
-                # 3. Chargement de l'image Recto
-                recto_image_bytes = _load_image_from_tar(
-                    self.dl_manager, repo_url, tar_name, recto_path_in_tar
-                )
-
-                # 4. Chargement de l'image Verso
-                verso_image_bytes = _load_image_from_tar(
-                    self.dl_manager, repo_url, tar_name, verso_path_in_tar
-                )
-
-                # 5. Génération de l'exemple
-                yield _id, {
-                    "id": image_id,
-                    # L'Image feature de datasets utilise le dict {"path": ..., "bytes": ...} pour charger l'image.
-                    "recto_image": {
-                        "path": recto_path_in_tar,
-                        "bytes": recto_image_bytes,
-                    },
-                    "verso_image": {
-                        "path": verso_path_in_tar,
-                        "bytes": verso_image_bytes,
-                    },
-                    "annotations": json.dumps(annotations_data),
-                }
-
-            except Exception as e:
-                # Gérer les erreurs de fichiers manquants ou de lecture
-                print(f"ERREUR (Exemple {_id}): {e}")
-                continue
-
-            _id += 1