মডেল Carte de Modèle : Lamina-basic

Lamina-basic

Bienvenue sur la page de Lamina-basic ! ✨ Ce modèle est un projet expérimental et éducatif créé dans le but d'apprendre les fondamentaux de la création et de l'entraînement d'un modèle de langage (LLM) en partant de zéro.

Il a été conçu, entraîné et publié par Clemylia.


<hr>

## 📝 Description du Modèle

Lamina-basic est un petit modèle de langage de type GPT-2, avec une architecture simple de 3 millions de paramètres. Son unique but est d'être la base de fondation du modèle de language Lamina.

  • 🤖 Type de modèle : Modèle de langage causal (Causal Language Model)
  • 🌐 Langue : Français
  • 📚 Données d'entraînement : Un dataset personnalisé contenant des règles de grammaire de base et quelques paragraphes de connaissances générales (biologie des insectes, faits de base).
  • 💻 Entraînement : Entraîné depuis zéro ("from scratch") sur Google Colab.

<hr>

## 🚀 Comment l'utiliser

Pour tester Lamina-basic, vous pouvez utiliser le pipeline de la bibliothèque transformers.

# 1. Installez les bibliothèques nécessaires
!pip install transformers torch

from transformers import AutoTokenizer, pipeline

# 2. Définissez le nom du modèle sur le Hub
repo_id = "NaaClem/Lamina-basic"

# 3. Créez le pipeline de génération de texte
generator = pipeline('text-generation', model=repo_id, tokenizer=repo_id)

# 4. Donnez un début de phrase au modèle
prompt = "La biologie des insectes est"

# 5. Générez la suite !
result = generator(
    prompt,
    max_new_tokens=30, # Génère au maximum 30 nouveaux mots
    truncation=True
)

print(result[0]['generated_text'])

<hr>

### ✅ Usages Prévus

  • Démonstration Pédagogique : Montrer le résultat d'un cycle complet de création d'un LLM.
  • Apprentissage : Servir de base pour comprendre comment fonctionnent les modèles de langage.
  • Expérimentation : Être un point de départ pour une V2 avec plus de données et une plus grande architecture.

<hr>

## Un mot de la créatrice

"Lamina-basic est mon premier pas dans la création d'IA de A à Z. Ce projet représente une aventure d'apprentissage incroyable, des premières lignes de code à la résolution de bugs complexes. Même s'il est simple, j'espère qu'il pourra inspirer d'autres personnes à se lancer et à construire leurs propres modèles."

— Clemylia


Créé avec passion par Clemylia. ❤️ Lamina-basic peut être considérée comme un Ultra-SLM ou un SLM casual.

Downloads last month
70
Safetensors
Model size
3.8M params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for NaA-IA/Lamina-basic

Finetunes
3 models

Spaces using NaA-IA/Lamina-basic 2

Collection including NaA-IA/Lamina-basic