TCOB - Turkish Cumle Ogeleri Benchmark

Turkce cumle ogelerini tanima konusunda buyuk dil modellerini (LLM) degerlendirmek icin olusturulmus bir benchmark veri setidir.

Kullanılan veri seti: AhmetEren0/Trcumleninogeleri

Benchmark Hakkinda

TCOB, 80 Turkce cumle uzerinden 8 farkli dilbilgisi ogesini sorgulayarak toplam 640 soru icermektedir. Her cumle icin asagidaki ogeler sorulmaktadir:

Oge	Aciklama
Yuklem	Cumledeki eylem veya olusu bildirir
Ozne	Eylemi yapan veya durumu yasayan varliktir
Gizli Ozne	Cumlede acikca belirtilmeyen ancak yüklemden anlasilabilen oznedir
Belirtili Nesne	Eylemin dogrudan etkiledigi, belirli bir nesneyi ifade eder (-i hali)
Belirtisiz Nesne	Eylemin etkiledigi belirsiz nesneyi ifade eder
Dolayli Tumlec	Eylemin yoneldigi yeri veya varligi belirtir (-e, -de, -den halleri)
Zarf Tumleci	Eylemin nasil, ne zaman, nerede gerceklestigini bildirir
Edat Tumleci	Edatlarla (icin, gibi, ile, kadar vb.) kurulan tumlectir

Veri Formati

Benchmark (benchmark.jsonl)

{
  "id": "ex_00000__Ozne",
  "sentence": "Sayisiz kitabin bulundugu bu kutuphaneyi gecen yuzyilin baslarinda Avrupali bilim adamlari ziyaret etmisler.",
  "question": "Bu cumlenin oznesi nedir?",
  "gold": "Avrupali bilim adamlari"
}

Tahminler (predictions_*.jsonl)

{
  "id": "ex_00000__Ozne",
  "prediction": "Avrupali bilim adamlari"
}

Degerlendirme Metrigi

• Exact Match (EM): Tahmin, gold cevapla (normalizasyon sonrasi) birebir eslesiyor mu?
• Mean: Tum 640 soru uzerinden hesaplanan genel exact match yuzdesi

Normalizasyon adimlari:

• Kucuk harfe cevirme
• Fazla bosluklari temizleme
• Bas/son noktalama isaretlerini kaldirma

Desteklenen Saglayicilar

Benchmark, asagidaki API saglayicilari ile calistirilabilir:

• Google Gemini (gemini-2.5-pro, gemini-2.5-flash-lite, vb.)
• OpenAI (gpt-5.2, gpt-4.1, vb.)
• Anthropic (claude-opus-4.6, claude-sonnet-4.6, vb.)
• OpenRouter (cesitli modeller)
• HuggingFace (yerel calistirma - Qwen3, Gemma3, Llama, vb.)
• Ollama (yerel modeller)

Onemli Bulgular

• Yuklem tespiti en kolay oge olup cogu model %70+ basari gostermektedir
• Gizli Ozne tespitinde buyuk modeller (Gemini-2.5pro: %97.5) cok basarili iken kucuk modeller zorlanmaktadir
• Belirtisiz Nesne ve Dolayli Tumlec tespiti modeller arasinda en buyuk farklilik gosteren ogelerdir
• Yerel kucuk modeller (8B-12B) API tabanli buyuk modellere kiyasla belirgin sekilde dusuk performans sergilemektedir

Lisans

Bu benchmark arastirma amaciyla olusturulmustur.