Uydurma (halüsinasyon)
Diğer adlandırmalar: halüsinasyon , hallucination , halüsinasyon
Tanım
Uydurma, bir LLM’in bilmediği bir şeyi biliyormuş gibi üretmesidir. İngilizcesi hallucination. Üretim ortamında en yaygın risk.
Örnek:
“Türk Ticaret Kanunu m.487 fıkra 2’de…” — model böyle bir madde olduğunu iddia eder ama o madde yok. Forma uygun, içerik uyduruk.
Niye oluyor?
LLM’in mimarisi olasılık tabanlı. Model:
- “Bu cümlede sırada hangi kelime gelmeli?” sorusunu olasılık dağılımıyla cevaplar.
- En yüksek olasılık bilgi-doğrulu olmayabilir; sadece biçim-uyumlu.
- Spesifik veri eksikse model “uygun gözüken” bir şey üretir.
Bu hata değil, mimarinin yan etkisi. “Bilmiyorum” demek yerine en olası cümle üretmeye eğilimli.
Üç tip uydurma
- Bilgi uydurması — “Yargıtay 2018/123 kararında…” (yok)
- Atıf uydurması — “OpenAI 2023 raporunda…” (yok)
- Mantık uydurması — “A B’yi içerdiğine göre B C’dir” (geçerli görünür ama yanlış)
Üçü de ciddi ama ilk ikisi tespiti kolay (kaynak doğrulanır). Üçüncüsü daha sinsi.
Üretimde nasıl kontrol edilir?
Ilura’da üç katman:
- Sınır — sistem çağrımına yazılı: “Bilmiyorsan bilmiyorum de”. %30 azaltma.
- Notlara bakma — belge varken model belgeden alıntılar. %60 azaltma.
- Agent denetim — her karar audit log’a yazılır. Sonradan doğrulanabilir.
Sıfırlamaz, ama kabul edilebilir seviyeye getirir. Önemli kararlar her zaman insan kontrolünde.
Sektörel kritiklik
Uydurma her sektörde aynı düzeyde tehlikeli değil:
- Yaratıcı yazma — uydurma istenebilir (kurgu)
- Müşteri destek — orta tehlike (yanlış bilgi sıkıntı)
- Hukuk — yüksek (yanlış mevzuat)
- Sağlık — kritik (yanlış tıbbi bilgi)
Ilura’nın sektörel agent’larında (Naci hukuk, Lokman sağlık) uydurmaya karşı çift kat sınır var: sistem çağrımı + araçsal doğrulama + insan onayı.
Yaygın yanılgılar
“Daha büyük model uydurmaz.” — Az uydurur ama uydurmaz değildir. GPT-4o ve Claude Opus daha az uydurur, sıfır değil.
“Türkçe modeller daha çok uyduruyor.” — Eskiden doğruydu (eğitim verisi az). Yeni nesilde fark çok azaldı.
“RAG = uydurma sıfır.” — RAG azaltır, sıfırlamaz. Belge yoksa veya belge yanlışsa uydurma yine olabilir.