Yapay Zeka Dil Modelleri Neden Halüsinasyon Görür: Yanlış Cevapların Ardındaki Araştırma

Yapay zeka halüsinasyonu, bir dil modeli tarafından üretilen; akıcı ve kendinden emin görünen ama gerçeklere aykırı olan bir ifadedir — uydurma bir alıntı, yanlış bir tarih, var olmayan bir kişi gibi. Eylül 2025'te yayımlanan bir araştırma makalesinde OpenAI araştırmacıları halüsinasyonları bu şekilde tanımlıyor ve mevcut eğitim ile değerlendirme yöntemleriyle bu sorunun tamamen çözülemeyeceğini belirtiyor.

Eğitim süreci hataları nasıl yaratıyor

arXiv'de yayımlanan OpenAI makalesine göre, açıklamanın bir kısmı modellerin ön eğitiminin (pretraining) nasıl yapıldığında yatıyor. Ön eğitim sırasında bir model, hangi ifadelerin doğru veya yanlış olduğunu belirten etiketler olmadan, sadece akıcı metinlerden öğrenir. Model, gerçekleri doğrulamayı değil, olası bir sonraki kelimeyi tahmin etmeyi ödüllendiren istatistiksel bir hedefle (çapraz entropi kaybı - cross-entropy loss) eğitilir.

Araştırmacılar, bunun kendi içinde hiçbir hata içermeyen veriler üzerinde bile hatalar ürettiğini gösteriyor. Eğitim verisinde sadece bir kez geçen gerçekler için — araştırmacılar bir kişinin doğum günü örneğini veriyor — makalenin analizi, bu gerçekler üzerindeki halüsinasyon oranının, eğitim setindeki bu türden "tekil" (singleton) gerçeklerin payı kadar en az yüksek olması gerektiğini buluyor. Başka bir deyişle, bir gerçek sadece bir kez bahsedilmişse, model matematiksel olarak onu yanlış almaya meyillidir. Makale, hesaplama gücü sınırsız modeller için bile bazı hataların kaçınılmaz olduğunu belirtiyor, çünkü bazı görevler makalenin tanımıyla hesaplama açısından çözümü zor (computationally intractable) görevlerdir.

Puanlama sistemleri tahmin yürütmeyi neden ödüllendiriyor

Makalenin ikinci argümanı, modellerin ön eğitim sonrasında nasıl değerlendirildiğiyle ilgili. Makale, bir dil modelini çoktan seçmeli bir sınavla karşı karşıya olan bir öğrenciye benzetiyor: boş bırakılan bir cevap sıfır puan alır, dolayısıyla her yanlış cevabın soruyu cevapsız bırakmakla aynı bedeli ödediği durumlarda tahmin yürütmek istatistiksel olarak her zaman daha iyi bir stratejidir. OpenAI'nin araştırmacıları GPQA, MMLU-Pro ve SWE-bench dahil yaygın olarak kullanılan on yapay zeka referans testini (benchmark) inceledi ve bunlardan dokuzunun, "bilmiyorum" gibi bir cevaba yanlış cevapla aynı puanı yani sıfır puan veren ikili (binary) puanlama kullandığını buldu.

Makale, bu puanlama örüntüsünün modelleri belirsizliği kabul etmek yerine tahmin yürütmeye devam etmeye ittiğini çünkü kendinden emin tahmin yürütmenin ortalamada dürüst temkinlilikten daha iyi puan aldığını savunuyor. Makaleyi haberleştiren TechCrunch, bunu şans eseri doğru tahminleri gerçekten iyi temellendirilmiş cevaplarla aynı şekilde ödüllendirerek yanlış teşvikler yaratan değerlendirmeler olarak tanımladı.

Akıl yürütme modelleri daha az değil, daha çok halüsinasyon gördü

Bu eğilim eski modellerle sınırlı değil. OpenAI'nin Nisan 2025'te yayınladığı ve TechCrunch tarafından haberleştirilen o3 ve o4-mini akıl yürütme modellerine ait kendi sistem kartı, şirketin kişilerle ilgili gerçek soruları test eden dahili PersonQA referans testinde, daha yeni akıl yürütme sistemleriyle halüsinasyon oranlarının yükseldiğini buldu.

OpenAI, akıl yürütme modelleri büyüdükçe halüsinasyonların neden arttığını anlamak için daha fazla araştırmaya ihtiyaç olduğunu söyledi ve bu modellerin genel olarak daha fazla iddiada bulunduğunu, bunun da hem daha fazla doğru hem de daha fazla yanlış ifade üretmesine yol açtığını belirtti. TechCrunch'ın alıntıladığı yapay zeka araştırma grubu Transluce'ten araştırmacı Neil Chowdhury bir hipotez öne sürdü: o-serisi akıl yürütme modellerini eğitmek için kullanılan takviyeli öğrenme (reinforcement learning) türü, standart eğitim tekniklerinin normalde hafiflettiği sorunları büyütebilir.

OpenAI çözüm olarak ne öneriyor

Eylül 2025 tarihli makale, ayrı halüsinasyon testleri eklemek yerine referans testlerinin nasıl puanlandığının değiştirilmesini öneriyor. Önerilen çözüm, puanlama talimatlarına açık güven eşikleri inşa etmek — örneğin, bir modele bir soruyu sadece %75'ten fazla güvenliyse cevaplamasını söylemek ve hataların, cevapsız bırakmaktan daha fazla puana mal olmasını sağlamak. Teorik olarak bu, bir model emin olmadığında, mevcut puanlama sistemlerinde olduğu gibi daha kötü bir seçenek değil, matematiksel olarak daha iyi bir seçenek olmasını sağlar.

Makale, bu yaklaşımın halüsinasyonları ortadan kaldırmak değil azaltacağını açıkça belirtiyor. Bazı hatalar istatistiksel olarak nadir gerçeklerden veya araştırmacıların hesaplama açısından çözümü zor olarak tanımladığı görevlerden kaynaklandığından, yazarlar mevcut yöntemlerle sıfır halüsinasyonlu bir dil modelinin elde edilemeyeceği sonucuna ulaşıyor.