Yapay Zekâ Neden Uydurur? Büyük Dil Modellerinde Halüsinasyonun Bilimi

ChatGPT, Gemini veya Claude gibi bir yapay zekâ sohbet aracına soru sorduğunuzda bazen kendinden son derece emin, akıcı ama tamamen yanlış bir cevap alırsınız: var olmayan bir kitap, hiç yazılmamış bir makale ya da uydurulmuş bir tarih. Bilim insanları bu duruma halüsinasyon diyor. Peki ama milyarlarca parametreye sahip bu sistemler neden "bilmiyorum" demek yerine uyduruyor? Cevap, bu modellerin nasıl çalıştığında saklı.

1. Büyük Dil Modeli Aslında Ne Yapıyor?

Büyük dil modelleri (İngilizce kısaltmasıyla LLM), temelde çok güçlü birer "sonraki kelime tahmin makinesi"dir. Metni önce token adı verilen küçük parçalara (kelime ya da kelime parçası) bölerler. Ardından şu soruyu tekrar tekrar sorarlar:

"Buraya kadar yazılanlara bakılırsa, en olası sonraki parça hangisi?"

Bu tahmini yapabilmek için 2017'de Google araştırmacılarının yayımladığı "Attention Is All You Need" makalesiyle tanıtılan Transformer mimarisini kullanırlar. Bu mimarinin kalbindeki dikkat (attention) mekanizması, cümledeki her kelimenin diğer kelimelerle ne kadar ilişkili olduğunu hesaplar. Örneğin "Kedi süt içti çünkü o açtı" cümlesinde "o" kelimesinin "kedi"ye işaret ettiğini bu sayede anlar.

2. Model Nasıl Öğreniyor?

• Ön eğitim: Model, internetten derlenen trilyonlarca kelimelik metin üzerinde boşluk doldurur gibi sonraki kelimeyi tahmin etmeye çalışır. Her yanlış tahminde iç ayarlarını (parametrelerini) biraz düzeltir. Böylece dilbilgisini, kalıpları ve pek çok bilgiyi istatistiksel olarak öğrenir.
• Hizalama (ince ayar): Daha sonra insanların verdiği geri bildirimlerle (RLHF) daha yardımsever, kibar ve güvenli cevaplar vermesi öğretilir.

Buradaki kritik nokta şu: Model bilgileri bir ansiklopedi gibi tek tek kaydetmez; kelimeler arasındaki olasılık ilişkilerini öğrenir. Yani bir "gerçeklik veritabanı" değil, bir "olasılık hesaplayıcısı"dır.

3. Halüsinasyon Neden Ortaya Çıkıyor?

a) Doğru gibi görünen ile doğru olan aynı şey değil. Model, eğitim verisinde az geçen bir konuyla (örneğin az bilinen bir kişinin doğum tarihi) karşılaştığında elinde güçlü bir bilgi yoktur. Ama sistemin görevi bir sonraki kelimeyi üretmektir; bu yüzden dilbilgisi açısından kusursuz, mantıklı duran bir cevap üretir. Model bilmediğini çoğu zaman "bilmez".

b) Sınav sistemi tahmin etmeyi ödüllendiriyor. OpenAI araştırmacılarının 2025'te yayımladığı "Why Language Models Hallucinate" (Dil Modelleri Neden Halüsinasyon Görür) çalışması önemli bir noktaya dikkat çekiyor: Yapay zekâları değerlendiren testlerin çoğu, tıpkı yanlış cevabın puan götürmediği çoktan seçmeli bir sınav gibi, "bilmiyorum" cevabına sıfır puan veriyor. Bu durumda en "akıllıca" strateji her zaman tahmin etmek oluyor. Araştırmacılara göre modeller, kısmen bu yüzden belirsiz olduklarında bile kendinden emin cevaplar vermeye yöneliyor.

c) Aynı soruya farklı uydurmalar. Oxford Üniversitesi'nden bir ekibin 2024'te Nature dergisinde yayımladığı çalışma, halüsinasyonları yakalamak için akıllıca bir yöntem önerdi: anlamsal entropi. Fikir basit: Modele aynı soruyu birkaç kez sorun. Model konuyu gerçekten biliyorsa cevaplar farklı kelimelerle de olsa aynı anlamı taşır. Bilmiyorsa her seferinde anlamca farklı şeyler uydurur. Cevapların anlamları birbirinden ne kadar dağınıksa, uydurma (bilimsel adıyla konfabulasyon) olasılığı o kadar yüksektir.

4. Bilim İnsanları Bu Sorunu Nasıl Azaltmaya Çalışıyor?

• Kaynağa dayandırma (RAG): Model cevap vermeden önce güvenilir belgelerden ilgili bilgiyi bulur ve cevabını bu kaynaklara dayandırır. Böylece yalnızca "hafızasına" güvenmez.
• Adım adım akıl yürütme: Yeni nesil modeller cevabı tek hamlede vermek yerine önce problemi adımlara bölüp "düşünür". Bu, özellikle matematik ve mantık sorularında hataları azaltır.
• "Bilmiyorum" demeyi ödüllendirmek: Değerlendirme yöntemlerinin, emin olunmadığında dürüstçe çekimser kalan modelleri cezalandırmayacak şekilde değiştirilmesi öneriliyor.

Yine de çoğu araştırmacı, halüsinasyonun olasılığa dayalı bu sistemlerin doğasında olduğunu ve tamamen sıfırlanmasının çok zor olduğunu kabul ediyor.

5. Öğrenciler İçin: Yapay Zekâyı Bilinçli Kullanmanın 5 Kuralı

1. Doğrula: Özellikle tarih, isim, sayı ve alıntıları güvenilir bir kaynaktan mutlaka kontrol edin.
2. Kaynak iste ve kontrol et: Yapay zekânın verdiği kaynakların gerçekten var olup olmadığına bakın; uydurma kaynak en yaygın halüsinasyon türlerindendir.
3. Aynı soruyu farklı biçimde sor: Cevaplar tutarsızsa dikkatli olun (anlamsal entropi fikrini siz de uygulayabilirsiniz!).
4. Akıcılığa aldanma: Kendinden emin ve düzgün bir dil, doğruluğun kanıtı değildir.
5. Düşünmeyi devretme: Yapay zekâyı bir yardımcı olarak kullanın; son kararı ve sorumluluğu siz verin.

Sonuç

Yapay zekâ "yalan söylemez"; çünkü yalan söylemek için doğruyu bilmek ve kasıtlı olarak gizlemek gerekir. Büyük dil modelleri yalnızca en olası görünen kelimeleri art arda dizer. Çoğu zaman bu olasılıklar gerçekle örtüşür; bazen ise örtüşmez. Bu farkı anlamak, yapay zekâ çağında en önemli dijital okuryazarlık becerilerinden biridir.

Kaynaklar

• Vaswani, A. ve ark. (2017). Attention Is All You Need. NeurIPS. arxiv.org/abs/1706.03762
• Farquhar, S., Kossen, J., Kuhn, L. ve Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630, 625–630.
• Kalai, A. T., Nachum, O., Vempala, S. S. ve Zhang, E. (2025). Why Language Models Hallucinate. OpenAI. arxiv.org/abs/2509.04664