Kendinden emin, akıcı ve yanlış

Yapay zekaya bir kitap önerisi soruyorsunuz; size yazarı, yayınevi ve yılıyla birlikte gayet inandırıcı bir kitap öneriyor. Tek sorun: öyle bir kitap yok. Ya da bir mahkeme kararı, bir akademik makale, bir istatistik istiyorsunuz — format kusursuz, üslup profesyonel, içerik uydurma.

Bu olguya halüsinasyon deniyor ve yapay zekayla ilgili en çok yanlış anlaşılan konulardan biri. Yaygın yorum şu: “Model bozuk, hata yapıyor, yakında düzeltirler.” Gerçek daha ilginç: halüsinasyon bir arıza değil, modeli bu kadar yetenekli yapan mekanizmanın doğal yan etkisidir. Bu yüzden tamamen yok edilemiyor — ama mekanizmayı anlayan biri, ondan büyük ölçüde korunabiliyor. Bu yazının derdi tam olarak bu.

Önce mekanizmayı hatırlayalım

Büyük dil modelleri nasıl çalışır yazısında anlattığım gibi, bir dil modeli her adımda tek bir soruya cevap verir: “Bu metnin en olası devamı ne?” Doğruluk diye ayrı bir kontrol katmanı yoktur; sadece olasılık vardır.

Bunun temelinde de yapay sinir ağının öğrenme biçimi yatar: genelleme. Model, eğitim verisini ezberlemez; verideki örüntüleri öğrenir ve bu örüntüleri hiç görmediği durumlara uygular. Bir çocuğun 100 köpek fotoğrafından “köpeklik” kavramını çıkarıp 101.‘yi tanıması gibi.

Genelleme, modelin süper gücüdür — hiç sorulmamış soruya cevap üretebilmesi bu sayededir. Ama aynı çocuğun ilk gördüğü kurda da “köpek!” demesi gibi, model de örüntüyü yanlış yere uygulayabilir. İşte halüsinasyon budur: gerçeğe değil, örüntüye sadık bir üretim.

“Olası görünen” ile “gerçek olan” ayrışınca

Somutlaştıralım. Modele az bilinen bir konuda kaynak sorduğunuzda ne olur?

Model, eğitim verisinde binlerce akademik atıf görmüştür. “Yazar soyadı, yıl, makale başlığı, dergi adı” örüntüsünü mükemmel öğrenmiştir. Sorduğunuz konu yeterince nadirse, verideki gerçek atıflar bu örüntüyü dolduracak kadar güçlü iz bırakmamıştır. Model yine de en olası devamı üretir: örüntüye birebir uyan, o alanda çalışması muhtemel bir isim, makul bir yıl, inandırıcı bir başlık. Parçaların her biri “olası”dır; bütünü gerçekte yoktur.

Can alıcı nokta şu: model bunu yazarken yalan söylemiyor — çünkü “doğruyu bilme ve saklama” diye bir iç durumu yok. Kendi ürettiği uydurma atıf ile eğitim verisinde bin kez gördüğü gerçek bilgi, mekanizma açısından aynı işlemin çıktısıdır. Üslup da aynı olur: aynı özgüven, aynı akıcılık. Cevabın iyi yazılmış olması, doğru olduğuna dair hiçbir kanıt değildir.

Aynı sebepten, modele bir cevabı “yeniden üret” dediğinizde bazen bambaşka bir bilgi gelir. Bu da kafa karıştırır: “Hangisi doğru?” İkisi de aynı mekanizmanın ürünü — iki ayrı zar atışı. Cevaplar arasında tutarsızlık görmek, aslında size verilmiş bedava bir uyarı işaretidir: o konuda modelin zemini kaygan demektir. Tutarlılık ise ne yazık ki tersini kanıtlamaz; model yaygın bir yanlışı da gayet istikrarlı tekrarlayabilir.

Bir etken daha var: modeller tipik olarak “bilmiyorum” demeye değil, cevap üretmeye eğitilmiştir. Eğitim verisinde sorular genellikle cevaplarla devam eder; “hiç bilmiyorum” ile biten metin azdır. Yani boşluk olduğunda susmak değil, doldurmak modelin öğrendiği örüntüdür. Yeni nesil modeller bu konuda belirgin şekilde iyileşti — emin olmadığını daha sık söylüyorlar — ama mekanizma değişmediği için sorun sıfırlanmadı.

Ne zaman güvenilir, ne zaman değil?

Halüsinasyon riski her yerde eşit değildir. Kabaca bir harita çizmek mümkün.

Risk düşük: Verdiğiniz metin üzerinde çalışma. Özetleme, yeniden yazma, çeviri, ton değiştirme, sizin verdiğiniz veriyi analiz etme. Burada model gerçeği “hatırlamak” zorunda değil; malzeme önünde duruyor. Ayrıca çok bilinen, eğitim verisinde bol ve tutarlı şekilde geçen genel bilgilerde de isabet yüksektir.

Risk orta: Genel kültür sınırlarını zorlayan konular, teknik ayrıntılar, “şu aracın şu ayarı nerede” tipi sorular. Çoğu doğru gelir; ara ara güncel olmayan ya da karıştırılmış bilgi sızar.

Bu orta bölgede küçük bir test işe yarar: cevabın içindeki en spesifik iddiayı alın ve “bunu bir meslektaşım söylese kaynağını sorar mıydım?” diye düşünün. Sorardıysanız, modele de sorun — daha doğrusu, bağımsız kaynaktan bakın.

Risk yüksek: Spesifik ve nadir gerçeklik iddiaları. Kaynak ve atıflar, kişiler hakkında ayrıntılar, kesin tarihler ve sayılar, hukuki/tıbbi spesifik bilgiler, güncel olaylar (modelin bilgisi belli bir tarihte donmuştur) ve linkler. Kural basit: bilgi ne kadar spesifik ve nadirse, “olası görünen ama yanlış” üretme ihtimali o kadar yüksektir.

Pratik korunma taktikleri

Mekanizmayı bilince korunma yöntemleri de kendiliğinden çıkıyor. Benim günlük kullandığım beş taktik:

1. Malzemeyi siz verin. Modelin hafızasından bilgi çekmesini istemek yerine, kaynağı prompt’a koyun: “Bu metne dayanarak cevapla”, “Sadece verdiğim veriyi kullan”. Model hatırlamak yerine dönüştürme yaptığında risk ciddi düşer. (Uzun sohbetlerde önemli bilgiyi ara sıra tekrar verin — bağlam penceresi dolunca eskiler kadraj dışı kalır.)

2. “Emin değilsen söyle” kapısını açın. “Bilmiyorsan bilmiyorum de, uydurma” talimatı kulağa naif geliyor ama işe yarıyor: “bilmiyorum” cevabının olasılığını yükseltiyor. Garanti değil, ama ölçülebilir bir iyileşme.

3. Kritik bilgiyi ayrı kanaldan doğrulayın. İsim, sayı, tarih, kaynak, alıntı — bir karara ya da yayına girecek her gerçeklik iddiası için refleks şu olmalı: bağımsız kaynaktan teyit. Modelin kendisine “emin misin?” diye sormak doğrulama değildir; çoğu zaman aynı özgüvenle onaylar, bazen de doğru cevabından vazgeçer.

4. Web erişimini bilinçli kullanın. Güncel ya da spesifik bilgi gerekiyorsa, arama yapabilen bir mod kullanın ve cevaptaki kaynaklara gerçekten tıklayın. Kaynak gösterilmesi de tek başına yeterli değil — modelin kaynağı yanlış özetlemesi mümkün.

5. Görevi doğru seçin. En sağlam korunma, modeli güçlü olduğu işlerde kullanmaktır: üretim, dönüştürme, taslak, fikir. “Gerçek deposu” olarak değil. Bu iş bölümünün tamamını ne yapabilir, ne yapamaz yazısında anlattım.

Doğru zihniyet: stajyerin imzası olmaz

Tüm bunları tek bir zihinsel modele bağlayayım: yapay zekaya çok iyi bir tahminci stajyer gibi davranın. Hızlı, üretken, çoğu zaman isabetli — ama işini kontrol etmeden imza atmayacağınız biri. Taslağı ona yaptırın, doğrulamayı kendinize saklayın.

Halüsinasyon, “yapay zeka güvenilmez, kullanma” sonucunu değil, “yapay zekayı ne için kullanacağını bil” sonucunu doğurur. Genelleme olmadan bu araçların hiçbiri var olamazdı; halüsinasyon, o gücün gölgesidir. Gölgenin nereye düştüğünü bilen, ışıktan gönül rahatlığıyla yararlanır.