Bir gecede olmadı

ChatGPT 2022’nin sonunda yayınlandığında çoğu insan için yapay zeka “birdenbire” ortaya çıktı. Oysa o sohbet penceresinin arkasındaki fikir — yapay sinir ağı — seksen yıla yakın bir geçmişe sahip. Üstelik bu geçmiş düz bir yükseliş değil: iki kez gözden düşen, “çıkmaz sokak” ilan edilen, sonra her seferinde geri dönen inatçı bir fikrin hikâyesi.

Bu hikâyeyi bilmek sadece kültür değil; bugünü anlamanın en kısa yolu. Çünkü her dönüm noktasında aynı soru dönüyor: bir makine, kurallarını tek tek yazmadan, örneklerden öğrenebilir mi?

1943-1958: Fikrin doğuşu ve perceptron

Başlangıç noktası genellikle 1943 kabul edilir: Warren McCulloch ve Walter Pitts, biyolojik nöronun basit bir matematiksel modelini önerdi — girdileri toplayan, eşiği aşarsa “ateşleyen” bir birim. Henüz öğrenme yoktu; ama “düşünce, basit birimlerin bağlantısından doğabilir” fikri masaya konmuştu.

Asıl vitrin anı 1958’de geldi. Psikolog Frank Rosenblatt, perceptron’u duyurdu: örneklere bakarak bağlantı ağırlıklarını kendi kendine ayarlayan, yani öğrenen ilk pratik sinir ağı modeli. Donanımı bile yapıldı; basit görüntüleri sınıflandırabiliyordu. Basın çılgına döndü — dönemin gazeteleri yakında yürüyen, konuşan, kendini kopyalayan makineler vaat etti. Tanıdık geldi mi? Abartı balonu, bu alanın ilk gününden beri var.

1969-1980’ler: İlk kış

Balonu 1969’da iki saygın isim patlattı. Marvin Minsky ve Seymour Papert, “Perceptrons” adlı kitaplarında tek katmanlı perceptron’un matematiksel sınırlarını kanıtladı: bu yapı, bazı çok basit problemleri bile (meşhur örnek: XOR, yani “ya biri ya öteki” ilişkisi) asla öğrenemiyordu. Çözüm ilkesel olarak biliniyordu — araya katmanlar eklemek — ama çok katmanlı ağları eğitecek pratik bir yöntem ortada yoktu.

Sonuç: fonlar kesildi, araştırmacılar alanı terk etti. Bu döneme “AI kışı” deniyor. Sinir ağları on yılı aşkın süre bilimin kenar mahallesinde yaşadı; fikri sıcak tutan bir avuç inatçı araştırmacı kaldı.

1986: Geri yayılım — kışı bitiren anahtar

Dönüş, 1986’da geldi. David Rumelhart, Geoffrey Hinton ve Ronald Williams’ın yayınladığı çalışma, geri yayılım (backpropagation) algoritmasını sinir ağı camiasına mal etti. (Fikrin matematiksel kökleri daha eskiye gider; bu yayın onu alanın standart aracı yaptı.)

Geri yayılımın çözdüğü problem şuydu: çok katmanlı bir ağ hata yaptığında, bu hatadan hangi katmandaki hangi ağırlık ne kadar sorumlu? Algoritma, hatayı çıkıştan girişe doğru katman katman geriye dağıtarak her ağırlığa “senin payın şu kadar, şu yöne düzel” der. Böylece Minsky ile Papert’in işaret ettiği duvar aşıldı: derin, çok katmanlı ağlar artık eğitilebilirdi.

Somut başarılar da geldi — Yann LeCun’un 1980’lerin sonundaki çalışmalarıyla sinir ağları ABD’de posta kodlarındaki el yazısı rakamları okumaya başladı. Ama 1990’larda ikinci, daha sessiz bir kış yaşandı: bilgisayarlar yavaş, veri kıt, rakip yöntemler pratikte daha başarılıydı. “Sinir ağı” kelimesi akademik makalelerde neredeyse itici hale geldi; Hinton ve çevresi, alanı 2000’lerde “derin öğrenme” adıyla yeniden markalayarak fikri sıcak tutmaya devam etti.

2012: ImageNet anı — her şeyin değiştiği yıl

Kırılma için üç şeyin aynı anda olgunlaşması gerekiyordu: algoritma (geri yayılım zaten vardı), veri ve hesaplama gücü.

Veri ayağını Fei-Fei Li’nin ekibi kurdu: milyonlarca etiketli fotoğraftan oluşan ImageNet veri seti ve ona bağlı yıllık görüntü tanıma yarışması. Hesaplama ayağını ise beklenmedik bir kahraman çözdü: oyun bilgisayarlarının grafik kartları (GPU’lar). Sinir ağı eğitimi, milyonlarca basit çarpma-toplamanın paralel yapılmasıdır — grafik kartlarının tam olarak iyi olduğu iş.

2012’de Geoffrey Hinton’ın iki öğrencisi, Alex Krizhevsky ve Ilya Sutskever ile birlikte, GPU’larla eğitilmiş derin bir ağı (“AlexNet”) ImageNet yarışmasına soktu. Sonuç, alan tarihinin en sarsıcı skor tablosuydu: hata oranında en yakın rakip yüzde 26 civarındayken AlexNet yüzde 16’ya indi. Bu tür yarışmalarda ilerleme yüzde birlik dilimlerle ölçülürken, 10 puanlık fark bir devrim ilanıydı.

O günden sonra derin öğrenme, makine öğrenmesinin kenar mahallesinden merkezine taşındı. Birkaç yıl içinde görüntü tanıma, ses tanıma, çeviri — hepsi derin ağlara geçti. 2016’da DeepMind’ın AlphaGo’su, Go şampiyonu Lee Sedol’u yenerek fikrin gücünü genel kamuoyuna da gösterdi.

2017: Transformer — dilin kilidini açan mimari

Sıradaki dönüm noktası 2017’de, Google araştırmacılarının “Attention Is All You Need” başlıklı makalesiyle geldi. Önerdikleri mimarinin adı transformer’dı.

Sadeleştirerek anlatayım: önceki dil modelleri metni kelime kelime, sırayla işliyordu — bu hem yavaştı hem de uzun metinlerde baş ile sonun bağlantısı kopuyordu. Transformer’ın “dikkat” (attention) mekanizması, metnin her parçasının diğer bütün parçalarla ilişkisini aynı anda tartmasına izin verdi. İki sonuç doğdu: uzun metinlerde bağlam çok daha iyi korundu ve eğitim devasa ölçüde paralelleştirilebildi. Yani daha büyük ağları, daha çok veriyle eğitmenin önü açıldı.

Bu mimari, büyük dil modellerinin temelini oluşturdu. 2018’den itibaren GPT ve BERT gibi modeller geldi; her nesilde parametre sayısı ve eğitim verisi katlandı ve modeller sadece “daha iyi” olmadı, niteliksel olarak yeni beceriler göstermeye başladı. 2022 Kasım’ında bu teknolojinin bir sohbet arayüzüne sarılmış hali — ChatGPT — yayınlandı ve seksen yıllık fikir, iki ayda yüz milyonlarca insanın gündelik aracı oldu. (Bu modellerin içeride nasıl çalıştığını ayrı bir yazıda anlattım.)

Bilim dünyası da hikâyeyi tescilledi: 2024 Nobel Fizik Ödülü, sinir ağlarının temellerine katkılarından ötürü John Hopfield ve Geoffrey Hinton’a verildi. İki kış atlatan fikir, Nobel kürsüsündeydi.

Bu tarihten bugüne kalan üç ders

Fikirler veriyi ve donanımı bekler. Geri yayılım 1986’da vardı; devrim 2012’de geldi. Aradaki 26 yıl, eksik olanın fikir değil, veri ve hesaplama gücü olduğunun kanıtı. Bugünkü patlama da yeni bir sihirden değil, eski bir fikrin nihayet doyabilmesinden ibaret.

Abartı da şüphe de hep aşırıya kaçtı. 1958’de “yakında bilinçli makineler” dendi — olmadı. 1969’da “çıkmaz sokak” dendi — o da olmadı. Bugün duyduğunuz en iddialı vaatleri de en toptancı ret cümlelerini de bu tarihsel perspektifle okuyun.

Mekanizma hiç değişmedi. Rosenblatt’ın perceptron’u da bugünün devasa modelleri de aynı ilkeyle çalışır: örneklere bak, hata yap, ağırlıkları ayarla, örüntüyü genelle. Aradaki fark ilke değil, ölçek. O ilkenin ne olduğunu merak ediyorsanız, başlangıç noktanız şu yazı: yapay sinir ağı nedir?