Gradyan inişi (gradient descent), bir yapay zeka modelinin parametrelerini adım adım iyileştiren optimizasyon algoritmasıdır. Kayıp fonksiyonu modelin hatasını tek bir sayıya indirger; geri yayılım her parametre için hatanın hangi yönde azalacağını (gradyanı) hesaplar; gradyan inişi de parametreleri o yönde küçük bir adım kaydırır. Bu döngü milyonlarca kez tekrarlanır ve hata giderek düşer.
Klasik benzetme: sisli bir dağda, harita olmadan vadiye inmeye çalışıyorsunuz. Göremiyorsunuz ama ayağınızın altındaki eğimi hissediyorsunuz; her adımda en dik iniş yönüne doğru yürüyorsunuz. Adım büyüklüğüne “öğrenme oranı” (learning rate) denir ve kritik bir ayardır: çok küçük adımlarla iniş yıllar sürer, çok büyük adımlarla vadiyi atlayıp karşı yamaca savrulursunuz. Pratikte tüm eğitim verisi yerine küçük rastgele gruplarla (mini-batch) çalışan “stokastik gradyan inişi” ve onun akıllı türevi Adam kullanılır.
Neden önemli?
Derin öğrenmedeki “öğrenme”nin kendisi budur: en küçük görüntü sınıflandırıcıdan en büyük dil modeline kadar neredeyse her modern model, gradyan inişinin bir çeşidiyle eğitilir. Milyarlarca parametreli bir uzayda deneme-yanılma imkânsızken, gradyan inişi her adımda matematiksel olarak garantili bir iyileşme yönü sunar — yapay zekanın pusulası odur.