Sıcaklık (temperature), bir büyük dil modelinin çıktısındaki rastgeleliği kontrol eden ayardır. Model her adımda bir sonraki token için olasılık dağılımı hesaplar: “Türkiye’nin başkenti” ifadesinden sonra “Ankara” yüzde 95, başka kelimeler küçük olasılıklar alır. Sıcaklık, bu dağılımın ne kadar “sivriltileceğini” belirler. Sıcaklık 0’a yaklaştıkça model neredeyse her zaman en olası tokeni seçer; yükseldikçe düşük olasılıklı tokenlere de şans tanır.
Benzetme: sıcaklık 0, hep aynı tarifle pişiren titiz bir aşçıdır — sonuç tutarlı ama tekdüze. Sıcaklık 1 ve üzeri, doğaçlama yapan bir aşçıdır — bazen sürpriz lezzetler, bazen tuhaf kombinasyonlar çıkar.
Pratikte nasıl kullanılır?
Doğru değer göreve bağlıdır. Kod üretimi, veri çıkarma, sınıflandırma gibi tek doğrulu işlerde düşük sıcaklık (0-0.3) tercih edilir: çıktı tekrarlanabilir ve güvenilir olur. Beyin fırtınası, hikâye yazımı, slogan üretimi gibi yaratıcı işlerde daha yüksek sıcaklık (0.7-1.0) çeşitlilik sağlar. Aşırı yüksek değerler ise metni tutarsızlığa ve saçmalamaya sürükleyebilir — bu, halüsinasyondan farklıdır; halüsinasyon düşük sıcaklıkta da oluşabilir, sıcaklık yalnızca seçimlerin ne kadar cesur olduğunu ayarlar. API kullananlar sıcaklığı prompt ile birlikte en sık kurcalanan iki ayardan biri olarak bilir; sohbet arayüzlerinde ise genellikle sabit, orta bir değer kullanılır.