Küçük dil modeli (Small Language Model, SLM), büyük dil modellerine kıyasla çok daha az parametreye sahip — genellikle birkaç yüz milyon ile birkaç milyar arasında — ama yine de aynı temel Transformer mimarisiyle çalışan dil modelleridir. Net bir eşik yoktur; sınıflandırma göreceli ve zamana göre kayar — bugünün “küçük” modeli birkaç yıl önceki “büyük” modelle boyca yarışabilir.
Benzetme: büyük dil modeli her konuda derinlemesine bilgi taşıyan bir ansiklopedi seti gibiyken, küçük dil modeli tek bir konuya odaklanmış bir cep kılavuzu gibidir — daha az yer kaplar, daha hızlı açılır, hedeflediği konuda şaşırtıcı derecede yeterlidir ama genel kültürde ansiklopedi kadar geniş değildir.
Neden önemli?
SLM’ler daha az bellek ve hesaplama gerektirdiği için nicemleme ile birleştiğinde bir telefonda veya dizüstü bilgisayarda dahi çalışabilir — bulut API’sine bağımlılığı ve gecikmeyi ortadan kaldırır. Genellikle bir büyük modelden “öğrenerek” (bkz. damıtma) ya da fine-tuning ve LoRA ile dar bir göreve özelleştirilerek eğitilirler; genel sohbette büyük modelin gerisinde kalsalar da hedeflenen dar görevde (örneğin müşteri destek sınıflandırması) benzer doğruluğa çok daha düşük maliyetle ulaşabilirler. Bu yüzden şirketler artık her işi tek bir dev modele değil, göreve göre seçilmiş küçük modellere yönlendiren mimariler kuruyor. Küçük Dil Modelleri (SLM) yazısı bu eğilimi ayrıntılı ele alıyor.