🧱 LLM Nedir: Token ve Tahmin Motoru

LLM Nedir: Token ve Tahmin Motoru: LLM, telefon klavyendeki sıradaki-kelime önerisinin gezegen ölçeğine büyümüş halidir — ve mekanizma kabaca değil, birebir örtüşür: klavyen "gen

LLM, telefon klavyendeki sıradaki-kelime önerisinin gezegen ölçeğine büyümüş halidir — ve mekanizma kabaca değil, birebir örtüşür: klavyen "genelde hangi kelime gelir"i SENİN yazım geçmişinden öğrendi; LLM "genelde hangi token gelir"i insanlığın devasa bir metin diliminden, küçük bir sıklık tablosu yerine milyarlarca ayarlanabilir ağırlıkla öğrendi. Üzerinde durulmaya değer soru şu: TEK becerisi "metnin sıradaki parçasını tahmin etmek" olan bir şey, nasıl oluyor da çalışan Playwright kodu ve yapılandırılmış bug raporları yazıyor? Çünkü yeterli ölçekte, kodun sıradaki token'ını İSABETLE tahmin etmek; sözdizimini, API'leri, kalıpları ve hatta iyi bir testin şeklini içselleştirmiş olmayı GEREKTİRİR — tahmin hedefi, yetkinliği zorla içeri sokar. Java karşılaştırması: LLM, kayıtlı cevapları arayan dev bir HashMap değildir — fit edilmiş bir fonksiyona daha yakındır: hiç görmediği değerleri interpolasyonla üreten bir regresyon gibi, model olası devamları ağırlıklardan HESAPLAR; eğitim verisinde hiç var olmamış metni hem parlak hem yanlış biçimde üretebilmesinin sebebi tam olarak budur. QA tarafındaki bedel: LLM'lerin test işindeki riskli ve faydalı her özelliği bu tek mekanizmadan akar — akıcı-ama-yanlış halüsinasyonlar, koşudan koşuya değişim, prompt hassasiyeti — bu yüzden token'ların bir olasılık dağılımından seçilişini KENDİ GÖZÜYLE izlemiş bir tester (aşağıdaki lab'da yapacaksın), AI hataları hakkında kulaktan dolma bilgiyle değil mekanizmayla akıl yürütür.

Token: Modelin Alfabesi

Model kelime veya harf okumaz — token okur: sıklığa göre seçilmiş kelime-altı parçalar. Yaygın bir kelime çoğunlukla tek token'dır; nadir bir kelime birkaç parçaya bölünür; noktalama ve boşluklar da sayılır. Bu bir tester için ansiklopedik bilgi değildir: token sayısı hem context limitinin hem API maliyetinin birimidir, ve modelin anlam-düzeyi görevlerde parlarken karakter-düzeyi görevlerde (harf saymak, string ters çevirmek) zorlanmasının sebebidir — tek tek karakterleri senin gördüğün gibi görmez.

Pratik: Cümleyi modelin gözünden token'lara böl

TODO satırını, cümlenin token bölünmüş haliyle değiştir. Parçaları | işaretiyle ayır.

Sıradaki-Token Tahmini: Numaranın Tamamı

Üretim bir kompozisyon eylemi değil, bir döngüdür: model bağlamı alır, sözlüğündeki her token için bir olasılık hesaplar, o dağılımdan bir token seçilir, seçim bağlamın sonuna eklenir ve döngü tekrarlar. Temperature, seçim adımının ayar düğmesidir: düşük temperature dağılımı sivriltir, en olası token neredeyse hep kazanır (öngörülebilir, tekrarlı); yüksek temperature dağılımı düzleştirir, olasılığı düşük token'lar gerçek şans kazanır (yaratıcı, daha riskli). Plan yok, taslak yok, ileriye bakıp düzeltme yok — koca bir test planı bu döngüden token token çıkar.

Adım Adım: Bir LLM Cümleyi Nasıl Üretir?

Metin token'lara bölünür

Girdi cümlesi kelime değil, token denen alt parçalara ayrılır — "otomasyon" tek token olabilir, nadir bir kelime 3 parçaya bölünebilir.

Model olasılık dağılımı üretir

Model, sözlüğündeki BİNLERCE token için "sıradaki bu olabilir" olasılığı hesaplar — tek bir cevap değil, koca bir dağılım.

Dağılımdan bir token seçilir

Temperature düşükse neredeyse hep en olası token seçilir; yüksekse düşük olasılıklı token'ların da şansı artar — aynı prompt'un iki koşuda farklı çıkmasının sebebi tam olarak budur.