Transformer'ın eğitimi ve çıkarımı

# Eğitimde "öğretmen zorlaması" (teacher forcing) kullanılır: decoder'a HER ZAMAN
# GERÇEK (doğru) önceki token'lar verilir -- kendi (belki yanlış) tahminleri DEĞİL.
model = MiniDecoder(V, D, PENCERE)
optimize_edici = torch.optim.Adam(model.parameters(), lr=0.01)
kayip_gecmisi = []

for adim in range(400):
    baslangic = torch.randint(0, len(ids) - PENCERE - 1, (8,))
    girdi = torch.stack([ids[b:b + PENCERE] for b in baslangic])       # GERÇEK önceki token'lar
    hedef = torch.stack([ids[b + 1:b + PENCERE + 1] for b in baslangic])  # bir sonraki GERÇEK token
    logits = model(girdi)
    kayip = F.cross_entropy(logits.reshape(-1, V), hedef.reshape(-1))
    optimize_edici.zero_grad()
    kayip.backward()
    optimize_edici.step()
    kayip_gecmisi.append(kayip.item())
    if adim % 100 == 0:
        print(f"adım {adim:<5} kayıp={kayip.item():.4f}")
print(f"adım {399:<5} kayıp={kayip_gecmisi[-1]:.6f}")
print("\nModel, 'ABCABCABC...' örüntüsünü GERÇEK (doğru) bağlamla eğitildi -- kayıp neredeyse sıfıra indi.")

# Eğitimde bir BÜYÜK avantaj var: 11. dersteki nedensel maske sayesinde, PENCERE'deki
# TÜM 8 pozisyonun kaybı TEK bir matris işleminde (paralel) hesaplanır. Çıkarımda
# (inference) İSE, her yeni token'ı üretmek için TÜM geçmişi yeniden BEKLEMEK gerekir --
# 8. dersteki "sıralı hesaplamanın maliyeti" konusunun AYNISI, şimdi ÜRETİM aşamasında.
def egitim_ileri_gecisi_sure(tekrar=200):
    girdi = torch.stack([ids[b:b + PENCERE] for b in torch.randint(0, len(ids) - PENCERE - 1, (8,))])
    with torch.no_grad():
        baslangic = time.perf_counter()
        for _ in range(tekrar):
            model(girdi)  # TEK çağrı, 8 pozisyonun HEPSİNİ birden işler
        return (time.perf_counter() - baslangic) / tekrar

def cikarim_uretim_sure(uzunluk=8, tekrar=200):
    with torch.no_grad():
        baslangic = time.perf_counter()
        for _ in range(tekrar):
            uretilen = [stoi["A"]]
            for _ in range(uzunluk):
                pencere_ids = torch.tensor(uretilen[-PENCERE:]).unsqueeze(0)
                model(pencere_ids)  # HER token için AYRI bir çağrı
                uretilen.append(0)
        return (time.perf_counter() - baslangic) / tekrar

egitim_suresi = egitim_ileri_gecisi_sure()
cikarim_suresi = cikarim_uretim_sure()
print(f"\n8 pozisyonluk bir pencereyi EĞİTİMDE işlemek (TEK paralel çağrı): {egitim_suresi*1000:.3f} ms")
print(f"8 token'lık bir diziyi ÇIKARIMDA üretmek (8 AYRI sıralı çağrı):  {cikarim_suresi*1000:.3f} ms")
print(f"Çıkarım, eğitimin {cikarim_suresi/egitim_suresi:.1f} katı yavaş -- AYNI iş, ama SIRALI yapılmak zorunda.")

# Şimdi gerçek çıkarımı (autoregressive generation) çalıştıralım: model, KENDİ
# ürettiği token'ları bir sonraki adımın GİRDİSİ olarak kullanır.
model.eval()
uretilen = [stoi["A"]]
with torch.no_grad():
    for _ in range(20):
        pencere_ids = torch.tensor(uretilen[-PENCERE:]).unsqueeze(0)
        logits = model(pencere_ids)
        sonraki = logits[0, -1].argmax().item()
        uretilen.append(sonraki)
uretilen_metin = "".join(VOCAB[i] for i in uretilen)
print(f"\n'A' tohumundan başlayarak, model KENDİ tahminleriyle 20 token üretti:")
print(f"  {uretilen_metin}")
print("Model, ÖĞRETMEN ZORLAMASI olmadan, SADECE kendi çıktısını kullanarak örüntüyü DOĞRU sürdürdü.")

# Eğitim ve çıkarım arasındaki GİZLİ bir uyumsuzluk: eğitimde model HİÇBİR ZAMAN
# kendi HATALI bir tahminini görmedi (her zaman GERÇEK bağlamla beslendi). Çıkarımda
# ise erken bir HATA, TÜM sonraki bağlamı BOZABİLİR. Buna "maruz kalma önyargısı"
# (exposure bias) denir. Elle bir hata enjekte edip test edelim:
uretilen_bozuk = [stoi["A"], stoi["B"], stoi["C"], stoi["A"]]
uretilen_bozuk.append(stoi["A"])  # YANLIŞ token -- doğrusu 'B' olmalıydı
with torch.no_grad():
    for _ in range(10):
        pencere_ids = torch.tensor(uretilen_bozuk[-PENCERE:]).unsqueeze(0)
        logits = model(pencere_ids)
        sonraki = logits[0, -1].argmax().item()
        uretilen_bozuk.append(sonraki)
bozuk_metin = "".join(VOCAB[i] for i in uretilen_bozuk)
print(f"\nElle bozulan dizi (5. karakter YANLIŞ 'A' yapıldı): {bozuk_metin}")
print("Bu ÖZEL örnekte model HIZLA toparlandı -- çünkü 'ABC' örüntüsü SON İKİ karaktere bakarak")
print("HER YERDEN yeniden başlatılabilir (aşırı REDUNDANT/öngörülebilir bir dil). GERÇEK doğal dilde")
print("bağlam çok daha AZ öngörülebilir olduğu için, erken bir hata GENELDE daha KALICI bozulmaya yol açar --")
print("bu yüzden 'maruz kalma önyargısı' büyük dil modellerinde CİDDİ bir araştırma konusudur.")