Bağlam penceresi, token ve maliyet

# Bir sohbet UZADIKÇA, her mesajın GERÇEK token sayısını hesaplayalım.
KONUSMA = [
    ("system", "Sen yardımcı bir müşteri hizmetleri asistanısın."),
    ("user", "Merhaba, siparişim nerede?"),
    ("assistant", "Merhaba! Sipariş numaranızı paylaşabilir misiniz?"),
    ("user", "12345"),
    ("assistant", "Teşekkürler, hemen kontrol ediyorum."),
    ("user", "Ne kadar sürer?"),
    ("assistant", "Birkaç dakika içinde size bilgi vereceğim."),
    ("user", "Tamam, bekliyorum."),
    ("assistant", "Siparişiniz kargoya verildi, yarın elinizde olur."),
    ("user", "Harika, teşekkürler!"),
]

token_sayilari = [mesaj_token_sayisi(mesaj) for _, mesaj in KONUSMA]
print(f"{'Rol':<12} {'Token':<8} Mesaj")
for (rol, mesaj), t in zip(KONUSMA, token_sayilari):
    print(f"{rol:<12} {t:<8} {mesaj}")
print(f"\nToplam (10 mesaj): {sum(token_sayilari)} token.")

# Gerçek modellerin bir "bağlam penceresi" (context window) SINIRI var -- ötesi
# HATIRLANMAZ. Öğretici amaçlı KÜÇÜK bir pencere (100 token) ile simüle edelim:
# sistem mesajı SABİT kalır, en ESKİ user/assistant mesajları pencere DOLUNCA düşer.
PENCERE_LIMITI = 100

def pencereyi_guncelle(pencere, yeni_indeks, token_sayilari, konusma):
    pencere.append(yeni_indeks)
    while sum(token_sayilari[i] for i in pencere) > PENCERE_LIMITI:
        # SİSTEM mesajı hariç, en ESKİ mesajı düşür.
        dusecek = next(i for i in pencere if konusma[i][0] != "system")
        pencere.remove(dusecek)
    return pencere

pencere = [0]  # sistem mesajı en baştan pencerede
print(f"\nBağlam penceresi limiti: {PENCERE_LIMITI} token (öğretici amaçlı küçük tutuldu)\n")
for i in range(1, len(KONUSMA)):
    pencere = pencereyi_guncelle(pencere, i, token_sayilari, KONUSMA)
    pencere_toplami = sum(token_sayilari[j] for j in pencere)
    pencerede_olanlar = [KONUSMA[j][0] for j in sorted(pencere)]
    print(f"Mesaj {i} eklendi -- pencerede {len(pencere)} mesaj, {pencere_toplami} token: {pencerede_olanlar}")

dusenler = [i for i in range(len(KONUSMA)) if i not in pencere]
print(f"\nPencereden TAMAMEN düşen mesajlar (indeks): {dusenler}")
print("Sistem mesajı HİÇBİR ZAMAN düşmedi -- ama en eski user/assistant mesajları, pencere")
print("dolunca SESSİZCE unutuluyor. Model, konuşmanın BAŞINDA ne konuşulduğunu ARTIK 'hatırlamıyor'.")

# GERÇEK bir sohbet API'sinde, HER yeni mesaj için TÜM önceki geçmiş TEKRAR gönderilir
# (girdi olarak) -- bu yüzden toplam maliyet, mesaj sayısıyla DOĞRUSAL değil, YAKLAŞIK
# KARESEL büyür. Fiyat: Claude Sonnet 5, Eylül 2026 itibarıyla, 1M girdi token'ı için $2
# (kaynak: finout.io, Eylül 2026 fiyatlandırma özeti).
GIRDI_FIYATI_1M = 2.0  # $ / 1.000.000 girdi token'ı (Sonnet 5, Eylül 2026)

kumulatif_girdi_token = 0
toplam_maliyet_dolar = 0.0
print(f"\n{'API çağrısı':<14} {'Bu çağrının girdisi (token)':<30} {'Kümülatif maliyet ($)':<22}")
for i in range(1, len(KONUSMA)):
    if KONUSMA[i][0] != "assistant":
        continue
    # Bu assistant cevabını ÜRETMEK için, i'ye kadar olan TÜM mesajlar girdi olarak gönderilir.
    bu_cagri_girdisi = sum(token_sayilari[:i])
    kumulatif_girdi_token += bu_cagri_girdisi
    maliyet = kumulatif_girdi_token / 1_000_000 * GIRDI_FIYATI_1M
    print(f"{i:<14} {bu_cagri_girdisi:<30} {maliyet:<22.6f}")

print(f"\n5 asistan cevabı için TOPLAM kümülatif girdi maliyeti: ${maliyet:.6f}")
print("Bu sohbet KISA olduğu için mutlak rakam küçük -- ama örüntüye dikkat: her yeni tur,")
print("TÜM geçmişi YENİDEN gönderir. 100 turluk bir sohbette bu, mesaj başına maliyetin")
print("DOĞRUSAL değil, YAKLAŞIK KARESEL büyümesi demektir.")