Bağlam penceresi, token ve maliyet

# Bir sohbet uzadıkça, her mesajın gerçek token sayısını hesaplayalım.
KONUSMA = [
    ("system", "Sen yardımcı bir müşteri hizmetleri asistanısın."),
    ("user", "Merhaba, siparişim nerede?"),
    ("assistant", "Merhaba! Sipariş numaranızı paylaşabilir misiniz?"),
    ("user", "12345"),
    ("assistant", "Teşekkürler, hemen kontrol ediyorum."),
    ("user", "Ne kadar sürer?"),
    ("assistant", "Birkaç dakika içinde size bilgi vereceğim."),
    ("user", "Tamam, bekliyorum."),
    ("assistant", "Siparişiniz kargoya verildi, yarın elinizde olur."),
    ("user", "Harika, teşekkürler!"),
]

token_sayilari = [mesaj_token_sayisi(mesaj) for _, mesaj in KONUSMA]
print(f"{'Rol':<12} {'Token':<8} Mesaj")
for (rol, mesaj), t in zip(KONUSMA, token_sayilari):
    print(f"{rol:<12} {t:<8} {mesaj}")
print(f"\nToplam (10 mesaj): {sum(token_sayilari)} token.")

# Gerçek modellerin bir "bağlam penceresi" (context window) sınırı var -- ötesi
# hatırlanmaz. Öğretici amaçlı küçük bir pencere (100 token) ile simüle edelim:
# sistem mesajı sabit kalır, en eski user/assistant mesajları pencere dolunca düşer.
PENCERE_LIMITI = 100

def pencereyi_guncelle(pencere, yeni_indeks, token_sayilari, konusma):
    pencere.append(yeni_indeks)
    while sum(token_sayilari[i] for i in pencere) > PENCERE_LIMITI:
        # Sistem mesajı hariç, en eski mesajı düşür.
        dusecek = next(i for i in pencere if konusma[i][0] != "system")
        pencere.remove(dusecek)
    return pencere

pencere = [0]  # sistem mesajı en baştan pencerede
print(f"\nBağlam penceresi limiti: {PENCERE_LIMITI} token (öğretici amaçlı küçük tutuldu)\n")
for i in range(1, len(KONUSMA)):
    pencere = pencereyi_guncelle(pencere, i, token_sayilari, KONUSMA)
    pencere_toplami = sum(token_sayilari[j] for j in pencere)
    pencerede_olanlar = [KONUSMA[j][0] for j in sorted(pencere)]
    print(f"Mesaj {i} eklendi -- pencerede {len(pencere)} mesaj, {pencere_toplami} token: {pencerede_olanlar}")

dusenler = [i for i in range(len(KONUSMA)) if i not in pencere]
print(f"\nPencereden tamamen düşen mesajlar (indeks): {dusenler}")
print("Sistem mesajı hiçbir zaman düşmedi -- ama en eski user/assistant mesajları, pencere")
print("dolunca sessizce unutuluyor. Model, konuşmanın başında ne konuşulduğunu artık 'hatırlamıyor'.")

# Gerçek bir sohbet API'sinde, her yeni mesaj için tüm önceki geçmiş tekrar gönderilir
# (girdi olarak) -- bu yüzden toplam maliyet, mesaj sayısıyla doğrusal değil, yaklaşık
# karesel büyür. Fiyat: Claude Sonnet 5, Eylül 2026 itibarıyla, 1M girdi token'ı için $2
# (kaynak: finout.io, Eylül 2026 fiyatlandırma özeti).
GIRDI_FIYATI_1M = 2.0  # $ / 1.000.000 girdi token'ı (Sonnet 5, Eylül 2026)

kumulatif_girdi_token = 0
toplam_maliyet_dolar = 0.0
print(f"\n{'API çağrısı':<14} {'Bu çağrının girdisi (token)':<30} {'Kümülatif maliyet ($)':<22}")
for i in range(1, len(KONUSMA)):
    if KONUSMA[i][0] != "assistant":
        continue
    # Bu assistant cevabını üretmek için, i'ye kadar olan tüm mesajlar girdi olarak gönderilir.
    bu_cagri_girdisi = sum(token_sayilari[:i])
    kumulatif_girdi_token += bu_cagri_girdisi
    maliyet = kumulatif_girdi_token / 1_000_000 * GIRDI_FIYATI_1M
    print(f"{i:<14} {bu_cagri_girdisi:<30} {maliyet:<22.6f}")

print(f"\n5 asistan cevabı için toplam kümülatif girdi maliyeti: ${maliyet:.6f}")
print("Bu sohbet kısa olduğu için mutlak rakam küçük -- ama örüntüye dikkat: her yeni tur,")
print("tüm geçmişi yeniden gönderir. 100 turluk bir sohbette bu, mesaj başına maliyetin")
print("doğrusal değil, yaklaşık karesel büyümesi demektir.")