Düşünce zinciri (chain-of-thought) ve sınırları

# "Düşünce zinciri" (chain-of-thought, CoT): modele DOĞRUDAN cevabı sormak yerine,
# ARA ADIMLARI göstermesini istemek. Bir çok-adımlı problem üzerinde karşılaştıralım.
SORU = (
    "A store had 84 apples. They sold 27 in the morning and 19 in the afternoon, "
    "then received a new delivery of 45 apples. How many apples does the store have now?"
)
DOGRUDAN_ISTEM = SORU + " Answer with just the final number."
COT_ISTEM = SORU + " Think step by step, showing each calculation before giving the final answer."

# ÖĞRETİCİ amaçlı ÖRNEK çıktılar (gerçek bir LLM'e bu ortamda erişim YOK, ama token
# sayımı GERÇEK bir tokenizer ile yapılıyor):
DOGRUDAN_CIKTI = "83"
COT_CIKTI = (
    "Start: 84 apples.\n"
    "Morning sale: 84 - 27 = 57.\n"
    "Afternoon sale: 57 - 19 = 38.\n"
    "New delivery: 38 + 45 = 83.\n"
    "Final answer: 83"
)

t_dogrudan_istem = mesaj_token_sayisi(DOGRUDAN_ISTEM)
t_cot_istem = mesaj_token_sayisi(COT_ISTEM)
t_dogrudan_cikti = mesaj_token_sayisi(DOGRUDAN_CIKTI)
t_cot_cikti = mesaj_token_sayisi(COT_CIKTI)

print(f"Doğrudan istem: {t_dogrudan_istem} token, çıktı: {t_dogrudan_cikti} token, TOPLAM: {t_dogrudan_istem + t_dogrudan_cikti}")
print(f"CoT istem:      {t_cot_istem} token, çıktı: {t_cot_cikti} token, TOPLAM: {t_cot_istem + t_cot_cikti}")
print(f"\nCoT, TOPLAM maliyeti {(t_cot_istem+t_cot_cikti)/(t_dogrudan_istem+t_dogrudan_cikti):.1f}x artırıyor -- ÇOĞU")
print("ek maliyet, İSTEMDEN değil, ÇIKTIDAN (ara adımların YAZILMASINDAN) geliyor.")

# 17-19. dersten (NLP kategorisi) hatırla: bir Transformer, HER token için SABİT
# miktarda hesaplama yapar (N katman, tek ileri geçiş) -- token BAŞINA "düşünme" SINIRLIDIR.
print("\n17-19. dersten (NLP & LLM kategorisi) hatırla: bir Transformer, HER YENİ token için")
print("SABİT sayıda katmandan SADECE BİR KEZ geçer -- 'tek adımda' ne kadar karmaşık bir")
print("hesaplama yapabileceği SINIRLIDIR. Ama HER üretilen token, bir SONRAKİ token'ın")
print("BAĞLAMININ bir PARÇASI olur (17. ders, otoregresif üretim).")
print("\nCoT, bu SINIRI 'aşmanın' bir yolu: modelin karmaşık problemi TEK bir ileri geçişte")
print("çözmesini İSTEMEK yerine, HESAPLAMAYI ARA ADIMLARA YAYARAK, her adımı AYRI (ve daha")
print("BASİT) bir ileri geçişte ürettirmek -- ve HER adım, bir SONRAKİNİN girdisi olur.")

# CoT MÜKEMMEL değildir. Araştırmalar (Anthropic, 2023, "Measuring Faithfulness in
# Chain-of-Thought Reasoning") GÖSTERDİ: modelin YAZDIĞI ara adımlar, cevaba GERÇEKTEN
# NASIL ulaştığını HER ZAMAN dürüstçe YANSITMAYABİLİR -- bu "sadakatsizlik" (unfaithfulness)
# olarak adlandırılır.
print("\nCoT'un BİLİNEN sınırları:")
print("  1. Maliyet: bu dersteki örnekte TOPLAM token maliyetini belirgin biçimde artırdı.")
print("  2. Basit görevlerde FAYDASIZ: tek adımlı bir soruda ('2+2 kaç eder?') CoT gereksiz")
print("     UZUNLUK ve gecikme (latency) ekler.")
print("  3. Sadakatsizlik (unfaithfulness): araştırmalar, modelin YAZDIĞI 'akıl yürütmenin',")
print("     cevaba NASIL ulaştığının HER ZAMAN doğru bir açıklaması OLMAYABİLECEĞİNİ gösterdi --")
print("     yazılan adımlar 'makul görünen' ama GERÇEK süreci YANSITMAYAN bir anlatı OLABİLİR.")