Prompt Mühendisliği

'explain quantum computing to a five year old' 8 kelime ama 25 token -- 'quantum' 5 parçaya bölünüyor. Model cümleni okumaz, sadece bu sayı dizisini görür.

100 token'lık pencerede, 10 mesajlık sohbetin 8 mesajı SİLİNİYOR. Her tur tüm geçmişi tekrar gönderdiği için maliyet doğrusal değil karesel büyüyor.

'Write something about dogs' 19 token; görev+bağlam+kısıt+format ekleyince 83 token'a çıkıyor (4.4x). Ama bu, bir netleştirme turundan genelde daha ucuz.

'Sen bir fizik profesörüsün' eklemek, maliyeti 4.1x artırıyor ama AYNI soruyu soruyor. Persona, modelin bilgisini DEĞİL, tonunu ve kaydını değiştirir.

3 örnek eklemek (few-shot) maliyeti 3.6x artırıyor (67 -> 240 token) ama görevi değiştirmiyor. Model kuralı yazılı açıklamadan değil, örneklerden çıkarsıyor.

'Adım adım düşün' demek, toplam maliyeti 2.1x artırıyor (116 -> 239 token) -- çoğu ek maliyet çıktıdan (ara adımların yazılmasından) geliyor, istemden değil.

4 gerçekçi model çıktısından sadece 1'i doğrudan json.loads() ile ayrıştırılabiliyor. Sağlam bir ayrıştırıcı (markdown/virgül temizleyen) bunu 4/4'e çıkarıyor.

3 ölçülebilir kriterle puanlanan 3 prompt varyantı, her seferinde tek bir değişiklikle 1/3'ten 3/3'e çıkıyor -- hangi değişikliğin ne düzelttiği net.

'Mention pricing' ile olumsuzu, token'larının %86'sını paylaşıyor -- sadece 3 token anlamı tersine çeviriyor. En az değişiklik en büyük farkı yaratabilir.

Eğitimde hiç görülmeyen bir bağlamda bile model %100 güvenle cevap üretiyor. 'Bilmiyorum' seçeneği yok -- softmax her zaman 1'e toplanan bir dağılım üretir.

Bir sorgu, 6 belge arasından doğru olanı 0.422 benzerlikle buluyor -- alakasız belgeler 0.0. RAG, bu bulunan bilgiyi bağlama ekleyerek uydurmayı önlüyor.

Bir ajan döngüsü, bir soruyu gerçek arama ve hesaplamayla, iki araç çağrısıyla çözüyor. Güvenli hesap makinesi, kötü niyetli bir girdiyi reddediyor.