L'iceberg nascosto: una domanda da 10 token costa 14.800 token
L'utente scrive 10 token. System prompt, esempi few-shot, cronologia della conversazione, chunk RAG e definizioni dei tool portano silenziosamente il totale a 14.300 token di input. Questa è la fattura che nessuno vede.
Input
14,300 tokens
Output
500 tokens
Cached
60%
Chiamate / mese
50,000
Cosa c'è dentro l'input
L'utente ha scritto 10 token. Tutto il resto è stato aggiunto in silenzio.
System prompt800
Esempi few-shot1,500
Cronologia conversazione4,000
Documenti RAG6,000
Definizioni dei tool2,000
Messaggio utente10
Total14,310 tokens
L'utente ha scritto una sola frase. Tu hai pagato 14.800 token. Se non lo misuri, non puoi ottimizzarlo.