RAG-Chatbot für Kundensupport
Hohe Cache-Trefferrate, mittlerer Output. Der Cache entscheidet über die Unit Economics.
Input
8,000 tokens
Output
300 tokens
Cached
85%
Calls / Monat
200,000
Hohe Cache-Trefferrate, mittlerer Output. Der Cache entscheidet über die Unit Economics.
Input
8,000 tokens
Output
300 tokens
Cached
85%
Calls / Monat
200,000