RAG 客服 chatbot

高缓存命中率、中等输出。Cache 直接决定单位经济模型的好坏。

输入

8,000 tokens

输出

300 tokens

缓存

85%

调用 / 月

200,000

在计算器中打开此场景