Кэширование промптов и экономия расходов

Коротко: При кэшировании промптов провайдер запоминает уже вычисленную обработку неизменного начала промпта. Последующие запросы с тем же началом становятся быстрее и намного дешевле.