Структурированные выходы и JSON-схема
Коротко: При структурированных выходах вы заставляете модель отвечать в фиксированном формате, обычно в JSON по схеме. Тогда программа может безопасно обработать ответ.
Проблема
Языковая модель создаёт текст токен за токеном…
См. также: внедрение промптов