Структуровані виходи та JSON-схема
Коротко: За структурованих виходів ви змушуєте модель відповідати у фіксованому форматі, зазвичай у JSON за схемою. Тоді програма може безпечно опрацювати відповідь.
Проблема
Мовна модель створює текст токен за токеном…
Див. також: впровадження промптів