Декодування: greedy, beam search, top-k і top-p

Коротко: За ймовірностями наступного токена потрібно зробити вибір. Метод для цього називається декодуванням: greedy, beam search або випадковий вибір з top-k і top-p.

Докладніше: Вибір визначає, чи будуть відповіді надійними й одноманітними, чи різноманітними.