Галюцинація (ШІ)

Коротко: Галюцинація — це переконливо звучна, але хибна або вигадана відповідь мовної моделі.

Докладніше: Мовні моделі передбачають найімовірніший наступний токен; фактів вони не перевіряють. Коли знань бракує, вони заповнюють прогалину чимось правдоподібним, наприклад вигаданими джерелами, числами чи законами.

Подробиці

• Часто трапляється при: рідкісних фактах, точних числах, цитатах, посиланнях, юридичних питаннях.
• Засоби: RAG з джерелами, уточнювальні запитання, перевірка за другим джерелом, низька температура.
• Як розпізнати: надто гладкі відповіді без сумнівів, джерела, яких неможливо знайти.
• Відповідальність: той, хто використовує відповіді ШІ, залишається відповідальним за їхню правильність.

Див. також: Температура та семплування, Промпт-інжиніринг