RAG (geri getirmeyle zenginleştirilmiş üretim)

Kısaca: RAG, bir dil modelini bir aramayla birleştirir: önce kendi belgelerinizden uygun bölümler getirilir, ardından model soruyu bu temelde yanıtlar.

Biraz daha ayrıntılı: Modelin her şeyi “bilmesi” gerekmez; ilgili malzemeyi istemde alır. Bu, halüsinasyonları azaltır, cevapları güncel tutar ve alıntı yapılmasını sağlar.

Ayrıntılı

1. Belgeleri bölümlere (chunk) ayırın.
2. Her bölümün bir embedding’ini hesaplayıp saklayın.
3. Soruyu da embedding’e çevirin ve en benzer bölümleri arayın.
4. Bölümleri ve soruyu modele verin; yalnızca bunlardan yanıtlamasını söyleyin.

• Kalite aramaya bağlıdır: Kötü bölümler kötü cevaplar doğurur.
• Gizlilik: Yerel modellerde belgeler kendi makinenizde kalır.

Ayrıca bak: Bağlam penceresi, Halüsinasyon (yapay zekâ)