Halüsinasyon (yapay zekâ)

Kısaca: Halüsinasyon, bir dil modelinin inandırıcı görünen ama yanlış veya uydurma cevabıdır.

Biraz daha ayrıntılı: Dil modelleri en olası sonraki belirteci tahmin eder; gerçekleri denetlemezler. Bilgi eksikliğinde boşluğu makul görünen bir şeyle doldururlar; örneğin uydurma kaynaklar, sayılar veya yasalar.

Ayrıntılı

• Sık görüldüğü yerler: nadir gerçekler, kesin sayılar, alıntılar, kaynak göstermeler, hukuki sorular.
• Çareler: kaynaklı RAG, ek sorular, ikinci bir kaynakla karşılaştırma, düşük sıcaklık.
• Fark etmek: belirsizlik içermeyen fazla akıcı cevaplar, bulunamayan kaynaklar.
• Sorumluluk: Yapay zekâ cevaplarını kullanan kişi, doğruluktan sorumlu olmaya devam eder.

Ayrıca bak: Sıcaklık ve örnekleme, Prompt mühendisliği