İnce ayar (fine-tuning) ve LoRA

Kısaca: İnce ayarda, bitmiş bir model ek örneklerle daha da eğitilir; böylece bir görevi veya üslubu daha iyi öğrenir. LoRA bunu çok az bellekle yapar.

Biraz daha ayrıntılı: LoRA (low-rank adaptation), milyarlarca parametrenin hepsini değiştirmek yerine yalnızca birkaç megabayt boyutunda küçük ek matrisler eğitir. Bunlar temel modelin üzerine konabilir veya değiştirilebilir. QLoRA bunu nicemlenmiş bir temel modelle birleştirir.

Ayrıntılı

• Ne zaman yararlı: sabit üslup, teknik dil, belirli çıktı biçimi. Yeni bilgi için çoğunlukla RAG daha iyidir.
• Veri: Genellikle yüzlerce ila binlerce iyi örnek yeterlidir.
• Donanım: QLoRA ile 7 milyarlık bir model 12–16 GB VRAM’li bir kartta uyarlanabilir.
• Riskler: aşırı öğrenme (overfitting), genel bilginin kaybı, eğitim verisinin gizliliği.

Ayrıca bak: Parametreler (yapay zekâ modeli), Nicemleme