Model Merging und Modellfamilien

Kurz: Man kann mehrere feingetunte Modelle desselben Ursprungs zu einem verschmelzen, ohne neu zu trainieren. Außerdem erscheinen Modelle in Familien aus mehreren Größen und Varianten.

Genauer: Weil feingetunte Modelle vom selben Ausgangspunkt nur kleine Gewichtsänderungen haben, lassen sich diese Änderungen kombinieren.

Im Detail

• Gewichtsmittelung: Durchschnitt mehrerer Modelle („Model Soups“) ist oft besser als jedes einzelne.
• Task Arithmetic: Man berechnet den „Aufgabenvektor“ (feingetunt minus Basis) und addiert oder subtrahiert ihn.
• TIES, DARE, SLERP: Verfahren, die Konflikte zwischen Änderungen verringern.
• Werkzeug: mergekit, in der Community der offenen Modelle beliebt.
• Familien: Ein Anbieter veröffentlicht oft Größen (1B, 8B, 70B), Varianten (Basis, Instruct, Code, Vision) und Quantisierungen (quantisierung).
• Benennung: Name-8B-Instruct-Q4_K_M = 8 Milliarden Parameter, Chat-Variante, 4-Bit-Quantisierung.
• Lizenz: Gemergte Modelle erben alle Lizenzen der Zutaten, siehe offene-modelle-und-ihre-lizenzen.

Siehe auch: finetuning-und-lora, hugging-face