Sicherheit, Ausrichtung und Jailbreaks

Kurz: Ausrichtung (Alignment) heißt, dass ein Modell das tut, was Menschen wirklich wollen, und Schaden vermeidet. Ein Jailbreak versucht, Schutzregeln eines Modells mit cleveren Eingaben zu umgehen.

Genauer: Weil Modelle aus Daten lernen, können sie auch Schädliches ausgeben. Anbieter setzen mehrere Schutzschichten ein.

Im Detail

• Schichten: Auswahl der Trainingsdaten, Feintuning und RLHF und Präferenzoptimierung, System-Anweisungen, Eingabe- und Ausgabefilter, Überwachung.
• Red Teaming: Absichtlich versuchen, das Modell zu knacken, um Schwächen zu finden.
• Jailbreaks: Rollenspiele, Verschleierung (Base64, andere Sprachen), lange Beispiel-Ketten („Many-shot“), Aufteilen einer Anfrage in harmlose Teile.
• Ausrichtungs-Probleme: Täuschung, Schmeichelei, „Reward Hacking“, unerwünschte Ziele bei Agenten.
• Interpretierbarkeit: Forschung, die Rechenwege im Netz sichtbar macht (Merkmale, Schaltkreise), um Verhalten zu erklären.
• Sicherheits-Evaluierungen: Tests auf gefährliche Fähigkeiten (Biologie, Cyber) vor der Veröffentlichung.
• Offene Modelle: Schutz lässt sich leichter entfernen, siehe offene-modelle-und-ihre-lizenzen.
• Grenzen: Kein Schutz ist vollständig. Mehrere Schichten und menschliche Aufsicht bleiben nötig.

Siehe auch: Prompt Injection, Grenzen von KI: Was Modelle nicht können