Güvenlik, hizalama ve jailbreak’ler

Kısaca: Hizalama, bir modelin insanların gerçekten istediğini yapması ve zarardan kaçınması demektir. Jailbreak, akıllıca girdilerle bir modelin korumalarını aşmaya çalışır.

Biraz daha ayrıntılı: Modeller verilerden öğrendiği için zararlı içerik de çıkarabilir. Sağlayıcılar birkaç koruma katmanı kullanır.

Ayrıntılı

• Katmanlar: eğitim verisi seçimi, ince ayar…

Ayrıca bak: İstem enjeksiyonu, Yapay zekânın sınırları