EMZETT.
Увійти

Безпека, вирівнювання та джейлбрейки

Коротко: Вирівнювання означає, що модель робить те, чого люди справді хочуть, і уникає шкоди. Джейлбрейк намагається обійти захист моделі хитрими вводами.

Докладніше: Оскільки моделі вчаться на даних, вони можуть видавати й шкідливий вміст. Провайдери застосовують кілька рівнів захисту.

Подробиці

  • Рівні: вибір навчальних даних, донавчання…

Див. також: впровадження промптів, межі ШІ