Безпека, вирівнювання та джейлбрейки
Коротко: Вирівнювання означає, що модель робить те, чого люди справді хочуть, і уникає шкоди. Джейлбрейк намагається обійти захист моделі хитрими вводами.
Докладніше: Оскільки моделі вчаться на даних, вони можуть видавати й шкідливий вміст. Провайдери застосовують кілька рівнів захисту.
Подробиці
- Рівні: вибір навчальних даних, донавчання…
Див. також: впровадження промптів, межі ШІ