Контрастне та самоконтрольоване навчання

Коротко: За самоконтрольованого навчання система створює навчальне завдання з самих даних. Контрастне навчання зближує схожі приклади у векторному просторі й віддаляє несхожі.

Докладніше: Це дозволяє вчитися на величезних обсягах нерозмічених даних, яких в інтернеті вдосталь.