Ембединг (векторне подання)

Коротко: Ембединг — це список чисел (вектор), що представляє зміст тексту, зображення чи звуку. Схожі речі лежать близько одна до одної в числовому просторі.

Докладніше: У «собаки» і «цуценяти» схожі вектори, а у «собаки» і «податкової декларації» — ні. За допомогою ембедингів можна шукати за змістом, а не лише за словами: відстань між двома векторами (зазвичай косинусна подібність) показує, наскільки вони схожі.

Подробиці

• Розмірність: зазвичай від 384 до 3 072 чисел на текст.
• Векторна база даних: зберігає ембединги та швидко знаходить найсхожіші (наприклад, pgvector, Qdrant).
• Застосування: семантичний пошук, рекомендації, виявлення дублікатів, RAG.
• Обмеження: ембединги відображають навчальні дані. Спеціальні терміни та нові слова вловлюються гірше.

Див. також: RAG (генерація з доповненням пошуком), Токен (ШІ)