Границы ИИ: чего модели не умеют
Коротко: Языковые модели мощны, но не всеведущи: они иногда выдумывают факты, ничего не знают после даты отсечки знаний, ненадёжно считают и понимают мир только через текст и изображения.
Подробнее: Модель предсказывает вероятно подходящее продолжение. Вероятное и истинное — не одно и то же. В этом источник многих ошибок.
Подробности
- Галлюцинация: выдуманные источники, числа…
См. также: галлюцинация (ИИ), смещение, справедливость и качество данных