Edge-ИИ: модели на телефонах и Raspberry Pi
Коротко: Edge-ИИ означает, что модель работает прямо на устройстве (телефон, ноутбук, Raspberry Pi), а не в облаке. Это экономит время ожидания и защищает данные, но требует небольших, умно уменьшенных моделей.
Зачем локально?
- Приватность: вводимые данные не покидают устройство…
См. также: длинные контексты