Edge-ШІ: моделі на телефонах і Raspberry Pi
Коротко: Edge-ШІ означає, що модель працює прямо на пристрої (телефон, ноутбук, Raspberry Pi), а не в хмарі. Це заощаджує час очікування й захищає дані, але потребує невеликих, розумно зменшених моделей.
Навіщо локально?
- Приватність: вхідні дані не залишають пристрою…
Див. також: довгі контексти