Речь и звук: распознавание и синтез речи
Коротко: Распознавание речи (ASR) превращает звук в текст, синтез речи (TTS) — текст в звук. Сегодня оба делают нейросети, обычно трансформеры.
Подробнее: Звук — это волна, например с 16 000 отсчётов в секунду. Для моделей это слишком мелко, поэтому её сначала преобразуют в спектрограмму (частоты во времени).
Подробности
- Спектрограмма: мел-спектрограмма отображает частоты…
См. также: трансформер для зрения и CLIP, энкодер, декодер и семейства моделей