EMZETT.
Войти

Речь и звук: распознавание и синтез речи

Коротко: Распознавание речи (ASR) превращает звук в текст, синтез речи (TTS) — текст в звук. Сегодня оба делают нейросети, обычно трансформеры.

Подробнее: Звук — это волна, например с 16 000 отсчётов в секунду. Для моделей это слишком мелко, поэтому её сначала преобразуют в спектрограмму (частоты во времени).

Подробности

  • Спектрограмма: мел-спектрограмма отображает частоты…

См. также: трансформер для зрения и CLIP, энкодер, декодер и семейства моделей