Документація

Налаштування сервера

Голосове введення перетворює мовлення на ввід термінала: говоріть замість друкування, з необов’язковим шліфуванням LLM транскрипту перед надсиланням. Розпізнавання працює як локальний ASR-сервер із моделями на пристрої — аудіо та текст лишаються на вашій машині. Ця сторінка охоплює бік сервера; десктопний досвід живе у Користуванні клієнтом.

Картка Local ASR Server

Відкрийте розділ Voice веб-інтерфейсу й увімкніть розпізнавання мовлення. Картка Local ASR Server керує наглядовим процесом vterm-voice:

  • Load on Startup — запускати ASR-сервер разом із бекендом;
  • Bind Address (127.0.0.1 лише localhost / 0.0.0.0 усі інтерфейси) та Port (типово 8398) — де слухає ASR-кінцева точка;
  • Model Directory + Local Model — виберіть із вбудованого каталогу: родини Qwen3-ASR, Fun-ASR та Parakeet, кожна у варіантах full / 8-bit / 4-bit. Download підтягує модель з Hugging Face або ModelScope у директорію з живою смугою прогресу; ручні команди git clone показуються як запасний шлях, а моделі, що вже на диску, позначаються наявними;
  • Device — бекенд висновування (Auto, CPU, CUDA, Vulkan, Metal), як повідомляє сервер;
  • Access Token — спільний секрет кінцевої точки; кнопка з кубиком генерує його;
  • Save зберігає картку (правки до того — локальний чернетка), а Start Server / Stop Server керують процесом. Значок стану в заголовку картки віддзеркалює досяжність і стан моделі (завантажено / завантажується / помилка).
Розділ Voice — картка Local ASR Server з моделлю, пристроєм і токеном

Суперництво CUDA: коли інша CUDA-програма висновування вже займає GPU (напр. llama.cpp із локальною моделлю), дозвіл vterm-voice теж використати CUDA може різко сповільнити обидва. У такому разі задайте Device на CPU — ці компактні ASR-моделі на CPU досить швидкі.

Провайдер і тестування

Випадаючий список провайдерів перелічує аддони ASR — вбудований аддон vibe-voice вказує на цей наглядовий сервер, тож його вибір — це спосіб, яким панель використовує ваші локальні моделі.

Область Test пробує все без клієнта: Record (мікрофон → хвиля → транскрипція) та Live (потокове розпізнавання), кожне з часовими мірками та кнопкою копіювання.

Область Test — вкладки Record і Live