Документація

LLM

Розділ LLM веб-інтерфейту призначає провайдера LLM кожній функції ШІ — класифікації термінала, повідомленням комітів Git, розв’язанню конфліктів, шліфуванню голосового тексту та перекладу. Самі провайдери — аддони типу LLM, керовані в розділі Addons.

Провайдери — це аддони

Провайдери LLM живуть у групі LLM розділу Addons:

  • Провайдер OpenAI Compatible LLM вбудований; власних можна вивантажити як zip (кнопка Upload). Маніфест аддона оголошує поля налаштувань (API-ключ, базовий URL, модель, …), які веб-інтерфейс перетворює на форму;
  • провайдер з’являється у вибірниках функцій лише поки його аддон увімкнено — спершу ввімкніть його в розділі Addons;
  • кнопка-олівець на картці аддона редагує його джерело; змінений вбудований аддон можна відкотити через Reset.
Розділ Addons — провайдери LLM це аддони, які можна вмикати, редагувати або вивантажувати

Налаштування за функціями

Кожна картка функції в розділі LLM має власний перемикач увімкнення і власний вибір провайдера, тож різні роботи можуть використовувати різні моделі:

  • Terminal Classification — класифікує стан термінала, коли вбудованих шаблонів бракує. Max Consecutive Failures вимикає LLM для сесії після стількох поспіль невдач (мінімум 3);
  • Git Commit Messages — генерує повідомлення комітів із staged змін;
  • Git Conflict Resolve — розв’язує конфлікти rebase/злиття hunk за hunk-ом;
  • Voice Text Polish — шліфує транскрипти голосового введення перед надсиланням;
  • Translation — перекладає текст обраною цільовою мовою.

Розгорніть картку, щоб вибрати її Provider і заповнити поля провайдера. Налаштування зберігається навіть коли функцію вимкнено, і набирає чинності раз із увімкненням. Коли кілька функцій використовують той самий аддон провайдера, кнопки копіювати/вставити біля Provider Configuration дають змогу клонувати його значення полів між ними (див. нижче).

Функції Terminal і Git пропонують мову виводу з опцією Auto (модель вирішує); переклад використовує явний список цілей English/简体中文.

Розділ LLM — кожна функція вибирає власного провайдера та облікові дані

Копіювання/вставка між функціями

Кожна функція зберігає власну копію полів провайдера, тож використання одного провайдера в кількох функціях зазвичай означає повторне введення того самого базового URL, API-ключа та моделі в кожній картці. У заголовку Provider Configuration є дві маленькі кнопки, що прибирають це повторення:

  • Копіювати — копіює значення полів, що зараз відображаються в цій картці, разом із аддоном провайдера, якому вони належать;
  • Вставити — з’являється в картці лише тоді, коли обраний у ній провайдер — той самий аддон, що й у скопійованих налаштуваннях; за кліком заповнює поля картки скопійованими значеннями.

Щоб користуватися одним кінцем, скажімо, у повідомленнях комітів Git і перекладі: у першій картці оберіть провайдера та заповніть його поля, натисніть Копіювати, відкрийте іншу картку (з обраним тим самим провайдером) і натисніть Вставити. Вставлені значення зберігаються у власних налаштуваннях тієї функції, як будь-яке інше редагування полів, і зберігаються разом з ними. Буфер обміну діє лише в межах сторінки — він очищається при виході з розділу LLM.

Кнопки «Копіювати» та «Вставити» в заголовку Provider Configuration — дублювання полів провайдера між функціями, що використовують той самий аддон

Провайдер, сумісний з OpenAI

Вбудований провайдер працює з будь-яким сумісним з OpenAI chat-API. Ключові поля:

  • Base URL / API Key / Model — кінцева точка, облікові дані, ім’я моделі;
  • Extra Body — JSON-об’єкт, що зливається в кожне тіло запиту, для специфічних для моделі параметрів;
  • Max Input Tokens / Max Output Tokens — бюджет промпту і стеля доповнення;
  • Timeout — таймаут на запит у секундах; підніміть для повільних локальних моделей.

Рекомендовані моделі

Ці завдання ШІ — маленькі, чутливі до затримки промпти; швидка «якраз» модель перемагає велику міркувальну:

  • Локально: Qwen3.5 9B — золота середина для генерації повідомлень комітів Git, класифікації термінала, перекладу та голосового шліфування. Подавайте її сумісною з OpenAI кінцевою точкою (Ollama, vLLM, llama.cpp) і націльте Base URL на неї;
  • API: DeepSeek V4 Flash (deepseek-v4-flash) — досить швидка для інтерактивного користування і здатна впоратися з усіма функціями вище.

Режим міркування додає секунди затримки і рідко допомагає цим коротким задачам — вимкніть його в Extra Body для кращого досвіду, напр. {"enable_thinking": false} для Qwen або {"thinking": {"type": "disabled"}} для DeepSeek (точний ключ залежить від вашого стека обслуговування; JSON зливається дослівно в тіло запиту).