Документация

LLM

Раздел LLM веб-интерфейса назначает LLM-провайдера каждой ИИ-функции — классификация терминала, сообщения коммитов Git, разрешение конфликтов, полировка голосового текста и перевод. Сами провайдеры — аддоны типа LLM, управляемые в разделе Addons.

Провайдеры — аддоны

LLM-провайдеры живут в группе LLM раздела Addons:

  • Провайдер OpenAI Compatible LLM встроен; пользовательские провайдеры можно загрузить zip-архивом (кнопка Upload). Манифест аддона объявляет поля конфигурации (API-ключ, базовый URL, модель, …), которые веб-интерфейс превращает в форму;
  • Провайдер появляется в селекторах функций только пока его аддон включён — сначала включите его в разделе Addons;
  • кнопка-карандаш на карточке аддона редактирует его источник; изменённый встроенный аддон можно откатить через Reset.
Раздел Addons — LLM-провайдеры это аддоны, которые можно включать, редактировать или загружать

Конфигурация по функциям

У каждой карточки функции в разделе LLM собственный переключатель включения и собственный выбор провайдера, поэтому разным работам можно назначать разные модели:

  • Terminal Classification — классифицирует состояние терминала, когда встроенных паттернов не хватает. Max Consecutive Failures отключает LLM для сессии после стольких подряд неудач (минимум 3);
  • Git Commit Messages — генерирует сообщения коммитов из индексированных изменений;
  • Git Conflict Resolve — разрешает конфликты rebase/слияния фрагмент за фрагментом;
  • Voice Text Polish — полирует транскрипции голосового ввода перед отправкой;
  • Translation — переводит текст на выбранный целевой язык.

Разверните карточку, чтобы выбрать её Provider и заполнить поля провайдера. Конфигурация сохраняется даже пока функция отключена, и вступает в силу после включения. Когда несколько функций используют один и тот же аддон провайдера, кнопки копировать/вставить рядом с Provider Configuration позволяют клонировать его значения полей между ними (см. ниже).

Функции Terminal и Git предлагают язык вывода с опцией Auto (модель решает); перевод использует явный список целей English/简体中文.

Раздел LLM — каждая функция выбирает собственного провайдера и учётные данные

Копирование/вставка между функциями

Каждая функция хранит собственную копию полей провайдера, поэтому использование одного провайдера в нескольких функциях обычно означает повторный ввод одного и того же базового URL, API-ключа и модели в каждой карточке. В заголовке Provider Configuration есть две маленькие кнопки, избавляющие от этого повторения:

  • Копировать — копирует значения полей, сейчас отображаемые в этой карточке, вместе с аддоном провайдера, которому они принадлежат;
  • Вставить — появляется в карточке только тогда, когда выбранный в ней провайдер — тот же аддон, что и скопированная конфигурация; по клику заполняет поля карточки скопированными значениями.

Чтобы делиться одним эндпоинтом, скажем, между сообщениями коммитов Git и переводом: в первой карточке выберите провайдера и заполните его поля, нажмите Копировать, откройте другую карточку (с тем же выбранным провайдером) и нажмите Вставить. Вставленные значения сохраняются в собственной конфигурации этой функции, как любое другое редактирование полей, и сохраняются вместе с ней. Буфер обмена действует только в пределах страницы — он очищается при выходе из раздела LLM.

Кнопки «Копировать» и «Вставить» в заголовке Provider Configuration — дублирование полей провайдера между функциями, использующими один аддон

OpenAI-совместимый провайдер

Встроенный провайдер работает с любым OpenAI-совместимым chat-API. Ключевые поля:

  • Base URL / API Key / Model — эндпоинт, учётные данные, имя модели;
  • Extra Body — JSON-объект, вливаемый в каждое тело запроса, для специфичных модели параметров;
  • Max Input Tokens / Max Output Tokens — бюджет промпта и потолок завершения;
  • Timeout — таймаут на запрос в секундах; поднимите для медленных локальных моделей.

Рекомендуемые модели

Эти ИИ-задачи — маленькие, чувствительные к задержке промпты; быстрая «в самую точку» модель побеждает большую рассуждающую:

  • Локально: Qwen3.5 9B — золотая середина для генерации сообщений коммитов Git, классификации терминала, перевода и голосовой полировки. Подайте её OpenAI-совместимым эндпоинтом (Ollama, vLLM, llama.cpp) и направьте на него Base URL;
  • API: DeepSeek V4 Flash (deepseek-v4-flash) — достаточно быстрая для интерактивного использования и способная справиться со всеми перечисленными функциями.

Режим размышлений добавляет секунды задержки и редко помогает этим коротким задачам — выключите его в Extra Body для лучшего опыта, напр. {"enable_thinking": false} для Qwen или {"thinking": {"type": "disabled"}} для DeepSeek (точный ключ зависит от вашего стека подачи; JSON вливается в тело запроса дословно).