เอกสาร

LLM

ส่วน LLM ของ Web UI มอบผู้ให้บริการ LLM ให้ฟีเจอร์ AI แต่ละอย่าง — การจำแนกเทอร์มินัล ข้อความคอมมิต Git การแก้ความขัดแย้ง การขัดเกลาข้อความเสียง และการแปล ตัวผู้ให้บริการเองเป็น addon ชนิด LLM ที่จัดการในส่วน Addons

ผู้ให้บริการคือ addon

ผู้ให้บริการ LLM อยู่ในกลุ่ม LLM ของส่วน Addons:

  • ผู้ให้บริการ OpenAI Compatible LLM มีในตัว; แบบกำหนดเองอัปโหลดเป็น zip ได้ (ปุ่ม Upload) แมนิเฟสต์ addon ประกาศฟิลด์ตั้งค่า (คีย์ API, URL ฐาน, โมเดล, …) ที่ Web UI เปลี่ยนเป็นแบบฟอร์ม;
  • ผู้ให้บริการปรากฏในตัวเลือกฟีเจอร์เฉพาะเมื่อ addon ของมัน เปิด — เปิดก่อนในส่วน Addons;
  • ปุ่มดินสอบนการ์ด addon แก้ซอร์สของมัน; addon ในตัวที่คุณแก้แล้วย้อนกลับได้ด้วย Reset
ส่วน Addons — ผู้ให้บริการ LLM คือ addon ที่เปิด แก้ หรืออัปโหลดได้

การตั้งค่ารายฟีเจอร์

การ์ดฟีเจอร์แต่ละอันในส่วน LLM มีสวิตช์เปิดและการเลือกผู้ให้บริการของตัวเอง งานต่างกันจึงใช้โมเดลต่างกันได้:

  • Terminal Classification — จำแนกสถานะเทอร์มินัลเมื่อรูปแบบในตัวไม่พอ Max Consecutive Failures ปิด LLM ของเซสชันหลังล้มเหลวติดกันเท่านี้ (ต่ำสุด 3);
  • Git Commit Messages — สร้างข้อความคอมมิตจากการเปลี่ยนแปลงที่ stage;
  • Git Conflict Resolve — แก้ความขัดแย้ง rebase/merge เป็น hunk ต่อ hunk;
  • Voice Text Polish — ขัดเกลาผลถอดความเสียงก่อนส่ง;
  • Translation — แปลข้อความเป็นภาษาเป้าหมายที่เลือก

ขยายการ์ดเพื่อเลือก Provider และกรอกฟิลด์ผู้ให้บริการ การตั้งค่าเก็บแม้ฟีเจอร์ปิดและมีผลเมื่อเปิด เมื่อหลายฟีเจอร์ใช้ addon ผู้ให้บริการเดียวกัน ปุ่มคัดลอก/วางข้าง Provider Configuration ช่วยคัดลอกค่าฟิลด์ของมันเป็นระหว่างฟีเจอร์เหล่านั้น (ดูด้านล่าง)

ฟีเจอร์ Terminal และ Git มีภาษาผลลัพธ์พร้อมตัวเลือก Auto (โมเดลตัดสิน); การแปลใช้รายการเป้าหมาย English/简体中文 ชัดเจน

ส่วน LLM — แต่ละฟีเจอร์เลือกผู้ให้บริการและข้อมูลรับรองของตัวเอง

คัดลอก/วางระหว่างฟีเจอร์

ฟีเจอร์แต่ละตัวเก็บสำเนาฟิลด์ของผู้ให้บริการของฟีเจอร์นั้นไว้เอง ดังนั้นการใช้ผู้ให้บริการตัวเดียวในหลายฟีเจอร์จึงมักต้องพิมพ์ Base URL, คีย์ API และโมเดลเดิมซ้ำในทุกการ์ด ส่วนหัวของ Provider Configuration มีปุ่มเล็กสองปุ่มที่ช่วยให้ไม่ต้องทำซ้ำ:

  • คัดลอก — คัดลอกค่าฟิลด์ที่กำลังแสดงอยู่ในการ์ดนี้ พร้อม addon ผู้ให้บริการที่ค่าเหล่านั้นสังกัด;
  • วาง — จะแสดงในการ์ดเฉพาะเมื่อผู้ให้บริการที่เลือกอยู่ในการ์ดนั้นคือ addon เดียวกับค่าที่ตั้งคัดลอกมา; คลิกเพื่อใส่ค่าที่ตั้งคัดลอกมาลงในฟิลด์ของการ์ด

ตัวอย่างเช่น การแชร์ endpoint เดียวกันระหว่างข้อความคอมมิต Git กับการแปล: เลือกผู้ให้บริการและกรอกฟิลด์ในการ์ดแรก กด คัดลอก เปิดอีกการ์ด (ที่เลือกผู้ให้บริการตัวเดียวกัน) แล้วกด วาง ค่าที่วางจะถูกเก็บในโครงสร้างการตั้งค่าของฟีเจอร์นั้นเอง เหมือนการแก้ไขฟิลด์อื่น ๆ และจะถูกบันทึกไปด้วย คลิปบอร์ดใช้ได้เฉพาะภายในหน้านี้ — จะถูกล้างเมื่อออกจากส่วน LLM

ปุ่มคัดลอกและวางในส่วนหัว Provider Configuration — ทำซ้ำฟิลด์ของผู้ให้บริการหนึ่งตัวระหว่างฟีเจอร์ที่ใช้ addon เดียวกัน

ผู้ให้บริการที่รองรับ OpenAI

ผู้ให้บริการในตัวทำงานกับ chat API ที่รองรับ OpenAI ใดก็ได้ ฟิลด์หลัก:

  • Base URL / API Key / Model — endpoint, ข้อมูลรับรอง, ชื่อโมเดล;
  • Extra Body — อ็อบเจกต์ JSON ที่รวมเข้าทุกเนื้อคำขอ สำหรับพารามิเตอร์เฉพาะโมเดล;
  • Max Input Tokens / Max Output Tokens — งบพรอมต์และเพดานเติมเต็ม;
  • Timeout — หมดเวลาต่อคำขอเป็นวินาที; เพิ่มสำหรับโมเดลท้องถิ่นช้า

โมเดลที่แนะนำ

งาน AI เหล่านี้เป็นพรอมต์เล็กที่ไวต่อความหน่วง — โมเดลเร็ว “พอดี” ชนะโมเดลใหญ่แบบใช้เหตุผล:

  • ท้องถิ่น: Qwen3.5 9B — จุดหวานสำหรับข้อความคอมมิต Git การจำแนกเทอร์มินัล การแปล และการขัดเกลาเสียง เสิร์ฟด้วย endpoint รองรับ OpenAI (Ollama, vLLM, llama.cpp) แล้วชี้ Base URL ไปที่มัน;
  • API: DeepSeek V4 Flash (deepseek-v4-flash) — เร็วพอสำหรับใช้แบบโต้ตอบและทำฟีเจอร์ข้างต้นทั้งหมดได้

โหมดคิดเพิ่มวินาทีหน่วงและแทบไม่ช่วยงานสั้นเหล่านี้ — ปิดใน Extra Body เพื่อประสบการณ์ที่ดีกว่า เช่น {"enable_thinking": false} สำหรับ Qwen หรือ {"thinking": {"type": "disabled"}} สำหรับ DeepSeek (คีย์ที่แน่นอนขึ้นกับชุดเสิร์ฟของคุณ; JSON ถูกรวมเข้าเนื้อคำขอตรง ๆ)