Eigenes lokales KI-System

VS Code mit Continue verbinden

Für bestehende Installationen mit config.json (veraltetes Format). Neue Installationen verwenden config.yaml.

  1. In Continue die Konfiguration config.json öffnen.
  2. Unter models den Qwen-Eintrag ersetzen.
  3. Speichern und im Chat Qwendb auswählen.

Ausprobieren

Code markieren und fragen:

Erkläre diesen Code. Wo können Fehler auftreten?

provider: openai bezeichnet das API-Format. Die Anfrage geht an den Server aus apiBase.

config.yaml öffnen und einrichten →

config.json · models

{
    "title": "Qwendb",
    "provider": "openai",
    "model": "qwen38-27b-bf16",
    "apiBase": "http://db.karlkratz.com:8021/v1",
    "apiKey": "EMPTY"
}

Das Feld heißt apiBase, nicht server.