Einstellungen & Konfiguration

Ollama mit Pluely: KI komplett lokal und offline

Verbinde Ollama, und das Overlay von Pluely antwortet mit Modellen, die vollständig auf deinem Rechner laufen: Nichts verlässt deinen Computer, und es funktioniert offline.

1. Installieren und ein Modell herunterladen

Installiere Ollama von ollama.com, starte es und lade im Terminal mindestens ein Modell herunter, zum Beispiel mit ollama pull llama3.2 (oder gemma3 für Bilder, deepseek-r1 für Reasoning).

2. In Pluely verbinden

Öffne das Dashboard → Dev Space → CLI verbinden.
Pluely erkennt Ollama automatisch. Klicke auf Verbinden.
Wähle ein Modell: Bei Ollama ist das Pflicht. Der Bereich „Modell“ listet alles auf, was du lokal heruntergeladen hast; die Liste wird beim erneuten Verbinden aktualisiert.
Es erscheint ganz oben in der Modellauswahl des Overlays als Deine CLI (z. B. Ollama · llama3.2).

Modelle mit Bildverständnis

Häng Bildschirmfotos und Bilder an, wenn dein gewähltes Modell multimodal ist: Pluely erkennt die Modellfamilien mit Bildverständnis (llava, gemma3, qwen-vl, llama3.2-vision, minicpm-v und weitere) und aktiviert die Bildsteuerung automatisch. Bei reinen Textmodellen bleibt sie deaktiviert, mit dem Hinweis, ein Modell mit Bildverständnis herunterzuladen.

Denkende Modelle

Reasoning-Modelle wie DeepSeek-R1 und Qwen3 werden voll unterstützt: Ihre Gedankenkette wird automatisch entfernt, sodass das Overlay nur die fertige Antwort zeigt und nie eine Wand aus <think>-Text.

Fehlerbehebung

„Ollama läuft nicht“: Starte die Ollama-App (oder ollama serve) und klicke auf die Schaltfläche zum Aktualisieren neben „CLI verbinden“.
Keine Modelle in der Auswahl: Lade mit ollama pull im Terminal eines herunter und verbinde dann erneut.