Ollama gebruiken met Pluely: volledig lokale, offline AI

Koppel Ollama en de overlay van Pluely antwoordt met modellen die volledig op je eigen computer draaien: er verlaat niets je computer, en het werkt ook offline.

1. Installeren en een model downloaden

Installeer Ollama via ollama.com, start het en download in je terminal minstens één model, bijvoorbeeld ollama pull llama3.2 (of gemma3 voor beeld, deepseek-r1 voor redeneren).

2. Koppelen in Pluely

1. Open het Dashboard → Dev Space → Je CLI koppelen.
2. Pluely herkent Ollama automatisch. Klik op Koppelen.
3. Kies een model: verplicht bij Ollama. Het paneel Model toont alles wat je lokaal hebt gedownload; de lijst wordt vernieuwd als je opnieuw koppelt.
4. Ollama verschijnt bovenaan de modelkiezer van de overlay als Je CLI (bijvoorbeeld Ollama · llama3.2).

Beeldmodellen

Voeg schermafbeeldingen en afbeeldingen toe als je gekozen model multimodaal is. Pluely herkent de beeldfamilies (llava, gemma3, qwen-vl, llama3.2-vision, minicpm-v en meer) en zet de afbeeldingsknoppen automatisch aan. Bij modellen die alleen tekst aankunnen, blijven die knoppen uit, met een hint om een beeldmodel te downloaden.

Denkende modellen

Redeneermodellen zoals DeepSeek-R1 en Qwen3 worden volledig ondersteund: hun gedachtegang wordt automatisch weggehaald, zodat de overlay alleen het eindantwoord toont en nooit een muur van <think>-tekst.

Problemen oplossen

• ‘Ollama draait niet’: start de Ollama-app (of ollama serve) en klik op de vernieuwknop naast ‘Je CLI koppelen’.
• Geen modellen in de kiezer: download er een met ollama pull in je terminal en koppel daarna opnieuw.

Gerelateerd

• Een lokale CLI koppelen (alle opties)
• Local-first en privacy
• Je AI kiezen