Använd Ollama med Pluely: helt lokal AI, helt offline

Anslut Ollama, så svarar Pluelys överlägg med modeller som körs helt på din dator: ingenting lämnar datorn, och det fungerar offline.

1. Installera och hämta en modell

Installera Ollama från ollama.com, starta det och hämta minst en modell i terminalen, till exempel ollama pull llama3.2 (eller gemma3 för bildförståelse och deepseek-r1 för resonemang).

2. Anslut det i Pluely

1. Öppna Översikt → Dev Space → Anslut ditt CLI.
2. Pluely hittar Ollama automatiskt. Klicka på Anslut.
3. Välj en modell, vilket är obligatoriskt för Ollama. Panelen Modell listar allt du har hämtat lokalt, och listan uppdateras när du ansluter igen.
4. Det visas högst upp i överläggets modellväljare som Ditt CLI (till exempel Ollama · llama3.2).

Modeller med bildförståelse

Bifoga skärmavbilder och bilder när den valda modellen är multimodal. Pluely känner igen familjerna med bildförståelse (llava, gemma3, qwen-vl, llama3.2-vision, minicpm-v med flera) och aktiverar bildreglagen automatiskt. För modeller som bara hanterar text förblir de avaktiverade, med ett tips om att hämta en modell med bildförståelse.

Modeller som tänker

Resonerande modeller som DeepSeek-R1 och Qwen3 stöds fullt ut: deras tankekedja tas bort automatiskt, så överlägget visar bara det slutliga svaret, aldrig en vägg av <think>-text.

Felsökning

• ”Ollama körs inte”: starta Ollama-appen (eller ollama serve) och klicka på uppdateringsknappen bredvid ”Anslut ditt CLI”.
• Inga modeller i väljaren: hämta en med ollama pull i terminalen och anslut sedan igen.

Relaterat

• Anslut ett lokalt CLI (alla alternativ)
• Lokalt först och integritet
• Välj din AI