Chattgränssnitt

Open WebUI, LibreChat och AnythingLLM ger ett chattgränssnitt som liknar ChatGPT men körs på din server. AnythingLLM kan dessutom svara utifrån dina egna dokument.

Lokala modeller

Ollama kör öppna språkmodeller direkt på servern, så inget skickas till en extern leverantör. Stora modeller kräver mycket minne och helst ett grafikkort. En vanlig VPS räcker för små modeller och för gränssnitt som anropar en extern modell.

Flöden och agenter

n8n, Flowise, Langflow och Dify bygger flöden med AI-steg i ett visuellt gränssnitt, till exempel en kundtjänstbot eller en veckorapport.

API-nycklar

Lägg nycklarna som miljövariabler på tjänsten i Dokploy, aldrig i koden. Sätt en kostnadsgräns hos leverantören så att en trasig loop inte blir dyr.