Chattgränssnitt
Open WebUI, LibreChat och AnythingLLM ger ett chattgränssnitt som liknar ChatGPT men körs på din server. AnythingLLM kan dessutom svara utifrån dina egna dokument.
Lokala modeller
Ollama kör öppna språkmodeller direkt på servern, så inget skickas till en extern leverantör. Stora modeller kräver mycket minne och helst ett grafikkort. En vanlig VPS räcker för små modeller och för gränssnitt som anropar en extern modell.
Flöden och agenter
n8n, Flowise, Langflow och Dify bygger flöden med AI-steg i ett visuellt gränssnitt, till exempel en kundtjänstbot eller en veckorapport.
API-nycklar
Lägg nycklarna som miljövariabler på tjänsten i Dokploy, aldrig i koden. Sätt en kostnadsgräns hos leverantören så att en trasig loop inte blir dyr.