Ett nytt experiment visar hur företag kan köra AI-modeller helt offline, bakom egen brandvägg. Målet är en komplett AI-miljö utan molntjänster.
Vi har byggt ett chattgränssnitt som kopplar till lokala AI-modeller. Experimentet körs helt på klientsidan, utan backend eller molnkoppling. Det fungerar med flera modeller samtidigt - Llama, Mistral, Googles modeller och andra, beroende på vilken komplexitet uppgiften kräver.
Tanken är att visa hur företag kan skapa egna RAG-lösningar som hjälper dem med agenter och automatiseringar, helt offline. Allt som behövs är att modellerna körs lokalt inom företagets nätverk.
Experimentet blir mest intressant som komponent i större system. Kombinerat med vår Offertgenerator eller Faktura-hantering blir det en lokal AI-server som skapar direkt nytta på ett säkert sätt. Företag skulle kunna generera offerter offline, eller hantera inkommande leverantörsfakturor, helt säkert inom egen infrastruktur.
Det matchar en växande efterfrågan. Många företag vill ha AI-hjälp men är ovilliga att skicka känslig data till externa molntjänster. Med lokala modeller kan de få båda delarna - AI-kapacitet och full kontroll över sin data.
Gränssnittet har mörkt tema och fokuserar på användarvänlighet. Målet är att visa att lokal AI inte behöver vara krånglig att använda, även om den körs helt frikopplad från internet.