Lokal AI: kan bedriften kjøre AI på sin egen maskin?
«Dette kan vi ikke legge inn i ChatGPT.»
Det er kanskje den setningen jeg hører oftest når jeg er ute hos bedrifter. Kundedata, personopplysninger, ting som rett og slett ikke skal ut av huset. Det er en helt rimelig bekymring.
Men det finnes et alternativ de færreste har hørt om. Det heter lokal AI, og da kjører AI-en på din egen maskin. Ingenting du skriver forlater huset.
Hva lokal AI faktisk er
En språkmodell er AI-en bak en chatbot som ChatGPT eller Claude. Til vanlig sitter den i et datasenter hos leverandøren. Du skriver noe, teksten sendes dit, og svaret kommer tilbake.
Lokal AI snur på det. Du laster ned hele modellen og kjører den på din egen PC, eller på en server som står hos dere. Lokal AI svarer uten at noe forlater maskinen.
Mange av modellene er gratis å laste ned og bruke. Qwen, DeepSeek, Mistral og Gemma er blant de mest kjente. Du kan faktisk slå av internett og fortsatt sitte og prate med den.
Hvorfor det plutselig er interessant
To grunner. Den første er dataene. Når ingenting forlater maskinen, slipper du å sende kundedata og forretningshemmeligheter til en stor aktør i utlandet. Det gjør også personvernreglene lettere å forholde seg til.
Den andre er avhengighet. Mye av AI-en vi bruker styres av noen få selskaper, og hvem som får tilgang til de kraftigste modellene avgjøres et helt annet sted enn i Norge.
Men er lokal AI god nok?
Helt ærlig: lokal AI er ikke like god som de beste skybaserte AI-modellene. Men trenger man alltid beste modell? De lokale modellene ligger noen måneder bak de aller beste skytjenestene. Tenk på det som fjorårets toppmodell av telefonen. I det daglige merker du knapt forskjell. Det er bare spesialoppgavene som avslører gapet.
Til hverdagsbruk er lokal AI mer enn god nok: oppsummere, skrive utkast, sortere, stille spørsmål mot egne dokumenter. Til de tyngste oppgavene, som mye koding eller lange oppgaver den skal løse på egen hånd, leder skyen fortsatt klart. Og det er nettopp poenget for de fleste bedrifter. Det meste vi gjør i løpet av en arbeidsdag er ikke de tyngste oppgavene.
Hva skal til for å komme i gang
Mindre enn du tror. De mindre modellene kjører på en god kontor-PC med skjermkort, eller en Mac med mye minne. De aller største krever en egen server, og er ikke for hvermann.
Selve oppsettet tar et kvarter. Du installerer et program der modellen skal bo, for eksempel Ollama eller LM Studio, laster ned modellen du vil bruke, og er i gang. Ingen konto. Ingen data ut.
Bør dere bruke det?
Det er ikke enten eller. En vanlig løsning blir en kombinasjon: lokal AI til hverdagen og til alt som rører sensitive data, og en sky-lisens til de få som trenger den tyngste kraften.
Lokal AI er ikke svaret på alt. Men for data du ikke vil dele, er det et reelt alternativ, og terskelen er lavere enn de fleste tror.
Celine og jeg tok hele praten i siste episode av AI Forklart. Hør episoden om lokal AI her: AI Forklart - Hva er lokale AI-modeller?