Lokal AI.
Efterprøvet.
Jeres data bliver i huset. Og I ved, om svarene er rigtige.
Problemet
Lyder det
bekendt?
Skygge-AI
Medarbejderne kopierer allerede interne data ind i ChatGPT og lignende tjenester. Ingen ved præcis, hvad der ender der.
Blokeret projekt
AI-projektet står stille, fordi databeskyttelse eller kundekontrakter forbyder, at data forlader huset.
Ukendt kvalitet
Piloten kører, men ingen kan sige, om svarene er rigtige, eller om de er blevet dårligere efter seneste modelopdatering.
Alle tre kan løses, uden at jeres data forlader huset.
Fagsproget
Alle kan installere det.
At indstille det rigtigt er noget andet.
Ollama eller vLLM kører på en time. Så begynder spørgsmålene:
- Hvilken model er den bedste?
- Q4_K_M eller Q8?
- 27B eller 122B?
- MoE eller dense?
- Temperatur 0,2 eller 0,7?
- top_p, top_k, min_p?
- 32k eller 128k kontekst?
- KV-cache fuld?
- Speculative decoding?
- Hvorfor blev det pludselig dårligere?
Dem behøver I ikke at svare på. Jeg vælger model og indstillinger til jeres opgave og jeres hardware og måler, om det virkelig bliver bedre.
Se setup-reviewFra 2. december 2027. Den oprindelige frist 2. august 2026 blev udskudt med Digital Omnibus.
Pakker
Fire måder
at komme i gang.
Local AI Check
Jeres use cases, jeres data, jeres hardware. Jeg vurderer, hvad der giver mening lokalt, og hvad det koster.
Setup-review
Ollama, vLLM eller en færdig AI-server kører allerede, men svarene overbeviser ikke. Jeg gennemgår modelvalg, kvantisering, kontekst, sampling og prompts.
Pilot i eget hus
En model i jeres infrastruktur til én rigtig use case, fra en enkelt GPU-server til et Kubernetes-cluster. Med adgangsstyring, logning og krydstjek.
Kvalitet i drift
Tests bygget på jeres rigtige spørgsmål. Hver model- eller promptændring måles, før den går live.
Hvis tjekket viser, at lokal AI ikke kan betale sig for jer, siger jeg det.
Alle priser ekskl. moms. Hardware er ikke inkluderet.
Udbygningstrin
Nøglefærdigt,
med hardware.
Servere fra Wortmann i Tyskland. Jeg sætter dem op, tjekker kvaliteten og tager mig af driften.
Kompakt
Én server med én GPU til en intern chat-AI og søgning i jeres dokumenter.
- Wortmann-server med GPU
- Chat-brugerflade med firma-login, skåret ned til jeres brugere
- Forbindelse til jeres dokumenter
- Krydstjek af svarene
- Opsætning og oplæring
Virksomhed
Flere GPU'er til flere samtidige brugere, flere modeller og integration med jeres fagsystemer.
- Alt fra Kompakt
- Flere modeller parallelt
- Rettigheder pr. afdeling
- Månedlig kvalitetsrapport
Datacenter
Flere servere på Kubernetes, høj tilgængelighed og helt uden internetforbindelse, hvis det ønskes.
- Alt fra Virksomhed
- Høj tilgængelighed på Kubernetes
- Drift uden internet (air gap)
- Dokumentation til audits
Hvorfor der ikke står hardwarepriser her: RAM og SSD'er er knappe lige nu, og priserne ændrer sig fra uge til uge. I får et bindende tilbud til dagspris.
Brancher
Hvor jeg
kommer fra.
Over 20 års infrastruktur i disse brancher. Jeg kender kravene, før vi taler om AI.
Energi & forsyning
Net- og anlægsdata, krav til kritisk infrastruktur, adskilte netværk.
Offentlig sektor
Borger- og personaledata, udbudsregler og ønsket om uafhængighed af amerikanske leverandører.
Industri & produktion
Konstruktionsdata, produktionsviden og dokumentation, der ikke skal forlade fabrikken.
Logistik
Kunde-, forsendelses- og kontraktdata på tværs af mange lokationer.
Hvem bygger det
Ingen slides.
Kørende systemer.
Jeg er ikke AI-strateg. Jeg er platformingeniør med over 20 års Linux og Kubernetes inden for energi, logistik, offentlig sektor og industri.
Det, jeg anbefaler, kører først hos mig selv. Når et framework har en hukommelsesfejl, finder og rapporterer jeg den. Når en model begynder at drive, vil jeg se det, før andre opdager det.
Powered by Froala Editor
Egne systemer
I daglig brug.
Kvasir
Min testbænk. Med den tester jeg modeller og indstillinger, før de kommer til jer, og måler kvaliteten i drift. Hvis I ønsker det, kan den også blive til en løsning skræddersyet til jeres virksomhed.
NOMI
Privat AI på egen hardware med hukommelse og stemme. Al adfærd, den selv foreslår, godkendes af et menneske.
SiliconTrailer
Mit app-studie. Native apps til Mac og iOS, hvor data bliver på enheden.
Spørgsmål
Ofte stillede
spørgsmål.
Hvilken model er den bedste?
Der findes ingen bedste model. Der findes den rigtige til jeres opgave og jeres hardware, og det viser sig først med jeres egne spørgsmål. Derfor tester jeg flere kandidater mod et testsæt, før jeg anbefaler en.
Er kvaliteten lige så god som ChatGPT?
Til de fleste kontoropgaver som resuméer, dokumentsøgning og udkast er aktuelle åbne modeller gode nok. Ved meget krævende ræsonnement er de store cloud-modeller stadig foran. I tjekket tester jeg det med jeres rigtige opgaver, før I køber hardware.
Hvordan ved vi, at svarene er rigtige?
Svarene kan krydstjekkes af en anden model, og et fast testsæt bygget på jeres egne spørgsmål måler kvaliteten ved hver ændring. I ser resultatet i den månedlige rapport.
Får vi Kvasir?
Ikke som et færdigt produkt. Jeres medarbejdere får en enkel chat-brugerflade med forberedte assistenter, uden modelvalg og indstillingsjungle. Kvasir er mit værktøj, som jeg bruger til at tjekke, hvad der kører hos jer. Har I brug for mere, bygger jeg en løsning tilpasset jer på det grundlag.
Hvorfor står der ingen hardwarepriser her?
RAM og SSD'er har været knappe siden efteråret 2025, nogle priser er mangedoblet og ændrer sig løbende. En pris på denne side ville hurtigt være forkert. I får et tilbud til dagspris via Wortmann.
Kræver serveren internetforbindelse?
Nej. I drift kører alt i jeres eget netværk. Nye modeller og opdateringer kan også installeres uden internet.
Hvad sker der, når der kommer bedre modeller?
En ny model kører først gennem jeres testsæt. Kun hvis den klarer sig bedre, installerer jeg den efter jeres godkendelse.
Vi har ikke Kubernetes. Går det alligevel?
Ja. For de fleste virksomheder er én server nok. Kubernetes giver først mening med flere servere eller høje krav til tilgængelighed.
Kontakt
Lad os tale om
jeres data.
30 minutter, gratis, med live-demo. Kan bookes direkte eller via jeres formidler. Jeg svarer på dansk, tysk eller engelsk.
Christopher Rau
Stifter af OpnViking, Linux- og Kubernetes-ingeniør i over 20 år
OpnViking ApS