Lokale AI voor bedrijven: voordelen, kosten en wanneer het loont

De vraag komt inmiddels in bijna elk eerste gesprek langs. Een directeur wil AI inzetten op offertes, dossiers of klantcorrespondentie, en ergens halverwege valt de zin: “maar die data gaat toch niet naar Amerika?” Het is een terechte vraag, en het antwoord bepaalt vaker de architectuur dan de toepassing zelf. Lokale AI — een taalmodel dat draait op je eigen hardware of in je eigen afgeschermde omgeving — is het antwoord waar steeds meer Nederlandse organisaties op uitkomen.

Maar er is dit jaar iets veranderd waar vrijwel geen enkel artikel over lokale AI rekening mee houdt, en het draait het gangbare verkoopverhaal om. De prijzen van AI via de cloud zijn de afgelopen jaren fors gedaald, terwijl de prijzen van AI-hardware in 2026 juist fors zijn gestegen door een wereldwijd tekort aan geheugenchips. De zuivere kostenreden om lokaal te draaien is daarmee zwakker geworden. De redenen die overblijven — controle, voorspelbaarheid, permanentie en aantoonbaarheid — zijn juist sterker geworden. Hieronder staan beide kanten, met de rekensom erbij.

Wat is lokale AI precies?

Lokale AI is een AI-model dat draait op infrastructuur die jij beheert: een server in je eigen serverruimte, een werkstation op kantoor, of een afgeschermde omgeving bij een hostingpartij waar jij de sleutels van hebt. De gegevens die je erin stopt, gaan niet over het internet naar een externe dienst. De verwerking gebeurt bij jou, of in ieder geval binnen een grens die jij hebt getrokken.

Dat staat tegenover de standaardmanier waarop de meeste bedrijven vandaag AI gebruiken: via een API of een chatvenster van een aanbieder als OpenAI, Anthropic, Google of Microsoft. Daar wordt jouw prompt, inclusief het contract dat je erin plakt, naar een datacentrum van die aanbieder gestuurd, verwerkt, en teruggestuurd. Dat is niet per definitie onveilig. Zakelijke abonnementen bieden verwerkersovereenkomsten en garanderen dat er niet op jouw data wordt getraind. Maar je contract ligt dan wel op een schijf die niet van jou is, in een land waar jij de regels niet maakt.

Dat het onderwerp op bestuurstafels ligt, is geen gevoel. In het onderzoek Private Cloud Outlook 2026 van Broadcom, onder 1.800 senior IT-beslissers bij organisaties met meer dan duizend medewerkers, daalde het aandeel dat productie-inferentie in de publieke cloud draait of gaat draaien in een jaar tijd van 56 naar 41 procent; van de organisaties die werklasten terughalen, verplaatst 43 procent specifiek AI-training, taalmodellen en inferentie. Broadcom verkoopt zelf private-cloudsoftware, dus lees het cijfer met die belangenpositie erbij — maar de richting wordt bevestigd door Deloitte, dat in zijn State of AI in the Enterprise (ruim 3.200 leidinggevenden, 24 landen) vaststelde dat 77 procent het land van herkomst van een AI-leverancier meeweegt in de keuze.

Het verwarrende is dat “lokaal” in de praktijk drie verschillende dingen kan betekenen, met heel verschillende kostenplaatjes en compliancegevolgen. Wie die drie door elkaar haalt, koopt vrijwel altijd het verkeerde.

Wat betekent “lokaal” precies? Drie smaken lokale AI

Er zijn drie manieren om AI dichter bij huis te draaien. On-premise: eigen hardware in je eigen netwerk, €5.000 tot €60.000 eenmalig. Private cloud of eigen VPC: een afgeschermde omgeving bij een Europese hostingpartij, €300 tot €2.500 per maand. Open model via een EU-endpoint: afgerekend per gebruik, enkele tientjes tot enkele honderden euro's per maand. Alleen de eerste is lokaal in de letterlijke zin; de andere twee heten beter private AI. Ze verschillen in wat je controleert, wat het kost en hoe zwaar het beheer is.

Alleen de eerste variant is lokaal in de letterlijke zin. De andere twee zijn beter te omschrijven als private AI: je deelt de infrastructuur niet met de modelaanbieder, je data blijft in de EU, en je kunt van model wisselen zonder je applicatie te herbouwen. Juridisch is dat onderscheid scherper dan het lijkt. Bij een afgeschermde omgeving bij een externe partij is er nog steeds een verwerker en dus een doorgifte; bij verwerking op je eigen hardware, zonder externe verbinding, kan die doorgifte per definitie niet plaatsvinden. In onze gesprekken is de tweede variant meestal het juiste antwoord. De eerste is vaak een reflex op een risico dat op papier groter is dan in de praktijk.

De vraag is zelden “cloud of lokaal”. De vraag is: welke gegevens mogen welke grens over, en wat is de goedkoopste manier om die grens te bewaken.

Wat zijn de voordelen van lokale AI? De negen die tellen

De negen voordelen van lokale AI zijn: je data verlaat je eigen omgeving niet, je kosten zijn voorspelbaar in plaats van een tokenrekening, je hebt geen lock-in en geen model dat wordt uitgefaseerd, je hebt lagere latency en geen ratelimieten, het werkt zonder internet, je kunt het model afstemmen op je eigen werk, je bedrijfsgeheimen blijven binnen, je kunt aantonen hoe je het inricht, en je bent minder afhankelijk van één land. Privacy wordt vaak als hét argument genoemd, maar is er dus één van negen — en voor veel bedrijven niet eens de belangrijkste. Hieronder staan ze op volgorde van hoe vaak ze in de praktijk de doorslag geven.

1. Je data verlaat je eigen omgeving niet

Dit is het voordeel waar iedereen mee begint, en terecht. Bij lokale AI wordt een cliëntdossier, een patenttekst of een personeelsbestand verwerkt op een machine die jij beheert. Er is geen doorgifte naar een derde land, geen verwerkersovereenkomst met een Amerikaanse partij, geen discussie over wat er gebeurt als een adequaatheidsbesluit sneuvelt bij het Hof van Justitie. Onder de AVG verandert dat je verhaal van “wij hebben afspraken gemaakt met een verwerker in een derde land” naar “de verwerking gebeurt bij ons”. Dat is juridisch een wezenlijk kortere keten, en in een audit of een DPIA scheelt het maanden discussie. Let wel: besteed je het beheer uit, dan is die beheerpartij nog steeds verwerker en heb je nog steeds een verwerkersovereenkomst, alleen wel met een partij binnen de EU en zonder doorgifte naar buiten de EER. Voor beroepsgroepen met een wettelijk beroepsgeheim is het vaak de enige uitleg die standhoudt; we werkten dat uit voor het notariaat en het beroepsgeheim.

2. Voorspelbare kosten in plaats van een tokenrekening

Let op de formulering: voorspelbaar, niet goedkoper. Cloud-AI rekent af per verwerkt woorddeel, in vakjargon een token. Dat is prettig bij lage volumes en pijnlijk zodra AI in een proces gaat zitten dat duizenden keren per dag draait. Een documentcontrole die per stuk een paar cent kost, is verwaarloosbaar bij tien documenten en een serieuze kostenpost bij tienduizend. Lokale AI draait die logica om: je betaalt vooraf voor capaciteit, en daarna is het marginale gebruik vrijwel gratis.

Dat heeft twee gevolgen die zwaarder wegen dan de rekensom zelf. Je begroting wordt een vast bedrag in plaats van een variabele post die meebeweegt met enthousiasme. En de rem gaat van je medewerkers af: niemand hoeft zich nog af te vragen of die extra analyse “wel mag” van het budget. In het eerder genoemde Broadcom-onderzoek is security en compliance met 51 procent de belangrijkste reden om werklasten uit de publieke cloud terug te halen; kostenvoorspelbaarheid en prestaties delen daarna de tweede plaats met 39 procent elk. Of het ook goedkoper uitpakt, hangt volledig af van je volume; de rekensom staat verderop.

3. Geen lock-in, en geen model dat plotseling verdwijnt

Wie een proces bouwt op één commercieel model, bouwt op een fundament dat de leverancier mag verplaatsen. Prijzen worden aangepast, modellen worden uitgefaseerd, gedrag verandert stilletjes na een update en je zorgvuldig afgestelde prompts leveren opeens andere uitkomsten. Dit is geen theoretisch risico: commerciële modellen hebben in de praktijk een levensduur van grofweg twaalf tot achttien maanden voordat ze uit de roulatie gaan, en die termijn wordt eerder korter dan langer. Hoeveel tijd je krijgt verschilt sterk per aanbieder: de een hanteert minimaal een half jaar voor algemeen beschikbare modellen, de ander zestig dagen, en sommige komen niet verder dan een maand. Die aankondiging haalt de kosten hoe dan ook niet weg.

Bij een open-weight model dat jij hebt gedownload, gebeurt dat niet: die gewichten staan op jouw schijf en blijven doen wat ze deden. Voor processen met een certificerings- of validatieverplichting is dat geen luxe maar een voorwaarde. Wie een werkstroom één keer heeft gevalideerd — voor een AI Act-beoordeling, een ISO-audit of een interne kwaliteitsprocedure — wil die validatie niet elke anderhalf jaar overdoen omdat een leverancier zijn assortiment heeft opgeschoond. Modelpermanentie is in dat licht geen technische voorkeur maar een compliancekenmerk, en het is de kostenpost die in vrijwel geen enkele vergelijking tussen cloud en lokaal wordt meegerekend. Welke modellen zich waarvoor lenen, vergelijken we in het beste AI-model voor bedrijven.

4. Lagere latency en geen ratelimieten

Een lokaal model hoeft niet over het internet. Dat scheelt netwerkvertraging, wat je merkt zodra AI in een interactieve stap zit: een medewerker die tijdens een telefoongesprek een dossier laat samenvatten, of een scanner die documenten aan de lopende band classificeert. Belangrijker nog is dat er geen ratelimieten zijn. Cloudaanbieders beperken hoeveel verzoeken je per minuut mag doen, en juist bij batchverwerking is dat het knelpunt. Denk aan een archief van tienduizend documenten doorlopen. Lokaal bepaalt alleen je eigen hardware de doorvoer, en die kun je 's nachts volledig laten doordraaien.

5. Het werkt ook zonder internet

Er zijn meer plekken zonder betrouwbare verbinding dan bedrijven zich realiseren: een bouwplaats, een schip, een productiehal met een afgeschermd OT-netwerk, een locatie in het buitenland. Een lokaal model werkt daar gewoon door. Datzelfde geldt bij een storing van je provider of van de AI-aanbieder zelf. Zit AI eenmaal in een primair proces, dan heb je daarmee een beschikbaarheidsrisico binnengehaald dat lokaal draaien wegneemt. Voor volledig afgesloten netwerken is dit zelfs de enige optie die bestaat.

6. Je kunt het model echt op je eigen werk afstemmen

Bij een cloudmodel stuur je het gedrag met prompts en met context. Bij een lokaal model kun je dieper: het model finetunen op je eigen calculaties, je eigen aktes of je eigen servicetickets, zodat het de taal van je organisatie overneemt in plaats van die elke keer voorgeschoteld te krijgen. Dat levert vooral winst op bij smalle, hoogfrequente taken zoals classificatie, extractie en standaardcorrespondentie, waar een klein afgestemd model een groot generiek model verrassend vaak verslaat op precies dat ene taakje. Voor de meeste toepassingen begin je overigens niet met finetunen maar met RAG: het model bevragen op je eigen documenten. Dat is sneller, goedkoper en gaat verder dan mensen denken.

7. Je intellectueel eigendom blijft aantoonbaar van jou

Privacy gaat over persoonsgegevens. Minstens zo waardevol is alles wat géén persoonsgegeven is: je calculatiemodellen, je broncode, je onderhandelingsstrategie, je receptuur, je klantenbestand. Dat zijn precies de gegevens die AI het nuttigst maken en die je het minst graag deelt. Bij lokale AI is die afweging weg: het bedrijfsgeheim blijft binnen je eigen infrastructuur, ook wanneer je het model volledig loslaat op je archief. Voor technische bedrijven en adviespraktijken is dit vaak het argument dat zwaarder weegt dan de AVG. Het bekendste voorbeeld blijft Samsung, waar medewerkers in 2023 binnen enkele weken broncode en interne vergadernotulen in een publieke chatdienst plakten; het bedrijf beperkte daarna het gebruik drastisch. Niemand handelde daar kwaadwillend — ze wilden gewoon sneller klaar zijn.

8. Aantoonbaarheid voor AI Act, AVG en sectorregels

Toezichthouders vragen niet of je AI veilig gebruikt, ze vragen of je kunt aantonen hóé. Bij lokale AI heb je alle bewijsstukken zelf in handen: welke versie van welk model draaide op welk moment, welke gegevens gingen erin, wie had toegang, hoe lang zijn de logs bewaard. Je hoeft er geen leverancier voor te bevragen. Met de verplichtingen uit de EU AI Act die stapsgewijs van kracht worden, en met sectorale eisen als NEN 7510 in de zorg of de BIO bij de overheid, wordt die controleerbaarheid een harde eis. Wat je concreet moet regelen, staat in onze AI Act-checklist voor het mkb.

9. Digitale soevereiniteit: minder afhankelijk van één land

Het laatste voordeel is het minst technisch en het snelst belangrijker geworden. Vrijwel alle grote AI-aanbieders zijn Amerikaans, en wetgeving als de CLOUD Act geeft Amerikaanse autoriteiten onder voorwaarden toegang tot data die bij Amerikaanse bedrijven staat, ook als die data fysiek in Europa ligt. Voor de meeste bedrijven is dat een theoretisch risico. Voor organisaties in kritieke infrastructuur, defensie, zorg of het openbaar bestuur is het een reëel bestuurlijk vraagstuk geworden. Lokale AI en Europese hosting halen die afhankelijkheid uit de keten. Dat is risicospreiding, precies zoals je dat bij elke andere strategische leverancier doet. Open modellen zijn wereldwijd allang geen buitenbeentje meer: op OpenRouter, het grootste openbare doorgeefluik voor modelverkeer, passeerden ze medio 2026 de helft van al het verkeer. West-Europa loopt daarin juist achter, samen met Zuid-Amerika de enige twee regio's waar gesloten modellen nog de overhand hebben.

Wat zijn de nadelen van lokale AI?

Lokale AI heeft vijf harde beperkingen: de allerbeste modellen draaien niet lokaal, je koopt vooraf en bij lage bezetting betaal je voor lucht, het beheer kost vier tot acht uur per maand, lokaal draaien maakt je niet automatisch AVG-conform, en opschalen kost een inkooptraject in plaats van een schuifje. Wie er drie of meer als blokkade herkent, hoort in een private omgeving of gewoon in de cloud. Vrijwel alle Nederlandse pagina's over dit onderwerp zijn geschreven door partijen die lokale AI verkopen, en die lijst ontbreekt daar meestal.

De allerbeste modellen draaien niet lokaal

Er zit een reëel kwaliteitsverschil tussen de grootste cloudmodellen en wat je op eigen hardware kwijt kunt. Voor lange, complexe redeneertaken — een juridische analyse over honderden pagina's, een strategisch vraagstuk met veel randvoorwaarden — presteren de topmodellen van OpenAI, Anthropic en Google nog altijd merkbaar beter. Voor het gros van het zakelijke werk (samenvatten, classificeren, extraheren, standaardteksten opstellen, vragen beantwoorden over eigen documenten) is dat verschil in de praktijk klein tot verwaarloosbaar. De vuistregel: hoe smaller en repetitiever de taak, hoe kleiner het gat.

Je koopt vooraf, en bezetting bepaalt of dat loont

Cloud-AI is duur bij hoog volume en vrijwel gratis bij laag volume; bij eigen hardware is het omgekeerd. Wie een server koopt voor twintig medewerkers die er twee keer per week iets in typen, heeft een dure ervaring gekocht. De rekensom staat verderop: lokale AI wordt aantrekkelijk bij volume, niet bij enthousiasme.

Beheer is geen bijzaak

Modellen updaten, beveiligingspatches, back-ups, toegangsbeheer, monitoring, en iemand die weet wat te doen als de doorvoer instort. Dat is geen fulltimebaan, maar het is ook niet nul. Organisaties zonder eigen IT-beheer moeten dat inkopen — en dan is een beheerde private omgeving vaak goedkoper dan een eigen server met een externe beheerder erbij. Hoe je die afweging maakt zonder eigen developers, staat in AI implementeren zonder IT-afdeling.

Lokaal is niet automatisch veilig of AVG-conform

Dit is het hardnekkigste misverstand. Een model op eigen hardware met open toegang, zonder logging, zonder rechtenstructuur en zonder afspraken over wat medewerkers erin mogen zetten, is minder veilig dan een goed ingericht zakelijk cloudabonnement. De AVG stelt eisen aan grondslag, bewaartermijnen, rechten van betrokkenen en beveiliging — en die gelden onverkort voor een server in je eigen meterkast. Lokaal draaien haalt één risico weg en verplaatst de rest naar jou. Leg daarom eerst vast wat er wel en niet in mag; daarvoor is een werkbaar AI-beleid de goedkoopste maatregel die er is.

Opschalen gaat met een bestelling, niet met een schuifje

Groeit het gebruik sneller dan verwacht, dan schaal je in de cloud bij met een instelling. Lokaal schaal je bij met een inkooptraject, levertijd en installatie. Voor processen met sterk wisselende belasting is dat een reëel nadeel.

Wat vraagt de wetgeving in 2026 van je?

Drie wettelijke sporen lopen in 2026 tegelijk: de AVG (grondslag, verwerkersovereenkomst, doorgiftemechanisme), de EU AI Act (sinds 2 augustus 2026 gelden de transparantieverplichtingen; de hoogrisicoverplichtingen zijn uitgesteld) en NIS2 en de Cyberbeveiligingswet (zorgplicht inclusief leveranciersketen). Ze wijzen alle drie dezelfde kant op: je moet kunnen aantonen waar je data staat, wie erbij kan en welk systeem wat doet. Dat is precies wat lokale en private AI makkelijker maken.

• AVG. De basis blijft: een grondslag, een verwerkersovereenkomst met elke partij die namens jou verwerkt, en bij doorgifte buiten de EER een geldig doorgiftemechanisme. Verwerk je lokaal, dan vervalt dat laatste blok volledig.
• EU AI Act. De verplichtingen komen gefaseerd. Het verbod op onaanvaardbare toepassingen en de eis van AI-geletterdheid gelden sinds februari 2025, de regels voor algemene AI-modellen sinds augustus 2025, en sinds 2 augustus 2026 gelden de transparantieverplichtingen uit artikel 50: een chatbot moet zich als AI bekendmaken en AI-gegenereerd materiaal moet machineleesbaar zijn gemarkeerd. De hoogrisicoverplichtingen zijn met de Digital Omnibus, in werking sinds 27 juli 2026, uitgesteld naar 2 december 2027 voor zelfstandige hoogrisicosystemen en naar 2 augustus 2028 voor AI in gereguleerde producten. Dat is uitstel, geen afstel: voor gebruikers betekent het vooral dat je nu de tijd hebt om vast te leggen welke AI-systemen je inzet, waarvoor, en met welk risicoprofiel. Wij zetten de stappen op een rij in de AI Act voor Nederlandse bedrijven.
• NIS2 en de Cyberbeveiligingswet. Valt je organisatie onder de zorgplicht, dan wordt een AI-systeem dat aan je primaire proces hangt onderdeel van je risicobeheer — inclusief leveranciersketen. Een AI-dienst buiten je eigen beheer is dan een ketenafhankelijkheid die je moet documenteren en beheersen.

Daar komt een argument bij dat weinig pagina's noemen: de CLOUD Act. Die Amerikaanse wet kan Amerikaanse aanbieders verplichten data te overhandigen, ook wanneer die data fysiek in een Europees datacentrum staat. Juridisch is daar veel over te zeggen en de praktische kans is voor de meeste bedrijven klein, maar voor organisaties in zorg, openbaar bestuur en kritieke infrastructuur is het een risico dat inmiddels op bestuurstafels ligt. Wie dat risico wil uitsluiten, komt uit bij Europese hosting of eigen hardware.

En dan is er nog het probleem dat je hoe dan ook hebt: shadow AI. Verbied je AI, dan gebruiken medewerkers hun eigen ChatGPT-account op hun eigen telefoon, met bedrijfsdata die je niet ziet en niet kunt terughalen. Een goed ingerichte, snelle interne AI-omgeving is daarom ook een beveiligingsmaatregel. Mensen wijken alleen uit als het alternatief slechter is.

Een verbod op AI levert geen controle op. Het levert alleen gebruik op dat je niet meer kunt zien.

Wat kost lokale AI? De herrekende som voor 2026

Lokale AI kost in 2026 grofweg €5.000 tot €9.000 eenmalig voor een werkstation, €15.000 tot €40.000 voor een serveropstelling voor een team, of €300 tot €2.500 per maand voor een gehuurde private GPU-omgeving. Reken bij eigen hardware op €1.270 tot €1.810 per maand aan totale kosten: afschrijving, stroom, koeling en beheer. Eigen hardware verdient zich pas terug boven ongeveer €3.000 per maand aan structureel cloudverbruik.

Dat zijn de getallen. Nu de onderbouwing, want daar valt of staat elke vergelijking mee. Lokale AI heeft hoge vaste kosten en vrijwel geen variabele kosten, cloud-AI precies andersom. Er is dus een omslagpunt, en dat kun je uitrekenen — mits je je aannames erbij zet. Dat laatste doet bijna niemand, en daarom kloppen de meeste rekensommen op internet niet meer.

De hardware

De doorslaggevende specificatie is VRAM: het werkgeheugen van de grafische kaart. Een model moet er volledig in passen, anders wordt het traag of draait het niet. 4-bits quantisatie is de standaardmanier om modellen compacter te maken met beperkt kwaliteitsverlies. De vuistregel daarbij is ongeveer een halve tot tweederde gigabyte VRAM per miljard parameters, plus ruimte voor de context. Reken op 10 tot 20 procent extra bij korte prompts, maar houd er rekening mee dat die opslag flink oploopt zodra je met lange documenten of veel gelijktijdige gebruikers werkt: het contextgeheugen schaalt mee met beide. De tabel hieronder rekent daarom bewust ruim.

Waarom die hardware in 2026 duurder is geworden

Als je een rekensom uit 2024 of 2025 tegenkomt waarin lokale AI zich binnen een half jaar terugverdient, klopt die niet meer. Er is dit jaar een wereldwijd tekort aan geheugenchips ontstaan, aangejaagd door de bouw van AI-datacentra, en dat werkt rechtstreeks door in de prijzen van grafische kaarten en werkgeheugen. Verschillende kaarten kostten deze zomer aanzienlijk meer dan hun oorspronkelijke adviesprijs, in sommige gevallen anderhalf tot ruim twee keer zoveel, en fabrikanten hebben adviesprijzen tussentijds verhoogd met verwijzing naar de geheugenkosten. Analisten verwachten pas op zijn vroegst in 2028 verlichting.

Tegelijk is er precies het omgekeerde gebeurd aan de cloudkant: de prijs per token — het woorddeel waarin AI-gebruik wordt afgerekend — is voor een model van een gegeven kwaliteitsniveau met ordes van grootte gedaald. De twee curves bewogen dit jaar in tegengestelde richting. Daarom beginnen we bij nieuwe opdrachten zelden nog met het kostenargument.

De rekensom die het omslagpunt bepaalt

Een concreet voorbeeld, met de aannames uit het kader hierboven. Neem een server van €25.000, afgeschreven over drie jaar.

Een opstelling als deze verwerkt bij dertig procent benutting grofweg honderd tot honderdvijftig miljoen woorddelen per maand. Dat getal heb je nodig, want zonder capaciteit zegt een kostenpost niets: pas als je weet wat je ervoor terugkrijgt, kun je hem naast je cloudrekening leggen.

Zet daar je huidige of verwachte cloudverbruik naast. Een medewerker die AI intensief gebruikt, verbruikt in de praktijk enkele miljoenen woorddelen per maand; afhankelijk van het gekozen model kost dat grofweg enkele euro's tot enkele tientjes per persoon per maand. Daaruit volgt de vuistregel:

• Onder circa €1.000 per maand aan cloudverbruik verdient eigen hardware zich vrijwel nooit terug. Blijf in de cloud, of kies een private omgeving per gebruik.
• Tussen €1.000 en €3.000 per maand is het een gelijk spel. De doorslag geeft dan compliance en voorspelbaarheid, niet de rekensom.
• Boven circa €3.000 per maand structureel wint eigen hardware, en het verschil loopt daarna snel op omdat je marginale kosten nagenoeg nul zijn.

Waarom dat omslagpunt op ongeveer het dubbele van de maandlast ligt en niet op de maandlast zelf: je houdt vrijwel altijd een cloudlijn open voor de zware redeneertaken, je hebt eenmalige migratie- en validatiekosten, en bij een bezetting van dertig procent benut je maar een deel van wat je hebt gekocht. Let er ook op dat een drempel in woorddelen en een drempel in euro's niet hetzelfde zeggen: vijftig miljoen woorddelen per maand kost bij een goedkoop open model enkele tientjes en bij een topmodel enkele honderden euro's. Reken daarom met je eigen factuur, niet met een aantal uit een onderzoek.

Vier onderzoekers, van wie twee verbonden aan Carnegie Mellon University, publiceerden in 2025 een van de weinige openbare vergelijkingen die de aannames volledig op tafel legt. Het is een preprint, niet peer-reviewed, en hun beeld is genuanceerder dan het meestal geciteerd wordt: kleine opstellingen kunnen zich al binnen enkele maanden terugverdienen, organisaties die tussen de tien en vijftig miljoen woorddelen per maand verwerken noemen zij het gunstigste segment voor eigen hardware, en boven de vijftig miljoen woorddelen per maand worden ook de grote open modellen economisch interessant. Even belangrijk is wat zij expliciet niet meerekenden: zij beperken hun kostenmodel naar eigen zeggen tot de stroom die het model zelf verbruikt, en laten personeel, koeling, netwerk, opslag, back-up, beveiliging, huisvesting en onderhoud buiten beschouwing. Wie hun cijfers gebruikt zonder die kanttekening, onderschat de werkelijke kosten aanzienlijk.

De variabele die alles bepaalt: bezettingsgraad

Een GPU kost hetzelfde of hij nu rekent of stilstaat. Draait je server op dertig procent benutting in plaats van zeventig, dan wordt de kostprijs per verwerkt document ruim twee keer zo hoog: dezelfde vaste kosten worden over minder dan de helft van het werk verdeeld. In de praktijk ligt de benutting van AI-hardware structureel veel lager dan mensen aannemen, simpelweg omdat kantoren 's nachts leeg zijn en niemand op zondag documenten laat controleren. Dit is de reden dat batchverwerking — het archief 's nachts laten doorlopen — lokale AI zoveel aantrekkelijker maakt dan interactief gebruik: het vult de uren waarin de machine anders niets doet.

Drie werklastprofielen

Of het loont hangt niet af van je bedrijfsgrootte maar van het soort werk. Grofweg zijn er drie profielen, met drie verschillende antwoorden.

Wil je de bredere kostenopbouw van een AI-traject zien, los van waar het draait, dan staat die in wat kost AI-implementatie.

Lokale AI is geen besparing op AI. Het is een verschuiving van variabele naar vaste kosten — en die loont pas bij volume, bezetting en een reden om het te willen.

Nog een Nederlandse factor: netcongestie

Een overweging die je in internationale artikelen nooit tegenkomt maar in Nederland heel concreet is: het stroomnet zit vol. Ongeveer vijftienduizend grootverbruikers staan in de wachtrij voor een nieuwe of zwaardere aansluiting, met wachttijden die in congestiegebieden oplopen tot twee à vijf jaar, en sinds 1 juli 2026 komen ook kleinverbruikers op die wachtlijst terecht. Dat werkt twee kanten op. Een werkstation of compacte server van enkele honderden watt past doorgaans probleemloos binnen je bestaande aansluiting — dat is precies het soort AI dat je zonder netbeheerder kunt regelen. Een serieus GPU-cluster is een heel ander verhaal en is op veel Nederlandse locaties simpelweg niet meer aan te sluiten. Ook dat pleit voor klein beginnen en voor een private omgeving bij een partij die de stroom al heeft.

Welke modellen draaien lokaal in 2026?

Lokale AI draait op open-weight modellen: modellen waarvan de gewichten vrij te downloaden zijn, zodat je ze op eigen hardware kunt draaien. De bekendste families zijn Llama van Meta, Mistral uit Frankrijk, Qwen van Alibaba, Gemma van Google, Phi van Microsoft, DeepSeek, GLM en gpt-oss van OpenAI. Elke familie bestaat in meerdere groottes — dezelfde naam, maar in een variant voor een laptop en een variant voor een serverrek.

De bekendste families zijn Llama van Meta, Mistral uit Frankrijk, Qwen van Alibaba, Gemma van Google, Phi van Microsoft, DeepSeek, GLM en de open-weight modellen die OpenAI onder de naam gpt-oss uitbracht. Ze verschillen in licentievoorwaarden, dus controleer die voordat je iets commercieel inzet — “open” betekent niet automatisch onbeperkt zakelijk gebruik. Modelversies wisselen bovendien snel; kijk altijd naar de actuele variant van een familie in plaats van naar een versienummer uit een artikel.

Het kwaliteitsgat met de cloud is kleiner geworden dan de meeste mensen denken. Analyses van de open-modelmarkt in 2026 laten zien dat de beste open modellen op capaciteitsindexen nog ongeveer één releasecyclus achterlopen op de gesloten koplopers, tegen een fractie van de prijs per aanroep. Dat is ook waarom onderzoekers van NVIDIA betogen dat kleine taalmodellen, niet de allergrootste, de logische bouwsteen zijn voor AI-agents die steeds dezelfde handeling verrichten.

Eén punt dat in Nederlandse artikelen vrijwel altijd ontbreekt: de kwaliteit van het Nederlands verschilt aanzienlijk per model. Modellen die op Engelstalige ranglijsten bijna gelijk scoren, kunnen in het Nederlands merkbaar uiteenlopen in formulering, vaktaal en consistentie. Test daarom altijd op je eigen Nederlandse teksten in plaats van op een benchmark. Voor wie liever bij een Nederlandse route blijft: GPT-NL, een initiatief van TNO, SURF en het Nederlands Forensisch Instituut, is een Nederlands taalmodel dat volledig op verantwoord verkregen data is getraind. Het draait sinds eind 2025 bij de eerste gebruikers en wordt dit jaar breder uitgerold.

Draaien doe je die modellen met beheersoftware die het zware werk verbergt: Ollama of LM Studio op de werkplek, vLLM als server zodra meerdere mensen er tegelijk gebruik van maken. Dat verschil is groter dan het klinkt. Een echte server bundelt verzoeken en haalt daardoor een veelvoud van de doorvoer die je op je eigen laptop meet, waardoor één machine veel meer gebruikers bedient dan een testje doet vermoeden. Op afwijkende of volledig afgesloten hardware is llama.cpp vaak de enige optie die het aankan.

Koppelen aan je eigen systemen gebeurt vervolgens via RAG of via een MCP-server, precies zoals bij een cloudmodel. De architectuur eromheen verandert nauwelijks; alleen de plek waar het model draait verschuift.

AI op eigen server draaien: wat heb je nodig?

AI op je eigen server draaien vraagt drie dingen: genoeg VRAM voor het model dat je kiest, beheersoftware die het model serveert, en een koppeling naar je eigen documenten en systemen. Een server met 48 tot 96 GB VRAM bedient tien tot dertig gelijktijdige gebruikers en kost €15.000 tot €40.000. Wie eerst wil meten voordat hij koopt, huurt dezelfde capaciteit voor €300 tot €2.500 per maand.

Welke GPU heb je nodig?

Voor een proefopstelling volstaat een zware consumentenkaart met 32 GB VRAM uit de RTX-lijn van NVIDIA. Daar draaien modellen tot ongeveer 30 miljard parameters comfortabel op. Wil je een model van 70 miljard parameters bedienen voor meerdere gebruikers tegelijk, dan kom je uit bij professionele kaarten met 48 tot 96 GB, zoals de RTX PRO- en L40S-klasse, of bij tweedehands datacenterkaarten uit de A100-generatie. Een alternatief met een ander profiel is een werkstation met veel gedeeld geheugen, bijvoorbeeld een Mac Studio of een compacte AI-desktop met 128 GB. Daar past een groot model wel in, maar de geheugenbandbreedte ligt lager, dus de doorvoer ook. Voor batchwerk 's nachts is dat prima, voor twintig mensen die tegelijk zitten te wachten niet.

Waar kun je lokale AI in Nederland draaien?

Er zijn drie routes, in oplopende mate van eigen beheer. Een Europese of Nederlandse hostingpartij met GPU-capaciteit is voor de meeste organisaties het praktische antwoord: je huurt een afgeschermde omgeving, de hardware staat in een Nederlands of Europees datacentrum, en je hoeft zelf niets te beheren. Een Europees modelendpoint waar je een open model per gebruik afneemt, is de snelste start en de goedkoopste manier om te testen. En eigen hardware in je eigen serverruimte is de zwaarste variant, maar ook de enige waarbij er geen verwerker meer in beeld is.

Waar je op let bij het kiezen van een partij: waar staat de hardware fysiek, onder welk recht valt de rechtspersoon die de dienst levert (een Europees datacentrum van een Amerikaans moederbedrijf is iets anders dan een Europese eigenaar), is er een verwerkersovereenkomst met heldere subverwerkers, welke certificeringen zijn er, en hoe ziet de exitregeling eruit als je weg wilt. Die laatste vraag stelt bijna niemand vooraf. Het is precies de vraag waarvan je over twee jaar blij bent dat je hem gesteld hebt.

Welke cijfers over lokale AI kloppen niet?

Rond dit onderwerp circuleren een paar getallen die overal worden overgeschreven en die bij navraag geen bron blijken te hebben. Ze staan in verkooppresentaties, in blogs en inmiddels ook in antwoorden van AI-zoekmachines. Als je een investeringsbesluit onderbouwt, zijn dit de claims waarop je in de vergadering wordt afgerekend.

De les is niet dat lokale AI wordt overdreven. De les is dat de goede argumenten voor lokale AI — controle, permanentie, aantoonbaarheid, voorspelbaarheid — geen opgeklopte cijfers nodig hebben.

Wanneer kies je lokaal, wanneer hybride en wanneer cloud?

De vuistregel: openbare gegevens mogen naar de cloud, interne gegevens naar de cloud met verwerkersovereenkomst of naar een private omgeving, vertrouwelijke gegevens naar een private omgeving in de EU of naar eigen hardware, en geheime gegevens uitsluitend lokaal. Je kiest dus geen architectuur om er toepassingen bij te zoeken; je classificeert je gegevens, en de classificatie bepaalt waar de verwerking mag plaatsvinden. Dat is één keer nadenken in plaats van bij elke nieuwe toepassing opnieuw.

Leg die matrix één keer vast in je AI-beleid en de discussie is voorbij. Een medewerker hoeft dan niet meer per document te beoordelen of iets “wel in ChatGPT mag”; de route volgt uit het label. In de praktijk komt vrijwel elke organisatie zo uit op een hybride opzet: het zware denkwerk op openbare en interne stukken in de cloud, alles wat vertrouwelijk of geheim is in een eigen omgeving. Dat is de goedkoopste manier om beide voordelen te houden.

Bij het bouwen van zo'n hybride opzet is er één regel die je nooit moet loslaten: een verzoek met gevoelige gegevens mag bij een storing niet alsnog naar de cloud uitwijken. Valt de lokale omgeving weg, dan hoort het verzoek te falen met een duidelijke melding, niet stilletjes elders te worden verwerkt. Precies daar gaat het in de praktijk mis: de uitwijkroute die iemand ooit “voor de zekerheid” heeft ingebouwd, is de route waarlangs vertrouwelijke stukken uiteindelijk toch het pand verlaten. Leg die regel vast in de router die de verzoeken verdeelt, niet in een instructie aan medewerkers.

Naast de dataclassificatie helpt het om beide opties naast elkaar te zetten op de assen waar ze echt verschillen:

Daarnaast zijn er vier vragen die de keuze scherpstellen:

1. Volume. Draait de toepassing honderden of duizenden keren per dag? Dan wint lokaal op kosten. Enkele tientallen keren? Dan wint cloud.
2. Kwaliteitseis. Is de taak smal en herhaalbaar, of vraagt hij het beste redeneervermogen dat er bestaat? In het tweede geval blijft de cloud voorlopig nodig.
3. Beschikbaarheid. Moet het werken zonder internet, of tijdens een storing bij je provider? Dan is lokaal de enige garantie.
4. Beheer. Heb je iemand die dit kan onderhouden, of moet je dat inkopen? Zo niet, kies dan een beheerde private omgeving in plaats van eigen hardware.

Deze afweging is dezelfde als bij elke andere maak-of-koopvraag rond AI. We behandelen hem breder in AI zelf bouwen of uitbesteden.

Hoe begin je met lokale AI zonder eerst hardware te kopen?

Beginnen met lokale AI kost vier tot acht weken en verloopt in vier stappen: classificeer je gegevens en kies één proces, bouw een proefopstelling op een gehuurde GPU in plaats van een productieomgeving, meet op honderd echte documenten uit je eigen praktijk, en kies pas daarna tussen kopen, huren of hybride. De grootste fout is beginnen bij de hardware. Je weet dan namelijk nog niet welk model je nodig hebt, hoeveel gelijktijdige gebruikers er zijn en welke doorvoer je moet halen — en dus koop je op gevoel.

1. Classificeer je gegevens en kies één proces. Neem een proces dat dagelijks tijd kost, met vertrouwelijke gegevens werkt en weinig creatief denkwerk vraagt: dossiers doorzoeken, documenten controleren, inkomende post routeren, offertes voorbereiden. Eén proces, geen programma.
2. Bouw eerst een proefopstelling, niet een productieomgeving. Een werkstation of een gehuurde GPU-instantie is genoeg om te meten wat je echt nodig hebt: welk model haalt de gewenste kwaliteit op jouw documenten, hoeveel gebruikers passen erop, waar loopt het vast. Huren kost enkele honderden euro's voor een paar weken en voorkomt een miskoop van tienduizenden.
3. Meet op je eigen materiaal, niet op benchmarks. Laat het model honderd echte documenten uit jouw praktijk verwerken en laat de mensen die het werk nu doen de uitkomsten beoordelen. Dat is de enige benchmark die telt. Zorg dat je bronmateriaal op orde is; hoe je dat aanpakt staat in data op orde voor AI.
4. Pas dán kiezen: kopen, huren of hybride. Met de meetgegevens uit stap drie is de hardwarekeuze een rekensom in plaats van een gok. En vaak blijkt dat een beheerde private omgeving voorlopig volstaat, met eigen hardware als volgende stap zodra het volume dat rechtvaardigt.

Bij Currentic doen we precies deze volgorde. In de AI Scan bepalen we welk proces het meeste oplevert en welke gegevens welke grens over mogen; daarna bouwen we in enkele weken een werkende AI-oplossing op maat, gebouwd op de architectuur die daaruit volgt: lokaal, privaat of hybride, gekoppeld aan de systemen die je al hebt. Vaste scope, vaste prijs, en geen serverrek voordat duidelijk is dat je er een nodig hebt.

Veelgestelde vragen over lokale AI

Wat nu?

Lokale AI is geen ideologische keuze en geen technische hobby. Het is een architectuurbeslissing die je neemt op basis van drie dingen: welke gegevens je verwerkt, hoeveel je verwerkt, en wat je moet kunnen aantonen. Zet die drie op een A4 en je weet binnen een uur of eigen hardware zin heeft — en ontdekt vaak dat hybride de praktische opzet is, met een private omgeving in de EU als praktisch startpunt.

Wat je vandaag al kunt doen: leg vast welke gegevens waar verwerkt mogen worden, kies één proces waar dat nu knelt, en meet op je eigen documenten wat een open model daar presteert. Dat kost een paar weken en een paar honderd euro, en het vervangt elke discussie over “gaat onze data naar Amerika” door een besluit dat je kunt uitleggen aan je accountant, je toezichthouder en je medewerkers.

De organisaties die hier nu goed in zitten, hebben niet het duurste model gekocht en niet de zwaarste server. Ze hebben als eerste opgeschreven welke data welke grens over mag — en al het andere volgde daaruit.

Bronnen en verantwoording

De cijfers in dit artikel komen uit openbaar toegankelijk onderzoek. Waar een onderzoek is betaald door een partij met een commercieel belang bij de uitkomst, staat dat erbij. Bedragen zijn indicatief, exclusief btw, en gelden voor prijspeil augustus 2026; hardwareprijzen bewegen dit jaar sterk. Onze eigen aannames voor de kostenberekening staan in het kader bij de rekensom, zodat je ze kunt vervangen door die van jezelf.

• Pan, Chodnekar, Roy & Wang (2025) — kostenvergelijking tussen lokale en cloudgebaseerde taalmodellen, met een expliciete opsomming van wat niet is meegerekend. Preprint, niet peer-reviewed; twee van de vier auteurs zijn verbonden aan Carnegie Mellon University. arXiv:2509.18101
• Belcak e.a., NVIDIA Research (2025) — onderbouwing waarom kleine taalmodellen geschikter zijn voor repetitieve agenttaken. De auteurs presenteren het zelf als positiepaper, bedoeld om discussie uit te lokken. arXiv:2506.02153
• Broadcom, Private Cloud Outlook 2026 — onderzoek onder 1.800 senior IT-beslissers bij organisaties met meer dan duizend medewerkers, veldwerk februari en maart 2026. Broadcom levert zelf private-cloudsoftware.
• Deloitte, State of AI in the Enterprise — onderzoek onder 3.235 leidinggevenden in 24 landen, veldwerk augustus en september 2025, over onder meer de rol van het land van herkomst van AI-leveranciers.
• Mozilla, The State of Open Source AI (juli 2026) — analyse van het gebruik en de prestaties van open-weight modellen ten opzichte van gesloten modellen. stateofopensource.ai
• EU AI Act (Verordening 2024/1689) en de Digital Omnibus — voor de fasering van de verplichtingen en het uitstel van de hoogrisicoverplichtingen naar december 2027 en augustus 2028.
• Berichtgeving over het wereldwijde geheugentekort en GPU-prijzen (2026) — onder meer analyses van JP Morgan en IDC over de gevolgen van de vraag uit AI-datacentra voor DRAM-prijzen en levertijden.
• Berichtgeving over netcongestie in Nederland (2025 – 2026) — over wachtlijsten voor zwaardere netaansluitingen en de gevolgen voor digitale infrastructuur.

Cloud, privaat of op eigen hardware?

Stuur ons je situatie: welk proces, welk soort gegevens, welk volume. Je krijgt een onderbouwd antwoord terug met een indicatie van kosten en terugverdientijd. Geen formulier van achttien vragen.

Leg je situatie voor

Liever eerst structureel in kaart? Bekijk het begeleide AI Scan-traject (1 tot 2 weken).

Geschreven door Martin de Jong, oprichter van Currentic AI Studio. Gepubliceerd en laatst bijgewerkt op 22 augustus 2026.