Gids
Hoe draai je AI op je eigen computer?
Kort antwoord
Installeer LM Studio of Ollama, kies een open model dat bij je werkgeheugen past, en je hebt binnen een halfuur een assistent die volledig op je eigen apparaat draait. Je gegevens gaan nergens heen en er zijn geen gebruikskosten. Je levert kwaliteit in: een model dat op een laptop past, is merkbaar zwakker dan wat de grote aanbieders in hun datacenters draaien.
Waarom je dit zou willen
- Je gegevens blijven bij jou. Geen enkele regel tekst verlaat je apparaat. Voor dossiers, patiëntgegevens of een niet-uitgebracht product is dat het hele argument.
- Geen kosten per gebruik. Eenmaal geïnstalleerd draait het gratis, hoe vaak je het ook aanroept.
- Het werkt zonder internet.
- Niemand kan de voorwaarden veranderen, het model vervangen of de prijs verhogen.
Wat je nodig hebt
Het gaat om werkgeheugen, niet om rekensnelheid. Een model moet in het geheugen passen om bruikbaar te zijn.
- 8 GB werkgeheugen: kleine modellen. Werkt, maar de kwaliteit valt tegen.
- 16 GB: middelgrote modellen. Dit is het punt waarop het nuttig wordt.
- 32 GB of meer: de grotere open modellen. Hier begint het vergelijkbaar te worden met wat je online gewend bent — niet gelijk, wel vergelijkbaar.
Een Mac met Apple-chip is hiervoor opvallend geschikt, omdat werkgeheugen en grafisch geheugen gedeeld zijn. Op een Windows-machine telt vooral de videokaart: een kaart met veel eigen geheugen maakt het verschil tussen bruikbaar en traag.
Zo begin je
LM Studio is de eenvoudigste route: een gewoon programma met een venster waarin je modellen kunt zoeken, downloaden en direct gebruiken. Geen opdrachtregel nodig.
Ollama werkt via de opdrachtregel en is handiger als je het model aan je eigen software wilt koppelen.
Begin met een middelgroot, recent open model — Llama, Mistral, Qwen of Gemma — in een gecomprimeerde variant. Die compressie heet kwantisatie en maakt een model kleiner tegen een beperkt kwaliteitsverlies; zie wat is kwantisatie.
Wat je ervoor inlevert
Wees hier realistisch over. Een model van enkele gigabytes is niet hetzelfde als een model dat in een datacenter op tientallen chips draait.
- Minder sterk redeneren. Bij ingewikkelde vragen in meerdere stappen haakt het eerder af.
- Zwakker Nederlands. De meeste open modellen zijn overwegend op Engels getraind.
- Geen actuele kennis. Geen internettoegang, tenzij je dat zelf toevoegt.
- Langzamer. Woorden verschijnen in leestempo in plaats van sneller dan je kunt lezen.
Waar het wél uitstekend voor is
Juist omdat de beperkingen bekend zijn, is dit goed in te zetten voor:
- documenten samenvatten die niet naar buiten mogen;
- tekst herschrijven en corrigeren;
- grote hoeveelheden gegevens indelen of ordenen, waar de kosten per aanroep anders oplopen;
- vragen beantwoorden over je eigen documenten, met een eigen kennisbank erbij — zie wat is RAG;
- uitproberen en leren, zonder dat elke test geld kost.
Een werkbare combinatie
De meeste mensen die dit doen, draaien beide: een lokaal model voor alles wat gevoelig of herhalend is, en een online assistent voor het zware denkwerk. Dat is geen compromis maar gewoon het juiste gereedschap per klus.
Zie ook AI op je eigen apparaat en open versus gesloten modellen.
Veelgestelde vragen
Is een lokaal AI-model gratis?
De programma's en de open modellen zijn gratis te downloaden en te gebruiken. Je betaalt in stroomverbruik en in de aanschaf van voldoende werkgeheugen; voor wie de hardware al heeft, zijn er geen kosten.
Welk lokaal model is het beste?
Dat hangt af van je geheugen. Met 16 GB kom je ver met een middelgroot Llama-, Mistral- of Qwen-model. Begin met een gecomprimeerde variant; die draait sneller met weinig kwaliteitsverlies.
Kan een lokaal model mijn documenten doorzoeken?
Ja. LM Studio en vergelijkbare programma's kunnen een map met documenten doorzoekbaar maken, zodat het model antwoorden uit jouw eigen bestanden haalt. Dat is voor veel organisaties de reden om lokaal te draaien.
Hoe veilig is een lokaal AI-model?
Je gegevens verlaten je apparaat niet, en dat is de hele winst. Let wel op waar je het model vandaan haalt: download alleen via de ingebouwde zoekfunctie van LM Studio of Ollama, en niet via willekeurige links.
Lees verder
Wat is een AI-agent en hoe werkt het?
Het verschil tussen een chatbot die antwoordt en een agent die daadwerkelijk taken uitvoert, uitgelegd zonder jargon.
AI voor beginners: zo begin je
Nooit met AI gewerkt? Dit stappenplan brengt je in een half uur van nul naar je eerste bruikbare resultaat.
AI voor zzp'ers: waar begin je?
Als eenmanszaak heb je geen IT-afdeling maar wel te weinig uren. Dit zijn de AI-toepassingen die zzp'ers direct tijd opleveren.
AI implementeren in je bedrijf: een stappenplan
Waarom de meeste AI-pilots stranden en hoe je het wél tot de eindstreep brengt. Een nuchter stappenplan zonder consultancytaal.