Een laptop kopen om AI lokaal te draaien: de complete uitleg
We hebben op de AI-categoriepagina een korte gids staan over VRAM, werkgeheugen en koeling. Die is bewust kort, een quick reference. Dit artikel is de lange versie, voor wie ook wil begrijpen waarom die dingen zo werken, en wat het je concreet gaat kosten. Geen marketingtaal, geen 40-punten-checklist, gewoon wat er echt toe doet als je een LLM op je eigen laptop wilt draaien in plaats van via een cloud-abonnement.
Inhoudsopgave
Spring direct naar een onderdeel:
VRAM: de harde grens, en hoe je 'm berekent
VRAM is het geheugen op je videokaart, en het is de belangrijkste beperking bij lokale AI. Past een model niet in het VRAM, dan draait het niet, of alsnog, maar dan leent de laptop geheugen van je gewone RAM, en dat is meestal tien tot twintig keer trager. Een model 'quantizen' (comprimeren naar minder bits per gewicht) is de standaardmanier om een model kleiner te maken zonder het dom te maken. Bij de gangbare 4-bit-quantization reken je grofweg op 1GB VRAM per miljard parameters, plus een beetje overhead voor de context (het stuk tekst dat het model 'onthoudt' tijdens een gesprek). Een model van 8 miljard parameters (zoals Llama 3.1 8B) past dus comfortabel in 8GB VRAM. Bij 13-14 miljard reken je op 10-12GB. Bij 70 miljard zit je al snel op 40GB+, en dat heeft geen enkele laptop-GPU. Dan kom je uit bij Apple's unified memory (zie hieronder) of gewoon de cloud.
Werkgeheugen: op Windows bijzaak, op een MacBook de hoofdzaak
Hier zit het grootste verschil tussen de twee platformen. Op een Windows-laptop met een losse NVIDIA-GPU draait het model in het VRAM, en is je gewone RAM (32GB is een redelijk minimum) vooral voor Windows zelf, je browser en de tools eromheen: Ollama, LM Studio, of wat je verder open hebt staan. Op een MacBook is er geen apart VRAM: het werkgeheugen is 'unified memory', gedeeld tussen processor en GPU. Dat betekent dat de hoeveelheid RAM in een MacBook direct bepaalt hoe groot een model kan zijn dat je kan draaien. De M5 Max-chip ondersteunt zelf tot 128GB unified memory, genoeg voor modellen die op geen enkele laptop-GPU passen, al verkoopt bol.com op dit moment alleen configuraties tot 48GB; voor meer moet je rechtstreeks bij Apple bestellen. Snelheid en capaciteit zijn hier twee losse dingen: een RTX 5070 Ti met 12GB VRAM draait een klein model sneller dan een MacBook, maar de MacBook kan een model draaien dat simpelweg niet in die 12GB past.
Koeling: waarom dit zwaarder is dan gamen
Bij gamen piekt je GPU-gebruik, met rustmomenten ertussen: een menu, een cutscene, een laadscherm. Bij het genereren van tekst met een lokaal model draait de GPU minutenlang onafgebroken op vol vermogen, zonder adempauze. Dat is een ander soort belasting, en een laptop die prima koelt tijdens gamen kan alsnog gaan throttlen bij langdurige AI-taken. Throttling betekent dat de GPU zichzelf vertraagt om niet oververhit te raken. Je inference-snelheid keldert dan gewoon, midden in een taak. Let in de specificaties op het aantal ventilatoren en heatpipes, en reken op een dikker, zwaarder chassis als je dit serieus doet. Dunne ultrabooks met een 'ingebouwde' GPU lopen sneller tegen thermische limieten aan dan een steviger gaminglaptop-chassis, ook al hebben ze op papier dezelfde GPU.
Software: wat je er daadwerkelijk mee draait
Lokale AI draaien vereist geen programmeerwerk. Ollama en LM Studio zijn de twee populairste tools: beide zijn gratis, installeer je als een gewoon programma, en laten je een model downloaden en meteen chatten via een simpel scherm. Onder de motorkap draait vaak llama.cpp, de motor die het meeste zware werk doet. Voor wie meer wil: Open WebUI geeft er een ChatGPT-achtige interface bovenop. Geen van deze tools vereist dat je zelf iets programmeert. Het is installeren, model downloaden, en klaar.
Wat kost het echt?
Reken globaal in drie tranches, gebaseerd op wat er nu op bol.com verkrijgbaar is. Instap (rond de €2.300-3.300): een RTX 5070 Ti met 12GB VRAM (vanaf de ASUS ROG Strix G16 rond €2.300, met 16GB RAM dat je zelf uitbreidt, of duurder in een Razer Blade 18 of MSI Stealth A18 AI+) of een MacBook Pro 14" M5 Pro met 24GB unified memory rond €2.900, genoeg voor modellen tot een graad of 13-14 miljard parameters, comfortabel. Midden (rond de €4.900): de MacBook Pro 16" M5 Max met 36GB unified memory, waarmee je een stuk groter kan gaan zonder VRAM-limiet. Top (€5.500-6.300): RTX 5090-laptops met 64GB systeem-RAM (ASUS ProArt P16, Acer Predator Helios 16) voor wie serieus met de grootste modellen wil schuiven, of dezelfde MacBook Pro 16" M5 Max in de 48GB-uitvoering van €5.405, de kaart hieronder. Daarnaast komt de ASUS ProArt P16 met RTX Spark: €4.999 met 64GB en €6.499 met 128GB unified memory, en de kleinere ProArt P14 met 64GB voor €4.699, zie het blok over RTX Spark verderop. Onder de €2.000 is er geen optie die dit serieus goed doet. Dat is gewoon de realiteit van de huidige hardware, niet iets waar wij omheen draaien.
Drie concrete modellen die deze tranches dekken:
MacBook Pro 14" M5 Pro
- processorApple M5 Pro (15-core)
- ram24GB unified memory
- opslag1TB SSD
Instapoptie voor lokale AI aan de Apple-kant, sweet spot voor modellen tot 30B parameters
Koop dit niet als: je de grootste modellen (70B+) wilt draaien. 24GB is de instap, niet genoeg voor de zwaarste modellen
MacBook Pro 16" M5 Max
- processorApple M5 Max (18-core)
- ram48GB unified memory
- opslag2TB SSD
- gpu40-core GPU
48GB unified memory die processor en GPU delen: voor modellen tot ongeveer 70B parameters (gequantiseerd), zonder losse VRAM-limiet zoals bij een NVIDIA-kaart
Let op
macOS reserveert standaard ongeveer driekwart van het geheugen voor de GPU. Voor de allergrootste modellen moet je die limiet zelf ophogen. De M5 Max-chip ondersteunt tot 128GB unified memory, maar 48GB is de ruimste configuratie die bol.com op dit moment aanbiedt. Voor meer moet je rechtstreeks bij Apple bestellen
Koop dit niet als: je Windows-only AI-tooling gebruikt zoals CUDA-specifieke frameworks. macOS/Apple Silicon ondersteunt dat niet altijd
ASUS ProArt P16 H7606WX-SE003X (RTX 5090)
- processorAMD Ryzen AI 9 HX 370
- ram64GB
- opslag2TB SSD
- gpuRTX 5090
RTX 5090 met 24GB VRAM: voor modellen tot ongeveer 30B parameters (gequantiseerd), met 64GB systeemgeheugen ernaast de ruimste Windows-combinatie op bol.com. 4,8 sterren (4 reviews)
Koop dit niet als: je dit puur voor AI koopt zonder ook creatief werk te doen. Dan betaal je ook voor een OLED-touchscreen dat je niet nodig hebt
RTX Spark: de eerste laptops zijn er
NVIDIA's RTX Spark-platform belooft tot 128GB unified memory in een compact formaat, met beloftes rond het draaien van modellen tot 120 miljard parameters. De eerste laptop ermee is de ASUS ProArt P16, die bij bol.com leverbaar is met 64GB of 128GB. De 48GB-versie is niet meer te koop. Sinds kort staat ook de kleinere ProArt P14 met 64GB bij bol.com. Inmiddels staan er ook RTX Spark-laptops van Lenovo, HP en MSI op bol.com; Dell en Microsoft volgen nog. Er zitten twee kanttekeningen aan. Het is een Windows on ARM-laptop, dus controleer vooraf of je software ermee werkt. En er zijn nog geen onafhankelijke tests van hoe snel grote modellen er echt op draaien, dus de beloftes zijn nog van de fabrikant.
De ASUS-modellen met RTX Spark bij bol.com:
ASUS ProArt P14 H7407BA-SM054X (RTX Spark, 64GB)
- processorNVIDIA RTX Spark N1X (20-core)
- ram64GB unified memory
- opslag1TB SSD
- gpuBlackwell GPU
- scherm14" 3K OLED (2880x1800) 120Hz, 700 nits
- gewicht1,48kg
- batterij90Wh
64GB unified memory die processor en GPU delen: voor modellen tot ongeveer 90B parameters (gequantiseerd), zonder losse VRAM-limiet. In een 14 inch-laptop van 1,48kg met een OLED-scherm van 700 nits en een accu van 90Wh
Let op
Zonder oplader in de doos. Het geheugen zit vast op het moederbord, en dit is een Windows on ARM-laptop: oudere x86-software draait via emulatie of soms niet
Koop dit niet als: je een groter scherm wilt. Dan is de ProArt P16 met hetzelfde geheugen en een 16 inch 4K-scherm de betere keuze
ASUS ProArt P16 H7607BA-SE030X (RTX Spark, 64GB)
- processorNVIDIA RTX Spark N1X (20-core)
- ram64GB unified memory
- opslag1TB SSD
- gpuBlackwell GPU (6.144 cores)
- scherm16" 4K OLED touchscreen (3840x2400) 120Hz
- gewicht1,77kg
- kleurNano Black
64GB unified memory die processor en GPU delen: voor modellen tot ongeveer 90B parameters (gequantiseerd), zonder losse VRAM-limiet. De enige uitvoering in zwart, met 1,77kg en een 4K OLED-touchscreen
Let op
Leverbaar bij bol.com. Zonder oplader in de doos (het toestel laadt tot 140W via USB-C). Het geheugen zit vast op het moederbord, en dit is een Windows on ARM-laptop: oudere x86-software draait via emulatie of soms niet
Koop dit niet als: je afhankelijk bent van software die niet op Windows on ARM draait
ASUS ProArt P16 H7607BA-SE181X (RTX Spark, 128GB)
- processorNVIDIA RTX Spark N1X (20-core)
- ram128GB unified memory
- opslag1TB SSD
- gpuBlackwell GPU (6.144 cores)
- scherm16" 4K OLED touchscreen (3840x2400) 120Hz
- gewicht1,77kg
- kleurNeo White
128GB unified memory die processor en GPU delen: voor modellen tot ongeveer 120B parameters (gequantiseerd), zoals NVIDIA zelf aangeeft. Het ruimste geheugen van de drie ProArt P16-uitvoeringen, in een laptop van 1,77kg
Let op
Leverbaar bij bol.com. Zonder oplader in de doos (het toestel laadt tot 140W via USB-C). Het geheugen zit vast op het moederbord, en dit is een Windows on ARM-laptop: oudere x86-software draait via emulatie of soms niet
Koop dit niet als: je geen modellen boven ongeveer 90B draait: dan betaal je fors meer dan voor de 64GB-uitvoering voor geheugen dat je niet gebruikt
Veelgemaakte fouten bij het kopen van een AI-laptop
Een paar dingen die regelmatig misgaan:
- Alleen naar VRAM kijken en de koeling negeren. Een laptop met veel VRAM die na vijf minuten throttlet, is in de praktijk trager dan je vooraf verwacht.
- Denken dat 'geschikt voor gaming' hetzelfde is als 'geschikt voor AI'. Een gaming-GPU met weinig VRAM (8GB) is prima voor games, maar een harde grens voor grotere modellen.
- Een MacBook kopen met te weinig RAM omdat 'Apple toch snel is'. Snelheid en modelgrootte zijn twee losse dingen, en RAM bepaalt bij Apple de grootte.
- Een RTX Spark-laptop kopen zonder te checken of je software op Windows on ARM draait. Oudere programma's draaien via emulatie, en een deel werkt helemaal niet.
- Vergeten dat een dikke, zware laptop de prijs is die je betaalt voor goede koeling. Een dun, licht model met dezelfde GPU-specificaties zal onder langdurige belasting eerder inleveren.
Veelgestelde vragen
Hoeveel VRAM heb ik nodig om lokaal een taalmodel te draaien?
Bij de gangbare 4-bit-quantization reken je grofweg op 1GB VRAM per miljard parameters, plus wat overhead voor de context. Een model van 8 miljard parameters past dus comfortabel in 8GB VRAM, bij 13-14 miljard reken je op 10-12GB.
Kan ik lokale AI draaien zonder aparte videokaart?
Technisch wel, maar het model draait dan grotendeels op je gewone RAM in plaats van VRAM, en dat is tien tot twintig keer trager. Voor serieus gebruik heb je een dedicated GPU nodig, of een MacBook met genoeg unified memory.
Is een MacBook beter dan een Windows-laptop voor lokale AI?
Dat hangt af van wat je zwaarder vindt wegen. Unified memory op een MacBook laat je grotere modellen draaien zonder aparte VRAM-limiet, maar een Windows-laptop met een NVIDIA-GPU is sneller zodra een model wél in het VRAM past.
Moet ik wachten op RTX Spark voordat ik een AI-laptop koop?
Alleen als je modellen wilt draaien die in geen enkele laptop-GPU passen. De eerste RTX Spark-laptop, de ASUS ProArt P16, is bij bol.com verkrijgbaar vanaf €4.999 met 64GB. De 48GB-versie is niet meer te koop. Draai je modellen tot ongeveer 30 miljard parameters, dan hoef je niet te wachten: een RTX 5090-laptop of een MacBook Pro kan dat nu al. Houd bij RTX Spark rekening met Windows on ARM en het ontbreken van onafhankelijke tests.
Welke software heb ik nodig om lokaal een LLM te draaien?
Ollama of LM Studio, allebei gratis en te installeren als een gewoon programma. Je downloadt een model en chat meteen via een simpel scherm, zonder dat je zelf hoeft te programmeren.
Wat kost een laptop die geschikt is voor lokale AI?
Reken op minimaal €2.300 voor een instapmodel met een RTX 5070 Ti, of rond €2.900 voor een MacBook Pro 14" M5 Pro. Voor de grootste modellen zit je richting €5.000 en hoger. Onder de €2.000 is er nog geen optie die dit serieus goed doet.