EEN MODEL VOOR ELK
Een ai-strategie is niet langer per definitie afhankelijk van de bekende Amerikaanse namen als ChatGPT, Claude en Gemini. Er is een ruim alternatief aanbod van open en/of Europese modellen. Hoe maak je daarin een keuze? Negen aspecten om rekening mee te houden.
Tekst: Robbert Hoeffnagel Beeld: AI
De ai-modellen van OpenAI, Anthropic en Google behoren behoren tot de technisch meest geavanceerde systemen en mede daarom domineren zij het nieuws. Ondertussen is het aanbod veel breder geworden. Europese ai-aanbieders en modellen waarvan de getrainde parameters (de ‘gewichten’) beschikbaar zijn voor eigen gebruik, hebben de afgelopen jaren grote stappen gezet. Daardoor is het voor bedrijven en overheden steeds relevanter om niet alleen te kijken naar de bekendste commerciële diensten, maar ook naar alternatieven die zelf gehost of via andere infrastructuurproviders aangeboden worden. Dat betekent overigens niet dat gesloten Amerikaanse modellen ineens minder interessant zijn. Wel ontstaat er meer keuze en kunnen organisaties hun ai-strategie baseren op criteria als prestaties, kosten, privacy, beschikbaarheid, licentievoorwaarden, locatie van data en infrastructuur en de gewenste mate van controle.
1Opensource of open weight?
Bij deze discussie is om te beginnen enige terminologische voorzichtigheid nodig. Veel ai-modellen die in de praktijk als ‘opensource’ worden aangeduid, zijn strikt genomen beter te omschrijven als ‘open weight’. De modelgewichten zijn dan namelijk beschikbaar, waardoor organisaties het model kunnen downloaden en in veel gevallen zelf kunnen draaien of aanpassen. Dit betekent echter niet automatisch dat ook trainingsdata, trainingscode en alle overige onderdelen onder een opensource-licentie beschikbaar zijn.
De Open Source Initiative maakt daarom expliciet onderscheid tussen open weight en daadwerkelijk opensource ai. Onder meer modellen uit de Llama- en Gemma-families vallen niet zonder meer onder de strikte opensource-definitie. Ook bij Mistral verschilt de licentie per model en versie. Mistral zelf maakt in zijn documentatie onderscheid tussen open weight en commerciële modellen. Dat onderscheid is belangrijk. Wie een model wil downloaden, aanpassen en commercieel inzetten, moet dus niet alleen kijken of de gewichten beschikbaar zijn, maar ook welke licentievoorwaarden eraan verbonden zijn.
Los daarvan is duidelijk dat het aanbod sterk is gegroeid. Modelreeksen van onder andere Mistral, Meta, Alibaba, Aleph Alpha, DeepSeek, Google, Cohere en andere ontwikkelaars laten zien dat er inmiddels voor uiteenlopende toepassingen alternatieven bestaan voor uitsluitend via een externe api aangeboden modellen.
Voor toepassingen als documentanalyse, samenvatten, vraag-en-antwoordtoepassingen, kennismanagement, programmeerondersteuning en enterprise search kunnen dergelijke modellen goed bruikbaar zijn. Welke oplossing het beste presteert, verschilt echter sterk per toepassing. Een algemene uitspraak dat open modellen even goed of beter of juist minder zijn dan gesloten modellen is daarom lastig te onderbouwen. Benchmarks geven een indicatie, maar een praktijktest met eigen data en use cases is meestal relevanter.
2Europa bouwt aan een eigen ai-ecosysteem
Ook binnen Europa wordt aanzienlijk geïnvesteerd in ai-modellen, -infrastructuur en -onderzoek. Een van de bekendste voorbeelden is het al genoemde Franse Mistral AI. Het bedrijf biedt inmiddels een combinatie van commerciële en open weight-modellen en positioneert zich nadrukkelijk als Europese aanbieder van ai-technologie. Mistral blijft bovendien nieuwe modellen en infrastructuurdiensten ontwikkelen.
Daarnaast bestaan initiatieven als het Duitse Aleph Alpha, OpenGPT-X, OpenEuroLLM en verschillende projecten rond de Europese EuroHPC-infrastructuur. Daarmee ontstaat naast de grote Amerikaanse en Chinese ai-ecosystemen geleidelijk een Europees aanbod van modellen, rekencapaciteit en diensten.
Ook Nederland kent initiatieven op dit gebied. TNO en Nederlandse universiteiten werken bijvoorbeeld aan Nederlandstalige ai-technologie. Modellen als RobBERT en DutchBERT zijn specifiek gericht op verwerking van de Nederlandse taal. Daarbij is wel een belangrijke nuance nodig: RobBERT en DutchBERT zijn BERT-gebaseerde taalmodellen en daarmee technisch iets anders dan de huidige generatieve large language models. Ze zijn vooral relevant voor gespecialiseerde natural language processing-taken en kunnen niet zonder meer worden vergeleken met bijvoorbeeld ChatGPT, Mistral Large of Llama.
Naast onderzoek ontstaan er ook Nederlandse commerciële ai-diensten. GreenPT uit Utrecht biedt bijvoorbeeld ai-diensten en api-toegang waarbij modellen op Europese infrastructuur worden aangeboden. Het bedrijf geeft aan dat de gebruikte modellen op eigen infrastructuur worden gehost en dat data binnen de EU wordt verwerkt. Voor organisaties en overheden kan zo’n regionale aanpak interessant zijn wanneer datalocatie, infrastructuurkeuze of transparantie over de onderliggende modellen zwaar meeweegt.
Hugging Face: Centrale ontmoetingsplaats
Wie verschillende modellen wil onderzoeken, komt al snel terecht bij Hugging Face. Het Amerikaanse bedrijf werd opgericht door de Franse ondernemers Clément Delangue, Julien Chaumond en Thomas Wolf, is sinds 2016 gevestigd in New York en is uitgegroeid tot een van de belangrijkste platformen voor ai-modellen, datasets en ontwikkeltools.
Op het platform zijn zeer veel modellen beschikbaar om te bekijken en, afhankelijk van de licentie, te downloaden en te gebruiken. Model cards geven doorgaans informatie over onder meer de ontwikkelaar, de architectuur, de gebruiksmogelijkheden en de licentie. Daarnaast fungeert Hugging Face als communityplatform. Ontwikkelaars kunnen modellen en datasets publiceren, projecten volgen, discussiëren en samen aan toepassingen werken.
Daarom wordt Hugging Face soms wel met GitHub vergeleken. Die vergelijking gaat niet helemaal op – beide platforms hebben een andere functie – maar maakt wel duidelijk welke centrale rol Hugging Face inmiddels binnen het ai-ecosysteem heeft gekregen.
3Meer controle over de ai-stack
Een belangrijk verschil tussen een externe ai-dienst en een zelf gehost model zit in de verdeling van verantwoordelijkheden en afhankelijkheden. Bij het gebruik van een commerciële ai-api bepaalt de aanbieder in belangrijke mate welke modellen beschikbaar zijn, wat het gebruik kost en onder welke voorwaarden de dienst kan worden gebruikt. Ook modelupdates en wijzigingen in api’s of functionaliteit worden grotendeels door de leverancier bepaald.
Bij een downloadbaar model zijn er andere mogelijkheden. Een organisatie kan het model bijvoorbeeld draaien in een eigen datacenter, bij een Europese cloudprovider of in een colocatieomgeving. Daarmee kan meer controle ontstaan over infrastructuur, data en de lifecycle van het model.
Dat betekent overigens niet dat alle afhankelijkheden verdwijnen. De organisatie blijft afhankelijk van hardware, softwareframeworks, beveiligingsupdates, modellicenties en vaak ook externe leveranciers. Bovendien verschuift een deel van de verantwoordelijkheid voor beschikbaarheid, beveiliging en beheer van de ai-leverancier naar de eigen it-organisatie of infrastructuurpartner.
De vraag is daarom minder zwart-wit dan ‘gesloten versus open’. Het gaat vooral om de vraag welke afhankelijkheden een organisatie acceptabel vindt en welke onderdelen zij zelf onder controle wil houden.
4Modelportabiliteit blijft belangrijk
Daarmee komt ook modelportabiliteit in beeld. Veel organisaties proberen ai-applicaties tegenwoordig zo te ontwerpen dat zij niet volledig afhankelijk zijn van één specifiek model. Via abstractielagen en gestandaardiseerde api’s kan het bijvoorbeeld mogelijk worden om een toepassing met meerdere modellen te laten werken. Dat blijft relevant, ook wanneer organisaties met open weight-modellen werken.
Een lokaal gehost model heeft wel een ander beschikbaarheidsprofiel dan een externe api. Wanneer de benodigde modelbestanden en software lokaal aanwezig zijn, kan het model in principe blijven functioneren zolang de eigen infrastructuur beschikbaar is. Een verandering bij een externe api-aanbieder heeft dan minder directe gevolgen. Daar staat tegenover dat de organisatie zelf verantwoordelijk wordt voor capaciteit, updates, beveiliging, monitoring en operationeel beheer.
Ook geopolitieke afhankelijkheden verdwijnen niet automatisch. Een model van een Amerikaanse of Chinese ontwikkelaar blijft bijvoorbeeld afkomstig uit dat ecosysteem, ook wanneer het model in Europa wordt gehost. Wel kan lokale hosting voorkomen dat iedere inference-aanvraag afhankelijk is van een externe dienst buiten de eigen infrastructuur.
Voor cio’s en it-managers is het daarom zinvol om afzonderlijk te kijken naar de herkomst van het model, de licentie, de locatie van de infrastructuur, de hardwareketen, de softwarestack en de organisatie die het beheer uitvoert.
5Het ecosysteem rond open modellen groeit
Een paar jaar geleden vergde het lokaal draaien van grote taalmodellen een aanzienlijke hoeveelheid gespecialiseerde kennis. Dat is nog steeds geen triviale it-taak, maar het ecosysteem is veel volwassener geworden. Europese cloudproviders zoals OVHcloud, Scaleway, Ionos, STACKIT, T-Systems, Hetzner, UpCloud, Aruba Cloud en steeds meer andere partijen bieden in uiteenlopende vormen infrastructuur waarop ai-workloads kunnen draaien. Het precieze aanbod verschilt per provider: sommige leveren vooral gpu-capaciteit, terwijl andere managed ai-diensten, modelhosting of aanvullende software bieden.
Daarmee wordt het mogelijk verschillende niveaus van beheer te kiezen. Een organisatie kan alles zelf beheren, uitsluitend infrastructuur afnemen of een groter deel van het beheer bij een dienstverlener onderbrengen. Dat is waarschijnlijk een realistischer beeld dan de tegenstelling tussen een volledig gesloten saas-platform aan de ene kant en een volledig zelfgebouwde ai-omgeving aan de andere. In de praktijk ontstaat een breed spectrum aan tussenvormen.
Tools en diensten
Rond downloadbare en open weight-modellen is inmiddels een uitgebreide reeks van tools en diensten ontstaan.
- Ollama maakt het bijvoorbeeld relatief eenvoudig om ondersteunde modellen lokaal te draaien.
- LM Studio richt zich eveneens op lokaal gebruik, met een desktopinterface voor het downloaden, beheren en uitvoeren van modellen.
- vLLM wordt veel gebruikt als inference-engine voor het efficiënt aanbieden van grote taalmodellen.
- OpenRouter vervult weer een andere functie. De dienst geeft ontwikkelaars via één interface toegang tot uiteenlopende modellen en maakt het relatief eenvoudig om modellen te vergelijken of tussen modellen te wisselen.
- Together AI levert infrastructuur en diensten voor het uitvoeren en trainen van modellen.
- OpenWebUI kan worden gebruikt om een eigen webinterface bovenop verschillende ai-modellen te plaatsen.
- Frameworks als PyTorch spelen daarnaast een fundamentelere rol in de ai-stack. PyTorch is geen modelplatform zoals Hugging Face, maar een softwareframework voor machine learning waarmee modellen kunnen worden ontwikkeld, getraind en uitgevoerd.
6Sovereign Cloud Stack als infrastructuurlaag
Voor organisaties die meer controle over hun cloudinfrastructuur willen, kan ook de Sovereign Cloud Stack (SCS) relevant zijn. Het door een Europese community ontwikkelde SCS moet daarbij niet worden gezien als een specifiek ai-platform. Het project ontwikkelt open standaarden en een referentie-implementatie voor cloudinfrastructuur. De architectuur omvat onder andere een iaas-laag, containerinfrastructuur en identity- en accessmanagement. Technologieën als OpenStack, Kubernetes, Ceph en Keycloak spelen daarbij een belangrijke rol. Een dergelijke infrastructuur kan vervolgens worden gebruikt voor uiteenlopende workloads, waaronder ai.
Het is echter te sterk om SCS zelf als ‘GDPR-compliant’ of automatisch ‘volledig soeverein’ te omschrijven. Of een omgeving aan GDPR en andere regels voldoet, hangt ook af van de cloudoperator, configuratie, processen, locatie, contracten en wijze waarop data wordt verwerkt. SCS levert dan ook vooral bouwstenen en standaarden waarmee providers en organisaties cloudomgevingen kunnen bouwen die interoperabiliteit en controle ondersteunen. De referentie-implementatie is modulair opgezet en kan door operators worden aangepast aan hun infrastructuur.
Voor een organisatie die Mistral, Llama of een ander downloadbaar model binnen een zelfgekozen Europese infrastructuur wil uitvoeren, kan zo’n cloudstack dus onderdeel zijn van de technische architectuur. Het is alleen niet noodzakelijkerwijs de enige of voor iedere organisatie de beste oplossing.
7Niet ieder probleem vraagt om het grootste model
Misschien is een van de belangrijkste veranderingen wel dat de discussie minder hoeft te draaien om de vraag welk model in een algemene benchmark bovenaan staat. Voor een organisatie is een andere vraag meestal relevanter: welk model voldoet het beste aan de eisen van deze specifieke toepassing?
Een groot frontier-model kan indrukwekkende prestaties leveren, maar dat betekent niet automatisch dat het voor iedere toepassing de beste keuze is. In veel organisaties gaat het uiteindelijk niet om de vraag welk model op een algemene benchmark het hoogste scoort, maar welk model het beste past bij een specifieke taak.Â
Een paar use cases maken dat duidelijk. Zo kan een groot frontier-model waardevol zijn voor klantenservice wanneer vragen complex zijn, meerdere informatiebronnen moeten worden gecombineerd of een gesprek veel context vereist. Voor veel standaardvragen – zoals het opzoeken van productinformatie, facturen of eenvoudige procedures – kan een kleiner gespecialiseerd model echter voldoende zijn. Zo’n model kan sneller reageren, goedkoper draaien en eenvoudiger binnen de eigen infrastructuur worden beheerd.
Of kijk naar industriële toepassingen van ai. In dat soort omgevingen zijn snelheid, betrouwbaarheid en beschikbaarheid vaak belangrijker dan maximale modelcapaciteit. Voor toepassingen zoals kwaliteitscontrole, voorspellend onderhoud of ondersteuning van operators kan een kleiner model dat lokaal op een edge-server draait voordelen bieden. Het zal in de regel sneller reageren, ook bij beperkte netwerkverbindingen functioneren en voorkomen dat gevoelige productiegegevens naar externe systemen moeten worden gestuurd.
Het gevolg is dat ai-selectie steeds meer begint te lijken op andere it-architectuurkeuzes. Er bestaat zelden één product dat voor iedere workload optimaal is. Open en open weight-modellen vergroten daarbij vooral het aantal keuzemogelijkheden.
8Het Anthropic-voorbeeld laat beleidsrisico zien
Dat ook de politieke en juridische omgeving een rol kan spelen bij de beschikbaarheid van ai-modellen werd in 2026 zichtbaar rond Anthropic. De Amerikaanse overheid legde in juni beperkingen op aan de beschikbaarheid van enkele geavanceerde Anthropic-modellen voor buitenlandse gebruikers, vanwege zorgen over cybersecurity en nationale veiligheid. Anthropic haalde daarop de betrokken modellen tijdelijk uit de markt. Later werden de beperkingen gedeeltelijk weer opgeheven, waarbij voor sommige modellen of gebruikers aanvullende voorwaarden bleven gelden.
Het toont aan dat ai-toegang niet uitsluitend een technische of commerciële kwestie is. Exportregels, nationale veiligheidsmaatregelen en ander overheidsbeleid kunnen eveneens van invloed zijn op de beschikbaarheid van technologie.
9Van ideologische naar architectuurkeuze
Daarmee wordt de discussie over Europese en open ai uiteindelijk minder – zeg maar – ideologisch dan zij soms wordt voorgesteld. Amerikaanse frontier-modellen kunnen voor bepaalde toepassingen de meest geschikte keuze zijn. Voor andere workloads kan een Europees commercieel model aantrekkelijker zijn. En weer andere toepassingen kunnen uitstekend worden uitgevoerd met een lokaal gehost open weight- of opensource-model.
Ook combinaties zijn mogelijk. Een organisatie kan bijvoorbeeld gevoelige documenten lokaal verwerken en voor andere toepassingen gebruikmaken van een extern frontier-model. Een application layer kan bovendien zo worden ingericht dat meerdere modellen beschikbaar zijn en workloads afhankelijk van eisen rond prijs, prestaties of vertrouwelijkheid naar het meest geschikte model worden gestuurd. Die ontwikkeling maakt modelkeuze steeds meer een architectuurvraagstuk.
De relevante vraag is daarmee niet langer simpelweg of een organisatie voor Amerikaanse, Europese, gesloten of open ai moet kiezen. De interessantere vraag is welke combinatie van model, infrastructuur en leverancier voor iedere toepassing de juiste balans biedt tussen prestaties, kosten, controle en risico. Juist doordat er tegenwoordig veel meer realistische alternatieven bestaan, is die afweging zinvoller geworden.
