Verantwoord AI inzetten
Zes principes die wij aanhouden, vier gewoontes die het meeste verschil maken, en wat de EU AI Act sinds augustus 2026 van je vraagt.
Deel 5 van de reeks
Zonder angst, en zonder roze bril
AI grijpt in op werk waar de gevolgen groot zijn: zorg, onderwijs, uitvoering, rechtspraak. Dat roept vragen op die terecht zijn. Hoe zorg je dat de techniek doet wat je wilt? En hoe zie je daarop toe?
Wat we in de praktijk vaak zien, is dat die voorzichtigheid omslaat in aarzeling of verbod. Begrijpelijk, en niet productief: je verliest er de kans op om te leren hoe het wél kan. Wij geloven in objectief en kritisch blijven. Blijf je informeren over hoe het werkt en wat het doet, dan kun je de techniek verantwoord invoeren in plaats van hem buiten te houden.
Dit deel gaat over wat wij onder mensgerichte AI verstaan, welke principes we aanhouden, en wat de wet inmiddels van je vraagt. De basis eronder is het afstudeeronderzoek dat Jet Wardenier hiernaar bij ons deed voor haar HBO-ICT-studie.
Waar de wet nu staat
De EU AI Act is er niet meer bij als toekomstmuziek: de transparantieverplichtingen gelden sinds 2 augustus 2026, en wij voldoen daaraan. Praktisch komt dat neer op drie dingen die je moet kunnen: laten zien dat iemand met een systeem praat en niet met een mens, uitleggen waar een uitkomst op is gebaseerd, en aangeven wat je toepassing niet kan.
Daarnaast blijft gewone wetgeving gelden. De AVG verandert niet omdat er AI in het spel is, en voor overheidsopdrachten geldt de BIO2 voor zover van toepassing. Wie een hoogrisicotoepassing bouwt, zoals een systeem dat meebeslist over mensen, heeft nog een stap extra te zetten.
Ons advies: leg vast wie in de organisatie hierop let. Niet als functie op papier, maar als iemand die er tijd voor heeft.
Zes principes die wij aanhouden
Verantwoorde AI is het bredere verhaal: veilig, betrouwbaar, ethisch verdedigbaar. Mensgerichte AI is daar een onderdeel van en zet de mens die ermee werkt centraal. Uit beleid en literatuur houden wij deze zes principes aan.
Menselijke autonomie
Bepaal welke grenzen het systeem heeft. Een goed systeem helpt iemand de juiste keuze te maken en maakt die keuze niet in zijn plaats. Ga na of jouw toepassing ondersteunt, stuurt of beïnvloedt, en wees daar open over. Praat iemand met een systeem, dan moet dat duidelijk zijn. Kies bewust hoeveel toezicht erbij hoort: iemand die elke uitkomst nakijkt, iemand die meekijkt, of iemand die de knop heeft.
Transparantie
Volledig uitleggen waarom een model iets zegt, kan vaak niet. Wat wel kan, is navolgbaar maken waar een antwoord op gebaseerd is, en eerlijk zijn over de grenzen. Bij ons betekent dat: bij elk antwoord de bron erbij, zodat iemand het zelf kan nalezen. Dat is geen extra functie maar de kern van hoe wij bouwen.
Inclusie en diversiteit
Een model dat leert van data met scheve verhoudingen erin, geeft scheve uitkomsten terug, en kan daarmee mensen of groepen benadelen. Denk vooraf na over welke data je gebruikt en waar het gevoelig ligt. Categoriseer geen mensen op grond van wie ze zijn. In domeinen als zorg en onderwijs zijn de gevolgen van zo'n fout niet terug te draaien.
Privacy
Het recht op privacy staat in artikel 10 van de Grondwet, en de AVG maakt concreet wat dat betekent. Ontwerp met anonimiteit, vertrouwelijkheid en controleerbaarheid in gedachten. Wees duidelijk naar gebruikers over wat er met hun gegevens gebeurt, en geef ze waar het kan een keuze.
Milieu en maatschappelijk welzijn
Niet alleen de gebruiker is belanghebbende. Wie voortdurend met systemen werkt die voorstellen doen, gaat anders naar zijn eigen werk kijken. Maatschappelijk welzijn betekent hier: democratische processen respecteren en mensen hun eigen keuzes laten. En op milieu: modellen kosten energie, dus de vraag welk model je nodig hebt, is ook een duurzaamheidsvraag. Het grootste model is zelden het antwoord.
Legaliteit
Er komt wetgeving bij en bestaande wetgeving blijft gelden. Houd bij wat er verandert, en beleg de verantwoordelijkheid daarvoor bij iemand.
Praktische handvatten
Vier dingen die je morgen kunt doen
Principes zijn nuttig en abstract. Dit zijn vier gewoontes die in onze projecten het meeste verschil maken, en ze kosten geen programma om in te voeren.
1
Blijf bij, en blijf kritisch
Beleid en kaders lopen achter op de techniek; dat is geen verwijt maar een gegeven. Kies een paar bronnen in jouw domein en controleer regelmatig of je toepassingen nog binnen de kaders vallen. En durf kritisch te kijken naar wat er in je eigen organisatie draait: grijze gebieden blijven bestaan, dus het gesprek erover ook.
2
Beoordeel per geval
Elke toepassing heeft eigen kenmerken en eigen risico's. Kijken naar wat elders werkt is nuttig, maar neem het niet over zonder de verschillen te wegen. Loop per casus opnieuw na waar het knelt.
3
Test grondig, ook op de formulering
Bij een taalmodel bepaalt de opdracht het antwoord. Een andere formulering van dezelfde vraag kan een compleet andere uitkomst geven. Test dus met verschillende formuleringen, geef het model de context die het nodig heeft, en ga uit van misinterpretatie in plaats van van goede wil.
4
Vertel wat je doet
Betrek gebruikers van begin tot eind: eerst om te horen waar zij op vastlopen, later om te horen wat er niet werkt. Wie weet waarom een systeem er is, vertrouwt het eerder en merkt sneller op wanneer het misgaat. En zoek bewust mensen op die het er niet mee eens zijn; enthousiasme in een team dat het samen eens is, heet ook wel de roze bril.
Wat je hieruit meeneemt
- Verantwoord inzetten is geen sluitstuk maar een ontwerpvraag: het bepaalt welke rol het systeem krijgt.
- De transparantieverplichtingen van de EU AI Act gelden sinds 2 augustus 2026.
- Uitlegbaarheid haal je zelden helemaal, navolgbaarheid wel. Zet de bron bij het antwoord.
- Test op de formulering van je opdracht, want daar zit meer variatie dan in het model.
- Zoek tegenspraak op. Een team dat het met zichzelf eens is, ziet zijn eigen blinde vlek niet.
Verder lezen
De reeks over generatieve AI
Vijf stukken die samen één vraag beantwoorden: hoe krijg je AI aan het werk in een organisatie waar de inzet hoog is? Ze staan in leesvolgorde, maar je kunt er ook één uit pakken. Het valideren en het invoeren van een oplossing staan niet meer in deze reeks: die twee onderwerpen hebben we uitgewerkt per fase in de reeks over de Data Discovery Sprint.
Deel 1
Wat is generatieve AI?
Wat de techniek doet, waarom een model niets weet, en welke zes dingen een AI-project laten slagen.
Deel 2
Een geschikte use case kiezen
De klassieke misstap is een probleem zoeken bij een oplossing. Hoe je het omdraait, met de Kamervragen-casus als voorbeeld.
Deel 3
Het fundament eronder
Data, systemen en processen. Het deel onder de waterlijn, waar een AI-project op strandt of niet.
Deel 4
Welk model kies je?
Vier soorten taken vragen vier benaderingen. Plus de vraag die er in Nederland bij hoort: waar draait het model?
Deel 5
Verantwoord inzetten
Zes principes die wij aanhouden, en wat de EU AI Act sinds augustus 2026 van je vraagt. Dit stuk lees je nu.
Meer weten?
Wil je meer informatie over Verantwoorde en Mensgerichte AI? Joris gaat er graag met je over in gesprek.
