Welk AI-model kies je?

Machine learning of deep learning?

Twee manieren om patronen uit data te halen, met een verschil dat praktisch uitpakt.

• Hoe ze leren. Bij machine learning kies je zelf de kenmerken waarvan het model mag leren. Bij deep learning haalt het algoritme die kenmerken zelf uit ruwe data, via meerdere lagen die elk iets anders oppikken.
• Hoeveel data ze vragen. Machine learning werkt goed met kleinere hoeveelheden, maar hangt af van goed gekozen kenmerken. Deep learning heeft meer data nodig en komt juist tot zijn recht bij grote hoeveelheden ruwe tekst.

Voor generatieve toepassingen gebruik je deep learning. Maar voor een deel van de taken in een AI-project is klassieke machine learning eenvoudiger, goedkoper en beter uitlegbaar. Dat laatste is geen bijzaak als je een besluit moet kunnen verantwoorden.

Vier taken, vier benaderingen

Het scherpst wordt dit met één casus die je van vier kanten bekijkt. Neem weer de Kamervragen.

Een vraag koppelen aan de juiste directie

Dit is een classificatietaak. Stel dat je een verzameling eerdere vragensets hebt die met de hand aan een beleidsdirectie zijn toegewezen, met per set de bewindspersoon, het dossier en het onderwerp. Op die drie kenmerken kan een algoritme leren welke directie waarschijnlijk aan zet is. Dat is klassieke, aangeleerde machine learning.

Voorspellen hoe lang het beantwoorden duurt

Dit is een regressietaak: je voorspelt een getal. Neem je aan dat het aantal vragen samenhangt met de doorlooptijd, dan kun je die relatie leren. Blijkt het onderwerp of de bewindspersoon daarop van invloed, dan weeg je die mee.

Een vraag vergelijken met alles wat er al ligt

Dit is een clustertaak, en hier komt deep learning binnen. Om teksten te kunnen vergelijken moet je ze eerst omzetten in getallenreeksen die de betekenis vasthouden, en die reeksen daarna met elkaar vergelijken. Zo vind je een eerdere vraag die anders geformuleerd is maar over hetzelfde gaat, en dat is precies wat een trefwoordzoekmachine mist.

Een mogelijk antwoord formuleren

Dit is een generatietaak. Je gebruikt de uitkomst van de vorige stap, de vergelijkbare vragen en documenten, en geeft een taalmodel de opdracht daaruit een concept te formuleren. Let op de volgorde: het model verzint niets, het schrijft op basis van wat de vorige stap heeft aangedragen.

Vier taken in één project, en drie verschillende soorten modellen. Dat is de regel, niet de uitzondering.

Kant-en-klaar of zelf bijstellen?

Vrijwel niemand traint nog een taalmodel van nul; dat is voor de meeste organisaties niet te betalen en ook niet nodig. Je begint met een vooraf getraind model en stelt dat bij voor jouw taak.

Dat brengt twee vragen mee waarop je een antwoord moet hebben. De eerste: waarop is dat model getraind? Je erft de eigenaardigheden van die data, inclusief de scheve verhoudingen erin. De tweede: wat kost het per gebruik? Bij een vooraf getraind model betaal je meestal per verwerkte hoeveelheid tekst, en dat schaalt met je gebruik in plaats van met je investering.

En de vraag die er in Nederland bij hoort: waar draait het?

Voor de organisaties waar wij komen is dit even zwaarwegend als de nauwkeurigheid. Wij zijn EU-first: we kunnen de volledige keten Europees leveren, van infrastructuur in Amsterdam tot Europese taalmodellen, en waar het past zelfs met open-sourcemodellen op Nederlandse bodem. Jij kiest. Verwerking buiten de EU gebeurt alleen in afstemming en passend bij de oplossing.

Praktisch betekent dat: modelkeuze en datalocatie zijn twee vragen, niet één. Een Europees model op Europese infrastructuur houdt de hele keten binnen de EU. Kies je een model dat daarbuiten draait omdat het voor jouw taak beter is, dan brengen we die keuze en de waarborgen eromheen vooraf in beeld. Wat je niet wilt, is dat achteraf ontdekken.

Wat je hieruit meeneemt

• De modelkeuze raakt de kern van je project, niet alleen de techniek.
• Er is geen model dat alles het beste doet; één project vraagt vaak drie soorten.
• Ken de data waarop een model getraind is, want je erft wat daarin zit.
• Modelkeuze en datalocatie zijn twee aparte vragen. Stel ze allebei, en vooraf.
• Uitlegbaarheid is een selectiecriterium, geen bijkomstigheid.