De AI Act: een houvast voor het onderwijs

De opkomst van AI-tools is overal voelbaar: grote bedrijven ontwikkelen de nieuwste toepassingen, docenten experimenteren ermee in hun lessen, en studenten…? Hoewel ze niet altijd digitale experts zijn, weten ze maar al te goed hoe ze tools als ChatGPT moeten gebruiken. Ondertussen is de AI Act geïntroduceerd, nieuwe Europese wetgeving die het gebruik van AI gaat reguleren. Maar wat betekent de AI Act nu concreet voor het onderwijs?

De AI Act als houvast voor het onderwijs

Deze vraag was het centrale thema van de recente ‘Aan tafel!’-sessie in Zwolle door Noordhoff (uitgever van lesmateriaal en de Bosatlas). Hier was onze eigen Bouke van Kleef om zijn verhaal te doen over de AI Act. Dagvoorzitter Martine Mingaars opende de bijeenkomst met een intrigerende vraag: “Als je jezelf op een AI-dartboard zou moeten plaatsen, waar zou je dan terechtkomen met je pijltje?”

• Bulls-eye: Je gebruikt AI volop in je lessen, en collega’s komen bij jou voor advies.
• Middelste ring: Je bent nieuwsgierig en zou AI misschien eens willen testen, bijvoorbeeld om een toets te laten nakijken, maar je weet nog niet hoe.
• Buitenste ring: Je vindt AI spannend en vermijdt het nog een beetje.

Een kleine opluchting was dat niemand in de buitenste ring zat. Of we het nu leuk vinden of niet, AI is er, en we moeten ermee leren omgaan, ook in het hoger onderwijs. Gelukkig kunnen we op een veilige en verantwoorde manier hier mee omgaan.

AI als nieuwe collega in het onderwijs

Dat zegt ook Bouke van Kleef tijdens zijn lezing, over de ins & outs rondom de AI Act en de impact op het hoger onderwijs. Want wat houdt de AI Act eigenlijk in? Waarom was deze nodig en waar moet je allemaal rekening mee houden als je werkt in het onderwijs?

AI kun je het beste zien als een waardevolle nieuwe collega, in plaats van als een bedreiging. Voor veel taken kan AI tot wel dertig procent tijdsbesparing opleveren, en daarnaast de kwaliteit van het werk aanzienlijk verbeteren. Dit betekent echter niet dat er niet gereguleerd moet worden. We leven nu in een tijdperk waarin iedereen van alles in elkaar knutselt. Of de uiteindelijke informatie ook klopt, is vaak nog de vraag.  Een standaard taalmodelletje, wat programmeertaal eroverheen en we hebben weer een AI-tool gefabriceerd. Of die AI-tool ook ethisch goed in elkaar steekt? En niet bolstaat van de (verborgen) bias (vooroordelen en typeringen)? Dat is lastig te beoordelen, net zoals we eigenlijk niet goed weten wat we er wel en niet mee mogen doen. Dit is de reden dat de AI Act in het leven is geroepen.

Volgens de AI Act vallen sommige activiteiten in het onderwijs onder de categorie “Hoog risico”

De AI Act is één van de meest ingewikkelde tech-wetgevingen tot nu toe. Mensen met veel AVG ervaring, zien logische verbanden. In augustus 2026 is de AI Act al vrijwel volledig van kracht. Maar dit gaat stapsgewijs; in februari 2025 komt er al een verbod op onaanvaardbare risico’s, zoals AI gezichtsherkenning in de openbare ruimte. Veel AI toepassingen zijn gewoon toegestaan, maar er worden wel risico-gebaseerde eisen gesteld. Hoe hoger het risico van het AI systeem hoe meer eisen er aan gesteld worden. Er zijn vier risicocategorieën en voor sommige activiteiten zal het onderwijs onder de hoog risico categorie vallen.

Voor het hoger onderwijs zijn voorbeelden van hoog risico AI systemen wanneer je gaat toetsen met AI, mensen door AI laat bepalen of ze wel of niet zijn geslaagd of met AI laten bepalen of ze wel of niet worden toegelaten tot een opleiding. Een voorbeeld van onacceptabele risico’s in het onderwijs zijn emotieherkenning in de klas of bij online toetsing.

Dat het voor studenten en docenten moeilijk is om in te schatten wanneer AI te veel wordt gebruikt snappen we. Net zo moeilijk als het bepalen wanneer je wel en niet AI mag gebruiken. Een mooi voorbeeld is van een ROC, die zijn aan de slag gegaan met rode, oranje, gele en groene stickers. Elke opdracht kreeg zo’n sticker om aan te geven in hoeverre AI gebruikt mag worden bij de uitvoer van de opdracht door de student. Zo krijgen studenten meteen helder wat er wel en niet mag, en misschien soms wel moet. Want ook tussen studenten bestaat een groot verschil in digitale geletterdheid.

AI is niet meer weg te denken uit het onderwijs

Tijd voor een oefening. Na de lunch neemt Martine de deelnemers mee voor een ‘gesprek op voeten’. Iemand geeft een stelling en de rest laat weten of ze het met de stelling eens zijn of niet door naar diegene toe te lopen. Een greep uit de stellingen:

• Assessments laten afnemen voor een AI-tool is helemaal prima.
• Je kunt AI gebruiken om boven jezelf uit te stijgen.
• Kennisoverdracht kunnen we volledig overlaten aan AI.
• AI maakt studenten lui.
• Zijn we zelf ook niet een beetje lui?

De groep beweegt zich flink door de ruimte heen en er komen flink wat discussies op stoom. Wat gaat er verloren als we AI inzetten? Moeten we onze creatieve spier niet blijven trainen? Is het niet een kwestie van inspiratie versus creativiteit, waarbij studenten AI inzetten om inspiratie op te doen en hun creativiteit gebruiken om bepaalde keuzes te maken? Houden we met AI niet bepaalde systemen in stand waarvan we ons moeten afvragen of we ze wel in stand moeten houden? En moeten we niet veel meer investeren in toetsvormen waarin de rol van AI al is verwerkt?

Een van de conclusies is ook dat er wezenlijk weinig veranderd is. In de jaren tachtig van de vorige eeuw gingen docenten nog de straten op om te protesteren tegen de komst van de rekenmachine in de klaslokalen, nu maken we ons druk om tools als ChatGPT, Midjourney, Gemini en CoPilot. Veel van de huidige discussies hoorden we jaren geleden ook al, bijvoorbeeld over plagiaatscans bij de komst van internet. En toch hebben we telkens weer geleerd om mét de technieken te werken en ze in te passen in onze onderwijssystemen. Dat kunnen we nu ook weer gaan doen. Zoals een van de deelnemers stelt: studenten worden niet lui door AI, ze worden lui door een curriculum dat niet past bij deze tijdgeest. En als we daar als docenten en onderwijskundigen niets aan doen, dan blijft die extrinsiek gedreven student wegkomen met ChatGPT zonder zélf na te leren denken.

Het onderwijs verandert, blijf Digitaal Vitaal!

Als slotakkoord buigen de deelnemers zich over de vraag wat zij nodig hebben om AI concreet te implementeren in de praktijk. Al gauw wordt duidelijk dat veel deelnemers snakken naar een basiscursus voor docenten én studenten. Ze merken dat er een groep is die, uit onzekerheid of desinteresse, maar moeilijk in beweging is te krijgen.

Lichte sociale dwang kan helpen, zegt Bouke. Eigenlijk moet er een FOMO-gevoel ontstaan of het idee dat er een crisis is. Die is er namelijk ook. Het onderwijs verandert, de arbeidsmarkt verandert, de hele wereld is in beweging. De urgentie om die omschakeling te maken en het curriculum aan te passen is er gewoon. Mensen die werken in het onderwijs hebben vaak moeite met bijblijven en actueel houden van hun lessen. Bouke roept mensen in het onderwijs op om digitaal vitaal te willen blijven.

Tips voor docenten!

• Anonimiseer je prompts
• Deel met ChatGPT alleen wat je ook op social media zou delen
• Doe een DPIA en breng het risico van de tool in kaart
• Organiseer trainingen en zorg voor goede instructies, spelregels en beleid
• Wees kritisch en neem verantwoordelijkheid voor eventuele AI-gerelateerde fouten
• Bij gebruik van hoog risico AI, laat je adviseren door (juridisch) experts!

Studenten AI-proof maken? Laat ze geen scriptie schrijven, maar een scriptie factchecken en beoordelen of die tekst AI-gegenereerd is of niet. Kritisch kijken is en blijft tenslotte een van de bouwstenen van hoger onderwijs!

Bedankt Noordhoff voor deze enerverende dag en het verslag daarvan!
Wil je meer weten over AI en de AI Act ? Bekijk dan onze AI Trainingen eens of neem direct contact met ons op. Wij helpen je graag verder!