AI Act en het onderwijs: wat betekent de nieuwe AI-wet voor scholen?
AI speelt een steeds grotere rol in het onderwijs. Maar met deze groei komen ook nieuwe regels. De AI Act, de eerste uitgebreide AI-wetgeving in Europa, stelt duidelijke eisen aan het gebruik van AI in scholen. Wat betekent dit voor jou als docent of schoolleider? Welke AI-systemen vallen onder de wet en hoe zorg je ervoor dat je school compliant is? In dit artikel leggen we uit wat de AI Act inhoudt, welke risico’s en kansen AI biedt in het onderwijs en welke stappen je nu al kunt nemen om goed voorbereid te zijn.
Wat betekent de AI Act voor het onderwijs?
AI speelt een steeds grotere rol in de samenleving en dus ook in het onderwijs. Maar hoe zorg je ervoor dat AI eerlijk, veilig en verantwoord wordt ingezet? De Europese Unie heeft hiervoor de AI Act ontwikkeld: de eerste uitgebreide wet die regels stelt voor het gebruik van AI. Belangrijk, want als school heb je hier mee te maken.
Deze wet heeft flinke gevolgen voor scholen en onderwijsinstellingen. AI wordt al ingezet voor leerlingbeoordelingen, adaptief leren en administratieve taken. Maar met deze groei komt ook de vraag hoe we AI eerlijk en transparant houden. De AI Act moet ervoor zorgen dat AI-systemen in het onderwijs betrouwbaar en verantwoord werken.
Regulering is hard nodig. Denk aan de manier waarop AI kan helpen bij het personaliseren van leertrajecten, maar ook hoe het verkeerd gebruikt kan worden, bijvoorbeeld bij het automatisch beoordelen van leerlingen zonder menselijke controle. De AI Act stelt eisen aan AI-gebruik, zodat scholen en onderwijsinstellingen AI op een veilige manier kunnen inzetten.
Deze wetgeving is dus geen ver-van-je-bed-show, maar iets waar elke school mee te maken krijgt. Wat betekent dit concreet voor het onderwijs? En hoe kun je je voorbereiden op de nieuwe regels? In dit artikel leggen we het uit.
Waarom is regulering van AI nodig in het onderwijs?
AI is geweldig, maar brengt ook risico’s met zich mee. Zonder duidelijke regels kunnen AI-systemen leiden tot oneerlijke behandeling, privacyproblemen en verkeerde beslissingen zonder menselijke controle.
Vooroordelen in AI modellen
Een van de grootste risico’s is ‘bias in AI-modellen’. AI leert van grote hoeveelheden data, maar als die data niet divers genoeg zijn, kan het systeem bevooroordeelde beslissingen nemen. Dit kan bijvoorbeeld betekenen dat leerlingen met een bepaalde achtergrond minder snel een hoog advies krijgen bij schooltoelatingen, simpelweg omdat het model op basis van eerdere data bepaalde patronen herkent.
Privacy en AI
Ook privacy is een groot aandachtspunt. Veel AI-systemen werken met persoonsgegevens van leerlingen. Denk aan adaptieve leermiddelen of leervolgsystemen (zoals Parnassys) die bijhouden hoe goed een leerling een vak beheerst. Als deze gegevens niet goed beschermd worden, kunnen ze in verkeerde handen vallen. Bovendien moeten leerlingen en ouders altijd weten wat er met hun gegevens gebeurt en waar ze terechtkomen.
Geautomatiseerde besluitvorming
Een ander risico is geautomatiseerde besluitvorming. Stel je voor dat een AI-systeem automatisch bepaalt of een leerling fraude heeft gepleegd bij een toets of welk schooladvies een leerling krijgt. Zonder menselijke tussenkomst kan dit leiden tot onterechte beslissingen, waar leerlingen en ouders zich nauwelijks tegen kunnen verweren.
Strengere regels met Responsible AI
Om deze risico’s te beperken, legt de AI Act strengere regels op aan AI-systemen in het onderwijs. Dit noemen we Responsible AI: AI die transparant, eerlijk en betrouwbaar werkt. De AI Act dwingt ontwikkelaars en gebruikers van AI-systemen om verantwoord om te gaan met deze technologie. Dit betekent dat je als school beter moet controleren hoe AI wordt ingezet en of de beslissingen die AI neemt wel kloppen.
Geen verbod, maar regulering
Een belangrijke nuance is dat met deze wet AI niet verboden wordt, maar juist gereguleerd. Zo wordt ervoor gezorgd dat AI een eerlijke en veilige plek krijgt binnen het onderwijs.
De kern van de AI Act: vier risiconiveaus
De AI Act is gebaseerd op vier niveaus van risico’s. Hoe hoger het risico van een AI-systeem, hoe strenger de regelgeving. Hieronder leggen we de vier risiconiveaus uit en wat dit betekent voor het onderwijs.
Onaanvaardbaar risico: verboden AI-toepassingen
Sommige AI-toepassingen brengen zulke grote risico’s met zich mee dat ze helemaal niet meer mogen worden gebruikt. Dit betekent bijvoorbeeld dat systemen die emoties herkennen of biometrische gegevens analyseren (zoals gezichtsherkenning bij toetsen) verboden worden. Het idee hierachter is dat zulke technologieën te diep ingrijpen in de privacy van leerlingen en studenten.
Hoog risico: strenge regels voor toelating, beoordeling en adaptief leren
AI-systemen die worden gebruikt voor belangrijke beslissingen over leerlingen vallen in de categorie ‘hoog risico’. Denk aan:
- Toelatingssystemen die bepalen of een leerling wordt toegelaten tot een school of studie.
- Beoordelingssoftware die bijvoorbeeld toetsen nakijkt en invloed heeft op de cijfers van leerlingen.
- Adaptieve leersystemen die automatisch leerstof aanpassen op basis van prestaties van leerlingen.
Voor deze toepassingen gelden strenge eisen. Ontwikkelaars moeten aantonen dat hun AI geen discriminerende patronen bevat en dat er altijd menselijk toezicht blijft. Als school moet je zorgvuldig controleren hoe deze systemen werken en of ze geen onbedoelde nadelige effecten hebben op leerlingen.
Beperkt risico: transparantie verplicht voor AI-tools
AI-toepassingen die geen directe invloed hebben op belangrijke beslissingen, maar wel met leerlingen interacteren, vallen in de categorie ‘beperkt risico’. Dit geldt bijvoorbeeld voor chatbots (zoals ChatGPT en Perplexity) en virtuele assistenten die helpen bij studieplanning of huiswerk. Voor deze tools geldt vooral een transparantieverplichting:
Het moet duidelijk zijn dat een leerling met een AI-systeem communiceert en niet met een mens.
De werking van de AI moet uitlegbaar zijn, zodat leerlingen en docenten weten hoe antwoorden tot stand komen.
Minimaal risico: eenvoudige AI zonder regelgeving
Sommige AI-toepassingen brengen nauwelijks risico’s met zich mee. Denk aan spamfilters of automatische correctiesystemen in tekstverwerkers (zoals Grammarly). Deze toepassingen blijven grotendeels buiten de AI Act en mogen zonder extra beperkingen worden gebruikt.
De AI Act zorgt ervoor dat AI op een verantwoorde manier in het onderwijs wordt gebruikt. Vooral scholen die werken met AI in toetsing, leerlingbeoordeling en gepersonaliseerd leren moeten zich goed voorbereiden op de nieuwe regels.
Wat betekent dit concreet voor scholen en docenten?
De AI Act stelt niet alleen regels voor ontwikkelaars van AI-tools, maar legt ook verantwoordelijkheid bij scholen en docenten die deze tools gebruiken. Je moet dus bewust kiezen welke AI-tools je inzet en hoe je omgaat met de verplichtingen rondom privacy, transparantie en verantwoord gebruik. Dit vraagt om duidelijke richtlijnen en een goed begrip van de mogelijkheden én risico’s van AI in de klas.
Verantwoordelijkheid van scholen
Scholen die AI-tools gebruiken, zijn niet alleen gebruikers maar ook afnemers van deze systemen. Dit betekent dat je als school:
- Moet controleren of een AI-systeem voldoet aan AI Act en de AVG.
- Instructies en richtlijnen van de leverancier strikt moet opvolgen, zodat AI veilig wordt ingezet.
- Docenten en leerlingen duidelijke afspraken geeft over hoe AI gebruikt mag worden.
Wanneer je bijvoorbeeld een AI-gestuurd adaptief leersysteem inzet, zoals Snappet of Gynzy, moet je controleren of de software transparant is over hoe beslissingen worden genomen en of de gegevens van leerlingen goed worden beschermd.
De rol van docenten: AI begrijpen en begeleiden
Voor jou als docent betekent de AI Act dat je je moet verdiepen in AI-gebruik en moet leren hoe jee dit veilig en verantwoord in de klas kunt toepassen. Dit houdt in:
- AI-tools niet zomaar inzetten zonder te weten hoe ze werken en welke beperkingen er zijn.
- Leerlingen begeleiden bij kritisch denken over AI: is de output betrouwbaar, klopt de informatie en wat zijn de risico’s?
- Zelf AI slim gebruiken, bijvoorbeeld om gepersonaliseerde feedback te geven of efficiënter te differentiëren in de klas.
Een voorbeeld: stel dat leerlingen ChatGPT gebruiken om een werkstuk te schrijven. Jij kunt hen leren hoe ze de gegenereerde tekst moeten controleren, aanpassen en onderbouwen met betrouwbare bronnen. Dit voorkomt dat leerlingen AI blind vertrouwen zonder kritisch na te denken.
Door AI niet te weren, maar bewust in te zetten, help je leerlingen en studenten om er verantwoordelijk mee om te gaan.
AI en privacy: hoe verhoudt de AI Act zich tot de AVG?
Misschien ken je de AVG al. Bij het gebruik van AI in het onderwijs blijft de Algemene Verordening Gegevensbescherming (AVG) van kracht. AI-systemen verwerken vaak persoonsgegevens van leerlingen, zoals toets resultaten of leergedrag. De AVG zorgt ervoor dat deze gegevens veilig en verantwoord worden gebruikt. De AI Act voegt hier extra regels aan toe, vooral op het gebied van geautomatiseerde besluitvorming en transparantie.
De AVG blijft de basis
De AVG beschermt persoonsgegevens en stelt eisen aan hoe scholen en AI-leveranciers hiermee omgaan. Dit betekent dat:
- Scholen moeten kunnen verantwoorden welke leerlinggegevens ze verwerken en waarom.
- Leerlingen en ouders het recht hebben om te weten welke gegevens worden opgeslagen en hoe deze worden gebruikt.
- AI-systemen alleen data mogen verwerken als daar een duidelijke juridische basis voor is.
Extra regels voor AI-besluiten
De AI Act gaat wel verder dan de AVG door extra regels te stellen aan geautomatiseerde besluitvorming. Dit betekent dat een AI-systeem dat zelfstandig beslissingen neemt (bijvoorbeeld bij adaptief leren of het detecteren van fraude bij examens) altijd onder menselijk toezicht moet staan. Een leerling mag bijvoorbeeld niet automatisch worden afgewezen voor een school op basis van een AI-analyse, zonder dat een docent of examinator dit besluit controleert.
Transparantie is de kern
Zowel de AI Act als de AVG benadrukken hoe belangrijk transparantie is. Dit betekent dat scholen:
- Duidelijk moeten maken welke AI-tools ze gebruiken en wat deze doen.
- Aangeven hoe beslissingen tot stand komen en welke data worden verwerkt.
- Zorgen dat leerlingen en ouders kunnen controleren en corrigeren wat een AI-systeem over hen verzamelt.
Wat kun je nu al doen?
De AI Act wordt gefaseerd ingevoerd, maar als school kun je je nu al voorbereiden om AI op een verantwoorde manier te gebruiken. Dit voorkomt verrassingen en zorgt ervoor dat AI-systemen straks goed geïntegreerd zijn in jouw onderwijs.
Zorg voor verantwoord AI-gebruik binnen de school
AI-tools bieden veel mogelijkheden, maar moeten wel zorgvuldig worden ingezet. Stel duidelijke richtlijnen op voor het gebruik van AI. Dit betekent dat je kritisch kijkt naar welke AI-toepassingen worden gebruikt en of deze voldoen aan de privacywetgeving en de AI Act. Maak afspraken over hoe docenten en leerlingen AI mogen gebruiken en leg vast welke toepassingen binnen de school toegestaan zijn.
Train docenten in AI-geletterdheid
Veel docenten voelen zich nog onzeker over AI en weten niet precies hoe ze het verantwoord kunnen inzetten. Daarom is het belangrijk om docenten te trainen in AI-geletterdheid. Dit helpt hen om AI kritisch te benaderen en te begrijpen hoe ze de technologie kunnen gebruiken zonder de controle te verliezen.
> Wil je meer leren over wat AI voor jou en je leerlingen kan betekenen?
Volg dan onze training AI in de klas en leer hoe je AI op een veilige en verantwoorde manier gebruikt, zodat je leerlingen er optimaal gebruik van kunnen maken zonder risico’s.
Je school AI-compliant maken in 5 stappen
Wij hebben een vijfstappenplan voor je om AI-compliant te worden.
1. Begrijp de AI Act en de impact op scholen
Hiermee heb je door het goed lezen van dit artikel al een hele goede stap gemaakt.
Actiepunt: Breng in kaart welke AI-tools jouw school al gebruikt en bepaal onder welke risicocategorie ze vallen.
2. Bepaal een gedragscode
Een duidelijke gedragscode helpt je om AI verantwoord in te zetten. Hierin leg je vast hoe AI binnen jouw school wordt gebruikt en welke ethische richtlijnen er gelden. Denk hierbij aan transparantie, gegevensbescherming en de rol van menselijke controle bij AI-gestuurde beslissingen.
Actiepunt: Stel een AI-beleid op waarin je beschrijft hoe AI wordt ingezet binnen de school, hoe privacy wordt gewaarborgd en hoe AI-output kritisch wordt beoordeeld.
3. Train docenten en medewerkers
AI is een krachtige tool, maar alleen als je weet hoe je het verantwoord gebruikt. Docenten en medewerkers moeten AI kunnen herkennen, beoordelen en controleren. Ze moeten weten welke vragen ze kunnen stellen over AI-systemen en hoe ze AI-gebruik door leerlingen kunnen begeleiden.
Actiepunt: Organiseer trainingen of bijscholing voor docenten over AI-geletterdheid, zodat ze weten hoe AI werkt en hoe ze het veilig en effectief kunnen inzetten in hun lessen.
4. Zorg voor veilige en duidelijke procedures
Hoe zorg je ervoor dat AI-systemen op een veilige manier met leerlingdata omgaan? Hoe herken en meld je misbruik? Je moet AI-risicobeoordelingen uitvoeren en duidelijke protocollen opstellen voor het omgaan met AI-gerelateerde incidenten.
Actiepunt: Stel een privacybeleid op waarin staat hoe AI binnen de school wordt gebruikt, hoe gegevens worden beschermd en hoe meldprocedures werken bij twijfel of misbruik.
5. Betrek leerlingen en ouders
AI heeft impact op iedereen binnen de school. Daarom is het belangrijk om niet alleen docenten en medewerkers te trainen, maar ook leerlingen en ouders te informeren. Open communicatie over AI in het onderwijs voorkomt misverstanden en weerstand. Leerlingen moeten begrijpen hoe AI werkt en hoe ze het op een verantwoorde manier kunnen gebruiken. Ouders moeten weten hoe AI wordt ingezet en welke invloed dit heeft op het leerproces van hun kinderen.
Actiepunt: Organiseer informatiesessies of ouderavonden waarin je uitlegt hoe AI binnen de school wordt gebruikt en welke afspraken er zijn gemaakt over verantwoord gebruik.
Voorbereid de toekomst in
AI is niet meer weg te denken uit het onderwijs en met de AI Act komen er duidelijke regels waar scholen zich aan moeten houden. Een goede ontwikkeling. Door nu al stappen te zetten en AI bewust en verantwoord in te zetten, zorg je ervoor dat je school klaar is voor de toekomst. AI biedt kansen, maar alleen als het op een doordachte manier wordt geïntegreerd.
Hulp voor scholen, koepels en besturen
Bij Docentenbijscholing helpen we scholen, koepels en besturen om AI op een veilige en effectieve manier te implementeren. We verzorgen trainingen op locatie (en online), advies en praktische handvatten om docenten en schoolleiders AI-vaardig te maken en ze te begeleiden bij de invoering van AI-beleid. Wil je weten hoe jouw school AI-compliant kan worden? Neem contact met ons op en we helpen je graag verder!
0 comments