De AI Act: wat betekent dit voor scholen?

Waarom is de AI Act relevant voor het onderwijs?

AI is niet meer weg te denken, ook niet in het onderwijs. Steeds vaker gebruiken basisscholen AI-toepassingen, denk maar aan leermiddelen of adaptieve (doorstroom)toetsen, die zich met behulp van AI aanpassen aan het niveau van de leerling, of tools die helpen bij het maken van lesplannen en het nakijken van huiswerk.

De AI Act biedt een kader om AI op een veilige en ethische manier te integreren in het onderwijs. Door proactief beleid te ontwikkelen, personeel en medewerkers te trainen, en transparantie te waarborgen, kun je als school(bestuur) de voordelen van AI benutten terwijl je voldoet aan de wettelijke vereisten. De AI Act stelt eisen aan aanbieders van AI-systemen, maar ook aan gebruiksverantwoordelijken. Maken jullie gebruik van AI? Dan ben je als school(bestuur) gebruiksverantwoordelijke. Pas je zelf AI-systemen aan? Dan ben je mogelijk ook aanbieder.

Wat staat er in de AI Act?

De AI Act is op 1 augustus 2024 van kracht gegaan, maar de regels worden gefaseerd ingevoerd. Voor scholen gelden de meeste verplichtingen pas vanaf augustus 2026. 

Sinds februari 2025 zijn er wel al twee belangrijke zaken van kracht waar je rekening mee moet houden: 

1. de verplichting van AI-geletterdheid
2. het verbod op gebruik van AI-systemen met een onaanvaardbaar risico

En sinds augustus 2025 zijn de regels voor GPAI (General Purpose AI Models: AI-modellen voor algemene doeleinden) van kracht. Nieuwe GPAI-modellen moeten nu voldoen aan verplichtingen op het gebied van transparantie, copyrightbescherming, veiligheid en beveiliging. Voor bestaande GPAI-modellen geldt een overgangstermijn tot 2 augustus 2027.

Daarnaast heeft de Europese Unie op 10 juli 2025 een vrijwillige CoP (Code of Practice: gedragscode) gepubliceerd. Leveranciers kunnen die gedragscode ondertekenen en daardoor aantonen dat zij voldoen aan de AI Act. Onder andere Microsoft en Google hebben de gedragscode ondertekend. Lees meer over de ondertekenaars en wat de gedragscode voor jullie betekent.

AI-geletterdheid: wat is het en hoe werk je eraan?

AI-geletterdheid omvat de vaardigheden, kennis en het begrip om AI-systemen op een verantwoorde manier in te zetten en te gebruiken. Volgens de AI Act moet je als school(bestuur) maatregelen nemen om medewerkers hierin te trainen zodat zij begrijpen wat AI is en hoe het werkt, welke risico’s eraan verbonden zijn, wat de beperkingen zijn van het systeem én hoe je AI op een verantwoorde manier gebruikt.

Tips te werken aan AI-geletterdheid

1. Start met basiskennis: organiseer bijvoorbeeld teamdagen waarin collega’s kennismaken met wat AI is, hoe het werkt en waar je het al tegenkomt in het onderwijs. Gebruik hierbij voorbeelden van toepassingen die medewerkers al kennen of gebruiken, zoals adaptieve leermiddelen of generatieve AI-tools.
2. Betrek verschillende functies: AI-geletterdheid is niet alleen iets voor ict’ers of schoolleiders. Ook leerkrachten, intern begeleiders, administratief personeel, leerlingen en misschien zelfs ouders hebben ermee te maken.
3. Stimuleer kritisch denken: Bespreek met teams (of leerlingen) de voor- en nadelen van AI, en stel vragen zoals: Hoe komt AI tot deze conclusie? Wat gebeurt er met mijn data? Wat als de antwoorden van AI niet kloppen?
4. Maak het onderdeel van professionalisering: Neem AI-geletterdheid op in scholingsplannen en jaargesprekken. Zo blijft het onderwerp actueel en groeit het bewustzijn stap voor stap.

Risico-inschatting en transparantie over AI

Naast het stimuleren van AI-geletterdheid is het voor de naleving van de AI Act van belang dat je als school(bestuur) in kaart brengt welke AI-systemen binnen de school worden gebruikt. Ook moet je bepalen onder welke risicocategorie ze vallen. We raden aan om vast te starten met deze inventarisatie. Het is jullie eigen verantwoordelijkheid om te beoordelen in welke categorie een AI-systeem valt. Hiervoor kun je de stappen van de Rijksoverheid gebruiken:

1. Risico: in welke risicocategorie valt het AI-model of systeem?
   - Zijn de risico's van dit AI-systeem onaanvaardbaar groot en mag het niet worden gebruikt?
   - Staat het AI-systeem op de lijst met hoog risico-toepassingen? 
   - Is het een AI-model voor algemene doeleinden (GPAI)?
   - Is het generatieve AI of een chatbot? Anders is het overige AI
2. AI: is het systeem écht een AI-systeem volgens de AI Act?
3. Rol: zijn wij als school ‘aanbieder’ of ‘gebruiksverantwoordelijke’?
4. Verplichtingen: aan welke verplichtingen moeten wij ons houden?

Sinds februari 2025 is het gebruik van AI-systemen met een onaanvaardbaar risico verboden. Dit zijn systemen die manipuleren, misleiden, discrimineren of uitbuiten. Bijvoorbeeld toepassingen die emotieherkenning bij leerlingen toepassen. Sommige AI-systemen hebben een beperkt risico. In dat geval gelden er vanaf augustus 2025 transparantieverplichtingen, denk aan een vermelding dat bepaalde content of informatie met behulp van AI is gegenereerd. Andere voorbeelden zijn een AI-ondersteunde zoekfunctie of een chatbot op je website.

De maatregelen voor hoog-risico AI-systemen gaan vanaf augustus 2026 in. Dit zijn toepassingen die invloed hebben op bijvoorbeeld de toegang tot onderwijs, de beoordeling van leerresultaten of het bepalen van het juiste onderwijsniveau. In deze gevallen is het uitvoeren van FRIA (Fundamental Rights Impact Assessment) naast of aanvullend op een DPIA (Data Protection Impact Assessment) verplicht.

Ben je benieuwd hoe onze leveranciers omgaan met AI? Op onze website vind je informatie over de aanwezigheid van AI in producten. Sommige leveranciers geven zelf ook informatie, zoals Microsoft, Azure AI, Copilot en Google Cloud.

AI Act en de AVG

De AI Act staat niet los van de AVG. Veel AI-systemen verwerken persoonsgegevens waardoor de AVG van toepassing is, al tijdens de training van het systeem én bij het gebruik ervan.

De AVG heeft altijd voorrang. De AI Act voegt daar extra verplichtingen aan toe, met name rond risicobeheersing en transparantie. In de praktijk betekent dit dat je als school(bestuur) niet alleen moeten aantonen dat je persoonsgegevens rechtmatig, transparant en veilig verwerkt, maar ook maatregelen neemt om de specifieke risico's van AI-gebruik te beperken.