AVG naleven
29 april 2025
De AI Act: wat betekent dit voor scholen?
Sinds augustus 2024 is de Europese AI-verordening, oftewel de AI Act, in werking getreden. Wat betekent dat voor jullie school(bestuur) en voor jou als Privacy Officer of FG? Hieronder lees je meer over de AI Act en wat je kunt doen om eraan te voldoen.
Waarom is de AI Act relevant voor het onderwijs?
AI is niet meer weg te denken, ook niet in het onderwijs. Steeds vaker gebruiken basisscholen AI-toepassingen, denk maar aan leermiddelen of adaptieve (doorstroom)toetsen, die zich met behulp van AI aanpassen aan het niveau van de leerling, of tools die helpen bij het maken van lesplannen en het nakijken van huiswerk.
De AI Act biedt een kader om AI op een veilige en ethische manier te integreren in het onderwijs. Door proactief beleid te ontwikkelen, personeel en medewerkers te trainen, en transparantie te waarborgen, kun je als school(bestuur) de voordelen van AI benutten terwijl je voldoet aan de wettelijke vereisten. De AI Act stelt eisen aan aanbieders van AI-systemen, maar ook aan gebruiksverantwoordelijken. Maken jullie gebruik van AI? Dan ben je als school(bestuur) gebruiksverantwoordelijke. Pas je zelf AI-systemen aan? Dan ben je mogelijk ook aanbieder.
Wat staat er in de AI Act?
De AI Act is op 1 augustus 2024 van kracht gegaan, maar de regels worden gefaseerd ingevoerd. Voor scholen gelden de meeste verplichtingen pas vanaf augustus 2026. Toch zijn er sinds februari 2025 al twee belangrijke zaken van kracht waar je rekening mee moet houden: de verplichting van AI-geletterdheid en het verbod op gebruik van AI-systemen met een onaanvaardbaar risico.
AI-geletterdheid: wat is het en hoe werk je eraan?
AI-geletterdheid omvat de vaardigheden, kennis en het begrip om AI-systemen op een verantwoorde manier in te zetten en te gebruiken. Volgens de AI Act moet je als school(bestuur) maatregelen nemen om medewerkers hierin te trainen zodat zij begrijpen wat AI is en hoe het werkt, welke risico’s eraan verbonden zijn, wat de beperkingen zijn van het systeem én hoe je AI op een verantwoorde manier gebruikt.
Tips te werken aan AI-geletterdheid
- Start met basiskennis: organiseer bijvoorbeeld teamdagen waarin collega’s kennismaken met wat AI is, hoe het werkt en waar je het al tegenkomt in het onderwijs. Gebruik hierbij voorbeelden van toepassingen die medewerkers al kennen of gebruiken, zoals adaptieve leermiddelen of generatieve AI-tools.
- Betrek verschillende functies: AI-geletterdheid is niet alleen iets voor ict’ers of schoolleiders. Ook leerkrachten, intern begeleiders, administratief personeel, leerlingen en misschien zelfs ouders hebben ermee te maken.
- Stimuleer kritisch denken: Bespreek met teams (of leerlingen) de voor- en nadelen van AI, en stel vragen zoals: Hoe komt AI tot deze conclusie? Wat gebeurt er met mijn data?
- Maak het onderdeel van professionalisering: Neem AI-geletterdheid op in scholingsplannen en jaargesprekken. Zo blijft het onderwerp actueel en groeit het bewustzijn stap voor stap.
Tip!
Adoptietrainingen voor medewerkers
Wist je dat wij verschillende adoptietrainingen aanbieden waarbij medewerkers actief aan de slag gaan met AI-tools en zo hun AI-geletterdheid vergroten? Denk aan een training over Copilot Chat of Microsoft 365 Copilot en Canva for Education.
Lees meer
Risico-inschatting en transparantie over AI
Naast het stimuleren van AI-geletterdheid is het voor de naleving van de AI Act van belang dat je als school(bestuur) in kaart brengt welke AI-systemen binnen de school worden gebruikt. Ook moet je bepalen onder welke risicocategorie ze vallen. We raden aan om vast te starten met deze inventarisatie. Het is jullie eigen verantwoordelijkheid om te beoordelen in welke categorie een AI-systeem valt. Hiervoor kun je de stappen van de Rijksoverheid gebruiken:
- Risico: valt het systeem dat we gebruiken onder een bepaalde risicocategorie (verboden, beperkt risico of hoog risico)?
- Categorie: is het een AI-model of systeem voor algemene doeleinden of is het een systeem voor generatieve AI of een chatbot?
- AI: is het systeem écht een AI-systeem volgens de AI Act?
- Rol: zijn wij als school ‘aanbieder’ of ‘gebruiksverantwoordelijke’?
- Verplichtingen: aan welke verplichtingen moeten wij ons houden?
Sinds februari 2025 is het gebruik van AI-systemen met een onaanvaardbaar risico verboden. Dit zijn systemen die manipuleren, misleiden, discrimineren of uitbuiten. Bijvoorbeeld toepassingen die emotieherkenning bij leerlingen toepassen.
Sommige AI-systemen hebben een beperkt risico. In dat geval gelden er vanaf augustus 2025 vooral transparantieverplichtingen, denk aan een vermelding dat bepaalde content of informatie met behulp van AI is gegenereerd. Andere voorbeelden zijn een AI-ondersteunde zoekfunctie of een chatbot op je website.
De maatregelen voor hoog-risico AI-systemen gaan vanaf augustus 2026 in. Dit zijn toepassingen die invloed hebben op bijvoorbeeld de toegang tot onderwijs, de beoordeling van leerresultaten of het bepalen van het juiste onderwijsniveau. In deze gevallen is het uitvoeren van FRIA (Fundamental Rights Impact Assessment) naast of aanvullend op een DPIA (Data Protection Impact Assessment) verplicht.
Ben je benieuwd hoe onze leveranciers omgaan met AI of wil je advies over wat de AI-act voor jouw school(bestuur) betekent? Neem dan gerust contact met ons op.
AI Act en de AVG
De AI Act staat niet los van de AVG. Veel AI-systemen verwerken persoonsgegevens, waardoor de AVG van toepassing is. De AI Act voegt daar extra verplichtingen aan toe, met name rond risicobeheersing en transparantie. In de praktijk betekent dit dat je als school(bestuur) niet alleen moeten aantonen dat je persoonsgegevens rechtmatig, transparant en veilig verwerkt, maar ook maatregelen neemt om de specifieke risico's van AI-gebruik te beperken.
