033 200 30 83
Risico's algoritmes en AI in het onderwijs
Nu in de onderwijssector steeds meer gebruik wordt gemaakt van Artificiële Intelligentie (AI) en algoritmes, komen ook de risico’s aan het licht. In het primair, voortgezet, hoger en beroepsonderwijs wordt gebruik gemaakt van ‘adaptieve leersystemen’ (AL-systemen) om het onderwijs geautomatiseerd en op maat aan te kunnen bieden. Ook wordt gebruik gemaakt van ‘learning analytics’ (LA-systemen) om bijvoorbeeld de doorstroom van onderwijsdeelnemers en de kwaliteit van het onderwijs te verbeteren.
Aan het gebruik van AI en algoritmes zijn risico’s verbonden. In het onderwijs gaat het om kinderen en jongvolwassenen, kwetsbare groepen als het gaat om privacy en gegevensbescherming. Het is daarom belangrijk dat de onderwijssector uiterst zorgvuldigheid te werk gaat.
In de rapportage AI- & algoritmerisico’s Nederland (RAN) van de Autoriteit Persoonsgegevens, editie najaar 2023 wordt een aantal risico’s genoemd:
- Het lichtvaardig inzetten van learning analytics zou de kans op onrechtvaardige behandeling van leerlingen kunnen vergroten. Data en profielen gebruiken zonder duidelijkheid over de betekenis van data en de gevolgen van conclusietrekking hieruit, kan leiden tot onjuiste oordelen. Dit is een risico.
- Het inzetten van learning analytics om studieresultaten van studenten te bevorderen, vraagt om het profileren van leerlingen. Deze verwerking van persoonsgegevens betekent een inbreuk op de privacy. Risico is dat zonder helder doel en kaders te stellen, het gebruik van learning analytics de kans op onrechtmatig en onverantwoord gebruik wordt vergroot.
- Hoewel het werken met adaptieve leersystemen voor onderwijsinstellingen nuttig kan zijn, zitten er beperkingen aan. Adaptieve leersystemen stellen minder gemakkelijk behoeftes vast van leerlingen die de lesstof minder goed beheersen dan van leerlingen die de stof beter beheersen Waar een docent over inhoudelijke kennis beschikt van diens leerlingen (individuele capaciteiten en omstandigheden), biedt een adaptief leersysteem enkel leerstof aan en worden leerlingen middels technologie en gegevensanalyse beoordeeld. Het is daarom van belang dat leraren en AL-systemen elkaar blijven aanvullen.
- Doordat docenten opgeleid zijn om de kwaliteit van traditioneel onderwijsmateriaal zoals oefenboeken te beoordelen, is het de vraag of zij ook algoritmische onderwijsmaterialen, zoals adaptieve leersystemen, op kwaliteitsniveau kunnen beoordelen.
- Adaptieve leersystemen worden in het onderwijs vaak ingezet als een tijdbesparend middel. Leraren zouden meer tijd overhouden voor andere taken. Echter, het is voor leraren een tijdsinvestering om kennis op te doen over de werking van adaptieve leersystemen. Ook blijft oplettendheid van de leraar vereist om bijvoorbeeld in te grijpen wanneer een adaptief leersysteem een onjuiste keuze maakt.
- Leerlingen in het voorgezet onderwijs maken voor huiswerkopdrachten gebruik van generatieve AI, een categorie van AI-modellen en algoritmen die in staat zijn om nieuwe, originele inhoud te genereren. Er is nog amper beleid over wat hierbij wel en niet mag. Risico op plagiaat en misinformatie ligt hierdoor op de loer.
Conclusie: om risico’s bij het gebruik van learning analytics en adaptieve leersystemen binnen de onderwijssector te beperken, adviseert de Autoriteit Persoonsgegevens dat onderwijsinstellingen de inzet van AI in hun ICT-strategie meenemen en daarbij zorgen voor ondersteuning door interne of externe experts op het gebied van algoritmes en AI. Ook wordt door de Autoriteit Persoonsgegevens het vergroten van kennis over AI bij docenten als aandachtspunt genoemd.
Zie voor meer informatie de handreiking AI voor scholen: https://www.kennisnet.nl/artificial-intelligence/handreiking-ai-voor-scholen/
Heeft u vragen over privacy in het onderwijs? Neem gerust contact op met de privacy professionals van PrivacyTeam via post@privacyteam.nl of bel naar 033 – 200 30 83.