• Uitleg
• |
• Artificial intelligence
• |
• po
• vo
• mbo

Publieke waarden en AI in het onderwijs

AI heeft invloed op waarden in het onderwijs, in positieve, maar ook negatieve zin. Denk aan waarden als menselijkheid, rechtvaardigheid en autonomie. Dit kan ethische spanningen en dilemma's oproepen. In dit artikel geven we in een beknopt overzicht van de invloed van AI op verschillende waarden.

Door Lotte Dondorp

11 juni 2024

6 minuten lezen

Invloed van AI op menselijkheid 

AI kan steeds meer taken overnemen van mensen. Dit vraagt om bewuste keuzes in het onderwijs: wanneer is de mens aan zet en wanneer de computer? 

Betekenisvol contact

Mensen leren van elkaar, in sociaal verband en door anderen na te doen. Het is dus belangrijk oog te houden voor de balans tussen mens en machine. In welke taken kan een leraar zich goed laten ondersteunen door AI? Welke taken zouden aan de mens voorbehouden moeten blijven? Dit vraagt hernieuwde gesprekken over wat onderwijs precies is of zou moeten doen, welke rollen de leraar daarin heeft, en of de rollen van de leraar wel zomaar gescheiden kunnen worden.   

AI kan ook het contact tussen leerlingen beïnvloeden. Bijvoorbeeld als oefenen steeds meer individueel achter een scherm gebeurt. Of in positieve zin: als een programma leerlingen van verschillende niveaus juist op een slimme manier laat samenwerken.

Invloed van AI op rechtvaardigheid

Rechtvaardigheid gaat over een eerlijke behandeling van personen. Waarden als non-discriminatie, kansengelijkheid en inclusie dragen bij aan rechtvaardigheid.  

Gelijke kansen en non-discriminatie

AI-tools zoals adaptieve leersystemen kunnen leerlingen ondersteunen op hun eigen niveau. Dit kan bijdragen aan gelijke kansen. Bijvoorbeeld als een leerling met de tool laat zien dat hij een bepaald niveau behaalt, ook al heeft de leraar andere verwachtingen van hem. Maar AI-systemen kunnen bepaalde groepen ook benadelen als er onvoldoende rekening wordt gehouden met hun specifieke kenmerken. Het College voor de Rechten van de Mens noemt in een onderzoeksrapport naar algoritmen in het onderwijs als voorbeelden culturele minderheidsgroepen, leerlingen die tweetalig zijn en leerlingen met bijvoorbeeld autisme, adhd of dyslexie.  

Vooroordelen

De algoritmes van AI-systemen kunnen bovendien vooroordelen bevatten, ook wel bias genoemd. Vaak komt dit doordat het systeem ‘getraind’ is met data die onrechtvaardigheden in de samenleving weerspiegelt, of met data die niet-representatief is. Dit zien we momenteel vaak terug in tools die werken op basis van generatieve AI.

Bias kan ook voorkomen bij AI-systemen die gebruikt worden om beslissingen te nemen. Zo besloot de Engelse overheid tijdens de schoolsluitingen in de coronacrisis leerlingen automatisch gegenereerde examencijfers te geven. Leerlingen van armere achtergronden kregen structureel lagere cijfers, doordat uit de dataset naar kwam dat die groep vaak lagere resultaten behaalde. Deze leerlingen kregen geen gelijke kans op een hoog cijfer, omdat hun achtergrond werd meegewogen in de berekening van het cijfer. Vooroordelen door AI-systemen kunnen verder versterkt worden doordat mensen geneigd zijn de adviezen van een computersysteem blindelings op te volgen. De oordelen van een computer zien mensen sneller als objectief dan de oordelen van een mens (automation bias).  

Inclusie

AI-systemen (in brede zin) bieden veel mogelijkheden om te leren en creëren. Ongelijkheid kan ontstaan als gebruikte digitale middelen niet goed toegankelijk zijn voor leerlingen met een ondersteuningsvraag. Of wanneer er grote verschillen zijn tussen de digitale ondersteuning op scholen in rijkere en armere wijken. 

AI kan inclusie juist ook versterken. Voor het onderwijs wordt verwacht dat AI veel kan betekenen voor leerlingen met een ondersteuningsbehoefte. Bijvoorbeeld doordat een slechtziende leerling met de voorleesfunctie van een tool als ChatGPT veel beter informatie kan verzamelen dan via traditionele zoekmachines. Om dit echt te laten slagen, moet de informatie uit dit soort tools wel een stuk betrouwbaarder worden. 

Lees het praktijkvoorbeeld

Hoe AI de toegankelijkheid vergroot voor leerlingen met een beperking

Invloed van AI op autonomie

Autonomie gaat over de ruimte die mensen hebben om hun leven zelf vorm te geven en om zelf beslissingen te nemen.  

Professionele autonomie 

Met het toenemend gebruik van digitale middelen en AI, groeit de invloed van grote technologiebedrijven in het onderwijs. Via veelgebruikte leer- en samenwerkingsplatforms komt AI  het onderwijs binnen zonder dat scholen hebben meegedacht over of bekend zijn met de pedagogische en didactische implicaties. Dit kan autonomie wegnemen bij de school. 

AI kan ook de professionele autonomie van de leraar beïnvloeden. Leraren kunnen AI-tools gebruiken om hun onderwijs beter naar eigen inzicht vorm te geven. Maar het gebruik van AI kan de professionele autonomie van leraren ook onder druk zetten. Bijvoorbeeld als zij druk voelen om de aanbevelingen van een systeem te volgen, ook wanneer zij niet goed begrijpen waarom. De publicatie ‘Krassen op het dashboard ‘ van Kennisnet brengt verschillende manieren in beeld waarop adaptieve leermiddelen de professionele ruimte van een leraar beïnvloeden. 

Autonomie van leerlingen 

AI heeft ook invloed op de autonomie van leerlingen. Bijvoorbeeld wanneer zij werken met systemen die hun voortgang continu vastleggen. Ze kunnen dan minder ruimte voelen om te oefenen en te falen. Maar AI kan de autonomie van leerlingen juist ook versterken. Bijvoorbeeld als zij met bepaalde digitale middelen goed vooruit kunnen komen op hun eigen niveau en volgens hun eigen behoeften.   

Privacy 

Met het gebruik van AI wordt steeds meer data verzameld over leerlingen. Bovendien begint die dataverzameling op steeds jongere leeftijd en breidt die zich uit naar domeinen als sociaal-emotionele ontwikkeling. Als scholen geen goede afspraken over privacy en informatiebeveiliging met de leveranciers van digitale middelen maken, kan dit de privacy van leerlingen op het spel zetten. Zeker wanneer het gaat om bedrijven die het verzamelen en doorverkopen van gegevens over personen als verdienmodel hebben. Scholen hebben zelf ook een verantwoordelijkheid om niet meer gegevens over leerlingen vast te leggen dan nodig is.  

Wat betekent dit voor scholen?

Het is voor scholen niet eenvoudig om direct met de invloed van AI op onderwijswaarden aan de slag te gaan. Een eerste belangrijke stap is weten dat AI deze invloed kan hebben. Vervolgens kunnen scholen vanuit de waarden die zij belangrijk vinden de ontwikkelingen actief proberen te sturen. Dat begint bij het nadenken over de vraag of en hoe zij AI in het onderwijs in willen zetten. Waarden bieden vervolgens een belangrijk richtsnoer bij verschillende stappen in het proces – van inkoop tot inzet en evaluatie. Lees hierover meer in het artikel ‘Waarden wegen bij AI in het onderwijs’.

Lees verder

• Dit zijn de onzichtbare kosten van AI
• AI in het onderwijs – zo weeg je verschillende waarden