• Uitleg
• |
• Ethiek
• |
• po
• vo
• mbo

Chatbots in het onderwijs: dit zijn de ethische aandachtspunten

Chatten met Willem van Oranje of vragen aan een chatbot welke studiekeuze bij je voorkeuren past. Er is steeds meer mogelijk met chatbots in het onderwijs. Chatbots zijn programma’s die interactie hebben met mensen via taal. Ze kunnen een goede aanvulling in het onderwijs zijn, bijvoorbeeld voor het beantwoorden van eenvoudige vragen. Deze vrij nieuwe technologie moeten we dan wél op een doordachte manier inzetten. Een chatbot kan ook ongewenste effecten hebben. Wat zijn de belangrijkste ethische aandachtspunten?

Door de redactie

17 juni 2021

7 minuten lezen

Dit artikel gaat over de ethische vragen bij de inzet van chatbots in het onderwijs. Daarbij stellen we de vraag: op welke manier hebben chatbots invloed op de waarden die voor het onderwijs van belang zijn? Door dit te onderzoeken, kunnen scholen en onderwijsteams beter bepalen of en hoe ze chatbots in willen zetten bij hun onderwijs.

Meer weten over hoe chatbots precies werken en hoe ze in het onderwijs ingezet kunnen worden? Lees dan eerst de uitleg over chatbots.

Rechtvaardigheid

Of de inzet van chatbots in het onderwijs rechtvaardig is voor alle leerlingen, hangt van verschillende factoren af. Chatbots kunnen een uitkomst zijn voor bepaalde groepen die net wat extra uitleg nodig hebben. De technologie kan zo bijdragen aan het bevorderen van gelijke kansen. Tegelijkertijd is het belangrijk om de vraag te stellen of er geen groepen zijn die nadeel ondervinden van de inzet, en op welke manier dit voorkomen kan worden. 

Is de chatbot toegankelijk voor alle leerlingen?

Bij de inzet van chatbots in het onderwijs, is het belangrijk om te bezien of verschillende groepen leerlingen er ook daadwerkelijk mee overweg kunnen. Het is bijvoorbeeld denkbaar dat dyslectische leerlingen het lastig vinden om hun vraag te formuleren aan een chatbot die werkt op basis van geschreven tekst. Of dat leerlingen die de taal niet voldoende machtig zijn de chatbot niet goed begrijpen. Ook bij chatbots die op basis van gesproken taal werken is dit een relevante vraag: weet de leerling zijn vraag goed aan de chatbot duidelijk te maken en begrijpt de leerling het antwoord?

Is de gebruikte taal inclusief?

Taal is geworteld in onze historische, culturele en sociale context en weerspiegelt bestaande sociale waarden en oordelen. Het is dus belangrijk om er tijdens het ontwikkelingsproces van een chatbot expliciet bij stil te staan op welke manier de chatbots spreken. Is dat een inclusieve taal, zodat verschillende leerlingen en studenten zich erkend en gehoord voelen?

Een chatbot kan werken op basis van regels die de programmeur vooraf bepaald heeft, maar kan ook zelflerend zijn. De chatbot leert dan op basis van de interactie met gebruikers hoe hij het beste in bepaalde situaties kan reageren. Er bestaat een risico dat chatbots op basis van deze interactie onwenselijk taalgebruik gaan reproduceren. Zo leerde Microsofts chatbot Tay op basis van Twittergesprekken om zelf te converseren. Het duurde minder dan een dag voordat de bot racistische uitspraken begon te doen. Dit hoeft niet bij elke zelflerende chatbot te gebeuren: de ontwerpers kunnen de input waar de chatbot mee leert filteren. Bij de inzet van chatbots in het onderwijs is het belangrijk om goed te weten hoe de chatbot ontworpen is en wat dit betekent voor de voorspelbaarheid van de uitspraken van de bot. 

Menselijkheid

Chatbots zijn geprogrammeerd om menselijk te lijken. Vaak hebben ze een naam, ze maken grapjes en ze gebruiken populaire uitspraken. Dit kan een vorm van vertrouwelijkheid opwekken, die kan helpen bij het leerproces: we weten dat sociale interactie een belangrijke voorwaarde voor leren is. Tegelijkertijd is het van belang dat er altijd echte mensen bij het proces betrokken blijven, en dat gebruikers weten dat ze met een robot van doen hebben.

Wat is een goede balans tussen mens en machine?

Chatbots kunnen leraren werk uit handen nemen: met eenvoudige vragen kunnen leerlingen en studenten bij de chatbot terecht. De chatbot is 24/7 beschikbaar en onbeperkt geduldig. Dat levert meer tijd en ruimte op voor de leraar om complexere vragen te beantwoorden of voor andere vormen van betekenisvol contact tussen leraar en leerling. Maar de inzet van chatbots kan er ook toe leiden dat leraar en leerling minder contact hebben dan wenselijk is. De leerling kan een drempel voelen om de leraar om hulp te vragen, en als uitweg te rade gaan bij de chatbot. En de leraar mist mogelijk kleine contactmomenten die relevante informatie geven over hoe het met een leerling gaat.

Chatbots kunnen eenvoudige menselijke interactie succesvol nabootsen. Zodra het complexer wordt, schieten chatbots echter al snel te kort. Daarom is het belangrijk dat leerlingen naast het contact met de chatbot ook altijd bij een mens terecht kunnen. Dit geldt helemaal voor kwetsbare situaties, bijvoorbeeld als een leerling hulp nodig heeft bij een lastige thuissituatie, of twijfelt over de studiekeuze.

Ook kan het goed zijn om ervoor te zorgen dat de vragen die de chatbot niet kan beantwoorden wel opgevangen worden, zeker als het gaat om kwetsbare vragen of informatie. Die vragen moeten dan worden doorgegeven aan een mens, met inachtneming van de privacy van de gebruiker. De chatbot kan de gebruiker ook zelf doorverwijzen: bij deze vraag moet je niet bij mij zijn, maar bij een bepaalde contactpersoon. 

Autonomie

Autonomie begint voor een belangrijk deel met inzicht. Wie begrijpt hoe een bepaalde technologie werkt, kan betere keuzes maken over de manier waarop hij met die technologie aan de slag gaat. Vervolgens is de technologie zo in te zetten dat het de autonomie vergroot. Leerlingen komen bijvoorbeeld sneller vooruit als zij eenvoudige vragen snel aan een chatbot kunnen stellen. Tegelijkertijd is het belangrijk dat gebruikers weten dat zij met een chatbot en niet met een mens van doen hebben, en dat zij weten wat er met hun data gebeurt. 

Weten gebruikers dat zij met een chatbot spreken?

Mensen delen op een andere manier informatie als zij weten dat zij met een chatbot spreken, en niet met een mens. Als leerlingen weten dat zij met een chatbot spreken, kunnen zij een geïnformeerde keuze maken over de manier waarop zij hun informatie delen. 

Is het duidelijk wat er met de data gebeurt?

Bij het verzamelen van data in het onderwijs moet er een duidelijke doelbinding zijn: er wordt alleen data verzameld die van belang is om het beoogde proces verder te helpen. In het geval van chatbots voor het onderwijs betekent het dat de chatbot alleen data mag verzamelen die hem in staat stelt om leerlingen beter verder te helpen. Niet-relevante informatie zou niet verzameld en opgeslagen mogen worden. De dataverzameling moet bovendien op een transparante manier plaatsvinden, zodat de gebruiker weet welke informatie wordt vastgelegd en waar dat gebeurt. 

Het moet ook duidelijk zijn wat er met de data gebeurt. Mensen voeren chatgesprekken in de veronderstelling dat die gesprekken vertrouwelijk zijn en niet door derden worden ingezien. Als dat toch zo is, bijvoorbeeld als de leraar inzage heeft in de gesprekken tussen de chatbot en zijn leerlingen, dan moet dit expliciet vermeld worden. En als ontwikkelaars inzage hebben in de gesprekken zodat zij de gebruikte technologie kunnen verbeteren, dan moeten gebruikers dit weten. Een chatbot kan bijvoorbeeld vragen: “Op deze vraag kan ik geen antwoord geven. Is het goed als ik deze vraag deel zodat de chatbot verbeterd kan worden?”

Waarden wegen

Chatbots inzetten in het onderwijs: is dat wel of niet goed? Dit artikel laat zien dat op die vraag geen eenduidig antwoord is te geven. Soms kan het goed zijn om een bepaalde technologie bewust niet of nog niet in te zetten, bijvoorbeeld als er vragen zijn over de toegankelijkheid voor bepaalde groepen leerlingen. Maar scholen kunnen er ook voor kiezen om te experimenteren met nieuwe mogelijkheden voor het onderwijs. Dat kan op een doordachte manier gebeuren, als teams een goed beeld hebben van de relevante ethische vraagstukken. 

Het ethisch inzetten van chatbots in het onderwijs vraagt in ieder geval om een goede dialoog tussen ontwikkelaars en onderwijsprofessionals tijdens het ontwerp én tijdens de inzet van de technologie. De genoemde waarden rechtvaardigheid, menselijkheid en autonomie moeten daarbij voldoende aandacht krijgen en tegen elkaar afgewogen worden.

Samen voorwaarden bepalen

Medewerkers en studenten van het VISTA-college voerden een ethisch gesprek over chatbots en formuleerden samen voorwaarden waaronder chatbots in hun onderwijs ingezet kunnen worden.

Chatbots in het onderwijs een goed idee? Voorbeeld van een ethisch gesprek

Met je onderwijsteam nadenken over dit onderwerp? 

Als je met je team aan de slag gaat met dit onderwerp, kunnen de volgende vragen helpen om tot een afgewogen mening te komen.

• Met welke vragen zou je liever bij een mens en met welke vragen zou je liever bij een chatbot terecht kunnen?
• Zou je zelf graag toegang tot chatbots gehad hebben toen je onderwijs volgde?
• Kun je een waarde noemen die door chatbots in het onderwijs bevorderd wordt? Kun je een waarde noemen die mogelijk bedreigd wordt?
• Waar moet een chatbot volgens jou aan voldoen voordat je hem in het onderwijs zouden toepassen?

Lees verder

• WaardenWijzer
• Chatbots
• Ethiekkompas