AI op school – zo zorg je voor sociale veiligheid en een pedagogisch klimaat

Leerlingen hebben steeds minder houvast om te beoordelen of informatie die ze online vinden betrouwbaar is of niet. Met deepfake-software kan bewegend beeld van mensen, maar bijvoorbeeld ook hun stem steeds realistischer nagebootst worden. De hoeveelheid nepnieuws neemt hiermee toe en nepbeelden worden ingezet voor manipulatiedoeleinden. Zo circuleerde in 2022 een nepvideo op social media waarin president Zelensky de Oekraïners oproept zich over te geven aan Rusland. Het is belangrijk dat leerlingen leren hoe ze deepfakes kunnen herkennen.

Bovendien kunnen leerlingen zelf te afhankelijk worden van AI-systemen voor antwoorden en oplossingen. Hierbij gaat het vooral om toepassingen als ChatGPT. Dit kan hun vermogen om kritisch en onafhankelijk te denken ondermijnen.

• Zet in op een stevige kennisbasis, kritisch denkvermogen en vaardigheden als lezen, schrijven en rekenen.
• Wacht niet met de implementatie van de concept-kerndoelen digitale geletterdheid van SLO. De snelle ontwikkelingen op het gebied van AI vragen om een stevige basis in digitale geletterdheid.

Elke school heeft de verantwoordelijkheid voor de veiligheid van leerlingen en het personeel. Het is verplicht een schoolveiligheidsplan te hebben. Dat gaat al jaren niet meer alleen over offline, maar ook over online veiligheid. Met generatieve AI komt daar nu een dimensie bij.

Leerlingen kunnen met AI-tools eenvoudig nepbeelden van elkaar of van leraren genereren en die op grote schaal verspreiden. Soms gaat het om naaktbeelden, vaak met een seksuele lading, deepnudes genoemd. Ook nep-pornovideo’s kunnen op deze manier gemaakt worden. Als dit soort nepbeelden op school verspreid worden, kan dit grote gevolgen hebben voor het mentale welzijn van leerlingen en voor hun gevoel van veiligheid op school.

Sommige leerlingen vinden het moeilijk om groene of rode bolletjes te zien in een adaptief leersysteem in plaats van feedback te krijgen van de leraar. Andere leerlingen durven vragen die ze eerder voor zich hielden juist wel aan een chatbot te stellen. Als scholen ervoor kiezen om AI-systemen in te zetten in het onderwijsproces, dan heeft dat invloed op de pedagogische relatie. Het is belangrijk hier aandacht voor te hebben.

• Realiseer je dat met elke inzet van technologie er iets anders verdwijnt in wat voorheen in menselijke interactie gebeurde. Bespreek met je team wat jullie belangrijk vinden in de relatie tussen leraar en leerling. Komen die elementen voldoende terug bij de inzet van technologie? Zo nee, zijn ze op een andere manier terug te brengen? Wat betekent dit voor jullie keuzes over de inzet van AI?
• Leerlingen met een lage sociaal economische status zijn extra gevoelig voor persoonlijk contact met de leraar. Heb daarom extra oog voor deze groep bij de inzet van AI.
• Ga in gesprek met leerlingen. Praat met ze over de digitale middelen die worden gebruikt op school. Vraag niet alleen of ze er prettig mee werken, maar ook waar ze tegenaan lopen. Hebben zij het gevoel dat ze mee kunnen doen bij het gebruik van digitale middelen? Voelen zij zich gelijk behandeld?Stimuleer leerlingen ook om met elkaar in gesprek te gaan over deze onderwerpen.
• AI-middelen in het onderwijs kunnen leiden tot een focus op meetbare gegevens. Maar niet alles wat belangrijk is voor goed onderwijs, is te vangen in data. Een lesmiddag buiten of met fysieke middelen in de klas mag niet onder druk komen te staan omdat er dan geen voortgang te zien is in de systemen. Praat hierover met je team – ga na welke ruimte zij voelen om los van digitale systemen die jullie gebruiken aan de slag te gaan.

Tools als ChatGPT kunnen inhoud genereren zonder rekening te houden met kinderen. Denk aan expliciet taalgebruik of andere inhoud die schadelijk kan zijn. Kinderen zijn nog niet mediawijs genoeg om te beseffen dat ze geen privacygevoelige informatie mogen delen. Dat besef begint meestal pas echt goed te landen op de middelbare school.

Als je generatieve AI in wilt zetten in je lesprogramma, kies dan een verschillende aanpak voor verschillende leeftijdsgroepen. Voor jonge kinderen is het verstandig om zeer terughoudend te zijn met het gebruik van generatieve AI. Unesco roept landen op om een minimale leeftijdsgrens van 13 jaar te hanteren. Deze leeftijdsgrens is ook terug te vinden in de gebruikersvoorwaarden van bedrijven, bijvoorbeeld voor het gebruik van ChatGPT.