Privacycolumn - Het transparante, lerende kind

Eind januari bracht de Autoriteit Persoonsgegevens het Sectorbeeld Onderwijs uit. De reflecties die geschetst worden, zijn niet enorm verrassend – het kan vooral beter, maar dat geldt natuurlijk vaak ook binnen andere sectoren. Wel dwingt de AP ons met de neus op de feiten. Jongeren zijn een kwetsbare groep en hebben daarom extra bescherming nodig. In zoverre is de onderwijssector wel atypisch. Kinderen, schrijft de AP, hebben die extra bescherming nodig zodat zij zich in een vrije en veilige omgeving kunnen ontwikkelen. Als je dat in gedachten houdt, is het beeld van de huidige ‘staat van zijn’ wellicht verontrustend. Want die basis is nog niet overal op orde en nieuwe uitdagingen staan alweer voor de deur met de ontwikkelingen op het gebied van Artificial Intelligence en de inzet van algoritmes. Instellingen hebben ook steeds meer gevoelige informatie over jongeren tot hun beschikking over onder meer het gedrag dat zij vertonen. Maar ook worden zij beoordeeld met behulp van AI en algoritmes en daar schuilen gevaren van vooringenomenheid, een verkeerde interpretatie van de data en een verlies van controle over de persoonsgegevens.

Het is ook maar de vraag of het altijd rechtmatig is dat onderwijsinstellingen al te gevoelige gegevens verwerken. Je moet dan denken aan onder meer verwerkingen over psychisch welzijn van leerlingen en studenten, veiligheid, armoede, kansen(on)gelijkheid en polarisatie. AP signaleert dat dit vaak onvoldoende doordacht gebeurt, weliswaar met de juiste intenties, dat maakt het niet minder nijpend. De toezichthouder wijst hier ook met de vinger naar de wetgever, die daarin beter moet voorzien. Dat gaat denk ik wel volledig voorbij aan de vraag of we dit ook zouden moeten willen. Daar zou dus een inherent ethische vraag vooraf gesteld moeten worden. Je kunt je daarnaast afvragen in hoeverre schoolgaande jongeren überhaupt nog de ruimte hebben om onbevangen zichzelf te zijn. Zeker in het voortgezet onderwijs zie je dat de hele ‘schoolreis’ nauwgezet in de gaten gehouden kan worden en gedeeld wordt met ouders en verzorgers. Waar vroeger nog ruimte was om die pittige onvoldoende even onder de pet te houden en te compenseren, is daar nu geen plek meer voor. Ouders weten vaak eerder wat er gescoord is dan de jongere zelf (mobieltjes mogen immers niet meer mee de klas in, maar ouders hebben die continue in de hand). Een perspectief dat nog wel eens vergeten wordt en mij pijnlijk raakte, toen ik laatst een bericht las van een docent die door een bange jongere werd gevraagd de cijfers niet direct online te zetten “omdat mijn vader anders heel erg boos op mij gaat worden”.

Dit raakte me gemeen hard. En het zou meer mensen moeten raken. Ooit eens eerder pleitte ik ervoor om het gesprek aan te gaan met jongeren (pubers), maar ik denk dat het eens te meer noodzakelijk is. Al was het maar om meer van dit soort signalen boven te krijgen zodat het mee kan wegen als wij volwassenen een ethische en privacy-impactassessment doen. Het is heel normaal om in assessments de belangen van de betrokkenen mee te wegen, maar hoe weeg je waar je zelf onvoldoende van op de hoogte bent? Door de jongeren zelf ook een duidelijker stem te geven.

Rachel Marbus
@RACHELMARBUS op Twitter

Deze column verscheen in IB2-2024.