Universiteitssoftware voor gezichtsherkenning herkent zwarte studenten niet

Robin Pocornie is student aan de Vrije Universiteit (VU) in Amsterdam. Wanneer zij een onlinetentamen moet maken, lukt het haar niet om in te loggen. De software voor gezichtsherkenning pikt haar gezicht niet op. Dit probleem blijkt vaker voor te komen bij zwarte studenten.

Ze is speciaal naar haar ouderlijk huis gegaan, zodat ze in alle rust met stabiel en snel internet het tentamen kan maken in een goed verlichte kamer. Maar een kwartier na de start lukt het nog steeds niet om te beginnen.

Pas wanneer ze een bureaulamp vol in haar gezicht schijnt, herkent de Amerikaanse Proctorio-software haar gezicht in combinatie met de foto op haar studentenkaart. Ze zoekt naderhand op internet of dit probleem vaker voorkomt. Het blijkt in Amerika schering en inslag te zijn bij zwarte Amerikaanse studenten.

Ze werd zelfs tijdens een tentamen uitgelogd door de anti-spieksoftware, door de fouten in het zelflerende systeem. Op allerlei manieren ondervindt ze dus nadeel tijdens het maken van tentamens.

“Dat ik en studenten die op mij lijken verplicht software moesten gebruiken die niet voor ons gemaakt is, vond ik een nare situatie”, vertelt Pocornie aan de Volkskrant. Ze vond het lastig om dit probleem kenbaar te maken bij de VU. “Ik had de VU natuurlijk ook nog nodig.” Toch trekt ze aan de bel.

Ze loopt zowel bij de Ombudsman als bij de VU tegen een muur op. “De software herkent me niet als mens, en de universiteit erkent mijn ervaring niet”, concludeert Pocornie na contact met de universiteit.

Daarom stapt de student samen met het Racism and Technology Center naar het College voor de Rechten van de Mens, het nationale mensenrechteninstituut dat toeziet op gelijke behandeling.

“Onderwijsinstellingen hebben de plicht ervoor te zorgen dat alle studenten tentamens onder gelijke omstandigheden kunnen maken”, legt Hans de Zwart van het Racism and Technology Center uit.

Bron(nen):   De Volkskrant