SluitenSluiten
leerlingen aan het werk

Projecten

Ethische grenzen van AI bij toetsing

Cito logo plectrumVerder

Ethische grenzen van Artificial Intelligence bij toetsing

Nieuwe technologieën maken het mogelijk om relatief eenvoudig aanvullende gegevens te verzamelen en leerlingen daarop te monitoren tijdens een toets. Denk bijvoorbeeld aan werksnelheid en emotieherkenning. Omdat computeralgoritmes steeds slimmer worden, biedt dit nieuwe kansen voor toetsing. De inzet van AI roept wel nieuwe ethische vragen op. In dit project brengen we de mogelijkheden en beperkingen van AI in beeld. Wat zijn de belangrijkste relevante technologische ontwikkelingen voor toetsing? Welke risico’s zijn er? Hoe kunnen we docenten en toetsdeskundigen daarbij betrekken?

AI en toetsing

  • Artificial intelligence (AI) is het automatiseren van intelligent menselijk gedrag met zelflerende computer systemen. Het gaat om herkennen van patronen, informatieoverdracht via gesproken of geschreven taal, het nemen van beslissingen met onzekerheid, en het leren van ervaringen.
  • Een voorbeeld van AI bij toetsing is online proctoring. Daarbij houdt software het typegedrag van de leerling in de gaten en wordt alarm geslagen als het typegedrag afwijkt van het gebruikelijke.
  • AI kan ook gebruikt worden om de leerlingen een gepersonaliseerde toetsbeleving te geven, of om docenten werk uit handen te nemen bij complexe beoordelingstaken.

Mogelijkheden en beperkingen in beeld

AI heeft voordelen, maar ook een keerzijde. AI maakt namelijk gebruik van zelflerende computeralgoritmes. Het gevaar bestaat dat de algoritmes een eigen leven gaan leiden. In dit project brengen we de mogelijkheden en beperkingen van AI in beeld en onderzoeken we de ethische dimensies en grenzen binnen deze ontwikkelingen.
"Houden algoritmes bestaande vooroordelen niet juist in stand?"
Wilco Emons
Onderzoeker

Razendsnelle ontwikkelingen

De ontwikkelingen op het gebied van AI gaan razendsnel. Onder meer door de enorme toename van de rekenkracht van computers en het steeds meer beschikbaar zijn van vrij toegankelijke software hiervoor. Het gevolg is dat technieken snel toegankelijk en inzetbaar zijn om de goede dingen te doen. Tegelijkertijd lopen we het risico dat zaken grondig misgaan. Het mag bijvoorbeeld niet zo zijn dat de zelflerende algoritmes - waarmee AI werkt -  onderwijsongelijkheid in stand houden of zelfs verergeren. Wij vinden het zaak om vanaf het begin de impact van AI te onderzoeken. Zo kunnen we het goede behouden en negatieve uitwassen voorkomen.

Facts

  • Onderzoekers: dr. Wilco Emons, dr. Saskia Wools.
  • Beleidsmakers, toetsdeskundigen.
  • Looptijd: 2021