Wat weten we over geautomatiseerde besluitvorming in het onderwijs?

De AP heeft eerder al aangegeven dat overheidsorganisaties informatie moeten geven over een automatisch genomen besluit. Bij een besluit met rechtsgevolgen kun je bijvoorbeeld vaak bezwaar maken. 

Hoe gaan scholen hiermee om?

De NOS publiceerde begin april een artikel over leerkrachten die, als test, gebruik maakten van  op AI gebaseerde software voor het nakijken. Leerlingen hebben hierbij het recht op uitleg van de leerkracht over hoe hun cijfer (het besluit) tot stand is gekomen. Zijn de leerkrachten daartoe in staat als AI (een LLM) onderdeel is van dit proces?

De leerkrachten lijken goed te weten wat zij van de op Al gebaseerde software kunnen verwachten en hoe ze de software op de juiste manier kunnen inzetten. Een van de ondervraagden geeft aan dat hij de tijd die hij gebruikt voor het nakijken nu anders invult. Die tijdsduur is niet per definitie veel korter.

Je kunt AI niet zomaar gebruiken in de klas. De tussenkomst van de leerkracht is juist van belang. Dat stelt dan ook eisen aan die leerkracht. De leerkracht moet AI geletterd zijn, en de AI tool moet voldoende inzichtelijk zijn. Het mag bovendien niet zo zijn dat het doel alle middelen heiligt. Het feit dat leerkrachten te veel nakijk werkdruk hebben is een systemisch probleem dat we niet zomaar met AI kunnen oplossen. Denk hierbij bijvoorbeeld aan curriculum verandering of arbeidscontext (HR e.d.).

De AP gaat nu aan de slag om bij gebruik van geautomatiseerde besluitvorming, verplicht te stellen uit te leggen op welke wijze dat besluit tot stand komt. 
Daarvoor vraagt de AP input uit de praktijk over de uitleg van geautomatiseerde besluitvorming. 

Bijpassende normen over dit onderwerp vind je het Normenkader IBP in 
deelproject 4.3 Geautomatiseerde besluitvorming verantwoord gebruiken
en in Privacynorm
RB.04 Geautomatiseerde besluitvorming en/of profilering.