Ben jij een analytische wo-student met een interesse in IT, audit, verantwoorde AI en de publieke sector? Wil je jouw kennis toepassen op relevante vraagstukken binnen de Rijksoverheid? Bij de Sector IT van de Auditdienst Rijk (ADR) krijg je de kans om onderzoek te doen naar IT-gerelateerde thema’s die bijdragen aan de effectiviteit en veiligheid van de overheid. Tijdens deze stage werk je aan concrete projecten en doe je ervaring op het snijvlak van IT-audit, verantwoorde AI en publieke dienstverlening.
Jouw stage
Overheden en organisaties zetten in toenemende mate AI-systemen en algoritmen in. De EU AI-Act stelt eisen aan het gebruik van AI, met name wanneer het systeem of toepassing wordt geclassificeerd als hoog-risico-AI-systeem. Een vereiste vanuit de EU AI-ACT bij hoog-risico-AI-systemen betreft menselijk toezicht: de menselijke supervisie en/of controle over geautomatiseerde besluitvorming. Tijdens deze stage onderzoek je hoe organisaties de menselijke rol kunnen waarborgen binnen geautomatiseerde processen, en ontwikkel je handvatten voor de interne auditfunctie om dit te evalueren. Je werkt samen met experts op het gebied van IT-audit, ethici, data-science, verantwoorde AI en governance binnen de Rijksoverheid. Binnen deze onderzoeks- of afstudeerstage richt jij je op twee centrale vragen:
• Hoe kunnen organisaties menselijk toezicht effectief inrichten, zodanig dat wordt voldaan aan de eisen van de EU AI-ACT en menselijke tussenkomst betekenisvol is?
• Hoe kan een (interne) auditdienst de menselijk tussenkomst toetsen en evalueren? Welk normenkader, welke toetsingscriteria en welke auditaanpak zijn daarvoor geschikt?
Dit ga je doen:
• Inventariseren van vereisten van menselijke toezicht bij AI-systemen uit wet- en regelgeving (o.a. EU AI Act/AI-verordening).
• Wetenschappelijke literatuurstudie voor het in kaart brengen best practices en risico’s (bv. biases) bij het inrichten van menselijke controle en interventie in AI-processen.
• Ontwikkelen van een toetsingskader of handreiking voor algoritme auditors.
• Presenteren van je bevindingen binnen de Auditdienst Rijk.