Wetgeving van de Europese Unie verplicht universiteiten om het gebruik van AI-tools en de bijbehorende risico’s in kaart te brengen. Doen ze dat niet, dan riskeren ze hoge boetes. Aan de Radboud Universiteit wordt al druk gewerkt aan het opstellen van een AI-register.

Kunstmatige intelligentie heeft de afgelopen jaren een enorme vlucht genomen, zo ook in het onderwijs. Voor veel studenten zijn tools zoals ChatGPT of Grammarly niet meer weg te denken bij het schrijven van papers.

De technologische vooruitgang brengt ook risico’s met zich mee. Denk maar aan plagiaat, vooroordelen die in AI-modellen zitten en de impact op het klimaat en het milieu. Om die risico’s te beperken, is sinds augustus 2024 de AI Verordening van de Europese Unie van kracht.

Ook de Radboud Universiteit moet zich hieraan houden, vertelt Mathilde Reedijk, teamleider informatiemanagement Onderwijs bij de divisie ILS. De divisies AA en ILS kregen van het college van bestuur de opdracht om het universiteitsbeleid in lijn te brengen met de Europese regelgeving.

Spellingcontrole

Dat betekent onder andere dat de universiteit het AI-gebruik van medewerkers in kaart moet brengen. ‘Vervolgens moeten we aangeven of de tools die ze gebruiken betrouwbaar zijn en of ze voldoen ze aan de Europese normen’, legt Reedijk uit. ‘Daarom willen we binnenkort een enquête uitsturen. Niet alleen naar medewerkers, maar ook naar studenten. Die laatste groep hoeven we wettelijk gezien niet te bevragen, maar als onderwijsinstelling vinden we het belangrijk om te weten welke tools studenten gebruiken.’

‘Niet de tools zelf, maar hoe ze gebruikt worden bepaalt het risico’

Vervolgens moet de universiteit de risico’s van de AI-tools in kaart brengen. ‘Niet de tools zelf, maar wel hoe ze gebruikt worden bepaalt het risico’, vult projectleider Lars Burgers aan. ‘General Purpose AI, zoals ChatGPT, is bijvoorbeeld prima voor spellingcontrole of het herschrijven van een mail, maar niet voor het beoordelen van surveys en selectieprocedures.’

DeepSeek

Het register komt waarschijnlijk op de universiteitswebsite terecht, zegt Enterprise & Information Architect Casper Terheggen. ‘Daar zullen we eerst de mogelijkheden en risico’s in kaart brengen van AI-tools die we als universiteit zelf aanbieden. Dat deden we onlangs al in een nieuwsbericht over het gebruik van CoPilot Chat. Dat raden we aan als alternatief voor de betaalde versie van ChatGPT, omdat gebruikersgegevens in dit model niet worden gebruikt om het AI-model van Microsoft te trainen. Daarnaast willen we richtlijnen opstellen voor AI-tools die medewerkers en studenten gebruiken.’

Door de snelle AI-ontwikkelingen, zoals de lancering van de Chinese chatbot DeepSeek afgelopen januari, wordt het register continu bijgewerkt, zo is het idee.

Aan een andere aanbeveling uit de EU-verordening, het bevorderen van AI-geletterdheid binnen de organisatie, komt de universiteit op dit moment al tegemoet. ‘Studenten en medewerkers kunnen al verschillende trainingen en workshops over AI volgen die door de universiteit worden aangeboden’, zegt Reedijk. Zo is er een e-learning Artificial Intelligence in gROW, en aan verschillende faculteiten zijn er workshops.

Handvatten

De universiteit is verplicht om een beleid rondom AI uit te werken. ‘Dit doen we in samenwerking met onderzoeksdirecteuren en vicedecanen’, zegt Burgers. ‘Daarna werken we dit uit voor de hele universiteit: onderzoekers, ondersteunend personeel en studenten. Of AI gebruikt mag worden, hangt voor studenten op dit moment nog af van de specifieke cursus die ze volgen. De behoefte aan beleid en handvatten is dus groot.’

‘De verordening is er om de grondrechten van EU-burgers te beschermen’

De AI-Verordening bevat duidelijke deadlines. Organisaties die zich niet aan de wetgeving houden, riskeren vanaf augustus 2025 boetes tot 35 miljoen euro of 7 procent van de jaarlijkse omzet. Al is op dit moment nog niet helemaal duidelijk hoe streng de EU is voor organisaties die zich niet aan de wetgeving houden.

Dat doet er niet toe, zegt Reedijk. ‘De verordening is er om de grondrechten van EU-burgers te beschermen. Niemand mag op basis van een algoritme worden uitgesloten van een baan of onderwijs. Het is de vraag of de boetes streng worden gehandhaafd, maar de regelgeving heeft een duidelijk doel. Daarom willen we de deadlines halen.’