Drie fraudezaken rond studenten en AI, drie verschillende uitkomsten. 'Dat is misschien niet zo gek,' schrijft Lucienne van der Geld in haar column. 'Het recht loopt wel vaker achter op nieuwe technologie.'

Een student van de Rijksuniversiteit Groningen werd beschuldigd van fraude. In zijn masterscriptie stonden vreemde bronvermeldingen. Zijn verklaring? Hij had ChatGPT gevraagd zijn bestaande bronnenlijst netjes te maken maar Chat had er een rommeltje van gemaakt. De examencommissie stelde desondanks fraude vast. De student belandde uiteindelijk bij de Raad van State. Die constateerde dat AI niet zijn onderzoek had verzonnen, maar zijn lijst had verhaspeld.

Fraude? Nee, oordeelde de Raad van State. Slordig? Ja, nogal. De student had de AI-output moeten controleren.

Twee andere studenten kwamen er diezelfde dag minder goed vanaf. Zij kregen namelijk geen gelijk van de Raad van State. In Rotterdam mocht AI onder voorwaarden worden gebruikt, maar niet om de bronnenlijst op te stellen. Bovendien moest de student aangeven waarvoor AI was gebruikt en welke prompts waren ingegeven. Dat was onvoldoende gebeurd. In Maastricht mocht AI alleen worden gebruikt als dat met zoveel woorden bij de opdracht stond vermeld. De opdracht die de student moest maken, draaide juist om het zelfstandig zoeken en correct vermelden van bronnen. Bij drie van de vier bronnenvermeldingen stelde de Raad van State vast dat daarbij ongeoorloofd AI was gebruikt.

Drie zaken, drie verschillende uitkomsten. Dat is misschien niet zo gek. Het recht loopt wel vaker achter op nieuwe technologie. Bij Deliveroo bijvoorbeeld moesten rechters uitmaken of bezorgers die via een app en algoritme werk kregen werknemer of zelfstandige in de zin van de wet waren. En na de Deliveroo-zaak moest de Hoge Raad in de Uber-zaak verder inkleuren hoe de arbeidsrechtelijke regels moeten worden toegepast. Met AI in het onderwijs gebeurt nu iets vergelijkbaars. Eerst zijn er regels of goede bedoelingen. En dan komen de grensgevallen. Langzaam ontstaat zo iets wat juristen jurisprudentie noemen en studenten waarschijnlijk liever vooraf hadden geweten.

Een regel als ‘AI mag niet’ wordt daardoor bijna ‘internet mag niet’

Algemene regels van universiteiten die AI-gebruik verbieden of beperken, zeggen in elk geval weinig. AI is het onderwijs namelijk allang binnengedrongen. Daarvoor hoef je ChatGPT niet eens te openen. In Word en Google Docs doet AI ook al mee. En wat dacht je van zoekmachines en vertaaltools? Ook daar ‘zit’ AI in. Een regel als ‘AI mag niet’ wordt daardoor bijna ‘internet mag niet’.

We hebben het op kleinere schaal eerder gezien toen Wikipedia in scripties opdook. Toen moesten we studenten ook duidelijk maken: hoe ga je om met informatie die je van Wikipedia haalt? En ook nu zijn er regels nodig. Wat de regels ook worden, het volgende geldt natuurlijk altijd: wie ChatGPT een bronnenlijst laat maken en niet controleert of professor Jansen of een uitspraak van de Hoge Raad überhaupt bestaat, prompt op eigen risico.

De Raad van State heeft een paar piketpaaltjes geslagen. Mooi. Nu zijn de universiteiten weer aan de beurt. Hopelijk struikelen er geen studenten in de tussentijd.

Lees alle columns van Lucienne van der Geld