Nieuwe hoogleraar Iris van Rooij is ‘luis in de pels’ van de kunstmatige intelligentie

07 okt 2021

Als nieuwe hoogleraar Computationele cognitiewetenschap houdt Iris van Rooij zich vooral níet bezig met de snelle, populaire kanten van kunstmatige intelligentie zoals de robots en de gezichtsherkenning. Zij verdiept zich in theorievorming en wijst de problemen aan in dat oh zo hippe vakgebied. 'Ik vind het als wetenschappers onze verantwoordelijkheid ons uit te spreken als we zien dat bepaalde technieken negatieve consequenties hebben.'

Het begin van het hoogleraarschap van Iris van Rooij (48) ging deze zomer bijna ongemerkt voorbij. Zelf kondigde ze het niet aan, deelde het niet met de wereld. En dat is opvallend voor iemand die op social media veel aanwezig is. Online deelt ze graag werk van anderen en laat ze haar stem horen als het gaat om diversiteit in haar werkveld of op de universiteit. Maar wat betreft haar nieuwe functie wachtte ze op een officiële aankondiging van de universiteit, die pas later kwam. ‘En misschien was het wel een beetje bescheidenheid’, zegt Van Rooij.

Vrouwelijke hoogleraren

Sinds 2007 werkt ze als universitair docent bij de afdeling Artificial Intelligence (AI), in 2015 werd ze daar universitair hoofddocent. Vanaf 1 juli mag Van Rooij zich hoogleraar Computationele cognitiewetenschap noemen. Is dat niet een belangrijke ontwikkeling in haar carrière? Een die het delen waard is? Op die vraag had Van Rooij zich niet voorbereid. Ze denkt lang na voordat ze antwoordt. Ja, met de titel komen nieuwe rollen en nieuwe mogelijkheden, maar veel deed ze al. ‘Het voelt niet alsof mijn werk enorm verandert.’ Ze lacht. ‘Ik dacht, je gaat me vragen wat computationele cognitiewetenschap is.’

Al toen ze in de jaren negentig psychologie aan de Radboud Universiteit studeerde, vroeg ze zich af waar de vrouwelijke hoogleraren waren. ‘Toen heb ik besloten: ik wil hier de eerste vrouwelijke hoogleraar worden.’ Gelukkig, vindt ze, gingen anderen haar voor. Maar nog steeds zijn er te weinig. Dat merkt ze vooral aan reacties van vrouwelijke collega’s op haar hoogleraarschap. ‘Dus om nog even terug te komen op je vraag: Het is geen persoonlijke mijlpaal, maar in het grotere thema een mijlpaaltje.’

Nu dan toch de vraag: wat doet een computationeel cognitiewetenschapper?

‘Cognitiewetenschappen is de interdisciplinaire studie van het menselijk denken. Dan hebben we het over functies als motoriek, perceptie, beslissingen maken, of taal. Computationele cognitiewetenschappen is gebaseerd op het idee dat je cognitie computationeel kunt verklaren, dat betekent dat je er een bepaald soort model van kunt maken. Bij het woord computatie denken mensen vaak aan een laptop. Da’s niet wat we bedoelen. We bedoelen álle mogelijke fysieke systemen die computaties kunnen uitvoeren.’

In de praktijk houdt haar baan vooral in dat Van Rooij nadenkt over hóe wetenschappers denken over het menselijke denken. Dat klinkt heel meta, en dat is het ook, zegt Van Rooij. ‘Wij vragen ons af wat het betekent om die modellen over cognitie te maken. Wat maakt die modellen eigenlijk goed, en wat maakt ze verklarend, of niet goed?’

Dit is misschien niet het eerste dat iemand voor zich ziet bij AI. Veel vaker komen voorbeelden van cognitive engineering in de belangstelling. Wetenschappers proberen in die tak artificiële systemen te maken die intelligent zijn. Denk bijvoorbeeld aan gezichtsherkenning. Van Rooij doet dat niet. ‘Veel van AI is gefocust op ‘hele coole modellen’ en ‘kijk eens wat ze allemaal kunnen’’, zegt ze. ‘Mijn werk is het tegenovergestelde. Wat kunnen ze níet? Waar lopen ze vast?’

Iris van Rooij. Foto: David van Haren

Waar wilt u zich in uw hoogleraarschap vooral op gaan richten?

‘Het versterken van de band tussen AI en psychologie. We hebben hier de bijzondere situatie dat die twee onder één dak zitten bij sociale wetenschappen, op andere universiteiten wordt AI vaak bij computerwetenschappen ingedeeld. Ik heb zelf de master experimentele psychologie gedaan en was al vrij vroeg gedesillusioneerd door de experimentele psychologische aanpak. Er was geen diepe theorievorming, enkel een opeenstapeling van effecten. Bijvoorbeeld het Stroop-effect, dat laat zien dat we het moeilijk vinden om de kleur van de inkt te benoemen als een woord als ‘groen’ in rode inkt geschreven is.’

Proberen theorie te krijgen uit het verzamelen van effecten, is een beetje zoals het proberen te schrijven van een roman door random zinnen te generen, vindt Van Rooij. ‘Dan ben je misschien tot in de eeuwigheid aan het genereren. En al had je ze, dan zou je ze niet eens herkennen. AI kan bij de theorievorming helpen, omdat we door het bouwen van die computationele systemen begrijpen hoe bijvoorbeeld visuele waarneming in elkaar zit.’

U zei op Twitter dat het doel van wetenschap eerder het verklaren van fenomenen als regenbogen en onweersbuien is, dan het voorspellen van het weer. Waarom?

‘Als we willen weten hoe taal en communicatie werkt, gaat het er niet om of iemand mijn volgende woord kan voorspellen. Of jouw volgende woord. Neem de overstromingen van laatst. Een expert klimaatverandering kreeg klachten, las ik, dat hij ze niet voorspeld had. Hij zei: onze modellen zijn op het verleden gebaseerd en dit is nieuw terrein, we kunnen het niet voorspellen. Maar we kunnen het wél verklaren.’

Vindt u dat daar teveel nadruk op is komen te liggen, dat voorspellende?

‘Ja absoluut.’

Waarom?

‘Omdat het makkelijk is. Kijk bijvoorbeeld naar de AI en machine learning (systemen die van data kunnen ‘leren’, red.). Men probeert bijvoorbeeld een systeem te bouwen dat de kans op criminele activiteit voorspelt, of mensen voor sollicitatiegesprekken uitzoekt.’

Dat kan negatieve maatschappelijk impact hebben. Want als je oude data biased is, zegt Van Rooij, en bijvoorbeeld niet-witte mensen of vrouwen benadeelt, dan krijg je ook systemen die die mensen benadelen en hen niet voor die sollicitatiegesprekken selecteert. Wetenschap is niet alleen te veel gericht op voorspellen, maar ook op succes, vindt ze. ‘Het is te veel gericht op problem solving in plaats van problem creating. In mijn veld zeggen wetenschappers vaak: ‘Kijk, mijn systeem doet het voor 95 procent’. Maar wie zijn de 5 procent voor wie je systeem faalt? Dat zijn waarschijnlijk minderheden. We hebben meer problem creators nodig, vind ik.’

U vraagt sowieso veel aandacht voor ongelijkheid en diversiteit in de wetenschap, in uw werk en op social media.

Ik vind het als wetenschappers onze verantwoordelijkheid ons uit te spreken als we zien dat bepaalde technieken negatieve consequenties hebben of misbruikt worden.’

Vinden sommigen in uw veld dat geen gezeur? Zij zijn erg blij met hun model, en u bent een luis in de pels die de fouten gaat aanwijzen.

‘Ja dat is zo, soms. Ik ben letterlijk die luis in de pels. Maar ik heb gemerkt dat er groeiende waardering voor is, het doet pijn maar het is nuttig. Sommige mensen kunnen gefrustreerd zijn. Die zeggen: ja maar we willen toch vooruitgang? Wat is dan vooruitgang? Snelle stappen vooruit, en ondertussen veel schade aanrichten?

‘En soms denk ik dat we bepaalde technologie, zoals gezichtsherkenning, misschien niet na moeten streven. Vorig jaar kwam een paper uit waarin beschreven stond hoe er met machine learning een algoritme was gemaakt, dat nét als mensen betrouwbaarheid waarneemt in iemands gezicht. Maar wij weten dat mensen dat biased doen. Daar zit een nare geschiedenis achter. Witte gezichten worden door witte mensen betrouwbaarder geacht dan zwarte. Het hele idee dat betrouwbaarheid in iemands gezicht te zien zou zijn, is vragen om problemen.’

U probeert niet alleen wetenschap zelf tot de orde te roepen. U spreekt zich ook uit voor diversiteit en sociale veiligheid op de universiteit. Denkt u dat daar meer naar geluisterd zal worden nu u hoogleraar bent?

Dat moet ik gaan zien. Als hoogleraar blijf ik me daarvoor inzetten. Ik kan dat ook niet anders. Ik ben nog zoekende wat dan de nieuwe mogelijkheden zijn.’

Doet de universiteit genoeg als het gaat om diversiteit?

‘Het mag altijd meer. We hebben een hele actieve gender- en diversiteitscommissie bij het Donders Instituut. Maar ik weet niet hoe representatief dat is.’

Het aantal vrouwelijke hoogleraren aan de universiteit is bijvoorbeeld nog steeds heel laag. In Nijmegen ligt het percentage nu op 30 procent.

‘We moeten niet enkel nadenken over diversiteit als: er moeten meer vrouwen komen. Daar is echt nog werk te doen. De universiteit is heel wit. En ook, zeker in onderzoek, heteronormatief. Die targets, we moeten meer vrouwen, geven ons een vals gevoel dat we iets aan diversiteit doen. Terwijl experts zeggen: het gaat om inclusie, dat we een cultuur maken waar iedereen graag wil zijn en waar iedereen kan floreren. Ik wil niet zeggen dat het niet goed is om targets te hebben, maar als het daarbij blijft en er is geen bredere visie, dan is het een holle frase.’

 

Leuk dat je Vox leest! Wil je op de hoogte blijven van al het universiteitsnieuws?

Bedankt voor het toevoegen van de vox-app!

Geef een reactie

Vox Magazine

Het onafhankelijke magazine van de Radboud Universiteit

lees de laatste Vox online!

Vox Update

Een directe, dagelijkse of wekelijkse update met onze artikelen in je mailbox!

Wekelijks
Nederlands
Verzonden!