Conferentie over kansen en gevaren van AI: ‘Europa heeft een gedurfde visie nodig’

De ontwikkelingen rondom kunstmatige intelligentie zijn de laatste jaren in een stroomversnelling gekomen. Zo zijn in korte tijd toepassingen van AI voor een groot publiek toegankelijk geworden. Dat levert zowel kansen als gevaren op. ‘We leven in interessante tijden’, zei rector magnificus Hester Bijl in haar openingsspeech. ‘Maar wat betekenen deze ontwikkelingen voor de mensheid?’ De sprekers probeerden daar antwoord op te geven, en de zin en onzin van de huidige AI-rage te onderscheiden.

Hoogleraar Virginia Dignum van de Universiteit van Umeå ging in op de vraag hoe we AI op een verantwoordelijke manier kunnen gebruiken. Het gaat er volgens haar daarbij om de balans te vinden tussen innovatie en sociale verantwoordelijkheid. ‘Wat je ook doet met deze briljante systemen, ze hebben onverwachte effecten. We kunnen veel goeds doen met AI, maar er kan zeker ook veel misgaan.’

Volgens Dignum is het belangrijk om ons bij de ontwikkeling van AI-systemen af te vragen wat we willen dat AI is. ‘Moet het menselijk zijn, en wat betekent dat dan? Wat voor gereedschap willen we dat deze systemen zijn? En voor wie ontwerpen we het?’ Om deze vragen te beantwoorden, is het volgens haar belangrijk om met verschillende disciplines samen te komen. ‘AI is meer dan een technologie, het is een sociaal construct. Dat vraagt om een interdisciplinaire aanpak.’

Gevaren van ChatGPT

Is ChatGPT daadwerkelijk intelligent? Daar kunnen we maar beter wel vanuit gaan, zei universitair docent Joost Broekens tijdens een van de paneldiscussies. ‘Taalmodellen zoals ChatGPT kunnen veel taken beter doen dan de gemiddelde mens, ook als het model daar niet specifiek op getraind is.’ Zo kunnen deze modellen rekenen en raadsels oplossen.

Universitair hoofddocent Francien Dechesne waarschuwt dat we bij het gebruik van dit soort systemen de ‘cognitieve infrastructuur van de samenleving op het spel zetten’. Als voorbeeld noemt zij studenten die met ChatGPT gebruiken om studieopdrachten te maken. ‘Het gaat er niet om dat ze een perfect antwoord kunnen produceren, maar dat ze hun gedachten in woorden kunnen omzetten, zodat anderen die kunnen begrijpen. We moeten de vaardigheid om onze gedachten te uiten blijven trainen.’

Journalist Eva Hofman wees tijdens de paneldiscussie op de dubieuze wijze waarop de ontwikkelaar van ChatGPT data heeft verzameld om het model te trainen. Daar zitten veel journalistieke bronnen bij waarvoor niet betaald is, maar ook persoonlijke pdf-bestanden van mensen die daar nooit toestemming voor hebben gegeven. Veel van die gegevens zijn nu ook al op het internet te vinden, maar het gevaar van AI-systemen is dat zij al die data aan elkaar weten te koppelen, zo waarschuwde Hofman.

Europa steeds afhankelijker van Amerikaanse techbedrijven

AI is cruciaal voor de toekomst van Europa, maar hoe ziet die toekomst eruit? Hoogleraar Holger Hoos (Machine Learning) zei zich daar zorgen over te maken. ‘Als we doorgaan zoals nu wordt Europa derde, na de VS en China. Europa wordt steeds afhankelijker van een paar Amerikaanse techbedrijven. Dat moeten we niet accepteren.’

Hoos wil dat Europa fors investeert in de ontwikkeling van ethische kunstmatige intelligentie met oog voor de mens. ‘Onze publieke instellingen moeten leiders zijn in de fundamenten van AI. Alleen dan kunnen we de talenten opleiden waar bedrijven behoefte aan hebben.’ Holger pleitte voor een groot Europees onderzoeksinstituut zoals CERN, maar dan voor kunstmatige intelligentie, met grootschalige infrastructuur voor de ontwikkeling van AI. ‘Om grootse dingen te bereiken, hebben we een gedurfde visie nodig.’

AI en diversiteit

Als we AI-systemen ontwerpen, voor wie doen we dat dan? De data waarmee bijvoorbeeld taalmodellen als ChatGPT worden getraind, zijn vooral afkomstig uit rijke, westerse, democratische landen met een hoogopgeleide bevolking. ‘Afrika wordt gebruikt voor het delven van kobalt voor chips, of om arbeiders verschrikkelijke beelden te laten bekijken en beschrijven zodat AI-modellen daarmee getraind kunnen worden. Maar verder wordt het continent niet meegenomen bij de ontwikkeling van AI’, zei junior onderzoeker Yasmin Ismail tijdens de paneldiscussie over AI en diversiteit.

Oumaima Hajri, onderzoeker en docent aan de Hogeschool Rotterdam, was het daarmee eens. ‘Als we het hebben over “AI met oog voor de mens”, over welke mensen hebben we het dan? Bij het nadenken over de ethische kaders wordt geen rekening gehouden met andere denkwijzen, zoals die uit de moslimwereld. Iedereen zou mee moeten kunnen doen met die discussie.’ Bij discussies over de gevaren van AI ziet zij dat de ‘tech bro’s’ (jonge mannen in de tech-industrie) vooral bang zijn dat AI hun positie bedreigt. ‘Dat soort existentiële angst voor AI is een luxeprobleem. Die angst zie je niet bij gemarginaliseerde populaties.’

‘Deze systemen zijn wat wij ervan maken’

Ook Kathleen Ferrier, voorzitter van de Nederlandse Unesco Commissie, stond stil bij de rol die AI kan hebben bij het versterken van diversiteit. ‘AI is niet goed of fout. Deze systemen zijn wat wij ervan maken. AI kan gebruikt worden om gemarginaliseerde groepen te helpen en mensenrechten te beschermen.’

Hoogleraar Bram Klievink (Digitalisation and Public Policy) sloot de middag af en keek terug op een geslaagde conferentie. ‘We zitten middenin de storm en proberen een goed beeld te schetsen van een periode vol verandering. We proberen erachter te komen welke regels we nodig hebben en zoeken naar een evenwicht tussen innovatie en controle. Het is goed dat we deze belangrijke gesprekken met elkaar voeren.’

Tekst: Tom Janssen
Foto's: Monique Shaw

Wil je op de hoogte blijven van dit soort evenementen van de Universiteit Leiden? Schrijf je dan in voor onze nieuwsbrief.

Over SAILS

Het Leiden University SAILS (Society Artificial Intelligence and Life Sciences)-initiatief is een universiteitsbreed netwerk van AI-onderzoekers, afkomstig uit alle zeven faculteiten: Rechtsgeleerdheid, Wis- en Natuurkunde, Archeologie, Sociale Wetenschappen, Geesteswetenschappen, Governance and Global Affairs en het Leids Universitair Medisch Centrum.

We bekijken AI vanuit menselijk perspectief. Ons onderzoek richt zich op rechtvaardig gebruik van AI in en voor de maatschappij. We willen onze kennis over AI, en de gunstige toepassingen van AI voor de maatschappij, vergroten. Zo kunnen we de samenleving helpen bij de uitdagingen van nu. We zijn ervan overtuigd dat dit doel alleen bereikt kan worden door wetenschappelijke talenten en inzichten uit alle disciplines bijeen te brengen, kennis te delen, anderen tijdens evenementen te inspireren en onze studenten op te leiden tot de AI-professionals van de toekomst. Want de Universiteit Leiden gelooft dat de mens de toekomst is van AI.