Een AI-systeem dat je vertelt waarom je glas moet eten – mag dat?

Van hosanna tot onheilstijding: de opkomst van kunstmatige intelligentie (AI) roept zeer verdeelde reacties op in de samenleving. Tegelijkertijd is AI nu al alom aanwezig in de maatschappij, want heel veel moderne apparaten, apps en computersystemen maken er gebruik van. Wat betekent AI voor onze samenleving, nu en in de toekomst? Die brede vraag staat centraal in de interdisciplinaire minor ‘AI and Society’. Een selecte groep studenten (afkomstig uit studierichtingen binnen de Universiteit Leiden, vanuit TU Delft en Erasmus Universiteit Rotterdam) krijgen in een serie van zes vakken zienswijzen en vragen voorgeschoteld door docenten uit minstens zoveel diverse disciplines.

Klaar voor méér

Tijdens het college van vandaag, in het vak Governance of AI, staat het recht als invalshoek op het programma. Aan welke juridische regels moet een AI-systeem bijvoorbeeld voldoen? Hoogleraar Anne Meuwese heeft de studenten de vorige keer verteld over de uitgangspunten van EU-wetgeving die op dit moment in de maak is. Die wet moet onder meer bepalen aan welke eisen AI-systemen moeten voldoen binnen de EU. De studenten hebben flink wat leesmateriaal meegekregen ter voorbereiding van vandaag. Dat deert de groep niet: druk discussiërend, alert, komen ze binnen. Ze lijken klaar voor méér kennis.

Ridicuul

Anne schiet uit de startblokken met een praktijkvoorbeeld. Meta, het moederbedrijf van Facebook, lanceerde onlangs hun nieuwe AI-systeem Galactica. Dit taalsysteem kan op aanvraag teksten genereren, op basis van wetenschappelijke papers waarmee het systeem werd getraind. Het systeem werd openbaar gemaakt, maar na een paar dagen weer offline gezet. Galactica produceerde vol overtuiging teksten met ridicule en soms gevaarlijke beweringen. Bijvoorbeeld over de voordelen van het eten van gebroken glas, of hoe je antisemitisme moet belijden.

Watermerk

Anne laat discussievragen los op de groep. Mag zo’n systeem gemaakt worden, worden negatieve effecten van Galactica gedekt door de conceptwetgeving in de EU? De meningen lopen uiteen. ‘Dit is een overtuigende bijdrage aan fake news’, zegt iemand. ‘Het kan een nuttige tool worden’, werpt een medestudent tegen. ‘De producten van het systeem hangen af van de gebruiker. Misschien moet je een leeftijdsbeperking op het gebruik ervan toevoegen, of bij elk paper een watermerk zodat je kunt zien dat het door AI is gemaakt.’ Het gesprek verdiept zich als Anne nog twee elementen toevoegt. Ten eerste: hoe gaat de EU haar AI-wetgeving handhaven in het geval van aanbieders en gebruikers van AI-systemen buiten de EU? Verschillende regio’s (zoals de EU, de VS en China) zijn bezig met het opstellen van standaarden waaraan alle AI-systemen moeten voldoen. Maar wat als (uitgangspunten voor) die standaarden van elkaar verschillen?

Echte uitwisseling

‘Het unieke aan deze minor’, vertelt Anne tijdens de pauze, ‘is dat er studenten met verschillende achtergronden in de zaal zitten, die echt ervoor gekozen hebben om een vak te volgen met studenten uit andere disciplines. Dat merk je in de werkhouding, de nieuwsgierigheid, de opmerkingen die iedereen maakt. Daardoor ontstaat er een echte uitwisseling. Ook als docent vind ik deze minor heel leerzaam, want je kunt iets minder vertrouwen op je eigen kennis en ervaring. Tijdens het geven van een vak moet ik er rekening mee houden dat ik jurist ben, waarmee ik misschien te veel aannames doe over juridische voorkennis onder de studenten en de ‘bril’ waarmee ik naar het onderwerp kijk.’ Dat aspect komt ook terug in de toetsing van dit vak in de minor, waarbij studenten verschillende essays moeten schrijven. ‘Ik probeer tijdens het lezen van die opdrachten niet te veel juridisch te toetsen of te kijken naar vaardigheden die binnen de rechtswetenschappen heel belangrijk zijn. De kennis en inzichten van de studenten, daar draait het om.’ Ook als onderzoeker heeft ze iets aan de samenkomst van disciplines tijdens dit vak. ‘Ik kom uit de “tunnel” van mijn eigen discipline. Ik gebruik in deze minor veel opdrachten over case studies die uit mijn eigen onderzoek voortkomen, bijvoorbeeld de rol van AI bij migratiebeleid. Door het gesprek hierover met studenten stuit je dan altijd wel op aspecten die je nog niet in je eigen onderzoek hebt betrokken.’

Meer begrijpen over de grote uitdagingen van deze tijd gaat je sterker maken in je verdere carrière

Sterker maken

De minor is wat haar betreft voor elke student interessant. ‘Ook al heb je geen specifieke belangstelling in AI: meer begrijpen over de grote uitdagingen van deze tijd gaat je sterker maken in je verdere carrière, wat je daarna ook gaat doen. Juist op bachelorniveau is het een belangrijk onderdeel van je academische ontwikkeling, uit welke discipline je ook komt. Veel studenten denken volgens mij dat een minor als deze een specialisatieprogramma is. Maar dat is het in mijn ogen dus zeker niet.’

Koude Oorlog-vergelijking

Na de pauze breidt het mondiale perspectief over AI-wetgeving zich verder uit, onder meer door het aanhalen van het werk van politicoloog Daniël Mügge. Hij laat onder meer zien dat de verschillen tussen de VS, de EU en China op gebied AI-ontwikkeling enorm groot zijn. Ten eerste op gebied van investeringen (de EU is een muis in vergelijking met de andere regio’s). Ten tweede op gebied van uitgangspunten van de wetgeving. En die verschillen, zo betoogt hij, hebben ook invloed op de ontwikkeling en de toepassing van AI, waar een economisch prijskaartje aan zit. Want wat als de ene regio wél gebruik mag maken van een revolutionair AI-systeem, en de andere niet? De studenten bespreken onder meer vergelijkingen met de Koude Oorlog - vindt er op gebied van AI niet ook een soort wapenwedloop plaats? – en de oude discussie over kernenergie – AI kan gevaarlijk zijn, maar ook veel goeds brengen.

Anne sluit af met een prikkelende zienswijze. ‘Je kunt van alles zeggen over de wetgeving die de EU nu opstelt, maar ze lopen voorop ten opzichte van andere regio’s. Daarmee zijn ze een interessante gesprekspartner geworden voor anderen die wetgeving willen opstellen.’ Draai twee uurtjes mee met de minor AI, en het duizelt je van de perspectieven.

Kijk hier voor een uitgebreidere beschrijving van de minor.

Wat vinden de studenten van de minor?

Terra Rolfe, bachelorstudent Liberal Arts and Sciences (richting Governance Economics and Development):

‘Ik kan nu nieuwe inzichten en concepten op AI-gebied aandragen’

‘Ik vind de minor tot nu toe geweldig. Dat komt door de mix van studenten, afkomstig uit allerlei disciplines, in de collegezaal en door het aanbod van uiteenlopende zienswijzen van docenten van computerwetenschappen, psychologie, filosofie, bestuurskunde en rechten. Super interessant. De minor is ook een mooie aanvulling op mijn studie. Alles wat ik heb geleerd over bestuurskunde en economie kan ik nu ook toepassen op AI, een van de grootste hedendaagse uitdagingen op gebied van publiek bestuur.

De mix van studenten komt, ook vandaag, mooi terug in de discussies tijdens college. Een student culturele antropologie biedt een sociologisch perspectief, daarna voegt iemand een juridisch element toe en hoe AI hierop invloed heeft, en de programmeurs bieden een meer technische invalshoek. Dat verhoogt het niveau van de gesprekken, en laat des te meer zien dat AI invloed heeft op allerlei onderdelen van de maatschappij. Ik zou de minor dus zeker aanraden aan andere studenten.

Wat ik ook erg goed vind aan de minor is dat je eerst technische basisbeginselen krijgt aangeleerd voordat je in bestuurskundige en juridische vraagstukken duikt. Dat is een unieke manier om allerlei soorten studenten meer begrip te geven over de technische kant. De minor als geheel vind ik zeker niet te technisch, en dat zeg ik als iemand die niet enorm technisch aangelegd is. Tijdens gesprekken met studenten computerwetenschappen kan ik nu inzichten en concepten op AI-gebied aandragen die zij nog niet kennen. Dus dat is een enorme verrijking.’

Wat vinden de studenten van de minor?

Tofigh Hasen Nezhad Nisi (student Rechten en Belastingrecht):

‘Ik voel me actief betrokken bij het wetenschappelijke debat rondom AI’

‘Ik koos deze minor omdat ik wilde weten welke praktische effecten AI heeft op de samenleving. Digitale technologie is de toekomst, en het zal ons op allerlei manieren helpen. Niet alleen bij alledaagse taken, maar ook op het niveau van mondiaal bestuur. Landen, en hun onderlinge verhoudingen, zullen in grote mate worden beïnvloed door digitale technologie. Ik wil de kennis uit de minor toepassen op mijn eigen vakgebied, rechten. Ik zie dat er zeker juristen zijn die onderzoeken welke invloed digitale technologie heeft op de rechtspraak, maar er zijn nog weinig directe effecten, zoals de toepassing van wetten over AI of het dichten van de kloof tussen rechtspraak en AI.

De minor is geweldig. In het eerste college werden al mijn misvattingen over AI weggevaagd. Ik kreeg een helder beeld van wat AI nu echt is, en wat we ermee kunnen bereiken. Een van die misvattingen was dat AI zich enorm snel ontwikkelde en een bedreiging vormde voor de maatschappij. Inmiddels denk ik er wat genuanceerder over. Het gaat niet over robots die de wereld overnemen, maar over hoe AI-systemen die we dagelijks gebruiken de samenleving positief of negatief kunnen beïnvloeden. AI kan ons vooral helpen bij het nemen van beslissingen. Daar zou het debat ook over moeten gaan.

Verder vind ik de minor erg prettig omdat er veel ruimte is voor discussie. Je leest niet alleen maar boeken waarvan je vervolgens de inhoud reproduceert. De minor geeft me het gevoel dat ik wetenschappelijk actief ben door het lezen van artikelen, door te kijken waar het wetenschappelijk debat nu staat en welke kant het opgaat. En het allerbelangrijkste: dankzij de minor ik kan alle zienswijzen samenvoegen en mijn eigen mening vormen.’

‘We zagen een kans voor onderwijs van de volgende generatie’, zegt Francien Dechesne, coördinator van de minor AI & Society

Waarom deze minor?
‘Alle faculteiten binnen Leiden zijn op een of andere manier bezig met AI, in onderzoek en onderwijs. Van computerwetenschappen tot rechten, van taalwetenschappen tot bestuurskundigen. De oprichting van het SAILS-netwerk heeft ervoor gezorgd dat al deze wetenschappers elkaar nog makkelijker konden vinden. Die brede activiteiten boden een grote kans voor onderwijs van de volgende generatie. In het college van vandaag zie je dan ook dat we praten over concept-wetgeving en debatten die op dit moment op Europees niveau plaatsvinden. Dit is het soort kennis en besef waarmee we onze studenten moeten uitrusten, want deze ontwikkelingen gaan een enorme invloed hebben op de maatschappij. Daarom hebben we ook in de titel bewust gekozen voor “AI and Society”, want op die manier kun je allerlei kennis die aanwezig is in de universiteit verwerken in je minor. Bovendien is de minor bedoeld als interdisciplinaire discussie. We zeggen als minor bewust niet: zó moet je interdisciplinair werken of debatteren. Want de onderzoekers weten zelf ook nog niet precies hoe je dat moet doen. Deze minor is dus een mooie blauwdruk om dat uit te proberen, we kunnen daarbij niet zonder de studenten die vanuit diverse disciplines afkomstig zijn.’

Wat zou je nog willen veranderen aan de minor?
‘Het was expliciet de bedoeling van de minor om studenten te laten zien wat AI-technologie wel en niet doet. Die invalshoek is ook voor studenten computerwetenschappen interessant, om een stapje terug te doen en te zien wat het effect van deze techniek nu precies is. En ik denk dat de interactie met andere disciplines voor studenten computerwetenschap ook heel waardevol kan zijn. Ik wil dus zeker deze studenten uitnodigen om ook aan de minor deel te nemen. Verder gaan we minor op dit gebied verder doorontwikkelen, met meer ruimte voor begrip van de computationele technieken die aan de huidige toepassingen ten grondslag liggen, en hopelijk in komend jaar een nieuw fundamenteel vak dat meer ingaat op filosofie, ethiek en politiek rondom AI. Dat vraagt nog wel wat werk met collega’s van verschillende faculteiten, maar op basis van de ervaringen met dit jaar is iedereen enthousiast om het programma verder uit te bouwen.’

Kijk hier voor een uitgebreidere beschrijving van de minor.

Tekst: Jan Joost Aten
Foto's: Eelkje Colmjon