Koningin Máxima informeert zich over verantwoorde AI-systemen

Het bezoek begint in het Datalab van het Jakoba Mulderhuis, waar de koningin aan tafel plaatsneemt bij CvB-leden Geleyn Meijer, Jopie Nooren en lector Responsible IT Nanda Piersma. De koningin krijgt te horen hoe onderzoekers en studenten hier aan verantwoorde AI werken voor de praktijk, door goede vragen te stellen en daarnaast AI te ontwikkelen samen met de eindgebruikers. “Wij geloven dat niet de maatschappij de technologie moet volgen, maar dat technologie de maatschappelijke behoefte moet volgen,” vertelt Nanda Piersma.

Fouten permitteren

Koningin Máxima is goed op de hoogte van de laatste ontwikkelingen rond AI en stelt veel vragen. Hoe weet je hoe ver je kunt gaan met deze grensverleggende technologie? Kun je je bij het experimenteren hiermee wel fouten permitteren? Juist bij kennisinstellingen kunnen studenten oefenen met hoe je het absoluut niet wil, en daarnaast ervaren hoe je het anders kunt doen, door stil te staan bij die ethische keuzes in elke fase, zegt Nanda Piersma.

A.I. modereert discussies

Daarop krijgt de koningin een aantal voorbeelden te zien van verantwoorde AI-toepassingen, ontwikkeld door studenten en onderzoekers. Zoals de consensusmachine, gedemonstreerd door docent-onderzoeker Yuri Westplat en alumnus Rick van Kersbergen. Deze toepassing van Chat-GPT toont stellingen waarover mensen in discussie kunnen gaan.

Als je het niet eens bent met een deel hiervan, raak je dat zinsdeel aan, en dan verschijnen alternatieve woorden en zinnen. Het is een manier om mensen nader tot elkaar te brengen. Toch is ook hier voorzichtigheid geboden, benadrukken de onderzoekers: ‘Willen we dat A.I. discussies modereert? Het is ook goed erbij stil te staan wiens mening hierin komt te staan.”

Monteurs helpen

Kunstmatige intelligentie kan ook de onderhoudssector vooruithelpen, toont Arthur van Schravendijk, alumnus en inmiddels docent. Hij ontwikkelde een chatbot die onderhoudsmedewerkers helpt als zij een probleem tegenkomen dat zij niet kennen. De chatbot, gebaseerd op Chat-GPT, geeft een handleiding hoe je iets kunt repareren. Het is een voorbeeld van hoe je technologie kunt gebruiken om medewerkers ondersteunen in plaats van vervangen. “Is deze taal niet te ingewikkeld?”, vraagt de koningin als er een uitgebreide tekst uitrolt.

Zelfreparerende koelinstallatie

De koningin vraagt vaker door; ook naar de volgende stap. Gaat de industrie daadwerkelijk aan de slag om ook iets te verbeteren? Ook bij de slimme koelinstallatie bijvoorbeeld, die student Lenka Piet laat zien. Zij ontwikkelde een ‘digital twin’ (een digitale kopie) die het faalpunt van zo’n koelkast voorspelt, waarna de installatie zichzelf ook kan corrigeren. In dit geval zorgt AI wel duidelijk voor een verbetering: in het Maasstad ziekenhuis wordt het nu ruim 1,5 uur van tevoren gezien dat de koelinstallatie voor medicijnen faalt, waar dit voorheen een half uur te laat werd gedetecteerd. “Fantastisch”, aldus de koningin.

Eerlijk of inclusief

Later op de ochtend voert de koningin een gesprek over verantwoorde AI in bredere zin, met lectoren Pascal Wiggers (Applied AI, HvA), Maaike Harbers (Hogeschool Rotterdam) en UvA-hoogleraar Natali Helberger. “Wij kijken vooral vanuit sociaal en juridisch oogpunt: in hoeverre is kunstmatige intelligentie eerlijk of inclusief?” zegt Pascal Wiggers. Technologie is niet neutraal maar draagt (impliciet) een boodschap in zich, en beïnvloedt onze levens, zegt Wiggers. Bij AI speelt ook nog eens mee dat dit gebaseerd is op data, en dat het daarmee een spiegel is van onze cultuur; óók wat daarin scheef zit en wie minder wordt gerepresenteerd.

“Er zijn ook veel mensen die niet eens op het internet komen. Hun data worden dus niet meegenomen in AI-systemen”, merkt de koningin op. Dat klopt, zegt Maaike Harbers, en daarom is het zo belangrijk om datasets te diversifiëren. In de praktijk is dat lastig; zo zijn sommige talen (taalmodellen) online veel minder gepresenteerd.

De onderzoekers werken in het AI Media & Democracy Lab samen met de NPO bijvoorbeeld aan aanbevelingssystemen van media-platforms. Hierdoor krijgen kijkers diversere kijksuggesties, zodat zij kennismaken met perspectieven die minder gehoord worden.

Rondetafelgesprek

Tot slot volgt een derde rondetafelgesprek met sleutelfiguren uit de zorg, onderwijs, overheid en creatieve industrie. Aan tafel zitten onder anderen Ymke Fokma (Raad van Bestuur Antoni van Leeuwenhoek/ NKI) , Stan Kaatee (directeur-generaal Werk, ministerie van Sociale Zaken), Ger Baron (Chief Technology Officer, Amsterdam), Marleen Stikker (Waag en HvA) en Katja Hoorn (Raad van Bestuur, Reade).

“Ziet u AI als bedreiging of als een kans?” wil de koningin weten. Daarover lopen de meningen uiteen. Katee, directeur-generaal werk bij Sociale Zaken, ziet het als een enorme kans, maar wel ‘met rafelrandjes’. Marleen Stikker is kritischer: “We zijn er zo van overtuigd dat het moet, en dat heeft te maken met een permanente haast. Maar vergeten we dan niet dat sommige problemen door mensen opgelost kunnen worden?”

Ongeluk in slow motion

Katja Hoorn van Reade benadrukt de enorme personeelstekorten die verwacht worden in de zorg “Over 20 jaar zijn er in Noord-Holland 22.000 vacatures in de zorg, en ook 60 procent minder mantelzorgers. We kijken wat dat betreft naar een ongeluk in slow motion.” AI zou op bepaalde gebieden uitkomst kunnen bieden, bijvoorbeeld als het om logistieke indeling van personeel of preventie gaat.

Marleen Stikker vraagt zich af of er wel altijd een heldere analyse van het probleem aan voorafgaat, voor we automatiseren. “In de zorg zijn medewerkers bijvoorbeeld 40 procent van hun tijd kwijt aan administratieve handelingen.”

Het pleidooi om holistisch te kijken naar kunstmatige intelligentie is dus buitengewoon belangrijk, vat de koningin samen.