Verantwoord AI Dashboard: Transparantie en Ethiek in Kunstmatige Intelligentie
1 september 2024 - 1 september 2026
Steeds meer organisaties integreren Artificial Intelligence (AI)-technieken en -tools in hun processen. Voorbeelden hiervan zijn generatieve AI voor het maken van beelden, video's en teksten, evenals classificatietaken die vaak worden ingezet in de medische sector en de industrie. Hoewel de nadruk vaak ligt op de nauwkeurigheid en prestaties van AI-modellen, bestaat het risico dat belangrijke aspecten zoals eerlijkheid, inclusiviteit en duurzaamheid worden verwaarloosd.
Organisaties erkennen steeds meer de noodzaak van een verantwoorde AI-ontwikkeling. Het lectoraat Responsible IT van de Hogeschool van Amsterdam (HvA) heeft een KIEM High Tech-subsidie ontvangen om organisaties te helpen om weloverwogen keuzes te maken bij de ontwikkeling en inzet van AI-systemen. Met deze subsidie gaan onderzoekers van het lectoraat werken aan de ontwikkeling van het Applied Artificial Intelligence Trade-Off Dashboard. Dit dashboard biedt inzicht in de afwegingen tussen technische prestaties, eerlijkheid en duurzaamheid, zodat organisaties de werkelijke kosten van AI-systemen beter kunnen inschatten.
“Met dit dashboard willen we organisaties in staat stellen om AI op een transparante en ethische manier in te zetten, zodat technologie bijdraagt aan een inclusieve en rechtvaardige samenleving.”
Zo kan een AI-model dat beter presteert op globaal niveau, slechter functioneren voor specifieke kwetsbare groepen. Daarnaast kunnen modellen met hoge prestaties aanzienlijk veel energie vergen voor training en gebruik, wat een negatieve impact heeft op het milieu. Informatie hierover ontbreekt nu veelal in het ontwikkelproces, waardoor organisaties enkel kiezen op basis van technische prestaties. Dit dashboard helpt organisaties om de daadwerkelijke prestaties en kosten van een AI-model beter in te schatten.
“AI is een technologie die veel nieuwe mogelijkheden biedt, maar die ook de nodige ethische en maatschappelijke vragen met zich meebrengt, o.a. ten aanzien van discriminatie en op het gebied van duurzaamheid. Het is daarom belangrijk om bij de ontwikkeling en inzet deze aspecten al mee te nemen om tot verantwoorde AI te komen. We zien dat organisaties dit ook willen, maar vaak niet weten waar te beginnen. Met dit project kunnen we AI-ontwikkelaars meer handelingsperspectief bieden.”
Dit initiatief benadrukt het groeiende besef dat technologische vooruitgang hand in hand moet gaan met maatschappelijke verantwoordelijkheid. Het verantwoord ontwikkelen van AI-systemen zorgt ervoor dat de voordelen van deze technologie breed gedeeld kunnen worden, terwijl de negatieve gevolgen voor kwetsbare groepen en het milieu zoveel mogelijk worden beperkt.
Resultaten
Het belangrijkste resultaat van dit project is een prototype van het Verantwoord AI Dashboard, vergezeld van praktische handleidingen en beleidsadviezen. Daarnaast wordt kennis gedeeld in wetenschappelijke publicaties en tijdens conferenties. Hiermee willen we organisaties handvatten bieden voor het verantwoord inzetten van AI-systemen.
Teamleden
Het projectteam bestaat uit onderzoekers van het lectoraat Responsible IT, docenten van de opleidingen HBO-ICT en Communicatie, en studenten van verschillende studierichtingen. Het team werkt nauw samen met externe experts op het gebied van ethiek en AI.
- Rick van Kersbergen
- Marcio Fuckner
- Sophie Horsman
- Pascal Wiggers
Partners
Het project wordt uitgevoerd in samenwerking met diverse partners, waaronder de gemeente Amsterdam, AI-coalities, en maatschappelijke organisaties. Deze samenwerkingen zorgen voor brede toepasbaarheid en draagvlak voor het dashboard.