'Don't blame the algorithm'

In de afgelopen jaren ontplofte de sector, met de introductie van nieuwe datamodellen, algoritmes en AI modellen zoals generatieve AI. Ook de negatieve effecten zijn breed uitgemeten, de data surveillance praktijken, bias en discriminatie door algoritmes, botsingen met publieke waarden, ecologische effecten en machtsconcentraties die optreden door de introductie. De snelheid waarmee dit veld zich in de afgelopen jaren heeft ontwikkeld is individueel niet bij te houden, als groep onderzoekers kunnen we elkaar nog net bijpraten de keren dat we elkaar ontmoeten.

Grote lijnen die daaronder liggen zijn wat mij betreft:

Hoe gaan we de kansen benutten van algoritmes en data, en voorkomen we dat mensen terugschrikken van de mogelijke nadelen? Hoe creëren we opdrachtgeverschap i.p.v. een rol als afnemer?
Er lijkt een onderscheid te komen tussen omgevingen waarin zonder terughoudendheid digitale technologie, data en algoritmes worden ingezet, en omgevingen waar mensen de kansen niet gebruiken. Zijn er nu voldoende verantwoorde alternatieven om technologie, algoritmes en data te kunnen gebruiken? ik denk het wel. “Verantwoord” zouden we moeten zien als een werkwoord, daar moet blijvend aandacht voor zijn, maar dat moet ons niet tegenhouden om data en algoritmes in te zetten op de werkvloer. De kaders waarin de technologie wordt ingezet zijn nog in ontwikkeling, maar kunnen nu goed onderscheid maken tussen technologie die we “moeten willen” en technologie van “liever niet”.

Hoe schalen we goede voorbeelden op, zodat de impact van goed uitgedachte technologie door velen kunnen worden gebruikt?
Er is in de ratrace van afgelopen jaren zoveel technologie op de markt gekomen, dat we door goede voorbeelden te delen allemaal profijt kunnen hebben van de goede technologie voorbeelden. Vanuit het platform PRIO zijn we bezig om data en algoritmes samen in te zetten, vanuit de gedachte van een landelijke uitrol. Een programma om dat te delen, het netwerk, de vorm en de mensen heet het “AI in actie” programma.

Eigenlijk is de belangrijkste vraag voor mij: Hoe willen we met elkaar omgaan, en hoe zetten we technologie daarvoor in?
Een heel naar voorbeeld: Als persoon worden mensen in het dagelijks leven en op sociale media in dreigende taal aangesproken, via handmatige acties (appjes, mailtjes) of geautomatiseerd via chatbots. Wetgeving en handhaving op de technologie zelf is een activiteit die voorbij gaat aan de vraag waarom we elkaar in dreigende taal menen te moeten aanspreken. Zullen we het daar eens over hebben?

Mijn stelling is dat we het (sociale) gebruik ter discussie moeten stellen en niet (alleen) de technologie. De AI act van de Europese Unie die algoritmes indeelt in hoog en laag risico bij toepassing is zeker nodig, maar wordt terecht gecomplementeerd met de context, die gaat over hoe de technologie wordt ingezet. Dat kunnen we ook vanuit creatie, verbeelding gaan doen: laten we eerst eens met elkaar bespreken hoe we samen willen leven, voordat we technologie als oplossing gaan inzetten. Wat is de rol van een bibliotheek, wat kun je daar lenen, welke diensten kun je daarbij voorstellen? Wat is onderwijs: certificerend, inspirerend of gericht op vakkundigheid? Wat betekent dit voor learning analytics technologie, is die gericht op de kans op een certificaat behalen, of op vakkundigheid verkrijgen?

Kortom: “don’t blame the algorithm”, maar laten we het gesprek over hoe we het willen inzetten centraal zetten. Kunstenaars kunnen ons helpen om te verbeelden wat niet altijd voor de hand ligt. Een combinatie tussen technici, creatieven en sociale experts is volgens mij de weg vooruit.