'Technologie weet meer over jou dan je partner'

De samenleving is een fase ingegaan waarin we altijd en overal verbonden zijn door en met technologie. Die continue verwevenheid biedt kansen- van de zorg tot de industrie- maar er zitten ook grote risico’s aan. Zoals verlies van privacy, aantasting van mensenrechten en vervuiling, door afgedankte apparaten en energieverbruik.

Het is dan ook urgent om als samenleving en vanuit het hoger onderwijs een visie te formuleren voor hoe we willen omgaan met die nieuwe werkelijkheid.  “Als we nu niet nadenken over de gevolgen van die continue verbondenheid, bestaat het risico dat menselijke waarden, en de belangen van andere levende wezens en de planeet als geheel in het gedrang komen,” aldus Esther Hammelburg, media-onderzoeker aan de HvA.

“Technologie moet de maatschappij als geheel dienen. Daarvoor is nodig om mensen eigenaarschap en handelingsperspectief te geven, en systemen te dwingen tot transparantie en wederkerigheid”, voegt decaan Frank Kresin toe. “Die visie biedt een duidelijk uitgangspunt voor het hoger onderwijs.”

Waarom is het belangrijk te formuleren hoe we als samenleving willen omgaan met technologie?

Decaan Frank Kresin: “De aanleiding is, basaal gezegd, dat door technologische mogelijkheden alles nu een mate van rekenkracht krijgt- sommige mensen noemen dat intelligentie - en je vrijwel continu in contact staat met algoritmes en data. Eerder zat die rekenkracht in fabrieken en op je bureau, nu is ze overal om ons heen en dragen we haar met ons mee.

Aan de ene kant geven alle technologische mogelijkheden de samenleving kracht. Denk aan sensoren die signaleren dat iemand valt, of geavanceerde AI-modellen die ervoor zorgen dat medische aandoeningen eerder opgespoord worden.

Maar er zit ook een enorm risico in op controle en repressie. Wat afwijkt van de norm is verdacht. Technologie – en wie haar bezit - ‘weet’ meer over jou dan je partner, dan jijzelf, vergeet nooit meer iets en kan alle data met elkaar verbinden. Dat kun je, als je kwaadwillend bent, gebruiken om iemand te controleren of te manipuleren.

Het is een machtig spanningsveld. Technologie kán een kracht voor verbetering zijn, maar alleen als er in het ontwerp en de uitvoering al bepaalde waarden zijn verwerkt - van autonomie, van wederkerigheid en het versterken van gemeenschapszin.”

AI ingezet bij menselijke emoties

Diezelfde mogelijkheden én schaduwkanten zien we ook wanneer technologie wordt ingezet voor menselijke interactie, stelt media-onderzoeker Esther Hammelburg. “Neem de opmars van A.I. bij rouwverwerking, waarbij nabestaanden dankzij gepersonaliseerde chatbots als het ware nog kunnen ‘praten’ met een overledene. Dit kán helpen bij rouw- mits goed ontworpen en gebruikt- maar het kan net zo goed de verwerking in de weg staan.

Lost technologie hier daadwerkelijk een probleem op en verrijkt het ons leven? Of lopen we het risico essentiële vaardigheden – zoals het nemen van afscheid – kwijt te raken door het uit te besteden, en worden we als rouwenden speelbal van bedrijven die aan ons verdriet verdienen? Idealiter staan we al bij deze vragen stil voordat de mogelijkheden zich voordoen.”

Technologie – en wie haar bezit - ‘weet’ meer over jou dan je partner, dan jijzelf, vergeet nooit meer iets en kan alle data met elkaar verbinden. Dat kun je, als je kwaadwillend bent, gebruiken om iemand te controleren of te manipuleren. Het is een machtig spanningsveld.

Frank Kresin

Decaan HvA-faculteit Digitale Media en Creatieve Industrie

Waarom is verantwoorde technologie zo’n cruciaal onderwerp voor de hogeschool? 

Frank Kresin: “Dat de samenleving sterk technologisch gedreven raakt, betekent dat we als hogeschool, waar we nieuwe technologie als A.I. en quantumcomputing ontwikkelen en toepassen, een grote verantwoordelijkheid hebben. Enerzijds doen we dat door te kijken: hoe ontwerp je? Een voorbeeld zijn AI-systemen die we ontwikkelen voor bijvoorbeeld de gemeente Amsterdam, waarin de onderzoekers en studenten zoveel mogelijk rekening houden met privacy van burgers en gegevens niet uitwisselen met ‘the cloud’, maar deze veilig en lokaal analyseren.

Anderzijds is het onze taak om de digitale weerbaarheid te vergroten van studenten, collega’s, professionals en burgers. Zij moeten onder de motorkap kijken en grip krijgen op wat er gaande is.

Uiteindelijk draait het om mensen handelingsperspectief bieden, zodat zij– collectief en individueel - de mogelijkheden van technologie ten goede kunnen gebruiken. En er niet door gecontroleerd, gemanipuleerd of beperkt worden."

Is praktijkgericht onderzoek onmisbaar voor verantwoorde innovatie?

“We hebben binnen het hoger onderwijs lang gedacht dat je maatschappelijke fenomenen geïsoleerd kon bestuderen, per vakgebied”, zegt Frank Kresin. “Dit is veranderd door de opkomst van digitalisering en grote thema’s als klimaatverandering, waarbij we hebben gezien dat werkelijk álles op elkaar ingrijpt.

Toegepast onderzoek neemt juist die maatschappelijke context mee, en dat is waar de effecten van technologie zich tonen. Wij brengen de techniek naar de plekken waar deze daadwerkelijk een rol speelt: zoals de inzet van AI bij zorginstellingen, binnen de rechtspraktijk of voor preventief onderhoud aan machineparken. Daarbij is steeds het uitgangspunt om de techniek uit het lab zodanig in te zetten, dat deze recht doet aan de publieke waarden die we met elkaar hebben.

Onze studenten en onderzoekers zitten op het gemeentehuis. waar zij bijvoorbeeld aan een project werken om ambtelijke teksten leesbaarder te maken met AI(opent in nieuw venster), bij het UWV, op de Bijlmerscholengemeenschap en bij bedrijven- kortom: in alle sectoren waar oplossingen nodig zijn en ook de effecten zichtbaar worden. We nemen zo meteen burgers en werknemers mee in het bewustzijn over technologie en de implicaties ervan.”

“Technologie moet de maatschappij als geheel dienen, door mensen eigenaarschap en handelingsperspectief te geven. En door systemen te dwingen tot transparantie en wederkerigheid. Die visie biedt een duidelijk uitgangspunt voor het hoger onderwijs.”

Ook Esther Hammelburg benadrukt het belang van praktijkgericht onderzoek voor innovatie: “Toegepast onderzoek vertrekt vanuit de context, en stelt daarom altijd de vraag hoe technologie binnen de maatschappij vorm moet krijgen. Het gaat hier dus niet om tech for tech’s sake, maar om maatschappelijk gedreven innovatie.

Op dit moment werk ik bijvoorbeeld samen met collega's van het lectoraat Civic Interaction Design. de Radboud Universiteit en Universiteit Utrecht aan alternatieven voor bestaande online platforms als Facebook en Instagram. We hebben veilige online ruimten nodig die niet worden gedreven door commercieel belang; waarin publieke waarden centraal staan. Hieraan is maatschappelijk behoefte, en het is noodzakelijk om de democratie te beschermen.”

Kunnen we ons nog onttrekken aan de verdere opmars van technologie?

Frank Kresin: “We staan al midden in die overgang naar een samenleving waarin alles en iedereen voortdurend verbonden is met technologie. Als je je aan algoritmes en dataverzameling wilt onttrekken, moet je veel moeite doen. Ieder mobieltje en iedere smartwatch zou je in een diepvries of metalen kist moeten leggen, om te zorgen dat deze niet doorgeeft waar die is. Als je in deze maatschappij staat, heb je daarmee te dealen.”

Ondanks dat de mogelijkheden oneindig lijken, staan volgens Kresin de antwoorden over waar de grens ligt nog niet vast. “Daarom moeten alle vakgebieden – van techniek tot filosofie tot kunst en ontwerp – samen nadenken over grenzen, kansen en gevaren. We zijn hier aan de Hogeschool van Amsterdam uitstekend gepositioneerd om daarover na te denken. Dat doen we samen met ons netwerk, met bedrijven, de creatieve sector en kennispartners.”

De HvA gebruikt de visie van een ‘Society 5.0’, een begrip dat uit Japan komt, als stip op de horizon. Wat houdt deze visie in?

Esther Hammelburg: “Dit begrip verwijst naar een nieuwe fase van de samenleving - na de fases van industrialisatie en digitalisering- waarin we voortaan overal verbonden zijn met technologie. Society 5.0 staat voor een samenleving waarin technologie wordt ingezet vóór menselijke waarden en de gemeenschap. In Japan vormt het niet alleen een visie, maar zelfs een strategie om het land vooruit te helpen, met als doel brede welvaart.

Ook voor Nederland biedt Society 5.0 een wenkend langetermijnperspectief, waaraan hogeronderwijsinstellingen, zoals de HvA, kunnen samenwerken met beleidsmakers, overheden en bedrijven."

 

Verandert de huidige Nederlandse regering iets aan het streven naar een Society 5.0, waarin menselijke en publieke waarden vooropstaan?

Frank Kresin: “Wat ik onbegrijpelijk vind, is dat dit kabinet willens en wetens de blik op de toekomst heeft verruild op gisteren en eergisteren. Wat je ziet gebeuren, is dat er met de retoriek ‘we zijn er voor de mensen’ snoeihard wordt bezuinigd op onderwijs en onderzoek. Terwijl daarmee juist een handelingsperspectief wordt ontwikkeld. Dáármee wordt geïnvesteerd in burgerschap, economische en maatschappelijke vooruitgang én verdienvermogen.

We zouden met het hoger onderwijs juist een voorlopersrol in de wereld kunnen spelen door technologie en reflectie sterker met elkaar te verbinden. Bezuinig je op de kenniseconomie, dan bezuinig je op die potentie en denk je niet aan consequenties op lange termijn.”

___________________________________________________________________________________________

Aanrader: festival rond Society 5.0

Onderdeel van de programmalijn Society 5.0 is het gelijknamige toekomstfestival dat de HvA, Rietveld Academie, Inholland en AHK (verenigd in het Centre of Expertise for Creative Innovation(opent in nieuw venster)) samen jaarlijks organiseren. Esther Hammelburg is tevens directeur van dit festival.

De volgende editie van het Society 5.0 Festival(opent in nieuw venster) is op 15 & 16 oktober 2025.