System error, please restart: verantwoorde IT komt eraan

Nanda Piersma betoogt in haar boek System error, please restart dat we IT-systemen op elkaar bouwen, terwijl de onderliggende structuur van de systemen nooit bedoeld was voor wereldwijde opschaling en gebruik in een andere context. “Als we het nog eens zouden doen, zouden we andere keuzes maken,” zegt Piersma.

Van banken tot commerciële bedrijven en overheid- overal werken we met systemen en methoden die nog stammen uit het verleden van de computer, terwijl er inmiddels andere, meer verantwoorde alternatieven beschikbaar zijn. Een voorbeeld: computerservers worden nog steeds luchtgekoeld met ventilatoren, wat veel energie kost. “Als we opnieuw computerservers zouden uitvinden, zouden we dan weer luchtventilatoren willen als koelsysteem, of zouden we energiezuinigere oplossingen zoeken?”

Ducttape

In de huidige situatie zijn ICT-systemen dus -figuurlijk gezien- opgeschaald met hulp van ‘ ducttape’. Dat leidt tot niet-verantwoorde oplossingen; zoals apps die in de regel data verzamelen, vaak door derde partijen. Vanwege het kapitalistische businessmodel van veel IT-bedrijven is bovendien vaak geen ruimte om opnieuw te beginnen, en een verantwoord systeem te bouwen.

Andere ontwerpkeuzes

Toch is de overgang naar verantwoorde ICT binnen handbereik, stelt Piersma. Haar boektitel System error, please restart (een term uit de computergeschiedenis) staat symbool voor die actuele opgave van haar onderzoeksteam: namelijk verantwoorde ICT creëren; zeker nu kunstmatige intelligentie in opkomst is. Hoe kun je nu andere ontwerpkeuzes maken, om wél verantwoorde IT te bouwen? In haar boek formuleert Piersma nieuwe kaders, die duidelijkheid moeten verschaffen aan IT’ers en ontwerpers.

Digitale Integriteit

Allereerst, stelt Piersma, kun je bij het ontwerpen werken vanuit het principe van ‘digitale integriteit’. “Als bloed bij je wordt afgenomen, heb je daar in de regel toestemming voor gegeven. Maar digitaal worden continu persoonlijke data gebruikt en geanalyseerd, zonder dat je dit überhaupt weet. Deze data worden nu ook verwerkt als dit niet nodig is.” Om een festivalticket te kopen zijn je naam en adres bijvoorbeeld niet nodig, maar de online webshop vraagt die nu eenmaal vanuit gestandaardiseerde invoervelden.

Digitaal comfort

Een tweede belangrijk ontwerpprincipe, waarmee ontwerpers rekening kunnen houden, is digitaal comfort. Piersma: “Sommige apps zijn makkelijk te downloaden en handig in gebruik, maar zorgen toch voor een stemmetje in je achterhoofd dat zegt: is dit wel veilig? Wat gebeurt met mijn persoonlijke data? Ze komen in je persoonlijke ruimte, en dat voelt niet prettig.”

Als ontwerper kun je ook focussen op dat diepere gevoelsmatige comfort van gebruikers, in plaats van alleen op gebruiksgemak. Meer controle op data is belangrijk. “Geef mensen controle over hun eigen IT-systeem: wie ziet mijn data, wat kan ik zelf zien, kan ik dingen blokkeren of regelen? We moeten systemen dichter bij de mensen brengen. Als je deze richtlijnen aan ontwerpers geeft, komen er ook andere ontwerpen uit.”

De menselijke maat

Een andere richtlijn is de menselijke maat. “We gebruiken tegenwoordig overal kunstmatige intelligentie voor, ook voor problemen die allang zijn opgelost op andere manieren. Dat leidt soms tot oplossingen die bovendien onverantwoord zijn. Camera's met beeldherkenningsalgoritmes inzetten om aantallen reizigers in een trein, of in een supermarkt te tellen? Daar zijn andere methodes voor. De NS monitoren trouwens de drukte aan de hand van gewicht van de treinstellen; een prima oplossing.”

Toekomstbestendig

Tot slot noemt Piersma toekomstbestendigheid als ontwerpprincipe: duurzaam en robuust bouwen voor de lange termijn. “Zorg ervoor dat het werkt en blijft werken, ook als de toepassing op een ander computersysteem wordt gebruikt.” De donutprincipes van Kate Raworth passen hier uitstekend bij: met de keuzes in het IT-ontwerp de belasting van de aarde minimaliseren en de sociale context respecteren.

Dát zijn de vier achterliggende principes waarmee ontwerpers anders kunnen gaan ontwerpen. “Een wezenlijk verschil met een ethisch kader waarmee je checkt of je alle boxen hebt afgevinkt.”

De mensen zullen veranderen

“We hebben lang genoeg geroepen wat er allemaal niet deugt”, besluit Piersma. “Mijn team gaat aan de slag om te onderzoeken hoe we het anders kunnen doen, om juist dat duwtje te geven in de richting van wél verantwoord. Mijn slottheorie is: de technologie is er vaak al. Het zijn de mensen en samenleving die het moeten gaan implementeren. De mensen zullen de veranderingen gaan zien en omarmen. En de IT’ers zijn nu ook aan zet om met andere ontwerpkeuzes digitale systemen anders te programmeren.”