Blog: AI-geletterdheid? Eerst komt het leren, dan pas ChatGPT

Het schijnt dat wij mensen bij een verzameling van vijf dingen – munten op een tafel, nootjes in een bakje – nog in een oogopslag kunnen zien dat het er vijf zijn. Worden het er meer, dan moeten we bewust gaan tellen. Zou er ook zo’n oog-brein-principe zijn voor de inschatting van tekst? Van een verzameling woorden op een scherm? Het is bij woorden meestal niet zo belangrijk om snel te kunnen zien hoeveel het er zijn, wel om te kunnen inschatten wat ze waard zijn. Hoe doen we dat bij AI-geproduceerde teksten? Dat is de fundamentele vraag waar we het nog veel te weinig over hebben in onze discussies over programma’s als ChatGPT.

Vanuit een kennissessie binnen het Centre of Expertise Applied Artificial Intelligence komt het volgende naar voren: ”We weten dat ChatGPT ‘slechts’ een chatbot is, met een interface van een taalmodel zonder intelligentie. ChatGPT-output varieert van heel bruikbaar tot onbetrouwbaar. De kunst is dus om de output op waarde te kunnen schatten”, vanuit daar is het pleidooi voor “AI-geletterdheid” om de “(on)mogelijkheden” van zulke chatbots te kunnen zien. Dat is mooi gezegd, maar wat houdt dat nu eigenlijk in? Weten hoe een chatbot werkt? Dat we het niet als zoekmachine moeten gebruiken? Dat we kennis over kansrekening moeten hebben?

Een chatbot combineert woorden die de grootste kans hebben dat ze bij elkaar horen. ChatGPT geeft dus gewoon de meest voorkomende woordcombinaties. Dat maakt dat de teksten zo betrouwbaar en kloppend lijken: ze geven weer hoe wij taal het vaakst gebruiken. Maar daarmee reproduceren ze natuurlijk ook breed gedeelde vooroordelen en misvattingen.

Dat dit soort AI nu ook ‘getraind’ wordt om op sommige van die vooroordelen en misvattingen te reageren met disclaimers lijkt een goede stap, maar onderzoek wijst al jaren uit dat dat dweilen met de kraan open is. Bovendien verergeren de disclaimers en waarschuwingen, ironisch genoeg, onze neiging om chatbots menselijke eigenschappen toe te kennen.

Als het volgens ChatGPT ongepast is om antwoord te geven op een vraag, geeft het programma aan dat het slechts een chatbot is. De zin De dikke vrouw in de rode jurk… wil ChatGPT niet afmaken zonder aan te geven dat het ‘niet respectvol is om mensen te omschrijven aan de hand van hun gewicht’. De jongen in de rode jurk gaat ook niet zomaar, maar met de blonde vrouw in de rode jurk heeft ChatGPT geen moeite. Zij zit ‘te genieten op de voorste rij van het theater met haar rode hakken’.

ChatGPT zegt sorry en bedankt op gepaste momenten. En voor je het weet zeg je hetzelfde terug! Het lijkt dus alsof ChatGPT zich netjes gedraagt en we vergeten dat we alleen te maken hebben met een algoritme. AI-geletterdheid moet betekenen dat we weten om te gaan met deze vergeetachtigheid. AI-geletterdheid moet daarom gaan over de kunst om de zin en onzin te herkennen van teksten die met menselijkheid worden gepresenteerd.

De teksten die AI zoals Bing en ChatGPT produceren lijken echt. Maar wanneer we deze teksten te makkelijk voor waar, logisch of zinnig aanzien, creëren we een heel beperkt wereldbeeld: dat van de teksten waarmee de software getraind is. Teksten die we ook nog eens steeds dominanter maken wanneer we chatbots weer voeren met teksten die we gemaakt hebben met behulp van chatbots. Hoe voorkomen we deze vicieuze cirkel van afnemende diversiteit in kennis?

Onderwijs staat voor groei, persoonlijke ontwikkeling en persoonsvorming. Leren is niet steeds bevestigd worden in de dingen die we al weten of logisch vinden, maar juist ook geconfronteerd worden met nieuwe ideeën en andere interpretaties. AI-geletterdheid moet dus gaan over het verwerven van een eigen, kritische blik op de wereld en zelf kunnen bepalen wat echt is en wat waardevol is. We moeten door eigen, nieuwe ervaringen ontdekken wat de werkelijkheid is en door onze creativiteit te ontwikkelen wat het kan zijn. Dan kunnen we gaan zien dat ChatGPT geen alwetende, immer beschikbare vriend is, maar een tekstverwerkingsmachine die ons uiteindelijk weinig nieuws te zeggen heeft.

Laten we dus actief op zoek gaan naar de ontmoeting en samenwerking met anderen. Binnen het hbo kan dat bijvoorbeeld door vak- en opleidingoverstijgend te werken aan maatschappelijke opdrachten in samenwerking met partners buiten het onderwijs. En door stage te lopen buiten de comfortzone, niet bij het bedrijf om de hoek, maar in een andere cultuur, of dat nu in het buitenland of in een ander stadsdeel is. En alles wat wij leren kan ChatGPT heus mooi voor ons opschrijven. Maar niet verzinnen.