Hitloop

Onderzoek: Wie heeft de controle, mensen of AI?

Kunstmatige intelligentie is gebrekkig en maakt fouten. Om deze fouten te corrigeren, kunnen mensen AI-systemen trainen en de controle overnemen wanneer het misgaat. Dit wordt Human In The Loop of menselijk toezicht genoemd: het superviseren van een AI-systeem door minstens één persoon, om de effecten ervan te beïnvloeden.

Waarom is dit onderzoek belangrijk?

Menselijk toezicht is essentieel om risico's te verkleinen bij AI-toepassingen met een hoog risico, zoals in de gezondheidszorg, sociale diensten en het strafrecht. Het wordt aanbevolen als een waarborg tegen de negatieve effecten van deze AI-toepassingen. Richtlijnen en wetten, zoals de EU AI Act, benadrukken de noodzaak van effectief menselijk toezicht, maar bieden geen duidelijke instructies voor de implementatie ervan.

Echter, menselijk toezicht kent aanzienlijke uitdagingen en kan onbetrouwbaar zijn. Mensen die AI trainen maken fouten, zijn inconsistent en kunnen bevooroordeeld zijn. Het is voor mensen moeilijk om AI-uitkomsten te beoordelen en te corrigeren, vooral in complexe situaties, wat leidt tot slecht getrainde AI. Dit benadrukt de noodzaak voor betere strategieën om mensen hierbij te ondersteunen. Ons onderzoek richt zich op het ontwikkelen van nieuwe en meer mensgerichte benaderingen van toezicht.

Testen bij Eurosonic/Noorderslag

Door een collaboratieve kunstinstallatie te testen bij Eurosonic/Noorderslag (ES/NS), waar AI, het publiek en een DJ elkaar aanvullen, proberen we verschillende niveaus van menselijke controle over AI-besluitvorming te visualiseren. Tegelijk zorgen we ervoor dat de AI-output voldoet aan de minimale esthetische en ethische standaarden van het publiek.

Hoe werkt het?

Deze AI-kunstinstallatie gebruikt WAIVE: een open-source applicatie van Thunderboom Records. WAIVE genereert muzikale "instrumenten" met behulp van straatgeluiden en geluiden uit het publieke domein. Vervolgens creëert de AI muzikale tracks opgebouwd uit deze AI-instrumenten. De menselijke DJ selecteert AI-gegenereerde nummers, en mensen in het publiek kunnen een van de acht handcontrollers pakken. Met deze controllers kan het publiek een instrument in het nummer kiezen en de manier waarop het klinkt veranderen. De menselijke DJ corrigeert en selecteert uiteindelijk de definitieve geluidsoutput.

Team

• Yuri Westplat
• Rick van Kersbergen
• Bas Pijls
• Marise van Noordenne

Dit experiment is mogelijk gemaakt dankzij de ondersteuning van Regieorgaan SIA, Innofest, ES/NS en Thunderboom Records.