In zijn boek “Bonjour ChatGPT” onderzoekt Louis de Diesbach de fundamentele vraagstukken achter het ontstaan van AI. Een ontmoeting met de filosoof en tegelijk consultant van de Boston Consulting Group.
Interview
In zijn voorwoord schrijft Luc de Brabandère dat een digitaal hulpmiddel als bestaansreden heeft intellectuele processen te versterken, hetgeen echter niets verandert aan zijn status als technisch object. Uw eigen standpunt is dat technologie nooit neutraal is en altijd een sociaal project inhoudt ... Klinkt dit niet tegenstrijdig?
Beschouw dit eerder als twee uiteenlopende invalshoeken. Ik onderschrijf het idee dat er achter technologie altijd mensen schuilgaan en dat dáár het echte genie ligt. Nu is het wel zo dat de manier waarop deze technologie wordt ontworpen deze ‘genialiteit’ – bewust of onbewust – altijd in de ene of andere richting stuurt. Zo bijvoorbeeld toen Amazon een algoritme creëerde dat eerst zelf inkomende cv’s sorteerde zodat recruiters meer tijd konden besteden aan sollicitatiegesprekken. Gebruikers kwamen toen al gauw tot de vaststelling dat het algoritme, aan de hand van de eigen gegevens, discriminatie in stand hield ten gunste van blanke mannen, precies omdat dat type mensen al een groot deel van de managers vormde.
AI kan dus niet ‘neutraal’ zijn?
Nee. Ook al ‘kiest’ het niet, weerspiegelt AI altijd een visie op de wereld via de gegevens waaruit het put en door de manier waarop de ontwerpers de algoritmen hebben ontwikkeld.
Leidt dit gebrek aan neutraliteit van de technologie tot een paradigmaverschuiving?
Nee, want ondanks de retoriek is dit altijd zo geweest. In de jaren tachtig gebruikten de elektromechanici die de eerste airbagsystemen ontwikkelden crashtestdummies waarvan de afmetingen vergelijkbaar waren met hun eigen lichaamsmaten: die van westerse mannen. Veel slachtoffers van de eerste auto's met deze technologie waren kleinere mensen, vooral vrouwen. Hier was toen al sprake van vooringenomenheid.
Hoe stellen we dan de technologische vooruitgang ter discussie?
De vraagstukken
die AI oproept zijn niet louter technologisch. Het belangrijkste is niet de
vraag naar wat morgen haalbaar zal zijn, wél of dit wenselijk is! En hoe het zal
worden toegepast! Als we deze – economische, politieke en ideologische –
fundamentele vragen negeren onder het mom van de vermeende neutraliteit van
technologie, ontlopen we vooral de verantwoordelijkheid voor de gevolgen ervan.
We weten bijvoorbeeld dat artificiële intelligentie de menselijke werklast binnen
een marketingteam met 50% kan verminderen. In dit opzicht is de keuze om mensen
al dan niet voor andere taken in te zetten of om in deze human resources opnieuw
te investeren helemaal geen technische kwestie ...
Welke plaats blijft er voor het menselijke element in het bedrijf nog over in de context van de ongebreidelde digitalisering?
Bij het
consultancybureau waar ik voor werk, bevelen verscheidene studies een
benadering van AI aan waarbij een onderneming 10% van haar inspanningen inzet op
algoritmische capaciteiten, 20% op technologische capaciteiten (platforms, Cloud,
enz.) en 70% op bedrijfstransformatie en de ontplooiing mensen. Dit laatste is dus
verreweg het grootste aandeel. Governance, processen, training ... De toepassing
van generatieve AI kan niet slagen, en kan zelfs waarde vernietigen, als de
teams er niet volledig bij worden betrokken.
Kan echt iedereen nieuwe opdrachten toebedeeld krijgen in een wereld waar de technologie veel taken zal overnemen?
We kunnen ons afvragen welke toekomst vertalers, marketingdeskundigen of zelfs juristen tegemoet gaan. In feite ging in de geschiedenis van de technologische vooruitgang de verdwijning van beroepen altijd gepaard met de opkomst van nieuwe. Ik geloof niet dat AI alles gaat verstoren en massa's mensen plotseling de armoede zal insturen. Nogmaals, de echte vraag is niet zozeer technologisch van aard als wel sociologisch, antropologisch, economisch en politiek. We moeten nagaan hoe we de vruchten van AI-winstgevendheid en de bijdrage ervan aan het welzijn moeten herverdelen. En hier zal de politiek zeker de maatschappelijke verandering moeten helpen ondersteunen, met name door publiek-private samenwerkingsverbanden. De overheid zal die ontwikkelingen ook moeten reguleren. In dit opzicht is de AI Act (noot van de redactie: de regelgeving die erop moet toezien dat AI-systemen die op de Europese markt worden gebracht veilig zijn en de fundamentele rechten van burgers en de waarden van de Europese Unie eerbiedigen) van doorslaggevend belang en zal in de loop van de tijd moeten evolueren.
Het boek – tot en met de titel – gaat diep in op het thema antropomorfisme, waarmee we de machine een menselijke eigenheid toekennen. Door een digitale assistent ‘Alexa’ te noemen of een ondervragingsprotocol in te stellen dat begint met ‘Hallo’, hebben Amazon, Google en de anderen wellicht begrepen dat zulks krachtig bijdraagt tot de aanvaarding van hun diensten …
Alexa en Siri hebben vrouwenstemmen omdat wetenschappelijk is bewezen dat mannen daar gevoeliger voor zijn en vrouwen over het algemeen neutraal of zelfs positief. Sporen van antropomorfisme zijn al 40.000 jaar geleden te vinden. Het is dus zo oud als de mensheid. Omdat je ermee in natuurlijke taal kunt praten en er in diezelfde taal antwoorden van krijgt, raakt ChatGPT diep in je menselijkheid. Vandaar de kracht van die technologie.
U vindt het gerechtvaardigd om stil te staan bij een mogelijke achteruitgang van de technologie. Is zoiets ooit in de geschiedenis voorgevallen?
Niet dat ik weet. Maar dat betekent nog niet dat we onszelf de vraag niet hoeven te stellen. Technologie lost niet alles op. Op veel gebieden is zelfs het tegenovergestelde waar. Wie een app gebruikt om zijn toegang tot zijn eigen smartphone te beperken vermindert daarmee in geen geval zijn afhankelijkheid van technologie. Het moet hoe dan ook een persoonlijke keuze blijven. Zo'n stap kan niet op een autoritaire manier worden opgelegd, zoals wanneer China via invasieve maatregelen de toegangstijden dictatoriaal beperkt. Zodoende bescherm je één fundamentele vrijheid door er andere te schenden. Filosofisch gezien houdt dit geen steek. Alleen het individu kan zichzelf bevrijden van zijn eigen verslaving.