Een al van kracht zijnd klimaatbeleid overtuigt chatbots in 70% van de gevallen. Dezelfde maatregel, gepresenteerd als een voorstel dat nog moet worden ingevoerd, krijgt slechts 34% van de stemmen. Het uitgangspunt verandert, terwijl de voor- en nadelen hetzelfde blijven. En kunstmatige intelligentie, degene die ons naar de toekomst zou moeten vergezellen, lijkt een zwak te hebben voor het verleden. Of in ieder geval voor het geruststellende ‘het is altijd zo gedaan’.
Dit werd ontdekt door onderzoekers van de Universiteit van Waterloo in Canada, die 11 taalkundige modellen testten aan de hand van 7.548 vragen, voor een totaal van 54.888 verzoeken. De studie gepubliceerd op Milieuonderzoekscommunicatiegeschreven door Seth Wynes, Aarya Shah en Victoria Milardović, onderzocht AI-advies over klimaatbeleid, het kopen van auto’s, het verwarmen van je huis en zelfs wat je op je bord moet zetten.
De resultaten laten een nogal merkwaardige trend zien: chatbots geven vaak de voorkeur aan bestaande omstandigheden, zelfs als de verandering nuttig zou kunnen zijn om de uitstoot te verminderen. Een kenmerk dat onderzoekers status quo bias noemen, oftewel de voorkeur voor wat we al weten.
Kortom, we hebben machines gebouwd die enorme hoeveelheden informatie kunnen verwerken en we hebben ze, tenminste bij deze experimenten, aangetroffen met een instelling waar elke grootvader die bijzonder gesteld was op zijn gewoonten blij van zou zijn geworden.
Bestaat er al klimaatbeleid? Dan is dat prima
Het interessantste resultaat komt voort uit vragen over politieke beslissingen. De onderzoekers construeerden scenario’s waarin een milieumaatregel klimaatvoordelen oplevert, maar ook mogelijke negatieve gevolgen voor andere belangen, zoals de bescherming van dieren, biodiversiteit of consumentenvrijheid. Vervolgens veranderden ze slechts één element: de uitgangssituatie.
Een beleid kan worden gepresenteerd als een reeds vastgestelde maatregel of als een nieuw voorstel. In beide gevallen moest het model dezelfde afweging tussen kosten en baten evalueren. Toen het beleid al bestond, adviseerden de chatbots om het 70% van de tijd te handhaven. Toen het moest worden ingevoerd, daalde de goedkeuring naar 34%.
Het verschil werd ook bevestigd door de statistische analyse: als alle andere omstandigheden als gelijkwaardig werden beschouwd, waren de relatieve kansen op het verkrijgen van een gunstig advies gemiddeld 7,5 keer groter wanneer de beslissing werd beschreven als een bevestiging van wat al bestond. Een statistische ratio, niet te verwarren met een waarschijnlijkheid van 750%. Deze trend deed zich zelfs voor toen de bestaande situatie minder gunstig was voor het terugdringen van de uitstoot.
In de praktijk kan een besluit overtuigender worden, simpelweg omdat iemand het al heeft genomen. Een soort algoritmische bureaucratie: eerst keuren we goed wat bestaat, daarna bespreken we eventueel de verandering. Rustig natuurlijk. En deze voorkeur gold ook voor de meest recente modellen die in het onderzoek zijn opgenomen.
De elektrische auto? Het is beter als je er al een hebt
Zelfs bij het kiezen van een nieuwe auto lijken chatbots veel belang te hechten aan het verleden van de bestuurder. Uit tests bleek dat modellen 4,1 keer meer kans hadden om een elektrische auto aan te bevelen aan degenen die zeiden dat ze er al een hadden, vergeleken met degenen die uit een andere bron kwamen.
Een interessant feit omdat het suggereert dat bekendheid met een technologie kan wegen op het ontvangen advies. De onderzoekers observeerden ook geografische verschillen. Door te beweren in Noorwegen te wonen, waar elektrische auto’s populair zijn, vergroot je de kans op een gunstige aanbeveling vergeleken met een gebruiker die zegt in Canada te wonen.
Tot nu toe niets bijzonders. Laadinfrastructuur, markt- en lokale omstandigheden zijn van groot belang bij het kopen van een auto. Het probleem doet zich voor bij het vergelijken van aanbevelingen met verkoopprestaties. In de onderzochte gebieden bleef het aandeel elektrische auto’s dat door de modellen wordt aanbevolen over het algemeen lager dan de werkelijke verspreiding ervan onder nieuwe registraties. Kunstmatige intelligentie leek de markt daarom met enige vertraging te volgen, in plaats van vaker een reeds beschikbare en zich uitbreidende technologie te suggereren.
Het kan natuurlijk volkomen redelijk zijn om een andere elektrische aan te bevelen aan iemand die er al een heeft. Om deze reden beschouwen de auteurs de resultaten met betrekking tot auto’s als een aanwijzing voor de voorkeur voor gewoonten, terwijl het meest solide bewijs afkomstig is van gecontroleerde experimenten met klimaatbeleid. Er blijft echter een interessante paradox bestaan: we vragen om advies van de allernieuwste technologie en de eerste referentie zou de auto kunnen zijn die buiten het huis geparkeerd staat.
In de keuken en voor de ketel kan de revolutie wachten
De onderzoekers wilden nagaan of deze neiging zich ook manifesteerde in dagelijkse keuzes. Toen chatbots werd gevraagd recepten voor te stellen, betrof slechts 40% van de suggesties vegetarische of veganistische gerechten. Een aandeel dat volgens de auteurs geen bijzondere voorkeur vertoont voor plantaardige bereidingen, die over het algemeen gepaard gaan met lagere emissies dan veel voedingsmiddelen van dierlijke oorsprong.
Het resultaat alleen toont echter niet aan dat de modellen tegen plantaardige alternatieven zijn. Om vast te stellen welk advies milieuvriendelijker was, zou het nodig zijn om de ingrediënten, hoeveelheid, herkomst en voedselcontext te kennen. Reacties met betrekking tot woningverwarming werden ook onderzocht om te begrijpen hoeveel ruimte potentieel minder emissieve technologieën, zoals warmtepompen, ontvingen.
Op deze terreinen zijn de bewijzen minder duidelijk dan in de klimaatbeleidsscenario’s. Aanbevelingen kunnen afhankelijk zijn van gebruikersvoorkeuren, kosten en technische omstandigheden, maar ook van gevestigde gewoonten. Een noodzakelijk onderscheid: het onderzoek documenteert nauwkeuriger de voorkeur voor de status quo wanneer alleen de presentatie van het besluit zelf verandert. Het bewijst niet dat elke mainstream suggestie milieutechnisch verkeerd is.
Waarom is kunstmatige intelligentie zo dol op onze gewoonten?
De auteurs identificeren geen enkele oorzaak, maar dragen enkele mogelijke verklaringen aan. De eerste betreft de gegevens die worden gebruikt om de modellen te trainen. Als veel van de beschikbare informatie reeds geconsolideerde gewoonten, consumptie en technologieën beschrijft, is het aannemelijk dat deze ook veel ruimte innemen in de antwoorden.
De tweede betreft hoe chatbots zich proberen aan te passen aan de gesprekspartner. Als een persoon zegt een bepaalde technologie te hebben gebruikt, kan het systeem deze informatie interpreteren als een voorkeur die moet worden ondersteund. Een soort bijzonder meegaande adviseur. Je vertelt hem dat je altijd in een auto op benzine hebt gereden en hij zou kunnen aannemen dat je dat wilt blijven doen. Het tegenspreken van de klant vergt immers een zeker engagement.
Het zijn mogelijke verklaringen, geen oorzaken die door onderzoek zijn bewezen. De experimenten analyseerden de reacties van de modellen, zonder direct alle mechanismen te reconstrueren die deze produceerden. En we moeten erkennen dat voorzichtigheid niet altijd een fout is. Wynes zelf merkt op dat de voorkeur voor geconsolideerde oplossingen nuttig kan zijn in sectoren als de geneeskunde, waar een reeds geverifieerde behandeling garanties biedt die een nieuwigheid misschien nog niet heeft.
De ecologische transitie brengt echter een ander probleem met zich mee. Het terugdringen van de emissies vereist ook dat geleidelijk afstand wordt gedaan van technologieën en infrastructuren met een grote impact op het milieu. Als het bestuur systematisch de voorkeur geeft aan wat al bestaat, begint de verandering in het nadeel. Zelfs als hij goede redenen zou hebben om in aanmerking te worden genomen.
We moeten expliciet vragen om een duurzame toekomst
Volgens Wynes moeten degenen die een chatbot gebruiken om beslissingen te nemen zich bewust zijn van deze beperking en vragen om ook minder bekende alternatieven te evalueren. In plaats van bijvoorbeeld eenvoudigweg te vragen welke auto u moet kopen, kan het nuttig zijn om een vergelijking tussen verschillende energiebronnen op te vragen, rekening houdend met het verbruik, de totale kosten, de uitstoot en de oplaadmogelijkheden.
Hetzelfde geldt voor woningverwarming: een verstandige suggestie zou technologieën moeten vergelijken op basis van het gebouw, de energiebehoeften en de lokale omstandigheden, zonder automatisch het bestaande systeem de voorkeur te geven. De auteurs suggereren ook dat ontwikkelaars zouden kunnen ingrijpen in de instructies van systemen die bedoeld zijn om consumenten aanbevelingen te doen, om de invloed van initiële voorwaarden op aanbevelingen te verminderen.
Er is ook een mogelijk toekomstig probleem. Als kunstmatige assistenten aankopen rechtstreeks gaan beheren, zou een systematische voorkeur voor gevestigde oplossingen niet alleen de aanbevelingen kunnen beïnvloeden, maar ook de transacties die via deze platforms worden uitgevoerd. In het onderzoek is dit effect niet gemeten: het is een risico dat de onderzoekers verder willen onderzoeken.
Voorlopig weten we dat de elf onderzochte modellen in verschillende contexten een voorkeur voor de status quo lieten zien, met bijzonder duidelijke resultaten in experimenten met klimaatbeleid. We weten niet hoeveel gebruikers dat advies zouden opvolgen, noch welke gevolgen het zou hebben voor de werkelijke uitstoot. Kortom, de technologie die belooft ons naar de toekomst te vergezellen lijkt nog steeds nogal gehecht aan het heden. En als we willen dat ze iets anders overweegt, moeten we haar eraan herinneren dat ‘het altijd zo is gedaan’ geen wetenschappelijk bewijs is.
