Uit een zoekopdracht blijkt dat Chatgpt enkele menselijke beslissing herhaalt -Fouten voor het nemen van menselijke beslissingen: Bevestigingsvooroordeel, de misvatting van de speler en overschatting van hun vaardigheden
Kan kunstmatige intelligentie echt een onpartijdige en rationele rechter zijn? Volgens een nieuwe studie gepubliceerd in het tijdschrift Management van productie- en servicebedrijvenhet antwoord is ingewikkelder dan u denkt. De auteurs van het onderzoek ontdekten dat Chatgpteen van de meest geavanceerde taalmodellen van Openai, reproduceert verschillende cognitieve bias die typerend zijn voor het menselijk denkenvallen in dezelfde beslissing -het maken van treinen die mensen treffen, zoals de Fallacia van de speler en deOvermatig beveiliging in hun antwoorden.
Toch gedraagt de IA zich in andere gevallen op een tegenovergestelde manier van de mens, wat een bepaalde immuniteit aantoont voor veel voorkomende fouten zoals de Fallacia van de onherstelbare kosten of de minachting voor de basisfrequentie.
Chatgpt faalt in de helft van de tests
Tijdens de studie getiteld “Een manager en een in de loop van een bar: neemt Chatgpt BIASet -beslissingen zoals wij?”de onderzoekers onderworpen chatgpt a 18 specifieke tests om cognitieve bias te identificeren. De resultaten onthullen dat dat Het model vertoonde vervormd gedrag in bijna de helft van de gevallenbevestigen hoeveel zijn “beslissingen” kunnen worden beïnvloed door mentale snelkoppelingen vergelijkbaar met mensen.
Onder de vooringenomenheid vaker gevonden, vallen op:
Het gedrag van de AI leek consistent door verschillende bedrijfscontexten, maar er is ook een significant verschil ontstaan tussen de verschillende versies van het model. GPT-4bijvoorbeeld, getoond Grotere analytische nauwkeurigheid dan GPT-3.5maar tegelijkertijd leek het Meer geneigd om vooringenomenheid in de taken die subjectief oordeel vereisen.
De toepassingen van kunstmatige intelligentie in delicate beslissingsgebieden – zoals – zoals Personeel huurt,, Lening concessies of Selectie van kandidaten – Ze worden steeds wijdverspreider. Maar als een model als Chatgpt dezelfde menselijke cognitieve fouten beantwoordt, risico’s door het risico te lopen verkeerde beslissingen in plaats van ze te corrigeren.
“Wanneer de IA leert van menselijke gegevens, denkt het uiteindelijk als een mens, inclusief vooringenomenheid”, legt hij uit Yang Chende belangrijkste auteur van de studie en professor aan de Western University. Het risico, de andere onderzoekers onderstrepen ook, dat de IA wordt gezien als een onpartijdige scheidsrechter, terwijl het in werkelijkheid kan plegen dezelfde systematische fouten die mensen uitvoeren.
Anton ovchinnikovvan Queen’s University, verduidelijkt:
Als het gaat om logische of probabilistische problemen, is de IA hoger dan het gemiddelde van de mens. Maar in de taken die subjectieve evaluaties vereisen, valt het in dezelfde mentale treinen.
Samuel Kirshnervan de UNSW Business School, voegt toe:
De IA is geen neutrale rechter. Als het niet wordt gecontroleerd, kan dit de beslissing -problemen verergeren in plaats van ze op te lossen.
Continue menselijke controle is nodig
In het licht van deze resultaten raden wetenschappers er een aan Voortdurend toezicht En Periodieke beoordelingen Beslissingen genomen door kunstmatige intelligentiemodellen. Het groeiende gebruik van deze tools in het management- en openbaar veld vereist een ethische en verantwoordelijke aanpakdie voorziet in constante controles op geautomatiseerde beslissingsprocessen, zoals hij zegt MENA en PPAN van McMaster University:
Het is essentieel om de IA te behandelen als een werknemer met beslissingskracht. We hebben een systeem van regels, monitoring en ethische richtlijnen nodig, anders loopt u het risico een vervormde gedachte te automatiseren in plaats van het te verbeteren.
Uiteindelijk, Tracy Jenkin van Queen’s University onderstreept hoe de evolutie van het GPT-3.5 tot GPT-4-model suggereert Een neiging tot een grotere “humanisering” in bepaalde cognitieve aspectenterwijl het in anderen de wiskundige en logische precisie verbetert:
Manager moet continu evalueren hoe de verschillende modellen zich gedragen volgens het specifieke gebruik. Sommige gebieden vereisen een aanzienlijke aanpassing van het model.
