Hij liet toe”het creëren van seksueel expliciete beelden“en uiteraard zonder hun toestemming. Dus dagen drie Amerikaanse meisjes xAI, het kunstmatige intelligentiebedrijf van Elon Musk, voor de rechter en beschuldigen de Grok-chatbot ervan pornografische afbeeldingen te hebben gegenereerd op basis van enkele van hun echte foto’s.
Een rechtszaak die komt nadat Brussel de afgelopen weken een formeel onderzoek is gestart en waarbij in de Verenigde Staten ruim duizend minderjarige slachtoffers betrokken kunnen zijn en die verband houdt met de op oudejaarsavond gepubliceerde deepfakes die Californië vandaag ook onderzoekt.
xAI koos ervoor om te profiteren van de seksuele predatie van echte mensen, inclusief kinderen, ondanks dat ze heel goed op de hoogte waren van de gevolgen van het maken van zo’n gevaarlijk product, zegt Vanessa Baehr-Jones, een advocaat van de eisers.
Wat is er gebeurd
De tieners ontdekten dat inhoud die met kunstmatige intelligentie was gemanipuleerd – inclusief deepfake-afbeeldingen en -video’s – online circuleerde, werd geüpload naar Discord-servers en vervolgens werd gedeeld op andere platforms, zoals Telegram.
In één geval ontving een van de meisjes een anoniem bericht op Instagram waarin zij werd gewaarschuwd voor de aanwezigheid van inhoud waarin zij naakt en in geseksualiseerde poses werd afgebeeld, samen met andere leeftijdsgenoten. Sommige afbeeldingen zouden afkomstig zijn van foto’s die zijn gemaakt toen hij nog minderjarig was, waaronder foto’s uit het schoolregister.
Volgens wat in de klacht staat vermeld, werden deze materialen ook gebruikt als “onderhandelingsgoederen” in illegale circuits om ander kinderpornografisch materiaal te verkrijgen.
Na aangifte bij de autoriteiten arresteerde de politie een verdachte, waarbij illegale inhoud op zijn telefoon werd aangetroffen die zou zijn gegenereerd met behulp van tools op basis van xAI-technologie.
De rechtszaak beweert dat het materiaal is gemaakt via applicaties van derden die Grok gebruiken onder officiële licenties. Zelfs als het systeem niet rechtstreeks op het X-platform zou worden geproduceerd, zou het nog steeds afhankelijk zijn van de servers van xAI, die zouden profiteren van de verspreiding van zijn technologie.
Advocaten beschuldigen het bedrijf ervan de verantwoordelijkheid effectief te hebben afgewenteld op externe ontwikkelaars, zonder adequate controle op het gebruik van de tools.
Een mondiaal (en groeiend) probleem
De zaak past in een bredere context van onderzoeken en rechtszaken tegen xAI voor het genereren van niet-consensuele geseksualiseerde beelden. Volgens sommige analyses heeft Grok in een paar weken tijd miljoenen van dit soort afbeeldingen gemaakt, waaronder duizenden van minderjarigen.
Elon Musk heeft eerder ontkend dat het systeem is gebruikt om illegale inhoud te creëren, beweerde dat hij niet op de hoogte was van afbeeldingen van minderjarigen die door het platform waren gegenereerd en dat Grok was ontworpen om te voldoen aan de lokale wetten.
Deze zaak kan niet anders dan de schijnwerpers weer richten op een steeds dringender wordende kwestie: het ongecontroleerde gebruik van kunstmatige intelligentie bij beeldmanipulatie en het gebrek aan effectieve bescherming, vooral wanneer de jongsten hierdoor worden getroffen.
