De Europese Unie heeft besloten tussenbeide te komen in de Grok-zaak, de kunstmatige intelligentie-chatbot geïntegreerd in het X-platform, die ervan wordt beschuldigd de creatie van niet-consensuele seksuele beelden van echte mensen te hebben gefaciliteerd. Een fenomeen dat volgens de Commissie de Europese burgers al heeft blootgesteld aan “ernstige schade”, vooral vrouwen en minderjarigen.
Brussel startte daarom een formeel onderzoek om na te gaan of X heeft voldaan aan de verplichtingen die zijn vastgelegd in de Wet digitale diensten (DSA), de regelgeving die grote digitale platforms verplicht om de risico’s die aan hun diensten verbonden zijn te evalueren en te beperken, vooral wanneer ze de verspreiding van illegale of gevaarlijke inhoud kunnen aanmoedigen.
In de schijnwerpers staan de risico’s die verband houden met de productie en het verkeer van:
Volgens de Commissie heeft X mogelijk geen voorafgaande beoordeling van de specifieke risico’s in verband met Grok uitgevoerd voordat hij functies activeerde die het algehele risicoprofiel van het platform aanzienlijk veranderden. Een verplichte stap waarin de DSA voorziet, vooral wanneer er tools worden geïntroduceerd die op grote schaal gevoelige inhoud kunnen genereren.
Als de overtredingen worden bevestigd, kan het bedrijf van Elon Musk een boete krijgen van maximaal 6% van zijn jaarlijkse wereldwijde omzet.
De cijfers maken het beeld nog serieuzer. Volgens een analyse van de New York Times genereerde Grok in slechts negen dagen, beginnend eind december, ongeveer 1,8 miljoen geseksualiseerde afbeeldingen van vrouwen. Een boek dat een maatstaf geeft voor de omvang van het probleem en de snelheid waarmee AI schadelijke inhoud kan produceren, zonder toestemming en zonder effectieve controle.
Seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige en onaanvaardbare vorm van degradatie. Wij zullen vaststellen of
In wezen wil Europa nu begrijpen of de bescherming van mensen is opgeofferd in naam van de snelheid van technologische ontwikkeling en betrokkenheid.
Het is niet alleen de Europese Unie die actie onderneemt: de afgelopen maanden zijn er ook regelgevende acties tegen Grok geïnitieerd door het Verenigd Koninkrijk, Australië, Canada, Japan, India, Maleisië, Indonesië, de Filippijnen, Ierland en Frankrijk. Een steeds breder internationaal front dat aangeeft dat het probleem niet marginaal is, maar structureel.
Al begin januari had Brussel X opgedragen alle interne documenten en gegevens met betrekking tot Grok te bewaren, en noemde de beelden die naar voren kwamen “gruwelijk” en “walgelijk”. Van daaruit namen de nationale onderzoeken en de politieke druk toe.
Naast individuele gevallen is het probleem dieper: generatieve AI komt ons leven binnen zonder stevige barrières, zonder echt toegepaste regels, en vaak zonder een echte beoordeling van de impact op de mensenrechten. En wanneer een systeem in staat is om binnen een paar dagen miljoenen geseksualiseerde beelden te produceren, is het risico al een realiteit.
Het Europese onderzoek naar Grok markeert een belangrijke stap. Het gaat niet alleen om een platform of een chatbot, maar om het principe dat technologie niet kan groeien door de veiligheid van de meest kwetsbare mensen op te offeren.
