Google Earth trekt de AI-functie slechts 24 uur na de release in vanwege een spervuur ​​van door gebruikers gemaakte nep-rampbeelden

Op papier had het een revolutie moeten zijn voor architecten, ingenieurs en georuimtelijke onderzoekers. In werkelijkheid veranderde het in een potentiële mondiale desinformatie-nachtmerrie die slechts een dag duurde. Afgelopen donderdag lanceerde Google een experimentele functie binnen de Google Earth-software gebaseerd op het generatieve kunstmatige intelligentiemodel Nano Banana 2.

Met deze optie konden door AI gecreëerde elementen rechtstreeks op satellietkaarten, luchtfoto’s en 3D-modellen van de planeet worden geplaatst die toegankelijk zijn vanaf computers. Het weliswaar nobele doel was om professionals uit de industrie in staat te stellen infrastructuur te ontwerpen, gebouwen virtueel in parken te plaatsen of te laten zien hoe oude historische locaties er in het verleden uitzagen.

De grens tussen architecturale verkenning en manipulatie van de werkelijkheid vervaagde echter in slechts een paar uur. Internetgebruikers hebben het extreme gebruiksgemak van de tool uitgebuit om zeer realistische geografische deepfakes te genereren, waarmee catastrofale scenario’s of geopolitieke spanningen met slechts een paar commando’s kunnen worden gesimuleerd. Onder de beelden die op sociale media circuleerden, zagen we vliegtuigen die neerstortten in de wolkenkrabbers van New York, de explosie van een kerncentrale in Iran, luchtbombardementen boven Moskou, de wederopbouw van de oude stad Pompeii en zelfs een nep-massaprotest vlak voor de bedrijfsgebouwen van het hoofdkantoor van Google.

De zaak Henk van Ess en de scheuren in de digitale beveiliging

De onafhankelijke onderzoeker en journalist Henk van Ess uitte zeer ernstige zorgen over het oneigenlijk gebruik van de tool. In zijn nieuwsbrief demonstreerde de specialist de extreme snelheid waarmee het mogelijk was om politieke desinformatiecampagnes te orkestreren: in een paar seconden genereerde hij een nep-satellietbeeld van een enorme tentenstad vol migranten op de grens tussen de Verenigde Staten en Mexico. Het experiment benadrukte hoe Google Earth, dat altijd is beschouwd als een neutrale en betrouwbare bron voor het verifiëren van foto’s en video’s uit crisisscenario’s, het risico liep zijn institutionele geloofwaardigheid te verliezen.

Om de risico’s te beperken had het bedrijf Mountain View SynthID geïntroduceerd, een onzichtbaar digitaal watermerk dat is ontworpen om synthetische inhoud te volgen. De maatregel bleek onvoldoende als het gaat om het delen van screenshots, schermopnames of monitoropnames, waardoor beveiligingsmetagegevens worden geëlimineerd. Geconfronteerd met het risico van sociaal alarmisme en schokkende beelden – zoals het instorten van de Eiffeltoren of het instorten van de Grote Piramide van Gizeh – besloot het management de functie donderdag, slechts 24 uur na de vrijgave, te deactiveren.

De reactie van Mountain View en toekomstperspectieven

Vrijdagmiddag publiceerde het bedrijf een officiële nota over X waarin de tijdelijke terugtrekking van de tool van het platform werd aangekondigd. Google verdedigde zichzelf door te stellen dat de gemaakte afbeeldingen niet waren opgeslagen in de belangrijkste openbare interface van Google Earth en bedoeld waren voor privégebruik in geospatiale projecten. Het bedrijf gaf echter toe dat het zijn regels over het gebruik van AI duidelijk had geschonden.

Het bedrijf bevestigde dat het werkt aan het ontwikkelen van sterkere beschermende barrières voordat de functionaliteit in de toekomst wordt hersteld. De zaak heeft het debat heropend over de verantwoordelijkheid van technologiegiganten bij het vrijgeven van generatieve tools zonder adequate preventieve filters, wat aantoont hoe dun de grens is tussen digitale innovatie en massale desinformatie.