Wanneer een camera naar een vierkant kijkt, ziet het tafereel er nog steeds bekend uit. Een paal, een lens, wat kabels, het gebruikelijke stukje stad dat in een scherm terechtkomt. Wanneer kunstmatige intelligentie aan die lens wordt toegevoegd, verandert de zaak echter van gewicht. De blik wordt berekening, vergelijking, herkenning, archivering. En op dat moment gaat de vraag niet meer alleen over veiligheid: het gaat over het soort openbare ruimte waarin we willen leven.
De Raad van Ministers heeft tijdens een voorlopig onderzoek twee wetgevende decreten goedgekeurd om de Italiaanse wetgeving aan te passen aan de Europese regelgeving op het gebied van AI. Een van de meest delicate stappen betreft het gebruik van kunstmatige-intelligentiesystemen door de politie, ook voor videobewakingsactiviteiten, gezichtsherkenning en verwerking van biometrische gegevens gekoppeld aan identificatie na het plegen van misdrijven.
Minister van Binnenlandse Zaken Matteo Piantedosi presenteerde de bepaling als een instrument om politieoptreden te ondersteunen, waarbij de uiteindelijke beslissingen altijd aan de mens worden toevertrouwd. De formule is geruststellend, zoals vaak gebeurt wanneer technologie de hallen van de macht binnendringt met het woord ‘efficiëntie’ op de borst gedrukt, een Terminator-achtige halve glimlach en weinig verlangen om te veel bij surveillance stil te staan.
De machine suggereert
Het decreet, zoals het werd gepresenteerd, is gebaseerd op een heel duidelijk principe: AI kan helpen, versnellen, gegevens vergelijken, nuttige elementen rapporteren, maar de uiteindelijke beslissing moet menselijk blijven. Elk gebruik voor veiligheidsdoeleinden moet worden onderworpen aan gekwalificeerde menselijke beoordeling en toezicht, met bescherming van persoonlijke en gevoelige gegevens. De minister sloot massale surveillancesystemen uit en sprak van een verbod op grote algemene biometrische databases.
Op papier klinkt het allemaal netjes. Het probleem ontstaat, zoals altijd, wanneer papier en praktijk elkaar ontmoeten. Een besluit kan formeel menselijk blijven, zelfs als het voortkomt uit een algoritmische suggestie die wordt behandeld alsof het neutraal, snel en objectief is. Degenen die onder druk werken, met weinig personeel en veel zaken moeten afhandelen, kunnen uiteindelijk veel meer op de machine vertrouwen dan de interne regelgeving toestaat. Het algoritme tekent niet, maar kan wel tegen de hand duwen.
Het onderscheid tussen ondersteuning en vervanging is subtiel. In politiezaken wordt het nog subtieler, omdat een fout niet alleen maar onjuiste reclame of slecht voorgestelde inhoud oplevert. Het kan wegen op controles, verdenkingen, onderzoeken en persoonlijke vrijheden. Om deze reden kunnen garanties niet een soort institutionele dekmantel blijven die over een zeer krachtig technisch systeem heen wordt geschoven. We hebben leesbare procedures nodig, herleidbare verantwoordelijkheden, externe controles, serieuze training, gecontroleerde toegang, duidelijke bewaartijden. Allemaal onspectaculaire dingen. In feite zijn zij de beslissende.
Het gezicht in het systeem
Het meest gevoelige onderdeel betreft biometrische identificatie. De bepaling voorziet in een dubbele mogelijkheid: ex ante gebruik, d.w.z. vóór het plegen van misdrijven, in geval van gevaar of dreiging die bijvoorbeeld verband houdt met terrorisme, bij het zoeken naar vermiste personen of slachtoffers van mensenhandel; en ex post, na het misdrijf, vooral gebruiken om identiteiten vast te stellen door middel van videobewaking, gezichtsherkenning en biometrische gegevens. Voor preventief gebruik zijn een verzoek van de politiecommissaris, toestemming van de rechterlijke autoriteit, impactbeoordeling op de grondrechten en kennisgeving aan de Privacygarant aangewezen.
Hier doet de taal al het halve werk: “ex ante”, “ex post”, “garanties”, “ondersteuning”, “menselijke beoordeling”. Alles lijkt technisch, netjes, geruststellend. Maar dan is er nog iemand die een station, een plein, een straat oversteekt en in een systeem terechtkomt dat zijn gezicht met andere gegevens kan vergelijken. En dan wordt de vraag minder abstract. Veel minder. De bureaucratie heeft deze gave: zij slaagt erin om zelfs een actueel onderwerp lauw te laten lijken.
Volgens wat de minister van Binnenlandse Zaken heeft geïllustreerd, zullen de biometrische gegevens slechts zeven dagen worden bewaard en automatisch worden verwijderd, terwijl de operatielogboeken vijf jaar zullen blijven staan om misbruik te voorkomen. Ook wordt aangegeven het verbod om beslissingen over een persoon uitsluitend te nemen op basis van het resultaat van gezichtsherkenning en het verbod op algemene en niet-gerichte biometrische identificatie, niet gekoppeld aan strafrechtelijke vervolging. Dit zijn natuurlijk belangrijke inzetten. Een paal blijft alleen nuttig als iemand dagelijks controleert of deze niet een paar centimeter wordt verplaatst.
Europa bepaalt de grenzen
Het Europese kader laat, althans op dit terrein, de staten niet volledig de vrije hand. De AI-wet verbiedt over het algemeen het gebruik van “real-time” biometrische identificatiesystemen op afstand in publiek toegankelijke ruimtes voor wetshandhavingsdoeleinden, behoudens beperkte uitzonderingen en strikte voorwaarden. De verordening spreekt over strikte noodzaak, evenredigheid, voorafgaande toestemming en precieze grenzen aan tijd, plaats en doel.
Italië beweegt zich binnen een Europees kader dat de transformatie van de publieke ruimte in een permanent laboratorium van automatische herkenning probeert te voorkomen. Het kabinet presenteert de maatregel, zoals verwacht, als een evenwicht tussen innovatie en bescherming. De echte vraag betreft de concrete toepassing: hoe vaak zal van deze mogelijkheid gebruik worden gemaakt? Met welke controles? Vanuit welke kantoren? Met welk gereedschap? Op welke databanken? Met welke betwistingsmarges voor degenen die uiteindelijk een verkeerde identificatie krijgen?
Alles terugbrengen tot degenen die vóór of tegen de technologie zijn, zou handig zijn, maar ook behoorlijk nutteloos. Niemand wil de zoektocht naar een vermiste persoon of het voorkomen van een aanslag belemmeren. Het risico ontstaat wanneer de uitzondering de instellingen aan een instrument begint te wennen en het instrument om meer ruimte begint te vragen. Het verschil zit in de dosering, in de transparantie, in de onafhankelijke controle, in de mogelijkheid om te weten hoe die systemen worden gebruikt en hoe fouten worden gecorrigeerd.
Het besluit moet in zijn details en de daaropvolgende stappen worden gelezen. Voorlopig weten we dat AI op een meer gestructureerde manier het werk van de politie binnendringt, met een reeks aangekondigde garanties en een zeer geruststellend lexicon. De garanties zijn goed, de verwijzing naar menselijke beslissingen is goed, de aangegeven grenzen zijn goed. Het feit blijft dat elke besturingstechnologie, eenmaal geïnstalleerd, de neiging heeft onmisbaar te lijken. En als er een deur opengaat voor toezicht, wordt het sluiten ervan steeds moeilijker. Ook al schreven ze bij de ingang ‘innovatie’.
Mogelijk bent u ook geïnteresseerd in:
