Kunstmatige intelligentie nog steeds in de schijnwerpers na de waarschuwing van Trend Micro, een computerbeveiligingsbedrijf, volgens welke de IA de zo -aangedreven “slechte tweelingen” zou kunnen genereren, of “onze IT -kopieën” in staat om de oplichting te vergroten, die meer zullen worden en moeilijker te vinden
Onze “zou kunnen komen”Slechte digitale tweelingen“, Dat is onze” het kopieën “gegenereerd doorKunstmatige intelligentie In staat om de oplichting te vergroten, die steeds moeilijker te vinden zijn. Het alarm komt vandaan Trend microComputer Security Company.
Aangezien generatieve kunstmatige intelligentie steeds meer weg wordt in de bedrijven en bedrijven die nodig zijn, moeten we voorzichtig zijn met bedreigingen – legt Jon Clay uit, VP van dreiging die intelligent is bij Trend Micro – Hyper-persoons aanvallen Ze zullen sectorinspanning nodig hebben om ze te ontwortelen en onder ogen te zien. Bedrijfsleiders moeten dat vandaag onthouden. Elk risico op veiligheid is uiteindelijk een bedrijfsrisico, met het potentieel om een Diepe impact op de toekomstige strategie
Slechts een paar dagen geleden de Privacygarant heeft geblokkeerd voor Italiaanse gebruikers Diepzeksoftware van Relationele kunstmatige intelligentie ontwikkeld door twee Chinese bedrijven, Hangzhou Deepseek kunstmatige intelligentie En Beijing Deepseek kunstmatige intelligentieom te Bescherm gevoelige gegevens Gezien de mate van beveiliging hierover, beoordeeld onvoldoende.
Nu, volgens het bedrijf, is de dreiging veel ernstiger, omdat het opzettelijk is: de “slechte digitale tweelingen”, die persoonlijke informatie overtreedt of lekken, gebruiken dergelijke gegevens vervolgens om een te trainen Groot taalmodel (LLM), of een geavanceerde IA -technologie gericht op het begrip en de analyse van de tekst, om Dwerk kennis, persoonlijkheid en schrijfstijl van een slachtoffer imiteren.
Deze kunnen, indien gebruikt in combinatie met video/audio -deepfakes en gecompromitteerde biometrische gegevens, worden gebruikt Voer de identiteitsfraude uit Of om een vriend, een collega of een familielid te “vangen”.
Diepe vage en IA zou daarom kunnen worden uitgebuit in WIG -SCHAAK HYPERPERPERSELISEERDE AANVAARDEN Om de compromiscompromissen van het bedrijf (BEC/BPC) en nep -medewerkers te verbeteren, trekken ze en gerechtelijke slachtoffers aan voordat ze ze leveren aan een menselijke operator, die via een persoonlijkheidsfilter van een LLM kan chatten, maar ook om open source -informatie op een meer manier effectief te verzamelen.
De ontwikkeling van capaciteiten in pre-aanval voorbereiding zal de Succes van de aanval – Leg het bedrijf uit – maak op grote schaal authentieke authentieke sociale media -personages om onjuiste informatie/desinformaties en oplichting te verspreiden
Als reactie op deze groeiende bedreigingen, Trend micro Aanbeveling van Implementeer een aanpak op basis van computerbeveiligingsrisicohet mogelijk maken van de gecentraliseerde identificatie van verschillende activa en een effectieve beoordeling/prioriteit/mitigatie van risico.
A Zorgzaam beeld zoals verwacht -Compliments aan de ANSA, Pierluigi Paganini, Cyberhorus CEO en professor cybersecurity aan de Luisiss Guido Carli University-in de criminele underground die ze al depopuleerplatforms die platforms kunnen creëren die in staat zijn om deepfake en e-mail te creëren die de meeste gebruikers online kunnen misleiden. De integratie van deze nieuwe technologie maakt zich ook zorgen in bedrijven
Kunstmatige intelligentie is vooruitgang, maar het nieuwe perspectief laat nogmaals zien hoe cruciaal is Breng innovatie en gegevensbescherming in evenwicht.
De IA zal de mens in veel processen vervangen en het werk ervan volgen, kan allesbehalve eenvoudig zijn door nieuwe veiligheidsrisico’s te introduceren – doorgaan met Paganini – te veel bedrijven en organisaties zijn vandaag onvoorbereid om deze opkomende bedreigingen onder ogen te zien: Het is essentieel om meer geavanceerde defensiestrategieën aan te nemen, zoals de op risico gebaseerde aanpak, de versterking van de veiligheid van LLM en de continue training van gebruikers
En, paradoxaal genoeg, precies dezelfde kunstmatige intelligentie, die al heeft aangetoond dat het in meerdere situaties van grote hulp kan zijn, kan van grote hulp zijn.
Hierin zou de Ia ons een grote hand kunnen geven, velen zijn de zijne Toepassingen voor defensiedoeleinden
Bronnen: Micro / ANSA -trend
