Peste 400 de aplicații de deepfake sexual și violent au trecut de filtrele Apple și Google

Cum au reușit hackerii să fure ochii filtrelor automate?

Sute de aplicații sofisticate bazate pe inteligență artificială, dotate cu funcții ascunse de generare a unor imagini deepfake cu caracter sexual și violent, au reușit să ocolească filtrele stricte de securitate din principalele magazine de aplicații mobile. Investigatorii au scos la iveală un catalog masiv de peste 400 de programe-capcană distribuite pe scară largă atât în App Store-ul lui Apple, cât și în Google Play Store.

Analiștii din industrie au pus întreaga operațiune malițioasă pe seama unei singure organizații, încă neidentificate, care își desfășoară activitatea din China.

Pachetele software neautorizate funcționau pur și simplu invitând utilizatorii obișnuiți să-și încarce pozele de tip portret în interfață. Odată ce imaginile erau procesate, algoritmi ascunși produceau automat conținut sexual explicit și deepfake-uri violente, fără consimțământul persoanelor vizate.

Această descoperire scoate la iveală vulnerabilități majore în procedurile automate de scanare ale magazinelor digitale, concepute tocmai pentru a bloca materialele nocive.

De ce dau greș sistemele de moderare ale giganților tech?

Cercetătorii în securitate cibernetică au arătat că dezvoltatorii au folosit tehnici ingenioase de mascare pentru a ascunde funcțiile periculoase în faza inițială de trimitere spre aprobare. Moderatorii de la Apple și Google nu au reușit să detecteze generatoarele latente de deepfake, ascunse adânc în arhitectura codului. Milioane de consumatori care nu bănuiau nimic au descărcat aceste programe crezând că sunt simple editoare foto sau aplicații inofensive de divertisment.

Amploarea operațiunii i-a lăsat fără cuvinte pe experții în securitate digitală care monitorizează rețelele globale de distribuție de software. Faptul că au lansat peste 400 de aplicații distincte le-a permis creatorilor să rămână prezenți pe piețe în ciuda eliminărilor periodice. Această abordare descentralizată a asigurat că, dacă autoritățile sau platformele interziceau un titlu, alte zeci de alternative identice rămâneau la dispoziția publicului.

Explozia instrumentelor de inteligență artificială generativă a copleșit grav sistemele tradiționale de moderare a conținutului folosite de giganții tehnologici. Scanerele automate se chinuie să identifice secvențe de cod adormite care se activează doar în urma unor interacțiuni specifice ale utilizatorului. În consecință, operatorii rău intenționați profită cu ușurință de aceste puncte oarbe pentru a răspândi falsuri digitale nocive la scară masivă.

Ce întrebări ridică această breșă masivă de securitate?

Câinii de pază din industrie cer acum o reformă totală a modului în care magazinele de aplicații verifică software-ul terț înainte de lansarea publică. Fără o supraveghere umană intensificată și o analiză comportamentală avansată, piețele digitale vor rămâne vulnerabile la practici înșelătoare similare.

Protejarea utilizatorilor împotriva deepfake-urilor neconsensuale cere măsuri proactive agresive, nu doar ștergeri reactive după producerea faptelor.

Ce funcții specifice ofereau aceste aplicații ascunse? Programele malițioase le permiteau utilizatorilor să încarce fotografii personale și să genereze automat imagini deepfake esențial sexuale sau violente.

Câte aplicații periculoase au descoperit investigatorii? O anchetă amplă a identificat cu succes peste 400 de aplicații distincte de deepfake disponibile în principalele magazine de aplicații mobile.