Mii de imagini generate de inteligența artificială și deepfake, expuse într-o bază de date neprotejată online

Nu poți ști niciodată peste ce poți da atunci când navighezi pe internet. Recent, cercetătorul în domeniul securității cibernetice, Jeremiah Fowler, a descoperit o bază de date care conținea aproape 100.000 de imagini generate cu ajutorul inteligenței artificiale, inclusiv imagini cu conținut pentru adulți și imagini ilegale cu minori, toate stocate fără protecție prin parolă.

Potrivit lui Fowler, baza de date aparținea companiei sud-coreene GenNomis by AI-Nomis și includea 93.485 de fișiere, cu o dimensiune totală de aproximativ 48 GB. În interior se aflau diferite imagini generate sau manipulate de AI, alături de comenzile text folosite la crearea lor. Deși nu au existat dovezi imediate privind informații personale de identificare (PII), tipul conținutului și numărul foarte mare de fișiere au ridicat semne de întrebare atât despre confidențialitate, cât și despre potențialul de abuz — conținutul fiind în mare parte pentru adulți și incluzând imagini generate de AI și comenzi text ale utilizatorilor.
O parte din eșantion a inclus și figuri publice cunoscute, pentru care tehnologia AI a generat imagini foarte realiste fără autorizarea acestora.

„Deși nu am văzut date personale sau ale utilizatorilor, aceasta a fost prima mea incursiune în culisele unui generator de imagini bazat pe AI. A fost un semnal de alarmă cu privire la modul în care această tehnologie ar putea fi abuzată de utilizatori și la faptul că dezvoltatorii trebuie să facă mai mult pentru a se proteja pe ei înșiși și pe alții”, a menționat Fowler.

În raportul său, cercetătorul a precizat că a notificat imediat compania despre descoperirile sale, iar baza de date a fost ulterior eliminată din accesul public. Cu toate acestea, Fowler a subliniat posibilele abuzuri ale funcțiilor de manipulare a imaginilor, lipsa consimțământului utilizatorilor și posibilitatea ca platforma să fie folosită pentru a încărca conținut fără acordul persoanelor vizate. De asemenea, el a menționat că imaginile explicite generate de această tehnologie ar putea fi folosite pentru extorcare, șantaj, defăimare sau alte scopuri malițioase.

„Există numeroase generatoare de imagini AI care oferă posibilitatea de a crea imagini pornografice din simple comenzi text, iar pe internet nu ducem lipsă de imagini explicite care pot fi folosite de modelele AI”, a explicat Fowler. „Orice serviciu care oferă posibilitatea de a face swap de fețe sau corpuri folosind AI, fără cunoștința și consimțământul persoanelor, ridică riscuri serioase de ordin privat, etic și legal.”

Potrivit publicației Wired, când site-ul GenNomis era funcțional, acesta permitea în mod deschis generarea de imagini pentru adulți cu ajutorul AI. Site-ul includea și o secțiune „NSFW” și o „piață virtuală” unde utilizatorii puteau partaja și, potențial, vinde albume de imagini create de AI.

Când imaginile unor persoane ușor de recunoscut — fie celebrități, fie indivizi simpli — sunt procesate prin sisteme AI, rezultatul poate fi alarmant de realist și poate duce la prejudicii de reputație sau alte urmări malițioase.

Măsuri de siguranță: Cum să îți protejezi imaginea online

Deși furnizorii de servicii au obligația de a-și securiza platformele și a impune reguli de utilizare, și utilizatorii pot reduce riscurile prin:

• Restricționarea fotografiilor de înaltă rezoluție: Postarea publică a imaginilor clare cu fața ta facilitează pentru instrumentele AI reproducerea trăsăturilor. Ia în calcul utilizarea setărilor de confidențialitate pe rețelele sociale pentru a limita expunerea.
• Filigrane și filtre: Adăugarea unui filigran sau utilizarea unor filtre pot îngreuna semnificativ sarcina instrumentelor automate de a identifica și reconstrui detalii faciale.
• Monitorizarea mențiunilor și imaginilor: Efectuează periodic căutări pentru numele sau imaginea ta și setează alerte online pentru a urmări apariții sau utilizări suspecte.
• Prudență cu platformele noi: Verifică politicile de confidențialitate înainte de a încărca imagini și evită site-urile care nu oferă măsuri clare de protecție a datelor sau conexiuni HTTPS sigure.
• Documentarea abuzurilor: Dacă descoperi că imaginea ta a fost folosită fără consimțământ, înregistrează adresele URL, fă capturi de ecran și alte dovezi. Ia în considerare contactarea autorităților dacă materialul este considerat dăunător sau ilegal.
• Utilizarea serviciilor de protecție a identității digitale: Serviciul Bitdefender Digital Identity Protection oferă un strat suplimentar de securitate prin monitorizarea amprentei digitale, a breșelor de date care implică informații personale și identificarea potențialelor tentative de impersonare, alertându-te în privința conturilor false sau a impostorilor care folosesc imagini generate pentru a-ți copia aspectul sau identitatea.

Notă:
Acest articol are un scop exclusiv informativ. Nu se sugerează în niciun fel că GenNomis, AI-NOMIS sau afiliații acestora ar fi implicați în acțiuni ilegale. Exemplele prezentate subliniază importanța securității datelor, a tehnologiilor AI de generare a conținutului și a măsurilor de prevenire pentru a proteja intimitatea și siguranța utilizatorilor.