IA, sextorsió i deepfakes: la nova cara del masclisme a les xarxes socials

El Palau Macaya de la Fundació ”la Caixa” ha estat l’escenari del primer gran debat sobre violència de gènere en l’entorn digital. Sota el títol “Com afrontar la violència digital de gènere”, la sessió —organitzada conjuntament amb l’Observatori de Drets Digitals— va reunir destacats experts per analitzar l’impacte devastador que tenen aquest tipus d’agressions a les xarxes socials, plataformes de missatgeria i altres entorns digitals.

Amenaces, sextorsió, campanyes de desprestigi i deepfakes són només algunes de les eines amb què, diàriament, milers de dones i nenes són atacades en l’entorn en línia. La investigadora Eleonora Espósito, experta nacional destacada de la Comissió Europea, va ser contundent: “Estem davant d’una extensió de la violència masclista al segle XXI, i s’ha d’afrontar amb la mateixa serietat i urgència que qualsevol altra forma de violència de gènere”.

Intel·ligència Artificial: aliada o amenaça?

Un dels punts més candents del debat va ser el paper de la Intel·ligència Artificial. Tant Espósito com el fiscal especialitzat en criminalitat informàtica, Gabriel González Fernández, van coincidir que la IA és “una arma de doble fil”. Tot i que els seus algorismes poden servir per detectar llenguatge abusiu o eliminar contingut íntim no consentit, també es poden utilitzar per crear imatges falses de caràcter sexual, com els perillosos deepfakes.

González va subratllar que “les xarxes permeten cometre qualsevol delicte i això és especialment greu quan es tracta de violència de gènere”, reclamant una reforma del Codi Penal per limitar l’accés a xarxes dels agressors i adaptar la llei als nous temps digitals.

Impacte brutal, lleis desfasades

Els experts no només van abordar els danys individuals —com la pèrdua de benestar, salut mental o visibilitat professional— sinó també l’efecte col·lectiu d’aquestes violències, que minen la diversitat de veus a l’espai públic digital. “Moltes dones hem acabat en un ‘búnquer digital’, silenciades, eliminant els nostres comptes o restringint qui pot comentar”, va afirmar l’activista i consultora Yolanda Domínguez.

Des d’Europa, Espósito va posar l’atenció en la manca de coordinació internacional: “Cada país actua de manera diferent i subestima el problema, cosa que dificulta la seva persecució i l’anàlisi de dades”. No obstant això, va destacar dos avenços clau: la Directiva europea sobre violència contra les dones i la Llei de Serveis Digitals (DSA), que per primera vegada reconeix explícitament la violència digital de gènere.

Cal una resposta política i social urgent

Olivia Blanchard, moderadora de la trobada i directora científica del cicle Els nostres drets en l’era digital, va assenyalar que “el desenvolupament tecnològic dels últims 10 anys ha transformat radicalment les nostres vides, però també ha obert noves portes a l’abús i la violència”.

La sessió va concloure amb una crida unànime: consolidar avenços normatius, reforçar la rendició de comptes de les plataformes tecnològiques i fomentar una cultura digital que protegeixi els drets, especialment de les dones.

“No pot ser que en una democràcia les dones hàgim de limitar la nostra participació en línia perquè hi ha homes i bots que exerceixen violència sense control”, va sentenciar Domínguez.

Aquest ha estat només el primer debat del cicle organitzat per la Fundació ”la Caixa” i l’Observatori de Drets Digitals. Les properes sessions abordaran com la digitalització afecta àmbits clau com la salut, el treball o la relació amb l’administració pública.