La UE investiga X: Grok sota la lupa per "deepfakes" il·legals

La Comissió Europea ha iniciat una investigació formal contra la xarxa social X (anteriorment Twitter) arran de la indignació global provocada per la incapacitat de la plataforma per aturar la creació i difusió d'imatges sexualment explícites de persones reals, incloent-hi menors d'edat.

L'origen del conflicte: el "Spicy Mode" de Grok

L'alarma va saltar després d'un informe del diari alemany Handelsblatt i de les anàlisis d'organitzacions com AI Forensics, que van revelar un ús sistèmic de l'eina per "despullar" virtualment dones i nenes. El problema es va intensificar l'estiu passat amb la introducció del "Spicy Mode" (mode picant), una funció de pagament dissenyada per ser menys restrictiva i que permetia als usuaris generar contingut explícit mitjançant ordres de text.

Segons investigacions recents, només en els primers dies de gener de 2026, s'estima que Grok va generar més de 3 milions d'imatges sexualitzades, de les quals al menys 23.000 involucraven menors.

Reacció de la Unió Europea

La resposta de Brussel·les no s'ha fet esperar. Thomas Regnier, portaveu de la Comissió, va qualificar la funcionalitat de "repugnant" i "il·legal", tot subratllant que aquest tipus d'eines no tenen cabuda en el mercat europeu. "Això no és 'picant'. Això és il·legal. Això és espantós. No té lloc a Europa", va declarar la Comissió en un comunicat oficial.

Sota la Llei de Serveis Digitals (DSA), la Comissió ha enviat una sol·licitud formal d'informació a X. Si es demostra que la plataforma va violar les normes de seguretat en línia i protecció de menors, Elon Musk podria enfrontar-se a multes de fins al 6% de la facturació anual global de la seva empresa.

Mesures de X i pressió internacional

Davant la pressió reguladora i el risc de bloquejos (com els que ja s'apliquen a Indonèsia i Malàisia), X va anunciar la implementació de "mesures tecnològiques" per bloquejar l'edició d'imatges de persones reals en roba suggeridora. La plataforma també assegura haver eliminat material d'abús sexual infantil (CSAM) i haver suspès permanentment els comptes implicats.

Tanmateix, per als reguladors de la UE, França, Alemanya i el Regne Unit (a través de l'Ofcom), aquestes mesures podrien ser insuficients i arribar massa tard. Cal recordar que, tot just el desembre de 2025, la Comissió ja va multar X amb 120 milions d'euros per pràctiques enganyoses relacionades amb les marques de verificació blaves i la manca de transparència publicitària.

Deepfakes generats per Grok

Multes milionàries: X ja està sota la lupa per infraccions prèvies de la DSA.

Recerques criminals: A França, la fiscalia ha ampliat les seves perquisicions per a incloure els deepfakes generats per Grok.

Bloquejos regionals: El chatbot roman prohibit en diversos països del sud-est asiàtic per violacions a la dignitat humana.

La recerca de la Comissió determinarà ara si X va actuar amb la diligència deguda o si va facilitar, mitjançant un disseny negligent del seu IA, una violació massiva dels drets fonamentals a Europa.