X fa marxa enrere amb Grok i elimina la creació d'imatges amb contingut sexual

La mesura afecta a tots els usuaris, inclosos els subscriptors de pagament, i respon a la polèmica per la creació de fotografies de persones amb roba interior o bikinis, incloses menors d'edat.

En un comunicat publicat en la mateixa plataforma, va explicar que la decisió forma part del seu compromís de crear un espai segur i mantenir tolerància zero davant qualsevol forma d'explotació sexual de menors, nus no consentits i contingut sexual no desitjat.

“Hem implementat mesures tecnològiques per a evitar que Grok permeti l'edició d'imatges de persones reals amb roba reveladora, com bikinis”, va indicar la companyia. La restricció s'aplica a nivell global, i també geogràficament en les jurisdiccions on sigui il·legal.

Ampliació de la limitació a tots els usuaris

El passat 9 de gener, X ja havia limitat la funció de generació d'imatges a usuaris amb subscripció. Ara, la restricció afecta a tots els usuaris, impedint crear fotografies o il·lustracions amb roba interior o bikinis a través de Grok.

La decisió arriba després d'una sèrie de pressions i denúncies. La Unió Europea ha sol·licitat conservar documentació sobre la generació d'imatges fins a finals d'any, mentre que Regne Unit va amenaçar amb bloquejar la xarxa social i Malàisia i Indonèsia van prohibir l'ús de Grok.

Organitzacions de drets digitals, seguretat infantil i drets de les dones han demanat a Apple i Google que prenguin mesures per a “prohibir Grok” a les seves botigues d'aplicacions, alertant sobre l'ús de la IA per a crear material íntim no consentit, inclòs contingut sexual infantil, que constitueix un delicte penal.