ChatGPT anuncia un perillós gir cap al contingut eròtic: fi a les restriccions

OpenAI, l'empresa creadora de l'arxiconegut ChatGPT, ha anunciat una modificació significativa en la seva política de moderació de contingut que permetrà als usuaris adults verificats la creació de material eròtic a partir de desembre. Un tipus de contingut que fins ara estava completament vetat per part de l'empresa d'intel·ligència artificial.

El canvi ha arribat de la mà de les paraules de la seva CEO, Sam Altman, que busca alinear amb el principi d'atorgar major llibertat creativa als adults. No obstant això, aquest pas també ha reavivat les preocupacions sobre els perills ètics i socials de la IA generativa. Especialment en matèria de contingut adult.

Altman, a través de la plataforma X, va declarar que la mesura serà implementada a mesura que es reforcin les restriccions per edat, permetent la creació de "erotisme per a adults verificats" com a part de la seva visió de "tractar als usuaris adults com a adults".

La Cerca de la "Gran Llibertat"

El director executiu de OpenAI va justificar el gir explicant que les restriccions anteriors, dissenyades per a evitar agreujar problemes de salut mental o risc de suïcidi, feien que la plataforma fos "menys disfrutable" per a la majoria dels usuaris.

Altman va argumentar que, en trobar mètodes per a protegir als usuaris vulnerables, la companyia pot ara atorgar "una gran llibertat en com usen ChatGPT" als adults que no estan en risc de sofrir danys greus.

Els Perills Aliens a la Censura

Encara que l'anunci ha estat celebrat per alguns com un avanç cap a una IA menys "puritana", la decisió planteja seriosos desafiaments ètics i de seguretat, especialment en el context de la proliferació de contingut explícit generat per IA:

Proliferació de Contingut No Consentit (Deepfakes): La principal preocupació radica en el fet que, en relaxar la censura, l'eina pugui ser utilitzada més fàcilment per a crear imatges o textos eròtics (deepfakes) sense el consentiment de les persones representades, violant la seva privacitat i causant danys greus a la seva reputació.

Contingut Abusiu: Encara que OpenAI assegura que mantindrà la seguretat de la plataforma, el canvi podria obrir la porta a la generació de contingut que voregi o traspassi la línia de l'assetjament, l'explotació o l'abús, fins i tot si les directrius s'enfoquen en la no-representació de menors.

Normalització i Accés de Menors: Malgrat les "restriccions per edat", els experts i l'experiència adverteixen que les tecnologies de verificació d'edat no són infal·libles, i la normalització de la creació de contingut explícit per IA podria facilitar l'accés de menors a aquesta mena de material. Raó principal per la qual aquesta opció no s'ha habilitat en l'actual versió de ChatGPT.

Aquest gir de timó representa un canvi en la postura anterior de Altman, qui a l'agost havia afirmat que evitar el desenvolupament d'un "avatar de bot sexual" era una cosa "bona per al món". Ara, la companyia s'enfronta al repte d'equilibrar la "llibertat adulta" amb la necessitat imperativa d'evitar que la seva tecnologia sigui utilitzada com una eina per a la difusió massiva de contingut nociu i il·legal.