Deepfakes i fotos falses: per què la moderació és clau a l’oci per a adults.
En els darrers anys han aparegut eines d’intel·ligència artificial capaces de crear fotos i vídeos hiperrealistes de persones, els anomenats deepfakes, que s’han convertit en un problema seriós quan s’usen per generar nus i contingut sexual sense consentiment. En un sector com l’oci per a adults on la imatge de les persones és la base de l’espectacle, la moderació d’aquest tipus de contingut ja no és opcional, és una obligació ètica i legal.
Què és un deepfake (i per què t’hauria d’importar):
Un deepfake és una imatge o vídeo generat o manipulat amb IA perquè sembli que una persona real està fent alguna cosa que en realitat mai va fer, per exemple aparèixer nua o participant en un vídeo porno. La tecnologia ha avançat tant que, sense context, moltes d’aquestes imatges es poden confondre amb material autèntic, cosa que multiplica el dany a la reputació i la intimitat de les persones afectades.
A nivell sexual, l’ús de deepfakes se centra majoritàriament en dones, que són les principals víctimes de muntatges íntims no consentits i de violència digital. Per a artistes, strippers i performers que viuen de la seva imatge, que algú pugui generar i difondre nus falsos suposa un risc directe per a la seva marca personal i la seva seguretat.
Espanya endureix les normes: deepfakes sexuals com a delicte
Espanya ha començat a moure’s ràpid davant d’aquest problema i ja treballa en una reforma legal específica per als deepfakes de contingut sexual. El Projecte de Llei Orgànica per a la protecció de les persones menors d’edat als entorns digitals, aprovat pel Consell de Ministres el 2025, inclou la penalització dels muntatges sexuals generats amb IA sense consentiment.
Es preveu castigar penalment qui creu o difongui imatges sexuals falses generades amb IA usant el cos o el rostre d’una persona sense la seva autorització.
La norma posa un focus especial en els menors i en les víctimes de violència de gènere, però envia un missatge clar: els deepfakes sexuals no són “bromes”, són un atac a la dignitat i la intimitat amb conseqüències legals serioses.
A més, l’Agència Espanyola de Protecció de Dades ja ha imposat sancions per difondre nus falsos creats amb IA, reconeixent que són un tractament il·lícit de dades personals (la imatge de la persona) sense el seu consentiment. Això significa que qui fa o distribueix aquests muntatges pot enfrontar-se a multes i responsabilitat civil, fins i tot encara que no hi hagi ànim de lucre.
Moderació a plataformes d’IA: què està passant
El creixement dels deepfakes ha obligat les plataformes d’IA i les xarxes socials a endurir la seva moderació. Avui moltes eines ja tenen prohibit, en les condicions d’ús, generar contingut sexualitzat de persones reals o pujar fotos de tercers per “despullar-los” digitalment.
S’utilitzen models automàtics per detectar manipulació, nus falsos i patrons típics de deepfake, que bloquegen o marquen les imatges sospitoses.
Aquests sistemes es combinen amb equips humans de revisió i amb canals de denúncia ràpids perquè les víctimes puguin demanar la retirada del contingut i el bloqueig de comptes reincidents.
Tot i així, la tecnologia de detecció sempre va un pas per darrere de les tècniques de generació, cosa que significa que la moderació no és infal·lible: alguns muntatges es colen, i altres continguts legítims poden ser eliminats per error. Per això, per a qualsevol negoci que treballi amb imatge eròtica o d’entreteniment adult, és clau no dependre només del que facin les grans plataformes, sinó també definir les seves pròpies polítiques internes.
Què implica tot això per a agències de strippers i esdeveniments adults:
Una agència com StrippersBarcelona.com, pionera en xous eròtics i comiats des del 1998, es mou en un terreny on la imatge dels seus artistes és absolutament central. En aquest context, els deepfakes no són només un problema abstracte d’internet: poden afectar directament strippers, boys, ballarines i performers que treballen en esdeveniments privats i comiats.
Algunes implicacions pràctiques per al sector:
Necessitat de consentiment clar: qualsevol sessió de fotos o vídeo amb artistes ha de comptar amb el seu consentiment explícit, incloent com i on es faran servir aquestes imatges, i prohibint expressament la seva manipulació per crear contingut fals.
Resposta ràpida davant de muntatges: si una ballarina o un stripper detecta un deepfake que fa servir la seva imatge, l’agència hauria d’ajudar-lo a documentar el cas ia denunciar-lo davant la plataforma, l’AEPD o fins i tot davant la policia si es tracta de contingut sexual denigrant o que afecti menors.