La Asamblea Nacional de Corea del Sur ha hecho historia aprobando la llamada «Ley contra el Abuso Sexual mediante Deepfakes» en una sesión parlamentaria en el que la propuesta normativa recibió 241 votos a favor de un total de 249.
Esta nueva legislación, que modifica tres leyes clave de protección y penalización de delitos sexuales, representa un paso significativo en la lucha contra el creciente uso de contenido ‘deepfake’, tecnología que recurre a la IA para manipular o falsificar vídeos e imágenes (por ejemplo, integrando rostros en cuerpos desnudos de manera realista).
La aprobación de la ley se ha dado en un contexto de creciente alarma social tras la multiplicación de casos de uso de ‘deepfakes’ sexuales entre la juventud coreana. De hecho, en agosto salieron a la luz pública numerosos casos en que la mayoría de los implicados (tanto víctimas como perpetradores) eran menores de edad, así como salas de chat en plataformas como Telegram, en las que miles de usuarios compartían ‘deepfakes’ tanto de figuras públicas como de personas comunes.
Heather Barr, de Human Rights Watch, llegó a calificar el problema como una «epidemia de delitos sexuales digitales», y finalmente se desencadenó una fuerte presión entre la opinión pública para endurecer las leyes y sancionar no sólo a los creadores de este tipo de contenidos, sino también a quienes los consumen.
En lo que va de 2024, la policía surcoreana ha recibido 812 denuncias de delitos sexuales relacionados con deepfakes y ha detenido a 387 sospechosos (el 83,7% de ellos, adolescentes)
Principales cambios legislativos
La reforma se centra en la modificación de tres leyes: la Ley Especial de Castigo de Delitos Sexuales (Ley de Castigo de Delitos Sexuales), la Ley de Protección Infantil y Adolescente y la Ley de Prevención y Protección de Víctimas de Delitos Sexuales. Estos son los cambios que se introducen:
1. Penalización del consumo de deepfakes
Una de las principales innovaciones es la penalización del consumo de material deepfake. La nueva ley establece que cualquier persona que posea, adquiera, almacene o visualice material sexual falsificado sin consentimiento, puede afrontar hasta tres años de prisión o una multa de hasta 30 millones de wones (aproximadamente 22.600 dólares).
Esta medida busca disuadir el consumo de este tipo de contenidos y enfatiza que, al igual que la producción, la posesión o visualización de estos contenidos es un delito grave.
2. Eliminación del requisito de «Propósito de difusión»
Previamente, la ley exigía que, para procesar a los creadores de deepfakes, se demostrara que su intención era distribuir el contenido. Con la reforma, esta cláusula ha sido eliminada, de manera que cualquier creación de contenido de este tipo sin consentimiento será sancionada, independientemente de si había intención de difusión. Esto responde al objetivo de abordar la creación misma del contenido como un acto de abuso.
3. Reforzamiento de las sanciones en delitos contra Menores
Para los delitos que involucren a menores, las penas han sido endurecidas. La intimidación, que antes tenía una pena de hasta un año, ahora se sanciona con hasta tres años de cárcel, y la coacción, antes castigada con un máximo de tres años, ahora conlleva hasta cinco años de prisión.
Además, se han habilitado procedimientos de investigación no públicos, que permitirán a la policía actuar sin necesidad de obtener autorización de superiores en casos de emergencia.
4. Expansión de los centros de apoyo a víctimas
Hasta ahora, los centros de apoyo a víctimas de delitos digitales se encontraban sólo en las principales ciudades del país. Con esta reforma, se establece la expansión de estos centros a nivel nacional.
Reacciones críticas
La aprobación de esta legislación ha sido bien recibida por legisladores y ONGs, pero algunos activistas han expresado insatisfacción por ciertos elementos ausentes en la reforma: una de las principales críticas al texto aprobado es que no se ha incluido una cláusula que permitiría a la policía solicitar directamente la eliminación de contenidos a los proveedores de servicios online, sin pasar por la ‘Comisión de Estándares de Comunicación’, lo cual retrasa la respuesta ante casos de emergencia.
Vía | BBC
Imagen | Marcos Merino mediante IA
En Xataka | El origen de los deepfakes porno de Taylor Swift: usuarios probando los límites de los modelos IA
