La Agencia Española de Protección de Datos impuso una sanción de 2.000 euros en un caso pionero en Europa. Un adolescente generó y difundió «deepfakes» de sus compañeras de clase, apareciendo estas desnudas, mediante una aplicación web de acceso público.
ESPAÑA. – En una decisión que marca un punto de inflexión legal en Europa, unos padres han sido sancionados económicamente por la Agencia Española de Protección de Datos (AEPD) después de que su hijo utilizara inteligencia artificial para crear y distribuir imágenes falsas y sexualizadas de sus compañeras de clase.
Este caso, el primero de su tipo en el continente, evidencia el peligroso vacío legal y los graves daños que puede causar el uso irresponsable de herramientas de IA de fácil acceso.
El caso: Imágenes falsas, daños reales
El adolescente utilizó una aplicación web disponible para cualquier usuario, que permite combinar rostros reales con cuerpos generados por IA, creando desnudos falsos de un realismo alarmante. Estas imágenes, conocidas como «deepfakes», no solo fueron compartidas entre los estudiantes del instituto, sino que también llegaron a plataformas de contenido para adultos.
Expertos coinciden en que, aunque las fotos sean falsas, el impacto psicológico, social y emocional para las víctimas es completamente real, pudiendo derivar en ansiedad, acoso y secuelas de larga duración.
Un fenómeno global con víctimas reales
La situación no es aislada. Paralelamente, en Estados Unidos, una joven de 17 años demandó a una empresa por una aplicación similar, después de que sus compañeros crearan y difundieran deepfakes con su imagen.
Estos casos reflejan un problema global: la combinación de una tecnología potente y sin un control efectivo, que está siendo utilizada como una nueva forma de violencia digital, principalmente contra mujeres y adolescentes.
¿Son suficientes las leyes actuales?
Aunque la sanción en España sienta un precedente crucial, especialistas en derecho digital consideran que las multas pueden ser insuficientes para disuadir futuros delitos.
David Regairaz, abogado especialista en ciberseguridad e IA, señaló: “Una vez que esas imágenes circulan en la red, su eliminación completa es prácticamente imposible”. Además, destacó la responsabilidad de las plataformas: “Deberían garantizar la transparencia, etiquetar los contenidos generados por IA, incorporar mecanismos de detección proactiva y eliminar de inmediato los materiales ilegales”.
Cómo actuar y dónde denunciar
El Instituto Europeo de Igualdad de Género ya considera la creación y difusión de desnudos falsos sin consentimiento como una forma de violencia machista digital.
Para denunciar casos de violencia de género digital en Argentina, existen varios canales:
-
Línea nacional 144: Por WhatsApp al +54 9 11 2771-6463.
-
App 144: Disponible gratuitamente en tiendas de aplicaciones.
-
Defensoría del Pueblo de CABA: Teléfono 0800-999-3722.
Este caso reaviva el debate central de nuestra era digital: la tecnología avanza más rápido que las leyes, dejando a las víctimas, en su mayoría jóvenes, a enfrentar las consecuencias de una exposición que no eligieron.
