Hoy no es primera ministra italiana, pero ya era popular cuando hace cuatro años publicó un falso vídeo pornográfico con la novia de Giorgia Meloni en el cuerpo de otra mujer. El próximo 2 de julio fue llamado a declarar un requerimiento contra los implicados, un hombre de 40 años, que procesó las imágenes, y su padre, de 73 años, que prestó la línea para publicarlas. Reclama 100.000 euros como “remedio simbólico ejemplar” que “contribuye a la protección de las mujeres blancas contra este tipo de delitos”, según la abogada Maria Giulia Marongiu. Los profundo, materiales audiovisuales falsos hiperrealistas, se han duplicado cada año desde que fueron grabados por primera vez en 2017 por desnudos no permitidos y poco ha cambiado desde entonces. Una encuesta de Home Security Heroes (HSH) confirma un panorama ya identificado: el 98% es pornografía y 99 de cada 100 víctimas son mujeres y casi todas son populares.
El cambio más radical tiene una vertiente tecnológica. Si en principio se requieren conocimientos de informática y edición de imágenes, ahora, uno de cada uno de los tres equipos disponibles permite procesar creaciones falsas en menos de 25 minutos y cuesta cero. Google, que tenía como indicador de ser el buscador predominante, ha retirado, según su último aviso de transparencia, 8.000 millones de enlaces. Millas de ellas son páginas de profundo, concentrado en dos portales, según la base de datos Lumen de la Universidad de Harvard. Las tecnologías requeridas por las nuevas leyes están comenzando a implementarse.
La accesibilidad de las herramientas (60% online y 40% descargables) es una de las motivaciones de los okupas, que se autoconfian de haberlo hecho sólo por curiosidad, la atracción por los famosos, como en el caso de la cantante Taylor Swift, y la visualización de una fantasía, según HSH. Esta pequeña percepción hace que el 74% de los usuarios (según un encuentro con 1.522 participantes masculinos) no se sienta culpable.
Pero este ingenio supremo es tan falso como el material que consumes. “Es un problema de violencia machista”, afirma Adam Dodge, del Instituto Tecnológico de Massachusetts (MIT), fundador de EndTAB, una organización de educación tecnológica sin fines de lucro. La Directiva de la UE sobre la lucha contra la violencia contra las mujeres incluye estas creaciones como agresión.
Y la percepción de este ataque es tan clara que hasta la gran mayoría de usuarios de profundosegún el estudio de HSH, dando la alarma de hipocresía, denunciaron que la víctima era alguien que la buscaba (73%) y se sintieron “consolados e indignados” (68%) por la violación de su intimidación.
El crecimiento de los desnudos no autorizados se ha producido a pesar de las leyes que condenan estas prácticas y acompañan a las víctimas frente a la vinculada libertad de expresión que se aplica a los creadores de contenidos. “De conformidad con el artículo 18.1 de la Constitución, los derechos al honor, a la intimidación personal y familiar y a la propia imagen se encuentran dentro del rango de los fundamentales (…) El artículo 20.4 establece que el respeto de tales derechos constituye un límite al ejercicio de las libertades de la persona. expresión». Así avanza con dificultad la Ley Orgánica 1/1982 que regula esta materia.
“Desde el punto de vista teórico, existe un punto de referencia posible”, explica Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universitat de València. En Estados Unidos, la mayoría de las quejas se han incluido bajo la Ley de Derechos de Autor del Milenio Digital (DMCA) de 1998.
“Cuando se percibe la imagen real de una persona, pero la modifica con cualquier intención, existe una conducta instrumental que consiste en tratar su imagen sin consentimiento mientras no esté permitido”, explica Martínez. “Por lo demás”, Matiz, “es un humorista que genera una imagen con alma satírica y en un contexto claro”.
Pero estas regulaciones han resultado inadecuadas, ya que Europa aprobó leyes sobre servicios y mercados digitales en noviembre de 2022 (que entraron en vigor el pasado mayo) para “proteger los derechos fundamentales de los usuarios y establecer condiciones justas de jurisdicción para los usuarios”. empresas». Estas normas obligan a las grandes empresas a colaborar en la evaluación de riesgos, identificación, notificación y eliminación de enlaces sospechosos.
“Hay temas importantes: lo que ofrece el equipo, que siempre dirá que su aplicación no fue diseñada para delinquir, y lo que ofrece la creación, que hace de altavoz. La norma impone una colaboración más intensa a estos últimos”, añade Martínez.
Google admite las nuevas responsabilidades y, en respuesta escrita, ante el aumento de reclamaciones, declara: “Tenemos políticas para la pornografía profundo No está de acuerdo, ya que las personas pueden eliminar este tipo de contenido que incluye la imagen de los resultados de búsqueda. Estamos trabajando activamente en salvaguardias adicionales para ayudar a las personas afectadas. Por otro lado, tenemos un proceso de supresión que permite a los titulares de derechos proteger su trabajo en Internet”.
Meta también va en esta línea. Nick Clegg, como presidente de contratación global, anunció la medida el 6 de febrero: “Aplicamos etiquetas de Imaginado con IA imágenes fotorrealistas creadas con nuestra función, pero también nos gustaría poder hacer esto con contenido creado con herramientas de otras empresas». Consulte Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que implemente planes para agregar metadatos a las imágenes creadas con sus herramientas.
Las grandes tecnologías se combinan con la cruzada legal contra los profundo ya la reciente aprobación de la ley europea sobre inteligencia artificial, que obliga a etiquetar de forma inequívoca las creaciones desarrolladas con esta tecnología. El gobierno de Estados Unidos también está avanzando en esta dirección. “No se puede saber que el uso del sistema o sus resultados responden al ejercicio de la libertad de expresión y de la libertad de creación”, celebra el catedrático valenciano.
“La preocupación es común y empieza en ver una confluencia de intereses provenientes de distintas culturas jurídicas. Asegúrese de presentar el mensaje a estas empresas de que no todo vale la pena, que no se pueden lavar las manos diciendo ‘bueno, solo soy una plataforma y no puedo ser responsable de todo’. Los proveedores de servicios de la sociedad de la información influyen decisivamente en la viralización de los contenidos que se muestran. No soy un operador neutral ni un mero contenedor. Ellos forman parte de la operación, del juego”, concluye Ricard Martínez.