Cuando la mentira es la verdad, deepfake

Cuando la mentira es la verdad dice la letra de la canción de Los divididos, y realmente todo parece que fuera así. Sin haber superado un tema delicado como el de las noticias falsas, nos topamos con la deepfake.

El fenómeno aparece a finales del año pasado cuando un usuario anónimo apodado justamente como “deepfake” publicó varios videos pornográficos en Reedit. En uno de ellos se veía a la actriz Gal Gadot con su hermano manteniendo relaciones, cuando en realidad eran dos actores y el rostro de la mujer había sido reemplazado por el de la actriz. Las imágenes llamaron la atención por la perfección y su realismo. Otras personalidades perjudicadas fueron Emma Watson, Katy Perry, Taylor Swift, Scarlett Johansson y hasta la mismísima Michelle Obama. A partir de allí se llama deepfake a la inteligencia artificial que permite cambiar un rostro por otro, o incluso permite recrear discursos utilizando la voz de la persona y adulterando los movimientos de labios para un realismo total.

Esta tecnología llama la atención en dos aspectos preocupantes. El primero, es la perfección del resultado final. La segunda, es que esta tecnología está disponible al público y su acceso es relativamente fácil. La conjunción de esto es realmente grave, no solamente por la posibilidad de cambiar discursos, o generar noticias falsas sino porque leyes muy nuevas ya tienen olor a naftalina. En ese sentido, la ley que pretende condenar la porno venganza va a nacer vieja, obsoleta e inservible para proteger la imagen y el honor de la víctima. El proyecto con media sanción pretende modificar el Código Penal, incorporando penas de 6 meses a 4 años de prisión a quien, hallándose en posesión de imágenes de desnudez total o parcial, o videos de contenido sexual o erótico de una o más personas, las hiciere públicas o difundiere por medio de comunicaciones electrónicas, telecomunicaciones o cualquier otro medio o tecnología de transmisión de datos. Con la deepfake ya no preciso estar en posesión de ningún video, solo preciso cualquier foto o muchas fotos que puedo obtener fácilmente en Facebook y listo. Bienvenidos nuevamente al mundo de los delitos impunes.

Hace pocos días se divulgó con bombos y platillos la ley que condena la tenencia de pornografía infantil y me pregunto cómo afecta esta tecnología a ese delito.

Antes de responder, quiero hacer un breve resumen de lo ocurrido en EEUU. La sección 2256 del Título 18 del Código de los Estados Unidos define pornografía infantil como cualquier representación visual de una conducta sexual explícita que involucre a un menor, categorizando a éste como a una persona con menos de 18 años de edad. Cuando se hablaba de representación visual se incluía a fotografías, videos, y también a las imágenes generadas en forma digital o por computadoras indistinguibles de un menor real, como así también a las imágenes creadas, adaptadas o modificadas que parezcan representar a un menor identificable, como lo establecía la Child Pornography Prevention Act de 1996. Se puede observar que una ley de hace 22 años ya contemplaba la posibilidades tecnológicas pero, la Suprema Corte de Justicia de los Estados Unidos, en la sentencia Ashcroft v. Free Speech Coalition dijo que esa definición de representación era muy amplia invalidándola, como así también dijo que no era constitucional la inclusión de imágenes generadas por computadoras dentro del concepto de pornografía infantil.

Por nuestra parte, el artículo 128 del Código Penal de la Nación dice que “Será reprimido con prisión de seis (6) meses a cuatro (4) años el que produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere, por cualquier medio, toda representación de un menor de dieciocho (18) años dedicado a actividades sexuales explícitas o toda representación de sus partes genitales con fines predominantemente sexuales, al igual que el que organizare espectáculos en vivo de representaciones sexuales explícitas en que participaren dichos menores”. Aquí también se usa el término representación en sentido amplio, al menos eso parece.

En la interpretación de este artículo hay dos posturas. Por un lado quienes interpretan el término “representación” de acuerdo al artículo 2 inciso c) del “Protocolo facultativo sobre la venta de niños, la prostitución infantil y la utilización de niños en la pornografía” que exige que la representaciones de un niño dedicado a actividades sexuales explícitas o sus partes genitales sean reales. Por el otro lado, ubicamos a quienes tienen una interpretación amplia de la palabra incluyendo imágenes virtuales de menores de edad, hasta incluso animes o mangas pornográficos. Esta interpretación tan amplia parecería chocar de frente con la novísima incorporación al código penal que condena la simple tenencia de pornografía infantil. Es decir, una persona que tenga guardados en su computadora dibujos animados de pornografía infantil podría ser condenado. Ello, aún cuando no haya menores reales involucrados y cuando no hay estudios contundentes que demuestren que el consumidor de pornografía infantil virtual quiera luego consumir real, o que sienta una propensión por abusar o cometer abusos sexuales en menores reales.  Es decir, se lo condenaría por un peligro abstracto.

Para concluir, la deepfake entra en una zona gris legal, nos desacomoda y nos obliga a repensar el derecho. Esta no será la primera ni la última vez que las tecnologías nos obligue a hacerlo.