En Perú, Chorrillos, dos alumnos del colegio St. George´s  comercializaban videos de contenido sexual de compañeras, creados con inteligencia artificial. Según se supo de boca de una de las madres de la menor afectada, los chicos estuvieron sacando fotos de sus compañeras, que luego utilizaron para la creación de los videos y fotos pornográficas. Las madres ya hicieron las denuncias correspondientes en la fiscalía.

Partiendo de que las tecnologías son neutras, no podemos hacernos los distraídos y ocultar que se pueden usar para el bien o para el mal. Y en ese sentido, vengo alertando desde hace muchos años de los peligros de crear fotos o videos pornográficos utilizando la deepfake. 

El año pasado, denunciábamos el caso de Kate Isaacs, de 30 años, inglesa. Ella se dió cuenta que estaba circulando en las redes un vídeo pornográfico con su rostro. Este caso tomó relevancia porque Kate es una persona común, diferente de personajes famosos que ya antes habían padecido el mismo asunto. Algo parecido ocurre ahora con las alumnas del colegio St. George´s.

Las herramientas de inteligencia artificial son cada vez más desarrolladas y también más económicas, muchas gratuitas, lo que las pone al alcance de todos. Esa popularización vino de la mano de la fama que le dió chatGPT, pero también a la disminución de sus costos. Hoy está lleno de herramientas gratuitas de inteligencia artificial generativa.      

A finales del año 2021 un usuario anónimo apodado justamente como “deepfake” publicó varios videos pornográficos en Reedit. En uno de ellos se veía a la actriz Gal Gadot manteniendo relaciones sexuales, cuando en realidad eran dos actores y el rostro de la mujer había sido reemplazado por el de la actriz. Las imágenes llamaron la atención por la perfección y su realismo. Otras personalidades perjudicadas fueron Emma Watson, Katy Perry, Taylor Swift, Scarlett Johansson y hasta la mismísima Michelle Obama. A partir de allí se llama deepfake a la inteligencia artificial que permite cambiar un rostro por otro, o incluso permite recrear discursos utilizando la voz de la persona y adulterando los movimientos de labios para un realismo total. Todo es falseable en nuestros días.

Esta tecnología llama la atención en dos aspectos preocupantes. El primero, es la perfección del resultado final. La segunda, es que esta tecnología está disponible al público y su acceso es cada vez más fácil. La conjunción de esto es realmente grave, no solamente por la posibilidad de cambiar discursos, o generar noticias falsas sino porque aparecen nuevas formas delictivas que están quedando impunes. 

Con la deepfake ya no preciso estar en posesión de ningún video íntimo. A las víctimas les usaron su imagen, extraídas de fotos que les tomaron sin consentimiento. Los países van a tener que trabajar arduo y comenzar a tipificar estas conductas con penas ejemplificadoras.