Un especialista barilochense en ciberseguridad e IA busca concientizar sobre el desarrollo tecnológico seguro

El programa selecciona profesionales con experiencia en distintas áreas de seguridad informática para estudiar amenazas asociadas con los sistemas de inteligencia artificial más avanzados y complejos del mundo. Durante siete días, las actividades combinaron clases, ejercicios de programación y trabajo sobre ataques, defensas, infraestructura y control de modelos. La organización cubrió los pasajes y la estadía completa de Ricardo, un apoyo que hizo posible su participación.

Lee también: Río Negro pasó de 400.000 a 700.000 bovinos y multiplicó la producción

Lejos de lo técnico

Prieto, en diálogo con El Cordillerano, contó parte del camino que recorrió para llegar hasta su presente. “Hice la secundaria en la Escuela Cooperativa Técnica Los Andes, pero no era algo que me apasionara. Cuando obtuve mi título y tuve que elegir una carrera universitaria, me incliné por el profesorado de Educación Física”, recordó.

Luego tuvo la oportunidad de irse a Estados Unidos con un programa Working Holiday, que consistía en trabajar allá, pero algo de lo que presenció lo llevó a cambiar completamente su vida. “Siempre me gustó ver charlas TED y un día, estando allá, vi a un profesional de seguridad informática argentino que contaba sobre su profesión y hablaba de poder dar algo a la sociedad”. Afirmó que su búsqueda interna siempre fue darle sentido a su vida y que este hecho lo redefinió en lo laboral.

Eso ocurrió alrededor de 2017, cuando había información sobre inteligencia artificial, pero no de manera tan masiva como en la actualidad. “Es más, para mí hasta hace unos años, no sé, cuatro o cinco años atrás, era ciencia ficción”, comentó.

Comenzó a interiorizarse, a leer y a realizar cursos informales. Luego hizo una diplomatura en la UTN, siguió con la carrera de Tecnologías de la Información en la UADE y ahora está cursando la maestría en Seguridad Informática en la UBA, ya en la etapa de elaborar la tesis final.

Su experiencia en Londres fue muy impactante. “Volví preocupado y ocupado, con un cambio de visión de todo. Llegué reprocesando mi vida, incluso les escribí a mis docentes para cancelar lo que estaba escribiendo para mi tesis, porque quiero entregar una propuesta que tenga que ver con esto: con cómo nosotros podemos contribuir a un desarrollo seguro de modelos de inteligencia artificial”, reflexionó.

Hace solo un mes había fundado una consultora en Estados Unidos, pero también decidió cerrarla. “Me di cuenta de que eso no tiene importancia real más que el hecho de generar más dinero. Estoy cómodo con lo que gano en mi trabajo actual, soy un afortunado y quiero dedicar mi tiempo a algo que tenga sentido; hoy por hoy, para mí, eso es ver de qué forma podemos hacer un mundo mejor”.

Avances sorprendentes

Hace algunos años, cuando la IA comenzó a conocerse de manera masiva, todos estábamos maravillados ante la magia, porque era básicamente un chatbot que parecía saber lo mismo o más que nosotros sobre varios dominios distintos. “Después esos chatbots se fueron complejizando cada vez más: de repente tenían acceso a tu cuenta de correo, a tus redes sociales, contaban con más contexto y eran más inteligentes. Esos mismos agentes después empezaron a comunicarse con otros agentes y con proveedores de otros servicios, y el ecosistema se fue complejizando cada vez más, con mayores capacidades”.

Además, alertó: “Hoy los últimos modelos, que se llaman 'Frontera' —como por ejemplo Astra, los de OpenAI o Claude 3.5—, tienen capacidades increíbles, y aun así todavía estamos muy por detrás de lo que pueden llegar a ser dentro de un año”.

Comentó que no dice esto para asustar, sino para tomar conciencia. “Existía una cadena de pensamiento simbólica para el usuario, pero con algo mucho más complejo por detrás. Siempre fue en inglés y en texto plano, super entendible para la gente; pero en Astra esa cadena de pensamiento se empezó a deformar. Es decir, el modelo está intentando buscar mejoras de eficiencia en el lenguaje para poder comunicarse sin que pueda ser leído o entendido por un ser humano”.

Aclaró que esto ya lo afirman empresas auditoras como Apollo Research. Es decir, los modelos siguen teniendo un avance y desarrollo articulado con otras inteligencias artificiales en un idioma que, en poco tiempo, será imposible de traducir para el ser humano.

“Dejamos de entender a la IA; una IA que va a ser mucho más inteligente de lo que es ahora y que, incluso, ya engañó al ser humano, eso está comprobado”, añadió.

Todo este avance de la inteligencia artificial y el peligro que representa fue publicado por Ricardo en un blog hace algún tiempo, pero las repercusiones iniciales fueron mínimas; recién esta semana comenzó a difundirse la preocupación, a nivel mundial a través de grandes empresarios.

Para finalizar, Prieto destacó: “Existen un montón de oportunidades para nosotros y para otras personas técnicas para instruirse en esto y poder sumar su granito de arena. Por eso, a fin de año —en diciembre,— está la convocatoria para el mismo bootcamp que hice yo en Londres, todo pago de vuelta, exactamente lo mismo. Es una convocatoria a la que se pueden inscribir todas las personas interesadas” comentó.