El desafío de regular su uso: "La inteligencia artificial está en cada centímetro de lo que hacemos"
La inteligencia artificial dejó de ser una tecnología reservada a laboratorios o grandes empresas tecnológicas. Está en los teléfonos, en las universidades, en organismos públicos, en empresas, en las aulas y en buena parte de las actividades cotidianas. Mientras su desarrollo avanza a una velocidad difícil de dimensionar, la discusión sobre cómo regularla todavía busca respuestas.
La advertencia volvió a cobrar fuerza a partir del planteo del Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, quien señaló que la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes expone a la humanidad a riesgos sin precedentes y reclamó una acción urgente por parte de los Estados y las empresas.
“Estamos al borde de un cambio irreversible que nos afecta no solo a nosotros sino a las generaciones futuras de la humanidad”, sostuvo Türk, al advertir que los derechos humanos se encuentran amenazados, incluido el derecho a la vida.
Para Paola Britos, directora de Ingeniería en Computación de la Universidad Nacional de Río Negro, el debate sobre la regulación de la inteligencia artificial no es nuevo, pero adquiere una dimensión cada vez más urgente.
"Es algo que se viene hablando hace un mucho: el tema de la no regulación”, explicó. Y planteó que el desarrollo de la IA puede compararse con otras grandes transformaciones tecnológicas de la historia. “Estamos ante una nueva revolución” en el programa Chocolate por la Noticia de El Cordillerano Radio 93.7, señaló, en referencia a un proceso que puede adquirir una dimensión comparable con la Revolución Industrial.
El problema aparece cuando se intenta trasladar esa necesidad de regulación al escenario internacional. La inteligencia artificial no reconoce fronteras y los sistemas pueden ser desarrollados en un país, alojados en servidores ubicados en otro y utilizados por personas u organizaciones de todo el mundo.
“Cada país regula de acuerdo a su contexto y es muy difícil lograr que todos los países se pongan de acuerdo”, explicó Britos.
La cuestión, además, no se limita a determinar qué pueden hacer las máquinas. También implica definir quiénes deben responder por su desarrollo y utilización: las empresas y organizaciones que diseñan y entrenan los sistemas, quienes los utilizan o los propios Estados.
“Hay que tener claro qué estamos regulando, si estamos regulando a las organizaciones que desarrollan y entrenan inteligencia artificial o si estamos regulando a los humanos”, planteó.
A eso se suma una dificultad jurídica concreta que tiene que ver con las limitaciones que puede tener un Estado para intervenir sobre sistemas cuyos servidores están ubicados fuera de su territorio. Por eso, para Britos, el debate sobre inteligencia artificial también involucra cuestiones de jurisdicción y derecho internacional.
Reglas también dentro de las organizaciones
Pero mientras los acuerdos globales avanzan con dificultad, la inteligencia artificial ya está siendo utilizada en instituciones concretas. Y allí aparece otro nivel de regulación, el que pueden establecer las propias organizaciones.
Para Britos, incluso en un mundo completamente globalizado, las reglas locales e institucionales tienen sentido. No necesariamente como sustituto de una regulación internacional, sino como una herramienta para establecer criterios claros sobre el uso de la tecnología en cada ámbito.
“Hay que usarla. Hay que que cada organización tenga claro cómo la usa y para qué la usa, hasta dónde se usa”, sostuvo.
La educación aparece para la especialista como uno de los espacios donde esa discusión resulta más evidente. “Yo no puedo permitirle, por dar un ejemplo, a un alumno que copie y pegue lo que encuentra en la inteligencia artificial como si fuera la gran verdad revelada”, apuntó.
El desafío, entonces, no consiste simplemente en prohibir el uso de estas herramientas, sino en enseñar a utilizarlas de manera crítica. “Yo tengo que enseñarle a usar la inteligencia artificial como herramienta de investigación. Que la cuestione, que la lea”, comentó.
Ese aprendizaje también implica comprender que las respuestas generadas por una IA no constituyen necesariamente una verdad por el solo hecho de haber sido producidas por un sistema tecnológico. A la vez, Britos puso el foco en la protección de la información personal. “Que no ponga datos propios, que no ponga datos personales ni en la inteligencia artificial ni en ningún lado en internet”, señaló.
Para la especialista, la responsabilidad también alcanza a las propias instituciones, que deberían establecer pautas precisas para evitar usos abusivos o inadecuados.
Y sintetizó el criterio que, a su entender, debería guiar a universidades, organismos, empresas y otras organizaciones: “Es importante que las organizaciones dejen claro cómo se usa, para qué se usa, cuándo se usa”.
Britos incluso vinculó esta necesidad con una expresión planteada recientemente por un conferencista durante el congreso de rectores desarrollado en Bariloche: la posibilidad de que, cuando no existen reglas claras, el uso de la inteligencia artificial termine desarrollándose en una suerte de “clandestinidad de uso”.
La idea plantea un dilema particularmente relevante para el ámbito educativo: si la tecnología ya está siendo utilizada, la ausencia de reglas no necesariamente significa que deje de utilizarse. Puede significar, en cambio, que se utilice sin criterios compartidos, sin formación y sin que las instituciones sepan con claridad cómo se está incorporando.
Una tecnología con capacidad para transformar y también para generar riesgos
Uno de los interrogantes que atraviesa el debate actual es hasta qué punto los sistemas de inteligencia artificial pueden desarrollar comportamientos que no estaban previstos por sus creadores.
Britos recordó que existen distintos casos en los que sistemas de IA han producido respuestas o acciones inesperadas. Sin embargo, señaló que personalmente no considera que la inteligencia artificial haya alcanzado todavía un nivel de autonomía comparable con el de una persona.
La especialista explicó que estos sistemas aprenden mediante técnicas de aprendizaje automático y algoritmos matemáticos, a partir de grandes cantidades de información. “Aprende para bien o para mal”, resumió.
Al mismo tiempo, admitió que el escenario podría modificarse si el desarrollo tecnológico continúa avanzando a la velocidad actual. Por eso insistió en que la regulación no debería llegar después de que los problemas aparezcan, sino acompañar el desarrollo de la tecnología.
Los riesgos pueden abarcar desde fraudes cada vez más sofisticados hasta situaciones mucho más complejas. La IA puede ser utilizada para producir contenidos falsos, manipular información o desarrollar herramientas con consecuencias difíciles de prever.
Pero Britos también rechazó una mirada exclusivamente negativa sobre la tecnología. La misma inteligencia artificial que puede ser utilizada para producir daños también puede generar herramientas capaces de mejorar significativamente la vida de las personas. “Hay gente que ha recuperado la movilidad gracias a la inteligencia artificial y es extraordinariamente maravilloso”, destacó. Y, al mismo tiempo, advirtió: “También se usa para todo lo contrario. Es también real”.
Bariloche frente a una tecnología que ya está presente
El debate adquiere una dimensión particularmente cercana para Bariloche en el marco de la discusión sobre la reforma de su Carta Orgánica.
Una normativa diseñada hace dos décadas enfrenta hoy una realidad tecnológica radicalmente diferente. La inteligencia artificial atraviesa la administración pública, la educación, las empresas, las comunicaciones y las actividades de los ciudadanos.
Para Britos, cualquier discusión sobre el futuro institucional de la ciudad debería contemplar esa transformación. “La inteligencia artificial está. Está en cada centímetro de lo que hacemos”, sostuvo Britos. Y reforzó la idea: “No hay lugar donde no esté”.
Por eso, más allá de la discusión sobre una eventual regulación internacional, nacional o local, la especialista considera que el primer paso es asumir que la tecnología ya forma parte de la vida cotidiana y establecer criterios para convivir con ella. “Por eso es tan importante tener claro cómo usarlas”, resumió.