El futuro de la inteligencia artificial: Los titanes de la tecnología declaran sus inquietudes sobre la ética de la IA

Las compañías de tecnología más importantes están teniendo especial cuidado para garantizar que el uso de inteligencia artificial para analizar montañas de datos, construir asistentes virtuales o realizar análisis faciales no terminen cruzando los límites que la ética dispone. Lo preocupante es que sus esfuerzos para mitigar las inquietudes de que sus máquinas o los nuevos softwares pueden usarse para fines infames, no han sido aceptados universalmente. Algunos escépticos lo ven como una simple fachada por parte de las corporaciones más interesadas en las ganancias que en lo que es mejor para los intereses de la sociedad.

La “Inteligencia Artificial ética”, se ha convertido en una nueva frase de moda corporativa, que se ha analizado en comités de revisión interna, títulos de trabajo de lujo, proyectos de investigación e iniciativas filantrópicas. El objetivo de los movimientos es abordar las inquietudes sobre el sesgo racial y de género que surgen en el reconocimiento facial y otros sistemas de inteligencia artificial, así como abordar las inquietudes sobre la pérdida de puestos de trabajo debido a la tecnología y su uso por parte de la policía y el ejército.

¿Pero cuánta sustancia hay detrás de las campañas de ética cada vez más públicas? Y, ¿quién decide qué actividades tecnológicas no hacen daño?

Google recibió varias interrogantes que no pudo responder acerca de la ética de la inteligencia artificial cuando formó una nueva junta de asesores externos a fines de marzo para ayudar a guiar cómo utiliza la IA en sus productos. Pero en lugar de ganarse a los críticos potenciales, provocó el rencor de los empleados, desarrolladores y ejecutivos de la propia compañía. Poco más de una semana después, Google se inclinó ante la presión de la reacción y disolvió el consejo.

El tablero exterior se vino abajo en etapas. Uno de los ocho miembros inaugurales de la junta se retiró en unos días y otro se convirtió rápidamente en el blanco de las protestas de los empleados de Google que dijeron que sus puntos de vista conservadores no se alinean con los valores profesados por la empresa.

Cuando miles de empleados solicitaron la destitución de Kay Coles James, Presidente de Heritage Foundation, Google disolvió la junta.

"Ha quedado claro que en el entorno actual, (el consejo) no puede funcionar como queríamos", dijo la compañía en un comunicado.

Ese entorno es una de las preocupaciones crecientes de que las campañas de ética de inteligencia artificial corporativas carecen de efectividad.

"Creo que (la decisión de Google) refleja una comprensión más amplia del público de que la ética implica algo más que la creación de una junta de ética sin un marco institucional para la rendición de cuentas", dijo el investigador de sobre IA, Ben Wagner.

La iniciativa original de Google cayó en una tendencia de la industria tecnológica que Wagner llama "lavado de ética", que describe como un esfuerzo superficial es principalmente un espectáculo para el público o los legisladores.

"Es básicamente un intento de fingir que estás haciendo cosas éticas y utilizas la ética como una herramienta para llegar a un fin, como evitar la regulación", dijo Wagner, profesor asistente de la Universidad de Economía y Negocios de Viena. "Es una nueva forma de autorregulación sin llamarlo así por su nombre".

Las grandes empresas han hecho un esfuerzo cada vez más visible para discutir sus esfuerzos de inteligencia artificial enmarcados en lo que la ética dispone en los últimos años.

Microsoft, que a menudo trata de posicionarse como un líder de la industria en temas de ética y privacidad, publicó sus principios sobre el desarrollo de la IA y publicó un breve libro que discutía las implicaciones sociales de la tecnología y además, ha pedido cierta regulación gubernamental de las tecnologías de la IA.

El presidente de la compañía incluso se reunió con el Papa Francisco a principios de este año para discutir la ética de la industria.

Amazon por otro lado, anunció recientemente que está ayudando a financiar la investigación federal sobre la "equidad algorítmica", y Salesforce emplea a un "arquitecto" para la práctica ética de la inteligencia artificial, así como a un oficial "jefe de uso ético y humano". Es difícil encontrar una empresa de tecnología de marca sin iniciativas similares.

Es bueno que las empresas estén estudiando el tema y buscando perspectivas sobre la ética de la industria, dijo Oren Etzioni, director ejecutivo del Instituto Allen de Inteligencia Artificial, una organización de investigación. Pero en última instancia, dijo, el CEO de una empresa, tiene la tarea de decidir qué sugerencias sobre ética sobre IA puede incorporar en las decisiones de negocios.

"Creo que en general es un paso positivo", dijo. “Dicho esto, la prueba está en una implementación exitosa”.

El impacto que la inteligencia artificial puede tener en la sociedad nunca ha sido más claro, dijo Etzioni, y las compañías están reaccionando a los estudios sobre el poder de los algoritmos de recomendación y el sesgo de género en la IA.

Pero, como lo demuestra el intento de Google, discutir los problemas en el ojo público, también invita al escrutinio público.

Ahora sería el momento para que Google establezca principios de ética que incluyan compromisos que deben cumplir, supervisión externa y otros puntos de control para hacerlos responsables.

Incluso si las compañías siguen estableciendo juntas externas para supervisar la responsabilidad de la IA, la regulación gubernamental seguirá siendo necesaria, dijo Liz O'Sullivan, una trabajadora tecnológica que dejó la empresa de inteligencia artificial Clarifai sobre el trabajo de la compañía en el Proyecto Maven del Pentágono, el mismo proyecto que abandonó Google después de que sus empleados protestaron.

O’Sullivan desconfía de las juntas o consejos y las sugerencias que apuntan cumplir. Ella cree que las grandes compañías están formando Juntas solo para dar una impresión pública positiva y no para realmente restringir métodos poco éticos.

Con el avance de la implementación de la Inteligencia Artificial surgirán cambios reales, regulaciones de los estados y las grandes compañías ya no podrán simplemente fingir que les importa la ética en cuanto a la IA.