Los gobiernos sólo deben usar las herramientas de reconocimiento facial basadas en Inteligencia Artificial para llevar a cabo labores de seguridad e inteligencia en casos específicos, de acuerdo con Gabriela Ramos, subdirectora General de Ciencias Sociales y Humanas de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).
Durante la conferencia Inteligencia Artificial: hablemos de ética, inclusión y derechos humanos, como parte de la semana del Premio Nacional Monte de Piedad 2021, la directiva de esta oficina de la Organización de las Nacionales Unidas (ONU) dijo que si bien la recomendación inicial era la prohibición del uso de este tipo de tecnología en las tareas de seguridad pública, si los gobiernos pueden enmarcar su utilización en investigaciones puntuales, como parte de casos judiciales complejos, es posible recurrir a estas tecnologías, con ciertas salvaguardas.
"Si hay un caso judicial muy complejo en donde la utilización de ese reconocimiento facial nos va a ayudar a cerrar y a concluir positivamente la investigación, yo digo que se puede hacer. Lo que pasa es que siempre debemos tener salvaguardas muy concretas, como órdenes judiciales y pruebas muy sólidas, pero yo no las eliminaría totalmente", dijo.
Según un análisis de la compañía de ciberseguridad y privacidad Surfshark, 109 países de todo el mundo, incluido México, utilizan técnicas de reconocimiento facial en tareas de vigilancia. De acuerdo con el índice de Vigilancia Global con Inteligencia Artificial (AIGS) desarrollado por el think tank Carnegie Endowment for International Peace, diversos gobiernos utilizan tecnologías de reconocimiento facial e Inteligencia Artificial, provistas por empresas como Cisco, Dahua, Infinova, Telmex y Thales, con desarrollos tanto chinos como estadounidenses.
Inteligencia Artificial y desigualdad
Gabriela Ramos definió la Inteligencia Artificial como aquellas máquinas que son capaces de imitar ciertas funcionalidades de la inteligencia humana, incluyendo características como la percepción , el aprendizaje, el razonamiento, la resolución de problemas, la interacción del lenguaje y la producción del trabajo creativo.Pese a que, de acuerdo con la subdirectora de la Unesco, la Inteligencia Artificial es una de las tecnologías que nutren la revolución digital y a que, hacia 2030, impulsará la economía global en 14% o 15.7 billones de dólares, estos beneficios económicos serán orientados principalmente hacia la economía de China (26% de su PIB), de Estados Unidos (14% de su PIB); de Europa (10.7% de su PIB) y de algunas economías asiáticas desarrolladas (10.4% de su PIB); en América Latina, el impacto de estas tecnologías será de apenas 6% del PIB de la región.
"Si vivimos en un mundo desigual que además se ha vuelto más desigual por los impactos de la pandemia de Covid-19, estas tendencias no son muy esperanzadoras", dijo Ramos y añadió que mientras que la Inteligencia Artificial supone un potencial para ayudar en la promoción de la salud y la recuperación socioeconómica, también implica riesgos para la dignidad humana y los derechos humanos, debido al mal uso y al abuso que se le puede dar a esta tecnología.
Recomendación
De acuerdo con Ramos, los países miembros de la Unesco dieron el mandato a la organización para establecer un estándar global para el desarrollo de tecnologías de Inteligencia Artificial, ya que es urgente un marco normativo global para armonizar el creciente número de estrategias nacionales y regionales en esta materia y por eso la Unesco ha venido desarrollando desde hace dos años un instrumento para la normalización de la ética de la Inteligencia Artificial, cuya aprobación por parte de la Conferencia General está prevista para octubre del 2021.La recomendación de la Unesco está basada en los valores de respecto a los derechos humanos y promoción de la dignidad humana, los derechos humanos y las libertades fundamentales; así como en la protección del medio ambiente y el florecimiento de los ecosistemas y garantizar la inclusión y la diversidad. También está regida por los principios de proporcionalidad, seguridad, equidad y no discriminación, sostenibilidad, privacidad, supervisión y determinación humanas, transparencia, responsabilidad y rendición de cuentas, sensibilización, alfabetización y gobernanza.
Evaluación de impacto ético
Además de estos valores y principios, la recomendación de la Unesco cuenta con acciones de política concretas entre las que destaca la creación de una Evaluación de Impacto ético y una política de datos. Ramos comparó esta Evaluación de Impacto ético en materia de Inteligencia Artificial con la Evaluación de Impacto Ambiental que requieren muchos gobiernos para otorgar autorizaciones a distintos proyectos de construcción e infraestructura.Dijo que la Unesco ya está reuniendo a un panel de expertos para desarrollar esta evaluación a partir de preguntas concretas como: ¿qué tan representativas son tus bases de datos?, ¿qué tanto has utilizado criterios técnicos para eliminar los sesgos de tu modelo? y ¿qué tan diversos son tus equipos?
"Hay varios criterios que vamos a incluir. Yo espero que esta herramienta podamos tenerla lista para principios del año que entra y poder empezar a utilizarla ya a mediados del 2022 con empresas, con gobiernos y con los propios individuos, porque los individuos también tenemos la responsabilidad de protegernos", dijo.
