Por Gabriela Origlia, E&N
¿Hasta dónde los algoritmos dominan la vida cotidiana? ¿Quién controla a estas matemáticas que usan las computadoras para tomar decisiones? La definición más simple de los algoritmos es que se tratan de una secuencia de reglas que toman datos de entradas y los transforman en datos de salidas. Entonces, si comúnmente se leen determinadas noticias, esos mismos medios ofrecerán otras similares; lo que leemos al abrir una red social también depende de esa lógica, al igual que lo que ofrecen las plataformas de ventas y las coincidencias que apuntan las aplicaciones para encontrar pareja.
Los algoritmos no piensan; se ejecutan según las instrucciones. Hoy son millones de datos los que se procesan mediante la inteligencia artificial y de ahí surgen los algoritmos. Por caso, los bancos los usan para determinar el “perfil” de un cliente. Para Kevin Slavin, exprofesor del MIT Media Lab y quien ha dado varias charlas TED sobre “cómo los algoritmos configuran nuestro mundo’, éstos moldean la realidad aunque la mayoría no los entiende.
“Estamos escribiendo estas cosas que ya no somos capaces de leer -agrega- Lo hemos vuelto ilegible. Y hemos perdido la noción de qué es exactamente lo que sucede en este mundo que hemos creado”.
Lucía Velasco, economista especializada en algoritmos y autora del libro “¿Te va a sustituir un algoritmo?”, ratifica que están “presentes en nuestra vida porque hoy en día usamos la tecnología para casi todo: desde el mecanismo de desbloqueo del teléfono con tu cara, el match de Tinder, las películas o la música que te sugieren las plataformas, los traductores online, asistentes virtuales, pero también el precio del seguro del coche o de salud o si se tiene derecho a un crédito y de qué cantidad”.
“Han llegado también a las fábricas, a los supermercados y a las oficinas -agrega-. Las empresas se han digitalizado porque es más eficiente y más barato tener un sistema automático que te calcula el costo de tu cesta de la compra en un segundo, en lugar de una cajera pasando productos por delante de la máquina 8H”.
Advierte que el mercado laboral está cambiando por la incorporación masiva de la tecnología, una situación que la pandemia del Covid-19 aceleró. En su libro Velasco plantea la pregunta -aclara que no lo afirma- respecto de si los algoritmos pueden sustituir a las personas.
Cuenta la historia de una periodista y de su familia que va viendo cómo sus trabajos van siendo modificados por la digitalización. También ofrece datos y estrategias para “poner en marcha respuestas para que la sociedad y los gobernantes hagan frente a un cambio real y presente”.
Virginia Eubanks es politóloga y docente universi- taria de Albany (Nueva York); autora de “La automatización de la desigualdad”, apunta que el uso de los algoritmos por parte de los gobiernos puede ayudar a consolidar inequidades y castigar a los más pobres. Se concentró en tres casos de Estados Unidos y concluye en que los algoritmos se alinean “con la doctrina de la austeridad y el hipercapitalismo”. La base es que los recursos públicos siempre son in- suficientes para responder a las necesidades, entonces se aplican algoritmos para otorgar, por ejemplo, vivien- das sociales.
La peor parte -considera Eubanks- es que las administraciones creen que no toman decisiones, sino que dejan esa responsabilidad a las máquinas. “El algoritmo al final es una forma de eximirnos de las consecuencias humanas de las decisiones políticas. Es atractivo, ahorra dinero y es políticamente muy viable”, sintetiza.
No todo es perfecto
Velasco repasa que los algoritmos tienen mucha historia. La palabra fue creada por un matemático persa del siglo IX, Al-Khwarizmi, que produjo el primer libro conocido de álgebra. El boom de los actuales algoritmos informáticos viene de la mano de la revolución digital y del aumento de capacidad de computación, así como la velocidad de conexión.
La economía de las plataformas es una derivada de lo mismo: mejora de la velocidad de conexión, desarrollo de internet y democratización del acceso a la red que hace que miles de millones de personas compartan un espacio virtual. Pero no está necesariamente vinculada con los algoritmos. Al seguir determinados patrones de comportamientos, los algoritmos sugieren más de lo mismo. Hay analistas que hace tiempo vienen alertando sobre que excluyen opiniones diferentes a las propias; es decir, es difícil escapar del círculo.
Velasco lleva ese patrón al mundo del trabajo. Los algoritmos se entrenan con datos. Imaginemos le enseñamos a un algoritmo a distinguir la foto de un CEO. Si para que lo aprenda se usan solo fotos de “señores blancos y con unas determinadas características, por ejemplo rubios, el algoritmo dará por hecho que los CEO solo pueden ser hombres blancos rubios”. “No podrían ser de otra raza ni tener ninguna discapacidad ni tampoco ser mujeres porque han aprendido que CEO = hombre blanco rubio. Cuando una persona busque en internet la palabra solo saldrá esa imagen”.
En ese contexto, advierte que el uso masivo de algoritmos para automatizar casi todo puede hacer que se cree un modelo de sociedad concreto “que no sea diversa ni inclusiva; por eso es fundamental la transparencia algorítmica y las auditorías de algoritmos”.
Eubanks sufrió en carne propia los errores que pueden cometer estos sistemas: su pareja fue a comprar medicamentos con el seguro médico, pero se los rechazaron por interpretar que era un posible fraude. Le suspendieron la cobertura hasta que demostrara que no había hecho nada incorrecto. Exactamente a la inversa de lo que sostiene el sistema penal. Enfatiza que la problemática es global, no particular de determinados países. Para Eubanks, es muy difícil que la gente proteste o reclame por decisiones tomadas por algoritmos porque ni siquiera sabe que existen.
¿Qué herramientas tiene el ciudadano de a pie para evitar que lo gobierne la lógica del algoritmo? Para Velasco, en primer lugar, no dar por hecho que todo lo que determine un algoritmo es necesariamente lo correcto o no es cuestionable, al contrario.
Números y gobernanza
El segundo punto es exigir que siempre haya un “proceso manual de trato con personas y no con máquinas, porque como seres humanos nos merecemos ese respeto”. Lo tercero que menciona es que es “fundamental que se incluya en la agenda política la democratización digital y que la tecnología esté al servicio de las personas para no acabar encontrándonos con que nuestro jefe de pronto es un algoritmo”.
Daniel Innerarity, catedrático de filosofía política y social, investigador Ikerbasque en la Universidad del País Vasco y director del Instituto de Gobernanza De- mocrática, señala que gobernar es, en gran medida -y lo será aún más- “un acto algorítmico”. Plantea que podría llamarse “algocracia” a este sistema en el que se utilizan algoritmos para recoger, cotejar y organizar los datos a partir de los cuales se toman las decisiones. En esa línea se pregunta si es congruente este tipo de gobernanza con la democracia.
“El cómodo paternalismo de las sociedades algorítmicas consiste en que da a las personas lo que estas quieren, que gobierna con incentivos proporcionados, que se adelanta, invita y sugiere. Trasladar este modelo a la política no tendría mayores problemas si no fuera porque el precio de estas prestaciones suele ser el sacrificio de alguna esfera de libertad personal -señala en un texto publicado por La Vanguardia-. Teniendo en cuenta que hay una discrepancia en la autodeterminación que supuestamente exigimos y la que de hecho estamos dispuestos a ejercer cuando hay comodidades y prestaciones de por medio, el resultado es que la satisfacción de necesidades se hace con frecuencia a cambio de espacios de libertad”.
Un punto clave es que la mayor parte de las previsiones algorítmicas se basan en la idea de que el futuro será lo más parecido al pasado, de que nuestras preferencias futuras representarán una continuidad de nuestro comportamiento anteriores. Para Innerarity, la gobernanza algorítmica no constituye una amenaza para la democracia porque condiciona las decisiones presentes “sino, sobre todo, porque se desentiende de nuestras decisiones futuras. La democracia no es hacer lo que queremos sino, muchas veces, poder cambiar lo que queremos”.
Insiste en que la democracia representativa es un modo de articular el poder político que lo atribuye a un órgano determinado y de acuerdo con una cadena de responsabilidad y legitimidad en la que se verifica el principio de que todo el poder procede del pueblo. “Desde esta perspectiva la introducción de sistemas inteligentes autonomizados aparece como algo problemático”, apunta.
El experto sostiene que no se debe cesar en “la explicabilidad, la generación de confianza o la idea de que entender no es tanto un asunto subjetivo sino colectivo, que tiene que ser facilitado y regulado institucionalmente”
