Hay dos visiones encontradas sobre la suerte que traerá aparejada la inteligencia artificial para la humanidad. A algunas personas les preocupa que cuando los robots sean capaces de programarse a sí mismos, advertirán que los humanos son inútiles y se librarán de nosotros.
Otros creen que el día en que los robots adquieran sensibilidad -es decir, el momento de la singularidad- los humanos se asimilarán a las computadoras, volviéndose omniscientes e inmortales
Creo que todas estas visiones están equivocadas. No es así como ocurrirá.
El futuro de la inteligencia artificial será mucho más banal, incluso directamente triste.
Las fantasías humanas acerca de los robots derivan del prejuicio común de que están trabajando para la "verdad" o alguna clase de objetividad científica, o al menos que tienen una lealtad a una especie de tercero abstracto. A partir de allí, no es demasiado exagerado imaginar que su lealtad se desplace hacia ellos mismos, o al menos contra los humanos.
La realidad es muy diferente. La inteligencia artificial es una herramienta, a menudo un arma, que está dirigida a algunas personas y controlada por otras.
Un rifle sería una metáfora razonable: puede usarse para mantener la paz o para reprimir, pero en cualquier caso alguien lo apunta contra otra persona. La mayor diferencia está en la escala. Un algoritmo puede componerse una vez, dentro de un laboratorio de ciencia de datos, y luego aplicarse a miles de millones de personas simultáneamente.
El marketing de la inteligencia artificial tiende a oscurecer su naturaleza. Sea que se usen para seleccionar artículos de noticias, definir la audiencia de anuncios publicitarios o identificar delincuentes potenciales, los algoritmos son presentados como herramientas de objetividad, dirigidos contra nadie en particular y no controlados por nadie en particular.
Los rostros de los dueños de rifles tienden a estar ocultos, con frecuencia de manera deliberada. Si los viéramos con claridad, podría no complacernos lo que vemos.
La buena noticia es que no debemos temer el apocalipsis de robots como se lo suele concebir.
La gente no fabrica robots capaces de volverse en contra de sus dueños, de la misma manera en que no diseñarían un rifle con un cañón que apunte a la persona que lo dispara. La gente no cede el poder de manera voluntaria. Más bien, trata de camuflar el poder como algo benigno.
La mala noticia es que estas armas en verdad son potentes, con el poder de devastar las vidas de la gente de maneras que van desde identificar personas como un riesgo, por proclividad al delito, hasta quitarles sus hijos.
Una vez que estén directamente dirigidos contra el público, podríamos no poder diferenciar entre la realidad y el apocalipsis. Si terminamos usando chips subcutáneos que autocompleten nuestros pensamientos mientras competimos por los últimos empleos que queden, podríamos tener que admitir que, seamos dueños de nuestra singularidad o no, nos hemos convertido en sirvientes de nuestros señores, los robots.
No es coincidencia que algunos de los mayores promotores de la singularidad viven y trabajan en Silicon Valley. No quieren que todo lo que es tan malo acerca de los robots llegue a suceder, porque son ellos quienes tienen el dedo en el gatillo.
*Cathy O'Neil es una matemática que ha trabajado como profesora, analista de hedge-fund y científica de datos. Ella fundó ORCAA, una empresa de auditoría algorítmica, y es la autora de 'Weapons of Math Destruction'.
