La vida en los tiempos del Big Data

¿Hacia dónde nos llevan los algoritmos?

Hace poco terminé de leer dos libros que exploran el fenómeno de los datos –el famoso Big Data– y su impacto en la vida cotidiana. ¿Cómo están afectando los datos a nuestras vidas? ¿Qué consecuencias nos traen? ¿Nos despertaremos un día con una revolución imprevista?

Estoy hablando de The Glass Cage: Automation and Us ($) escrito por Nicholas Carr y Automate This: How Algorithms Came to Rule the World ($) de Christopher Steiner. Ambos son libros recomendables que tratan sobre la enorme –y escalofriante– influencia que están teniendo los algoritmos en distintas facetas de la vida social sin darnos cuenta. 

El contrapunto entre ambos es interesante, ya que en la mayoría de los argumentos están en veredas opuestas: Carr tiene una postura ciertamente defensiva y hasta un tanto fóbica a la invasión de los datos en la vida social; mientras que Steiner opta por una postura más pragmática: más nos vale entenderlos que resistir. 

Carr y la jaula de cristal

En The Glass Cage Nicholas Carr indaga sobre los peligros de la automatización de nuestra vida cotidiana. No es un libro tecnológico ni de algoritmos, tampoco sobre robots. Es más bien un relato que pretende enseñar las consecuencias que trae a nuestras habilidades «humanas» la creciente dependencia en el software. 

Así lo introduce:

This is a book about au­toma­tion, about the use of com­put­ers and soft­ware to do things we used to do our­selves. It’s not about the tech­nol­ogy or the eco­nom­ics of au­toma­tion, nor is it about the fu­ture of ro­bots and cy­borgs and gad­getry, though all those things enter into the story. It’s about au­toma­tion’s human con­se­quences.

Para quienes lo hayan leído antes en The Shallows: What the Internet is Doing to our Brains ($) encontrarán un argumento muy parecido: si antes la exorbitante cantidad de información nos estaba haciendo más difícil aprender y focalizar nuestra atención, hoy los algoritmos y la automatización nos están dañando nuestras habilidades de aprendizaje como la memoria, nuestra orientación espacial, visión, identificación de patrones, reacciones motoras –esto es, los reflejos– y otras capacidades físicas.

Su tesis es muy sencilla: Al delegar cada vez más las tareas y actividades en las computadoras (software y algoritmos) estamos desarrollando una menor actividad neurológica. En consecuencia, si “entrenamos” cada vez menos nuestros cerebros, nuestras habilidades cognitivas serán también menores. Si en The Shallows decía que el exceso de información nos está haciendo «más tontos», en The Glass Cage los algoritmos y la automatización nos están haciendo «más inútiles».

Durante el libro va dando muchos ejemplos, y entre ellos el de la industria aeronáutica, que según Carr, es el gran «banco de pruebas» para ver las consecuencias de la automatización. 

Así lo explica:

(…) the shift from mechanical to digital systems, the proliferation of software and screens, the automation of mental as well as manual work, the blurring of what it means to be a pilot—offers a roadmap for the much broader transformation that society is going through now. (…) As we begin to live our lives inside glass cockpits, we seem fated to discover what pilots already know: a glass cockpit can also be a glass cage.

Tras analizar varios casos de accidentes aéreos, se observa que cuando fallan los controles automáticos –el software- los pilotos de hoy ya no tienen la destreza necesaria para poder comandar la máquina en modo manual. Muchos accidentes recientes se debieron a estas fallas humanas. A lo largo del tiempo, los reflejos, experiencia y atención se ven disminuidos por el hecho de delegar la tarea al ordenador. Y ahí es donde nos vemos dentro de la jaula de cristal

Esta situación no sólo se presenta en la industria de la aviación. Por ejemplo, los arquitectos están perdiendo la habilidad para el diseño manual de dibujos y esquemas por las herramientas de CAD, al punto que sería técnicamente imposible diseñar hoy un edificio moderno sin la ayuda de computadoras. Lo mismo sucede en la medicina con los diagnósticos –Carr muestra una posición muy crítica hacia la informatización de la salud– y también lo ven los programadores de software, que ven todos los días el avance de los IDEs (entornos de desarrollo) para hacerles el trabajo más ¿fácil?.

Por fuera del ámbito laboral también hay ejemplos interesantes. Carr cuenta el caso de cómo la tribu de los Iniut, expertos en la navegación natural, es decir, a través de referencias del ambiente (ríos, montañas, estrellas, nubes) están perdiendo esas capacidades por utilizar con mayor frecuencia los dispositivos de navegación automática (GPS). El argumento es el mismo: lo que no se ejercita se termina perdiendo, y cada vez que te dejas guiar por el móvil tu hipocampo se hace un poco más perezoso.

El problema, sostiene Carr, es que la automatización “nos da lo que no necesitamos, al costo de dejar de hacer lo que nos hace mejores”. Sin la práctica, sin la repetición, sin el ensayo, nuestros cerebros no conseguirán dominar el proceso de aprendizaje (y algo de esto me recuerda a la regla de las diez mil horas que cuenta Malcolm Gladwell en Outliers) para adquirir una nueva habilidad. En definitiva, seremos buenos para nada.

¿Quién maneja los hilos?

Si The Glass Cage nos deja un sabor amargo –y un tanto pesimista, hay que decirlo– la propuesta de Steiner en Automate This nos viene a compensar la tarde. No es que sea una visión romántica o inocente, sino más bien pragmática. Los algoritmos están aquí –desde hace bastante, enfatiza– y lo único que podemos hacer es llevarnos bien con ellos. 

Si Carr tomaba como testigo a la industria de la aviación, Steiner lo hace con la industria de la información financiera. La imperiosa necesidad de predecir para optimizar la toma de decisiones fue lo que realmente cambió el mundo de las finanzas. A comienzos de los años ochenta el ascenso de los quants –analistas cuantitativos– de la mano de Thomas Peterffy en Wall Street fue lo que cambió las reglas. Su historia es muy interesante. Hoy, el 60% de las transacciones bursátiles en los Estados Unidos están hechas por bots, programas que analizan miles de variables antes de decidir, de forma autónoma, en dónde invertir millones de dólares. Algunos bots están incluso programados para permanecer en silencio, durante meses, esperando el momento de dar la emboscada a otro algoritmo y explotar sus deficiencias. Guerra de guerrillas.

Emprendedores y académicos con olfato vieron inmediatamente otras posibilidades para los bots: hoy pueden predecir cuál es la canción que permanecerá más tiempo en el top de los charts o las probabilidades de Irán para enriquecer uranio. Los algoritmos pueden incluso ayudarnos a detectar las notas correctas en la apertura de A Hard Day’s Night, que se mantuvieron en misterio durante cuarenta años; o predecir las probabilidades de compatibilidad de astronautas en misiones espaciales. 

Pero para Steiner todavía siguen necesitando de muchas mentes:

But most of the data is just noise; it’s meaningless. To work properly, predictive algorithms need instructions that allow them to ignore the noise and zero in on the factors that matter.

¿Esto nos trae algún peligro? Steiner no es tan categórico como Carr, y toma cierta posición neutral sobre las implicaciones sociales. La pregunta que hay que hacerse, sugiere, es quién está detrás de ellos o qué puede pasar cuando no se los controla. Así lo explica:

Algorithms normally behave as they’re designed, quietly trading stocks or, in the case of Amazon, pricing books according to supply and demand. But left unsupervised, algorithms can and will do strange things. As we put more and more of our world under the control of algorithms, we can lose track of who –or what– is pulling the strings.

Párrafo aparte merece el capítulo que Steiner dedica a los pioneros en las ciencias matemáticas y lógicas. Figuras como Leibniz, Euler, Pascal, Gauss o Boole, todos europeos, fueron quienes pusieron los cimientos para la futura ciencia de la informática. Sin embargo, el siglo XX encontraría en los Estados Unidos, con von Neumann y Shannon, el mejor prólogo a los Facebook y Google de hoy.

¿Qué pasará con nuestros trabajos?

Más allá de tener diferencias, ambos libros tocan con mucho detalle un tema que está hoy en todas las portadas: el impacto de la automatización y los algoritmos en el mercado de trabajo. ¿Acabaremos quedándonos sin empleo?

Carr apela al pasado y afirma que desde los tiempos de la revolución industrial tenemos ese temor. Aunque eso sí, siempre las voces del progreso se asociaron a la técnica y la mecanización como fuerza ilustradora. Hasta incluso el mismo Karl Marx –alienación mediante– reservaba una esperanza para la mecanización en manos del proletariado: liberar a los trabajadores de las tareas más acuciantes y poder usar el tiempo para el ocio y el conocimiento, con su conocida cita sobre “dedicarme hoy a esto y mañana a aquello, que pueda por la mañana cazar, por la tarde pescar y por la noche apacentar el ganado, y después de comer, si me place, dedicarme a criticar, sin necesidad de ser exclusivamente cazador, pescador, pastor o crítico” en La ideología alemana ($). El punto de inflexión lo marca la Gran Depresión de los años 30, donde el colapso económico puso a los sindicatos y trabajadores en pie de guerra. Las máquinas ya no eran esas que nos quitaban lo duro del trabajo, sino que nos amenazaban con quitarlo todo. 

Según Steiner, hoy son las clases medias y los trabajadores de cuello blanco los que temen quedarse sin trabajo por culpa de los algoritmos, ya que sus tareas se reducen, en general, a controlar que las computadoras hagan su trabajo. ¿Qué es lo que pasará entonces cuando el software se pueda controlar a sí mismo?. La respuesta es clara.

No obstante, en algo coinciden: mucho cuidado con el solucionismo y las promesas de eficiencia –sobre todo en sectores como la salud y la defensa– que pueden costarnos mucho más caro de lo que imaginamos. 

Los algoritmos recién comienzan a mostrar todo su potencial, y es ya demasiado tarde para poder resistirse. El mejor consejo, como dice Steiner, parecería ser tenerlos de amigos: “What’s the lesson? Get friendly with bots”. Suena lógico. ◼︎