Entre mis múltiples pecados, soy analista de sistemas. Y los analistas de sistemas, habitualmente tenemos que tomar decisiones sobre cómo reacciona el software que programamos para determinadas circunstancias. Cuando esas circunstancias son acotadas (Sí / No, por ejemplo), la decisión es sencilla. Cuando las circunstancias son ligeramente más complejas, (una decisión sobre un tipo de documento, supongamos) al final de la decisión tenemos que agregar una cláusula sobre qué pasa cuando ese tipo no está especificado.

Pero cuando el sistema crece en complejidad, por cada decisión que tiene que tomar el sistema, la complejidad crece en forma exponencial. Es decir que ante cada decisión que el software tiene que tomar, las posibilidades de error se multiplican. Es lo que se llama progresión geométrica. Si el sistema toma una decisión sencilla, las posibilidades de salida son dos, pero si toma dos, las posibilidades son cuatro, si toma tres son ocho, 4:16, 5:32, 6:64 y así. Al ser dos posibilidades en cada definición, se llama progresión geométrica de razón dos. Pero cuando la definición es más compleja, cuando en cada decisión tenemos que optar entre varias posibilidades, esa progresión crece en complejidad y posibles respuestas.



¿Qué son los sistemas?

Los sistemas son una representación de la realidad. No son la realidad, sino una representación muy acotada de algunos datos de la realidad. Porque para registrar la realidad se necesita mucha información. Muchísima. Tanta, que si la tuviéramos que introducir en un sistema «a mano» como se hacía hace algunos años, los datos importantes de nuestra vida, tendríamos que trabajar todo el día solamente ingresando información. A nadie se le ocurriría hacer semejante cosa. Pero hay algunos sistemas que han logrado que «trabajemos para ellos» y después nos «venden» como paquetes de información. Google, por ejemplo, se fija en nuestras preferencias de búsqueda, en lo que escribimos en sus sistemas, y nos ofrece información sobre lo que buscamos o escribimos. En ese preciso momento estoy escribiendo sobre la complejidad de las cosas y al hacer click sobre «explorar» en mi google Drive, me ofrece las siguientes sugerencias:



Nunca había escrito sobre la libertad en este artículo. Pero Google ya «sabe» adónde voy. ¿Cómo lo sabe? Porque Google guarda un perfil automatizado de cada persona, y cada vez que escribo sobre estos temas, los organiza por preferencias. Si hoy estuviera escribiendo sobre violencia doméstica, las «sugerencias» de Google irían por otro lado, más hacia relaciones, matrimonio, etc. Interesante, ¿verdad? Pero al mismo tiempo un poco pavoroso.

¿Por qué se comportan así los sistemas?

El interés de google es comercial. O al menos lo es por ahora. Facebook, el otro megagigante de la información personal, ya tuvo una audiencia en el senado de los Estados Unidos en el que se lo investigó sobre el modo en el que utilizaron la información de sus «clientes» (nosotros). Y Zuckerberg no lo pasó nada bien. Estaba aterrorizado, y se le notaba en sus gestos y respuestas.

El video que me toca comentarte hoy hace una escalofriante exposición de todo esto que te conté. En un futuro utópico en la ciudad de Buenos Aires, una mujer (Lucy) es despertada por un «asistente electrónico» como los que ya existen (Alexa para Amazon, Google Home para Google y Homepod para Apple) y le organiza la agenda. Desde el primer momento se nota que es ligeramente invasivo, ya que le «prohíbe» tomar café y caminar hasta el consultorio médico por el nivel de smog. Pero después la cosa se comienza a ver en su plenitud: son los sistemas los que toman las decisiones, basándose en un sistema de «créditos sociales» y proponiendo «soluciones» que no resuelven nada.

Los sistemas de información son herramientas que se pueden usar bien o mal

El thriller que presenta es en realidad una publicidad de un festival de cine. El slogan final dice «escápate de los algoritmos, ve películas elegidas por gente». Este slogan es un tiro por elevación a Netflix, que selecciona qué películas mostrarnos de acuerdo a nuestras preferencias de búsqueda y vistas anteriores. Y muchas veces nos presenta cualquier disparate. El tema que presenta el thriller publicitario es en realidad antiquísimo, nos remite al mito de Prometeo, y en tiempos modernos al Monstruo de Frankenstein de Mary Shelley o a Jurassic Park de Michael Chrichton. Es la creación del hombre que supera al propio hombre y lo destruye o lo gobierna.

La película es realmente excepcional, muy bien logrado el espíritu y con un remate interesantísimo que nos lleva a reflexionar sobre muchos aspectos de la intrusión de la tecnología en nuestras vidas, y qué tanto dejamos que la misma decida por nosotros. Por eso me gustaría dejarte algunas reflexiones sobre qué aspectos debemos poner atención y reflexionar antes de usar todas las ventajas que la tecnología nos ofrece.

La libertad humana

Cuando los economistas o los tecnócratas presentan previsiones sobre la marcha de la economía o de la política, presentan los números como si fueran irreversibles y definitivos. Esta es la tendencia, y el que no lo quiere ver es un necio. Pero siempre hay un factor que estos tecnócratas no tienen en cuenta, y es el factor humano. Así se llama la novela de John Carlin que muestra la transición de Sudáfrica desde el Apartheid hacia el gobierno de Nelson Mandela. Todos los analistas políticos garantizaban que iba a haber un baño de sangre y que la unión de blancos y personas de color iba a ser imposible, pero Mandela lo logró, pese a todos los pronósticos de los «especialistas» y por medio del deporte, la herramienta menos esperada. Las decisiones humanas cambian el curso de la historia, y los sistemas no pueden hacer nada para evitarlo. Cuando a Lucy se le presentan datos «irrefutables» sobre el futuro de su hija, ella responde con libertad, tomando una decisión valiente y arriesgada, pero ella sabe que es la dueña de su destino y el de su hija. Por más que el futuro parezca negro, nosotros somos las manos de la Providencia en esta tierra, y mediante la oración podemos hacer lo imposible. San Francisco de Asís decía «Comienza haciendo lo necesario, luego haz lo posible y de pronto estarás logrando lo que te parecía imposible».

El abandono del pensamiento crítico 

Lo más importante que las máquinas no pueden hacer por nosotros es pensar. Y sin embargo, casi constantemente le estamos cediendo el ejercicio del pensamiento a estas máquinas. Desde hace algunos años, la gente tiene cada vez menos pensamiento crítico, porque no lee, porque no interactúa con otras personas. En una discusión sobre ideología de género hace unos días, una chica que me confrontaba, sacaba su celular en cada respuesta mía y buscaba en Google qué contestarme. Y me mostraba los resultados de Google como si fueran la verdad, solo la verdad y nada más que la verdad. Ni había leído los artículos que me señalaba en su celular: sencillamente los enumeraba y decía «mira todo lo que está escrito al respecto». Estaba «tercerizando» su pensamiento crítico hacia otras personas, que no se tomaba el trabajo de leer. Desde hace unos años, a raíz de un libro de Manfred Spitzer se acuñó la frase «demencia digital», es decir los dispositivos inteligentes nos pueden hacer cada vez más estúpidos. De hecho, el disparador de toda esta discusión fue un artículo de  Nicholas Carr en la revista Atlantic, llamado «¿Está Google haciéndonos más estúpidos?» Los sistemas digitales, como dije al principio son una representación de la realidad, y no reemplazan a la realidad. Y si bien pueden ser de enorme ayuda para resolver algunas cuestiones cotidianas, también pueden quitarnos facultades y volvernos cada vez más tontos, y por lo tanto, también más manipulables.

Somos mercancía

Los sistemas que utilizamos a diario, parecen solucionarnos muchas dificultades, pero al mismo tiempo nos convierten en una mercancía. Las empresas pagan fortunas inconmensurables por datos que a nosotros nos parecen triviales. Hace poco tiempo estuve investigando para mi próximo libro algunos aspectos de desarrollo infantil temprano, y buscando libros al respecto, y a partir de esas búsquedas, cada vez que abría páginas de periódicos las publicidades me mostraban ofertas de pañales, biberones y música. Claro, cuando nunca hice «click» en ninguna de las publicidades, dejó de hacerlo, y volvió a mostrarme publicidades de otras preferencias mías. Pero lo que deja claro es que si se hubiese producido un click, le habría resultado un beneficio económico a Google y a quien le hubiera comprado el artículo. Los cerdos en un criadero deben pensar «qué bueno es el granjero que nos alimenta y nos da tantos beneficios». Del mismo modo debemos pensar de Google, Facebook, Amazon y todos los otros sistemas que se valen de nuestras interacciones para obtener beneficios económicos: son muy buenos, pero pueden ser muy malos.

No somos máquinas 

Ni las máquinas son dioses. Las máquinas piensan en términos de máquina: no son capaces de predecir qué vamos a hacer con nada de nuestras vidas. Por eso Lucy, en el video, puede tomar esa decisión: porque no está sujeta a un frío determinismo que la lleve al fracaso «inevitable». El concepto de libertad es imposible de programar, porque el comportamiento humano es irreductible a términos de programas. Las «supercomputadoras» pueden vencer al ajedrez a un ser humano, pero para hacerlo tienen «memorizadas» todas las partidas que los humanos jugaron antes. Y sin embargo, las supercomputadoras no son imbatibles, porque un ser humano puede jugar mal a propósito al principio, y luego aprovechar esa falta de programación y memorización de las partidas «bien jugadas» para ganarle a las supercomputadoras. Nuestra libertad nos permite, si perdemos frente a las máquinas, levantarnos y apagar la máquina sencillamente.

Podemos «salirnos« de «La Matrix» 

Estas herramientas son poderosísimas. Pero no nos pueden vencer si nosotros no los dejamos. Yo soy un entusiasta de las redes sociales, porque me parecen una formidable herramienta de apostolado, pero ninguno de mis hijos tiene redes sociales. Y no porque se los hayamos prohibido. Ellos nacieron entre 2000 y 2005, y fueron creciendo con estas nuevas tecnologías. Así que al principio, teniendo un papá analista de sistemas, pensé que podría tener bajo control sus feeds e interacciones. Y al principio fuimos muy permisivos, hasta que se metieron en problemas. Y después fuimos muy restrictivos, pero los problemas no desaparecieron. Alrededor de los 14 años por decisión propia, ellos mismos comenzaron a «salir» de las redes y a dedicarse a tener una vida menos virtual y más real. Hoy conservan los perfiles de sus redes sociales, pero no los usan en el celular ni se «mueren» por publicar una foto o una actualización del perfil. ¡Y lo único que nosotros hicimos fue rezar por ellos y con ellos! Se puede salir de las redes, y la decisión no tiene que ser por miedo ni por amenaza, sino una decisión tomada libremente, en busca de algo más real. Una vida, por ejemplo.

Las «cámaras de eco» cognitivas

Otro de los peligros que corremos por vivir una vida «virtual» es que los algoritmos nos presentan lo que queremos ver, y no otra cosa. Seleccionan nuestros contactos y las noticias que vemos de acuerdo a nuestros intereses, y ocultan aquello que podría irritarnos. Sería lo ideal, ¿verdad? que todo aquello que nos moleste se salga del medio y deje de molestarnos. Pero el mundo real no es así. Y las redes sociales nos muestran solo noticias agradables a nuestro paladar. Eso puede provocar un profundo engaño de la composición de la realidad. Creemos que lo que vemos en las redes sociales, cuando es una realidad profundamente edulcorada y con asperezas limadas para que no nos molestemos y nos vayamos de las redes sociales. Ellos venden si nosotros navegamos, y si nos vamos, no venden.

La tecnología ha llegado para quedarse. No nos tiene que asustar, pero tampoco tenemos que tragarlas acríticamente. Un peligro advertido es un peligro evitado, y los jóvenes están llamados a ser guías para los más grandes en estas cuestiones, como djio el Papa Francisco dijo en la JMJ de Cracovia:

«Las guerras físicas tienen su raíz en otras menos visibles; con las nuevas tecnologías y el ritmo de vida de las sociedades consumistas cada vez nos encontramos más aislados. Aquellos que quieren manejarnos construyen muros reales o artificiales a nuestro alrededor para tenernos controlados y fomentar el odio entre nosotros. Los cristianos y especialmente los jóvenes tenemos que romper esos muros y tender puentes que nos unan a nuestros hermanos».