La era de los datos, el imperio del engaño

 


Nunca antes se ha otorgado tanta importancia a la información, al procesamiento masivo de datos (big data), que han sido bautizadon como el "petróleo del siglo XXI". Sin embargo, en un momento en el que estamos sometidos al imperio de los datos, jamás hemos estado tan expuestos al engaño, al fraude. Lo tenemos todo para eludir ese embuste pero, al mismo tiempo, quienes juegan con la manipulación y la superchería cuentan con abundantes recursos para llevarnos al huerto. Así surge "Bullshit, contra la charlatanería" (Capitán Swing), libro que llega a nuestras librerías y analiza cómo y por qué hemos llegado a este punto y nos da las claves para revertirlo... o, al menos, intentarlo.

Dos profesores de la Universidad de Washington, Carl T. Bergstrom, biólogo teórico y evolutivo, y Jevin D. West, profesor en la Escuela de Información y confundador de Datalab, se han unido para escribir un libro sobre el bullshit, término inglés que les sirve para englobar desde los bulos, a las patrañas, pasando por toda suerte de chorradas y manipulación.

El libro es todo un compendio de ejemplos reales de bullshit que, como recuerdan, siempre ha existido, pues ya Platón en su diálogos socráticos "Eutidemo" se queja de que a los sofistas les resulta indiferente si algo es realmente cierto o no, dado que lo único que persiguen es salir vencedores en los debates gracias a sus argumentos. Y es que, a diferencia de los mentirosos, que intentan ocultar su embuste con algún tipo de velo retórico, el bullshitter no guarda ninguna lealtad hacia la verdad.

El gran problema al que nos enfrentamos es lo que el ingeniero de software italiano Alberto Brandolini expuso en su principio de 2014: "la cantidad de energía necesaria para refutar el bullshit es un orden de magnitud mayor del que es necesario para producirlo". Tres siglos antes ya lo había expresado el escritor Jonathan Swift apuntando que "la falsedad vuelva y la viene cojeando tras ella". Así lo ha padecido Broncano esta misma semana, con el bulo amplificado por el infame eurodiputado de Vox Hermann Tertsch.

Bergstrom y West describen tres posibles métodos para protegernos de este entorno engañoso, a saber: la tecnología, gracias al aprendizaje automático -que termina siendo empleado para timarnos-; la regulación gubernamental, algo de lo que desconfían por el choque que supone con la libertad de expresión y la imposición del pensamiento único; y la educación, que claramente es por el que apuestan y de ahí la publicación de este libro.

El papel de los medios

La alfabetización mediática y en el pensamiento crítico es la mejor manera de resolver de abajo a arriba el problema al que nos enfrentamos. Lo primero es comprender el escenario en el que nos ha tocado desenvolvernos asumiendo que, además de las redes sociales y sistemas de mensajería como WhatsApp, los medios de comunicación son grandes propagadores de bullshit.

Tal y como indican los autores, el valor económico de las noticias en internet se mide por la cantidad de clics que éstas generan y adelantarse a la competencia se ha vuelto imperativo. En consecuencia, apuntan, "no puedes vencer a tus competidores si te entretienes en revisar cada una de las historias que publicas".

Obviamente, no todos los medios de comunicación actúan de este modo, pero aún así las consecuencias son fatales. Para ilustrarlo, los profesores de la Universidad de Washington refieren un estudio realizado en 2018 que revelaba que cerca del 2,6% de los artículos de información en EEUU son falsos. Aunque puede parecer un porcentaje bajo, con que cada estadounidense leyera un artículo en prensa al día, tendríamos a casi ocho millones de personas leyendo una noticia falsa.

Entre la enorme cantidad de ejemplos expuesto, el libro contiene el caso de Jenna Abrams, una celebridad en internet, prototipo de chica norteamericana cuyos tuits aparecieron, incluso, en The New York Times o The Washington Post. Resultó no existir, ser una creación de un equipo de propaganda radicado en Moscú conocido como Agencia de Investigación de Internet. Abrams llegó a conseguir, incluso, que la revista Variety publicara que la CNN emitía pornografía, algo que era falso.

Uno de los grandes problemas en los medios de comunicación es el enfoque hiperpartidista que se realiza de las noticias y que desemboca en el sesgo de confirmación, esto es, la tendencia que tenemos a observar, creernos y compartir información que apoya nuestras creencias preexistentes.  En esta línea, los algoritmos de las redes sociales no ayudan, puesto que la confección del menú digital personalizado que nos presentan no está pensando tanto para informarnos como para mantenernos activos en las redes, lo que limita la posibilidad de acceder a contenido divergente.

Propaganda desbocada

Los niveles de propaganda han alcanzado niveles inéditos, con la entrada en juego de los ejércitos de bots que inundan internet de bullshit. Tantos son que el libro expone cómo en 2018 Facebook tenía más de 2.000 millones de usuarios legítimos y, sin embargo, ese mismo año se eliminaron casi 3.000 millones de cuentas.

Los sesgos y manipulaciones por parte de la clase política -amplificada por sus palmeros- son abrumadores. Pareciera que Bergstrom y West vivieran en Madrid y no en Washington con el ejemplo de síntesis estadística que utilizan para exponer este proceder: Cuando un político propone un recortte de impuestos que le ahorrará al 1% más acaudalado de la población cientos de miles de dólares, pero que no supondrá ninguna reducción de impuestos al resto de ciudadanos, ¿qué hace? Decir que dicha medida de recorte fiscal permitirá ahorrar a las familias un promedio de 4.000 dólares al año en impuestos, cuando en realidad la familia media no ahorrará un centavo.

Asimismo, los autores llaman la atención sobre cómo ha cambiado el objetivo de la propaganda, que ya no es tanto convencer sobre falsedades específicas, sino imponer una "estrategia de desinformación continua", dejar a la audiencia desorientada y desesperada.

Engaños sin mala intención

Especialmente interesantes son los capítulos dedicados a cómo se produce bullshit más fruto de la ineptitud que de la mala intención. En este contexto, la estadística y sus representaciones visuales son las reinas. La interpretación y conclusiones que se extraen de estudios estadísticos a menudo están viciados; como ejemplo de ello, se cita un estudio realizado entre estudiantes universitarios para tratar de determinar su consumo de cerveza en función del tipo de envase.

La conclusión que extrajeron fue que quienes pedían jarras de cerveza terminaban consumiendo el doble de cantidad que quienes iban botellín a botellín. Pensaron que quitando las jarras, reducirían el consumo, pero no fue así porque, en realidad, es la intención lo que cuenta: si uno va predispuesto a beber más cerveza, pedirá el formato jarra, mientras que quienes consumen de un modo más moderado prefieren el botellín.

Este ejemplo básico ilustra el uso torticero que se realiza de la estadística, utilizada incluso para dar respuesta a "¿por qué los tíos buenos son tan imbéciles?" (Lean y descubran la resolución a este dilema que resuelve el matemático Jordan Ellenberg con su paradoja de Berkson), por no hablar de las "estadísticas zombi", es decir, aquellas cifras que se citan mal y fuera de contexto, que han quedado obsoletas o que, directamente, fueron totalmente inventadas, pero que se citan tan a menudo que nunca morirán.

La sobrevalorada Inteligencia Artificial

La Inteligencia Artificial (IA) y el mundo de los algoritmos también tienen su cuota de protagonismo en "Bullshit, contra la charlatanería". Según exponen los autores, "la promesa de la IA estimula la actividad económica e inspira emocionantes tramas de ciencia ficción, pero también crea expectativas poco realistas e impulsa la investigación irresponsable  tanto en la industria como en el ámbito académico".

Con todo, hay una brecha gigantesca entre el alarmismo generado en la prensa generalista y el punto en el que se encuentra en realidad la investigación sobre IA. El libro expone una lista de grandes fiascos de la IA que dan lugar a propagación de bullshit. Es el caso del sistema que terminó detectando delincuentes porque no sonreían. La clave del error está en los datos de entrenamiento que manejó el sistema durante el proceso de aprendizaje automático: resultó que de la ingente cantidad de fotografías que revisó, quienes no delinquían solían aparecer sonrientes, mientras que los criminales solían estar más serios, de modo que el software asumió que la sonrisa es una factor diferenciador.

El peligro de los sesgos por raza o sexo que se suelen atribuir a los sistemas de IA también resultan complejos de atajar. De nuevo, más ejemplos. En EEUU se trató de anticipar dónde se podría producir el próximo episodio de violencia de género. Para evitar sesgos, se eliminó la variable de raza, pero a la postre no fue suficiente. Por una cuestión de probabilidad, dado que se vive pared con pared y habitualmente se producen más denuncias por parte de los vecinos, el sistema asumió que el siguiente caso se produciría ahí, donde vive más población negra y latina, más que en viviendas unifamiliares, cuyos habitantes mayoritarios son de raza blanca.

A lo largo de sus más de 400 páginas, "Bullshit, contra la charlatanería" aborda la complejidad del mundo de los datos que nos ha tocado vivir y nos regala fórmulas para detectar y prevenir la desinformación, desde la corroboración y triangulación de las informaciones buscando otras fuentes fiables, al apoyo de las agencias de verificación, pasando por una de las herramientas más infrautilizadas de Google, esto es, la búsqueda inversa de imágenes. En nuestra mano está, porque ni la ley ni la tecnología por sí misma nos va a resolver esta papeleta.

No hay comentarios:

Publicar un comentario