La tecnología de la desinformación

A continuación, comparto el octavo extracto traducido del libro La constitución del conocimiento.

Por: Jonathan Rauch

Capítulo 5

Tecnología de la Desinformación: El Desafío de los Medios Digitales.

Parte 1

Controles y Equilibrios

De repente, difundir información es órdenes de magnitud más barato y rápido que nunca antes. Los guardianes de la información establecidos han sido desplazados. Las noticias falsas, la propaganda política y las provocaciones personales proliferan. Nadie sabe cómo frenar el caos. ¿Seguramente estamos hablando del internet? En realidad, no. "La imprenta, a medida que se extendió por Europa comenzando con la invención de Gutenberg en el siglo XV, revolucionó la esfera pública tan radicalmente como lo han hecho el internet y la computadora personal en nuestra época," dijo el historiador Niall Ferguson en una entrevista de 2018 con el podcaster Sam Harris. La imprenta hizo que replicar un libro fuera unas 300 veces más barato. No es de extrañar que, en el transcurso de medio siglo desde la invención de la imprenta de tipos móviles, se establecieran imprentas en cada ciudad europea importante. En los primeros cincuenta años después de la invención de la imprenta, se imprimieron más libros de los que se habían producido en un milenio. De igual manera, la gente común tuvo acceso a una gama mucho más amplia de ideas, algunas de ellas falsas y peligrosas. Uno de los primeros usos de la nueva tecnología fue para lo que hoy llamamos teorías de conspiración o noticias falsas: un panfleto llamado Malleus Maleficarum ("Martillo de Brujas") se extendió por Europa después de su publicación a finales de los años 1400, afirmando que las brujas acechaban en todas partes e inspirando pánicos y decenas de miles de asesinatos. La imprenta dio alas a la disidencia radical de Martín Lutero y propagó la controversia religiosa, y la guerra, por toda Europa. En 1750, un horrorizado Jean-Jacques Rousseau comentó: "Si consideramos los horribles desórdenes que la imprenta ya ha producido en Europa, y si juzgamos el futuro a la luz de este mal que produce todos los días, podemos predecir fácilmente que los soberanos no tardarán en hacer tanto esfuerzo para desterrar este horrible artefacto de sus estados como hicieron para establecerlo." Sabemos cómo terminó esta disrupción informativa: al final, se estableció un nuevo equilibrio y la publicación se convirtió en una empresa mayormente respetable. Ciertamente no todo, pero la mayoría de lo que veías en la prensa o en la televisión era probable que fuera cierto. La tecnología de la información desarrolló lo que uno podría pensar como una valencia epistémica positiva: en general, canalizaba la información de maneras que favorecían la realidad sobre la no realidad. Por supuesto, uno podía publicar o transmitir desinformación. Mucha gente lo hizo. Pero la desinformación inyectada en las redes académicas y mediáticas normalmente se marchitaría por falta de evidencia, plausibilidad o interés. Eso no siempre fue así. Establecer una valencia epistémica positiva fue un proceso largo y, a veces, difícil. Las universidades tuvieron que luchar por la independencia de las corporaciones, grupos religiosos, legislaturas y otras fuerzas externas que buscaban influir en lo que se estudiaba y enseñaba. Quizás aún más sorprendente fue la lucha por basar el periodismo en la verdad. En la era fundacional de América, el periodismo era notoriamente partidista e ineficaz. Casi cualquiera podía abrir un periódico, y casi todos lo hacían. Los estándares eran bajos o inexistentes. Los periódicos no dudaban en publicar lo que hoy llamamos noticias falsas. El periodismo era más un oficio que una profesión, y la cobertura era tan probable que se centrara en chismes o sensaciones como en lo que hoy consideramos eventos públicos dignos de noticia. A medida que el siglo avanzaba, sin embargo, las prácticas periodísticas comenzaron a fusionarse en códigos de conducta informales. En 1893, la escuela de negocios de la Universidad de Pensilvania introdujo el primer plan de estudios de periodismo impartido por un profesional de las noticias; quince años después, la Universidad de Missouri fundó la primera escuela de periodismo independiente. La Sociedad Americana de Editores de Periódicos fue fundada en 1922, y su primera orden de negocios fue promulgar un código de ética. Lo que hizo la institucionalización del periodismo moderno basado en hechos fue crear un sistema de nodos: salas de redacción profesionales que pueden elegir si aceptar información y transmitirla. La comunidad basada en la realidad es una red de tales nodos: editores, colegas revisores, universidades, agencias, tribunales, reguladores, y muchos, muchos más. Estos nodos institucionales del sistema son como estaciones de filtrado y bombeo por las que fluyen las proposiciones. Cada estación adquiere y evalúa proposiciones, busca errores y luego filtra y distribuye a otras estaciones que hacen lo mismo. Es importante destacar que forman una red, no una jerarquía. Ningún único guardián puede decidir qué hipótesis ingresan al sistema, y si cada nodo está haciendo su trabajo, el sistema en su conjunto adquirirá una valencia epistémica fuertemente positiva. Una afirmación poco respaldada eventualmente se extingue. Una afirmación bien respaldada tendrá mejor suerte, y si es ampliamente aceptada, se difundirá por la red y entrará en la base de conocimientos. Trabajando juntos, las bombas y los filtros canalizan la información hacia la verdad.

Invirtiendo las bombas

Ahora imagina hacerlos funcionar al revés. Supongamos que algún demonio travieso hackeara el centro de control una noche y revirtiera las bombas y filtros. En lugar de filtrar el error, lo transmiten. De hecho, en lugar de frenar la difusión de afirmaciones falsas y engañosas, la aceleran. En lugar de marginar los ataques ad hominem, los fomentan. En lugar de privilegiar la experiencia, favorecen el amateurismo. En lugar de validar afirmaciones, solo las comparten. En lugar de traficar con la comunicación, trafican con la exhibición. En lugar de identificar las fuentes, las disfrazan. En lugar de recompensar a las personas que persuaden a otros, recompensan a quienes se publicitan a sí mismos. Si así funcionaran las estaciones de filtrado y bombeo, el sistema adquiriría una valencia epistémica negativa. Desventajaría activamente la verdad. No sería una tecnología de la información sino de la desinformación. Nadie vio algo así venir. Esperábamos que la tecnología digital ampliara y profundizara el mercado de ideas. Habría más hipótesis, más verificadores, más acceso a la experiencia. ¿Cómo podría eso no ser un gran avance para la verdad? En el peor de los casos, supusimos que el ecosistema digital sería neutral. Podría no necesariamente inclinarse hacia la realidad, pero tampoco se inclinaría sistemáticamente en contra de la realidad. Desafortunadamente, olvidamos que mantenerse en contacto con la realidad depende de las reglas y las instituciones. Olvidamos que superar nuestros sesgos cognitivos y tribales depende de privilegiar esas reglas e instituciones, no de aplanarlas en "plataformas" amorfas. En otras palabras, olvidamos que la tecnología de la información es muy diferente de la tecnología del conocimiento. La información puede ser simplemente emitida, pero el conocimiento, producto de una rica interacción social, debe ser logrado. Convertir la información en conocimiento requiere acertar con algunos incentivos importantes y decisiones de diseño. Desafortunadamente, los medios digitales se equivocaron. El internet comercial nació con un defecto epistémico: su modelo de negocio se basaba principalmente en la publicidad y, por lo tanto, valoraba la atención ante todo. Todo el sistema estaba así optimizado para reunir una audiencia receptiva para cualquier información que alguien quisiera ponerles enfrente, tienendo solo una consideración mínima por la precisión de esa información. Las métricas, los algoritmos y las herramientas de optimización eran sensibles a la popularidad pero indiferentes a la verdad. Los motores computacionales eran indiferentes incluso al significado, ya que no comprendían el contenido que estaban difundiendo. El modelo de negocio incorporado de los medios digitales, que trata toda la información como si fueran anuncios, prácticamente garantizaba una carrera desesperada por la atención hacia lo peor. Eso habría sido lo suficientemente desafiante; pero la ecología de la información digital agravó el problema al desarrollar características que no solo eran ciegas a la desinformación, sino que la amplificaban.

Adicción a la Indignación

Primero, hackeó nuestros cerebros. Gracias a la dinámica de las redes sociales, puedo participar en la indignación colectiva con poco o ningún costo o riesgo personal. Puedo esconderme detrás del anonimato. O, si se me nombra, puedo "ocultarme en la multitud," como lo ha expresado la neurocientífica Molly Crockett. Tú y yo probablemente no tengamos una relación previa ni nos movamos en los mismos círculos, por lo que probablemente nunca te encontraré cara a cara. Puede que ni siquiera piense en el trabajo que podrías perder o el ostracismo que podrías sufrir, porque la empatía y la responsabilidad se ven anuladas por la indignación y el anonimato. "Las redes sociales [así] amplifican masivamente los beneficios reputacionales de la expresión de indignación," escribe Crockett. "Si me detengo a considerar cómo podrías sufrir al ser avergonzado o difamado, es probable que desestime tu sufrimiento como merecido." Después de todo, lo que estoy expresando no es una ira interpersonal ordinaria, una emoción cara a cara que permite la interacción y puede llevar a la reconciliación o a nuevos entendimientos. Yo y mi tribu estamos expresando indignación, que, como explica Haidt, tiene una atracción peculiar. La indignación no es una ira personal de uno a uno, sino más bien una ira compartida, una emoción social. "La ira compartida los une. Si estás indignado con el presidente Trump y compartes eso con otras personas, eso es agradable." Nosotros, el grupo, nos unimos por nuestra convicción común de que tú, el objeto de nuestra indignación, eres una amenaza o traidor para nosotros. Incluso si tus intenciones eran buenas, deberías haberlo sabido mejor, y en cualquier caso tu vergüenza sirve como una advertencia para los demás. Incluso si no eres malvado -de hecho, incluso si lo hiciste con buenas intenciones, eres una víctima justificada.

Mil millones de realidades privadas

En segundo lugar, los medios digitales fragmentaron la realidad. La idea principal de la Constitución del Conocimiento, como hemos visto, es que la realidad es lo que sabemos, no lo que tú sabes, o yo sé, por separado. Ninguna creencia puramente personal puede ser conocimiento, sin importar cuánto mérito tú o yo podamos pensar que posee. Un corolario es que los miembros de la comunidad basada en la realidad aceptan que, a pesar de su diversidad, todos están explorando aspectos de una sola realidad. La Constitución del Conocimiento no requiere que vean el mundo de la misma manera o que estén de acuerdo en los hechos. De hecho, solo funciona donde las personas ven el mundo de manera diferente y no están de acuerdo en los hechos, para que puedan poner a prueba sus ideas y superar sus sesgos. Su capacidad única, sin embargo, es forzar las diferencias individuales hacia la convergencia social. Lo hace al requerir persuasión, lo que a su vez requiere que intentemos explicar nuestras diferencias comparándolas. Incluso cuando la comunidad basada en la realidad no puede resolver los desacuerdos, los organiza para que estemos hablando de lo mismo, o esforzándonos por hacerlo. Proporciona la capacidad de contestación, la capacidad de poner diversas proposiciones y puntos de vista en una contienda productiva. A menudo y con vigor, estamos en desacuerdo, pero trabajamos juntos para ponernos de acuerdo, al menos, en lo que estamos en desacuerdo. La tecnología digital puede afinar los llamados a la indignación y dirigirlos a las audiencias más receptivas. Puede personalizar los feeds de noticias y los mensajes para cada individuo. Cada uno de nosotros puede tener una dieta personalizada de indignación, alimentada por medios sensacionalistas y activistas partidistas, así como por granjas de trolls patrocinadas por el estado, todo asistido por software automatizado que observa cada clic y aprende cómo provocarnos. Un sistema así puede alejarnos de comparar notas con otros que ven la realidad de manera diferente. Es posible que ni siquiera estemos expuestos a los puntos de vista de otras personas. ¿Qué están diciendo los demás? ¿Cuáles son nuestras diferencias? ¿Sobre qué es exactamente en lo que estamos en desacuerdo? Podríamos no saberlo. Podríamos no querer o necesitar saberlo. Aún más extraño: nuestra propia dieta de información puede ser influenciada por un software que no puede decirnos qué está eligiendo mostrarnos, porque no lo sabe. Aprende en qué hacemos clic y en qué hacen clic otras personas similares a nosotros, luego construye un avatar virtual de nosotros y nos alimenta con lo que nuestro avatar quiere más. Literalmente, nadie entiende por qué vemos lo que vemos; y literalmente, nadie sabe exactamente lo que los demás están viendo. La Constitución del Conocimiento busca forzar a cada mundo subjetivo, a cada burbuja social, a entrar en contacto y conversación con otros mundos subjetivos y burbujas sociales, creando una comunidad basada en la realidad. Por el contrario, los medios digitales llevan a los consumidores de información hacia el solipsismo: el "Diario de Yo," como algunos lo han llamado.

Acelerando la falsedad 

En tercer lugar, los medios digitales hicieron que la ciencia liberal funcionara al revés. Invirtió los incentivos sociales de los que depende la comunidad basada en la realidad. En lugar de ralentizar la información revisándola y probándola antes de transmitirla, los medios digitales recompensaron la instantaneidad y la impulsividad. La Constitución del Conocimiento verifica antes de transmitir. Aplasta la mala información filtrándola y ralentizándola. Por el contrario, las redes digitales difunden información a la velocidad de la luz y sin tener en cuenta la calidad. En lugar de fomentar la imparcialidad, los medios digitales premiaron la emoción. Los investigadores del MIT no están seguros de por qué los informes falsos superan a los verdaderos en las redes digitales, pero sospechan que es porque los rumores falsos parecen más novedosos e inspiran más repulsión que los verdaderos. La sorpresa y la indignación son emociones virales, y especialmente potentes cuando se combinan.

Desinfonomía

Finalmente, la desinformación adquirió un modelo de negocios. Aunque el costo de difundir información había disminuido durante siglos, nadie previó que colapsaría a prácticamente cero de la noche a la mañana. Tampoco nadie previó que la sobrecarga de información haría de la atención la mercancía más preciada del mundo y que se desataría una guerra de subastas globalizada y mecanizada por ella. Para 2017, los usuarios en línea estaban subiendo el equivalente a 3 millones de Bibliotecas del Congreso cada día. Los viejos medios gigantes fueron sorprendidos cuando la digitalización deshizo las ofertas de medios empaquetadas como periódicos y televisión, luego descentralizó la distribución a través de las redes sociales y plataformas de internet, y luego—quizás lo más sorprendente de todo—recentralizó la distribución, pero ahora en manos de nuevos gigantes con nombres indignos. Los nuevos grandes (Google, Facebook, YouTube) eran más eficientes en convertir información en dólares y podían mover contenido en cantidades y a velocidades que se burlaban de los medios tradicionales. Pero con una diferencia crucial: traficaban con información, no con conocimiento, y con contenido en lugar de verdad. Monetizaban las visualizaciones y los clics sin detenerse a comprobar la realidad, de modo que la viralidad y la rentabilidad formaban un ciclo cerrado. La ventaja económica de las noticias reales se evaporó.