top of page
  • Estupido Libre Albedrio

Panótico Parte 2 ─ La vigilancia digital




A continuación, les comparto la segunda publicación basada en el podcast Philosophize This! Episodio #186 de Stephen West donde analiza ideas de los filósofos Jeremy Bentham, Stephen Cave y Michel Foucault sobre la inteligencia artificial, una posible prisión digital, el concepto de la libertad, y la vigilancia del estado con el fin de controlar a la población.

 


Por: Stephen West


Philosophize This. Episodio #186

Panóptico Parte 2

 

Vale la pena hablar sobre otra idea interesante del filósofo Stephen Cave donde examina la idea del libre albedrío. El tener un vocabulario en común cuando hablamos sobre la libertad para elegir, nos ayudará a entender mejor cómo el panóptico pudiera limitar esta libertad. Cave dice que, si ya usamos el concepto del coeficiente intelectual para hablar sobre los niveles de inteligencia de las personas, tal vez no sea una mala idea el desarrollar un coeficiente de libertad que mida exactamente qué tan libre es una persona cuando toma una decisión. De hecho, dice Stephen, ya hacemos estas consideraciones de manera informal durante los procedimientos legales. El juez toma en cuenta la evidencia, así como también quién es la persona, su historia, sus intenciones, las consecuencias, y después de considerar todos los criterios y perfiles psicológicos y filosóficos, entonces se determina cuál es el castigo apropiado, y parte importante de esta determinación, es el decidir qué tan libre fue la persona para elegir. Eso sucede en las cortes de justicia todo el tiempo, la pregunta es ¿por qué se limita ese proceso a llevarse a cabo solo en la cabeza del juez? ¿por qué no se ha desarrollado un método más científico y objetivo para cuantificar esa libertad de elegir? Es comprensible que no tengamos respuestas para estas preguntas porque los retos en este tema son enormes. Por ejemplo ¿cómo empiezas siquiera a definir cuánta volición o libre albedrío tiene una persona? Según Stephen podríamos empezar este proyecto diciendo que el libre albedrío tiene tres etapas: 1. Crear o visualizar opciones para ti mismo; 2. Decidir cuál es la mejor elección; 3. Perseguir la opción elegida. En cada una de las etapas se requieren habilidades completamente diferentes. La primera etapa requiere la habilidad de ser creativos para imaginar posibilidades. El razonamiento aquí es que, si alguien no tiene muchas opciones de donde elegir, o no es capaz de visualizarlas, entonces no es tan libre como otra persona en la situación opuesta. La segunda etapa requiere usar el pensamiento crítico o razonar correctamente para decidir y elegir la mejor opción. La tercera etapa requiere el ser disciplinado para perseguir la opción elegida y perseverar hasta lograr el resultado. En este sentido, entonces, es necesario el poner en acción todas las habilidades requeridas en las diferentes etapas para que sea posible tomar una decisión libremente. Podemos imaginar como las personas tendrán niveles diferentes de habilidades en cada área, incluso casos en donde existe un desequilibrio total. Por ejemplo, podría haber una persona que tuviera muchas dificultades con la primera habilidad para imaginar todas las posibles soluciones a un problema y solo alcanza a visualizar unas cuantas, pero, también es muy disciplinada y terca, por lo que insiste y persevera hasta que alcanza su meta. Por otro lado, pudiera existir otra persona que es capaz de visualizar una cantidad muy grande de posibles soluciones y no tienen ningún problema para elegir la mejor, sin embargo, le resulta muy difícil mantener el enfoque por lo que raramente llega a la meta. Stephen propone medir estas habilidades y usar esta información para crear un coeficiente de libertad que pudiera cuantificar objetivamente la libertad de las personas. De esta manera podríamos descubrir, por ejemplo, que las personas que acaban presas en las cárceles han sido, desde un principio, personas con deficiencias severas en algunas de estas habilidades, o tal vez en todas al mismo tiempo. Es decir que han sido personas sin alternativas o sin capacidad de imaginarlas; sin habilidad para razonar críticamente, y sin disciplina para perseguir las mejores opciones. Si vemos la forma en la que las prisiones están diseñadas, no es difícil imaginar una mejor manera de rehabilitar a los reos en una situación que les ayude a mejorar su coeficiente de libertad en lugar de empeorarlo. Aún más, si el coeficiente de libertad fuera tan prevalente y popular como el coeficiente intelectual, tal vez pudiera usarse para mejorar estas habilidades en las escuelas ¿no produciría esto ciudadanos más empoderados?


Pero… ¿qué pasaría si en realidad el objetivo no es el de crear ciudadanos más empoderados? ¿Qué pasaría si el objetivo de los gigantes corporativos, y el gobierno, y demás entidades que compiten para cautivar nuestra atención, es el de crear un ambiente en donde todas estas habilidades sean debilitadas de manera intencional y sistemática? Cuando reflexionamos sobre lo anterior y sobre la posibilidad de una prisión digital al estilo panóptico para los humanos, surge la necesidad real de encontrar la respuesta a la pregunta ¿qué es la libertad exactamente? Como lo cuestionó el filósofo Isaiah Berlin ¿es la libertad simplemente ausencia de restricciones y de impedimentos para hacer ciertas cosas ¿O para ser libre también se requiere poseer las habilidades necesarias además de oportunidades para perseguir la vida que aspiramos a vivir?


Digamos que alguien desea controlar a la población en el mundo actual, como ya lo platicamos, el método más eficiente ya no es a golpes sino creando una asimetría de conocimiento en una especie de panóptico. Pero ¿cómo exactamente se limitaría cada una de las etapas de libertad que describe Stephen Cave? Bueno, pues empecemos con la primera: habría que limitar la cantidad de opciones que la gente tiene para escoger. Lo cual no es algo nuevo, los gobiernos han hecho esto por siglos. Por supuesto que utilizan leyes, multas, reglamentos, etc. pero eso no es suficiente para cubrir todo lo que el gobierno no quiere que hagas. Para lograr el control real de la población los gobiernos se dieron cuenta de que deben alimentarle al pueblo una narrativa sancionada sobre lo que sucede a su alrededor. Es por esta razón que muchos gobiernos utilizan la propaganda. Esta es la asimetría clásica del conocimiento. Además, el gobierno puede crear leyes que limitan la educación que reciben esas personas. La inteligencia artificial construye perfiles cada vez más detallados sobre todos nosotros, y toda esta información se usa para crear estrategias comerciales personalizadas y para intentar adivinar qué estamos pensando a cada momento. Mientras más complejo se vuelve el algoritmo de inteligencia artificial, su capacidad para reconocer patrones de comportamiento es cada vez mejor. Las corporaciones intentan predecir nuestro comportamiento para mejorar sus ventas; el gobierno rastrea el correo electrónico, mensajes de texto, la actividad en el internet, llamadas telefónicas, y filtran toda esta actividad para detectar ciertas palabras o tópicos de conversación que puedan ser detectadas como anomalías o amenazas en potencia. ¿Qué pasará cuando la IA se vuelva tan sofisticada que el detectar estas anomalías se empiece a parecer a la forma en que Foucault hablaba sobre cómo la sociedad etiqueta a cierto tipo de personas como anomalías sociales? Si vives en un mundo donde no puedes saber si cada conversación que tienes está siendo escuchada por terceros, que cada huella digital que dejes no está siendo catalogada y guardada en tu archivo personal ¿serías más cauteloso sobre lo que buscas en el internet y sobre las conversaciones que tienes? La vigilancia tiene un impacto en el desarrollo moral de las personas. Es por esta razón que la vigilancia constante es un aspecto importante de muchas religiones.


─Dios siempre nos vigila─ esta creencia afecta la forma en que las personas se comportan y también las ideas que están dispuestas a considerar. Cuando estas anomalías pueden ser detectadas y analizadas al nivel de cada transacción individual, las personas serán cada vez más renuentes a entretener opiniones diferentes por miedo a ser señalados como una anomalía o amenaza en potencia. Esto crea un ambiente en donde el pensamiento crítico es una habilidad escaza y deteriorada para decidir cuáles son las mejores ideas. Recordemos que esta era la segunda habilidad que había que limitar para encerrar a las personas dentro de la prisión digital. Se ha dicho que las personas en occidente cederán sus derechos de manera voluntaria y lenta a las personas que controlan estos algoritmos de inteligencia artificial, y que será hecho a cambio de dos cosas: comodidad y seguridad.


Pero cuando sacrificas opciones en el nombre de la comodidad también limitas tu propia perspectiva. Corres el riesgo de solo ver las opciones que el algoritmo ha decidido que son óptimos para ti. Es decir, ya vivimos en un mundo donde resulta muy difícil para una persona de mente abierta encontrar buenos argumentos de ambos lados de un tema determinado. Ese es el asunto sobre la versión digital del panóptico, si ya eres un prisionero digital, entonces tu celda es una cámara de ecos creada por los algoritmos. Y no solo no sabes nada sobre el custodio de la prisión que te vigila, sino que él sabe todo sobre ti y además puede predecir, incluso guiar tu comportamiento, en formas que no eres capaz de resistir. Y no te puedes resistir porque el custodio, en esta versión moderna del panóptico, es también el director de entretenimiento de la prisión. Controla todas las ideas a las que tienes acceso y también todas las soluciones que se te puedan ocurrir, limita tu habilidad para pensar críticamente y elegir opciones ya sean mejores o peores. Y cuando se trata de tu voluntad para ejecutar tus decisiones, este director te mantiene distraído y anestesiado todo el tiempo para que no sientas el dolor de estar encarcelado, un dolor que te pudiera estimular a hacer un cambio en tu vida. Ahora quitemos el pie del acelerador un poco y hagamos un inventario de las diferentes dimensiones que pueden existir en esta conversación. Primero que nada, alguien pudiera decir que, en efecto, vivimos a la merced de los algoritmos hasta cierto punto, pero qué tanto abarcan realmente en nuestras vidas. Es decir, claro que, si alguien simplemente va por la vida dejándose llevar por todo lo que sucede a su alrededor, tal vez pudieran vivir encerrado en una cámara de ecos toda su vida. Pero para las personas que intentamos vivir una vida examinada, que ponemos atención, tal vez nos sea posible resistir todo eso. También hay personas que opinan que todo esto es algo bueno. Tal vez ellos digan, seguro, puedes llamarle una prisión digital si así lo deseas, pero este incremento en la seguridad es de hecho algo bueno, también podríamos llamarla una sociedad más segura. Hay personas que dicen, bueno yo no estoy haciendo nada malo ¿qué me importa si una máquina sabe todo sobre mí? No tengo nada que esconder. Y esa máquina también está recopilando información sobre personas que sí están haciendo cosas malas y que pueden lastimar a mi familia. Tal vez este sea solo el siguiente paso en la evolución de la sociedad.

 

148 views0 comments

コメント


bottom of page