top of page
  • Estupido Libre Albedrio

Panóptico Parte 1 ─La prisión digital

Updated: Feb 15




A continuación, les comparto la primera publicación basada en el podcast Philosophize This! Episodio #186 de Stephen West donde analiza ideas de los filósofos Jeremy Bentham, Stephen Cave y Michel Foucault sobre la inteligencia artificial, una posible prisión digital, el concepto de la libertad, y la vigilancia del estado con el fin de controlar a la población.

 


Por: Stephen West


Philosophize This. Episodio #186

Panóptico Parte 1


Si un filósofo intentara diseñar la mejor prisión posible ¿cómo sería esa prisión? El filósofo Jeremy Bentham hizo justo eso en el siglo 18. Llamó a su idea, panóptico. Tuvo la idea de diseñar el edificio de tal manera que las celdas formaran un perímetro circular, en cuyo centro colocó una torre enorme que podía ver en todas las direcciones. Después se preguntó ¿qué tal si el guardia en la torre pudiera ver dentro de todas las celdas sin que se dieran cuenta los prisioneros? Los prisioneros nunca sabrían cuando estaban siendo observados. Esta arquitectura crearía una situación en donde los reos tendrían que autorregularse, porque siempre tendrían que comportarse como si fueran observados para no meterse en problemas. Con este cambio en el diseño del edificio ya no era necesario el tener demasiados custodios solo observando a los reos interviniendo incluso a golpes cuando algunos no se comportaban, ahora los prisioneros mismos se convirtieron en un mecanismo más de la prisión al autorregularse. Tan solo la amenaza de que alguien pudiera estar observando era suficiente para motivar los reos a que actuaran de una manera completamente diferente. Pero lo mejor fue que se dieron cuenta de que este mismo concepto podía aplicarse en otros lugares, por ejemplo, en las fábricas para transformar a los trabajadores, en las escuelas, en el ejército, etc. Era posible lograr resultados asombrosos simplemente creando una asimetría en el conocimiento, donde los observadores lo saben todo, y los observados apenas saben algo. Quién hubiera pensado que tantas mejoras en la sociedad fueran posibles con solo hacer algo como eso. Pero como pueden imaginar existe un lado oscuro del panóptico. Adelantemos ahora 200 años en el futuro para hablar del filósofo Michel Foucault quien escribió el libro “La disciplina y el castigo” en 1975, y en el cual menciona al panóptico, dándole el crédito a Bentham sobre la gran influencia que ha tenido esta idea.


Según Foucault esta idea era tan buena que ahora impregnaba prácticamente a todas las instituciones de las sociedades occidentales. Lo que quiso decir es que, si eres un gobierno, o cualquier otra organización con poder, ya no era necesario golpear a las personas en la cabeza para que hagan lo que tú quieres que hagan, eso ya pasó de moda. Ahora lo que haces para mantenerlas bajo control es controlar las minucias de la vida humana. Creas estándares de lo que es normal y lo que es anormal y después las personas se vigilarán a sí mismas, igual que en el panóptico. Para Foucault hay una relación evidente en las sociedades modernas entre conocimiento y poder, en diferentes niveles. Las personas en el poder controlan qué es el conocimiento, qué lo constituye, quién lo posee y quién lo puede diseminar. También controlan los tabús y las normas de las instituciones sociales y por lo tanto controlan la opinión de la gente al respecto y cómo se miran a sí mismos dentro la sociedad.


Veamos como ejemplo a la educación que normalmente se presenta como una actividad imparcial. La expectativa es que los maestros se mantengan objetivos y sin sesgo, el propósito es simplemente el impartir conocimiento sobre los hechos en el mundo. Pero consideremos qué sucede en la realidad, por ejemplo, con el tema de la historia de los Estados Unidos. Todos estaríamos de acuerdo en decir que esta historia se puede enseñar de varias maneras. Desde hace alrededor de 70 años, se hace énfasis en una narrativa específica que habla sobre la gloriosa guerra de independencia, después una guerra civil para terminar con la esclavitud, después la segunda guerra mundial donde los EE. UU. ayudaron a salvar al mundo de los nazis. Foucault diría que, si enseñas historia de esta manera, usando esta narrativa, entonces fomentas una determinada actitud en las personas sobre su país y su posición en el mundo. Ahora contrastemos esa versión de la historia con otra muy diferente que se ha discutido más recientemente. Esta otra narrativa se enfoca más en enseñar los detalles de la esclavitud en los Estados Unidos, sobre el tratamiento de las tribus indígenas, sobre la lucha de las mujeres para obtener el derecho al voto, etc. Cambias la perspectiva desde donde se crea la narrativa histórica y algunas personas tienen un problema con esa versión porque dicen que fomenta otra actitud en las personas que pueden llegar a odiar a su propio país, porque solo se enfoca en sus defectos. A final de cuentas, no importa cuál de estas dos narrativas diferentes representa mejor la verdadera historia porque el punto es, según Foucault, que lo que tenemos en el sistema educativo no es una institución imparcial que busca la verdad, sino al igual que en el panóptico, existe una asimetría en el conocimiento y el poder.


Las personas en el poder controlan los planes de estudio, ellos deciden qué constituye el conocimiento sobre alguna materia determinada, al hacer eso también establecen la norma, por lo tanto, definen todo lo que está fuera de la norma o las anomalías. Después crean categorías sociales que etiquetan e identifican a estas anomalías con una connotación negativa, lo cual estimula un sistema de conformidad.


Por ejemplo, puedes disentir de la norma política hasta cierto punto, después de ahí pudieras ser etiquetado como un extremista o incluso terrorista. Según Foucault, esto no quiere decir que las normas no deberían de existir o que no tienen un propósito social, simplemente es un intento de entender el funcionamiento de la arquitectura moderna de la dinámica del poder. Justo como en el panóptico de Bentham el poder crea una asimetría en los niveles del conocimiento de los observadores y los observados, después las personas internalizan las normas de comportamiento y se regulan a ellos mismos. El panóptico realmente funciona para crear mejores prisiones, mejores estudiantes, mejores trabajadores, etc. Crea un ambiente en donde se premia a la conformidad y en donde debes estar preocupado en todo momento sin la posibilidad de relajarte por un solo segundo. Esta era la idea del panóptico en 1975. Hoy en día hay temores de que un nuevo tipo de prisión esté surgiendo, que es similar, pero que es aún más diabólica.


Para entender el porqué de los temores hablaremos ahora sobre las ideas del filósofo Stephen Cave, quien piensa que para entender a la sociedad actual debemos entender primero cómo es que se ha utilizado a la inteligencia a través de la historia como justificación para controlar y dominar a las personas. Cave dice que tenemos esta vieja idea en el mundo occidental, que mientras más inteligente seas y más educado estés, más tiene sentido el que tú seas la persona que está encargada de todo. Alguien pudiera decir que eso no es una idea solo de occidente, sino de toda la humanidad. Las personas naturalmente queremos que los responsables de tomar las decisiones importantes en la cima sean personas preparadas e inteligentes. Pero eso no es lo que ha sucedido en la historia. Hay muchas razones por las que personas han sido los encargados de tomar decisiones importantes que no tienen nada que ver con la inteligencia. En muchas ocasiones el más fuerte es el que domina y toma el control; otros simplemente heredan posiciones en el poder; en otras ocasiones se dan razones religiosas para asumir el liderazgo. El punto es que esta idea de que los más inteligentes y educados entre nosotros son los que deben gobernar, lejos de ser la norma, de hecho, era una idea radical en la época de la antigua Grecia que fue cuando se sentaron los fundamentos de nuestra filosofía política. El filósofo Platón de esa época estaba obsesionado con la idea de la inteligencia que en ese entonces se le llamaba simplemente razón. En ese entonces, filósofos que estaban de acuerdo con Platón decían que la razón era parte de la esencia que nos hace humanos. Cuando Platón escribe su libro ─La República─ diseña la estructura de una sociedad ideal y propone a un filósofo rey al mando porque éste siempre usaría la razón para entender a la sociedad. El pensamiento de la época era que en realidad algunas personas son más racionales y educadas que otras así que, para crear una sociedad de la mejor manera posible, las personas más racionales son las que deben ocupar posiciones de liderazgo. Sin embargo, algo que inevitablemente se deduce de lo anterior es la idea de una jerarquía basada en el nivel de inteligencia. Si los hombres más inteligentes y educados deben ser los encargados de todo, entonces, los menos inteligentes nunca deben ser considerados para ocupar posiciones de liderazgo. Esta forma de pensar se incrustó en la filosofía occidental a tal grado que tiempo después se usaría para justificar cosas terribles como el colonialismo y la esclavitud. El punto es que cuando alguien hace referencia al bajo nivel de inteligencia de otra persona, no solo es una afirmación inocente de que esa persona es estúpida, sino que dada la historia que tenemos con el tema, es posible que esa afirmación implique otro tipo de cuestiones sobre qué cosas se le deben permitir hacer a esa persona dado su bajo coeficiente intelectual.


Ahora, Stephen Cave no solo dice que es nuestro deber el conocer este aspecto de la historia de la humanidad sobre la jerarquía de la razón y sus consecuencias, sino que lo que intenta decir tiene que ver con el futuro de la inteligencia artificial. Hoy en día existen muchas personas que les preocupa la posibilidad de que una entidad superinteligente, creada por lo humanos, se apodere del mundo en el futuro... bueno, pues su preocupación pudiera estar justificada. Y el motivo es que los humanos ya hemos sentado el mismo precedente una y otra vez a través de la historia: si un ser vivo es más inteligente y poderoso que otro ser vivo, entonces, el ser superior puede hacer esencialmente lo que desee con su inferior. Desde este punto de vista ¡por supuesto que es preocupante la posibilidad de un ser superinteligente! Y esto nos debe hacer reflexionar sobre el rol que están adquiriendo los algoritmos de inteligencia artificial en nuestras vidas, esos algoritmos que, de algún modo, están mucho más educados que nosotros; que pueden reconocer patrones en nuestro comportamiento y saber lo que deseamos antes de que nosotros mismo lo sepamos. Podríamos hacernos las siguientes preguntas ¿hay personas que estén dispuestas a delegar decisiones difíciles a una entidad con inteligencia superior? ¿pudiera esto coartar su libertad? ¿Cómo sería una panóptica digital moderna? ¿Nos daríamos cuenta si ya estuviéramos viviendo en una?

100 views0 comments

Comments


bottom of page