El panóptico digital, el gran temor distópico que acecha tras la revolución de los datos, la inteligencia artificial y la "dataveillance"
Cuando a finales del siglo XVIII las cárceles empezaron a llenarse de gente –consecuencia de la Guerra de independencia estadounidense, de la Revolución francesa y de sustituir como pena el castigo físico por la privación de libertad–, algunas cabezas pensantes buscaron la fórmula para acelerar la salida de los presos de las cárceles, a ser posible reinsertados. Una de las ideas más rompedoras fue del filósofo y economista Jeremy Bentham: el panóptico. Dicho rápidamente: se construye una cárcel de planta circular y se colocan las celdas en el perímetro, visibles sin dificultad desde el centro de la planta del edificio. En ese mismo punto central, se construye una torre en cuyo interior se colocan los guardias, que podrán vigilar 24/7 a los presos con la enorme ventaja de que estos –los presos– no sabrán cuándo son vigilados.
¿Resultado? Como el preso se sabe vigilado, se fuerza a comportarse con arreglo a la ley y, bien por la costumbre, bien porque se produce un intenso monólogo interior espoleado por la paranoia de saberse observado por el guardia invisible, el preso toma conciencia de su delito y entiende que no debe hacerlo. Reinsertado.
Naturalmente, el modelo de Bentham no triunfo, aunque sí se construyeron varias cárceles con esa idea. Lo que sí quedó fue el concepto de la persona observada que sabe que lo está pero que no puede saber dónde ni cuándo. Y este concepto, en su vertiente tecnológica, está de plena actualidad gracias a la NSA y a Cambridge Analytica.
¿Vivimos en un panóptico digital?
“No me cabe la menor duda de que vivimos dentro de un panóptico digital”, sentencia Miren Gutiérrez, directora del Programa de posgrado Análisis, Investigación y Comunicación de Datos y profesora de Comunicación de Deusto. Pero la también exdirectora de Greenpeace España va más allá y saca a colación el panspectrum, término acuñado por Sandra Braman, que parece la versión 5G del panóptico. Si el panóptico queda limitado por las leyes newtonianas (observado y observador deben coincidir en tiempo y espacio), el panspectrum etá por encima de ellas, pues el vigilante puede vigilar aunque el vigilado esté a miles de kilómetros y/o días de distancia. Ahí quedan el historial de búsqueda, las cookies, el timeline, los informes de movimientos bancarios... Big data. Recurrir a todo esto para vigilar recibe el nombre de dataveillance.
¿Y quién ejerce esta vigilancia? Google, Facebook, Amazon, Microsoft, Apple… “La gente es consciente de la vigilancia de su privacidad con objetivos comerciales, y asume que por estar cómoda y acceder a ciertos contenidos en la web, le van a mandar anuncios. Es el precio que hay que pagar”, concluye Gutiérrez.
“No hay una autoridad central que controle todo el cotarro y se encargue de reprimir. Ahora no hablamos de reprimir, sino de comprimir.
Pero no sólo vigilan las marcas. Para Ulises Cortés, profesor e investigador sobre inteligencia artificial en la Universidad Politécnica de Cataluña y del Barcelona Supercomputing Center, el gran cambio entre el panóptico sin apellido y el digital es que ya no queda claro del todo quién es el vigilante. “No hay una autoridad central que controle todo el cotarro y se encargue de reprimir. Ahora no hablamos de reprimir, sino de comprimir. Hemos cambiado la noción de la desaparición física de 1984 por el linchamiento digital”. Los ciudadanos se vigilan, y censuran, los unos a los otros.
Y, si faltaba alguien entre los vigilantes para terminar de redondear la sensación de que aquí vigila todo el mundo, llegan los gobiernos. “La vigilancia y la inteligencia siempre han sido una parte importante para los gobiernos, para bien y para mal”, explica Miren Gutiérrez, “y entiendo que se necesite información sobre las necesidades de la ciudadanía para gobernar, pero aquí hablamos de algo muy diferente: acumular datos por si acaso dejas de pagar tus impuestos implica que todo el mundo está bajo sospecha por principio. El problema no es que los gobiernos vigilen, pues se supone que lo hacen para gestionar el bien común, sino la vigilancia corporativa-gubernamental, el matrimonio entre las grandes plataformas y los gobiernos”.
La profesora cita dos casos que considera clarificadores: el trasvase de datos de millones de usuarios de AT&T y Verizon al gobierno estadounidense entre 2003 y 2013, y, más recientemente, el acceso de Cambridge Analytica a los datos de 50 millones de usuarios de Facebook (con el consentimiento de la empresa de Zuckerberg) para enviarles información política. “Y no hablamos de una empresa recién llegada. Cambridge Analytica ya tenía experiencia en esto y sabía que las personas con opiniones más extremas son las más vulnerables a este tipo de campañas.”
Mark Zuckerberg da ideas durante el F8, celebrado en mayo de 2019. Anthony Quintano¿Cómo se ha llegado hasta aquí?
Para la exdirectora de Greenpeace España, el panóptico y sus consecuencias son el resultado de una “especie de normalización”. “Nos hemos ido desnudando, haciendo estriptis en redes sociales, cediendo y regalando nuestra intimidad a las plataformas. Todo esto ha hecho que haya una sociedad mucho más tolerante con esta intromisión en nuestras vidas. Y cuando las personas sensibilizadas ante estas cosas se manifiestan se encuentran con cada vez más intrusiones en sus derechos. Y mucha gente dice entonces: ‘¿Qué problema tienes si tú no has hecho nada?’ ¿Qué forma de pensar es esa? Como no he hecho nada, que pongan una cámara en mi casa”.
“Nos hemos ido desnudando, haciendo estriptis en redes sociales, cediendo y regalando nuestra intimidad a las plataformas. Todo esto ha hecho que haya una sociedad mucho más tolerante con esta intromisión en nuestras vidas"
El profesor Ulises Cortés también destaca la misma idea: “Cuando el ciudadano piensa ‘Como mis datos no valen nada y no tengo nada que esconder, no me preocupa que me vigilen’, es entonces cuando se produce la distopía”. “Nos hemos dejado circundar por una tecnología que al principio era inocua, pero que luego se ha demostrado que no era así. ¿A qué responde que las cámaras del iPhone sean cada vez mejores si no es a mejorar el reconocimiento facial y la localización?”, se pregunta Cortés, que prevé que la escalada tecnológica por la vigilancia irá a más.
Ramón López de Mántaras, profesor de investigación del Consejo Superior de Investigaciones Científicas (CSIC) y Fundador y exdirector del Instituto de Investigación en Inteligencia Artificial del CSIC, se muestra muy cauteloso con el siempre inminente Internet de las Cosas. “Tengo serias dudas de que el IoT sea una buena idea. Que el coche esté conectado será imprescindible para que sea totalmente autónomo; en caso de accidente puede ponerse en contacto con el servicio de emergencia y salvarte la vida. Pero hay casos completamente irrelevantes. ¿Para qué quiero que mi frigorífico esté conectado a Internet? ¿Qué valor añadido tiene que me mande un mensaje mientras trabajo diciendo que se ha terminado la leche? Si la gente se compra alegremente y sin estar informada todos estos gadgets, el panóptico digital se nos va a quedar corto.”
La regulación podría no ser suficiente
“Entiendo que la regulación excesiva puede sofocar la innovación y las libertades, pero la falta de regulación genera monopolios y abusos de todo tipo, porque las empresas van a llegar hasta donde les dejes”, explica Gutiérrez, que advierte del riesgo de que las administraciones empiecen a utilizar algoritmos creados por empresas que no tienen necesariamente los mismos valores que los gobiernos que los encargaron.
“No entiendo la dependencia de los gobiernos de estas plataformas que usan software propietario y comercial. Muchas veces te dicen que no pueden hacer nada contra Google. ¿Excuse me? Primero, cambia los sistemas, pasa de Google y usa sistemas abiertos. Y segundo, haz un manual para proveedores de servicios que incorporen los valores que quieres promover. No vas a cambiar el mundo, pero sí se puede generar un efecto dominó, como cuando los ayuntamientos compran coches eléctricos”, subraya Gutiérrez.
El Reglamento General de Protección de Datos de la UE, en funcionamiento desde mediados de 2018, es hasta el momento la primera barrera de protección de los ciudadanos comunitarios contra el uso de los datos personales por parte de las plataformas digitales. Sobre la regulación del uso de algoritmos privados para tratar temas públicos no hay nada sobre la mesa todavía, aunque sí se está conformando un plan estratégico acerca de la IA en estos momentos.
Para la profesora Gutiérrez no es suficiente con las regulaciones en desarrollo y reclama un mayor compromiso por parte de la ciudadanía más allá de configurar dispositivos para limitar el acceso a su información personal. “No es sólo la privacidad, es una cuestión mucho más profunda que tiene que ver con las libertades y con la democracia”. “¿Queremos una sociedad fácil en la que Alexa decida todo por nosotros a cambio de ser espiados en nuestras acciones y sentimiento, o queremos una sociedad más libre a precio de cierta incomodidad y de ser más solidarios con los derechos de todos?”.
Imágenes |Presidio Modelo, Cuba|Mark Zuckerberg en el F8|
-
La noticia El panóptico digital, el gran temor distópico que acecha tras la revolución de los datos, la inteligencia artificial y la "dataveillance" fue publicada originalmente en Xataka por Francisco Rouco .
Fuente: Xataka
Enlace: El panóptico digital, el gran temor distópico que acecha tras la revolución de los datos, la inteligencia artificial y la "dataveillance"
Comentarios
Publicar un comentario