Ingeniería de control
social: adiós a los delitos y a la disidencia
Marcos
Martínez @euklidiadas
La
inteligencia artificial se está convirtiendo en un fenómeno global de control
social. Así
aparece reflejado en el informe ‘The
Global Expansion of AI Surveillance’ de septiembre de 2019.
En paralelo, el informe ‘The Global Disinformation Order’ habla de la “propaganda computacional” y detecta al menos 70 países con campañas de desinformación.
En paralelo, el informe ‘The Global Disinformation Order’ habla de la “propaganda computacional” y detecta al menos 70 países con campañas de desinformación.
La
inteligencia artificial es una herramienta, o conjunto de ellas. Por tanto,
puede usarse tanto para causas intrínsecamente buenas, como es la mejora de la medicina, e intrínsecamente malas, como
es la generación de nuevas armas. La ingeniería de control social
se enmarca en un gris oscuro, casi negro. ¿Está justificado manipular a la
sociedad para evitar delitos?
¿Justificamos Gran hermano?
En cuanto
uno pasea por los centros de las grandes ciudades europeas pronto nota la
presencia de cámaras. Están ahí para prevenir delitos (disuasión), así como
para que los cuerpos de seguridad los resuelvan en caso de cometerse. Como
recalca el informe ‘The
Global Expansion of AI Surveillance’, redactado por el Fondo Carnegie para la Paz
Internacional, “la vigilancia estatal no es inherentemente ilegal”. Tampoco es
mala per se.
Países con ciudades con sensores
que transmiten datos en tiempo real para facilitar el servicio de reparto, la
gestión municipal y la seguridad pública. | Fuente: Fondo Carnegie para la Paz
Internacional
Existe un
gran número de casos por los que la vigilancia está justificada e incluso
apoyada por la población. Los dueños de los comercios de las zonas turísticas agradecen
la presencia policial y el séquito de cámaras. Lo hacen porque estas
trabajan en paralelo a sus intereses personales. Cuando hemos sido víctimas de
hurtos, todos agradecemos una cámara
cerca.
Pero también
hay una gran cantidad de escenarios en los que la escucha vulnera los derechos
básicos de los ciudadanos y se persigue cualquier tipo de disidencia. A
veces incluso ciudadanos de países extranjeros, como puso de manifiesto Edward
Snowden. En el vídeo de abajo, publicado por The Wall Street Journal, podemos
ver cómo los alumnos tienen una banda en la cabeza que determina en tiempo real
si prestan atención o no. La monitorización es total.
Some classrooms in China are equipped with AI cameras and brain-wave
trackers. While many parents and teachers see them as tools to improve grades,
they’ve become some children’s worst nightmare. #WSJWhatsNow pic.twitter.com/q1wyQcWdZw
— The Wall Street Journal (@WSJ) September 26, 2019
El
informe mencionado dibuja una marcada línea divisoria entre un grado de
vigilancia coherente para soportar el estado de bienestar y un manifiesto
control “injustificado o arbitrario” que restringe los derechos de los
ciudadanos. Y hemos cruzado esta línea con alegría.
¿España espía a sus ciudadanos?
Al menos
75 países, entre los cuales España está incluida, han desplegado tecnología de
vigilancia controlada por inteligencia artificial. Según el informe, “las
democracias liberales en Europa han acelerado a la hora de instalar controles
de frontera automatizados, policía predictiva, ciudades seguras y sistemas de
reconocimiento facial”. Y en este punto, nuestro país es un ejemplo.
Países con tecnología biométrica
que usa cámaras para localizar individuos. | Fuente: Fondo Carnegie para la Paz
Internacional
En España
pecamos de incorporar mecanismos de ciudades seguras que vulneran la privacidad o tecnología de reconocimiento
facial, que en algunos casos puede resultar
muy útil. También
de hacer uso de sistemas policiales inteligentes, como VeriPol. Además, usamos tecnología
estadounidense y china, lo que nos hace vulnerables al espionaje masivo.
Nos
libramos, eso sí, de que la infraestructura del proyecto chino ‘Belt and
Road Initiative’ sea
incorporada a nuestro país. Aunque de todas formas, esta nueva ruta de la seda
nos alcanza por transporte marítimo y ferroviario. El informe no parece
indicar que España espíe a sus ciudadanos, pero sí que hemos abierto la
puerta de par en par a que otros países lo hagan. Y de paso, manipulamos un
poco.
Desinformación estatal ¿con qué objetivo?
El otro
estudio mencionado, ‘The
Global Disinformation Order’, también guarda relación directa con la ingeniería
de control social. Aunque en este caso resulta difícil establecer un hilo
conductor en algunos países, según informa la Universidad de Oxford.
Mientras
que en países como China o Vietnam hay una marcada pauta estatal para
desinformar (también hacen uso de tecnología policial y un sistema de puntos que verifica la afinidad al régimen), en otros países la desinformación
viene por parte de grupos de la sociedad civil. En tan solo dos años ha
aumentado un 50% los países que usan esta aproximación, con Facebook como red
preferida para desinformar.
En
ocasiones, incluso de partidos políticos en la oposición, como es el caso de
España, donde “Politicians and Parties” (políticos y partidos) han entrado al
juego de manipular la opinión pública. Entre sus objetivos están:
- Desinformar y engañar (confundir) a la población.
- ‘Trolear’ a disidentes políticos y periodistas.
- Amplificar contenido afín a una ideología.
De hecho
la publicación de sendos informes coincidió con un
comunicado por parte de Twitter sobre cómo algunas iniciativas han tratado de
usar la plataforma para manipular a las masas. Decenas de organizaciones
han sido señaladas y miles de cuentas se han desactivado. En España fueron
desactivadas 259
cuentas operadas por el Partido Popular.
La clásica propaganda de televisión
Aunque el
avance los automatismos permite un crecimiento explosivo en bots y campañas dirigidas, la propaganda de brocha gorda sigue muy presente. No siempre
es necesario hacer uso de la última tecnología del mercado.
Como
ejemplo, el Partido Comunista de China ha regalado 620.000 televisores con
objeto de que las familias sin recursos puedan ver los desfiles militares
del 70º aniversario del nacimiento de la República Popular. Con una fuerte
presión prodemocracia en Hong Kong (al escribir esto recibimos la confirmación
de que un manifestado ha sido
disparado por la policía hongkonesa), el Partido Comunista de China ha optado por saturar la
atención de sus ciudadanos y suprimir mediante censura aquello que no quieren que vean.
Tecnología
como la inteligencia artificial solo ha hecho estas campañas en contra de la
disidencia y la información veraz algo aún más virulento. Se espera que
empresas como Google o Facebook sigan los pasos de Twitter al denunciar
manipulación política a fin de lograr un internet más transparente, y que los
informes mencionados ayuden a valorar y restaurar la privacidad.
En Nobbot
| Ángel Gómez de Ágreda, experto en
ciberdefensa: «Hemos regalado nuestra privacidad a cambio de comodidad»
No hay comentarios.:
Publicar un comentario