en una conversión imperceptible?
La Inteligencia Artificial
debe ser vigilada de cerca: Brad Smith de Microsoft, alerta sobre su desarrollo
incontrolado
10
Octubre 2019, 04:15 Jose Antonio
@josetxu_granada
Puede que
a muchos les pueda sonar a broma, pero hasta no hace mucho tiempo, el miedo a
la Inteligencia
Artificial al ver a esta como una amenaza para la raza humana era
una fobia bastante extendida. De hecho, ya lo vimos en esta charla en nuestro episodio uno de la
segunda temporada de Captcha en la que vimos como es un miedo infundado.
No
obstante parece que no todos lo ven así y muchos piensan que Skynet o Matrix
y la revolución de las máquinas está a la vuelta de la esquina. La inteligencia
artificial puede ser una amenaza y así en la Cumbre GeekWire 2019, el
Presidente de Microsoft, Brad Smith, ha dado su visión, un tanto pesimista
al respecto.
¿Es una amenaza la Inteligencia Artificial?
Smith
puso como motivo de dicha visión un tanto negativa, el accidente
de aviación acaecido en la zona del Estrecho de Puget, en la que un avión
con pasajeros y tripulantes padeció un accidente debido a un sistema
automático que no pudieron inutilizar desde cabina llegado el momento.
El
software y su premisa eran magníficos, puesto que se encarga de detectar un
exceso en la inclinación del aparato si esta es muy elevada, bajando el morro y
disminuyendo la altura en consecuencia. El problema es que en este caso
fallaron las mediciones y la tripulación en cabina no pudo desactivar el
sistema con el consecuente trágico final.
Esta
situación ha sido la "excusa" para Brad Smith, que justifica que el
desarrollo tecnológico es elogiable, pero debe ser siempre controlado. Y en
el caso de la Inteligencia Artificial y los sistemas que la incorporan, estos
deben contar una especie de botón del pánico o de emergencia que permite desactivarlos.
Y que
conste, no es el único caso. A nivel más terrenal y mucho más cercano a la
inmensa mayoría de usuarios, tenemos los casos de atropellos
a personas por parte de coches autónomos.
Se trata
de garantizar la primacía de las decisiones humanas en ciertos momentos
y en determinadas circunstancias en las que la toma de decisiones de un sistema
basado en inteligencia artificial no sea todo lo adecuado que debiese.
Brad
Smith no cesó en ese punto en su crítica hacia el uso de la Inteligencia
Artificial tal y
como la conocemos hoy día. Toda la sociedad y toda la industria deben adquirir
conciencia del camino que están tomando:
"Somos
la primera generación que decidirá cómo las máquinas tomarán estas decisiones,
qué tipo de principios éticos guiarán su toma de decisiones. No hay presión,
pero es mejor que lo hagamos bien".
Hemos
visto como hay drones y "máquinas de guerra" que ya han
matado a personas de forma autónoma. Es sólo una parte del problema
que hace que Smith afirma que se debe estudiar el posible riesgo de un
desarrollo no controlado de la IA y el aprendizaje automático (machine
learning). De hecho, ya vimos una opinión similar de
manos de una ingeniera de Google.
Es un problema
peliagudo. El desarrollo de una IA que en un determinado momento no pudiera
incluso gestionar los propios sistemas de control impuestos por los seres
humanos. El cruce de ideas y teorías está sobre la mesa y dará mucho que
hablar.
Ingeniería de control
social: adiós a los delitos y a la disidencia
Marcos
Martínez @euklidiadas
La
inteligencia artificial se está convirtiendo en un fenómeno global de control
social. Así
aparece reflejado en el informe ‘The Global Expansion of AI Surveillance’ de septiembre de
2019.
En paralelo, el informe ‘The Global Disinformation Order’ habla de la “propaganda computacional” y detecta al menos 70 países con campañas de desinformación.
En paralelo, el informe ‘The Global Disinformation Order’ habla de la “propaganda computacional” y detecta al menos 70 países con campañas de desinformación.
La
inteligencia artificial es una herramienta, o conjunto de ellas. Por tanto,
puede usarse tanto para causas intrínsecamente buenas, como es la
mejora de la medicina, e intrínsecamente malas, como es la
generación de nuevas armas. La ingeniería de control social se enmarca en
un gris oscuro, casi negro. ¿Está justificado manipular a la sociedad para
evitar delitos?
¿Justificamos Gran hermano?
En cuanto
uno pasea por los centros de las grandes ciudades europeas pronto nota la
presencia de cámaras. Están ahí para prevenir delitos (disuasión), así como
para que los cuerpos de seguridad los resuelvan en caso de cometerse. Como
recalca el informe ‘The Global Expansion of AI Surveillance’, redactado por el
Fondo Carnegie para la Paz Internacional, “la vigilancia estatal no es
inherentemente ilegal”. Tampoco es mala per se.
Países con ciudades con sensores
que transmiten datos en tiempo real para facilitar el servicio de reparto, la
gestión municipal y la seguridad pública. | Fuente: Fondo Carnegie para la Paz
Internacional
Existe un
gran número de casos por los que la vigilancia está justificada e incluso
apoyada por la población. Los dueños de los comercios de las zonas turísticas agradecen
la presencia policial y el séquito de cámaras. Lo hacen porque estas
trabajan en paralelo a sus intereses personales. Cuando hemos sido víctimas de
hurtos, todos
agradecemos una cámara cerca.
Pero
también hay una gran cantidad de escenarios en los que la escucha vulnera los
derechos básicos de los ciudadanos y se persigue cualquier tipo de
disidencia. A veces incluso ciudadanos de países extranjeros, como puso de
manifiesto Edward Snowden. En el vídeo de abajo, publicado por The Wall Street
Journal, podemos ver cómo los alumnos tienen una banda en la cabeza que
determina en tiempo real si prestan atención o no. La
monitorización es total.
Some classrooms in China are equipped with AI cameras and brain-wave
trackers. While many parents and teachers see them as tools to improve grades,
they’ve become some children’s worst nightmare. #WSJWhatsNow
pic.twitter.com/q1wyQcWdZw
— The Wall Street Journal (@WSJ) September 26, 2019
El
informe mencionado dibuja una marcada línea divisoria entre un grado de
vigilancia coherente para soportar el estado de bienestar y un manifiesto control
“injustificado o arbitrario” que restringe los derechos de los ciudadanos.
Y hemos cruzado esta línea con alegría.
¿España espía a sus ciudadanos?
Al menos
75 países, entre los cuales España está incluida, han desplegado tecnología de
vigilancia controlada por inteligencia artificial. Según el informe, “las
democracias liberales en Europa han acelerado a la hora de instalar controles
de frontera automatizados, policía predictiva, ciudades seguras y sistemas de
reconocimiento facial”. Y en este punto, nuestro país es un ejemplo.
Países con tecnología biométrica
que usa cámaras para localizar individuos. | Fuente: Fondo Carnegie para la Paz
Internacional
En España
pecamos de incorporar mecanismos de ciudades seguras que vulneran la
privacidad o tecnología de reconocimiento facial, que en algunos
casos puede resultar muy útil. También de hacer uso de sistemas policiales
inteligentes, como VeriPol. Además, usamos tecnología estadounidense y china,
lo que nos hace vulnerables al espionaje masivo.
Nos
libramos, eso sí, de que la infraestructura del proyecto chino ‘Belt and Road Initiative’ sea incorporada a nuestro país.
Aunque de todas formas, esta nueva ruta de la seda nos alcanza por transporte
marítimo y ferroviario. El informe no parece indicar que España espíe a sus
ciudadanos, pero sí que hemos abierto la puerta de par en par a que otros
países lo hagan. Y de paso, manipulamos un poco.
Desinformación estatal ¿con qué objetivo?
El otro
estudio mencionado, ‘The Global Disinformation Order’, también guarda relación
directa con la ingeniería de control social. Aunque en este caso resulta
difícil establecer un hilo conductor en algunos países, según informa la
Universidad de Oxford.
Mientras
que en países como China o Vietnam hay una marcada pauta estatal para
desinformar (también hacen uso de tecnología
policial y un sistema de puntos que verifica la
afinidad al régimen), en otros países la desinformación viene por parte de
grupos de la sociedad civil. En tan solo dos años ha aumentado un 50% los
países que usan esta aproximación, con Facebook como red preferida para
desinformar.
En
ocasiones, incluso de partidos políticos en la oposición, como es el caso de
España, donde “Politicians and Parties” (políticos y partidos) han entrado al
juego de manipular la opinión pública. Entre sus objetivos están:
- Desinformar y engañar (confundir) a la población.
- ‘Trolear’ a disidentes políticos y periodistas.
- Amplificar contenido afín a una ideología.
De hecho la
publicación de sendos informes coincidió con un comunicado por parte de Twitter sobre cómo algunas
iniciativas han tratado de usar la plataforma para manipular a las masas.
Decenas de organizaciones han sido señaladas y miles de cuentas se han
desactivado. En España fueron desactivadas 259 cuentas operadas por el Partido Popular.
La clásica propaganda de televisión
Aunque el
avance los automatismos permite un
crecimiento explosivo en bots y campañas dirigidas, la
propaganda de brocha gorda sigue muy presente. No siempre es necesario
hacer uso de la última tecnología del mercado.
Como
ejemplo, el Partido Comunista de China ha regalado 620.000 televisores con
objeto de que las familias sin recursos puedan ver los desfiles militares
del 70º aniversario del nacimiento de la República Popular. Con una fuerte
presión prodemocracia en Hong Kong (al escribir esto recibimos la confirmación
de que un manifestado ha sido disparado por la policía hongkonesa), el Partido
Comunista de China ha optado por saturar la atención de sus ciudadanos y suprimir mediante
censura aquello que no quieren que vean.
Tecnología
como la inteligencia artificial solo ha hecho estas campañas en contra de la
disidencia y la información veraz algo aún más virulento. Se espera que
empresas como Google o Facebook sigan los pasos de Twitter al denunciar
manipulación política a fin de lograr un internet más transparente, y que los
informes mencionados ayuden a valorar y restaurar la privacidad.
En Nobbot
| Ángel
Gómez de Ágreda, experto en ciberdefensa: «Hemos regalado nuestra privacidad a
cambio de comodidad»
Los ensayos con CRISPR en
humanos que ya están en marcha más allá de los bebés transgénicos
Juan F.
Samaniego @ferjuangon
Un corta
y pega a escala molecular. Eso es a muy, muy grandes rasgos la herramienta de
edición genética CRISPR. Una tecnología que ha revolucionado la escena de la
medicina y la biotecnología.
Mientras
el mundo decide las
líneas éticas que han de delimitar la edición del ADN humano, la
investigación avanza a distintas velocidades. China empezó una
carrera a la que se ha sumado pronto Estados Unidos y a la que el resto del
planeta mira con interés. Las expectativas son altas. Esta combinación de
ADN bacteriano y una enzima en el papel de tijera está llamada, entre otras
cosas, a curar muchas de las enfermedades que a día de hoy carecen de
tratamiento.
El boom de CRISPR
En 2002
se publicó el paper en el que aparecían, por primera vez, seis siglas:
CRISPR. Las iniciales, en inglés de repeticiones palindrómicas cortas agrupadas
y regularmente interespaciadas. Aquel
artículo estaba firmado por cuatro investigadores de la universidad de
Utrecht, en los Países Bajos. El grupo de científicos había bautizado como
CRISPR un tipo de secuencia en el ADN de las bacterias que iba a
revolucionar la genética.
Y había
elegido el nombre de forma conjunta con el equipo de investigadores de Francis
Mojica. De la mano del investigador alicantino se habían descubierto, en
1992, las primeras pistas de la existencia de este sistema
de inmunidad adquirida de las arqueas. Un sistema que tardó casi una década
en describirse por completo y nombrarse.
En 2003
se publicó otro paper y al año siguiente, ninguno, tal como recoge en su
web Lluís Montoliu, científico del Centro Nacional de
Biotecnología del CSIC. Al cabo de una década se habían publicado 669 artículos
científicos sobre CRISPR. Era 2013 y se acababa de sugerir la potencialidad de
esta herramienta en la edición genética. El año pasado, según Nature,
se publicaron más de 5.000 papers.
CRISPR ha
acaparado la atención científica durante esta década y su protagonismo no ha
hecho más que empezar. En 2015, sin bombo ni platillo, China empezó a
probar terapias genéticas CRISPR en humanos. Los primeros bebés cuyo ADN había sido editado nacieron 2018,
ante el asombro de la comunidad científica. Y a estas alturas de 2019 hay ya
una veintena de estudios médicos en marcha, casi todos repartidos entre
Norteamérica y China, que implican el uso de CRISPR, según la base de datos de la National Library of Medicine de
Estados Unidos. Estos son algunos de los más destacados.
Edit-101: buscando curar la ceguera
En julio
del año pasado, las compañías Editas Medicine y Allergan, en colaboración con
cuatro centros de investigación de Boston, Florida, Michigan y Portland, todos
ellos en Estados Unidos, recibieron el visto bueno para iniciar el que se
considera el primer ensayo clínico in vivo de un fármaco de
edición genética. El objetivo es desarrollar una cura para un tipo de ceguera
hereditaria, la amaurosis congénita de Leber tipo 10.
El
fármaco, denominado Edit-101, contempla que CRISPR trabaje directamente en el
cuerpo humano. Es decir, los pacientes reciben una inyección con un gen
corregido que no causa la ceguera, y CRISPR se encarga de reemplazarlo
directamente en el organismo. Además de buscar una cura, estos ensayos servirán
para medir los riesgos potenciales de la edición genética in vivo.
China y el intento de eliminar el VIH
Durante
los últimos dos años, científicos de la universidad de Beijing han estado
intentando desarrollar un sistema basado en CRISPR para luchar contra el VIH,
el virus causante del SIDA. Los resultados de su primer experimento acaban de ser publicados y, aunque no han logrado el
objetivo final, aseguran que el tratamiento no ha generado efectos
secundarios en el paciente. Una vez más, se testea tanto la eficacia del
procedimiento como la seguridad de la tecnología CRISPR.
Durante
algo más de un año, una persona con VIH y cáncer de sangre tuvo en su cuerpo una
serie de células madre editadas para imitar una forma rara de inmunidad natural
al virus del SIDA. Estas células sobrevivieron durante 12 meses sin causar
efectos secundarios. El problema, aseguran los investigadores, fue que la
cantidad de células inyectadas no era suficiente para combatir el virus.
El estreno de EE.UU. y la cura del cáncer
El primer
ensayo clínico de terapias CRISPR en Estados Unidos lleva poco tiempo en
marcha. Y el objetivo no es poco ambicioso. Hace poco menos de un año,
investigadores de la Universidad de Pensilvania iniciaron las pruebas de un
tratamiento que busca modificar las células T, un tipo de linfocito clave
en el sistema inmunológico humano, para que sean capaces de combatir ciertos
tipos de cánceres. Por el momento, se trabaja con 18 pacientes con
diferentes tipos de cáncer, como sarcoma y mieloma múltiple.
En este
caso, el uso de CRISPR se hace fuera del cuerpo humano. A los pacientes se les
extraen sus células T. En el laboratorio, se modifican sus genes para que
puedan identificar una clase de célula cancerígena y atacarla. Después, se
devuelven las células T a los pacientes y se esperan los resultados. Funciona
como una inmunoterapia, el tratamiento para el cáncer que estimula las defensas
naturales del cuerpo, pero con el apoyo de CRISPR.
Aunque se
esperan resultados preliminares antes, el equipo investigador asegura que no
se podrán obtener resultados definitivos antes de 2033.
La importancia de la forma de los glóbulos rojos
La anemia
de células falciformes no es una enfermedad muy conocida. Pero quienes la
padecen sufren dolor crónico, hinchazón de las extremidades y anemia. Está
causada por la simple sustitución de una base por otra (timina por adenina) en
una proteína (globina beta) de un único cromosoma (el 11). Este pequeño cambio provoca
que los glóbulos rojos adquieran una forma de hoz (normalmente son como
discos) y transportan menos oxígeno en la sangre.
Desde
finales del año pasado, la Universidad de Columbia, el hospital infantil de
Filadelfia y las empresas Vertex Pharmaceuticals y CRISPR Therapeutics estudian
cómo las células madre de los pacientes, editadas mediante CRISPR en
laboratorio, pueden producir menos hemoglobina falciforme. Y cómo una vez
reintroducidas en el cuerpo mejoran la salud de los enfermos. Los ensayos concluirán en 2022 y podrían abrir nuevas
vías de investigación para el tratamiento de enfermedades raras.
Desde
tratamientos contra la tuberculosis y la leucemia hasta curas para el síndrome
de Kabuki o la hipertermia, la lista de investigaciones en curso para poner a
prueba la tecnología
CRISPR no deja de crecer. Mientras,
el debate sobre hasta dónde merece la pena correr el riesgo de editar nuestros
propios genes sigue abierto.
Imágenes
| Unsplash/Drew Hays, Pixabay/8385, madartzgraphics,
DarkoStojanovic
Crean el nuevo ordenador
cuántico más potente del mundo: 79 qubits
Ciencia
La
computación cuántica ha avanzado mucho en los últimos años. La carrera por
conseguir el ordenador cuántico con más qubits tiene a varios
participantes, como Google, IBM o IonQ. Esta última fue fundada con el
objetivo de demostrar que los iones atrapados son mejores que los
basados en silicio que usan compañías como Google. Y ahora han demostrado
que lo son, creando el más potente hasta la fecha con 79 qubits.
Triplican la cifra récord de qubits alcanzada hasta
la fecha
Esta
cifra supera con creces la alcanzada por Google de 7 qubits. Los porcentajes de
error se sitúan también entre los mejores jamás vistos con un 99,97% de
fiabilidad qubits únicos, por el 99,5% de la competencia. La tasa con
qubits dobles es del 99,3%, frente al 95% de la mayoría de competidores.
La prueba
de rendimiento que han utilizado se basa en el algoritmo Bernstein-Vazirani,
el cual esperan que se popularice y estandarice para comprobar la habilidad de
un ordenador para determinar un número codificado (llamado oráculo)
cuando el ordenador sólo puede hacer una pregunta de sí o no. Cuando el
algoritmo se ejecuta para todos los números en 1 y 2014, un ordenador
convencional obtiene un 0,2% de aciertos. El ordenador cuántico obtiene un 79%.
Así, la
compañía ha visto por primera vez cómo su apuesta de iones atrapados ha dado
sus frutos, demostrando tener todas las ventajas que esperaban. Todos los
ordenadores cuánticos aíslan y manipulan sistemas cuánticos para crear
versiones cuánticas de los bits de los ordenadores, dando lugar a los qubits.
Así, en lugar de ser 0 y 1, un qubit puede ser 0 y 1 a la vez,
pero muestran como resultado un 0 o un 1.
El iterbio: elemento clave para no tener que
mantener un ordenador cuántico a temperaturas bajo cero
El diseño
de iones atrapados de IonQ reemplaza la versión de empresas como Google, IBM
o Rigetti, que necesitan refrigeración a temperaturas muy bajas. Para
ello, la compañía utiliza iterbio, un elemento metálico plateado
blando de tierra rara que permite operar a temperatura ambiente. El
iterbio ionizado se suspende en un campo electromagnético que oscila,
donde es manipulado por los ingenieros que programan los láseres que
introducen, almacenan y obtienen la información.
A pesar
de ello, este sistema todavía presenta ciertos inconvenientes. Entre
ellos encontramos que es lento a la hora de realizar operaciones y que
requiere de equipos que son muy grandes en tamaño. No obstante,
su precisión y escalabilidad serán su principal atractivo en 2019,
donde empresas externas podrán usar el ordenador para realizar cálculos.
Aunque
todavía hay superordenadores tradicionales más potentes que el mejor
ordenador cuántico, la diferencia cada vez va siendo menor. Todavía está
por descubrir cuál va a ser el gran uso de los ordenadores cuánticos, pero no
tardará mucho en descubrirse al paso que se va avanzando.
No hay comentarios.:
Publicar un comentario