Robots podrían ser
programados para matarte “por el bien común”
 |
| Algunos imaginan esto |
 |
| y podría ser esta miniatura |
Un neumático delantero explota, y los ejes del SUV (Vehículo deportivo
utilitario) giran. Pero en vez de girar hacia la izquierda, hacia el carril
opuesto de tráfico, el vehículo robótico se dirige a la derecha. Los
frenos se acoplan, el sistema trata de corregirse a sí mismo, pero hay
demasiado impulso. Como el truco de la bola de maiz en una mala película de
acción, usted está sobre el acantilado, en caída libre.
Su robot, por el que pagó un buen dinero, ha decidido matarte. Mejor que
eso, sus algoritmos de respuesta ante una colisión decidieron que en un caso de
alta velocidad, la colisión frontal con un ser compacto y no robótico más
pequeño. Había dos personas en el coche. La matemática no podía ser más simple.
Sofge cita un artículo de opinión de Patrick Lin,
profesor asociado filosofía y director del Grupo de Ciencias Emergentes + Ética
del Polytechnic State University de California, en el que Lin se adentra en los
“Legal y moralmente caminos peligrosos”, que se presentan por la aparición de
los vehículos robóticos.
Aparte de los coches de Google y otras formas autónomas de transporte,
la cuestión de dar a los soldados robot licencia para matar se ha prolongado
durante años y en la actualidad es objeto de un debate muy esperado en Nueva York está supervisado por
la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales.
El papel del organismo de la ONU en la prohibición de las armas láser
cegadoras para el uso del campo de batalla en la década de 1990 ha llevado a la
especulación de que la legislación que prohíbe el uso de aviones no tripulados
de soldados podría estar en las obras.
“Todo el derecho internacional con demasiada frecuencia sólo responde a
las atrocidades y el sufrimiento una vez que ha ocurrido”, dijo Michael Moeller , director de la
sede europea de la ONU que actúa en Ginebra. “Usted tiene la oportunidad de
tomar medidas preventivas y asegurar que la decisión final de acabar con la
vida sigue estando bajo control humano.”
El año pasado, el galardonado escritor militar y ex oficial de
inteligencia teniente coronel Douglas Pryer escribió un ensayo por
remordimientos, que alerta de la amenaza que plantean los “robots
asesinos” que se utilizarán para acechar y asesinar a blancos humanos en un
futuro próximo.
Los comentarios de Pryer haciéndose
eco de los de Noel Sharkey , profesor de inteligencia artificial
y robótica en la Universidad de Sheffield, quien ha advertido en repetidas
ocasiones que los robots que se están desarrollando actualmente bajo los
auspicios de DARPA se utilizarán para matar eventualmente.
En un informe de 50 páginas publicado en 2012, Human Rights Watch también advirtió que
los robots con inteligencia artificial sueltos por el campo de batalla
inevitablemente van a cometer crímenes de guerra.
Michael Cahill, profesor de derecho y vice decano de la Facultad de
Derecho de Brooklyn, dio la bienvenida a la idea de robots autónomos con el
poder de tomar decisiones de vida o muerte en nombre de los seres humanos, pero
reconoció que tal sociedad podría parecerse a una pesadilla de ciencia ficción.
“La belleza de los robots es que no tienen relaciones con nadie”, dijo
Cahill, quien agregó: “Ellos pueden tomar decisiones que sean mejores para
todos. Pero si usted vive en ese mundo, donde los robots tomasen todas las
decisiones, se podría pensar que es una distopía “.
Fuente:http://www.infowars.com/scientists-robots-could-be-programmed-to-kill-you-for-the-greater-good/
Visto en : La Monedas de Judas
¿Cuál de las dos primará sobre la otra?
Texto completo en: http://actualidad.rt.com/ciencias/view/126981-hawking-desarrollo-inteligencia-artificial
"Ya podemos conectar la mente de una persona que tiene una lesión de la médula a una computadora para que haga lo mismo que cualquiera. Mi colega Stephen Hawking está completamente paralizado, sólo parpadea. Pero el cristal derecho de sus gafas tiene una antena con un chip conectado a una computadora portátil y eso le permite comunicarse mentalmente. En la próxima década, la gente con parálisis podrá moverse y comunicarse", anuncia el especialista en Teoría de Cuerdas.
EL DOCTOR KAKU EXPLICA POR QUÉ ESCRIBIÓ ESTE FASCINANTE LIBRO SOBRE LOS LÍMITES Y EL FUTURO DE LA CONCIENCIA HUMANA, Y LA RELACIÓN QUE ESTO TIENE CON SU TRABAJO COMO FÍSICO.
Afirma que en el futuro, "tendrás un botón, apretarás y recordarás quién eres, dónde vives y dónde tienes que ir", volviéndonos, al mismo tiempo, susceptibles a ser "reseteados" totalmente, como si fuéramos simples almacenadores de memoria, pudiendo ser utilizados para cualquier tipo de fin.
Inteligencia artificial o mente humana?
Científicos crean microchips que imitan el cerebro
humano
 |
| © StanfordUniversity |
Científicos
han desarrollado microchips de bajo consumo basados en el cerebro humano,
9.000 veces más rápidos y que utilizan mucha menos energía, que los de un
computador.
El nuevo microchip
abre nuevas fronteras en la robótica y la informática, informa 'ScienceDaily'.
Usando 16
chips, emulando 1 millón de neuronas, el sistema Neurogrid busca comprender más
nuestro cerebro y copiar algo de sus estrategias para ser energéticamente
eficiente.
Un
ordenador personal no es solo más lento, sino que emplea 40.000 veces más
energía para funcionar, escribe Kwabena Boahen, profesor adjunto de
Bioingeniería en Stanford, en un artículo publicado en 'Proceedings
of the IEEE'.
"Desde
la perspectiva del consumo de energía, el cerebro es
difícil de igualar", explica Boahen, cuyo artículo analiza cómo los
investigadores neuromórficos en Estados Unidos y Europa están utilizando el
silicio y 'software' para construir sistemas electrónicos que imitan a las
neuronas y las sinapsis.
"Ahora
mismo, es necesario saber cómo funciona el cerebro para poder programar el
dispositivo. Nuestro próximo objetivo es, precisamente, crear un
neurocompilador que permita a un programador trabajar con un código más
convencional sin tener que saber sobre sinapsis y neuronas", explica
Boahen.
La
arquitectura que simula el cerebro de Neurogrid no es casual. Su primer
objetivo es convertirse en el controlador de una nueva generación de implantes
robóticos para personas que sufren de parálisis. En el futuro, sin embargo,
podría servir para aplicaciones más convencionales.
"El desarrollo de la
inteligencia artificial puede ser el último logro humano"
Publicado:
2 may 2014
 |
| © Wikimedia / RT |
Un equipo
de físicos, incluido el famoso Stephen Hawking, ha dicho que la creación de IA
sería el hito más importante de la historia humana, pero por desgracia, también
podría ser el último a menos que aprendamos cómo evitar los riesgos.
Para
mucha gente las máquinas inteligentes existen solamente en las novelas y en las
películas de de ciencia ficción. Pero su creación no parece estar tan
lejos y para algunos expertos podría ser un error, incluso el peor error de la
historia humana, según un reportaje elaborado por el diario 'The Independent'
citando a los físicos Stephen Hawking, Stuart Russell, Max Tegmark y Frank
Wilczek.
Los científicos están avanzando rápidamente en las investigaciones en lo referente al área de la inteligencia artificial (IA). Los coches sin conductor, un ordenador capaz de ganar el juego intelectual 'Jeopardy!', y los asistentes personales digitales Siri y Cortana son los principales hitos de una carrera armamentista establecida en torno al desarrollo de la IA y acelerada por unas inversiones sin precedentes.
Pero estos logros palidecen ante lo que puede ocurrir en las próximas décadas. Los beneficios potenciales son enormes, ya que todo lo que la civilización ofrece es un producto de la inteligencia humana. El éxito de la creación de IA sería el evento más grande de la historia de la civilización.
Por desgracia, este también podría ser el último logro de la humanidad, advierten los científicos, a menos que aprendamos a evitar los riesgos. Por ejemplo, a corto plazo, los ejércitos del mundo están ya elaborando sistemas de armas autónomas que pueden elegir y eliminar blancos sin necesidad de un control humano. La ONU ya ha abogado por un tratado de prohibición de esas armas. Además la IA puede transformar nuestra economía provocando grandes desigualdades. En realidad, no hay límites fundamentales a lo que se pueda lograr.
No obstante el impacto del uso de IA depende de quién la controla, y a largo plazo, de si se puede controlar en general.
Los científicos están avanzando rápidamente en las investigaciones en lo referente al área de la inteligencia artificial (IA). Los coches sin conductor, un ordenador capaz de ganar el juego intelectual 'Jeopardy!', y los asistentes personales digitales Siri y Cortana son los principales hitos de una carrera armamentista establecida en torno al desarrollo de la IA y acelerada por unas inversiones sin precedentes.
Pero estos logros palidecen ante lo que puede ocurrir en las próximas décadas. Los beneficios potenciales son enormes, ya que todo lo que la civilización ofrece es un producto de la inteligencia humana. El éxito de la creación de IA sería el evento más grande de la historia de la civilización.
Por desgracia, este también podría ser el último logro de la humanidad, advierten los científicos, a menos que aprendamos a evitar los riesgos. Por ejemplo, a corto plazo, los ejércitos del mundo están ya elaborando sistemas de armas autónomas que pueden elegir y eliminar blancos sin necesidad de un control humano. La ONU ya ha abogado por un tratado de prohibición de esas armas. Además la IA puede transformar nuestra economía provocando grandes desigualdades. En realidad, no hay límites fundamentales a lo que se pueda lograr.
No obstante el impacto del uso de IA depende de quién la controla, y a largo plazo, de si se puede controlar en general.
Texto completo en: http://actualidad.rt.com/ciencias/view/126981-hawking-desarrollo-inteligencia-artificial
Última actualización el 16 Abril
2014
EL
CEREBRO DEJA DE SER UN MISTERIO A MEDIDA QUE LAS INVESTIGACIONES EN MATERIA
NEUROLÓGICA AVANZAN.
Michio Kaku, profesor, teórico y divulgador, dice
que quería ser físico desde pequeño, cuando hacía experimentos de niño en el
garaje de su casa en California o jugaba a intentar leer la mente de los demás.
No logró practicar la telepatía, obviamente, pero en su nuevo libro, "El futuro de nuestra mente", cuenta la
historia de los colegas que, científicamente, lo están consiguiendo.
Kaku afirma que decidió publicar ese libro porque
"hemos aprendido más sobre el cerebro en los últimos 10 años que en toda
la historia de la humanidad". Ahora –aunque aún nos parezca ciencia
ficción- existe la telepatía, podemos mover objetos con la mente, registrar y
descargar recuerdos simples, o fotografiar sueños.
Gracias a la Física, explica el físico de origen
japonés, podemos ver cómo se mueve la sangre dentro del cerebro, ver la
actividad neuronal, los pensamientos. También podemos conectar el cerebro a una
computadora y después a Internet. En último término, Internet se
convertirá en una red del cerebro (brain-net).
MICHIO KAKU ES ANFITRIÓN DE DOS PROGRAMAS DE RADIO,
APARECE FRECUENTEMENTE EN PROGRAMAS TELEVISIVOS SOBRE FÍSICA Y CIENCIA EN
GENERAL Y ES AUTOR DE VARIOS BEST-SELLER
Para el experto, en un futuro no muy lejano
podremos compartir pensamientos y emociones en la red. A los jóvenes les
encantará. No sólo podrán poner en Facebook lo que están haciendo, sino el
recuerdo del baile de fin de curso o de la primera cita. Vamos a tener dos
discos en el futuro, el del genoma, con todos los genes de nuestro cuerpo, y
el del "conectoma", el mapa de las conexiones
neuronales con las memorias, las sensaciones y la personalidad. Todo estará en
dos discos.
El catedrático de la Universidad de Nueva York anuncia que el
presidente estadounidense Barack Obama y la Unión Europea están invirtiendo en
descifrar estos mapas, porque a corto plazo se podrán entender las enfermedades
mentales, y a largo plazo, podremos vivir para siempre.
Incluso después de morir, nuestro genoma y nuestro
mapa mental sobrevivirán. Podremos resucitar sensaciones y recuerdos. En cierto
sentido, nos convertiremos en inmortales.
GRACIAS A ESCÁNERES DE ALTA TECNOLOGÍA DISEÑADOS
POR FÍSICOS, SECRETOS DEL CEREBRO QUE UN DÍA FUERA TERRITORIO DE LA CIENCIA
FICCIÓN, SE HA CONVERTIDO EN UNA ASOMBROSA REALIDAD
"El Pentágono está invirtiendo decenas de
millones de dólares en prótesis de piernas, brazos y esqueletos robóticos
porque hay miles de heridos de guerra de Irak y Afganistán. En el Mundial de
Fútbol de Brasil una persona que está parcialmente paralizada va a lanzar el
saque de honor gracias a un exoesqueleto", adelanta el autor de más de
una decena de libros de divulgación científica que desde 1982 vienen ayudando a
las personas a comprender más el Universo que los rodea.
"Ya podemos conectar la mente de una persona que tiene una lesión de la médula a una computadora para que haga lo mismo que cualquiera. Mi colega Stephen Hawking está completamente paralizado, sólo parpadea. Pero el cristal derecho de sus gafas tiene una antena con un chip conectado a una computadora portátil y eso le permite comunicarse mentalmente. En la próxima década, la gente con parálisis podrá moverse y comunicarse", anuncia el especialista en Teoría de Cuerdas.
EL DOCTOR KAKU EXPLICA POR QUÉ ESCRIBIÓ ESTE FASCINANTE LIBRO SOBRE LOS LÍMITES Y EL FUTURO DE LA CONCIENCIA HUMANA, Y LA RELACIÓN QUE ESTO TIENE CON SU TRABAJO COMO FÍSICO.
Kaku nos muestra además que los experimentos en
este campo vienen realizándose en la actualidad con mucho éxito, luego que un grupo de científicos de Carolina del Norte
lograran descargar recuerdos en animales. "Coges un ratón, conectas su
hipocampo a dos electrones y grabas los mensajes que se desplazan por el
hipocampo cuando aprende una tarea. Después la olvida. Pero si insertas ese
recuerdo en el animal, el ratón hace bien la tarea al primer intento",
señala.
Afirma que en el futuro, "tendrás un botón, apretarás y recordarás quién eres, dónde vives y dónde tienes que ir", volviéndonos, al mismo tiempo, susceptibles a ser "reseteados" totalmente, como si fuéramos simples almacenadores de memoria, pudiendo ser utilizados para cualquier tipo de fin.
ESTE MAPA MUESTRA LA RESPUESTA CEREBRAL ANTE
DIVERSOS ESTIMULOS. AMARILLO Y ROJO REPRESENTAN ALTA ACTIVIDAD NEURONAL,
MIENTRAS QUE AZUL REPRESENTA A LAS REGIONES QUE SE TORNAN MENOS ACTIVAS.
En ese
sentido, ¿Cuáles serían los límites éticos más urgentes ante esta arrolladora
ola de desarrollo científico?
El científico nos responde que "el medicamento para olvidar experiencias traumáticas, que ha sido rechazado por la comisión de bioética del presidente (Obama), ya está generando debate. Habrá mucho debate también con el marcapasos del cerebro. ¿Qué pasa si se descargan recuerdos equivocados? ¿Y si la memoria de un crimen que no cometiste se descarga en tu mente? Tienes el recuerdo de que mataste a alguien, pero no lo hiciste. Debemos tener leyes para regular recuerdos falsos o que se descarguen sin permiso", concluye.
El científico nos responde que "el medicamento para olvidar experiencias traumáticas, que ha sido rechazado por la comisión de bioética del presidente (Obama), ya está generando debate. Habrá mucho debate también con el marcapasos del cerebro. ¿Qué pasa si se descargan recuerdos equivocados? ¿Y si la memoria de un crimen que no cometiste se descarga en tu mente? Tienes el recuerdo de que mataste a alguien, pero no lo hiciste. Debemos tener leyes para regular recuerdos falsos o que se descarguen sin permiso", concluye.
Actualmente
EEUU desarrolla un ambicioso "Program
Brain" de realizar el mapa del cerebro. El programa implica busca
trazar un mapa de la actividad de cada neurona del cerebro humano y lo lidera
un hispano, el neurobiólogo español, Rafael
Yuste.
Para
adquirir el libro a través de Amazon, ingrese a este link: http://goo.gl/ELTG3M
FUENTES: EL MUNDO, PROGRAM BRAIN
Un científico español está
detrás de la nueva película de Johnny Depp
Manuel Ansede 18/04/2014
El neurocientífico José Carmena, en la Universidad
de California, revisó línea por línea el guión de ‘Transcendence’, un filme de
ciencia ficción que se estrena hoy en EEUU y en el que se descarga una
conciencia humana para instalarla en un superordenador
 |
| El actor Johnny Depp, con un dispositivo orientado por José Carmena / |
Un chaval
español de 19 años fue un día de 1991 a ver Terminator 2 con sus
colegas. Antes de entrar al cine, no imaginaba hasta qué punto la película iba
a cambiar su vida para siempre. Ver cómo el sistema de inteligencia artificial
que dirige a un ejército de máquinas para exterminar a la especie humana,
Skynet, cobraba conciencia de sí mismo le impactó. “Me dejó alucinado”,
recuerda ahora.
III EN ESTA
NOTICIA
Aquel
chaval, José Carmena, hoy tiene 42 años y codirige el
Centro de Neuroingeniería y Prótesis de la Universidad de California en
Berkeley y San Francisco (EEUU). Es uno de los mayores expertos del mundo en conectar cerebros
humanos a máquinas. Y, 23
años después del estreno de Terminator 2, es su trabajo llevado al cine
el que puede inspirar a las nuevas generaciones de neurocientíficos.
El año
pasado, el director de fotografía Wally Pfister entró en el despacho de Carmena
para pedirle consejo. Pfister venía de ganar un premio Oscar por su trabajo en Origen
y también había triunfado en Memento y en las últimas entregas de la saga
de Batman, como El caballero oscuro. Y llegaba a Berkeley con un
guión de ciencia ficción bajo el brazo para rodar su primera película como
director.
Escarabajos ciborgs
“La
primera vez que vi a Wally hubo magia, estuvo un par de horas en mi despacho”,
recuerda Carmena. Pfister tenía un argumento imposible entre manos, pero quería
que fuera lo más riguroso y verosímil posible. En el guión de su película,
titulada Transcendence, el profesor Will Caster, interpretado por el
actor Johnny Depp, es el principal experto del mundo en inteligencia
artificial. Busca crear un superordenador consciente que utilice la
inteligencia colectiva global y sea capaz de sentir todas las emociones
humanas.
 |
| Michel Maharbiz, Wally Pfister y José Carmena, el 9 de abril / Amy Hamaoui, UC Berkeley |
Un día,
un radical de un grupo antitecnología dispara al profesor con munición
envenenada. A la desesperada, su mujer, también científica, descarga la
conciencia de su marido moribundo y la instala en una máquina, que empieza a
acumular cada vez más conocimiento y poder hasta convertirse casi en un dios.
“Es una
película de mi área de trabajo, pero es ciencia ficción, dejemos eso claro”,
subraya Carmena, que aparece en los títulos de crédito como consultor técnico
junto a su colega Michel Maharbiz, un experto en nanotecnología
conocido por haber desarrollado escarabajos ciborgs dirigidos por control
remoto.
Leer la mente
Carmena
recuerda que su colega Jack Gallant, neurocientífico de Berkeley,
puede averiguar lo que está viendo una persona estudiando su actividad cerebral
leída con un escáner. Cuando se publicó este avance, en 2008, se sugirió que la
misma tecnología podría servir en el futuro para visualizar sueños o recuerdos
de una persona, pero esto todavía no ha sucedido. “De reconstruir lo que estás
viendo, como hace Gallant, a hacer un upload de tu conciencia a una
máquina es como pasar de cero a infinito”, recalca Carmena.
 |
| Fotograma de la película con una diapositiva real de José Carmena mostrando cerebros de macacos |
“Si se
lograra descargar la mente y la conciencia humana en un superordenador, que es
algo que los científicos creen que podría ocurrir en un futuro cercano,
¿permanecerían los sentimientos? ¿Y el alma?”, se preguntó no obstante el
director en la presentación de la película, que se estrena hoy en EEUU.
Sin
embargo, más allá de la ficción, hay mucha ciencia en Transcendence, una
película con un presupuesto de 100 millones de dólares. O por lo menos hay
verosimilitud. Tras aquella primera cita en Berkeley, la productora de la
película pagó a los dos científicos un viaje a Los Ángeles, para visitar el
despacho del director de cine. “Fue una pasada. Estuvimos 10 horas encerrados
en el despacho de Wally, repasando el guión página a página, línea a línea.
Comimos encima de su mesa. Estaba obsesionado con hacer una película lo más
precisa posible. Iba a la coma”, rememora Carmena.
“¿Qué es la conciencia humana?”
Durante
aquellas 10 horas, los técnicos entraban y salían de la sala sin parar. “Nos
preguntaban que cómo imaginábamos algo del guión. Les decíamos cuatro cosas y
volvían al rato con bocetos alucinantes”, recuerda el español, que hace un
cameo en la película al aparecer entre el público en una charla de Johnny Depp.
Una de las aportaciones más visibles de Carmena es el dispositivo que colocan
en el cráneo de Depp para descargar su conciencia. “Habían pensado en una
especie de gorrito con sensores, pero yo dije que tenía que quedar claro que
estaba leyendo neuronas, tenía que ser algo bastante invasivo”, apunta. El
resultado es desasosegante.
«Si no
existe el alma, que es lo que yo creo, tenemos un número finito de neuronas y
la solución tiene que estar ahí»
José Carmena
Profesor de la Universidad de California en Berkeley
Profesor de la Universidad de California en Berkeley
El equipo
de Wally Pfister tomó fotografías de los despachos de Carmena y Maharbiz, de
sus estudios científicos e incluso se llevó copias de sus presentaciones en
PowerPoint. Dos de las diapositivas que aparecen en el filme procedente de los
trabajos en el laboratorio de Carmena. El español, que estudió ingeniería
electrónica en la Universidad Politécnica de Valencia, trabaja con macacos, a
los que enseña a manipular brazos robóticos o a mover el cursor de una pantalla
sólo mediante el pensamiento, gracias a interfaces cerebro-máquina. Estos
dispositivos utilizan tecnologías capaces de leer la actividad cerebral e
interpretarla con un ordenador para convertirla en una acción real, como mover
una mano biónica.
“Para
poder hacer un upload de una conciencia humana a una máquina, como
ocurre en la película, primero tendríamos que entender qué es la conciencia
humana”, matiza Carmena, trazando una línea roja entre la ciencia actual y la
ficción. “A mí me interesa mucho el estudio de la conciencia humana, el qué nos
hace humanos. Si no hay Dios, si no existe el alma, que es lo que yo creo,
tenemos un número finito de neuronas y la solución tiene que estar ahí”, opina.
El pasado
9 de abril, ese número finito de neuronas de Carmena trabajó a tope. Wally
Pfister acudió a Berkeley para hacer un pase exclusivo de la película. Por
primera vez, tras un año de trabajo, el ingeniero español vio el largometraje
completo y sintió orgullo. “En realidad, es una historia de amor”, reflexiona.
No hay comentarios.:
Publicar un comentario