La ciencia desde el Macuiltépetl
Robots Asesinos, Máquinas Espirituales… ¿Y Qué Más?

-Mané, prometiste contarme sobre los robots asesinos, ¿qué es eso?

Mira compadre, sucede que la organización Human Rights Watch (HRW) pidió a la ONU que establezca límites contra los robots autónomos letales (fully autonomous robot weapons), los cuales se están diseñando para que ataquen incluso objetivos humanos seleccionados sin la intervención directa de los atacantes. La petición de la HRW es llegar a la prohibición de estas armas: “Los gobiernos deben ponerse de acuerdo esta semana para comenzar las discusiones internacionales en 2014”, señaló la ONG internacional.

HRW junto con la Facultad de Derecho de Harvard y la Clínica Internacional de Derechos Humanos, emitió un informe defendiendo la prohibición preventiva, dirigido a los delegados gubernamentales que se reunieron en Ginebra el pasado 15 de noviembre en la Convención sobre Armas Convencionales.

«Los gobiernos deben comprometerse ahora a un intenso debate sobre los peligros potenciales de armas totalmente autónomas «, dijo Mary Wareham, directora de la división de defensa de armas de HRW y coordinadora de la Campaña para Detener los Robots Asesinos. «Las deliberaciones sobre los robots asesinos tienen que incluir a los grupos no gubernamentales, y deben sustentarse en un claro sentido de urgencia y responsabilidad para que puedan dar lugar a acciones concretas. «

«Fundamentalmente , es necesaria una prohibición internacional para garantizar que los seres humanos mantengan el control sobre las decisiones para seleccionar y usar la fuerza contra otros seres humanos», dijo Wareham. (http://alef.mx/vernota.php?/65947/CAMPUS/Human-Rights-Watch-pide-a-la-ONU-detener-el-desarrollo-de-los-«robots-asesinos»)

Debemos reconocer que esta preocupación no es infundada si consideramos que hace algunos años se supo que el sistema de proyectiles con cargas nucleares, dispuesto por Estados Unidos para su defensa, estuvo a punto de activarse; es decir se estuvo cerca de que fueran disparados un buen número de estos proyectiles con blancos previamente establecidos mediante un sistema de control automático programado para que con plena autonomía –esto es, sin intervención humana- decidiera en que momento disparar los proyectiles. Afortunadamente, fue posible detectar con minutos de anticipación que la señal de activación se había producido por un error de “percepción” del propio sistema automatizado, y el sistema fue desactivado.

Automatizado significa controlado por computadoras programadas con algoritmos inteligentes, capaces de interpretar una multitud de señales recibidas y, de acuerdo a lo programado, decidir en que momento lanzar los proyectiles. Podemos imaginar este complejo sistema de control automatizado como un robot que, a partir de la percepción de su entorno, toma decisiones para ejecutar acciones sobre su medio, sin la intervención humana.

Actualmente existen ya robots autónomos que se emplean como soldados. Están dotados de potente armamento y programados –como todo soldado- para infligir el mayor daño posible al enemigo, y de ser posible aniquilarlo. Son empleados en situaciones donde el riesgo es demasiado para un soldado humano.

Ya hemos visto por televisión a estos robots asesinos en acción. Recuerdo las muchas veces que he visto en los noticieros como, en los territorios palestinos se localiza, mediante cámaras satelitales a un supuesto dirigente de alguna organización terrorista y, con precisión milimétrica, se dispara un proyectil para asesinarlo. Lo mismo puede decirse de los aviones no tripulados llamados “drones”, también autónomos con control programado para descargar explosivos cuando identifiquen blancos previamente definidos.

Hasta donde sabemos, el estado actual de la inteligencia artificial está todavía bastante lejos de producir robots autónomos que entrañen una amenaza para la humanidad, en el sentido de que desarrollen conciencia y voluntad y superen a los hombres en muchas de sus capacidades. Destacados expertos en el tema –como Ray Kurzweil- ya especulan incluso sobre la posibilidad de que en algún momento lleguemos a la era de las máquinas espirituales. Kurzweil se pregunta: “¿En qué momento consideramos que la computadora es un agente consciente con su propia voluntad?” (R. Kurzweil: La era de las máquinas espirituales. Planeta, 2009)

A partir de esta pregunta desarrolla una argumentación, más o menos verosímil, que le lleva a afirmar que tales máquinas serán una realidad en el presente siglo, explorando también a fondo la posibilidad real de una simbiosis hombre-máquina. Kurzweil cree que para el año 2030 existirán computadoras con la capacidad de cálculo de aproximadamente mil cerebros humanos. Las conexiones neuronales de la computadora habrán sido perfeccionadas para poder conectarse al cerebro humano, dando a los seres humanos elementos para potenciar la percepción, la memoria y el razonamiento… ¿Y después de esto, qué vendrá?

Por lo pronto, Human Rights Watch está coordinando los esfuerzos de una coalición internacional de grupos de la sociedad civil para realizar la Campaña para Detener los Robots Asesinos. La campaña está trabajando por un tratado internacional, así como por leyes nacionales y otras medidas para la prohibición de armas que serían capaces de seleccionar y atacar objetivos sin ninguna intervención humana.

-En esas andamos, concluyó Mané.

Reflexionar para comprender lo que se ve y lo que no se ve.

Manuel Martínez Morales