Considerado en vida como uno de los tres grandes escritores de ciencia ficción, junto con Robert A. Heinlein y Arthur C. Clarke, Isaac Asimov comenzó a publicar relatos de ciencia ficción en 1939, basando sus escritos en los avances tecnológicos y científicos de la época que, aunados a la prolífica imaginación literaria del autor, constituyeron la base de su obra futurista. El autor de “Yo, Robot” incluso tiene un asteroide bautizado en su honor: “5020 Asimov”.
En el mes de junio del 2014, con el título “Del Caballero Mecánico a la autonomía letal”, publicamos en este espacio algunas consideraciones al respecto de la reunión organizada por la “Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados” (CCW) de la Organización de las Naciones Unidas (ONU). Por primera vez, representantes de 21 países y 13 expertos independientes discutieron las implicaciones éticas, legales, técnicas, militares y humanitarias respecto de los sistemas de armas autónomas y la posible prohibición de los mismos.
¿Qué es una arma autónoma? También son conocidas como “robots asesinos”, ya que buscan, identifican y atacan objetivos de manera independiente, sin intervención humana; una vez activadas, pueden seleccionar sus objetivos y enfrentarlos sin ningún tipo de intervención de operador humano, con autonomía en las “funciones críticas” de rastrear y atacar. No requieren el control de una persona para tomar la decisión de terminar con la vida de un ser humano.
“Fíjate en ti. No lo digo con ánimo de desprecio, pero fíjate bien. El material del que estás hecho es blando y flojo, carece de resistencia, y su energía depende de la oxidación ineficiente del material orgánico (...) Sois alterables. Yo, por el contrario, soy un producto acabado. Absorbo energía eléctrica directamente y la utilizo con casi un ciento por ciento de eficiencia. Estoy compuesto de fuerte metal, permanezco consciente todo el tiempo y puedo soportar fácilmente los más extremados cambios ambientales”, son las ‘palabras’ de QT-1 Cutie, al dudar sobre su existencia y debatir con humanos en la novela “Yo, Robot”.
Es interesante conocer que el término “robot” proviene de la palabra checa “robota”, cuyo significado es “trabajo”, y fue introducido en el vocabulario popular por el dramaturgo Karel Capek, en 1921, en una novela satírica a la que tituló “Rossum’s Universal Robots”. En ella describe al robot como una máquina que sustituye a los seres humanos para ejecutar tareas sin descanso; sin embargo, los robots se vuelven contra sus creadores y aniquilan a toda la raza humana.
Actualicemos, para este 2016, la información al respecto.
La semana que concluye se llevó a cabo una reunión multilateral sobre los sistemas de “armas letales autónomas” (la tercera convención que se organiza), convocada por Naciones Unidas en Ginebra (Suiza); también se presentó un informe, de Human Rights Watch (HRW) y la Clínica Internacional de Derechos Humanos de la Facultad de Derechos de Harvard (Reino Unido), titulado ‘Robots asesinos y el concepto de control humano significativo’.
Dicho informe destaca la importancia moral y legal al respeto de las armas robóticas completamente autónomas, conocidas como ‘robots asesinos’; además, se muestra el creciente reconocimiento de que los seres humanos deberían permanecer a cargo de las funciones de seleccionar y disparar contra objetivos, en una época de veloces avances tecnológicos.
Los países que participaron en el encuentro de Ginebra no adoptarán ninguna decisión formal, ya que el objetivo es construir una base común de conocimientos técnicos, éticos, legales, operativos y de seguridad, además de resaltar preocupaciones relacionadas con las armas; las recomendaciones que se obtengan, podrían tenerse en cuenta en una reunión que se celebrará el próximo mes de diciembre.
Y esta semana, cinco países más votaron la prohibición preventiva para los sistemas de armas autónomas: Algeria, Chile, Costa Rica, México y Nicaragua; con la suma de estos países -que se agregan a Bolivia, Cuba, Ecuador, Egipto, Ghana, la Santa Sede, Pakistán, el Estado de Palestina y Zimbabwe-, el número de naciones que buscan una prohibición de los sistemas de armas autónomas se eleva a 14.
Cabe agregar que en la primera convención, en 2014, se contó con la asistencia de 87 países, en mayo del 2014; en 2015 asistieron 90 y en 2016, 94.
Uno de los principales problemas respecto al uso de las armas autónomas es al que hizo referencia el presidente del Comité Internacional de la Cruz Roja (CICR), Peter Maurer, durante una charla que ofreció en la Facultad de Derecho de la Universidad Nacional Autónoma de México (UNAM): “nadie sabe qué derecho aplicar” en el caso de las AAL. Tal como el CICR subraya en su página en línea: “¿Quién será responsable si la operación de un sistema armado automatizado genera un crimen de guerra? ¿El ingeniero, el programador, el constructor o el mando que activó el arma?”. Por su condición de máquina, no podría responsabilizarse a un sistema de armas autónomas por una violación del derecho internacional humanitario.
“¡Cuidado con la brecha!: La falta de rendición de cuentas de los robots de combate”, es el título de un informe anterior publicado conjuntamente por Human Rights Watch (HRW) y la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard, documento en el que se destaca que programadores, fabricantes y personal militar podrían eximirse de toda responsabilidad penal por las muertes y lesiones ilegítimas causadas por las armas completamente autónomas.
HRW es miembro fundador y coordinador de la “Campaña contra los robots asesinos”, una coalición internacional de más de 50 organizaciones no gubernamentales que impulsa la prohibición preventiva del desarrollo, producción y uso de dichas armas totalmente autónomas.
Y es que aunque hablemos de tecnología, también debe considerarse el plano emocional: HRW plasmó en un informe anterior que “las emociones humanas ofrecen una de las mejores salvaguardas contra la muerte de civiles y la falta de emoción puede hacer más fácil matar; las emociones deben ser vistas como cruciales para la moderación en la guerra”. Aunque en el otro extremo, los sistemas de armas autónomas no estarían influenciados por emociones humanas negativas, como el miedo o el deseo de venganza.
Lo importante sería entonces conocer en qué punto y bajo cuáles circunstancias se corre el riesgo de perder ‘control humano significativo’ sobre el uso de la fuerza. Coincidamos entonces con Leonardo Da Vinci: “La naturaleza nunca quebranta sus propias leyes”. Coincidimos
