1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes se oponen a la primera ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la primera o segunda Leyes.

Isaac Asimov

Podría afirmar casi sin lugar a dudas que lo más seguro es que los robots no cumplan esas leyes, y eso que a cualquiera le parecen de lo más razonables. El tema es que, seguramente, los robots más avanzados sean usados con fines militares. Obviamente, antes de seguir habría que hacer la distinción entre robots autónomos y robots controlados por humanos. El segundo grupo ya prolifera en muchos campos, también con fines bélicos y rompiendo la primera ley de la robótica. También los hay con fines no-bélicos, obviamente, pero no acaban de venir al caso. Ejemplos de éstos robots serían, por ejemplo, los robots usados para la desactivación de bombas. Habría que hablar también, a parte, de un grupo intermedio. Robots que aunque no son manejados directamente por un humano, responden a órdenes introducidas antes por un humano. Por ejemplo los robots de las fábricas, o los aviones espía no tripulados, que suelen hacer una ruta que se les introduce previamente o sobre la marcha. Los aviones, por ejemplo, pueden tener cierto grado de independencia, de manera que si las condiciones cambian sus sensores le permiten modificar los parámetros para ajustarse al plan previsto. Existe una gran autonomía, pero aún necesitan una gran cantidad de datos de partida. Los robots plenamente autónomos son, obviamente, los que deberían ajustarse a las tres leyes. Un robot autónomo debería seguir las órdenes de un humano en caso de recibirlas, pero ésas órdenes pueden ser muy amplias y necesitar que el robot realice muchos cálculos que en los otros casos realiza el humano. Volviendo al ejemplo del avión, él mismo escogería la ruta, la altura óptima y podría tomar por si mismo la decisión de volver a casa en caso de que las condiciones no fuesen favorables. O podría él mismo escoger el objetivo hacia el que se dirige.

A donde quería llegar es a que estarían siendo usando robots con fines ofensivos. Manejados por humanos, sí, pero es el primer paso. En Irak ya se están usando robots armados en tierra (similares, para que nos entendamos, al entrañable Johny 5 de la saga Cortocircuito) y en el aire (creo que están usando los Predator, aviones basados en los primeros robots aéreos de reconocimiento pero armados en éste caso). Por ahora, como digo, son robots manejados por personas, que les dicen dónde colocarse y cuándo comenzar a atacar, pero conforme la tecnología avanza y comienzan a incrementarse las posibilidades de autonomía llegaremos a un punto en que dichos robots decidirán cuándo y dónde atacar. Y lo realmente preocupante es que ésos robots carecerán absolutamente de escrúpulos, seguramente podrán atacar indiscriminadamente sin distinguir las intenciones ofensivas del enemigo (echando un capote a los robots, muchos soldados carecen también de dicha capacidad de discernimiento, pero en los robots sería un problema mucho más acusado) y, más terroríficamente aún, seguramente sean mejores que nosotros a la hora de apuntar o de decidir el punto en el que pueden conseguir más víctimas de manera óptima. Como digo, sin discernir si son “víctimas inocentes” o son “el enemigo”.

Y es de suponer que éste escenario ya lo predijo Asimov, el cual seguramente se remueva en su tumba al pensar en cómo se van a saltar a la torera las leyes que imaginó en busca de un mundo no ya utópico, sino en el que simplemente los errores y las masacres fuesen culpa de la humanidad y no de la precisión de un robot a la hora de decidir a cuánta gente matar. Y todo eso sin creer por un instante en las peores pesadillas en las que los robots exterminan o esclavizan a la humanidad. Cosa que, en el momento en que tomen consciencia de las cosas que les pediremos que hagan, no dudo que sería la mejor elección que podrían tomar.

Vía un podcast de la Rosa de los Vientos y ésta entrevista de la BBC
(Modificado para meter una imagen tremendamente elegante relacionada con Asimov)