Isaac Asimov y la ética de los robots

Isaac Asimov y la ética de los robots Imagen superior: ilustración de Michael Whelan para la portada de "Yo, robot"

Manual de Robótica, primera edición, año 2058. Leemos en sus páginas las tres leyes robóticas. "1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño. 2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la primera Ley. 3. Un robot debe proteger su propia existencia, hasta donde esta protección no esté en conflicto con la primera o segunda Leyes".

Tres leyes fiables y concisas. Tres leyes que en ese Manual ficticio resumen lo que en nuestros tiempos ha dado en llamarse roboética, o dicho de otro modo, qué comportamiento deseamos para los nuevos robots e inteligencias artificiales. Al fin y al cabo, más allá de las mudables y caprichosas necesidades humanas, esas criaturas artificiales acabarán acompañándonos en nuestro paso por la vida, y en principio, deben servir para la mejora y no para el desguace de nuestra civilización.

Las leyes, como bien sabe el lector, fueron redactadas por Isaac Asimov en uno de sus cuentos, Círculo vicioso (Runaround), publicado en el número de marzo de 1942 de la revista Astounding Science Fiction, e incorporado luego al libro Yo, robot (I, Robot, 1950).

A decir verdad, buena parte de la obra de Asimov se basa en un recurso que ya aparece en este relato: las contradicciones, los fallos e interpretaciones ‒más o menos ambiguas‒ que se derivan del cumplimiento de esas tres leyes en la vida real. ¿Cómo entender y aceptar el absurdo de que un robot pueda rectificar su programación? ¿Cabe el libre albedrío en el diseño de su cerebro positrónico? ¿Qué connotaciones morales puede alcanzar esa conciencia artificial?

Imagen superior © Rowena Morrill

En realidad, las tres leyes derivan de la colaboración entre Asimov y John W. Campbell, editor de Astounding. Parece ser que la fórmula quedó establecida durante una conversación que ambos mantuvieron el 23 de diciembre de 1940, y en la cual salió a relucir un verso de Arthur Hugh Clough, que supuestamente sirvió para redactar la primera ley.

En todo caso, y a pesar de que éste cedió el mérito del hallazgo a su amigo, los seguidores de Asimov aún discuten sobre el modo en que las tres leyes salieron a la luz, subrayando o minusvalorando el grado de implicación de Campbell.

En la introducción a la antología The Rest of the Robots (Panther Books, 1968), Asimov explica el trasfondo práctico de esa legislación. "Los cuchillos ‒escribe‒ se fabrican con empuñadura para que podamos asirlos de forma segura. Las escaleras tienen barandillas. El tendido eléctrico está debidamente aislado. Las ollas a presión tienen válvulas de seguridad. A la hora de elaborar cualquier artefacto, el objetivo es minimizar los peligros. En ocasiones, la seguridad alcanzada es insuficiente a causa de las propias limitaciones que imponen la naturaleza del universo y la naturaleza de la mente humana. No obstante, ese esfuerzo es evidente. Consideremos por tanto al robot como otro artefacto. (...) Tratándose de una máquina, un robot será diseñado, en la medida de lo posible, para que resulte seguro. Si los robots llegan a ser tan avanzados como para imitar los procesos mentales del ser humano,  dichos procesos serán diseñados por ingenieros humanos y se integrarán medidas de salvaguardia. La seguridad no será perfecta ‒¿hay algo que lo sea?‒, pero será todo lo perfecta que nos sea posible".

"Con todo esto en mente ‒continúa‒, comencé a escribir relatos de robots en 1940. Aquellos eran relatos de otro estilo. En ningún caso uno de mis robots se activaría estúpidamente para demostrar, una vez más, el castigo que recibe Fausto. ¡Qué tontería! Mis robots eran máquinas diseñadas por ingenieros, no homúnculos nacidos de una mente blasfema. Mis robots reaccionaban de acuerdo con los criterios racionales que se definían en sus cerebros a la hora de construirlos. Debo admitir, no obstante, que de forma ocasional, en aquellas primeras aproximaciones, veía al robot como un mero elemento de diversión. Lo imaginaba como una criatura inofensiva, ideada con el único propósito de cumplir el trabajo para el que la habían diseñado. Pese a que era incapaz de hacer daño a los seres humanos, era víctima de hombres que, por efecto de lo que llamé complejo de Frankenstein, se empeñaban en considerar a aquellas pobres máquinas como unas criaturas mortalmente peligrosas".

Imagen superior © Chris Foss

Sin duda, Asimov liquidó la imagen primitiva del robot y consiguió establecer un patrón de conducta que asumió el resto de la cultura popular. No olvidemos que las tres leyes robóticas son el credo de casi todos estos artilugios en el cine y la televisión desde que el robot Robby manifestó su obediencia en Planeta Prohibido (1956).

No obstante, a medida que en la obra de Asimov fueron apareciendo robots más próximos a la identidad humana ‒pienso en El hombre del bicentenario (1976) o en Robots e Imperio (1985)‒, los desafíos que tendrían ‒o tendrán‒ que afrontar las tres leyes se evidenciaron cada vez más.

Cuando en 1989 salió a la venta Foundation's Friends, Stories in Honor of Isaac Asimov, pudimos leer una serie de homenajes literarios al novelista. Tras un preámbulo de Ray Bradbury, el volumen incluye relatos y artículos de Poul Anderson, Robert Silverberg, Frederik Pohl, Harry Turtledove y Orson Scott Card, entre otros. En todo caso, el más interesante en el área que nos ocupa es "The Fourth Law of Robotics", un cuento de Harry Harrison que nos permite recordar a dos de los personajes más conocidos de Asimov, el ingeniero Mike Donovan y la robopsicóloga Susan Calvin.

La cuarta ley propuesta por Harrison en ese cuento dice así: "Un robot debe reproducirse, siempre que dicha reproducción no interfiera con la primera, la segunda o la tercera Ley".

Aunque parezca una ironía por parte del autor, lo cierto es que este cuarto mandamiento es de suma importancia si hablamos de inteligencia artificial y de un futuro en el que los robots diseñarán y fabricarán nuevos modelos. Dicho de otro modo: un futuro en el que construirán su propio linaje y guiarán su evolución.

Todo ello nos saca de la ficción para introducirnos en un área real y menos especulativa de lo que se cree. En esa línea de pensamiento se mueven teóricos de la robótica contemporánea como Hans Moravec, un firme partidario de la vigencia de las tres leyes a la hora de crear nuevos dispositivos.

Imagen superior: Isaac Asimov en la Universidad de Massachusetts Amherst, junto a A. Joseph Ross y Jim Allen (UMSFS, 1966).

En el fondo, la intuición de Asimov ha acabado convirtiéndose en un esquema ético sobre el que aún reflexionan los ingenieros. Así lo demuestra el hecho de que, en marzo de 2007, el Gobierno de Corea del Sur anunciase una serie de normas inspiradas en las tres leyes. El portavoz de aquella propuesta institucional, Park Hye-Young, justificó esas precauciones frente a los micrófonos de la agencia AFP. "Imagine ‒dijo‒ que llegue a haber propietarios de robots que los traten como su las máquinas fueran sus esposas. Otros puede que lleguen a volverse adictos a la interacción con los robots del mismo modo en que hay internautas enganchados al ciberespacio".

Ese porvenir anunciado por Hye-Young está muy cerca de nosotros. De ahí que hoy, varios años después, uno lea su borrador con la seguridad de que anunciaba retos que aún no hemos asumido del todo: "En el siglo XXI ‒leemos en ese texto de 2007‒, la humanidad coexistirá con la primera inteligencia no humana con la que establecerá contacto: los robots. Será un evento lleno de problemas éticos, sociales y económicos".

Como ven, todo gira alrededor de cuestiones éticas, y por eso mismo, la mejor forma de agradecer a Asimov su clarividencia consiste en someter a escrutinio sus leyes.

Sobre todo, hemos de hacerlo antes de que el futuro nos alcance, y en esta era de vértigo y aceleración, salgan a nuestro encuentro inteligencias artificiales capaces de elegir su comportamiento a un nivel sobrehumano.

Copyright © Guzmán Urrero. Reservados todos los derechos.

Guzmán Urrero

Tras una etapa profesional en la Agencia EFE, Guzmán Urrero se convirtió en colaborador habitual de las páginas de cultura del diario ABC y de revistas como Cuadernos Hispanoamericanos, Album Letras-Artes y Scherzo.

Como colaborador honorífico de la Universidad Complutense de Madrid, se ocupó del diseño de recursos educativos, una actividad que también realizó en instituciones como el Centro Nacional de Información y Comunicación Educativa (Ministerio de Educación, Cultura y Deporte). 

Asimismo, accedió al sector tecnológico como autor en las enciclopedias de Micronet y Microsoft, al tiempo que emprendía una larga trayectoria en el Instituto Cervantes, preparando exposiciones digitales y numerosos proyectos de divulgación sobre temas literarios y artísticos.

Es autor de trece libros (en papel) sobre arte y cultura audiovisual.

En 2006, fundó junto a Javier Sánchez Ventero la revista The CULT, un medio situado en la frontera entre la cultura, las ciencias y las nuevas tecnologías de la información.

Desde 2015, The CULT sirve de plataforma a una iniciativa más amplia, conCiencia Cultural, concebida como una entidad sin ánimo de lucro que promueve el acercamiento entre las humanidades y el saber científico, tanto en el entorno educativo como en el conjunto de la sociedad.

conCiencia Cultural

logonegrofinal0

Erik Shoemaker, CC

  • Ventajas de la copia digital
    Escrito por
    Ventajas de la copia digital Gracias a su precisión y exactitud, la información digital se puede duplicar centenares de veces. Podemos ir transmitiendo el mensaje: “Hay 4 vacas en el prado” como en juego del teléfono roto, de una persona…

logonegrociencia

Maneed, CC

  • Guerras científicas
    Guerras científicas Uno de los chismes científicos más debatidos en la última década fue el de la “guerra” entre las ciencias “duras” o naturales, y los representantes de disciplinas “blandas” como la sociología, la historia y la…
  • Caspas leyendanegrescas
    Escrito por
    Caspas leyendanegrescas Carlos, el joven Carlos, no hablaba una palabra de español, nunca había visto tierra castellana. Pero ahí estaba, con dieciséis años, dispuesto a heredar el trono de sus abuelos maternos, Isabel de Castilla y Fernando…

Cartelera

Cine clásico

  • "Kiss me, stupid": así se hace una comedia
    Escrito por
    "Kiss me, stupid": así se hace una comedia Las deliciosas mujercitas de los años sesenta del siglo pasado bien podrían ser hoy chicas pijippies, mitad pijas, mitad hippies. Aficionadas a la moda, sin ser esclavas. Sonrientes, sin ser insulsas. Cariñosas, sin ser pesadas.…

logonegrofuturo2

Josh Eiten, CC

logonegrolibros

Colgreyis, CC

logonegromusica

Namlai000, CC

  • La magia de Beniamino Gigli
    Escrito por
    La magia de Beniamino Gigli El de Recanati cantó Canio de Pagliacci por vez primera en 1934 para el disco; en escena lo debutó años después, en 1942 en Roma. Iniciada la sesentena es aún capaz su Canio de arrasar…

logonegroecologia

Somadjinn, CC

bannernewsletter1