Isaac Asimov y la ética de los robots

Isaac Asimov y la ética de los robots Imagen superior: ilustración de Michael Whelan para la portada de "Yo, robot"

Manual de Robótica, primera edición, año 2058. Leemos en sus páginas las tres leyes robóticas. "1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño. 2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la primera Ley. 3. Un robot debe proteger su propia existencia, hasta donde esta protección no esté en conflicto con la primera o segunda Leyes".

Tres leyes fiables y concisas. Tres leyes que en ese Manual ficticio resumen lo que en nuestros tiempos ha dado en llamarse roboética, o dicho de otro modo, qué comportamiento deseamos para los nuevos robots e inteligencias artificiales. Al fin y al cabo, más allá de las mudables y caprichosas necesidades humanas, esas criaturas artificiales acabarán acompañándonos en nuestro paso por la vida, y en principio, deben servir para la mejora y no para el desguace de nuestra civilización.

Las leyes, como bien sabe el lector, fueron redactadas por Isaac Asimov en uno de sus cuentos, Círculo vicioso (Runaround), publicado en el número de marzo de 1942 de la revista Astounding Science Fiction, e incorporado luego al libro Yo, robot (I, Robot, 1950).

A decir verdad, buena parte de la obra de Asimov se basa en un recurso que ya aparece en este relato: las contradicciones, los fallos e interpretaciones ‒más o menos ambiguas‒ que se derivan del cumplimiento de esas tres leyes en la vida real. ¿Cómo entender y aceptar el absurdo de que un robot pueda rectificar su programación? ¿Cabe el libre albedrío en el diseño de su cerebro positrónico? ¿Qué connotaciones morales puede alcanzar esa conciencia artificial?

Imagen superior © Rowena Morrill

En realidad, las tres leyes derivan de la colaboración entre Asimov y John W. Campbell, editor de Astounding. Parece ser que la fórmula quedó establecida durante una conversación que ambos mantuvieron el 23 de diciembre de 1940, y en la cual salió a relucir un verso de Arthur Hugh Clough, que supuestamente sirvió para redactar la primera ley.

En todo caso, y a pesar de que éste cedió el mérito del hallazgo a su amigo, los seguidores de Asimov aún discuten sobre el modo en que las tres leyes salieron a la luz, subrayando o minusvalorando el grado de implicación de Campbell.

En la introducción a la antología The Rest of the Robots (Panther Books, 1968), Asimov explica el trasfondo práctico de esa legislación. "Los cuchillos ‒escribe‒ se fabrican con empuñadura para que podamos asirlos de forma segura. Las escaleras tienen barandillas. El tendido eléctrico está debidamente aislado. Las ollas a presión tienen válvulas de seguridad. A la hora de elaborar cualquier artefacto, el objetivo es minimizar los peligros. En ocasiones, la seguridad alcanzada es insuficiente a causa de las propias limitaciones que imponen la naturaleza del universo y la naturaleza de la mente humana. No obstante, ese esfuerzo es evidente. Consideremos por tanto al robot como otro artefacto. (...) Tratándose de una máquina, un robot será diseñado, en la medida de lo posible, para que resulte seguro. Si los robots llegan a ser tan avanzados como para imitar los procesos mentales del ser humano,  dichos procesos serán diseñados por ingenieros humanos y se integrarán medidas de salvaguardia. La seguridad no será perfecta ‒¿hay algo que lo sea?‒, pero será todo lo perfecta que nos sea posible".

"Con todo esto en mente ‒continúa‒, comencé a escribir relatos de robots en 1940. Aquellos eran relatos de otro estilo. En ningún caso uno de mis robots se activaría estúpidamente para demostrar, una vez más, el castigo que recibe Fausto. ¡Qué tontería! Mis robots eran máquinas diseñadas por ingenieros, no homúnculos nacidos de una mente blasfema. Mis robots reaccionaban de acuerdo con los criterios racionales que se definían en sus cerebros a la hora de construirlos. Debo admitir, no obstante, que de forma ocasional, en aquellas primeras aproximaciones, veía al robot como un mero elemento de diversión. Lo imaginaba como una criatura inofensiva, ideada con el único propósito de cumplir el trabajo para el que la habían diseñado. Pese a que era incapaz de hacer daño a los seres humanos, era víctima de hombres que, por efecto de lo que llamé complejo de Frankenstein, se empeñaban en considerar a aquellas pobres máquinas como unas criaturas mortalmente peligrosas".

Imagen superior © Chris Foss

Sin duda, Asimov liquidó la imagen primitiva del robot y consiguió establecer un patrón de conducta que asumió el resto de la cultura popular. No olvidemos que las tres leyes robóticas son el credo de casi todos estos artilugios en el cine y la televisión desde que el robot Robby manifestó su obediencia en Planeta Prohibido (1956).

No obstante, a medida que en la obra de Asimov fueron apareciendo robots más próximos a la identidad humana ‒pienso en El hombre del bicentenario (1976) o en Robots e Imperio (1985)‒, los desafíos que tendrían ‒o tendrán‒ que afrontar las tres leyes se evidenciaron cada vez más.

Cuando en 1989 salió a la venta Foundation's Friends, Stories in Honor of Isaac Asimov, pudimos leer una serie de homenajes literarios al novelista. Tras un preámbulo de Ray Bradbury, el volumen incluye relatos y artículos de Poul Anderson, Robert Silverberg, Frederik Pohl, Harry Turtledove y Orson Scott Card, entre otros. En todo caso, el más interesante en el área que nos ocupa es "The Fourth Law of Robotics", un cuento de Harry Harrison que nos permite recordar a dos de los personajes más conocidos de Asimov, el ingeniero Mike Donovan y la robopsicóloga Susan Calvin.

La cuarta ley propuesta por Harrison en ese cuento dice así: "Un robot debe reproducirse, siempre que dicha reproducción no interfiera con la primera, la segunda o la tercera Ley".

Aunque parezca una ironía por parte del autor, lo cierto es que este cuarto mandamiento es de suma importancia si hablamos de inteligencia artificial y de un futuro en el que los robots diseñarán y fabricarán nuevos modelos. Dicho de otro modo: un futuro en el que construirán su propio linaje y guiarán su evolución.

Todo ello nos saca de la ficción para introducirnos en un área real y menos especulativa de lo que se cree. En esa línea de pensamiento se mueven teóricos de la robótica contemporánea como Hans Moravec, un firme partidario de la vigencia de las tres leyes a la hora de crear nuevos dispositivos.

Imagen superior: Isaac Asimov en la Universidad de Massachusetts Amherst, junto a A. Joseph Ross y Jim Allen (UMSFS, 1966).

En el fondo, la intuición de Asimov ha acabado convirtiéndose en un esquema ético sobre el que aún reflexionan los ingenieros. Así lo demuestra el hecho de que, en marzo de 2007, el Gobierno de Corea del Sur anunciase una serie de normas inspiradas en las tres leyes. El portavoz de aquella propuesta institucional, Park Hye-Young, justificó esas precauciones frente a los micrófonos de la agencia AFP. "Imagine ‒dijo‒ que llegue a haber propietarios de robots que los traten como su las máquinas fueran sus esposas. Otros puede que lleguen a volverse adictos a la interacción con los robots del mismo modo en que hay internautas enganchados al ciberespacio".

Ese porvenir anunciado por Hye-Young está muy cerca de nosotros. De ahí que hoy, varios años después, uno lea su borrador con la seguridad de que anunciaba retos que aún no hemos asumido del todo: "En el siglo XXI ‒leemos en ese texto de 2007‒, la humanidad coexistirá con la primera inteligencia no humana con la que establecerá contacto: los robots. Será un evento lleno de problemas éticos, sociales y económicos".

Como ven, todo gira alrededor de cuestiones éticas, y por eso mismo, la mejor forma de agradecer a Asimov su clarividencia consiste en someter a escrutinio sus leyes.

Sobre todo, hemos de hacerlo antes de que el futuro nos alcance, y en esta era de vértigo y aceleración, salgan a nuestro encuentro inteligencias artificiales capaces de elegir su comportamiento a un nivel sobrehumano.

Copyright © Guzmán Urrero. Reservados todos los derechos.

Guzmán Urrero

Tras una etapa profesional en la Agencia EFE, Guzmán Urrero se convirtió en colaborador habitual de las páginas de cultura del diario ABC y de revistas como Cuadernos Hispanoamericanos, Album Letras-Artes y Scherzo.

Como colaborador honorífico de la Universidad Complutense de Madrid, se ocupó del diseño de recursos educativos, una actividad que también realizó en instituciones como el Centro Nacional de Información y Comunicación Educativa (Ministerio de Educación, Cultura y Deporte). 

Asimismo, accedió al sector tecnológico como autor en las enciclopedias de Micronet y Microsoft, al tiempo que emprendía una larga trayectoria en el Instituto Cervantes, preparando exposiciones digitales y numerosos proyectos de divulgación sobre temas literarios y artísticos.

Es autor de trece libros (en papel) sobre arte y cultura audiovisual.

En 2006, fundó junto a Javier Sánchez Ventero la revista The CULT, un medio situado en la frontera entre la cultura, las ciencias y las nuevas tecnologías de la información.

Desde 2015, The CULT sirve de plataforma a una iniciativa más amplia, conCiencia Cultural, concebida como una entidad sin ánimo de lucro que promueve el acercamiento entre las humanidades y el saber científico, tanto en el entorno educativo como en el conjunto de la sociedad.

conCiencia Cultural

logonegrofinal0

Erik Shoemaker, CC

  • La búsqueda de la felicidad
    Escrito por
    La búsqueda de la felicidad Lichtenberg fue quizá uno de los primeros ateos que expresó esa paradoja teológica hoy tan conocida: “Soy ateo gracias a Dios”. Él dijo exactamente: “Agradezco al buen Dios mil veces el que me haya hecho…
  • Charles Darwin: el hombre y sus mitos
    Escrito por
    Charles Darwin: el hombre y sus mitos La teoría de evolución mediante selección natural de Charles Darwin ha sido descrita quizá como la teoría científica más innovadora y más radical jamás propuesta. Para algunos ateos, como Richard Dawkins y Daniel…

logonegrociencia

Maneed, CC

  • Cómo reprogramar una célula
    Cómo reprogramar una célula ¿Biología sintética? Suena a ciencia ficción, de esa en que un científico loco juega a ser dios. J. Craig Venter es ciertamente un científico, y también es bastante loco. Pero un loco genial, que descifró…
  • Deborah Harkness, historiadora y novelista
    Escrito por
    Deborah Harkness, historiadora y novelista Deborah Harkness es una de mis historiadoras de referencia. Profesora de Historia en la Universidad de Southern California (Los Ángeles). Especializada en historia de la ciencia en la Inglaterra Tudor. Experta en el Londres Isabelino.…

Cartelera

Cine clásico

  • Algunas palabras
    Escrito por
    Algunas palabras Palomas. Blancas, grises, moteadas. Palomas enjauladas. Palomas libres. Palomas que picotean la mano. Palomas que buscan comida en el asfalto. Palomas mimadas, palomas perseguidas. Palomas oscuras. Palomas transparentes, palomas hambrientas. Palomas en un poema de…

logonegrofuturo2

Josh Eiten, CC

  • "1984" (1949), de George Orwell
    "1984" (1949), de George Orwell Mientras que la ciencia ficción norteamericana apostó en la primera mitad del siglo XX por un tono optimista, orientado hacia el espacio y con vocación escapista (entiéndase esto no como algo necesariamente peyorativo), en Europa…

logonegrolibros

Colgreyis, CC

logonegromusica

Namlai000, CC

  • En memoria de Margaret Price
    Escrito por
    En memoria de Margaret Price El 18 de enero de 2011 falleció en su tierra galesa la exquisita Margaret Price. La reciente publicación por parte del sello de la London Philharmonic de un Requiem verdiano del que ella es selecta…

logonegroecologia

Somadjinn, CC

bannernewsletter1