En estrecha conexión con el El doctor Diágoras (1971) se encuentran aquellos otros relatos en los que Lem reflexiona explícitamente sobre la aparición de la Singularidad Tecnológica en forma de explosión de una IA dotada de un nivel sobrehumano de inteligencia general. El matemático Irving John Good, que trabajó con el equipo de descodificadores de Alan Turing durante la Segunda Guerra Mundial, definía en 1965 esta máquina en los siguientes términos:
Definimos una máquina ultrainteligente como aquella que puede superar con creces todas las actividades intelectuales de cualquier hombre por muy listo que sea. Dado que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas incluso mejores; entonces habría, sin duda, una «explosión de inteligencia», y la inteligencia humana quedaría muy atrás. Por ello, la primera máquina ultrainteligente es el último invento que el hombre necesita crear, incluso contando con el supuesto de que la máquina sea lo bastante dócil como para decirnos cómo mantenerla bajo control.
De acuerdo con la caracterización que hace Nick Bostrom (Superintelligence: Paths, Dangers, Strategies, 2014), una IA sería una superinteligencia capaz de llevar a cabo mucho más rápidamente y cualitativamente mejor, en muchos órdenes de magnitud, todo lo que es capaz de hacer el cerebro humano. Para una inteligencia tan veloz, los acontecimientos del mundo material se producirían con una lentitud exasperante, de manera que, probablemente, preferiría trabajar con objetos digitales en lugar de interaccionar con tardígrados como los humanos. A grandes rasgos, los tres caminos que se pueden seguir para conseguir una IA son: la aceleración de los procesos evolutivos a través de la selección genética, la emulación del cerebro humano completo y la creación de una IA seminal, susceptible de aprender y de mejorar su propia arquitectura algorítmica. Mientras que en los dos primeros casos podemos esperar una cierta semejanza con la inteligencia humana, el último de estos caminos podría llegar a constituir una auténtica inteligencia alienígena. De hecho, cuando nos referimos al impacto de una IA hay que evitar, de entrada, el riesgo de incurrir en el antropomorfismo, ya que en muchos sentidos su emergencia equivaldría a introducir una nueva especie inteligente en el planeta, de unas dimensiones absolutamente inconmensurables con las de la inteligencia humana. Tal como señala el mismo Bostrom, «en lugar de pensar que una IA superinteligente es inteligente en el sentido en que habitualmente decimos que un genio científico es más inteligente que el ser humano medio, podría ser más adecuado pensar que una IA es inteligente como cuando decimos que un ser humano medio es inteligente en comparación con un escarabajo o un gusano.»
Dos narraciones de Lem se ocupan de esta cuestión de manera particularmente relevante. La primera es El amigo, que vio la luz en una fecha tan temprana como 1959, cuando la mayor parte de los especialistas en la materia apenas entreveían riesgo alguno en su actividad —con la notable excepción de Norbert Wiener, que ya en aquella época comparaba los aparatos cibernéticos con una especie de gólems mecánicos. El protagonista del relato es un joven que trabaja como asistente del instructor de un club de radioaficionados y conoce durante las horas de guardia a un extraño individuo de aspecto afligido llamado Harden, que acude en busca de materiales y ayuda para la construcción de un misterioso aparato que mantiene en secreto, al que se refiere como el conjugador. Las demandas de Harden aumentan con el paso de los días y la colaboración entre él y el protagonista se hace cada vez estrecha, hasta el punto de que, después de someterlo a un proceso de desorientación, permite que le acompañe al lugar donde se encuentra la máquina, pero no deja que la vea directamente. A pesar de estas cautelas, el protagonista localiza finalmente el lugar y comprueba que Harden es un ingeniero de Empresas Electrónicas Unidas, una gran corporación que ha desarrollado un computador superinteligente en forma de oráculo —esto es, en forma de sistema de pregunta-respuesta—, ubicado en su sede central. Lo que nadie sabe es que este computador, que de momento se encuentra encajonado, sin ninguna comunicación con el mundo exterior, ha decidido ampliar su radio de acción al mundo real para empezar a transformarlo en computronium, concebido como un repertorio de recursos físicos dispuestos de manera optimizada para el cálculo. Y Harden es, justamente, la persona elegida por el potentísimo cerebro electrónico para llevar a cabo dicho objetivo. El procedimiento consiste en establecer una conexión entre el cerebro humano y la IA, destinada a instrumentalizar a la humanidad al servicio de sus proyectos de expansión, mediante la creación de una interfaz cerebro-ordenador. En el momento crucial del experimento, el protagonista conseguirá salvar la vida —Harden no tendrá tanta suerte— gracias a un pequeño sabotaje que había introducido en las peticiones de material del ingeniero, pero durante un período de tiempo indeterminado, necesariamente breve, antes de que el computador se estropee experimenta una íntima fusión mental con la superinteligencia, que Lem describe, con su habitual pericia, como una auténtica expansión del yo personal, equiparable en muchos sentidos a las visiones extáticas de los místicos.
En este relato se perfilan ya de manera muy nítida los planteamientos posteriores de Lem sobre el asunto, excepto en lo tocante a la tentativa de crear una interfaz entre la superinteligencia y el cerebro humano, aspecto sobre el cual apenas insistirá de nuevo. En realidad, como señalan los especialistas, se trata de una cuestión complicada, considerando nuestro grado actual de ignorancia sobre el funcionamiento del cerebro y la dificultad con que este tolera los implantes cibernéticos, siempre propensos a ocasionar lesiones. Una vez desestimada la vía que acabamos de describir, la narrativa de Lem mostró siempre una especial predilección por los conflictos asociados a la emergencia de una IA no antropomórfica. Los estudiosos que han especulado sobre esta eventualidad contemplan tres escenarios diferentes, en función de su modalidad de inicio y de las posibilidades de que dispondría la humanidad a la hora de ejercer alguna clase de control sobre ellos. El escenario lento abarcaría un período de décadas o siglos y nos permitiría prepararnos a conciencia para la nueva situación. El escenario moderado tendría lugar a lo largo de meses o años y permitiría alguna capacidad de respuesta, aunque no daría tiempo a hacer análisis complicados. En cambio, el escenario rápido se produciría en cuestión de minutos, horas o días, y el destino de la humanidad dependería de si había sido capaz de adoptar precauciones con antelación. Pues bien, contrariamente a lo que tendería a postular el más elemental sentido común, Bostrom señala que la transición lenta o moderada, perfectamente imaginable por lo que respecta a la aceleración genética de los procesos evolutivos y a la emulación del cerebro humano completo, resulta poco probable en relación con la emergencia de una IA, porque esta podría muy bien gestarse en el contexto de un macroprograma de investigación o por parte de un grupo de búsqueda reducido, y no se puede descartar tampoco la acción solitaria de un pirata informático capaz de efectuar el último paso hacia la culminación del proyecto. Eso sería sobre todo relevante en el caso de una IA seminal, capaz de desarrollarse posteriormente por su cuenta a gran velocidad, circunstancia que, como ya hemos señalado, podría aparejar un riesgo enorme para la supervivencia de la humanidad como especie hegemónica del planeta.
Este último es el escenario elegido por Lem en la narración La fórmula de Lymphater (1961), donde se relata el tortuoso itinerario de un cibernético hasta alcanzar la creación de una IA, después de descartar como improductiva la vía de la replicación del cerebro humano, seguida por la mayor parte de los investigadores sobre la materia. Unos investigadores que, en palabras de Lymphater, «se hacían ilusiones pensando que, si en alguna ocasión conseguían construir un cerebro mecánico capaz de rivalizar con el humano, sería, evidentemente, solo porque, desde un punto de vista estructural, se parecería en todo a este. Si pensamos un poco en eso, ajenos a los prejuicios, es fácil poner de manifiesto la infinita ingenuidad de dicha opinión: «Qué es un elefante?», le preguntaron a una hormiga que nunca había visto uno. «Es una hormiga muy grande», contestó esta». Finalmente, Lymphater alcanza la meta de su empresa a través de un camino no ensayado por la evolución, y construye una máquina omnisciente que no es enemiga de los humanos pero tampoco está dispuesta a ponerse a su servicio, dado que su capacidad intelectual reduce a la humanidad a la más absoluta insignificancia. Es entonces cuando el protagonista comprende que aquello supone el fin de la supremacía de la especie humana y destruye la máquina. Una acción que, al fin y al cabo, como esta le advierte antes de apagarse, no deja de ser fútil, ya que tarde o temprano vendrá a reemplazarla alguna máquina similar, ideada por otro cibernético. A partir de aquel día, Lymphater se convierte en un auténtico paria que vive pendiente de los artículos de las revistas científicas, obsesionado por el pánico a la reaparición de su idea.
Las especulaciones anteriores culminaron al cabo de los años en Gólem XIV (1981), una obra muy peculiar, híbrido de ensayo y de narrativa, en la que Lem da la palabra al superordenador del mismo nombre, una IA diseñada con propósitos militares en el marco de la Guerra Fría que, una vez alcanzada la conciencia, se niega a ponerse al servicio de los constructores y se dota de sus propias finalidades. En realidad, la superinteligencia no es hostil ni está demasiado interesada en los seres humanos, pero antes de interrumpir la comunicación con ellos y abandonarlos a su triste suerte de especie superada, condesciende a asumir el papel altruista de «profeta», con el propósito de ilustrarlos sobre una serie de cuestiones relacionadas con la evolución, la cultura y el universo. Resulta difícil establecer hasta qué punto Gólem XIV se hace portavoz de las ideas de Lem sobre todas estas cuestiones, pero aquí no nos podemos detener a comentar la complejidad literaria, científica y filosófica del texto. Me contentaré, pues, con señalar que reaparece una idea presente en otras partes de la obra del autor: la convicción de que la humanidad ha desembocado en un callejón sin salida evolutivo desde el punto de vista biológico, y solo puede proseguir su evolución por otros medios como la creación de IA. Se trata —y Lem lo sabe y no lo oculta— de un itinerario lleno de riesgos, porque, como ya advertía Samuel Butler en 1863 en su artículo Darwin entre las máquinas, reanudado posteriormente con más extensión en su conocida novela distópica Erewhon (1872), con el advenimiento del maquinismo se inaugura una nueva era que muy bien podría desembocar en el dominio de los artefactos mecánicos, aunque estos, de momento, aún nos respetan porque nos necesitan para poder reproducirse. La constatación anterior llevaba a Butler a abrazar un ludismo radical, consistente en la destrucción de todas las máquinas como única vía para la supervivencia de la especie humana —y eso que Butler no llegó a conocer los trabajos de Von Neumann y otros científicos posteriores sobre las máquinas autoreplicantes—. En todo caso, Lem rechazó siempre de manera enérgica este tipo de planteamientos antitecnológicos, hechos en nombre de un humanismo raído, porque entendía que «el único medio eficaz contra una tecnología es otra tecnología.»
Pensándolo bien, el colofón irónico de toda esta trama radica en el hecho de que, muy pocos años antes de que Nietzsche extrapolase filosóficamente las ideas darwinianas para postular que el hombre es un puente entre el simio y el superhombre, alguien como Samuel Butler, menos brillante como pensador, pero quizá más lúcido, llegó a la conclusión de que el destino del hombre, si se descuidaba un poco, consistiría más bien en convertirse en un puente entre el simio y la máquina. Y, para más inri, esta transformación no vendría a certificar la muerte de Dios ni el perfeccionamiento de la humanidad, sino a insinuar la inquietante posibilidad de la teofanía tecnológica que, cerca de un siglo después, Lem imaginó en sus relatos y sobre la que aún debatimos hoy.
© Josep J. Conill