En estreta connexió amb el «El doctor Diàgores» (1971) es troben aquells altres relats en els quals Lem reflexiona explícitament sobre l’aparició de la Singularitat Tecnològica en forma d’explosió d’una IA dotada d’un nivell sobrehumà d’intel·ligència general. El matemàtic Irving John Good, que va treballar amb l’equip de descodificadors d’Alan Turing durant la Segona Guerra Mundial, definia el 1965 aquesta màquina en els termes següents:
Definim una màquina ultraintel·ligent com aquella que pot superar amb escreix totes les activitats intel·lectuals de qualsevol home per molt llest que sigui. Atès que el disseny de màquines és una d’aquestes activitats intel·lectuals, una màquina ultraintel·ligent podria dissenyar màquines fins i tot millors; aleshores hi hauria, sens dubte, una «explosió d’intel·ligència», i la intel·ligència humana quedaria molt enrere. Per això, la primera màquina ultraintel·ligent és l’últim invent que l’home necessita crear, bo i comptant amb el fet que la màquina sigui suficientment dòcil per dir-nos com mantenir-la sota control.
D’acord amb la caracterització que en fa Nick Bostrom (Superintelligence: Paths, Dangers, Strategies, 2014), una IA seria una superintel·ligència capaç de dur a terme molt més ràpidament i qualitativament, en molts ordres de magnitud, tot el que és capaç de fer el cervell humà. Per a una intel·ligència tan veloç els esdeveniments del món material es produirien amb una lentitud exasperant, de manera que, probablement, preferiria treballar amb objectes digitals en lloc d’interaccionar amb tardígrads com els humans. A grans trets, els tres camins que es poden seguir per aconseguir una IA són: l’acceleració dels processos evolutius a través de la selecció genètica, l’emulació del cervell humà complet i la creació d’una IA seminal, susceptible d’aprendre i de millorar la seva pròpia arquitectura algorítmica. Mentre que en els dos primers casos podem esperar una certa semblança amb la intel·ligència humana, aquesta última podria arribar a constituir una autèntica intel·ligència alienígena. De fet, quan ens referim a l’impacte d’una IA, cal evitar, d’entrada, el risc d’incórrer en l’antropomorfisme, ja que en molts sentits la seva emergència equivaldria a introduir una nova espècie intel·ligent en el planeta, d’unes dimensions absolutament incommensurables amb les de la intel·ligència humana. Tal com assenyala el mateix Bostrom: «en comptes de pensar que una IA superintel·ligent és intel·ligent en el sentit en què habitualment diem que un geni científic és més intel·ligent que l’ésser humà mitjà, podria ser més adequat pensar que una IA és intel·ligent com quan diem que un ésser humà mitjà és intel·ligent en comparació d’un escarabat o un cuc.»
Dues narracions de Lem s’ocupen d’aquesta qüestió de manera particularment rellevant. La primera és «L’amic» que va veure la llum en una data tan reculada com el 1959, quan la major part dels especialistes en la matèria a penes entreveien cap risc en la seva activitat —amb la notable excepció de Norbert Wiener, que ja en aquella època comparava els aparells cibernètics a una mena de gòlems mecànics. El protagonista del relat és un jove que treballa com a assistent de l’instructor d’un club de radioaficionats i coneix durant les hores de guàrdia un estrany individu d’aspecte afligit anomenat Harden, que hi acudeix en cerca de materials i ajuda per a la construcció d’un misteriós aparell que manté en secret, al qual es refereix com el conjugador. Les demandes de Harden augmenten amb el pas dels dies i la col·laboració entre ell i el protagonista es fa cada vegada estreta, fins al punt que, després de sotmetre’l a un procés de desorientació, li permet que l’acompanyi al lloc on es troba la màquina, però no li la deixa veure directament. Malgrat aquestes cauteles, el protagonista localitza finalment el lloc i comprova que Harden és un enginyer d’Empreses Electròniques Unides, una gran corporació que ha desenvolupat un computador superintel·ligent en forma d’oracle —això és, en forma de sistema de pregunta-resposta—, ubicat a la seva seu central. El que ningú no sap és que aquest computador, que de moment es troba encaixonat, sense cap comunicació amb el món exterior, ha decidit ampliar el seu radi d’acció al món real per tal de començar a transformar-lo en computronium, concebut com un repertori de recursos físics disposats de manera optimitzada per al càlcul. I Harden és, justament, la persona elegida pel potentíssim cervell electrònic per dur a terme aquest objectiu. El procediment consisteix a establir una connexió entre el cervell humà i la IA, destinada a instrumentalitzar la humanitat al servei dels seus projectes d’expansió mitjançant la creació d’una interfície cervell-ordinador. En el moment crucial de l’experiment el protagonista aconseguirà salvar la vida —Harden no tindrà tanta sort— gràcies a un petit sabotatge que havia introduït en les peticions de material de l’enginyer, però durant un període de temps inconcret, per força breu, abans que el computador s’espatlli experimenta una íntima fusió mental amb la superintel·ligència, que Lem descriu, amb la seva habitual perícia, com una autèntica expansió del jo personal, equiparable en molts sentits a les visions extàtiques dels místics.
En aquest relat es perfilen ja de manera molt nítida els plantejaments posteriors de Lem sobre l’assumpte, tret del detall tocant a la temptativa de crear una interfície entre la superintel·ligència i el cervell humà, sobre la qual a penes va insistir de nou. En realitat, com remarquen els especialistes, es tracta d’una qüestió complicada, atès el nostre grau actual d’ignorància sobre el funcionament del cervell i la dificultat amb què aquest tolera els implants cibernètics, sempre propensos a ocasionar-hi lesions. Un cop desestimada la via que acabem de descriure, la narrativa de Lem va mostrar sempre una especial predilecció pels conflictes aparellats a l’emergència d’una IA no antropomòrfica. Els estudiosos que han especulat sobre aquesta eventualitat contemplen tres escenaris diferents, en funció de la seva modalitat d’arrencada i de les possibilitats de què disposaria la humanitat a l’hora d’exercir-hi alguna mena de control. L’escenari lent abastaria un període de dècades o segles i ens permetria preparar-nos a consciència per a la nova situació. L’escenari moderat tindria lloc al llarg de mesos o anys i toleraria alguna capacitat de resposta, tot i que no donaria temps a anàlisis complicades. En canvi, l’escenari ràpid es produiria en qüestió de minuts, hores o dies i el destí de la humanitat dependria de si havia estat capaç prèviament d’adoptar-hi precaucions. Doncs bé, al contrari del que tendiria a postular el més elemental sentit comú, Bostrom assenyala que la transició lenta o moderada, perfectament imaginable pel que fa a l’acceleració genètica dels processos evolutius i a l’emulació del cervell humà complet, resulta poc probable en relació amb l’emergència d’una IA, perquè aquesta podria molt bé gestar-se en el context d’un macroprograma d’investigació o d’un grup de recerca petit, i no s’hi pot descartar tampoc l’acció solitària d’un pirata informàtic capaç d’efectuar l’últim pas cap a la culminació del projecte. Això seria sobretot rellevant per al cas d’una IA seminal, capaç de desenvolupar-se posteriorment pel seu compte a gran velocitat, circumstància que, com ja hem remarcat, podria aparellar un risc enorme per a la supervivència de la humanitat com a espècie hegemònica del planeta.
Aquest últim és l’escenari elegit per Lem en la narració «La fórmula de Lymphater» (1961), on es relata el tortuós itinerari d’un cibernètic fins a assolir la creació d’una IA, després de descartar com a improductiva la via consistent en la replicació del cervell humà, seguida per la major part dels investigadors sobre la matèria. Uns investigadors que, en paraules de Lymphater, «es feien il·lusions pensant que, si en alguna ocasió aconseguien construir un cervell mecànic capaç de rivalitzar amb l’humà, seria, és clar, únicament perquè, des d’un punt de vista estructural, s’assemblaria en tot a aquest. Amb pensar en això una mica, aliens als prejudicis, és fàcil posar de manifest la infinita ingenuïtat d’aquesta opinió: “Què és un elefant?”, li van preguntar a una formiga que mai n’havia vist un. “És una formiga molt gran”, va contestar aquesta.» Finalment, assoleix la meta de la seva empresa a través d’un camí no assajat per l’evolució, i construeix una màquina omniscient que no és enemiga dels humans però tampoc no està disposada a posar-se al seu servei, atès que la seva capacitat intel·lectual redueix la humanitat a la més absoluta insignificança. És aleshores quan el protagonista comprèn que allò suposa la fi de la supremacia de l’espècie humana i destrueix la màquina. Una acció que, al capdavall, com aquesta li adverteix abans d’apagar-se, no deixa de ser fútil, ja que tard o d’hora vindrà a reemplaçar-la alguna màquina similar, ideada per un altre cibernètic. A partir d’aquell dia, Lymphater es converteix en un autèntic pària que viu pendent dels articles de les revistes científiques, obsedit pel pànic a la reaparició de la seva idea.
Les especulacions anteriors van culminar al cap dels anys en Gòlem XIV (1981), una obra molt peculiar, híbrid d’assaig i de narrativa, en la qual Lem dóna la paraula al superordinador del mateix nom, una IA dissenyada amb propòsits militars en el marc de la Guerra Freda, que, un cop assolida la consciència, es nega a posar-se al servei dels constructors i es dota de les seves pròpies finalitats. En realitat, la superintel·ligència no és hostil ni està gaire interessada en els éssers humans, però abans d’interrompre la comunicació amb ells i abandonar-los a la seva trista sort d’espècie superada, condescendeix a assumir el paper altruista de «profeta», amb el propòsit d’il·lustrar-los sobre una sèrie de qüestions relacionades amb l’evolució, la cultura i l’univers. Resulta difícil establir fins a quin punt Gòlem XIV es fa portaveu de les idees de Lem sobre totes aquestes qüestions, però ací no ens podem aturar a comentar la complexitat literària, científica i filosòfica del text. M’acontentaré, doncs, amb assenyalar que hi reapareix una idea present en altres parts de l’obra de l’autor: la convicció que la humanitat ha desembocat en un atzucac evolutiu des del punt de vista biològic i només pot prosseguir la seva evolució per altres mitjans com la creació de IA. Es tracta —i Lem ho sap i no ho oculta— d’un itinerari ple de riscos, perquè com ja advertia Samuel Butler el 1863 a l’article «Darwin entre les màquines», reprès posteriorment amb més extensió a la seva coneguda novel·la distòpica Erewhon (1872), amb l’adveniment del maquinisme s’inaugura una nova era que molt bé podria desembocar en el domini dels artefactes mecànics, tot i que aquests de moment encara ens respecten perquè ens necessiten per poder reproduir-se. La constatació anterior portava Butler a abraçar un luddisme radical, consistent en la destrucció de totes les màquines com a única via per a la supervivència de l’espècie humana —i això que Butler no va arribar a conèixer els treballs de Von Neumann i altres científics posteriors sobre les màquines autoreplicants. En tot cas, Lem va rebutjar sempre de manera enèrgica aquesta mena de plantejaments antitecnològics, fets en nom d’un humanisme tronat, perquè entenia que «l’únic mitjà eficaç contra una tecnologia és una altra tecnologia.»
Ben mirat, el colofó irònic de tota aquesta trama radica en el fet que, molt pocs anys abans que Nietzsche extrapolés filosòficament les idees darwinianes per postular que l’home és un pont entre el simi i el superhome, algú com Samuel Butler, menys brillant com a pensador, però potser més lúcid, va arribar a la conclusió que el destí de l’home, si s’encantava una mica, consistiria més aviat a esdevenir un pont entre el simi i la màquina. I, per a més inri, aquesta transformació no vindria a certificar la mort de Déu ni el perfeccionament de la humanitat, sinó a insinuar la inquietant possibilitat de la teofania tecnològica que prop d’un segle després Lem va imaginar en els seus relats i sobre la qual encara debatem avui.
© Josep J. Conill