{"id":353,"date":"2018-07-17T22:58:19","date_gmt":"2018-07-17T22:58:19","guid":{"rendered":"http:\/\/inpuribusllibres.com\/summacavea\/?p=353"},"modified":"2018-07-18T07:44:27","modified_gmt":"2018-07-18T07:44:27","slug":"el-cibernetic-en-el-laberint-la-ficcio-tecnologica-en-la-narrativa-de-stanislaw-lem-i-iv","status":"publish","type":"post","link":"https:\/\/inpuribusllibres.com\/summacavea\/ca\/2018\/07\/17\/el-cibernetic-en-el-laberint-la-ficcio-tecnologica-en-la-narrativa-de-stanislaw-lem-i-iv\/","title":{"rendered":"El cibern\u00e8tic en el laberint: la ficci\u00f3 tecnol\u00f2gica en la narrativa de Stanis\u0142aw Lem (i IV)"},"content":{"rendered":"

En estreta connexi\u00f3 amb el \u00abEl doctor Di\u00e0gores\u00bb (1971) es troben aquells altres relats en els quals Lem reflexiona expl\u00edcitament sobre l\u2019aparici\u00f3 de la Singularitat Tecnol\u00f2gica en forma d\u2019explosi\u00f3 d\u2019una IA dotada d\u2019un nivell sobrehum\u00e0 d\u2019intel\u00b7lig\u00e8ncia<\/em> general<\/em>. El matem\u00e0tic Irving John Good, que va treballar amb l\u2019equip de descodificadors d\u2019Alan Turing durant la Segona Guerra Mundial, definia el 1965 aquesta m\u00e0quina en els termes seg\u00fcents:<\/p>\n

Definim una m\u00e0quina ultraintel\u00b7ligent com aquella que pot superar amb escreix totes les activitats intel\u00b7lectuals de qualsevol home per molt llest que sigui. At\u00e8s que el disseny de m\u00e0quines \u00e9s una d’aquestes activitats intel\u00b7lectuals, una m\u00e0quina ultraintel\u00b7ligent podria dissenyar m\u00e0quines fins i tot millors; aleshores hi hauria, sens dubte, una \u00abexplosi\u00f3 d’intel\u00b7lig\u00e8ncia\u00bb, i la intel\u00b7lig\u00e8ncia humana quedaria molt enrere. Per aix\u00f2, la primera m\u00e0quina ultraintel\u00b7ligent \u00e9s l’\u00faltim invent que l’home necessita crear, bo i comptant amb el fet que la m\u00e0quina sigui suficientment d\u00f2cil per dir-nos com mantenir-la sota control.<\/em><\/p><\/blockquote>\n

\"\"
Alan Turing i part del seu equip amb la seua m\u00e0quina descodificadora ‘The bombe’<\/figcaption><\/figure>\n

D\u2019acord amb la caracteritzaci\u00f3 que en fa Nick Bostrom (Superintelligence: Paths, Dangers, Strategies<\/em>, 2014), una IA seria una superintel\u00b7lig\u00e8ncia capa\u00e7 de dur a terme molt m\u00e9s r\u00e0pidament i qualitativament, en molts ordres de magnitud, tot el que \u00e9s capa\u00e7 de fer el cervell hum\u00e0. Per a una intel\u00b7lig\u00e8ncia tan velo\u00e7 els esdeveniments del m\u00f3n material es produirien amb una lentitud exasperant, de manera que, probablement, preferiria treballar amb objectes digitals en lloc d\u2019interaccionar amb tard\u00edgrads com els humans. A grans trets, els tres camins que es poden seguir per aconseguir una IA s\u00f3n: l\u2019acceleraci\u00f3 dels processos evolutius a trav\u00e9s de la selecci\u00f3 gen\u00e8tica, l\u2019emulaci\u00f3 del cervell hum\u00e0 complet i la creaci\u00f3 d\u2019una IA seminal, susceptible d\u2019aprendre i de millorar la seva pr\u00f2pia arquitectura algor\u00edtmica. Mentre que en els dos primers casos podem esperar una certa semblan\u00e7a amb la intel\u00b7lig\u00e8ncia humana, aquesta \u00faltima podria arribar a constituir una aut\u00e8ntica intel\u00b7lig\u00e8ncia alien\u00edgena. De fet, quan ens referim a l\u2019impacte d\u2019una IA, cal evitar, d\u2019entrada, el risc d\u2019inc\u00f3rrer en l\u2019antropomorfisme, ja que en molts sentits la seva emerg\u00e8ncia equivaldria a introduir una nova esp\u00e8cie intel\u00b7ligent en el planeta, d\u2019unes dimensions absolutament incommensurables amb les de la intel\u00b7lig\u00e8ncia humana. Tal com assenyala el mateix Bostrom: \u00aben comptes de pensar que una IA superintel\u00b7ligent \u00e9s intel\u00b7ligent en el sentit en qu\u00e8 habitualment diem que un geni cient\u00edfic \u00e9s m\u00e9s intel\u00b7ligent que l’\u00e9sser hum\u00e0 mitj\u00e0, podria ser m\u00e9s adequat pensar que una IA \u00e9s intel\u00b7ligent com quan diem que un \u00e9sser hum\u00e0 mitj\u00e0 \u00e9s intel\u00b7ligent en comparaci\u00f3 d’un escarabat o un cuc.\u00bb<\/p>\n

<\/p>\n

\"\"
Norbert Wiener i el filtre de senyals que porta el seu nom<\/figcaption><\/figure>\n

Dues narracions de Lem s\u2019ocupen d\u2019aquesta q\u00fcesti\u00f3 de manera particularment rellevant. La primera \u00e9s \u00abL\u2019amic\u00bb que va veure la llum en una data tan reculada com el 1959, quan la major part dels especialistes en la mat\u00e8ria a penes entreveien cap risc en la seva activitat \u2014amb la notable excepci\u00f3 de Norbert Wiener, que ja en aquella \u00e8poca comparava els aparells cibern\u00e8tics a una mena de g\u00f2lems mec\u00e0nics. El protagonista del relat \u00e9s un jove que treballa com a assistent de l\u2019instructor d\u2019un club de radioaficionats i coneix durant les hores de gu\u00e0rdia un estrany individu d\u2019aspecte afligit anomenat Harden, que hi acudeix en cerca de materials i ajuda per a la construcci\u00f3 d\u2019un misteri\u00f3s aparell que mant\u00e9 en secret, al qual es refereix com el conjugador<\/em>. Les demandes de Harden augmenten amb el pas dels dies i la col\u00b7laboraci\u00f3 entre ell i el protagonista es fa cada vegada estreta, fins al punt que, despr\u00e9s de sotmetre\u2019l a un proc\u00e9s de desorientaci\u00f3, li permet que l\u2019acompanyi al lloc on es troba la m\u00e0quina, per\u00f2 no li la deixa veure directament. Malgrat aquestes cauteles, el protagonista localitza finalment el lloc i comprova que Harden \u00e9s un enginyer d\u2019Empreses Electr\u00f2niques Unides, una gran corporaci\u00f3 que ha desenvolupat un computador superintel\u00b7ligent en forma d\u2019oracle<\/em> \u2014aix\u00f2 \u00e9s, en forma de sistema de pregunta-resposta\u2014, ubicat a la seva seu central. El que ning\u00fa no sap \u00e9s que aquest computador, que de moment es troba encaixonat<\/em>, sense cap comunicaci\u00f3 amb el m\u00f3n exterior, ha decidit ampliar el seu radi d\u2019acci\u00f3 al m\u00f3n real per tal de comen\u00e7ar a transformar-lo en computronium<\/em>, concebut com un repertori de recursos f\u00edsics disposats de manera optimitzada per al c\u00e0lcul. I Harden \u00e9s, justament, la persona elegida pel potent\u00edssim cervell electr\u00f2nic per dur a terme aquest objectiu. El procediment consisteix a establir una connexi\u00f3 entre el cervell hum\u00e0 i la IA, destinada a instrumentalitzar la humanitat al servei dels seus projectes d\u2019expansi\u00f3 mitjan\u00e7ant la creaci\u00f3 d\u2019una interf\u00edcie cervell-ordinador. En el moment crucial de l’experiment el protagonista aconseguir\u00e0 salvar la vida \u2014Harden no tindr\u00e0 tanta sort\u2014 gr\u00e0cies a un petit sabotatge que havia introdu\u00eft en les peticions de material de l\u2019enginyer, per\u00f2 durant un per\u00edode de temps inconcret, per for\u00e7a breu, abans que el computador s\u2019espatlli experimenta una \u00edntima fusi\u00f3 mental amb la superintel\u00b7lig\u00e8ncia, que Lem descriu, amb la seva habitual per\u00edcia, com una aut\u00e8ntica expansi\u00f3 del jo personal, equiparable en molts sentits a les visions ext\u00e0tiques dels m\u00edstics.<\/p>\n

\"\"
Ke Jie, campio\u0301 del mo\u0301n del joc d’estrat\u00e8gia Go, derrotat per AlphaGo, un software capac\u0327 de fer autoprenentage<\/figcaption><\/figure>\n

En aquest relat es perfilen ja de manera molt n\u00edtida els plantejaments posteriors de Lem sobre l\u2019assumpte, tret del detall tocant a la temptativa de crear una interf\u00edcie entre la superintel\u00b7lig\u00e8ncia i el cervell hum\u00e0, sobre la qual a penes va insistir de nou. En realitat, com remarquen els especialistes, es tracta d\u2019una q\u00fcesti\u00f3 complicada, at\u00e8s el nostre grau actual d\u2019ignor\u00e0ncia sobre el funcionament del cervell i la dificultat amb qu\u00e8 aquest tolera els implants cibern\u00e8tics, sempre propensos a ocasionar-hi lesions. Un cop desestimada la via que acabem de descriure, la narrativa de Lem va mostrar sempre una especial predilecci\u00f3 pels conflictes aparellats a l\u2019emerg\u00e8ncia d\u2019una IA no antropom\u00f2rfica. Els estudiosos que han especulat sobre aquesta eventualitat contemplen tres escenaris diferents, en funci\u00f3 de la seva modalitat d’arrencada i de les possibilitats de qu\u00e8 disposaria la humanitat a l’hora d’exercir-hi alguna mena de control. L’escenari lent<\/em> abastaria un per\u00edode de d\u00e8cades o segles i ens permetria preparar-nos a consci\u00e8ncia per a la nova situaci\u00f3. L’escenari moderat<\/em> tindria lloc al llarg de mesos o anys i toleraria alguna capacitat de resposta, tot i que no donaria temps a an\u00e0lisis complicades. En canvi, l’escenari r\u00e0pid<\/em> es produiria en q\u00fcesti\u00f3 de minuts, hores o dies i el dest\u00ed de la humanitat dependria de si havia estat capa\u00e7 pr\u00e8viament d\u2019adoptar-hi precaucions. Doncs b\u00e9, al contrari del que tendiria a postular el m\u00e9s elemental sentit com\u00fa, Bostrom assenyala que la transici\u00f3 lenta o moderada, perfectament imaginable pel que fa a l\u2019acceleraci\u00f3 gen\u00e8tica dels processos evolutius i a l\u2019emulaci\u00f3 del cervell hum\u00e0 complet, resulta poc probable en relaci\u00f3 amb l’emerg\u00e8ncia d’una IA, perqu\u00e8 aquesta podria molt b\u00e9 gestar-se en el context d\u2019un macroprograma d\u2019investigaci\u00f3 o d\u2019un grup de recerca petit, i no s\u2019hi pot descartar tampoc l\u2019acci\u00f3 solit\u00e0ria d\u2019un pirata inform\u00e0tic capa\u00e7 d\u2019efectuar l\u2019\u00faltim pas cap a la culminaci\u00f3 del projecte. Aix\u00f2 seria sobretot rellevant per al cas d\u2019una IA seminal, capa\u00e7 de desenvolupar-se posteriorment pel seu compte a gran velocitat, circumst\u00e0ncia que, com ja hem remarcat, podria aparellar un risc enorme per a la superviv\u00e8ncia de la humanitat com a esp\u00e8cie hegem\u00f2nica del planeta.<\/p>\n

\"\"<\/p>\n

Aquest \u00faltim \u00e9s l’escenari elegit per Lem en la narraci\u00f3 \u00abLa f\u00f3rmula de Lymphater\u00bb (1961), on es relata el tortu\u00f3s itinerari d\u2019un cibern\u00e8tic fins a assolir la creaci\u00f3 d\u2019una IA, despr\u00e9s de descartar com a improductiva la via consistent en la replicaci\u00f3 del cervell hum\u00e0, seguida per la major part dels investigadors sobre la mat\u00e8ria. Uns investigadors que, en paraules de Lymphater, \u00abes feien il\u00b7lusions pensant que, si en alguna ocasi\u00f3 aconseguien construir un cervell mec\u00e0nic capa\u00e7 de rivalitzar amb l’hum\u00e0, seria, \u00e9s clar, \u00fanicament perqu\u00e8, des d’un punt de vista estructural, s\u2019assemblaria en tot a aquest. Amb pensar en aix\u00f2 una mica, aliens als prejudicis, \u00e9s f\u00e0cil posar de manifest la infinita ingenu\u00eftat d’aquesta opini\u00f3: \u00abQu\u00e8 \u00e9s un elefant?\u00bb, li van preguntar a una formiga que mai n’havia vist un. \u00ab\u00c9s una formiga molt gran\u00bb, va contestar aquesta.\u00bb Finalment, assoleix la meta de la seva empresa a trav\u00e9s d\u2019un cam\u00ed no assajat per l\u2019evoluci\u00f3, i construeix una m\u00e0quina omniscient que no \u00e9s enemiga dels humans per\u00f2 tampoc no est\u00e0 disposada a posar-se al seu servei, at\u00e8s que la seva capacitat intel\u00b7lectual redueix la humanitat a la m\u00e9s absoluta insignifican\u00e7a. \u00c9s aleshores quan el protagonista compr\u00e8n que all\u00f2 suposa la fi de la supremacia de l\u2019esp\u00e8cie humana i destrueix la m\u00e0quina. Una acci\u00f3 que, al capdavall, com aquesta li adverteix abans d\u2019apagar-se, no deixa de ser f\u00fatil, ja que tard o d\u2019hora vindr\u00e0 a reempla\u00e7ar-la alguna m\u00e0quina similar, ideada per un altre cibern\u00e8tic. A partir d\u2019aquell dia, Lymphater es converteix en un aut\u00e8ntic p\u00e0ria que viu pendent dels articles de les revistes cient\u00edfiques, obsedit pel p\u00e0nic a la reaparici\u00f3 de la seva idea.<\/p>\n

\"\"<\/p>\n

Les especulacions anteriors van culminar al cap dels anys en G\u00f2lem XIV<\/em> (1981), una obra molt peculiar, h\u00edbrid d\u2019assaig i de narrativa, en la qual Lem d\u00f3na la paraula al superordinador del mateix nom, una IA dissenyada amb prop\u00f2sits militars en el marc de la Guerra Freda, que, un cop assolida la consci\u00e8ncia, es nega a posar-se al servei dels constructors i es dota de les seves pr\u00f2pies finalitats. En realitat, la superintel\u00b7lig\u00e8ncia no \u00e9s hostil ni est\u00e0 gaire interessada en els \u00e9ssers humans, per\u00f2 abans d\u2019interrompre la comunicaci\u00f3 amb ells i abandonar-los a la seva trista sort d\u2019esp\u00e8cie superada, condescendeix a assumir el paper altruista de \u00abprofeta\u00bb, amb el prop\u00f2sit d\u2019il\u00b7lustrar-los sobre una s\u00e8rie de q\u00fcestions relacionades amb l\u2019evoluci\u00f3, la cultura i l\u2019univers. Resulta dif\u00edcil establir fins a quin punt G\u00f2lem XIV es fa portaveu de les idees de Lem sobre totes aquestes q\u00fcestions, per\u00f2 ac\u00ed no ens podem aturar a comentar la complexitat liter\u00e0ria, cient\u00edfica i filos\u00f2fica del text. M\u2019acontentar\u00e9, doncs, amb assenyalar que hi reapareix una idea present en altres parts de l\u2019obra de l\u2019autor: la convicci\u00f3 que la humanitat ha desembocat en un atzucac evolutiu des del punt de vista biol\u00f2gic i nom\u00e9s pot prosseguir la seva evoluci\u00f3 per altres mitjans com la creaci\u00f3 de IA. Es tracta \u2014i Lem ho sap i no ho oculta\u2014 d\u2019un itinerari ple de riscos, perqu\u00e8 com ja advertia Samuel Butler el 1863 a l\u2019article \u00abDarwin entre les m\u00e0quines\u00bb, repr\u00e8s posteriorment amb m\u00e9s extensi\u00f3 a la seva coneguda novel\u00b7la dist\u00f2pica Erewhon<\/em> (1872), amb l\u2019adveniment del maquinisme s\u2019inaugura una nova era que molt b\u00e9 podria desembocar en el domini dels artefactes mec\u00e0nics, tot i que aquests de moment encara ens respecten perqu\u00e8 ens necessiten per poder reproduir-se. La constataci\u00f3 anterior portava Butler a abra\u00e7ar un luddisme radical, consistent en la destrucci\u00f3 de totes les m\u00e0quines com a \u00fanica via per a la superviv\u00e8ncia de l\u2019esp\u00e8cie humana \u2014i aix\u00f2 que Butler no va arribar a con\u00e8ixer els treballs de Von Neumann i altres cient\u00edfics posteriors sobre les m\u00e0quines autoreplicants. En tot cas, Lem va rebutjar sempre de manera en\u00e8rgica aquesta mena de plantejaments antitecnol\u00f2gics, fets en nom d\u2019un humanisme tronat, perqu\u00e8 entenia que \u00abl\u2019\u00fanic mitj\u00e0 efica\u00e7 contra una tecnologia \u00e9s una altra tecnologia.\u00bb<\/p>\n

\"\"<\/p>\n

Ben mirat, el colof\u00f3 ir\u00f2nic de tota aquesta trama radica en el fet que, molt pocs anys abans que Nietzsche extrapol\u00e9s filos\u00f2ficament les idees darwinianes per postular que l\u2019home \u00e9s un pont entre el simi i el superhome, alg\u00fa com Samuel Butler, menys brillant com a pensador, per\u00f2 potser m\u00e9s l\u00facid, va arribar a la conclusi\u00f3 que el dest\u00ed de l\u2019home, si s\u2019encantava una mica, consistiria m\u00e9s aviat a esdevenir un pont entre el simi i la m\u00e0quina. I, per a m\u00e9s inri, aquesta transformaci\u00f3 no vindria a certificar la mort de D\u00e9u ni el perfeccionament de la humanitat, sin\u00f3 a insinuar la inquietant possibilitat de la teofania tecnol\u00f2gica que prop d\u2019un segle despr\u00e9s Lem va imaginar en els seus relats i sobre la qual encara debatem avui.<\/p>\n

\u00a9 Josep J. Conill<\/pre>\n","protected":false},"excerpt":{"rendered":"
En estreta connexi\u00f3 amb el \u00abEl doctor Di\u00e0gores\u00bb (1971) es troben aquells altres relats en els quals Lem reflexiona expl\u00edcitament sobre l\u2019aparici\u00f3 de la Singularitat Tecnol\u00f2gica en forma d\u2019explosi\u00f3 d\u2019una IA dotada d\u2019un nivell sobrehum\u00e0 d\u2019intel\u00b7lig\u00e8ncia general. El matem\u00e0tic Irving John Good, que va treballar amb l\u2019equip de descodificadors d\u2019Alan Turing durant la Segona Guerra … Sigue leyendo El cibern\u00e8tic en el laberint: la ficci\u00f3 tecnol\u00f2gica en la narrativa de Stanis\u0142aw Lem (i IV)<\/span><\/a><\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[614,622,620,616,618,624,558],"_links":{"self":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/353"}],"collection":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/comments?post=353"}],"version-history":[{"count":6,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/353\/revisions"}],"predecessor-version":[{"id":378,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/353\/revisions\/378"}],"wp:attachment":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/media?parent=353"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/categories?post=353"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/tags?post=353"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}