{"id":362,"date":"2018-07-17T22:57:46","date_gmt":"2018-07-17T22:57:46","guid":{"rendered":"http:\/\/inpuribusllibres.com\/summacavea\/?p=362"},"modified":"2018-07-17T23:10:56","modified_gmt":"2018-07-17T23:10:56","slug":"el-cibernetico-en-el-laberinto-la-ficcion-tecnologica-en-la-narrativa-de-stanislaw-lem-y-iv","status":"publish","type":"post","link":"https:\/\/inpuribusllibres.com\/summacavea\/es\/2018\/07\/17\/el-cibernetico-en-el-laberinto-la-ficcion-tecnologica-en-la-narrativa-de-stanislaw-lem-y-iv\/","title":{"rendered":"El cibern\u00e9tico en el laberinto: la ficci\u00f3n tecnol\u00f3gica en la narrativa de Stanislaw Lem (y IV)"},"content":{"rendered":"

En estrecha conexi\u00f3n con el El doctor Di\u00e1goras<\/i> (1971) se encuentran aquellos otros relatos en los que Lem reflexiona expl\u00edcitamente sobre la aparici\u00f3n de la Singularidad Tecnol\u00f3gica en forma de explosi\u00f3n de una IA dotada de un nivel sobrehumano de inteligencia general<\/i>. El matem\u00e1tico Irving John Good, que trabaj\u00f3 con el equipo de descodificadores de Alan Turing durante la Segunda Guerra Mundial, defin\u00eda en 1965 esta m\u00e1quina en los siguientes t\u00e9rminos:<\/p>\n

\n

Definimos una m\u00e1quina ultrainteligente como aquella que puede superar con creces todas las actividades intelectuales de cualquier hombre por muy listo que sea. Dado que el dise\u00f1o de m\u00e1quinas es una de estas actividades intelectuales, una m\u00e1quina ultrainteligente podr\u00eda dise\u00f1ar m\u00e1quinas incluso mejores; entonces habr\u00eda, sin duda, una \u00abexplosi\u00f3n de inteligencia\u00bb, y la inteligencia humana quedar\u00eda muy atr\u00e1s. Por ello, la primera m\u00e1quina ultrainteligente es el \u00faltimo invento que el hombre necesita crear, incluso contando con el supuesto de que la m\u00e1quina sea lo bastante d\u00f3cil como para decirnos c\u00f3mo mantenerla bajo control.<\/span><\/em><\/p>\n<\/blockquote>\n

\"\"
Alan Turing y parte de su equipo con su m\u00e1quina descodificadora ‘The bombe’<\/figcaption><\/figure>\n

De acuerdo con la caracterizaci\u00f3n que hace Nick Bostrom (Superintelligence: Paths, Dangers, Strategies<\/i>, 2014), una IA ser\u00eda una superinteligencia capaz de llevar a cabo mucho m\u00e1s r\u00e1pidamente y cualitativamente mejor, en muchos \u00f3rdenes de magnitud, todo lo que es capaz de hacer el cerebro humano. Para una inteligencia tan veloz, los acontecimientos del mundo material se producir\u00edan con una lentitud exasperante, de manera que, probablemente, preferir\u00eda trabajar con objetos digitales en lugar de interaccionar con tard\u00edgrados como los humanos. A grandes rasgos, los tres caminos que se pueden seguir para conseguir una IA son: la aceleraci\u00f3n de los procesos evolutivos a trav\u00e9s de la selecci\u00f3n gen\u00e9tica, la emulaci\u00f3n del cerebro humano completo y la creaci\u00f3n de una IA seminal, susceptible de aprender y de mejorar su propia arquitectura algor\u00edtmica. Mientras que en los dos primeros casos podemos esperar una cierta semejanza con la inteligencia humana, el \u00faltimo de estos caminos podr\u00eda llegar a constituir una aut\u00e9ntica inteligencia alien\u00edgena. De hecho, cuando nos referimos al impacto de una IA hay que evitar, de entrada, el riesgo de incurrir en el antropomorfismo, ya que en muchos sentidos su emergencia equivaldr\u00eda a introducir una nueva especie inteligente en el planeta, de unas dimensiones absolutamente inconmensurables con las de la inteligencia humana. Tal como se\u00f1ala el mismo Bostrom, \u00aben lugar de pensar que una IA superinteligente es inteligente en el sentido en que habitualmente decimos que un genio cient\u00edfico es m\u00e1s inteligente que el ser humano medio, podr\u00eda ser m\u00e1s adecuado pensar que una IA es inteligente como cuando decimos que un ser humano medio es inteligente en comparaci\u00f3n con un escarabajo o un gusano.\u00bb<\/p>\n

<\/p>\n

\"\"
Norbert Wiener y el filtro de se\u00f1ales que lleva su nombre<\/figcaption><\/figure>\n

Dos narraciones de Lem se ocupan de esta cuesti\u00f3n de manera particularmente relevante. La primera es El amigo<\/i>, que vio la luz en una fecha tan temprana como 1959, cuando la mayor parte de los especialistas en la materia apenas entreve\u00edan riesgo alguno en su actividad \u2014con la notable excepci\u00f3n de Norbert Wiener, que ya en aquella \u00e9poca comparaba los aparatos cibern\u00e9ticos con una especie de g\u00f3lems mec\u00e1nicos. El protagonista del relato es un joven que trabaja como asistente del instructor de un club de radioaficionados y conoce durante las horas de guardia a un extra\u00f1o individuo de aspecto afligido llamado Harden, que acude en busca de materiales y ayuda para la construcci\u00f3n de un misterioso aparato que mantiene en secreto, al que se refiere como el conjugador<\/i>. Las demandas de Harden aumentan con el paso de los d\u00edas y la colaboraci\u00f3n entre \u00e9l y el protagonista se hace cada vez estrecha, hasta el punto de que, despu\u00e9s de someterlo a un proceso de desorientaci\u00f3n, permite que le acompa\u00f1e al lugar donde se encuentra la m\u00e1quina, pero no deja que la vea directamente. A pesar de estas cautelas, el protagonista localiza finalmente el lugar y comprueba que Harden es un ingeniero de Empresas Electr\u00f3nicas Unidas, una gran corporaci\u00f3n que ha desarrollado un computador superinteligente en forma de or\u00e1culo<\/i> \u2014esto es, en forma de sistema de pregunta-respuesta\u2014, ubicado en su sede central. Lo que nadie sabe es que este computador, que de momento se encuentra encajonado<\/i>, sin ninguna comunicaci\u00f3n con el mundo exterior, ha decidido ampliar su radio de acci\u00f3n al mundo real para empezar a transformarlo en computronium<\/i>, concebido como un repertorio de recursos f\u00edsicos dispuestos de manera optimizada para el c\u00e1lculo. Y Harden es, justamente, la persona elegida por el potent\u00edsimo cerebro electr\u00f3nico para llevar a cabo dicho objetivo. El procedimiento consiste en establecer una conexi\u00f3n entre el cerebro humano y la IA, destinada a instrumentalizar a la humanidad al servicio de sus proyectos de expansi\u00f3n, mediante la creaci\u00f3n de una interfaz cerebro-ordenador. En el momento crucial del experimento, el protagonista conseguir\u00e1 salvar la vida \u2014Harden no tendr\u00e1 tanta suerte\u2014 gracias a un peque\u00f1o sabotaje que hab\u00eda introducido en las peticiones de material del ingeniero, pero durante un per\u00edodo de tiempo indeterminado, necesariamente breve, antes de que el computador se estropee experimenta una \u00edntima fusi\u00f3n mental con la superinteligencia, que Lem describe, con su habitual pericia, como una aut\u00e9ntica expansi\u00f3n del yo personal, equiparable en muchos sentidos a las visiones ext\u00e1ticas de los m\u00edsticos.<\/p>\n

\"\"
Ke Jie, campe\u00f3n del mundo del juego de estrategia Go, derrotado por AlphaGo, un software capaz de autoaprendizaje<\/figcaption><\/figure>\n

En este relato se perfilan ya de manera muy n\u00edtida los planteamientos posteriores de Lem sobre el asunto, excepto en lo tocante a la tentativa de crear una interfaz entre la superinteligencia y el cerebro humano, aspecto sobre el cual apenas insistir\u00e1 de nuevo. En realidad, como se\u00f1alan los especialistas, se trata de una cuesti\u00f3n complicada, considerando nuestro grado actual de ignorancia sobre el funcionamiento del cerebro y la dificultad con que este tolera los implantes cibern\u00e9ticos, siempre propensos a ocasionar lesiones. Una vez desestimada la v\u00eda que acabamos de describir, la narrativa de Lem mostr\u00f3 siempre una especial predilecci\u00f3n por los conflictos asociados a la emergencia de una IA no antropom\u00f3rfica. Los estudiosos que han especulado sobre esta eventualidad contemplan tres escenarios diferentes, en funci\u00f3n de su modalidad de inicio y de las posibilidades de que dispondr\u00eda la humanidad a la hora de ejercer alguna clase de control sobre ellos. El escenario lento<\/i> abarcar\u00eda un per\u00edodo de d\u00e9cadas o siglos y nos permitir\u00eda prepararnos a conciencia para la nueva situaci\u00f3n. El escenario moderado<\/i> tendr\u00eda lugar a lo largo de meses o a\u00f1os y permitir\u00eda alguna capacidad de respuesta, aunque no dar\u00eda tiempo a hacer an\u00e1lisis complicados. En cambio, el escenario r\u00e1pido<\/i> se producir\u00eda en cuesti\u00f3n de minutos, horas o d\u00edas, y el destino de la humanidad depender\u00eda de si hab\u00eda sido capaz de adoptar precauciones con antelaci\u00f3n. Pues bien, contrariamente a lo que tender\u00eda a postular el m\u00e1s elemental sentido com\u00fan, Bostrom se\u00f1ala que la transici\u00f3n lenta o moderada, perfectamente imaginable por lo que respecta a la aceleraci\u00f3n gen\u00e9tica de los procesos evolutivos y a la emulaci\u00f3n del cerebro humano completo, resulta poco probable en relaci\u00f3n con la emergencia de una IA, porque esta podr\u00eda muy bien gestarse en el contexto de un macroprograma de investigaci\u00f3n o por parte de un grupo de b\u00fasqueda reducido, y no se puede descartar tampoco la acci\u00f3n solitaria de un pirata inform\u00e1tico capaz de efectuar el \u00faltimo paso hacia la culminaci\u00f3n del proyecto. Eso ser\u00eda sobre todo relevante en el caso de una IA seminal, capaz de desarrollarse posteriormente por su cuenta a gran velocidad, circunstancia que, como ya hemos se\u00f1alado, podr\u00eda aparejar un riesgo enorme para la supervivencia de la humanidad como especie hegem\u00f3nica del planeta.<\/p>\n

\"\"<\/p>\n

Este \u00faltimo es el escenario elegido por Lem en la narraci\u00f3n La f\u00f3rmula de Lymphater<\/i> (1961), donde se relata el tortuoso itinerario de un cibern\u00e9tico hasta alcanzar la creaci\u00f3n de una IA, despu\u00e9s de descartar como improductiva la v\u00eda de la replicaci\u00f3n del cerebro humano, seguida por la mayor parte de los investigadores sobre la materia. Unos investigadores que, en palabras de Lymphater, \u00abse hac\u00edan ilusiones pensando que, si en alguna ocasi\u00f3n consegu\u00edan construir un cerebro mec\u00e1nico capaz de rivalizar con el humano, ser\u00eda, evidentemente, solo porque, desde un punto de vista estructural, se parecer\u00eda en todo a este. Si pensamos un poco en eso, ajenos a los prejuicios, es f\u00e1cil poner de manifiesto la infinita ingenuidad de dicha opini\u00f3n: \u00abQu\u00e9 es un elefante?\u00bb, le preguntaron a una hormiga que nunca hab\u00eda visto uno. \u00abEs una hormiga muy grande\u00bb, contest\u00f3 esta\u00bb. Finalmente, Lymphater alcanza la meta de su empresa a trav\u00e9s de un camino no ensayado por la evoluci\u00f3n, y construye una m\u00e1quina omnisciente que no es enemiga de los humanos pero tampoco est\u00e1 dispuesta a ponerse a su servicio, dado que su capacidad intelectual reduce a la humanidad a la m\u00e1s absoluta insignificancia. Es entonces cuando el protagonista comprende que aquello supone el fin de la supremac\u00eda de la especie humana y destruye la m\u00e1quina. Una acci\u00f3n que, al fin y al cabo, como esta le advierte antes de apagarse, no deja de ser f\u00fatil, ya que tarde o temprano vendr\u00e1 a reemplazarla alguna m\u00e1quina similar, ideada por otro cibern\u00e9tico. A partir de aquel d\u00eda, Lymphater se convierte en un aut\u00e9ntico paria que vive pendiente de los art\u00edculos de las revistas cient\u00edficas, obsesionado por el p\u00e1nico a la reaparici\u00f3n de su idea.<\/p>\n

\"\"<\/p>\n

Las especulaciones anteriores culminaron al cabo de los a\u00f1os en G\u00f3lem XIV<\/i> (1981), una obra muy peculiar, h\u00edbrido de ensayo y de narrativa, en la que Lem da la palabra al superordenador del mismo nombre, una IA dise\u00f1ada con prop\u00f3sitos militares en el marco de la Guerra Fr\u00eda que, una vez alcanzada la conciencia, se niega a ponerse al servicio de los constructores y se dota de sus propias finalidades. En realidad, la superinteligencia no es hostil ni est\u00e1 demasiado interesada en los seres humanos, pero antes de interrumpir la comunicaci\u00f3n con ellos y abandonarlos a su triste suerte de especie superada, condesciende a asumir el papel altruista de \u00abprofeta\u00bb, con el prop\u00f3sito de ilustrarlos sobre una serie de cuestiones relacionadas con la evoluci\u00f3n, la cultura y el universo. Resulta dif\u00edcil establecer hasta qu\u00e9 punto G\u00f3lem XIV<\/i> se hace portavoz de las ideas de Lem sobre todas estas cuestiones, pero aqu\u00ed no nos podemos detener a comentar la complejidad literaria, cient\u00edfica y filos\u00f3fica del texto. Me contentar\u00e9, pues, con se\u00f1alar que reaparece una idea presente en otras partes de la obra del autor: la convicci\u00f3n de que la humanidad ha desembocado en un callej\u00f3n sin salida evolutivo desde el punto de vista biol\u00f3gico, y solo puede proseguir su evoluci\u00f3n por otros medios como la creaci\u00f3n de IA. Se trata \u2014y Lem lo sabe y no lo oculta\u2014 de un itinerario lleno de riesgos, porque, como ya advert\u00eda Samuel Butler en 1863 en su art\u00edculo Darwin entre las m\u00e1quinas<\/i>, reanudado posteriormente con m\u00e1s extensi\u00f3n en su conocida novela dist\u00f3pica Erewhon<\/i> (1872), con el advenimiento del maquinismo se inaugura una nueva era que muy bien podr\u00eda desembocar en el dominio de los artefactos mec\u00e1nicos, aunque estos, de momento, a\u00fan nos respetan porque nos necesitan para poder reproducirse. La constataci\u00f3n anterior llevaba a Butler a abrazar un ludismo radical, consistente en la destrucci\u00f3n de todas las m\u00e1quinas como \u00fanica v\u00eda para la supervivencia de la especie humana \u2014y eso que Butler no lleg\u00f3 a conocer los trabajos de Von Neumann y otros cient\u00edficos posteriores sobre las m\u00e1quinas autoreplicantes\u2014. En todo caso, Lem rechaz\u00f3 siempre de manera en\u00e9rgica este tipo de planteamientos antitecnol\u00f3gicos, hechos en nombre de un humanismo ra\u00eddo, porque entend\u00eda que \u00abel \u00fanico medio eficaz contra una tecnolog\u00eda es otra tecnolog\u00eda.\u00bb<\/p>\n

\"\"<\/p>\n

Pens\u00e1ndolo bien, el colof\u00f3n ir\u00f3nico de toda esta trama radica en el hecho de que, muy pocos a\u00f1os antes de que Nietzsche extrapolase filos\u00f3ficamente las ideas darwinianas para postular que el hombre es un puente entre el simio y el superhombre, alguien como Samuel Butler, menos brillante como pensador, pero quiz\u00e1 m\u00e1s l\u00facido, lleg\u00f3 a la conclusi\u00f3n de que el destino del hombre, si se descuidaba un poco, consistir\u00eda m\u00e1s bien en convertirse en un puente entre el simio y la m\u00e1quina. Y, para m\u00e1s inri, esta transformaci\u00f3n no vendr\u00eda a certificar la muerte de Dios ni el perfeccionamiento de la humanidad, sino a insinuar la inquietante posibilidad de la teofan\u00eda tecnol\u00f3gica que, cerca de un siglo despu\u00e9s, Lem imagin\u00f3 en sus relatos y sobre la que a\u00fan debatimos hoy.<\/p>\n

\u00a9 Josep J. Conill<\/pre>\n","protected":false},"excerpt":{"rendered":"
En estrecha conexi\u00f3n con el El doctor Di\u00e1goras (1971) se encuentran aquellos otros relatos en los que Lem reflexiona expl\u00edcitamente sobre la aparici\u00f3n de la Singularidad Tecnol\u00f3gica en forma de explosi\u00f3n de una IA dotada de un nivel sobrehumano de inteligencia general. El matem\u00e1tico Irving John Good, que trabaj\u00f3 con el equipo de descodificadores de … Sigue leyendo El cibern\u00e9tico en el laberinto: la ficci\u00f3n tecnol\u00f3gica en la narrativa de Stanislaw Lem (y IV)<\/span><\/a><\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[7],"tags":[627,629,631,633,635,637,574],"_links":{"self":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/362"}],"collection":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/comments?post=362"}],"version-history":[{"count":5,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/362\/revisions"}],"predecessor-version":[{"id":377,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/posts\/362\/revisions\/377"}],"wp:attachment":[{"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/media?parent=362"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/categories?post=362"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/inpuribusllibres.com\/summacavea\/wp-json\/wp\/v2\/tags?post=362"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}