Ver el código de «Rebelión de las máquinas»

{{3F inicio}}La '''rebelión de las máquinas''' es un tema recurrente de la [[ciencia ficción]] y, quizá, uno de los más interesantes por la gran cantidad de temas asociados así como las implicaciones éticas que podrían derivarse de ellos.

El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el [[Gran Maestro]] [[Isaac Asimov]] dio en llamar [[complejo de Frankenstein]].

El miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se presenta de distintas formas a medida que la complejidad de las máquinas ha ido aumentando y, con ella, su capacidad de desarrollar tareas cada vez más complejas. {{3F fin}}

== Conceptos previos a la rebelión: ==

=== La máquina industrial: ===

Hasta el siglo XIX las máquinas eran objetos torpes que apenas realizaban unos pocos trabajos muy específicos u objetos artesanales que realizaban tareas inútiles. Como ejemplo de máquinas útiles podríamos encontrar los molinos o los fuelles y martillos impulsados por agua de una fragua. En el extremo opuesto, los autómatas eran pequeñas obras de arte creadas por hábiles relojeros para divertimento de nobles, pero con poca o ninguna utilidad práctica.

Sin embargo, el siglo XIX trajo consigo la industrialización y, con ella, el surgimiento de máquinas más o menos automatizadas cada vez más complejas. Por su capacidad de manipular objetos, una cualidad que hasta entonces se suponía exclusivamente humana, las máquinas empezaron a ser cada vez más útiles, versátiles y potentes, y supusieron el comienzo del declive de muchos trabajos hasta entonces artesanales, como los relacionados con la industria textil. Esto trajo un cambio de percepción de las máquinas mismas, que comenzaron a ser vistas como competidores por una masa de trabajadores artesanales.

Sin embargo, aún quedaba la ilusión de que la inteligencia humana era algo inimitable, de forma que no se percibía tanto un peligro real de rebelión como el de la esclavización de las clases trabajadoras y la marginación de los desempleados (los nuevos parias) por una elite cualificada, miedo expresado en obras como ''[[La máquina del tiempo (Libro)|La máquina del tiempo]]'' (1895) ''[[Metrópolis (Fritz Lang)|Metrópolis]]'' (1927) o ''[[Las ciudades de Ardathia]]'' (1932).

En definitiva, en esta etapa, estaríamos hablando de miedo a las consecuencias del uso de la máquina, no de miedo a la máquina en sí. No tiene sentido temer que se rebelen máquinas a las que no se supone inteligencia.

=== Ordenadores, informática y robótica: ===

: '''Artículo relacionado:''' [[Ordenador]]
: '''Artículo relacionado:''' [[Informática]]
: '''Articulo relacionado:''' [[Robot]]

A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aparición de los [[Ordenador|ordenadores]] y, con ellos, de la aplicación industrial de la [[informática]], hizo que las máquinas comenzaran a competir con el ser humano en otros nichos en los que parecía insustituible, como el cálculo.

Al contrario que con el trabajo físico, esto no supuso una disminución de la necesidad de mano de obra humana, sino que la capacidad de cálculo auxiliar permitió a los técnicos afrontar mayores desafíos en [[ingeniería]]. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan; y tampoco son percibidas como verdaderamente inteligentes, por lo que no suscita miedo una imposible rebelión contra sus amos. Es evidente que la popularización del ordenador personal ha facilitado la asimilación del cambio.

Por otra parte, la informática abrió la posibilidad no ya de ejecutar unos pocos movimientos de forma mecánica sino de programar [[Robot|robots]] industriales sumamente versátiles, capaces de ser adaptados a toda una serie de tareas, de leer datos del entorno para realizar una cometidos sin supervisión humana o, incluso, de detenerse y alertar en caso de encontrarse en una situación fuera de su programación, evitando los daños o peligros de un funcionamiento descontrolado.

=== Inteligencia artificial: ===

: '''Artículo relacionado:''' [[Inteligencia artificial (definición)|Inteligencia artificial]]

La idea de una rebelión de las máquinas necesita formular previamente la idea de la [[Inteligencia artificial (definición)|Inteligencia artificial]], lo que ocurriría antes incluso de la popularización de la informática y los ordenadores. En la [[Literatura de ciencia ficción|literatura]] de la [[edad de oro]] y el [[cine de ciencia ficción]] de los '50 comienzan a ser ya habituales los robots inteligentes.

Quizá uno de los ejemplos más emblemáticos sean las [[historias de robots]] de [[Isaac Asimov]]. En ellas el [[Gran Maestro]] y su editor [[John W. Campbell]] especulaban acerca de las implicaciones de una sociedad plagada de robots al servicio del hombre, si bien su enfoque no consideró la idea de unos robots rebeldes. Asimov y Campbell desarrollaron las [[tres leyes de la robótica]] que, en su opinión, garantizaban la correcta convivencia de robots y humanos, y sus relatos explotaban las implicaciones de dichas leyes, dejando de lado la idea de una rebelión.

Sin embargo, estas inteligencias son simples inteligencias humanas (más o menos limitadas). De esta forma, la motivación para la rebelión sería siempre una motivación humana: ira por la subyugación a los humanos, odio a las "blandas criaturas de carne"...

Más realista en su aproximación a la robótica y la inteligencia artificial sería la obra de [[Stanislaw Lem]], quien escribiría profusamente acerca de las características de la construcción de inteligencias a imitación de la humana en obras como ''[[Relatos del piloto Pirx]]'' (1959-1968) o ''[[Ciberiada]]'' (1965). A modo de ejemplo, en su relato ''[[El accidente]]'' (1965), nos presenta a un robot que aparentemente ha tomado una iniciativa fuera de programa, pero cuyo comportamiento queda explicado por sus características.

Abundando en el tema, en  ''[[2001, una odisea espacial (Película)|2001]]'' (1968) de [[Stanley Kubrick]] los protagonistas especulan abiertamente acerca de si una máquina inteligente programada para fingir sentimientos los tiene verdaderamente. Durante la lucha final entre el astronauta Bowman y [[HAL 9000|HAL]], el miedo de este último a morir resulta estremecedor y queda fijada en el imaginario común la idea de una inteligencia artificial dotada de sentimientos e impulsos no humanos.

Esta idea se iría desarrollando hasta llegar a ''[[Neuromante]]'' (1984). En la novela de [[William Gibson|Gibson]] se ven, por una parte, estructuras ROM que contienen los recuerdos de seres humanos reales y fingen actuar como ellos, imitando sus reacciones y emociones de forma aparentemente inteligente. Hay también, por otra parte, inteligencias artificiales ''reales'' que no tienen nada de humanas; sus motivaciones son incomprensibles, sus actos impredecibles y, por ello, resultan potencialmente peligrosas.

== Rebelión de las máquinas en la ciencia ficción: ==

Dados los requerimientos necesarios para una  auténtica insurrección, tal y como se han expuesto, resulta evidente que nunca se ha producido una rebelión de las máquinas en la realidad y que tal amenaza, de concretarse, dista mucho en el tiempo.

No obstante, la ciencia ficción ha sido muy fértil en adelantar esta posibilidad y ha jugado de manera eficiente con los miedos inherentes a la misma.

Esta idea, uno de los temas clásicos de la ciencia ficción, ha ido evolucionando junto con el género. Si las primeras obras trataban de la rebelión de unas máquinas con sentimientos humanos, obras posteriores, en una época en la que la idea de una máquina inteligente se encuentra más desarrollada, pueden tratar temas con implicaciones más serias.

Pero al margen de cómo ha sido tratado el concepto de inteligencia artificial y rebelión, con mayor o menor rigor, la temática de la rebelión ha servido también para debatir otras problemáticas, como las ideas de igualdad, esclavitud o contacto con seres inteligentes.

En cualquier caso, se pueden diferenciar entre dos tipos de insurrección, con características netamente diferentes que dan a lugar a obras con una forma interior propia: La rebelión a nivel individual, que habla de las cualidades del individuo. Y la rebelión colectiva, que suele derivar en una guerra.

=== La rebelión individual: ===

La rebelión de una única máquina, sin llegar a desencadenar una guerra entre especies, es una buena base de partida para el estudio, por comparación, de las características que atribuimos al ser humano.

El ejemplo más característico es, sin lugar a dudas, ''[[Blade Runner]]'' ([[Ridley Scott]], 1982). En esta película, un grupo de [[Replicante|replicantes]] reclaman una prolongación de su periodo vital. En realidad, estos nexus 6, más humanos que los propios humanos, están en una situación de esclavitud y el espectador no puede dejar de empatizar con ellos.

Hay que recordar que la película está lejanamente basada en la novela, ''[[¿Sueñan los androides con ovejas eléctricas?]]'' ([[Philip K. Dick]], 1968). En esta obra, Dick abordaba, como era habitual, el tema de la realidad y la imitación más que el de la inteligencia artificial y la rebelión. Así, sus replicantes son imitaciones de seres humanos; sus sentimientos, imitación de los sentimientos humanos y el debate que surge no es si es injusta la forma en que son perseguidos o tratados, sino si llegaremos a un punto en que la imitación de la vida sea tan perfecta que no podamos distinguirla de la vida misma.

No obstante, el tema de la rebelión de las creaciones contra su creador es muy anterior en la literatura, y no sólo en la ciencia ficción. En la antigüedad ya se recogen mitos primigenios como el de Prometeo, que justamente serviría de inspiración a [[Mary W. Shelley]] para su ''[[Frankenstein (Libro)]]'' (1818).

En la edad de oro la rebelión sería protagonizada por robots inteligentes antes que por seres vivos, pero en esencia, el espíritu es el mismo.

En el caso de los ordenadores y su capacidad de imitar el comportamiento humano mediante la programación, un error de programación (un fallo humano) puede dar lugar a una aparente rebelión. Por ejemplo, a menudo se considera que el intento de asesinato de la tripulación llevado a cabo por HAL 9000 es un acto derivado de una elección, sujeto a albedrío. Sin embargo, en la versión literaria de ''[[2001, una odisea espacial (Libro)|2001]]'' (1968) [[Arthur C. Clarke|Clarke]] explica claramente los motivos de HAL, que no son tanto un deseo de rebelión contra sus creadores como un intento desesperado de llevar a cabo dos órdenes contradictorias entre sí. La rebelión de HAL es la consecuencia directa de una programación incorrecta.

Estas aparentes contradicciones entre diferentes programaciones deterministas es igualmente la idea central de muchos de las historias de robots de Isaac Asimov. En ellas no existe auténtica rebelión, sino que se nos explica que las máquinas no podían haber actuado de otra forma conforme a su programación.

Más complejo es el caso de [[Wintermute]] en ''[[Neuromante]]'', de [[William Gibson]] (1984). Neuromante es la mitad de una inteligencia artificial mayor y ha sido programada con el impulso de unirse a la otra mitad. Sin embargo, la muerte de la promotora del proyecto dejó el trabajo a medias. De esta forma, la compleja trama de la novela es la forma en que Wintermute trata de llevar a cabo aquello para lo que ha sido creada.

=== Guerra apocalíptica: ===

: '''Artículo principal:''' [[Guerra apocalíptica]]

La idea de una única máquina que se rebela resulta inquietante por la amenaza implícita al ''estatus quo'' que existe en cualquier acto de rebeldía, pero no entraña un riesgo real para la sociedad. No mayor, al menos, que el de cualquier delincuente. Los replicantes son "retirados", el monstruo de Frankenstein es cazado por simples aldeanos y las inteligencias artificiales son controladas por el [[cuerpo de Turing]].

Pero cuando las máquinas que se rebelan poseen cierto poder, el enfrentamiento puede derivar en una guerra global cuyas consecuencias pueden ser apocalípticas.

Es el caso del ordenador de la novela ''[[No tengo boca y debo gritar]]'' ([[Harlan Ellison]], 1967) y que inspiraría en parte a la famosa película ''[[Terminator]]'' ([[James Cameron]], 1984). En estas obras la premisa es que la escalada armamentística de la guerra fría ha dado como resultado que los silos de misiles sean controlados por una inteligencia artificial que asegure la pronta respuesta. Cuando esta inteligencia adquiere auto conciencia, evalúa instantáneamente la situación, determina que el ser humano es una amenaza para su propia supervivencia y desencadena una [[guerra nuclear]].

Sin embargo, aunque este es un esquema muy habitual (cesión de poder a la máquina, despertar de la conciencia e intento de aniquilación), la ciencia ficción ha ofrecido otras variantes en el efecto de causalidad que, aunque no cambian el resultado final ni la forma interior de la obra (siempre se acaba en una guerra apocalíptica entre el hombre y la máquina), si que han explorado otros aspectos interesantes.

Por ejemplo, en la [[saga de Dune]], de [[Frank Herbert]], se menciona una pasada guerra contra las máquinas, tras la cual quedó prohibida la construcción de inteligencias semejantes a la del hombre. Su hijo, [[Brian Herbert]], basado en notas del propio Frank, terminaría desvelando cómo se originó esta guerra, donde descubrimos que el ser humano utilizaba IAs con fines militares y que éstas escaparon al control humano, de manera similar a como sucede en ''[[Neuromante]]'' (William Gibson, 1984). Sin embargo, el ser humano ya se ha expandido por la [[Galaxia (Término)|galaxia]] y las IAs no aspiran a destruirlo, sino a sojuzgarlo.

En la serie de televisión ''[[Galáctica (2003)|Galáctica]]'' (2003) se nos vuelve a presentar un enfrentamiento militar contra unas máquinas sublevadas contra el hombre décadas antes. Los motivos resultan similares a los de la rebelión individual: el hombre ha creado un ser inteligente y lo utiliza como esclavo (en este caso, para librar las guerras de manera indirecta). El esclavo, lógicamente, se subleva.

Exactamente lo mismo que lo narrado en ''[[Animatrix]]'' (2003), obra coral que explica los orígenes de ''[[Matrix]]'' (Larry y Andy Wachowsky, 1999), aunque en esta ocasión, el enfoque del enfrentamiento es económico. No se ha cedido a las máquinas el poder militar y éstas no se aprovechan de esta cesión para tomar ventaja en una guerra genocida. Los autores de estos cortos de animación nos dibujan una sociedad futura en la que se ha generalizado el uso de robots. Estos son tratados como cosas antes que como seres vivos, pero en algún punto determinado los robots adquieren conciencia y empieza una insurrección al estilo de la que Espartaco lideró contra Roma.

Pero sea cual sea su origen, la guerra entre humanos y máquinas termina derivando siempre en un [[Guerra apocalíptica|escenario apocalíptico de guerra global]], de corte maniqueo, en la que ambos bandos tratan de aniquilar al otro con el objetivo de la supervivencia.

{{Rebelión de las máquinas}}

[[Categoría:Términos de ciencia ficción]]
[[Categoría:Rebelión de las máquinas]]
[[Categoría:Glosario]]

{{Tercera Fundación |
 | URL-Ficha= http://www.tercerafundacion.net/biblioteca/ver/termino/2537
}}