Diferencia entre revisiones de «Discusión:Rebelión de las máquinas»

Revisión de 17:31 17 may 2012

Quedaría por enfocar en este artículo cómo ha tratado el tema la ciencia ficción.

Por ejemplo, hay una serie de obras que tratan d euna rebelión individual, por máuinas que se han humanizado y que en realidad de lo que hablan es de qué es ser humano, responsabilidad, libertad...

Otras, por el contrario, narran un verdaero alzamiento de máuinas contra humanos y cómo, normalmente, este alzamiento da lugar a una guerra entre especies, sin cuartel. Son las obras que realmente explotan el miedo a las máquinas.

--Venom 17:21 12 ago, 2007 (CEST)

A raíz de la posibilidad de colaboración con Tercera Fundación estoy revisando algunos artículos, y este es uno de ellos.

Veo que la mayor parte del artículo trata, en realidad, de inteligencia artificial (definición ambigua, inteligencia, volición, autoconsciencia...). Considero que el artículo "Inteligencia artificial (definición)" es el más apropiado para estos temas, por lo que los traslado allí.

--Vendetta 13:37 16 ago, 2011 (CEST)

Correcto. Vamos consiguiendo un poco de orden en esta temática. ¿Alguna propuesta de plantilla?

--Venom 18:35 17 ago, 2011 (CEST)

Anoto aquí una idea para desarrollar un apartado: El complejo de Frankenstein y sus raices en al reedición del míto antiguo de la rebelión. Prometo contra los Olímpicos o el diablo contra Dios.

El mito de la rebelión de lso ángeles me parece el más acertado filosóficamente, el que mejor enfoca este problema. Dios crea a seres enormemente perfectos y estos reclaman mayor autonomía.

Jugar a ser Dios al crear vida artificial es exactametne eso, jugar a reeditar la rebelión de los ángeles, algo muy claro en al serie de televisión Galáctica.

Frankenstein o los replicantes ilustran una rebelión individual, más cercana a la de Prometeo: existe uan situación injusta, donde el creador sojuzga a sus creaciones y estas se rebelan impelidas por las circunstancias.

--Venom 18:06 4 may 2012 (CEST)

Propuesta de redacción:

La rebelión de las máquinas es un tema recurrente de la ciencia ficción y, quizá, uno de los más interesantes por la gran cantidad de temas asociados así como las implicaciones éticas que podrían derivarse de ellos.

El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el Gran Maestro Isaac Asimov dio en llamar complejo de Frankenstein.

En definitiva, el miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se fundamenta en diversos niveles que deben ser asumidos.

Conceptos previos a la rebelión:

La máquina industrial:

Hasta el siglo XIX las máquinas eran objetos torpes que apenas realizaban unos pocos trabajos muy específicos u objetos artesanales que realizaban tareas inútiles. Como ejemplo de máquinas útiles podríamos encontrar los molinos o los fuelles y martillos impulsados por agua de una fragua. En el extremo opuesto, los autómatas eran pequeñas obras de arte creadas por hábiles relojeros para divertimento de nobles pero con poca o ninguna utilidad práctica.

Sin embargo, el siglo XIX trajo consigo la industrialización y, con ella, el surgimiento de máquinas automatizadas cada vez más complejas. Esto trajo un cambio de percepción por la imitación a la inteligencia que suponía su capacidad de manipular objetos, una cualidad que hasta entonces se suponía exclusivamente humana. Las máquinas empezaron a ser objetos cada vez más útiles, versátiles y potentes, y supusieron el comienzo del declive de muchos trabajos hasta entonces artesanales, como los relacionados con la industria textil.

Sin embargo, aún quedaba la ilusión de que la inteligencia humana era algo inimitable, de forma que no se percibía tanto un peligro real de rebelión como el de la esclavización de las clases trabajadoras y la marginación de los desempleados (los nuevos parias) por una elite cualificada, miedo expresado en obras como La máquina del tiempo (1895) Metrópolis (1927) o Las ciudades de Ardathia (1932).

Es decir, estaríamos hablando de miedo a las consecuencias del uso de la máquina, no de miedo a la máquina en sí. No tiene sentido temer que se rebelen máquinas a las que no se supone inteligencia.

Ordenadores, informática y robótica:

Artículo relacionado: Ordenador

Artículo relacionado: Informática

Articulo relacionado: Robot

A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aparición de los ordenadores y, con ellos, de la aplicación industrial de la informática hace que las máquinas comiencen a competir con el ser humano en otros nichos en los que parecía a salvo, como el cálculo.

Al contrario que con el trabajo físico, esto no ha supuesto una disminución de la necesidad humana, sino que la capacidad de cálculo auxiliar ha permitido a los técnicos afrontar mayores desafíos en ingeniería. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan y tampoco son percibidas como verdaderamente inteligentes, por lo que no se perciben como capaces de rebelión a sus amos. Además, la popularización del ordenador personal ha facilitado la asimilación del cambio.

Por otra parte, la informática abre la posibilidad no ya de ejecutar unos pocos movimientos de forma mecánica, sino de programar robots industriales sumamente versátiles, capaces de ser adaptados a toda una serie de tareas o, incluso, de leer datos del entorno para realizar una tarea u otra sin supervisión humana o de detenerse y alertar en caso de encontrarse en una situación fuera de su programación evitando los daños o peligros de un funcionamiento descontrolado.

Inteligencia artificial:

Artículo relacionado: Inteligencia artificial

La idea de una rebelión de las máquinas necesita formular previamente la idea de la Inteligencia artificial, lo que ocurriría antes incluso de la popularización de la informática y los ordenadores. En la literatura de la edad de oro y el cine de ciencia ficción de los '50 comienzan a ser ya habituales los robots inteligentes.

Quizá uno de los ejemplos más emblemáticos sean las historias de robots de Isaac Asimov. En ellas el Gran Maestro y su editor John W. Campbell especulaban acerca de las implicaciones de una sociedad plagada de robots al servicio del hombre, si bien su enfoque no consideró la idea de unos robots rebeldes. Asimov y Campbell desarrollaron las tres leyes de la robótica que, en su opinión garantizaban la correcta convivencia de robots y humanos, y sus relatos explotaban las implicaciones de dichas leyes, dejando de lado la idea de una rebelión.

Sin embargo, estas inteligencias son simples inteligencias humanas (más o menos limitadas). De esta forma, la motivación para la rebelión sería siempre una motivación humana: ira por la subyugación a los humanos, odio a las "blandas criaturas de carne"...

Más realista en su aproximación a la robótica y la inteligencia artificial sería la obra de Stanislaw Lem, quien escribiría profusamente acerca de las características de la construcción de inteligencias a imitación de la humana en obras como Relatos del piloto Pirx o Ciberiada. A modo de ejemplo, en su relato El accidente (1965), nos presenta a un robot que aparentemente ha tomado una iniciativa fuera de programa, pero cuyo comportamiento queda explicado por sus características.

Abundando en el tema, en 2001 (1968) de Stanley Kubrick los protagonistas especulan abiertamente acerca de si una máquina inteligente programada para fingir sentimientos los tiene verdaderamente. Durante la lucha final entre el astronauta Bowman y HAL, el miedo de este último a morir resulta estremecedor y queda fijada en el imaginario común la idea de una inteligencia artificial dotada de sentimientos e impulsos no humanos.

Esta idea se iría desarrollando hasta llegar a Neuromante (1984). En la novela de Gibson se ven, por una parte, estructuras ROM que contienen los recuerdos de seres humanos reales y fingen sus emociones y, por otra parte, inteligencias artificiales reales que no tienen nada de humanas y que pueden ser peligrosas.

Quitaría esto: Las estructuras ROM, pese a comportarse como humanos inteligentes son, en realidad, máquinas deterministas totalmente predecibles si se dispone de la suficiente capacidad de cálculo. Las IA reales, sin embargo, son absolutamente impredecibles e incomprensibles ya que sus motivaciones son totalmente desconocidas. Por este motivo, existe un cuerpo de policía especial (Turing) dedicado a su vigilancia.

Rebelión de las máquinas en la ciencia ficción:

Dados los requerimientos necesarios para una auténtica insurrección, tal y como se han expuesto, resulta evidente que nunca se ha producido una rebelión de las máquinas en la realidad y que tal amenaza, de concretarse, dista mucho en el tiempo.

No obstante, la ciencia ficción ha sido muy fértil en adelantar esta posibilidad y ha jugado de manera eficiente con los miedos inherentes a la misma.

Esta idea, uno de los temas clásicos de la ciencia ficción, ha ido evolucionando junto con el género. Si las primeras obras trataban de la rebelión de unas máquinas con sentimientos humanos, obras posteriores, en una época en la que la idea de una máquina inteligente se encuentra más desarrollada, pueden tratar temas con implicaciones más serias.

Pero al margen de cómo ha sido tratado el concepto de inteligencia artificial y rebelión, con mayor o menor rigor, la temática de la rebelión ha servido también para debatir otras problemáticas, como las ideas de igualdad, esclavitud o contacto con seres inteligentes.

En cualquier caso, se pueden diferenciar entre dos tipos de insurrección, con características netamente diferentes que dan a lugar a obras con una forma interior propia: La rebelión a nivel individual, que habla de las cualidades del individuo. Y la rebelión colectiva, que suele derivar en una guerra.

La rebelión individual:

La rebelión de una única máquina, sin llegar a desencadenar una guerra entre especies, es una buena base de partida para el estudio, por comparación, de las características que atribuimos al ser humano.

El ejemplo más característico es, sin lugar a dudas, Blade Runner (Ridley Scott, 1984). En esta película, un grupo de replicantes reclaman una prolongación de su periodo vital. En realidad, estos nexus 6, más humanos que los propios humanos, están en una situación de esclavitud y el espectador no puede dejar de empatizar con ellos.

Hay que recordar que la película está lejanamente basada en la novela de Philip K. Dick, ¿Sueñan los androides con ovejas eléctricas? (1964). En esta obra, Dick abordaba, como era habitual, el tema de la realidad y la imitación más que el de la inteligencia artificial y la rebelión. Así, sus replicantes son imitaciones de seres humanos; sus sentimientos, imitación de los sentimientos humanos y el debate que surge no es si es injusta la forma en que son perseguidos o tratados, sino si llegaremos a un punto en que la imitación de la vida sea tan perfecta que no podamos distinguirla de la vida misma.

No obstante, el tema de la rebelión de las creaciones contra su creador es muy anterior en la literatura, y no sólo en la ciencia ficción. En la antigüedad ya se recogen mitos primigenios como el de Prometeo, que justamente serviría de inspiración a Mary Shelly para su Frankenstein.

La idea de una máquina que se revela a sus creadores es antigua. Ya en 1954 Fredric Brown escribió Respuesta. En este relato, todos los ordenadores de una gigantesca red mundial se unen y, en ese momento, la suma de todo su potencial de cálculo hace que la red tome conciencia de sí misma de forma ominosa. Nota:: ¿Por qué es una rebelión individual?

En la edad de oro la rebelión sería protagonizada por robots inteligentes antes que por seres vivos, pero en esencia, el espíritu es el mismo.

En el caso de los ordenadores y su capacidad de imitar el comportamiento humano mediante la programación, ya se ha mencionado cómo un error de programación, un fallo humano, puede dar lugar a una aparente rebelión. Por ejemplo, a menudo se considera que el intento de asesinato de la tripulación llevado a cabo por HAL 9000 es un acto derivado de una elección, sujeto a albedrío. Sin embargo, en la versión literaria de 2001 (1968) Clarke explica claramente los motivos de HAL, que no son tanto un deseo de rebelión contra sus creadores como un intento desesperado de llevar a cabo dos órdenes contradictorias entre sí. La rebelión de HAL es la consecuencia directa de una programación incorrecta.

Estas aparentes contradicciones entre diferentes programaciones deterministas es igualmente la idea central de muchos de las historias de robots de Isaac Asimov. En ellas no existe auténtica rebelión, sino que se nos explica que las máquinas no podían haber actuado de otra forma conforme a su programación.

Más complejo es el caso de Wintermute en Neuromante, de William gibson (1984). Neuromante es la mitad de una inteligencia artificial mayor y ha sido programada con el impulso de unirse a la otra mitad. Sin embargo, la muerte de la promotora del proyecto dejó el trabajo a medias. De esta forma, la compleja trama de la novela es la forma en que Wintermute trata de llevar a cabo aquello para lo que ha sido creada.

Guerra apocalíptica:

Artículo principal: Guerra apocalíptica

La idea de una máquina que se rebela resulta inquietante, pero siempre es posible dar un paso más. ¿Y si esta máquina es un ordenador militar con acceso a nuestro armamento? ¿Y si se trata de la rebelión de miles de máquinas? En este caso, cabe imaginar una guerra apocalíptica entre humanos y máquinas que puede devenir en la destrucción de nuestra sociedad.

Obras de ciencia ficción que tratan o tienen como marco de la historia, la rebelión de seres creados por el hombre:

• Galáctica, serie de televisión
• La Jihad Butleriana (2002), novela de Brian Herbert
• Matrix (1999), película de Larry y Andy Wachowsky
• No tengo boca y debo gritar (1967), novela de Harlan Ellison
• Terminator (1984), película de James Cameron