Diferencia entre revisiones de «Rebelión de las máquinas»

De Alt64-wiki, la enciclopedia libre.
Saltar a: navegación, buscar
Línea 93: Línea 93:
  
 
[[Categoría:Términos de ciencia ficción]]
 
[[Categoría:Términos de ciencia ficción]]
 +
[[Categoría:Glosario]]

Revisión de 17:27 21 sep 2007

Ampliada-64.png Esta página debe ser ampliada o reestructurada

 

El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el Gran Maestro Isaac Asimov dió en llamar complejo de Frankenstein.

Raíces del miedo a las máquinas

A partir del siglo XIX este miedo se concretó en los pretendidos peligros de la industrialización. El surgimiento de máquinas robotizadas cada vez más complejas supuso un cambio de percepción por la imitación a la inteligencia que suponía su capacidad de manipular objetos, una cualidad que hasta entocnes se suponía exclusivamente humana.

A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aplicación de la informática permitió mejorarlos, perfeccionando la ilusión de vida que producían y dando lugar a un renacimiento del miedo a la sublevación que tuvo su apoteosis con la creación de las primeras I.A. (Inteligencias artificiales).

En definita, el miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se fundamente en diversos niveles:

Inicialmente, eran competidores directos en el trabajo. Hoy en día sigue abierto el temor a las reconversiones industriales que desplazan trabajadores humanos de los nichos de empleo en favor de máquinas mucho más eficientes (aunque fundamentalmente estupidas y por lo tanto incapaces de rebelión).

Con la incorporación de la programación, las máquinas comienzan a competir con el ser humano en otros nichos en los que parecía a salvo, como el cálculo. Al contrario que con el trabajo físico, esto no ha supuesto una disminución de la necesidad humana, sino que la capacidad de cálculo auxiliar ha permitido a los técnicos afrontar mayores desafíos en ingeniería. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan y tampoco son percibidas como verdaderamente inteligentes, por lo que no se perciben como capaces de rebelión a sus amos. Además, la popularización del ordenador personal ha facilitado la asimilación del cambio.

Sin embargo, la creación de verdaderas inteligencias artificiales (hito aún no alcanzado pese a los notables avances) sigue siendo percibida como una amenaza. Esto es así porque en general se desconoce cuáles son las posibilidades de estas imitaciones, no se tiene claro cuál es su finalidad.

Concepto difuso de inteligencia

De entrada, a nivel de calle se desconoce si inteligencia artificial es verdadera inteligencia o es una simple imitación. Y, por lo tanto, no se tiene claro si se pretende que simplemente emulen una cualidad exclusivamente humana o si debemos prepararnos para el encuetro con seres verdaderamente inteligentes y racionales, el primer ser de este tipo con el que se encontraría la humanidad.

En este sentido, el desarrollo de Inteligencias Artificiales presenta los mismos miedos y esperanzas que el contacto con civilizaciones extraterrestres.

Es el miedo a lo desconocido lo que fudamenta la prevención, pues es indudable que una inteligencia como la que se persigue crear no puede ser del mismo tipo que la humana, la única que nos es posible conocer ahora mismo.

El tema se encuentra íntimamente ligado no sólo al problema de la inteligencia, sino al de la autoconciencia. En efecto, es otro aspecto que no está demasiado claro, si la consecución de inteligencia va aparejada al descubrimiento de la conciencia propia.

Aunque parezcan conceptos indisolublemente unidos, inteligencia y autoconciencia no tienen por qué ser consecuencia esta de aquella. Y lo mismo pasa con una serie de características que consideramos humanas y que tendemos a asociar a la cualidad que durante siglos hemos creído que nos diferenciaba de los animales. Personalidad, volición...

Sin volición, por ejemplo, la libertad es imposible y por lo tanto una máquina de este tipo nunca podría tomar una decisión que se pueda catalagar como propia.

En definitiva, dependiendo de qué entendamos por Inteligencia Arficial nos encontraremos con que esta rebelión es posible o no.

Escenarios posibles para la futura I.A.

Está claro entonces que dependiendo de las características (que podemos considerar psicológicas) de la posible Inteligencia Artificial nos encontraremos con muy diferentes posibilidades.

Una inteligencia carente de autopercepción y volición:

Nos encontraríamos ante una inteligencia pura y dura que puede ser muy superior a la humana pero que sin un operador que la guíe es una simple herramienta. Esta I.A. no se da cuenta de su propia existencia y sin una entrada de datos externa posiblemente ni siquiera fuera capaz de hacer nada por sí misma.

Una inteligencia con percepción de sí misma:

Aunque la máquina descubra (cómo, no lo sabemos) que existe y que es un ente individual y diferenciado, quedaría todavía la última frontera de la volición.

Ser autoconsciente no implica la adquisición de deseos, ni siquiera el de preservación. Una máquina de este tipo sería semejante a un observador impasible y continuaría siendo un esclavo perfecto mientras el ser humano diera un buen uso de él. Podría incluso afrontar la desconexión sin irritación, como ocurre con HAL en 2010.

Inteligencia con volición:

Este es el paso definitivo. Querer es independencia de pensamiento. Una máquina que quisiera cosas distintas de las que quiere su dueño se estaría rebelando, aunque sólo fuese internamente.

En la mayoría de las obras de ciencia ficción, si sucede una rebelión de las máquinas es porque estas aspiran a un futuro distinto del que le marca el ser humano que las ha creado. A veces únicamente la propia supervivencia (No tengo boca y debo gritar), otras veces una liberación de un estado que se percibe como de esclavitud al más puro sentido negrero (Animatrix).

Y este es el miedo subyacente que sustenta estas historias. El enfrentamiento a otro ser en igualdad de condiciones, un ser libre (al menos a un nivel intelectual) que puede decidir hacer algo distinto de lo que nosotros queremos.

Pero no sólo eso; al fin y al cabo, el planeta está atestado de seres con estas características. Como hemos dicho al principio, es el miedo a lo desconocido lo que alimenta la aversión, y lo fundamentalmente dsconocido en este caso es el tipo de inteligencia y volición que este nuevo ser tendrá, tan diferente del hombre que nos veremos incapaces de empatizar con él, mucho menos preveer sus reacciones.

¿Qué puede querer una máquina? No lo sabemos.

En este sentido, cabe destacar la siguiente conversación de Neuromante. Quienes conversan son Case, un humano, y Dixie Flatline, una estructura ROM que imita una personalidad humana pero que no es una I.A. real (sus decisiones son perfectamente previsibles para una I.A. real).

-Motivo -dijo la estructura [Dixie]-. Un verdadero problema de motivos, con una IA. No es humana, ¿entiendes?
-Ya, sí, claro.
-No. Quiero decir: no es humana, y no hay modo de saber cómo actuará. Yo tampoco soy humano, pero reaccionó como tal. ¿Entiendes?
-Un segundo -dijo Case-. ¿Tienes sensaciones, o no?
-Bueno, parece como si las tuviera, muchacho, pero en realidad sólo soy un puñado de ROM. Es una de esas… mmm, cuestiones filosóficas, supongo… -La sensación de la horrible risa recorrió la espalda de Case.- Pero no creas que te puedo escribir un poema, ¿me explico? En cambio la IA tal vez sí puede. Pero de humana no tiene nada.

Rebelión de las máquinas en ciencia ficción:

Obras de ciencia ficción que tratan o tienen como marco de la historia, la rebelión de seres creados por el hombre:

Artículos relacionados: