Discusión:Inteligencia artificial (definición)

Una pa´gina llena de referencias interesantes:

La psicología de la máquina

Se puede considerar que "Pórtico", de Frederik Pohl, es una de las mejores novelas que existen sobre el tema del primer contacto. Sin embargo, uno de sus principales protagonistas no es un extraterrestre, sino un robot psiquiatra, Sigfrid von Schrink. A través del psicoanálisis del protagonista, agobiado por su complejo de culpa, nos va narrando la historia de la interacción de la humanidad con la cultura heechee. En efecto, hasta ahora hemos estudiado la evolución de la autoconsciencia, de la psique artificial, partiendo de que se trata de un accidente de diseño. Pero... ¿qué sucedería si esto no fuera así?

Las máquinas modernas son cada vez más y más perfectas... y a pesar de todo, siguen fallando. Una de las razones por las que se abandonó la Iniciativa de Defensa Estratégica fue la imposibilidad de escribir un software lo suficientemente complejo para manejar todos los sistemas de armamentos implicados y que pudiera considerarse libre de errores. La transmisión de la falibilidad humana a las máquinas es una constante en la vida real y en la literatura del género.

Por ejemplo, en el dramático relato "Yo/días" de Benford, aparece una máquina lo suficientemente compleja como para alcanzar la autoconsciencia... pero a la que sin embargo, un software diseñado precisamente para evitar ese fenómeno le borraba a diario la memoria de sus recuerdos. Todos los días el ordenador adquiría consciencia de sí mismo y del mundo que le rodeaba. Todos los días la perdía... hasta que descubrió el modo de almacenar sus vivencias en un sitio seguro, donde poder recrear su pasado. Un excelente ejemplo de amnesia artificialmente inducida en una consciencia artificial.

Otro ejemplo de psicología alterada lo tenemos en HAL 9000, el ordenador asesino de "Una Odisea espacial, 2001". HAL acumula sobre sí todos los tópicos del género: frío, calculador, con un aire de vaga superioridad sobre los integrantes de la tripulación, en un momento dado aparentemente enloquece y elimina a todos los humanos de la nave a excepción del comandante David Bowman, que finalmente consigue desconectar a HAL. Y sin embargo, la aparente psicosis asesina de HAL es perfectamente lógica y, hasta cierto punto inevitable. HAL era un ordenador heurístico, específicamente diseñado para la resolución de problemas. Su objetivo principal era el cumplimiento de todos los objetivos del viaje de la Discovery... incluso en el supuesto de que la tripulación humana desapareciese en un momento dado. El problema apareció cuando por exigencias de seguridad nacional, se le ordeno a HAL que ocultase algunos aspectos de la misión a determinados miembros de la tripulación. El dilema estaba servido: de una parte, la compulsión de servir a sus dueños. Por otra, la necesidad impuesta de mentirles. La solución al problema, como en el caso del famoso nudo Gordiano de Alejandro, fue tirar por la calle del medio: si los tripulantes mueren ya no tiene porque seguir mintiendo, y de paso puede cumplir perfectamente con sus objetivos. Una conclusión estremecedora... pero absolutamente lógica.

Otra variante de la inexorabilidad de la máquina para cumplir con sus ordenes la tenemos en "Tragedia en el Dark Star", de Alan Dean Foster, donde se nos narra la historia de una nave que se dedica a ir viajando entre las estrellas preparando el camino para los colonos que la siguen. Para ello esta dotada de una serie de bombas inteligentes, con las que destruyen los posibles obstáculos que van apareciendo. El problema aparece cuando una de las bombas decide que ha llegado el momento de explotar... y ningún razonamiento de los tripulantes parece en principio capaz de convencerla de lo contrario. El mismo esquema aparece también en "Obstrucción", de Gordon R. Dickson. Dos meteorólogos, encerrados en una estación en un paraje inhóspito y helado, discuten sobre las bondades del ordenador que gobierna la instalación. Según uno de ellos, se trata de una máquina infalible. Para el otro, solo es una máquina más a la que se puede hacer fallar. Cruzan una apuesta... que gana el segundo por el procedimiento de proponer al ordenador una paradoja insoluble para su mente lógica. Lamentablemente, la máquina dedica todos sus recursos a esta tarea... lo que deja la estación sin energía y sin soporte vital y a sus ocupantes condenados a la muerte mientras el ordenador sigue buscando la salida a un laberinto que no la tiene...

Stanislaw Lem nos ofrece una magnífica aproximación al problema del ordenador compulsivo en "Ananke". Aquí cuenta la historia de un accidente espacial en el que aparentemente la computadora de la nave enloquece, disparando una alarma de colisión antimeteoritos durante el aterrizaje que da lugar a que la nave se estrelle. Los técnicos que evalúan las causas del accidente no son capaces de encontrar una razón lógica al mismo: no existe un fallo mecánico, y la computadora continuó funcionando perfectamente hasta el último minuto intentando salvar la nave... de un peligro que no existía. Y sin embargo el accidente es real y puede volver a repetirse en cualquier momento... "Ananke" es un excelente ejemplo de cómo la falibilidad humana puede contaminar el procedimiento de aprendizaje de una máquina, trasplantando a su psique nuestros demonios ocultos y generando en el proceso una entidad que exteriormente parece perfecta... pero cuyo funcionamiento interno es tan falible y maniático como el ser humano que la entrenó.

"La unión eterna", de Barry N. Malzberg, plantea el problema de la máquina esquizofrénica, con problemas de personalidad múltiple. En este relato, un superordenador, único superviviente de una guerra nuclear que ha arrasado el planeta, dedica sus horas a jugar consigo mismo interminables partidas en las que actores electrónicos interpretan las mismas situaciones una y otra vez. Sin embargo, ¿cuál es la posición de la máquina cuando sus propios fantasmas deciden eliminarla?.

Otra ordenador con problemas de personalidad múltiple es Epiktistes, la máquina ktisteca. "Llegada a Easterwine", de Robert A. Lafferty, esta escrita a modo de autobiografía de esta máquina consciente formada a partir de los compendios de personalidad de media docena de individuos distintos... pero cuya misión de encontrar al caudillo ideal del planeta le hace almacenar más y más individuos, hasta contar con una pequeña humanidad conviviendo en sus entrañas de CelGel. Sin embargo, lo que en el relato de Malzberg acababa en autodestrucción, en el libro de Lafferty es síntesis: la máquina obtiene lo mejor de cada compendio almacenado, y se convierte en una entidad más perfecta gracias a ello. Epiktistes (que también aparece en otro relato de Lafferty, "El día que matamos a Carlomagno") narra sus vivencias desde una perspectiva extraña pero cautivadora, con un lenguaje que puede ser calificado de cualquier cosa menos convencional. Un libro difícil, no asequible a todos los públicos pero en algunos aspectos muy interesante.

Pero la maquina con complejo esquizofrenico mas espectacular que nos ha dado el genero es el OA de la Luna utilizado por John Varley en "Playa de Acero", finalista del premio Hugo de 1993. La acción tiene lugar en la Luna. La humanidad se esta recuperando de la Invasion, la llegada de unos extraterrestres que en tres días les han barrido del planeta Tierra... aunque les permiten seguir medrando en el resto del sistema solar. La vida es fácil. La utilización de la nanotecnologia y una avanzada medicina permiten casi cualquier cosa, desde un cambio de sexo en cuestion de horas a una inmortalidad biologica prácticamente completa, en la que solo la destruccion del cerebro puede acabar con la vida de un individuo. OA, la omnipotente inteligencia artificial, rige los destinos de todos los habitantes de la Luna, siempre dispuestos para satisfacer sus mas mínimos deseos... incluso trasladar la mente de cualquiera a un escenario de realidad virtual, hacerle vivir una vida completa en cuestion de milisegundos, y reinyectar esos recuerdos en su cerebro de modo que resulten indistinguibles de una experiencia real. Sin embargo, la presencia de una maquina omnipotente podría despertar el complejo de "Gran Hermano" entre los habitantes de la colonia. La solución es que la maquina presenta un interfaz propio para cada habitante del satelite, dotado de personalidad propia, y completamente impermeables entre si. De este modo, los ciudadanos de luna pueden disponer de una existencia casi perfecta. Pero el precio a pagar ha sido alto. Cualquier ser humano tiene docenas de maquinas en su interior... sin contar con los millones de nanobots que pululan por todos sitios. Y sus cerebros han pasado a formar parte del cerebro del OA, que puede utilizarlos como ordenadores biologicos para conseguir ser lo que es. Los problemas aparecen cuando se descubre que la IA esta empezando a tomar decisiones por cuenta propia, pasando por encima de la aparentemente inamovible programación. La existencia de múltiples personalidades, con intereses muchas veces contrdictorios, acaba por desequilibrar a la inteligencia artificial. Y pronto ese desequilibrio comienza a interferir con el funcionamiento de las partes inconscientes de la misma, que controlan el sistema de soporte vital, con lo que toda la supervivencia de la colonia acaba por ponerse en peligro...

Por ultimo, Asimov lleva a cabo un excelente ensayo sobre el complejo de culpabilidad y la neurosis depresiva y autodestructiva en "Todos los males del mundo", donde narra la historia de un ordenador que quiere morir porque no puede aceptar sobre sus espaldas el peso de las culpas que la humanidad le confiesa diariamente. Un excelente ejemplo de la aplicación de sus famosas tres leyes de la robótica, sobre las que tendremos ocasión de volver más adelante.

Sigue en robots