Imperialismo computacional. La (posiblemente vana) preocupación sobre la Inteligencia Artificial: la (posiblemente real) diferencia entre agentes inteligentes artificiales y los naturales.

1. Ya no se trata sólo de neoludismo (la preocupación sobre el hecho de que cada vez más variados tipos de máquinas realicen trabajos antes asignados a humanos). También están entrando consideraciones de seguridad.  Algunos bits informativos sobre este tema:

un artículo reciente en el diario El País. No lo he leído de momento.

un tweet o twit (no se cómo se dice) de Elon Musk, “Hope we’re not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable“.

el libro Superintelligence de Nick Bostrom. No lo he leído de momento.

2. Otro bit que vamos a comentar con más detenimiento es una reciente entrevista al economista, especialista en economía internacional, Premio Nobel y opinoniator global, Paul  Krugman.

No parece preocuparle mucho este asunto (ya se sabe que los economistas piensan de modo muy abstracto sobre los temas tecnológicos…). Como prueba algunos extractos de  una reciente entrevista dónde le preguntan sobre ello.

Ezra Klein: A fear I hear about a lot lately is the idea that we’ll build a self-improving artificial intelligence that will ultimately destroy us.

Paul Krugman: The history of artificial intelligence is that it’s always ten years ahead, and that’s been true for about 50 years.

Lo mismo se dice con respecto a la energía proveniente de la fusión nuclear. Esta es una posición intermedia, bastante frecuente y razonable, ante este y otras eventuales catástrofes: retrasar su eventual ocurrencia más allá del horizonte vital de uno mismo (a esto se debe sin duda la sabiduría despreocupada de la vejez). Otras posiciones más extremas y también frecuentes son declarar el evento imposible o inminente. En la realidad, al final, este tipo de procesos se dan de manera más gradual que catastrófica. Esperemos que suceda así también en el caso de las superinteligencia.

Ezra Klein: But let’s assume it does emerge…I wonder, reading this stuff, whether people are overestimating the value of analytical intelligence. It’s just never been my experience that the higher you go up the IQ scale, the better people are at achieving their goals.

Our intelligence is really lashed to a lot of things that aren’t about intelligence, like endless generations of social competition in the evolutionary fight for the best mates. I don’t even know how to think about what a genuinely new, artifical intelligence would believe is important and what it would find interesting. It often seems to me that one of the reasons people get so afraid of AI is you have people who themselves are really bought into intelligence as being the most important of all traits and they underestimate importance of other motivations and aptitudes. But it seems as likely as not that a superintelligence would be completely hopeless at anything beyond the analysis of really abstract intellectual problems.

Paul Krugman: Yeah, or one thing we might find out if we produce something that is vastly analytically superior is it ends up going all solipsistic and spending all its time solving extremely difficult and pointless math problems. We just don’t know. I feel like I was suckered again into getting all excited about self-driving cars, and so on, and now I hear it’s actually a lot further from really happening that we thought. Producing artificial intelligence that can cope with the real world is still a much harder problem than people realize.

3. La respuesta de Krugman es divertida. Y  más allá de la anécdota lo que plantea el entrevistador y ha motivado la respuesta está bien visto. Precisamente estaba pensando sobre algo relacionado esta misma tarde mientras actualizaba mis conocimientos sobre neurociencias.

Para mi la mejor manera de pensar en un cerebro sigue  siendo como una “máquina” homeostática multicelular bioquímica.

[Nota al margen. Quizás los dos últimos nombres de la máquina sean redundantes.

Ya se que esta vía (la de la máquina homeostática) fue de las primeras en explorarse como teoría o mejor modelo del cerebro, por ejemplo por W.R. Ashby, con poco éxito, pero si no recuerdo mal el enfoque era demasiado abstracto: poco o nada bioquímico; extracto del enlace:  adaptation…can be analyzed and studied in the same manner as mechanical processes but independent of its specific material composition.  

Por otra parte ¿ seguramente ? hay muchas maneras alternativas de implementar una máquina de estas características, incluso con componentes bioquímicos, y por lo tanto afirmar que el  cerebro animal y humano es una artefacto de este tipo no nos dice mucho sobre su organización y funcionamiento; el por qué la evolución ha “elegido” la implementación que observamos es una de las cosas que hay que explicar en neurociencias.

Que haya muchas maneras diferentes de implementar este tipo de máquina es un hecho que no solo pertenece al dominio de la imaginación, sino sobre todo al de la realidad. Se puede afirmar que el sistema nervioso / cerebro de cada especie animal (…of course, it should always be kept in mind that the insects are the most diverse group of animals, and this is also seen in their CNS arrangements and in their brain structures. The brains of insects are exceptionally malleable, and they can vary even within species (this is best seen in eusocial insects like ants or bees, where members of different castes have different-looking brains). Nevertheless, they are all variations of the same ground plan….Más abajo hablamos más sobre los Sistemas Nerviosos Centrales / Cerebros de los insectos), o al menos en cada clase o filo biológico, constituye una implementación diferente.

Cierto que no son implementaciones independientes, sino relacionadas filogenéticamente (aunque a veces de manera muy distante; por ejemplo 600 años separan artrópodos de vertebrados), pero en cualquier caso  bastante diferentes. El lector interesado en estas cuestiones evolutivas puede consultar el muy completo libro Evolutionary Neuroscience de John H. Kaas (Ed.). 2007.

Y más concretamente en este enlace se puede ver una imagen y una sencilla descripción del sistema nervioso central / cerebro típico de los insectos, bastante diferente al de los mamíferos. Cuando uno lee la descripción se observa una organización bastante descentralizada e independiente y un funcionamiento transparente: todo el velo de misterio asociado usualmente al sistema nervioso / cerebro humano desaparece. Los insectos pueden tener entre cientos de miles y millones de neuronas y realmente con esta cantidad de elementos parece que no se puede conseguir gran complejidad: Decapitated insects will still execute the same behaviour...Drosophila flies live for several days completely normally without a head: they will fly, walk and copulate (okay, they have to be raped since a headless female won’t start courting rituals. Mantids, however, do start their mating dance when beheaded. Long-term memory in cockroaches will stay even when the head is removed. It seems amazing at first, but it’s really quite clear how this all works when you look at an insect’s central nervous system (CNS).

Todo esto gracias a la descentralización de la que hablábamos antes (ganglios torácicos  y abdominales): this is a decentralised system: the brain doesn’t control everything in an insect. Mating and moving are jobs for the body’s ventral nerve cord, and the ganglia can store information…La encefalización, es decir la concentración de las neuronas de estos y otros ganglios en la parte de la cabeza empieza con los vertebrados. Posiblemente era necesaria para hacer posible gestionar las propiedades emergentes que aparecen en los cerebros de este otro linaje.

Los artrópodos, por la estructura de su cuerpo (el tener exoesqueleto y no un esqueleto interno), no pueden ser de gran tamaño (ojo, hay excepciones extintas de un tamaño considerable; ver también). Un cuerpo pequeño no puede  transportar un gran Sistema Nervioso Central / Cerebro.  Las neuronas tienen un tamaño mínimo y el volumen /peso que puede transportar un artrópodo, caben las que caben (unos cuantos millones (por ejemplo los escarabajos; seguramente la reina de un hormiguero tiene también un SNC considerable pero entiendo que no se mueve). Finalmente, para conseguir ciertas propiedades o fenómenos complejos un cerebro necesita una mínimo de neuronas. Con esto queda explicado por qué este linaje biológico, que seguramente seguirá tan pancho millones  de años tras nuestra extinción, ha prosperado tan poco en materias intelectuales (no todos estarían de acuerdo con esto:

The diversity of insect brains is most apparent in the mushroom bodies, since they are often compartmentalised, with each compartment dedicated to each input. The functional output of mushroom bodies is still a matter of debate. They are mostly involved in sorting out information from the different sensory inputs, since there is little evidence of any direct downstream connection to other brain areas. They may be involved in pattern recognition, as in locusts, where specific Kenyon cells activate depending on specific smells.

But the coolest function they have is in learning. It’s no secret that insects are smart and have considerable memorisation ability. Manipulating the mushroom bodies (not allowing them to develop properly) has always resulted in loss of short- and long-term memory. There is a strong correlation between mushroom body size and memory in hymenopterans (bees, wasps, ants) as well as between size of the mushroom bodies and behavioural complexity. The reason for this is the Kenyon cells’ remarkable plasticity, in that they will readily rebuild the neural fibers, acting as a sort of neural substrate on which new memories can grow.

One of the most painfully idiotic myths surrounding insects is that their behaviour is limited, compared to animals of “higher intelligence”. This is not true. Insects have many sensory inputs: their antennae let them feel and smell; they have hundreds of eyes; their body is covered in hair that lets them feel the wind. All these inputs come together and the insect has to decide what it will do. If they move and the smell of food gets weaker, they change direction. They regulate their wings’ flapping depending on the wind speed. They will learn where there is a plentiful source of food and they will learn how best to capture that specific type of prey. These are not predetermined behaviours, they are learned from experience.  Muy recomendable el resto de la entrada dónde argumenta su tesis en la cual contradice muchas de nuestras afirmaciones de este último párrafo; en la tesis general, no me ha convencido).

La mayoría de los extractos en inglés provienen de éste muy recomendable artículo del blog Teaching Biology, dónde explican mucho más detalladamente el SNC / cerebro de los insectos y sus maravillosas, según el autor, propiedades.

Fin de nota al margen].

Los valores de los parámetros (esto es también un planteamiento muy abstracto que habría que bajar a la tierra bioquímica) que ésta máquina debe de mantener (y a cuyo mantenimiento todas las demás funciones que un cerebro hace posibles, percepción, emoción, reflexión y acción, están completamente subordinadas) pueden (las opciones no son necesariamente exclusivas y puede haber conflictos entre las diferentes opciones):

1º, estar determinados genéticamente (que expresan conocimiento acumulado en el curso de la evolución). Creo que esto es lo que sucede en todos los animales y en algunos (importantes desde el punto  de vista  biológico) aspectos también en humanos.

2º, pueden ser variables que a las que el entorno asignará valores (tengo algunos fenómenos en la cabeza para esta opción, pero no los voy a explicitar ahora mismo). Es posible que suceda en animales, adicionalmente al mecanismo anterior (impronta) y seguro que en humanos (estos son los fenómenos que no voy a hacer explícitos pues todavía no los tengo 100% claros).

, pueden ser “impuestos” desde fuera por terceras partes, por la Sociedad. Humanos y quizás  algunos animales  sociales.

, pueden ser

elegidos por el mismo agente inteligente, por el mismo cerebro, tras una reflexión racional.  Que yo sepa de momento esto sólo sucede en algunos, seguramente pocos, humanos. El resto, la gran mayoría seguimos siendo esclavos en gran parte de los determinismos genéticos puramente internos o aquellos que se complementarán por los entornos (primera o segunda opciones).

Cuando pensamos en agentes inteligentes artificiales (y por lo  tanto obtenidos fruto de un mecanismo artificial, el diseño y no de un proceso natural, la evolución), enseguida proyectamos sobre ellos nuestros valores determinados genéticamente (la primera de las tres opciones señaladas anteriormente). Esto podría ser una manera incorrecta de pensar  sobre estos agentes artificiales.

Si se diseñan como entes autónomos y por lo tanto capaces de autodeterminarse (es decir capaces de realizar la tercera opción, de darse sus propios valores a los parámetros homeostáticos), y cualquier definición de inteligencia debería de incluir esta propiedad (cualquier diseñador de inteligencia limitada, como el ser humano, querrá saber si existen otros y mejores valores, y para ello se necesita diseñar un agente con la propiedad indicada, lo cual obviamente tiene sus riesgos), sus propios valores (a lo mejor ya no construidos en base a la bioquímica) no tienen por que ser los mismos que los que tenemos los humanos por determinación genética (primera opción).

Si no se tienen que reproducir (pienso en agentes que sólo se tengan que autoreparar: si bien la autodeterminación sí parece una propiedad necesaria para un agente inteligente artificial, no parece que el tema esté tan claro con respecto a la reproducción), igual la territorialidad, el sexo y otras menudencias humanas que tanto tiempo nos hacen perder a veces🙂, no estarán entre sus valores. E igual el autosacrificio sí…

Como dice Krugman, no lo sabemos de momento.

[Nota al margen. Yo  mismo he caído en esta trampa proyectiva o de atribución de valores homeostáticos y por lo tanto estados mentales  humanos a agentes inteligentes artificiales, titulando la serie de entradas sobre esta temática con el agresivo nombre de Imperialismo Computacional.

A la luz de las reflexiones que hemos compartido con los lectores en esta entrada, estoy pensando muy seriamente en cambiar éste título por el más acogedor de Paraíso Computacional🙂. En otras ocasiones a esta eventual situación la hemos llamado también Sociedad del Ocio].

Terms and conditions: 1. Any commenter of this blog agrees to transfer the copy right of his comments to the blogger. 2. RSS readers and / or aggregators that captures the content of this blog (posts or comments) are forbidden. These actions will be subject to the DMCA notice-and-takedown rules and will be legally pursued by the proprietor of the blog.

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s


A %d blogueros les gusta esto: