Imperialismo Computacional. Científicos e inversores advierten sobre los riesgos de la Inteligencia Artificial.

Advertencias:

1. si fuese 1 de abril o 28 de diciembre, de cualquier año, esta entrada podría parecer una broma fabricada por el autor de éste blog. Lo digo porque aunque éste lleva años escribiendo sobre los temas que en ella se reflejan, es posiblemente la más extraña que ha leído en su vida,  y por ello ha pensado que debía de tratarse de una broma…Pero para bien o para mal, es cierta. 

2. No recomendamos a las familias que, tras leer la presente entrada, cambien el tradicional ¡¡ Que viene el Coco !! por un actualizado ¡¡ Que viene La Singularidad !!. Creo que los científicos e inversores intentan transmitir todo lo contrario: se debe de familiarizar a las nuevas generaciones con esta nuevas tecnologías. Son el futuro.

Sí una noticia del día, de hoy, del 12 de enero de 2015,  recién salida del horno.  Y publicada en portada del Financial Times, y acompañada un editorial (de fecha anterior, 3 de diciembre de 2014). Llegué por casualidad (buscando una referencia de un autor relacionado con esta temática), y he conseguido una captura de imagen a última hora, casi milagrosamente, antes  de que cambiasen la  portada. En ese momento era la  noticia más leída (según se ve en el ranking a la derecha).

noticia imperialismo computacional

 

He conseguido averiguar que es una iniciativa del Future of Life Institute (Instituto para el Futuro de la Vida; se entiende natural; fundado en marzo de 2014).

About

We are a volunteer-run research and outreach organization working to mitigate existential risks facing humanity. We are currently focusing on potential risks from the development of human-level artificial intelligence.

To learn more about the ideas behind FLI, check out this article or watch Max Tegmark’s Singularity Summit talk.

FLI welcomes the participation of scientists, philanthropists, and others. We are grateful for seed funding provided by Jaan Tallinn and Matt Wage.

La implicación de Hawking en la iniciativa está justificada ya que es un de los asesores científicos del Instituto (Scientific Advisory Board). Entre sus fundadores hay otros científicos bien conocidos, como Tegmark. Y entre los colegas de Hawking, asesores científicos, bastantes caras conocidas también.

Se trata de una carta abierta firmada, además de por Hawking, por múltiples expertos en Inteligencia Artificial, Robótica, Aprendizaje Automático (Machine Learning), etc…. El lector interesado puede leer la carta aquí (la carta no tiene fecha: ¿ nos la envía quizás algún robot desde el futuro ? :-)).

En la carta remiten a un informe (este sí tiene fecha: 11 de enero de 2015) titulado Research priorities for robust and beneficial artificial intelligence.  Su resumen ejecutivo: Success in the quest for artificial intelligence has the potential to bring unprecedented benefits to humanity, and it is therefore worthwhile to research how to maximize these benefits while avoiding potential pitfalls. This document gives numerous examples (which should by no means be construed as an exhaustive list) of such worthwhile research aimed at ensuring that AI remains robust and beneficial.

En el mismo enlace dónde se puede leer la carta aparece la lista de firmantes.

Aparecen muchos de los nombres sobre los que hemos hablado en nuestra anterior entrada sobre la historia del concepto del Imperialismo Computacional. Incluso aparece un Searle, pero no es el famoso filósofo John R. Searle (que fue uno de mis favorito durante un cierto tiempo), recalcitrante crítico de la Inteligencia Artificial (comenzó a principios de los 80 y sigue al pie del cañón),  y no precisamente porque considere que sus resultados sean un éxito.

También aparece mucho firmante nisu, ya que la lista es abierta (deberían de controlar la lista pues aparece al menos un nombre en español que claramente no se corresponden con una personas: el gracioso de turno). Yo mismo podría firmar, pero no  lo voy a hacer aunque el contenido sea razonable. Si hablasen de la Sociedad del Ocio, todavía…

Terminamos esta introducción con un extracto de la editorial del FT de diciembre pasado:

According to a recent survey, half the world’s AI experts believe human-level machine intelligence will be achieved by 2040 and 90 per cent say it will arrive by 2075. Several AI experts talk about the possibility that the human brain will eventually be “reverse engineered.”

2. Por su interés para la serie de entradas sobre Imperialismo Computacional que elaboramos desde hace años y que trata precisamente de esta temática, reproducimos  la carta por completo aquí. Su reproducción en este espacio no implica ni acuerdo ni desacuerdo con su contenido. Y entiendo que no hay conflicto de propiedad intelectual.

Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter

Artificial intelligence (AI) research has explored a variety of problems and approaches since its inception, but for the last 20 years or so has been focused on the problems surrounding the construction of intelligent agents – systems that perceive and act in some environment. In this context, “intelligence” is related to statistical and economic notions of rationality – colloquially, the ability to make good decisions, plans, or inferences. The adoption of probabilistic and decision-theoretic representations and statistical learning methods has led to a large degree of integration and cross-fertilization among AI, machine learning, statistics, control theory, neuroscience, and other fields. The establishment of shared theoretical frameworks, combined with the availability of data and processing power, has yielded remarkable successes in various component tasks such as speech recognition, image classification, autonomous vehicles, machine translation, legged locomotion, and question-answering systems.

As capabilities in these areas and others cross the threshold from laboratory research to economically valuable technologies, a virtuous cycle takes hold whereby even small improvements in performance are worth large sums of money, prompting greater investments in research. There is now a broad consensus that AI research is progressing steadily, and that its impact on society is likely to increase. The potential benefits are huge, since everything that civilization has to offer is a product of human intelligence; we cannot predict what we might achieve when this intelligence is magnified by the tools AI may provide, but the eradication of disease and poverty are not unfathomable. Because of the great potential of AI, it is important to research how to reap its benefits while avoiding potential pitfalls.

The progress in AI research makes it timely to focus research not only on making AI more capable, but also on maximizing the societal benefit of AI. Such considerations motivated the AAAI 2008-09 Presidential Panel on Long-Term AI Futures and other projects on AI impacts, and constitute a significant expansion of the field of AI itself, which up to now has focused largely on techniques that are neutral with respect to purpose. We recommend expanded research aimed at ensuring that increasingly capable AI systems are robust and beneficial: our AI systems must do what we want them to do. The attached research priorities document gives many examples of such research directions that can help maximize the societal benefit of AI. This research is by necessity interdisciplinary, because it involves both society and AI. It ranges from economics, law and philosophy to computer security, formal methods and, of course, various branches of AI itself.

In summary, we believe that research on how to make AI systems robust and beneficial is both important and timely, and that there are concrete research directions that can be pursued today.

P.s. Queda demostrado una vez más que el lector que quiera leer las noticias del futuro (no muy lejano), debería de leer este blog, que además está producido con inteligencia natural, baja o elevada, no sabemos, pero pura inteligencia natural.

Terms and conditions: 1. Any commenter of this blog agrees to transfer the copy right of his comments to the blogger. 2. RSS readers and / or aggregators that captures the content of this blog (posts or comments) are forbidden. These actions will be subject to the DMCA notice-and-takedown rules and will be legally pursued by the proprietor of the blog.

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s


A %d blogueros les gusta esto: