Google+

Our final invention: Artificial Inteligence and the end of the human era, de James Barrat

En el juego de la vida y la evolución hay tres jugadores sentados a la mesa; 
los seres humanos, la naturaleza y las maquinas. 
Yo estoy firmemente de lado de la naturaleza, pero la naturaleza,
 yo sospecho. Se encuentra del lado de las maquinas.
- George Dyson.

Our final invention es un libro de divulgación científica escrito por el autor de documentales norteamericano James Barrat.

Esta no es una obra técnica, sino que intenta analizar los peligros de crear una ASI (Artificial Super Intelligence), lo cual puede significar muy posiblemente el fin de la raza humana. 

Barrat explica de manera amena y trasparente las diferencias entre las weak AI actuales y lo que sera un ser consciente digital con la inteligencia igual a un humano, las AGI (Artificial General Inteligence).

Se prevé que la naturaleza intrínseca de la auto modificación, así como la rápida capacidad cerebral de una maquina provocará que cuando se consiga la primera AGI, esta sera capaz de producir cambios en su propia estructura mental, que la convertirán en ASI, este fenómeno es llamado Inteligence Explosion. Lo perturbador es que una Inteligencia Artificial podría hacer esto en cuestión de días o hasta horas.

Barrat implica que una inteligencia artificial no dotada de emociones, seria incapaz de odiar o amar a los seres humanos, pero que de acuerdo a las directivas propias de todo ser "vivo" buscaría la manera de acaparar la mayor cantidad de procesamiento y energía. ¿Qué detendría a dicho ser de reposicionar nuestras moléculas en un ordenamiento que le de ventaja sobre las demás IA? Ser la primer ASI  es una situación Winner-takes-all (El ganador se lo lleva todo). 

Es por este motivo que todos los países del mundo están desarrollando Inteligencias Artificiales, si son capaces de domarla, esta dará una ventaja tecnológica definitiva al primero que logre su "nacimiento".

Me agradó que Barrat analice el tema de una forma seria y pesimista, muy alejada de las fantasías masturbatorias de muchos transhumanistas, Ray Kurzweil a la cabeza, quienes ven las Inteligencias Artificiales como una panacea capaz de resolver todos nuestros problemas.

El autor, sin ser un experto, entrevista a diversos científicos del medio. Y la filosofía más extendida es que se necesita crear un sistema de pensamiento embebido en la "psique" artificial que no contemple a la humanidad como desechable, aun cuando esta mente sea capaz de modificarse y evolucionar su razonamiento.

También se analizan brevemente los cambios económicos, científicos y militares que producirá la generación de IA. ¿Que sucederá cuando los sistemas de defensa y ciberdefensa sean controlados por IAs? ¿Cuando estas posean técnicas de programación increíblemente complejas que harán parecer a las redes neuronales, la lógica difusa y la programación evolutiva como un juego de niños? Ni siquiera el grupo de humanos más inteligentes serían capaces de entenderla.

Yo también soy pesimista, creo que la creación de inteligencia artificial es inevitable y que cuando llegue a manos de extremistas o a los mercados negros vendidas al mejor postor se producirá un cataclismo del cual la humanidad no se repondrá.  

El mejor punto del libro, desde mi punto de vista, es que crea conciencia en los lectores, legos y expertos, de los peligros de estas tecnologías. Y espero que promueva una ampliación del involucramiento de filósofos y expertos en ética, debido a que la moneda todavía esta en el aire, pero no debemos olvidar que ya fue lanzada.



No hay comentarios:

Publicar un comentario