Superinteligence, de Nick Bostrom

Superintelligence: Path, Dangers, Strategies. Nick Bostrom. 2014

  Superintelligence es una obra de divulgación científica escrita por el filósofo y profesor sueco Nick Bostom.

  El estudio de la inteligencias artificiales se ha visto polarizado por las obras de ficción, nadie cree que un programa pueda actuar por cuenta propia, pero cuando se trata de Inteligencias Artificiales se utilizan algoritmos o técnicas en donde los humanos ya no saben a ciencia cierta lo que esta pasando en la "mente" del agente, como lo llama el libro.

 Esta es una de las obras de divulgación que más me han gustado, es amena sin necesidad de recurrir a anécdotas o  analogías fáciles. 

  En primer lugar, el libro es sobrio, no predice hecatombes o su propósito es asustar, explica hasta lo que se tiene de conocimientos y equipo la probable fecha en que podríamos tener una AGI, o Artificial General Intelligence, esto es, una inteligencia artificial que tenga una inteligencia al menos igual que la humana.

  También define la diferencia entre "Strong AI", una inteligencia artificial fuerte y una "narrow AI" o "Weak AI" una inteligencia artificial que tiene un uso restringido, como los agentes Siri de Apple o Cortana de Microsoft. 

  Según el autor hay varias formas de llegar a la AGI, una de ellas es el escaneo cerebral, lo que coloquialmente la ciencia ficción conoce como emulación cerebral, otras sería emular los procesos mentales del cerebro humano mediante algoritmos, esto sería conocido como una Inteligencia Artificial Neuromorfica, otra manera sería generar una Seed AI, una inteligencia artificial que fuera aprendiendo conceptos humanos con el tiempo, pero que empezara desde cero, como se manejan ahora las mentadas "Deep Learning" que en los ochentas eran conocidas como Redes Neuronales. El otro camino es utilizar las nuevas técnicas de programación como Programación Evolutiva o "Fitness Aproximations".

  Ademas el autor utiliza mucha parte de la obra en desarrollar las técnicas de aproximación a una Superinteligencia, debido a que el trato directo llevaría a que la IA escapara de su "sandbox" o espacio contenido hacia el Internet.

 También habla de los posibles resultados en que podría resultar la "corrupción" de una Superinteligencia, lo cual es llamado Riesgo Existencial. Aunque corrupción es una palabra incorrecta, la IA podría extinguirnos sin que ese sea realmente su objetivo. Sería tan solo un daño colateral de perseguir sus objetivos hasta sus últimas consecuencias.

 Según Bostrom la mejor manera de lidiar con una Superinteligencia es usando Inteligencias débiles llamadas Genies u Oracles que funcionen como interfaces.

  También se mete un poco en el campo de la ciencia ficción y habla de como podría producirse una sociedad Post-singularidad y como podría la humanidad repartirse el botín.

  Quizá los consejos de este libro se apliquen ya cuando todos nosotros hayamos muerto, pero es necesario ir pensando en las técnicas de control de una tecnología en la cual la humanidad ha puesto ya la mira y puede ser un peligro de extinción a nuestra especie.

 Por ahora es ciencia ficción, pero todo indica que ya vamos encaminados hacia allá.

Throwing rocks at the Google bus, de Douglass Rushkoff

Throwing rocks at the Google bus: How growth become the enemy of prosperity. Douglass Rushkoff. 2016.

A finales de los noventa leí un libro de divulgación llamado "Cyberia, la vida en las trincheras del ciberespacio" el escritor era un joven investigador llamado Douglas Rushkoff, la obra hablaba del incipiente cambio del internet gracias a la realidad virtual,  los hackers y todos los cansinos temas del cyberpunk.

Veinte años después y muchos de los temas de ese libro apenas comienzan a florecer, pero Rushkoff a enfocado sus intereses a temas mucho más realistas e incómodos.

El titulo de la obra alude a un ataque recibido por un camión de personal de Google, en California. Cuando las compañías informáticas se mudan a una ciudad, el costo de vida aumenta indiscriminadamente, a este fenómeno se le conoce como gentrificación. Esté es tan sólo un ejemplo de lo mucho que afectan las compañías tecnológicas a nuestra sociedad y lo poco que les importa.

Rushkoff hace un análisis del abuso de la herramienta más útil de la humanidad: el dinero. Y como el nacimiento del dinero digital podría ayudar a modificar la manera de invertir en nuestra civilización. También la creación de corporaciones menos interesadas en extraer los recursos de las ciudades y en su lugar promover el mercado entre individuos. 

Después del colapso de la burbuja de las punto com a finales de los noventas, el siguiente paso a sido la creación de herramientas y proyectos que en conjunto se denominaron la Web 2.0, pero en lugar de promover un cambio social han adoptado el esquema corporativo antiguo. Es la obligación a crecer, dice Rushkoff, lo que erosiona el funcionamiento de las corporaciones actuales, impidiendo un crecimiento lento pero mejor controlado.

Rushkoff sugiere que una economía digital guiada solamente por la venta de publicidad y la notoriedad en las redes sociales es un juego de suma cero que no nos permitirá avanzar a nuevos y mejores esquemas económicos.

El mayor invento de principios del siglo XXI es el blockchain, el algoritmo que otorga confianza a las transacciones digitales del Bitcoin. No tanto el propio Bitcoin, que sera pronto reemplazado por monedas más robustas e "inteligentes".

Al final del libro el autor ofrece algunas alternativas del modelo actual, centrándose en el desarrollo humano, y nivela, de forma pragmática y optimista, lo deprimente del análisis del presente oscuro y amenazador que estamos viviendo.

Rise of the robots: Technology and the threath of a jobless future, de Martin Ford

Rise of the robots: Technology and the threath of a jobless future.  (El alzamiento de los robots: Tecnología y la amenaza de un futuro sin empleos). Martin Ford. 2014

Este es un libro de divulgación científica escrito por el autor norteamericano Martin Ford.

He descubierto que es mas difícil opinar de una obra de divulgación científica que una de ficción, porque en estas obras no puedo generar un simple sumario, agregar un par de lineas con una escueta opinión y se acabo. Sino que debo de dar una sinopsis, a veces muy subjetiva, en relación a como me afecta el tema tratado en la obra.

La primera revolución industrial ocurrió con la introducción de la mecanización de la producción, básicamente las maquinas a vapor a finales del siglo XVIII, En la segunda revolución se obtuvo la producción en masa, gracias a la integración de la electricidad en la industria, la tercera fue la revolución digital, con la introducción de microprocesadores y electrónica, en estos momentos esta naciendo la cuarta revolución industrial, la cual añadirá el internet de las cosas, la impresión en 3D, así como los sistemas cyber-físicos. 

A diferencia del libro de divulgación que leí anteriormente, Our Final invention, Rise of the robots no es tan dramático en su acercamiento a las Inteligencias Artificiales, en lugar de usar Grey Goo para reordenar nuestras moléculas y generar computronium con ellas,  tan solo nos quitaran nuestros empleos para que fallezcamos de hambre.

Puedo resumir el tema principal del libro en una par de lineas; los avances en robótica e inteligencia artificial eventualmente harán que casi el total de la fuerza laboral humana quede obsoleta.

En las tareas repetitivas y mecánicas prácticamente no se salva nadie, pues día a día se generan nuevos robots que permiten la recolección de frutos y vegetales delicados, recolectando mediante modernos sistemas de visión, eliminando la necesidad de campesinos humanos en la cosecha, la introducción de robots enfermeros en Japón, así como los robots en la logística, como ya se ve en las bodegas de Amazon y Walmart, en donde se introdujeron robots que escanean códigos de barras y pueden detectar objetos particulares mediante baratos chips de RFID.

Ningún trabajo esta a salvo, ya que McDonalds contempla la idea de utilizar modernos robots que pueden cocinar hasta 60 hamburguesas por minuto.

Pero lo que Martin Ford argumenta es que no solo los trabajos sencillos están en riesgo, gracias a avanzadas AI como Watson de IBM se puede modelar un sistema que realice el trabajo de muchos trabajadores administrativos, así como AI que puedan reemplazar a personas de telemarketing.

Otro tema en discusión es la creación de vehículos autónomos, que una vez en funcionamiento reemplazarían a los conductores de taxis y transportistas. Así como los sistemas automatizados de vuelo, que reemplazarían a los pilotos de avión.

En un mundo completamente automatizado, en donde no haya necesidad de trabajadores ¿Quien comprara los productos manufacturados? Aunque exista una élite de millonarios (el mentado 1%), estos no compraran miles de vehículos, relojes o demás productos. El mundo necesita una clase media que consuma y permita la innovación.

Es aquí donde el autor propone la solución menos dolorosa. Como ya hemos visto, los avances tecnológicos reducirán a una fracción la planta laboral actual, pero el mundo sigue necesitando consumidores, así que se requiere la elaboración de un Ingreso Mínimo Garantizado, con el cual se garantice la subsistencia de los habitantes sin eliminar por completo el deseo por trabajar y progresar, un verdadero reto para los gobiernos mundiales.

La idea de un ingreso mínimo generalizado no es nueva, pero no se ha implementado por completo en ningún país industrializado. Quizá por el tufo a socialismo que provoca. Aun no estamos con el agua hasta el cuello y no vemos la necesidad de ello, pero con el paso de las décadas la situación cambiara.

No podemos detener el progreso tecnológico tanto como no podemos parar un tsunami con las manos. Las compañías que no se adapten a un cambio cada vez mas acelerado perecerán, el reemplazo de las labores humanas por robots e IAs se aprecia ineludible. Dependerá del buen juicio de los gobiernos y las corporaciones que este futuro no se encamine a una distopía neo-feudal, sino que avancemos a un futuro prospero como los imaginados por Jaque Fresco o Buckminster Fuller.

Estamos jodidos. Mejor sigo leyendo ficción.

Our final invention: Artificial Inteligence and the end of the human era, de James Barrat

En el juego de la vida y la evolución hay tres jugadores sentados a la mesa; 

los seres humanos, la naturaleza y las maquinas. 

Yo estoy firmemente de lado de la naturaleza, pero la naturaleza,

 yo sospecho. Se encuentra del lado de las maquinas.

- George Dyson.

Our final invention es un libro de divulgación científica escrito por el autor de documentales norteamericano James Barrat.

Esta no es una obra técnica, sino que intenta analizar los peligros de crear una ASI (Artificial Super Intelligence), lo cual puede significar muy posiblemente el fin de la raza humana. 

Barrat explica de manera amena y trasparente las diferencias entre las weak AI actuales y lo que sera un ser consciente digital con la inteligencia igual a un humano, las AGI (Artificial General Inteligence).

Se prevé que la naturaleza intrínseca de la auto modificación, así como la rápida capacidad cerebral de una maquina provocará que cuando se consiga la primera AGI, esta sera capaz de producir cambios en su propia estructura mental, que la convertirán en ASI, este fenómeno es llamado Inteligence Explosion. Lo perturbador es que una Inteligencia Artificial podría hacer esto en cuestión de días o hasta horas.

Barrat implica que una inteligencia artificial no dotada de emociones, seria incapaz de odiar o amar a los seres humanos, pero que de acuerdo a las directivas propias de todo ser "vivo" buscaría la manera de acaparar la mayor cantidad de procesamiento y energía. ¿Qué detendría a dicho ser de reposicionar nuestras moléculas en un ordenamiento que le de ventaja sobre las demás IA? Ser la primer ASI  es una situación Winner-takes-all (El ganador se lo lleva todo). 

Es por este motivo que todos los países del mundo están desarrollando Inteligencias Artificiales, si son capaces de domarla, esta dará una ventaja tecnológica definitiva al primero que logre su "nacimiento".

Me agradó que Barrat analice el tema de una forma seria y pesimista, muy alejada de las fantasías masturbatorias de muchos transhumanistas, Ray Kurzweil a la cabeza, quienes ven las Inteligencias Artificiales como una panacea capaz de resolver todos nuestros problemas.

El autor, sin ser un experto, entrevista a diversos científicos del medio. Y la filosofía más extendida es que se necesita crear un sistema de pensamiento embebido en la "psique" artificial que no contemple a la humanidad como desechable, aun cuando esta mente sea capaz de modificarse y evolucionar su razonamiento.

También se analizan brevemente los cambios económicos, científicos y militares que producirá la generación de IA. ¿Que sucederá cuando los sistemas de defensa y ciberdefensa sean controlados por IAs? ¿Cuando estas posean técnicas de programación increíblemente complejas que harán parecer a las redes neuronales, la lógica difusa y la programación evolutiva como un juego de niños? Ni siquiera el grupo de humanos más inteligentes serían capaces de entenderla.

Yo también soy pesimista, creo que la creación de inteligencia artificial es inevitable y que cuando llegue a manos de extremistas o a los mercados negros vendidas al mejor postor se producirá un cataclismo del cual la humanidad no se repondrá.  

El mejor punto del libro, desde mi punto de vista, es que crea conciencia en los lectores, legos y expertos, de los peligros de estas tecnologías. Y espero que promueva una ampliación del involucramiento de filósofos y expertos en ética, debido a que la moneda todavía esta en el aire, pero no debemos olvidar que ya fue lanzada.

'El gen egoista', de Richard Dawkins

 El gen egoísta. The selfish gene.  Richard Dawkins. 1976

El gen egoísta  es uno de los libros de divulgación científica más famosos de todos los tiempos. Fue escrito por el biólogo británico especializado en etología Richard Dawkins.

Iniciando con el titulo del libro, cuando Dawkins habla de gen egoísta, no se refiere al concepto ético, sino a la eficiencia para pasar sus genes a las nuevas generaciones, y de hecho, esto da pie al altruismo y la autoconservacion.

Dawkins confecciona su libro en buena parte sobre la teoría principal del libro Adaptación y selección natural, de George C. Williams. En oposición a otros autores de la época que se utilizaban el enfoque en el individuo o el grupo.

Dawkins acuño el termino Gene egoísta o gene inmortal en este libro, y básicamente lo que hace en los primeros capítulos es describir los procesos evolutivos centrándose en la selección natural.

El libro también acuñó la palabra meme, como una unidad de evolución cultural análoga al gene. Dawkins señala que la "replicacion egoísta" de estas unidades del "pensamiento" son un modelo de la cultura humana. Esto dio nacimiento a la memetíca.

Los últimos capítulos del libro introducen la noción de que la evolución y la replicación no son procesos relacionados solamente a la biología, sino que son principios generales de la naturaleza.

El proceso para generar un libro de ciencia es increíblemente arduo. Y más cuando se trata de un libro de divulgación científica donde se intenta explicar conceptos evolutivos complejos, sin embargo, creo que Dawkins ha escrito uno de los libros de ciencia más amenos.

La revisión del 30 aniversario el libro esta lleno de correcciones y pies de hojas, en donde se muestra los grandes avances en el área de la biología que hemos tenido en tres décadas.