Las ideas clave

Superinteligencia. Caminos, peligros, estrategias

Nick Bostrom, 2014

¿Qué pasará si un día una máquina se vuelve más inteligente que la persona más inteligente, y para prepararnos puede que solo tengamos un intento? Bostrom muestra que el peligro no está en la «IA malvada» del cine, sino en un sistema que cumpla nuestros objetivos de forma demasiado literal o que empiece a protegerse de maneras que no previmos. El libro explica con palabras sencillas los riesgos reales de la superinteligencia y qué decisiones hay que tomar ya, y no más adelante.

Para quién es

Para quien se interesa por el futuro de la tecnología y quiere entender los riesgos reales de la IA, y no los sustos de película

Puede que solo tengamos un intento de crear algo más inteligente que nosotros, y hay que prepararse para él de antemano, no después de que ya haya ocurrido.

De qué trata el libro

Este libro trata de un momento que puede ocurrir una sola vez en la historia de la humanidad: cuando una máquina se vuelva más inteligente que la persona más inteligente. Bostrom analiza qué significa eso en la práctica, por qué caminos podemos llegar hasta ahí y por qué un mismo acontecimiento puede convertirse en el mayor bien o en el último error de la civilización. Si te parecía que el tema de la IA se reduce a los robots asesinos del cine o al ruido de marketing sobre los chatbots, el libro pone orden: marca la frontera entre la fantasía y el riesgo real, y explica qué, en concreto, hay que pensar de antemano.

Nick Bostrom es un filósofo de Oxford que lleva muchos años estudiando de forma sistemática los riesgos capaces de derribar a toda la humanidad de golpe, y no solo de estropearle el día a alguien. La idea del libro nació de una observación sencilla: casi todas las tecnologías la humanidad las ha dominado por ensayo y error, pero con un sistema que puede resultar más inteligente que nosotros quizá no tengamos derecho a equivocarnos, porque no habrá una segunda partida. De ahí la pregunta principal del libro: cómo prepararnos para una fuerza que todavía no hemos creado, pero que ya podemos prever.

Idea 1. Qué es la superinteligencia y por qué es posible

En este libro, la inteligencia no son las emociones ni la conciencia, sino la capacidad de alcanzar objetivos con eficacia en las situaciones más diversas. Durante mucho tiempo el cerebro humano fue el único ejemplo de esa inteligencia que conocíamos, por eso nos parece que nuestro nivel es el techo de la mente en general. Pero el techo de nuestro pensamiento lo marcan el tamaño del cráneo, la velocidad de las neuronas y el ritmo de la evolución, no las leyes de la física. Si nada en la naturaleza impide que un sistema sea más inteligente que una persona, tarde o temprano ese sistema puede aparecer.

Imagina a un taxista que toda su vida calculó de cabeza más rápido que cualquier pasajero y estaba seguro de que era imposible calcular más deprisa, hasta que vio cómo una calculadora resolvía el mismo problema en una fracción de segundo.

Como el cerebro humano no es el límite físico de la mente, algún día puede aparecer un sistema que nos supere no en una tarea, sino en todo a la vez.

Leer en Livria

Sobre el autor

Nick Bostrom es un filósofo sueco, profesor de la Universidad de Oxford y fundador del Instituto para el Futuro de la Humanidad; lleva muchos años estudiando de forma sistemática los riesgos capaces de afectar a toda la civilización a la vez.

Todos los libros del autor: Nick Bostrom

Conceptos del libro

  • Superinteligencia: Sistema que supera claramente a las mejores personas en prácticamente todos los tipos de actividad intelectual, y no solo en algunas tareas concretas y limitadas.
  • Alineación de objetivos: El reto de lograr que los objetivos de un sistema inteligente coincidan con los intereses reales de las personas, y no con la formulación literal de la tarea.
  • Objetivo instrumental: Objetivo intermedio, como la autoconservación o la acumulación de recursos, que resulta útil para casi cualquier tarea final, y por eso lo perseguirá casi cualquier sistema lo bastante inteligente.
  • Explosión de inteligencia: Escenario en el que un sistema capaz de mejorarse a sí mismo lo hace una y otra vez, cada vez más rápido, y sus capacidades superan rápidamente, y con mucho, los límites humanos.

Todos los conceptos

Libros similares