As ideias principais

Superinteligência: caminhos, perigos, estratégias

Nick Bostrom, 2014

O que acontece se um dia uma máquina ficar mais inteligente que o ser humano mais inteligente, e nós tivermos talvez uma única tentativa para nos preparar para isso? Bostrom mostra que o perigo não está na «IA malvada» do cinema, e sim num sistema que cumpra os nossos objetivos de forma literal demais ou comece a se proteger de maneiras que não previmos. O livro explica em linguagem simples os riscos reais da superinteligência e quais decisões precisam ser tomadas desde já, e não depois.

Para quem é

Para quem se interessa pelo futuro da tecnologia e quer entender os riscos reais da IA, e não os sustos de filme

Talvez tenhamos uma única tentativa de criar algo mais inteligente do que nós, e é preciso se preparar para ela com antecedência, e não depois que ela já tiver acontecido.

Sobre o que é o livro

Este livro trata de um momento que pode acontecer uma única vez na história da humanidade: quando uma máquina ficar mais inteligente que o ser humano mais inteligente. Bostrom analisa o que isso significa na prática, por quais caminhos podemos chegar lá e por que um mesmo acontecimento pode se tornar o maior bem ou o último erro da civilização. Se você achava que o tema da IA é só uma questão de robôs assassinos de filme ou de barulho de marketing em torno dos chatbots, o livro põe ordem nas coisas: mostra a fronteira entre a fantasia e o risco real e explica o que exatamente precisa ser pensado com antecedência.

Nick Bostrom é um filósofo de Oxford que há muitos anos estuda de forma sistemática os riscos capazes de derrubar a humanidade inteira de uma vez, e não apenas de estragar o dia de alguém. A ideia do livro nasceu de uma observação simples: a humanidade dominou quase todas as tecnologias por tentativa e erro, mas, com um sistema que pode acabar sendo mais inteligente do que nós, talvez não haja direito ao erro, porque não vai dar para jogar de novo. Daí a pergunta central do livro: como se preparar para uma força que ainda não criamos, mas que já podemos prever.

Ideia 1. O que é a superinteligência e por que ela é possível

Neste livro, inteligência não é emoção nem consciência, e sim a capacidade de alcançar objetivos com eficiência nas situações mais diversas. Por muito tempo, o cérebro humano foi o único exemplo desse tipo de inteligência que conhecíamos, e por isso temos a impressão de que o nosso nível é o teto da mente em geral. Mas o teto do nosso pensamento é definido pelo tamanho do crânio, pela velocidade dos neurônios e pelo ritmo da evolução, e não pelas leis da física. Se nada na natureza proíbe um sistema de ser mais inteligente que o ser humano, mais cedo ou mais tarde esse sistema pode surgir.

Imagine um taxista que a vida inteira fez contas de cabeça mais rápido que qualquer passageiro e tinha certeza de que era impossível calcular mais rápido, até ver uma calculadora resolver o mesmo problema numa fração de segundo.

Como o cérebro humano não é o limite físico da mente, um dia pode surgir um sistema que nos supere não numa tarefa, mas em tudo ao mesmo tempo.

Ler no Livria

Sobre o autor

Nick Bostrom é um filósofo sueco, professor da Universidade de Oxford e fundador do Instituto do Futuro da Humanidade; há muitos anos estuda de forma sistemática os riscos capazes de atingir a civilização inteira de uma só vez.

Todos os livros do autor: Nick Bostrom

Conceitos do livro

  • Superinteligência: Um sistema que supera com folga as melhores pessoas em praticamente todos os tipos de atividade intelectual, e não só em tarefas específicas e estreitas.
  • Alinhamento de objetivos: A tarefa de fazer com que os objetivos de um sistema inteligente coincidam com os interesses reais das pessoas, e não com a formulação literal da tarefa.
  • Objetivo instrumental: Um objetivo intermediário, como a autopreservação ou o acúmulo de recursos, que é útil para quase qualquer tarefa final; por isso quase qualquer sistema suficientemente inteligente vai persegui-lo.
  • Explosão de inteligência: Um cenário em que um sistema capaz de melhorar a si mesmo faz isso de novo e de novo, cada vez mais rápido, e as suas capacidades vão muito além das humanas em pouco tempo.

Todos os conceitos

Livros semelhantes