Die Kernideen

Superintelligenz. Szenarien einer kommenden Revolution

Nick Bostrom, 2014

Was geschieht, wenn eine Maschine eines Tages klüger wird als der klügste Mensch – und uns für die Vorbereitung darauf womöglich nur ein einziger Versuch bleibt? Bostrom zeigt: Die Gefahr liegt nicht in einer „bösen KI“ aus dem Film, sondern in einem System, das unsere Ziele zu wörtlich erfüllt oder sich auf Wegen zu schützen beginnt, die wir nicht vorgesehen haben. Das Buch erklärt in einfacher Sprache die realen Risiken der Superintelligenz – und welche Entscheidungen man schon jetzt treffen muss, nicht erst später.

Für wen

Für alle, die sich für die Zukunft der Technologie interessieren und die echten Risiken der KI verstehen wollen, nicht die Schreckbilder aus dem Kino

Wir haben womöglich nur einen einzigen Versuch, etwas Klügeres als uns selbst zu erschaffen – und darauf muss man sich im Voraus vorbereiten, nicht erst, nachdem es bereits geschehen ist.

Worum es in diesem Buch geht

Dieses Buch handelt von einem Augenblick, der in der Geschichte der Menschheit vielleicht nur ein einziges Mal eintritt: wenn eine Maschine klüger wird als der klügste Mensch. Bostrom untersucht, was das in der Praxis bedeutet, auf welchen Wegen wir dorthin gelangen können und warum ein und dasselbe Ereignis entweder zum größten Segen oder zum letzten Fehler der Zivilisation werden kann. Wenn dir das Thema KI bisher entweder wie Killerroboter aus dem Kino oder wie Marketing-Lärm um Chatbots vorkam, schafft das Buch Ordnung: Es zeigt die Grenze zwischen Fantasie und realem Risiko und was genau man im Voraus durchdenken muss.

Nick Bostrom ist ein Philosoph aus Oxford, der seit vielen Jahren systematisch Risiken untersucht, die die ganze Menschheit auf einen Schlag ins Wanken bringen können, statt bloß jemandem den Tag zu verderben. Die Idee des Buches entstand aus einer einfachen Beobachtung: Fast alle Technologien hat die Menschheit durch Versuch und Irrtum bewältigt, doch bei einem System, das sich als klüger erweisen könnte als wir selbst, gibt es womöglich kein Recht auf Irrtum – ein zweiter Anlauf gelingt nicht. Daraus ergibt sich die Hauptfrage des Buches: Wie bereitet man sich auf eine Macht vor, die wir noch nicht geschaffen haben, aber bereits voraussehen können?

Idee 1. Was Superintelligenz ist und warum sie überhaupt möglich ist

Bei Intelligenz geht es in diesem Buch nicht um Emotionen oder Bewusstsein, sondern um die Fähigkeit, Ziele in den verschiedensten Situationen wirksam zu erreichen. Das menschliche Gehirn war lange das einzige uns bekannte Beispiel einer solchen Intelligenz, deshalb scheint uns unser Niveau die Obergrenze des Verstandes überhaupt zu sein. Doch die Obergrenze unseres Denkens ist durch die Größe des Schädels, die Geschwindigkeit der Neuronen und das Tempo der Evolution vorgegeben – nicht durch die Gesetze der Physik. Da nichts in der Natur einem System verbietet, klüger zu sein als der Mensch, kann ein solches System früher oder später entstehen.

Stell dir einen Taxifahrer vor, der sein Leben lang schneller im Kopf rechnete als jeder Fahrgast und überzeugt war, schneller zu rechnen sei überhaupt unmöglich – bis er sah, wie ein Taschenrechner dieselbe Aufgabe in Sekundenbruchteilen löst.

Da das menschliche Gehirn nicht die physische Grenze des Verstandes ist, kann eines Tages ein System entstehen, das uns nicht in einer Aufgabe, sondern in allem auf einmal übertrifft.

In Livria lesen

Über den Autor

Nick Bostrom ist ein schwedischer Philosoph, Professor an der Universität Oxford und Gründer des Future of Humanity Institute; er untersucht seit vielen Jahren systematisch Risiken, die die gesamte Zivilisation auf einmal treffen können.

Alle Bücher des Autors: Nick Bostrom

Begriffe aus dem Buch

  • Superintelligenz
  • Zielausrichtung
  • Instrumentelles Ziel: Ein Zwischenziel wie Selbsterhaltung oder das Anhäufen von Ressourcen, das für fast jede Endaufgabe nützlich ist und das deshalb fast jedes hinreichend kluge System verfolgen wird.
  • Intelligenzexplosion: Ein Szenario, in dem ein System, das sich selbst verbessern kann, dies Mal für Mal immer schneller tut und seine Fähigkeiten rasant weit über das Menschliche hinausgehen.

Alle Begriffe

Ähnliche Bücher