Головні ідеї книги

Штучний інтелект. Етапи. Загрози. Стратегії

Нік Бостром, 2014

Що станеться, якщо колись машина стане розумнішою за найрозумнішу людину, а на підготовку до цього в нас може бути лише одна спроба? Бостром показує: небезпека не в «злому ШІ» з кіно, а в системі, яка виконає наші цілі надто буквально або почне захищати себе способами, яких ми не передбачили. Книга пояснює реальні ризики надрозуму простою мовою і те, які рішення потрібно ухвалювати вже зараз, а не потім.

Кому підійде

Для тих, хто цікавиться майбутнім технологій і хоче розібратися в реальних ризиках ШІ, а не в кіношних страшилках

У нас може бути лише одна спроба створити щось розумніше за себе, і готуватися до неї треба заздалегідь, а не після того, як вона вже відбулася.

Про що ця книга

Ця книга — про момент, який може статися один раз в історії людства: коли машина стане розумнішою за найрозумнішу людину. Бостром розбирає, що це означає на практиці, якими шляхами ми можемо до цього прийти і чому одна й та сама подія здатна стати або найбільшим благом, або останньою помилкою цивілізації. Якщо тобі здавалося, що тема ШІ — це або роботи-вбивці з кіно, або маркетинговий шум про чат-боти, книга наводить лад: показує межу між фантазією і реальним ризиком і що конкретно потрібно продумати заздалегідь.

Нік Бостром — філософ з Оксфорда, який багато років системно вивчає ризики, здатні підкосити все людство одразу, а не просто зіпсувати комусь день. Ідея книги народилася з простого спостереження: майже всі технології людство опановувало методом спроб і помилок, але із системою, яка може виявитися розумнішою за нас самих, права на помилку може й не бути — переграти не вийде. Звідси й головне питання книги: як підготуватися до сили, яку ми ще не створили, але вже можемо передбачити.

Ідея 1. Що таке надрозум і чому він узагалі можливий

Інтелект у цій книзі — не про емоції чи свідомість, а про здатність ефективно досягати цілей у найрізноманітніших ситуаціях. Людський мозок довго був єдиним відомим нам зразком такого інтелекту, тому нам здається, що наш рівень — це стеля розуму взагалі. Але стеля нашого мислення задана розміром черепа, швидкістю нейронів і темпами еволюції, а не законами фізики. Раз ніщо в природі не забороняє системі бути розумнішою за людину, рано чи пізно така система може з'явитися.

Уяви таксиста, який усе життя рахував подумки швидше за будь-якого пасажира і був упевнений, що швидше рахувати взагалі неможливо — поки не побачив, як калькулятор розв'язує ту саму задачу за частку секунди.

Раз людський мозок — не фізична межа розуму, колись може з'явитися система, яка перевершить нас не в одному завданні, а в усьому одразу.

Читати в Livria

Про автора

Нік Бостром — шведський філософ, професор Оксфордського університету і засновник Інституту майбутнього людства; багато років системно вивчає ризики, здатні торкнутися всієї цивілізації одразу.

Усі книги автора: Нік Бостром

Поняття з книги

  • узгодження цілей
  • Надрозум: Система, яка помітно перевершує найкращих людей практично в усіх видах інтелектуальної діяльності, а не лише в окремих вузьких завданнях.
  • Інструментальна ціль: Проміжна ціль на кшталт самозбереження чи накопичення ресурсів, яка корисна майже для будь-якого кінцевого завдання, тому її переслідуватиме майже будь-яка достатньо розумна система.
  • Вибухове зростання інтелекту: Сценарій, за якого система, здатна вдосконалювати саму себе, робить це раз за разом усе швидше, і її можливості стрімко відходять далеко за межі людських.

Усі поняття

Схожі книги