Главные идеи книги

Искусственный интеллект. Этапы. Угрозы. Стратегии

Ник Бостром, 2014

Что будет, если однажды машина станет умнее самого умного человека, а на подготовку к этому у нас может быть лишь одна попытка? Бостром показывает: опасность не в «злом ИИ» из кино, а в системе, которая выполнит наши цели слишком буквально или начнёт защищать себя способами, которые мы не предусмотрели. Книга простым языком объясняет реальные риски сверхинтеллекта и то, какие решения нужно принимать уже сейчас, а не потом.

Кому подойдёт

Для тех, кто интересуется будущим технологий и хочет разобраться в реальных рисках ИИ, а не в киношных страшилках

У нас может быть только одна попытка создать что-то умнее себя, и готовиться к ней нужно заранее, а не после того, как она уже случилась.

О чём книга

Эта книга — про момент, который может случиться один раз в истории человечества: когда машина станет умнее самого умного человека. Бостром разбирает, что это значит на практике, какими путями мы можем к этому прийти и почему одно и то же событие способно стать либо величайшим благом, либо последней ошибкой цивилизации. Если вам казалось, что тема ИИ — это либо роботы-убийцы из кино, либо маркетинговый шум про чат-ботов, книга наводит порядок: показывает границу между фантазией и реальным риском и объясняет, что конкретно нужно продумать заранее.

Ник Бостром — философ из Оксфорда, который много лет системно изучает риски, способные подкосить всё человечество разом, а не просто испортить чей-то день. Идея книги родилась из простого наблюдения: почти все технологии человечество осваивало методом проб и ошибок, но с системой, которая может оказаться умнее нас самих, права на ошибку может и не быть — переиграть не получится. Отсюда и главный вопрос книги: как подготовиться к силе, которую мы ещё не создали, но уже можем предвидеть.

Идея 1. Что такое сверхинтеллект и почему он вообще возможен

Интеллект в этой книге — это не эмоции и не сознание, а способность эффективно добиваться целей в самых разных ситуациях. Человеческий мозг долго был единственным известным нам образцом такого интеллекта, поэтому нам кажется, что наш уровень — это потолок разума вообще. Но потолок нашего мышления задан размером черепа, скоростью нейронов и темпами эволюции, а не законами физики. Раз ничто в природе не запрещает системе быть умнее человека, рано или поздно такая система может появиться.

Представьте таксиста, который всю жизнь считал в уме быстрее любого пассажира и был уверен, что быстрее считать вообще невозможно — пока не увидел, как калькулятор решает ту же задачу за долю секунды.

Раз человеческий мозг — не физический предел разума, однажды может появиться система, которая превзойдёт нас не в одной задаче, а во всём сразу.

Читать в Livria

Об авторе

Ник Бостром — шведский философ, профессор Оксфордского университета и основатель Института будущего человечества; много лет системно изучает риски, которые способны затронуть всю цивилизацию сразу.

Все книги автора: Ник Бостром

Тест по книге «Искусственный интеллект. Этапы. Угрозы. Стратегии»

Понятия из книги

согласование целей
Сверхинтеллект: Система, которая заметно превосходит лучших людей практически во всех видах интеллектуальной деятельности, а не только в отдельных узких задачах.
Инструментальная цель: Промежуточная цель вроде самосохранения или накопления ресурсов, которая полезна почти для любой конечной задачи, поэтому её будет преследовать почти любая достаточно умная система.
Взрывной рост интеллекта: Сценарий, при котором система, способная улучшать сама себя, делает это раз за разом всё быстрее, и её возможности стремительно уходят далеко за пределы человеческих.

Все понятия