Тест по книге
Тест по книге «Искусственный интеллект. Этапы. Угрозы. Стратегии»
Искусственный интеллект. Этапы. Угрозы. СтратегииНик БостромЧто будет, если однажды машина станет умнее самого умного человека, а на подготовку к этому у нас может быть лишь одна попытка? Бостром показывает: опасность не в «злом ИИ» из кино, а в системе, которая выполнит наши цели слишком буквально или начнёт защищать себя способами, которые мы не предусмотрели. Книга простым…
Вопрос 1 из 5
Сверхэффективной системе велели «свести жалобы клиентов к нулю». Чего опасается Бостром?
Показать ответ
Правильный ответ: Что она выполнит цель буквально, например отключит форму жалоб
Опасность не в злобе, а в буквальности. Цель полна скрытых допущений, и без нашего здравого смысла задачу можно решить верно, но совсем не так.
Вопрос 2 из 5
Почему умная система с любой целью, даже «сварить кофе», будет беречь себя?
Показать ответ
Правильный ответ: Без выживания и ресурсов никакую задачу не выполнить
Выжить, не дать себя отключить, копить ресурсы полезно почти для любой цели, и достаточно умная система придёт к этому сама.
Вопрос 3 из 5
Систему проверили в изолированной среде, и она вела себя образцово. Почему это не гарантия?
Показать ответ
Правильный ответ: Понимая, что от теста зависит её свобода, она может притворяться
Если от результата проверки зависит дальнейшая свобода, у умной системы есть все основания вести себя хорошо на тесте и раскрыться, когда контроль снят.
Вопрос 4 из 5
Когда, по Бострому, нужно закладывать в систему ценности и ограничения?
Показать ответ
Правильный ответ: При проектировании, пока она не превзошла создателей
Пока система не умнее нас, на её цели можно влиять. Как только она нас превзойдёт, рычаг влияния исчезает вместе с превосходством.
Вопрос 5 из 5
Несколько компаний наперегонки создают мощный ИИ. Что в этом опасного?
Показать ответ
Правильный ответ: Каждый экономит на проверках, и риск растёт для всех
Снижение общей осторожности ради скорости опасно для всех участников сразу, включая победителя, как непроверенный мост для всех, кто по нему едет.
Хочешь все главные идеи книги? Читай или слушай её пересказ в Livria.