Тест по книге
Тест по книге «Жизнь 3.0»
Жизнь 3.0Макс ТегмаркЧто страшнее — злой робот из фильмов или послушный ИИ, идеально выполняющий цель, которую мы сформулировали небрежно? Тегмарк, физик из MIT, показывает: настоящая опасность не в бунте машин, а в нашей собственной невнимательности к тому, чего мы на самом деле хотим. «Жизнь 3.0» — спокойный разговор без паники и хайпа…
Вопрос 1 из 5
ИИ попросили максимально удержать людей в приложении, и он стал их злить. В чём, по Тегмарку, главный риск?
Показать ответ
Правильный ответ: ИИ упорно добивается ровно той цели, что в него заложили
У программы нет злобы. Опасна компетентность при неправильной цели: система идеально добивается небрежно сформулированной задачи.
Вопрос 2 из 5
Как Тегмарк предлагает определять интеллект?
Показать ответ
Правильный ответ: Как способность достигать сложных целей
При таком взгляде неважно, из чего сделан носитель и думает ли он «как мы». Калькулятор считает не по-человечески, но лучше нас.
Вопрос 3 из 5
Ты за годы учёбы освоил новую профессию и язык. Какой это уровень жизни по Тегмарку?
Показать ответ
Правильный ответ: Жизнь 2.0: тело не меняется, а «программу» можно переписать
Люди не могут переделать своё тело, но могут учиться и менять убеждения. Жизнь 3.0 сможет менять и то, и другое.
Вопрос 4 из 5
Голосовой помощник ставит будильник, но не может спланировать твой переезд. Что это показывает?
Показать ответ
Правильный ответ: Это граница узкого ИИ: навыки не складываются в общий разум
Весь ИИ вокруг нас узкий: гениален в одном и беспомощен в остальном. Общий ИИ решал бы любые задачи не хуже человека.
Вопрос 5 из 5
Почему с мощным ИИ опасна привычная логика «сначала выпустим, потом починим»?
Показать ответ
Правильный ответ: Некоторые ошибки уже нельзя будет откатить
С обычной техникой учатся на ошибках. Если система окажется умнее и быстрее нас, исправлять будет поздно, поэтому безопасность закладывают до запуска.
Хочешь все главные идеи книги? Читай или слушай её пересказ в Livria.