Всего за 479 руб. Купить полную версию
Кроме всего прочего, нам станет понятно, что, несмотря на все ограничения, способность людей к самосознанию и самообъяснению лежит в основе наших понятий об автономии и ответственности. Мы изучим роль самосознания в обучении и преподавании. Разберемся, почему самосознание скорее мешает добиваться результатов в спорте, но при этом помогает тренировать других спортсменов. Мы увидим, как цифровые технологии меняют наше осознание себя и других в целом ряде важнейших аспектов. Я покажу, что в условиях возрастающей политической поляризации и дезинформации особую важность получает развитие способностей саморефлексировать и подвергать сомнению наши убеждения и мнения. Мы подумаем, почему даже самые мощные современные компьютеры не обладают метапознанием, а также увидим, как стремительное распространение машинного обучения проводит границу между алгоритмами разума и алгоритмами самосознания. Мы обсудим, что это может означать для общества и как мы можем это контролировать стоит ли нам пытаться внедрить самосознание в наши компьютеры или удостовериться, что мы сможем понимать и использовать создаваемые нами машины. Чем бы ни завершились эти усилия, они могут стать ключом к решению некоторых острейших социальных проблем.
Надеюсь, к концу этой книги нам станет понятно, почему культивирование самосознания всегда и везде было необходимым условием процветания и успеха от древних Афин до зала заседаний директоров Amazon. Но мы забегаем вперед. Чтобы раскрыть тайны самосознания, нам предстоит начать с самых простых строительных кирпичиков: с двух особенностей работы нашего сознания отслеживания неопределенности и мониторинга своих действий. Хотя они и могут показаться простыми, эти особенности составляют фундамент самосознающего мозга.
Часть I
Как разум осознает себя
Глава 1
Как быть неуверенным
Другой источник идей есть внутреннее восприятие действий нашего ума, <> и хотя этот источник не есть чувство, поскольку не имеет никакого дела с внешними предметами, тем не менее он очень сходен с ним и может быть довольно точно назван внутренним чувством.
Джон Локк. «Опыт о человеческом разумении». Кн. 2
Есть там что-нибудь или нет? Такой вопрос встал перед Станиславом Петровым одним ранним сентябрьским утром 1983 года. Петров был подполковником ПВО советских войск и отвечал за мониторинг системы спутников раннего предупреждения. Холодная война между США и Советским Союзом находилась на пике, и угроза запуска ядерных ракет большой дальности одной из сторон была вполне реальна. В то роковое утро в командном центре Петрова сработала сигнализация, оповестившая, что пять американских ракет направляются в сторону Советского Союза. Согласно доктрине взаимного гарантированного уничтожения, задачей Петрова было немедленно сообщить об атаке своему руководству, чтобы то могло нанести контрудар. Время поджимало через двадцать пять минут ракеты разорвались бы на советской земле[15].
Но Петров посчитал, что сигнал тревоги вряд ли вызвала настоящая ракета, и доложил о сбое системы. Он больше верил в ненадежность спутников и помехи на экране радара, чем во внезапный ракетный удар Соединенных Штатов, который несомненно бы привел к началу ядерной войны. Несколько минут нервного ожидания подтвердили его правоту. Ложная тревога стала результатом ошибки спутников, принявших солнечные блики на поверхности облаков за ракеты, несущиеся в верхних слоях атмосферы.
Петров воспринимал мир в оттенках серого и был готов усомниться в том, что говорили ему системы спутников и органы чувств. Его готовность осознать двусмысленность положения и усомниться спасла мир от катастрофы. В этой главе мы увидим, что представление о неопределенности служит ключевым ингредиентом в рецепте наших систем самосознания. Человеческий мозг представляет собой изощренный механизм для отслеживания неопределенности, которая играет в работе мозга огромную роль, а не только участвует в принятии ответственных решений, как в истории Петрова. Без способности оценивать неопределенность мы вряд ли вообще смогли бы воспринимать мир. Замечательный, хотя и побочный, эффект этой способности неопределенностью можно пользоваться, чтобы сомневаться в самих себе.
Обратные задачи и способы их решения
Сложность задачи Петрова заключалась в том, что ему нужно было отличить сигнал радара от помех. Один и тот же след на экране мог быть как настоящей ракетой, так и сбоем системы. Понять лишь по изображению, с чем имеешь дело, невозможно. Такая задача называется обратной потому что для ее решения необходимо развернуть причинно-следственную цепочку задом наперед и сделать предположение о причинах получаемой нами информации. Схожим образом наш мозг постоянно решает обратные задачи, не зная, что в действительности происходит в мире.
Причина в том, что мозг заперт внутри темной черепушки и контактирует с внешним миром лишь посредством ограниченной низкокачественной информации, предоставляемой органами чувств. Возьмем, к примеру, простую, на первый взгляд, задачу определить, была ли только что вспышка света в затемненной комнате. Если сделать вспышку достаточно тусклой, то иногда может показаться, что свет горит, даже если в действительности это не так. Поскольку глаза и мозг подвержены помехам, при каждом повторении стимула нейроны в зрительной коре головного мозга возбуждаются не совсем одинаково. Иногда, даже когда свет не горит, случайные помехи приводят к высокой частоте возбуждения нейронов, подобно тому как след на экране радара Петрова стал результатом атмосферных помех. Поскольку мозг не знает, вызвана ли эта высокая частота стимулом или помехами, то, когда нейроны зрительной коры активно возбуждаются, будет казаться, что свет зажжен[16].
Так как каждое из наших чувств осязание, обоняние, вкус, зрение и слух имеет доступ лишь к небольшому, искаженному кусочку реальности, им необходимо объединить ресурсы, чтобы выдвинуть наилучшее предположение о том, что же на самом деле происходит. Наши чувства похожи на слепцов из древней индийской притчи. Тот, кто держит слона за ногу, говорит, что, должно быть, слон это столб; тот, кто ощупывает хвост, говорит, что слон похож на веревку; тот, кто трогает хобот, говорит, что он похож на ветку дерева; тот, кто прикасается к уху, считает, что он напоминает веер; тот, кто ощупывает живот слона, что он вроде стены; а тот, кто изучает бивень, что он похож на массивную трубу. В конце концов проходящий мимо незнакомец сообщает им, что на самом деле они все правы у слона есть все описанные черты. Лучше бы им объединить свои наблюдения, говорит он, а не спорить.
Математическая формула, известная как теорема Байеса, мощный инструмент для осмысления такого рода проблем.
Чтобы увидеть, как она помогает нам решать обратные задачи, можем сыграть в следующую игру. У меня есть три игральные кости, две из которых обычные кубики с числами от одного до шести, а третья либо с тройками, либо с нулями на всех гранях. Втайне от вас я одновременно брошу все три кости и назову общий итог. Каждый раз я могу использовать один кубик с подвохом тот, на котором всегда выпадает ноль, или тот, на котором всегда выпадает тройка. Например, при первом броске я могу выбросить два, четыре и ноль (на третьем кубике), что в сумме составит шесть. Ваша задача: основываясь только на общем результате, сделать наилучшее предположение о том, какой кубик с подвохом я использовал со всеми тройками или со всеми нулями[17].