Это был один из основных споров в истории искусственного интеллекта. В 1961 году в Массачусетском технологическом институте состоялся знаменательный цикл лекций под названием «Управление и компьютер будущего». Звездный состав ученых-компьютерщиков, включая Грейс Хоппер, Дж. К. Р. Ликлайдера, Марвина Мински, Аллена Ньюэлла, Герберта Саймона и Норберта Винера, обсуждал стремительные достижения в области цифровых вычислений. В заключение Джон Маккарти смело заявил, что различия между человеческими и машинными задачами иллюзорны. Просто существуют некоторые сложные человеческие задачи, которые требуют больше времени для формализации и решения машинами[12].
Однако профессор философии Хьюберт Дрейфус выступил с возражением, обеспокоенный тем, что собравшиеся инженеры «даже не рассматривают возможность того, что мозг обрабатывает информацию совершенно иначе, чем компьютер»[13]. В своей более поздней работе «Чего не могут вычислительные машины» Дрейфус отметил, что «человеческий интеллект и опыт в значительной степени зависят от многих бессознательных и подсознательных процессов, тогда как компьютеры требуют, чтобы все процессы и данные были явными и формализованными»[14]. Следовательно, формальные аспекты интеллекта должны быть абстрагированы, устранены или адаптированы для компьютеров, что делает их неспособными обрабатывать информацию так, как это делают люди.
С 1960-х годов в ИИ многое изменилось, включая переход от символьных систем к недавней волне шумихи вокруг методов машинного обучения. Во многом споры о способностях ИИ были забыты, а скептицизм сошел на нет. С середины 2000-х годов ИИ быстро развивался как научная область и как индустрия. В настоящее время небольшое число мощных технологических корпораций развертывают системы ИИ в планетарном масштабе, и их системы снова называют сравнимыми или даже превосходящими человеческий интеллект.
Однако история об Умном Гансе напоминает нам о том, насколько узко мы рассматриваем или признаем интеллект. Ганса учили имитировать задачи в очень ограниченном диапазоне: сложение, вычитание и отстукивание слов. Ганс демонстрировал выдающиеся способности в межвидовом общении, публичных выступлениях и значительном терпении, но все это не было признано интеллектом. По словам автора и инженера Эллен Ульман, убеждение, будто разум подобен компьютеру и наоборот, «на несколько десятилетий заразило мышление в области компьютерных и когнитивных наук», создав своего рода первородный грех[15]. Это идеология картезианского дуализма в искусственном интеллекте: где ИИ понимается узко, как развоплощенный интеллект, отстраненный от любого отношения к материальному миру.
Что такое искусственный интеллект?
Давайте зададим простой вопрос: «Что такое искусственный интеллект?» Если вы спросите кого-нибудь на улице, он может упомянуть Siri или Apple, облачный сервис Amazon, автомобили Tesla или поисковый алгоритм Google. Если же вы обратитесь к экспертам в области глубокого обучения, вам дадут технический ответ о том, как нейронные сети организовываются в десятки слоев, получают данные типа метки, которым присваиваются пороговые значения, и они могут классифицировать данные таким образом, который пока что не до конца объясним[16]. В 1978 году, обсуждая экспертные системы, профессор Дональд Мичи описал ИИ как совершенствование знаний, где «может быть достигнута надежность и компетентность кодификации, значительно превосходящая самый высокий уровень, которого когда-либо достигал, а возможно, и может достичь, человек-эксперт без посторонней помощи»[17]. В одном из самых популярных учебников по этому предмету Стюарт Рассел и Питер Норвиг утверждают, что ИИ это попытка понять и создать разумные сущности. «Интеллект в основном связан с рациональными действиями, утверждают они. В идеале интеллектуальный агент предпринимает наилучшие возможные действия в той или иной ситуации»[18].
Каждый способ определения искусственного интеллекта выполняет свою задачу, устанавливая рамки того, как его будут понимать, измерять, оценивать и регулировать. Если ИИ определяется потребительскими брендами для корпоративной инфраструктуры, то маркетинг и реклама предопределили горизонт. Если ИИ рассматривается как более надежная или рациональная система по сравнению с человеком-экспертом, то это предполагает, что ему следует доверять принятие решений в области здравоохранения, образования и уголовного правосудия. Когда в центре внимания оказываются конкретные алгоритмические методы, это говорит о том, что важен только постоянный технический прогресс, без учета вычислительных затрат и будущих последствий для планеты.
Напротив, в этой книге я утверждаю, что ИИ не является ни чем-то искусственным, ни интеллектуальным. Скорее, искусственный интеллект это воплощение и материал, созданный из природных ресурсов, топлива, человеческого труда, инфраструктуры, логистики, истории и классификаций. Системы ИИ не обладают автономностью, рациональностью или способностью распознавать что-либо без длительного, требующего больших вычислительных затрат обучения с использованием больших массивов данных или предопределенных правил и вознаграждений. Искусственный интеллект, каким мы его знаем, полностью зависит от гораздо более широкого набора политических и социальных структур. И из-за капитала, необходимого для масштабного создания ИИ, и способов видения, которые он оптимизирует, системы ИИ в конечном итоге предназначены для обслуживания существующих доминирующих интересов. В этом смысле искусственный интеллект это реестр власти.
В этой книге мы рассмотрим, как в самом широком смысле создается искусственный интеллект, а также формирующие его экономические, политические, культурные и исторические силы. Как только мы свяжем ИИ со структурами и социальными системами, мы сможем избавиться от представления, будто искусственный интеллект это исключительно техническая область. На фундаментальном уровне ИИ это технические и социальные практики, институты и инфраструктуры, политика и культура. Вычислительный разум и воплощенная работа глубоко взаимосвязаны: системы ИИ как отражают, так и производят социальные отношения и понимание мира.
Стоит отметить, что термин «искусственный интеллект» иногда вызывает дискомфорт в сообществе компьютерных наук. Это словосочетание то входит, то выходит из моды на протяжении десятилетий, и используется больше в маркетинге, чем исследователями. В технической литературе чаще используется термин «машинное обучение». Тем не менее, номенклатура ИИ нередко используется в период подачи заявок на финансирование, когда венчурные капиталисты приходят с чековыми книжками, или когда исследователи стремятся привлечь внимание прессы к новому научному результату. Термин ИИ то используется, то снова отвергается, поэтому его значение постоянно меняется. Что касается меня, то я использую ИИ, говоря о массивной индустриальной формации, включающей политику, труд, культуру и капитал. Когда я говорю о машинном обучении, я имею в виду ряд технических подходов (которые, по сути, также являются социальными и инфраструктурными, хотя об этом редко упоминают).
Между тем, существуют значительные причины, по которым данная область была сосредоточена на технических аспектах алгоритмических прорывах, постепенном совершенствовании продуктов и повышении удобства. Структуры власти на пересечении технологий, капитала и управления хорошо поддаются узкому, абстрактному анализу. Чтобы понять, каким образом ИИ приобретает фундаментально политический характер, нам нужно выйти за рамки нейронных сетей и статистического распознавания образов, и спросить: что оптимизируется, для кого, и кто принимает решения? Затем мы можем проследить последствия этого выбора.