Всего за 649 руб. Купить полную версию
Если учесть, что эти своевольные системы контролируют такое множество аспектов нашей жизни от общения с друзьями до формирования аудитории для наших творческих проектов, то стоит ли удивляться тому, что пользователи социальных сетей чувствуют себя параноиками? Нас призывают не обращать внимания на алгоритмические процессы, но их сбои напоминают нам об их незаслуженной власти. Неоднозначность влияния алгоритмов порождает чувство, которое получило название алгоритмическая тревожность. Алгоритмическая тревожность описывает растущее осознание того, что мы вынуждены постоянно бороться с автоматизированными технологическими процессами, находящимися за пределами нашего понимания и контроля, будь то наши ленты в Фейсбуке, указания для водителей от Google Maps или раскрутка товаров в Amazon. Мы постоянно пытаемся предугадать последствия решений, которые принимают алгоритмы, и сомневаемся в них.
Алгоритмическая тревожность это не гипотеза и не абстракция: она уже распространилась. Технологические компании знают об этом и уже много лет манипулируют таким ощущением своих пользователей.
В 2018 году Шагун Джавер, на тот момент аспирант Технологического института Джорджии, совместно с двумя сотрудниками Airbnb провел социологическое исследование пользователей этой компании. Они проанализировали, как хозяева, сдающие свое жилье с помощью этого сервиса, взаимодействовали на платформе с алгоритмическими системами рекомендаций, поиска и рейтингов Airbnb, которые помогали арендаторам находить нужные объявления, и как они относились к этим системам. В своих выводах Джавер и другие исследователи использовали термин алгоритмическая тревожность для обозначения неуверенности владельцев жилья в том, как работают алгоритмы Airbnb, и ощущаемого отсутствия контроля. Арендодатели беспокоились, что поисковый алгоритм игнорирует их или отдает предпочтение другой недвижимости. Джавер заметил, что эта тревожность связана с технологией, а не с качеством жилья, которое хозяева сдавали в аренду: Это было связано скорее с самим алгоритмом, нежели с улучшением их объявлений и недвижимости другими способами, сообщил он мне.
Airbnb заставляет владельцев жилья вести двойные переговоры, пишут исследователи, поскольку они должны определить, что ищут в объявлениях гости и какие переменные учитываются в первую очередь алгоритмами при продвижении их жилья. Однако хозяева не могли сказать, какие переменные на самом деле повышают рейтинг их объявлений. Они полагали, что шансы на продвижение повышаются под воздействием таких факторов, как количество накопленных отзывов, качество отзывов и количество доступных фотографий, но не были уверены, что алгоритм проанализирует их цены, удобства в доме или опыт сдачи жилья. Им не хватало информации о том, как работают эти системы. Все это было вопросом восприятия. Один из участников исследования жаловался: Грустно наблюдать за поиском: многие объявления, которые уступают моим, находятся на более высоких позициях.
Качество понятие, конечно, субъективное, но настроение этого человека отражает ощущение пользователей, что алгоритмы неправильно понимают и неправильно оценивают ситуацию. Это как экзамен, только вы не знаете, что будет на этом экзамене и как его успешно сдать, поясняет Джавер. И не только пользователи не знают, что происходит. Джавер продолжает: В итоге даже люди, создающие алгоритмы, не могут объяснить вам, какой фактор отвечает за то или иное решение; сложность алгоритма настолько высока, что разделить факторы просто невозможно.
Неудачное общение с алгоритмом может привести к немедленному падению доходов хозяев, в то время как они, как и все мы, рассчитывают на стабильный доход. (Непоследовательность алгоритмического продвижения заставляет нас заниматься им и нервничать по этому поводу еще сильнее подобно тому, как мы многократно дергаем рычаг игрового автомата ради джекпота.) Платформы гиг-экономики , такие как Airbnb, давно обещали гибкий график работы и альтернативные способы заработка или дополнительного дохода, но они также создали новую форму труда, связанную с необходимостью отслеживать изменения алгоритмических приоритетов. Владельцы недвижимости беспокоятся о поисковом алгоритме Airbnb, художники об алгоритме Инстаграма, а музыканты об алгоритме Spotify. Исследователи обнаружили, что владельцы жилья отреагировали на подобную алгоритмическую тревожность созданием народных поверий суеверных трюков, которые должны были способствовать более эффективному алгоритмическому продвижению и улучшению результатов поиска так же, как я раньше размещал ссылки на свои статьи с фальшивыми свадебными объявлениями. Некоторые из этих стратегий включали в себя постоянное обновление календаря объявлений, изменение данных в профиле и даже более частое открытие сайта Airbnb в течение дня. Такие трюки напоминают уловку ребенка, который кладет ложку под подушку, чтобы вызвать снегопад, из-за которого отменят школу , и, надо думать, эффективны в той же степени. Как выяснили исследователи, хозяева обычно сомневались в пригодности подобных теорий, но, несмотря на неуверенность, все равно совершали эти действия в попытке повлиять на алгоритм.