По мере распространения политики «останови и обыщи» почтенный юридический принцип, согласно которому для любого задержания должны быть достаточные основания, практически утратил всякое значение, потому что полиция начала охотиться не только на людей, которые, возможно, уже совершили какое-нибудь преступление, но и на тех, которые могли бы совершить его в будущем. Иногда полиция, без сомнения, достигала своей цели. Арестовав молодого человека, в чьем подозрительно оттопыренном кармане обнаружился незарегистрированный пистолет, полицейские, возможно, избавили квартал от еще одного убийства или вооруженного ограбления. А возможно, и нет. В любом случае в подходе «останови и обыщи» была своя логика и для многих она оказалась убедительной.
Но был ли этот подход конституционным? В августе 2013 года федеральный судья Шира Шейндлин постановила, что нет. Она заявила, что офицеры на постоянной основе «задерживали черных и латиноамериканцев, которые не были бы задержаны, если бы они были белыми». Политика «останови и обыщи», по ее мнению, нарушала Четвертую поправку Конституции, которая защищает от безосновательных обысков и задержаний; кроме того, эта политика не обеспечивает равное право на защиту, гарантированную Четырнадцатой поправкой. Судья призвала к серьезным реформам в полицейской политике, включая более постоянное использование камер, закрепленных непосредственно на патрульных полицейских. Это помогло бы установить, имелись ли в каждом случае достаточные основания для задержания, и отчасти устранило бы непрозрачность модели «останови и обыщи». Но это никак бы не решило проблему неравномерного распределения усилий полиции.
Изучая ОМП, мы часто сталкиваемся с выбором между справедливостью и эффективностью. Наши юридические традиции в значительной мере склоняются к справедливости. Конституция, например, провозглашает презумпцию невиновности, и сама она сконструирована таким образом, чтобы охранять эту ценность. Но с точки зрения создателя модели, презумпция невиновности это помеха, в результате которой некоторые виновные будут отпущены на свободу, особенно если у них есть деньги на хороших адвокатов. Даже те, кого признаю́т виновными, имеют право на обжалование вердикта, что отнимает время и ресурсы. Таким образом, система жертвует большой долей эффективности, обещая бо́льшую справедливость. Конституция неявно подразумевает, что для общества менее опасно отпустить из-за недостатка улик подозреваемого, который вполне мог совершить преступление, чем посадить в тюрьму или казнить невиновного.
Оружие математического поражения, с другой стороны, имеет тенденцию предпочитать эффективность. По самой своей природе такое оружие работает на основе данных, которые можно измерить и посчитать. Но справедливость сложно поддается измерению. Это концепция. А у компьютеров, при всем их прогрессе в языке и логике, все еще серьезные сложности с концепциями. Они «понимают» красоту только как слово, которое ассоциируется с Большим Каньоном, закатами над океаном и советами по уходу за внешностью в журнале Vogue. Они тщетно пытаются измерить «дружбу», подсчитывая лайки и взаимные пересечения на Facebook. А концепция справедливости ускользает от них полностью. Программисты не знают, как написать для нее код, к тому же очень немногие их начальники просят это сделать.
Итак, справедливость в ОМП не подсчитывается. В результате происходит массированное, промышленное производство несправедливости. Если вы представите себе ОМП в образе завода, то несправедливость это черные клубы, поднимающиеся из труб. Это токсичные выбросы.
Вопрос в том, готовы ли мы как общество пожертвовать частью эффективности в интересах справедливости. Следует ли нам препятствовать работе моделей, удаляя из них определенные данные? Например, вполне возможно, что добавление гигабайта данных по антисоциальному поведению может помочь PredPol предсказать на карте координаты места, где, возможно, произойдет серьезное преступление. Но это происходит ценой образования негативной петли обратной связи. Поэтому я выступаю за то, чтобы исключить эти данные.
Вопрос в том, готовы ли мы как общество пожертвовать частью эффективности в интересах справедливости. Следует ли нам препятствовать работе моделей, удаляя из них определенные данные? Например, вполне возможно, что добавление гигабайта данных по антисоциальному поведению может помочь PredPol предсказать на карте координаты места, где, возможно, произойдет серьезное преступление. Но это происходит ценой образования негативной петли обратной связи. Поэтому я выступаю за то, чтобы исключить эти данные.
За это дело сложно бороться во многих аспектах это похоже на борьбу против прослушки телефонных разговоров, которой занимается Агентство национальной безопасности. Защитники прослушки утверждают, что это необходимо для нашей безопасности. И люди, которые управляют нашим огромным аппаратом национальной безопасности, будут и дальше пытаться добыть как можно больше информации, чтобы выполнять свою миссию. Они продолжат покушаться на личную неприкосновенность граждан, пока им не сообщат, что они должны выполнять свою работу в рамках Конституции. Возможно, так им будет сложнее, но это необходимо.