Предпосылкой теории рационального выбора (или общественного выбора) является неоинституционализм. Рассмотрим подробнее его основные положения.
Институционализм как особое течение сложился еще в начале XX в., но долгое время находился на периферии социологической и экономической мысли. Положение изменилось в 1960-1970 г.г. XX в. В центре внимания исследователей оказались социальные институты, которые обусловливали поведение людей в стандартных ситуациях. Такой подход иначе расставлял акценты. Становилось возможным изучать постоянно повторяющиеся (воспроизводящиеся в обществе) процессы, что открывало путь к установлению объективных закономерностей (их формализации и отражению в экономико-математических моделях). Институты в такой трактовке выступали как средства достижения индивидуалистических ("эгоистических") целей. Отличия неоинституционализма от классического институционализма сводятся, по мнению Р.М. Нуреева, к следующему.
Во-первых, "старые" институционалисты (например, Дж. Коммонс в "Правовых основах капитализма") шли к экономике от права и политики, пытаясь изучать проблемы современной экономической теории методами других наук об обществе; неоинституционалисты идут прямо противоположным путем - изучают политологические и правовые проблемы методами неоклассической экономической теории, и прежде всего с применением аппарата современной микроэкономики и теории игр.
Во-вторых, традиционный институционализм основывался главным образом на индуктивном методе, стремился идти от частных случаев к обобщениям, в результате чего общая институциональная теория так и не сложилась; неоинституционализм выбрал дедуктивный путь - от общих принципов неоклассической экономической теории к объяснению конкретных явлений общественной жизни. В-третьих, старый институционализм как течение радикальной экономической мысли обращал преимущественное внимание на действия коллективов (главным образом, профсоюзов и правительства), защищающих интересы индивида; неоинституционализм ставит во главу угла независимого индивида, который по своей воле и в соответствии со своими интересами решает, членом каких коллективов ему следует быть.
В конце XX в. складывается новая институциональная теория (Д. Норт, Дж.М. Ходжсон и др.). В центре ее внимания оказываются уже "правила игры", на которых базируются социальные институты. Правила игры рассматриваются отдельно и от экономических агентов, и от организаций. Если раньше институты воспринимались экзогенно, как нечто внешнее по отношению к экономике (причем экономические институты исследовались отдельно от политических), то в современной политической экономии они анализируются как части единой структуры, в рамках и посредством которой выстраиваются отношения между людьми.
Об этом же пишет и А.Н. Олейник. По его мнению, неоинституционализм, возникший в конце XX в. как преодоление традиционного институционализма, включает два направления - неоинституциональная экономика и новая институциональная экономика. Несмотря на кажущуюся идентичность названий, речь идет о принципиально различных парадигмах в анализе институтов. Первое направление оставляет неизменным жесткое ядро неоклассики. Включение нового элемента в предмет анализа институтов происходит за счет корректировки утверждений из "защитной оболочки" неоклассической теории. Именно поэтому неоинстиуциональную экономику часто приводят в качестве примера "экономического империализма": не отказываясь от традиционного микроэкономического инструментария, "империалисты" стремятся объяснить являвшиеся ранее внешними для неоклассической теории факторы - идеологию, нормы поведения, законы, семью и т.д. Второе направление, наоборот, отражает попытку создать новую теорию институтов, не связанную с прежними постулатами неоклассики. Оно включает теорию игр, концепцию неполной рациональности, пересмотр принципа оптимизации на удовлетворительность и ставит под сомнение экзогенный характер предпочтений и их стабильность. Институты, с точки зрения Д. Норта, задают рамки восприятию интересов, но в то же время индивиды способны изменить институциональные рамки. В наиболее развернутом виде программа новой институциональной экономики приведена в работах представителей экономики соглашений (Л. Тевено, О. Фавро, А. Орлеан, Р. Буайе), самого молодого и переживающего бурное развитие направления институционального анализа.
Конспективно изложенные положения теории рационального выбора и неоинституционализма, составляющие основания экономического анализа права, позволяют, прежде всего, определить это научное направление как междисциплинарное, входящее в предмет юридической науки. Поясним эту, возможно, неоднозначную мысль. Предмет любой научной дисциплины, как представляется, конструируется научным сообществом (отнюдь не по произволу) в рамках объекта - правовой реальности. Так как право, как и любое социальное явление, не существует "само по себе", вне политических, экономических и т.д. явлений, для изучения правовой реальности неизбежно требуется "выходить" за рамки права и включать в предмет юриспруденции, например, политику для уяснения содержания конституционного права, экономику для гражданского права, демографию для права социального обеспечения и т.д. Более того, юридическая наука, если она не хочет оставаться в рамках юридического догматизма, не может не основываться на положениях социальной философии для прояснения социальной сущности права. Использование общенаучных и всеобщих методов познания (по традиционной их классификации) - общая тенденция, свойственная для всех социальных (да и естественных) наук. Поэтому использование методологии неоинституционализма или экономического анализа права как раз и представляет собой несколько иной угол зрения на право, то есть, конструирование правовой онтологии, предмета юридической науки. Другими словами, в экономическом анализе права акцент делается на исходном объекте - праве, который изучается (тем самым входит в предмет) с помощью методологии неоинституционализма, экономического анализа права.
"Экономический подход к праву, - справедливо утверждает В.Л. Тамбовцев, - существенно изменяет сам характер теоретических рассуждений юристов о праве, что вызвано проникновением экономического стиля мышления в данную область. Для "старой" юриспруденции в значительной мере был характерен так называемый юридический позитивизм, суть которого заключается в том, что любое решение законодателя принимается как данность, фактически не подлежащая обсуждению с точки зрения его социальных или экономических функций: закон таков, каков он есть (вспомните известную латынь: dura lex, sed lex), a обсуждения и анализа достойны только проблемы его применения, включая соответствие ранее принятым законам. Экономическому стилю мышления, напротив, свойственны альтернативность, стремление к сопоставлению различных вариантов достижения целей, сравнению результатов и издержек и т.п. Тем самым закон не воспринимается как "объективная реальность", он есть не более чем один из возможных альтернативных путей достижения определенной цели, о нем можно и нужно рассуждать с точки зрения эффективности реализации соответствующей цели. Легко увидеть, что такой подход к законам и законодательной деятельности - прямое следствие концепции функционирования политического рынка, сформированной в рамках программы "экономического империализма", расширения сферы применения экономического подхода за пределы традиционного предмета экономической теории". Интересно, что становление экономического анализа права связано с так называемой "теоремой Р. Коуза", в соответствии с которой причина существования правовой системы (шире - формального социального института) - неравенство нулю трансакционных издержек. Положительные трансакционные издержки, - комментирует теорию Р. Коуза В.Л. Тамбовцев, - препятствующие ведению переговоров и заключению обоюдовыгодной сделки, приводят к тому, что юридические правила становятся значимыми. "Таким образом, роль суда, с экономической точки зрения, сводится к тому, чтобы заменить собой отсутствующий рынок с нулевыми трансакционными издержками.