Новый президент должен был вступить в должность в марте, однако южане пригрозили выйти из Союза штатов, если это произойдёт. К февралю 1861 года Флорида, Миссисипи, Алабама, Джорджия, Луизиана и Техас примкнули к Южной Каролине, приняли собственную конституцию и объявили себя суверенным государством Конфедеративными штатами Америки. Президент Бьюкенен и избранный президент Линкольн отказались их признать; тогда Конфедерация избрала своим временным президентом Джефферсона Дэвиса. Линкольна планировали убить в Балтиморе, по дороге в Вашингтон, но покушение было предотвращено агентами охранного агентства Алана Пинкертона. Инаугурация состоялась. «Мы не враги, а друзья», взывал Линкольн к южанам. Но 12 апреля конфедераты открыли огонь по войскам Союза, захватив форт Самтер под Чарлстоном, в Южной Каролине. Через три дня Линкольн призвал все штаты присылать вооружённые отряды для защиты Вашингтона и Союза в целом. Он ещё верил, что Союз существует; но Виргиния, Северная Каролина, Теннесси и Арканзас тоже проголосовали за отделение.
В Кливленде зачитывали на перекрёстках воззвания, приглашая записываться в армию; по вечерам проводили факельные шествия. Муж Люси, Пирсон Бриггс, вступил в роту добровольцев «Кливленд Грэйз», которая занималась поддержанием порядка в городе, а в случае необходимости могла быть послана на фронт (что и произошло дважды за эту войну). «Я хотел пойти в армию и внести свой вклад, рассказывал позже Джон Д. Но об этом просто не могло быть и речи. Мы только-только начали своё дело, и если бы я не остался, оно бы остановилось, а от этого столько всего зависело».
Согласно распоряжению правительства мужчины освобождались от военной службы, только если были единственной опорой семьи, являлись несовершеннолетними или родителями малолетних детей. Фактически 21-летний Джон содержал мать, сестру и младшего брата, но формально у него был отец. Тогда он воспользовался другой возможностью: нанял за 300 долларов человека, который пошёл служить вместо него, и потратил ещё 138 долларов 9 центов на оснащение целого взвода. Однажды утром капитан Леви Скофилд, друг Джона, привёл на Ривер-стрит 30 новобранцев и выстроил их перед конторой. Вышел мистер Рокфеллер и выдал каждому десять долларов новенькую хрустящую бумажку. «Господи, да он богач», шепнул один паренёк другому. «Да, ответил тот, говорят, он стоит десять тысяч долларов!»
Уильям тоже не пошёл в армию. Поработав немного у Хьюитта, он перешёл к местному мельнику, а затем стал партнёром в фирме оптовой торговли «Хьюз, Лестер и Рокфеллер» и всё это за один год. К своему двадцатилетию он уже зарабатывал тысячу долларов в год больше, чем его старший брат. Нельзя было рисковать таким ценным кадром. Зато заводной и темпераментный Фрэнк, которому было всего шестнадцать, сбежал на войну.
В первый раз его не взяли мал ещё. Удручённый Фрэнк вернулся домой. Отец, случайно заехавший в Кливленд, поставил ему ультиматум: «Молодой человек, если ты отправишься на войну, то распрощаешься с семьёй скатертью дорога!» У Фрэнка уже пробивались усы, он рвался в бой и мечтал о военной славе. Он станет героем, а не будет, как старшие братья, вечно возиться с цифрами и дрожать над каждым центом! Однако на снаряжение требовались деньги, и Фрэнк попросил у Джона взаймы 75 долларов. Тот прочитал ему целую проповедь: «Ты поведёшь себя как дикий, глупый мальчишка, если сбежишь из дома и потратишь впустую годы юности, вместо того чтобы найти своё место в жизни и делать деньги». Нужную сумму Фрэнку ссудил Гард-нер. Когда сержант на призывном пункте спросил Фрэнка: «Сколько?» имея в виду возраст, он ответил: «Выше восемнадцати». (Чтобы не осквернить свои уста ложью, Фрэнк написал мелом на подошвах своих ботинок цифру 18, и получилось, что он выше восемнадцати.) Его зачислили рядовым в 7-й добровольческий пехотный полк Огайо.
В сентябре два уроженца Кливленда, уехавшие в нефтеносный район, открыли новый колодец «Эмпайр»: нефтяной фонтан бил, как писала газета, «выше колокольни» и давал три тысячи баррелей в день. У владельцев скважины быстро закончились бочки, а к фонтану уже со всех сторон бежали люди с вёдрами, флягами, ковшами, черпаками всем, что можно было наполнить «чёрным золотом» Цены на нефть резко упали: за баррель теперь давали десять центов вместо десяти долларов, в то время как за доставку каждой бочки к железной дороге возчики по-прежнему требовали три-четыре доллара. Похоже, это всё-таки ненадёжное дело, решили многие.
Бизнес Кларка и Рокфеллера зависел от владения информацией о ситуации на рынке. В контору поступали телеграммы со всех концов страны, сюда же заглядывали знакомые, чтобы узнать последние сводки с фронта. Седьмой добровольческий полк сражался в долине Шенандоа, штат Виргиния. Джон и Морис прикрепили к стене две большие подробные карты и отмечали на них продвижение войск. 25 мая 1862 года состоялось сражение при Винчестере, и южане под командованием Томаса Джонатана Джексона, прозванного Каменной Стеной, одержали победу. 9 июня северяне были разбиты при Порт-Репаблик; федеральная армия отступила, и Джексон ринулся к Ричмонду, на помощь генералу Ли. 9 августа в битве у Кедровой горы Фрэнк Рокфеллер впервые был ранен.
Из-за военных действий река Миссисипи уже не использовалась для торговых перевозок, и Кливленд, связанный с системой Великих озёр и впадающих в них рек, приобрёл ещё большее значение как транспортный узел. Жизнь в городе бурлила, цены росли, и прибыль фирмы «Кларк, Гарднер и К
о
Джон теперь был настолько уверен в себе, что начал открыто ухаживать за Лорой. Часто заезжал за ней в школу, чтобы проводить домой. Спелманы жили тогда в очень милом зелёном квартале, утопающем в яблоневых садах. Джон и Уильям не раз приходили туда по выходным якобы посмотреть на проводившиеся неподалёку учения новобранцев. Они каждый год выплачивали по 300 долларов семьям солдат, ушедших вместо них на войну, а Джон также жертвовал деньги на благотворительность.
К началу декабря 1862 года Рокфеллеру удалось выгнать из фирмы Гарднера. Зато Эндрюс ушёл от Дина, и Джон Д. с Морисом Кларком вложили четыре тысячи долларов в новую фирму «Эндрюс, Кларк и К
о
Джон Д. сам выбрал место для нефтеперегонного завода, который назвали «Эксельсиор»: в полутора милях от делового центра Кливленда, где вдоль узкого илистого ручья Кингсбери, впадающего в Кайахогу, паслись коровы, оскальзываясь на красной глине, а плакучие ивы брезгливо смотрелись в мутную воду. Кларка удивил этот выбор: за городом, вдали от дорог Но Джон в очередной раз всё просчитал на два хода вперёд: именно здесь планировалось проложить новую железную дорогу, соединив уже существующие три (это произойдёт 3 ноября 1863 года), и тогда нефть из Пенсильвании можно будет доставлять прямо в Нью-Йорк по железной дороге «Эри». Рокфеллера теперь видели на «Эксельсиоре» с половины седьмого утра: он осматривал бочки, следил за тем, как на них набивают ободья и куда девают опилки. Заметив, что после обработки нефти остаётся довольно большое количество выпаренной серной кислоты, он составил план использования её в качестве удобрения зачем добру пропадать? Погрузка, буксировка всё, что могли, делали сами, не обращаясь к сторонним организациям. Торговались до посинения. Однажды агент по закупкам сообщил, что купил партию нефти по цене на порядок ниже рыночной. Получив телеграмму, Рокфеллер вскочил со стула с радостным воплем, заплясал по комнате, подбрасывая вверх шляпу, обнял Кларка тот даже испугался, уж не сошёл ли компаньон с ума. Перегонка нефти, затеянная как побочное производство, превратилась в самый доходный вид деятельности.