2-й кавкорпус получил задачу по прикрытию правого фланга 18-й армии. Части 9-й Крымской кавалерийской дивизии заняли оборону на подступах к Николаеву, части 5-й кавалерийской дивизии столкнулись у Нового Буга с моторизованной колонной немецких войск.
Командующий Южным фронтом вспоминал: "Мы правильно оценили обстановку, учтя при этом, что немцы, хотя и являются большими любителями фланговых ударов и маневров, сами весьма чувствительны к угрозам с флангов. Создать такую угрозу мог только 2-й кавалерийский корпус, втянутый в бой под Вознесенском. Мы решили перебросить его в район Нового Буга. К 12 августа кавалеристы вошли в этот район и нанесли чувствительный удар по хвосту одной из колонн танковой дивизии гитлеровцев, выдвигавшейся из района Вознесенска на Кривой Рог".
Немецким войскам удалось прорваться с севера на восточный берег Ингула, отрезав пути отхода 9-й и 18-й армиям. 10–14 августа были самыми сложными для советских войск. Штаб фронта, рассматривая действия генералов Черевиченко и Смирнова как неумелые и паникерские, предлагал остатки 9-й и 18-й армий объединить в руках генерала Чибисова, "для обеспечения по выводу из окружения". К востоку от Николаева отходящим войскам 9-й армии грозила катастрофа в случае невозможности переправиться через Бугский лиман или перехвата противником переправ. С 12 по 14 августа войска 18-й армии переправились через реку Ингул, а войска 9-й армии – через лиман Южного Буга. Части 9-й армии сумели удержать небольшую предмостную позицию и переправить на восточный берег лимана по единственному наплавному мосту протяжением около 2 км людей и технику.
Фашистская авиация бомбила Варваровский мост, гитлеровцы попытались захватить мост с помощью парашютного десанта, но им помешали истребители Дунайской флотилии и 20-й авиадивизии. Войска 9-й армии переправлялись также на кораблях речной флотилии, лодках, плотах, баржах, плавучем доке. Отход войск прикрывали суда Дунайской флотилии, что выдвинулась из Одессы в низовья Южного Буга. Им было приказано прикрыть переправу 9-й и 18-й армий в районе Белоусовка – Ново-Троицкое. Монитор флотилии "Ударный" и два бронекатера пошли вверх по Южному Бугу для нанесения удара по танкам противника в Вознесенске. Они заняли огневую позицию в 7 км от Вознесенска и начали стрелять по городу. Эта стрельба совместно с налетом 96-й авиаэскадрильи вызвала панику у противника (по советским донесениям, 10 танков и 2 орудия противника были уничтожены).
Когда враг оказался в 70 км от Николаева, Наркомсудпром направил в город директиву о необходимости срочного вывоза в глубь страны наиболее ценного оборудования николаевских заводов. 10 августа были созданы три сектора обороны Николаева: северный (Матвеевка – Ингульский мост); восточный (Мешково – Широкая Балка) и западный (Варваровский мост – переправа Радсад). 11 августа немцам удалось прорваться к Николаеву, и их артиллерия начала обстрел сел Варваровка и Николаева. Положение Николаева стало критическим. 12 августа немецкие танки обошли Николаев с северо-востока, со стороны железнодорожной станции Водопой и перерезали железную дорогу и все дороги, ведущие к Херсону. Немецкая разведка в составе двух танков подошла к селу Киселевка, но у одного из танков мотор заглох. Группа моряков, оборонявших Николаев, сумела в бою сжечь вражеские танки и взять в плен танкистов. Поначалу немецкое командование не решилось бросить крупные силы на Николаев, опасалось крупных советских резервов.
Прибыв в Николаев, вице-адмирал Г.И. Левченко с удивлением узнал, что у контр-адмирала И.Д. Кулишова (командира Николаевской базы ВМФ) не налажена постоянная связь со штабом Южного фронта, который находился в Николаеве. Контр-адмирал Кулишов имел отдаленное представление о положении на фронте и не думал брать на себя ответственность за эвакуацию складов оружия, боеприпасов и продовольствия Южного фронта, располагавшихся в Николаеве.
Вице-адмирал Левченко приказал И.Д. Кулишову немедленно сформировать из береговых служб полк морской пехоты, свернуть стройку командного пункта, а освободившихся людей бросить на погрузку запасов на транспортные суда, организовать вывоз военных запасов в Одессу и Севастополь. Сам Левченко остался в Николаеве помогать Тюленеву координировать действия армии, ЧФ и Дунайской флотилии.
Николаев защищали войска Николаевской военно-морской базы и участок ПВО: 122-й зенитно-артиллерийский полк, 9-й истребительный авиаполк (70 самолетов); флотский полуэкипаж, отдельный дивизион подводных лодок и сторожевых кораблей, группа строящихся кораблей, рота охраны базы, отдельная стрелковая рота, 10-я и 76-я роты, дивизион тральщиков. Моряки строящихся кораблей были сведены в полк морской пехоты (700 человек) капитана 2-го ранга А.Ф. Студеничникова. Под начало Кулишова попали некоторые корабли Дунайской военной флотилии. Всего база располагала 7 тыс. военных моряков. К базе "прибились" и другие части: рота курсантов Одесского пехотного училища, два батальона НКВД, Снигиревская бригада милиции, Новоодесский коммунистический батальон, 13 тыс. местных жителей, которые вступили в народное ополчение – Николаевскую истребительную дивизию.
Николаевская военно-морская база не получала от фронтового командования информации об обстановке на фронте. Хотя база перешла в подчинение штабу Южного фронта, "координации действий между командованием базы и штабом фронта установлено не было". Вскоре база перешла в подчинение штаба 9-й армии, но в этом штабе после ухода из Николаева штаба фронта "царил разброд и неразбериха… Штаб армии оказался бессильным взять в руки управление войсками". Утром 13 августа положение резко осложнилось. Части 22-й пехотной дивизии вермахта вели бой на рубеже Веселый Кут – Нечаянное, а с запада на город наступали части 11-й немецкой армии. Выдвинутые на реке Ингулец вновь сформированные две дивизии и несколько отрядов были растянуты на широком фронте, не могли противостоять напору немецких танков. Фронт легко прорывался, отдельные части окружались и уничтожались. В село Грейгово ворвалась 16-я танковая дивизия немцев и мотодивизия "Адольф Гитлер". На восточной окраине Николаева у "Полигона", со стороны Херсона, показалась колонна немецких танков. Они пытались прорваться к центру города, но были отбиты огнем батареи зенитных орудий 122-го артиллерийского морского полка и авиации. База ВМФ в Николаеве, в отличие от Одессы, не имела своей береговой артиллерии и не могла помочь войскам артиллерийским огнем.
Но Ставка медлила с отходом, считая, что немецкие войска должны "завязнуть" на Южном направлении и оттянуть как можно больше своих войск в район Одесса – Херсон. 12 августа Ставка приказала удерживать Николаев "во что бы то ни стало". Только когда основные силы 9-й и 18-й армий со всеми тылами оказались окруженными в районе Николаева, 14 августа 1941 г. было принято решение оставить Николаев и прорываться в сторону Херсона.
13 августа в 17 ч. 30 мин. командующий войсками Южного фронта приказал: "Командармам 18 и 9: продолжая выполнять задачу по отходу на новый оборонительный рубеж р. Ингулец – организовать противотанковую оборону рубежа р. Ингул и Николаев с востока, используя в первую очередь противотанковую артиллерию, авиацию и отряды истребителей танков (с бутылками); подготовить контратаку для отрезания и уничтожения прорвавшихся мотомехчастей противника. Атаки производить главным образом ночью, после тщательной разведки".
Николаев спешно эвакуируется. Из Николаева и Одессы, в середине августа 1941-го, были выведены четыре плавдока, четыре плавкрана, корпуса двух строящихся крейсеров, двух эсминцев… На них было вывезено большое количество оборудования и имущества судостроительных и судоремонтных заводов. Корпуса недостроенных кораблей загрузили оборудованием и ценными материалами, поместили на них работников заводов с семьями. Были взорваны стапеля и цеха судостроительных заводов, три подлодки. Однако для уничтожения всех верфей уже не было ни времени, ни взрывчатки.
Штаб Южного фронта перешел из осажденного Николаева в Берислав, а 14 августа командующий Южным фронтом самолетом прибыл в окруженный Николаев и лично руководил эвакуацией и действиями оставшихся в городе войск. Генерал Тюленев вспоминал: "В Николаеве я тотчас же созвал совещание высшего командного состава, чтобы вместе с членами военных советов армий и командирами корпусов обсудить создавшуюся угрожающую обстановку, принять решительные меры по ликвидации прорыва войск противника. План, предложенный на этом совещании, был прост: при поддержке и под прикрытием артиллерийского и минометного огня на рассвете контратаковать немцев. В наступающих боевых порядках будет находиться артиллерия, которая с ходу развернется и откроет массированный огонь по фашистским танкам".