Брест вновь поднимался из пепла и вновь оказывался на пути завоевателей.
В 1654 г. варшавский сейм принял специальную декларацию о срочном восстановлении брестских укреплений. Деревянные стены замка планировалось заменить пятью оборонительными сооружениями бастионного типа. Горожане были освобождены от общественных налогов, деньги шли с Брестской королевской экономии. Отсюда же набирали людей для фортификационных работ. К строительству привлекались все жители без исключения, включая духовенство. Руководил работами присланный королем инженер, однако дело двигалось медленно и так и не было доведено до конца ввиду последовавшей череды нашествий, которые в польской истории получили название «Потоп».
В ходе русско-польской войны 16541667 гг. и развязанной Швецией войны против Речи Посполитой и России Брест-Литовск неоднократно оказывался в полосе военных действий. Спор славян между собою отличался особой жестокостью. Московитами война велась в первую очередь за территории и материальные ценности, население уничтожалось практически поголовно. Указ тишайшего «московского царя православного» Алексея Михайловича прямо требовал: «Унии не быть, латинству не быть, жидам не быть». Почти полностью были вырезаны жители Витебска, Слонима, Мира, Вильно, Пинска и других городов. Виленский епископ Юрий Тышкевич позднее писал: «Не было пощады ни возрасту, ни полу; все места были залиты кровью убитых и трупами, особенно Бернардинский костел, куда в поисках убежища собралось особенно много людей».
Осенью 1655 г. Новгородской полк русской армии под командованием князей С.А. Урусова и Ю.Н. Барятинского, имевших царскую инструкцию польские города «воевать и разорять», а со шведами «отнюдь не задиратца», совершил поход от Ковно на Брест, но был остановлен войском гетмана П.Я. Сапеги в 25 верстах от города. В сражении у деревни Верховичи поляки 17 ноября потерпели поражение, однако штурмовать укрепленный город, в котором находился сильный гарнизон, русские воеводы не решились. В следующем году под стенами Бреста впервые появились шведы, но и они отступили.
В мае 1657 г. Брест-Литовск не выдержал осады объединенной армии шведского короля Карла X Густава, Семиградского князя Ракоши и украинских казаков и был ими захвачен. По одной из версий, это стало возможным из-за измены наемной немецкой пехоты, перешедшей на службу шведскому королю, по другой противник овладел городом «через трактат», т. е. заставив гарнизон сдаться на определенных условиях. Город был разграблен и большей частью сгорел. Король шведский по достоинству оценил стратегическое положение Бреста и даже планировал основать здесь укрепленный лагерь. Но в это время против Швеции выступила Дания, в связи с чем Карл X срочно покинул Брест. Тогда Павел Сапега приказал Михаилу Радзивиллу, подчашему Великого княжества Литовского, собрать отряд добровольцев и произвести диверсию с целью захвата Брестской фортеции, в которой находился вражеский гарнизон численностью до 600 человек. Операцию готовили в обстановке секретности. Сапега приказал все тщательно разведать и, выбрав нужное время, «учинить эксперимент: спешив людей, подобраться, как можно тишечтобы никто и пера не уронил», а затем атаковать укрепления, захватив противника врасплох. Рейд прошел удачно. 20 августа гетман личным письмом поблагодарил Радзивилла и его отряд, состоявший из обывателей Брестского воеводства, как от своей «персоны, так и от всей Речи Посполитой за совершенный труд при отобрании Бреста, за что все Отечество должно отплатить благодарностью».
В опустошенном и разграбленном Брест-Литовске начали восстановление укреплений. Для завершения строительства сейм Речи Посполитой выделил в 1658 г. 10 миллионов злотых и планировал поставить необходимое для обороны количество пороха, ядер и оружия. Гетман Великого княжества Литовского получил наказ содержать здесь столько пехоты, сколько будет нужно. Реальные обстоятельства делали подобные декларации лишь благими пожеланиями. Не случайно в следующем году Варшавский сейм лишь продублировал ранее принятое постановление о брестских укреплениях.
8 января 1660 г. московские войска под командованием воеводы И.А. Хованского по льду подошли к укреплениям города и взяли их внезапным приступом. После этого еще пять суток велась осада замка, завершившаяся успешным ночным штурмом и гибелью защитников. Хованский стоял в Бресте до весны, посылая оттуда ратных людей в глубь Польши. В занятом городе воеводе пришлось восстанавливать укрепления для защиты собственных войск. В донесении царю Алексею Михайловичу он сообщал, что «Брест верхний город укрепил я накрепко, сверх старых крепостей по земляному городу нарубил тарасы в 2 стены рублены, а вышиною 2 сажени, а в иных местах и в 2,5, а хлебных запасов года на два будет тем людям, которые оставлены, а соли и пушечных всяких запасов гораздо много, сидеть в верхнем городе бесстрашно от неприятеля, а большого города занять некем, надобеть посадить тысячи 4, а на меньшую статью 3000, и то будет неприятелю страшно».
Однако в результате Оливского мира между Швецией и Речью Посполитой, высвободившего значительные воинские силы последней, Хованский был вынужден оставить Брест. В 1661 г. в город вновь вошли польско-литовские войска. К этому времени Брест-Литовск был «весь до последнего строения разорен и сожжен», населения осталось «очень малая горсточка», погибли все члены магистрата, сгорели все архивы.