Фактически именно 20-й корпус, занимавший позиции восточнее реки Ангерап в центре армии, должен был прикрывать начатое с опозданием общее отступление, сам не имея прикрытия с правого фланга. Между тем его фронт протянулся более чем на 50 км, в его состав входила, кроме 28-й и 29-й дивизий нормальной организации мирного времени, второочередная 53-я дивизия (всего 42 батальона, 513 офицеров и 35 505 нижних чинов). Положение на позициях с начала года было довольно спокойным, и с открытием немецкого наступления на Лык из 28-й и 53-й дивизий было приказано выделить по сводному полку для поддержки 3-го Сибирского корпуса. Казалось, ничего опасного не происходило, только 9-10 февраля несколько оживился артиллерийский огонь противника. В ночь на 27 января (9 февраля) в состав 20-го корпуса была передана из 3-го корпуса 27-я дивизия, которой приказано немедленно сниматься с позиций и двигаться на Сувалки. Дивизия вынуждена была выполнять его, отбиваясь от наседавших немцев, однако выйти к Сувалкам она смогла лишь 1 (14) февраля.
Немцы, благодаря постоянному присутствию своей авиации в воздухе и продолжавшейся радиоболтовне русских штабов, достаточно оперативно получали информацию о том, что происходило в наших тылах. События стали уже опережать распоряжения русских штабов. Вечером 28 января (10 февраля) под натиском немцев 3-й армейский корпус без приказа начал отходить за Неман. Его части к концу года были уже серьезно разбавлены плохо обученными резервистами второй очереди, весьма слабо державшимися под огнем. В то же самое время 56-я резервная дивизия Вержболовской группы расположилась в Эйдкунене и Вержболово без охранения, в результате чего была захвачена врасплох 78-й резервной дивизией немцев. Началась паника, и 56-я дивизия была быстро разбита. Особого сопротивления она не оказывала, как и в 1914 г., дивизия побежала, бросая все, что можно было бросить. Проявились все недостатки ее боевых качеств, о которых знало командование. В результате немцам удалось захватить три санитарных поезда, шесть орудий, 10 тыс. пленных, значительное количество военного имущества и весьма необходимого наступавшим продовольствия. После этого кризис Вержболовской группы только усугублялся.
В ходе последующего отступления оторваться от противника не удалось, вновь произошло то, что уже не раз губило русскую армию: скверное управление движением при начале отступления, и в результате потеря контроля над ним. В ночь на 28 января (10 февраля) штаб Н. А. Епанчина стал менять место дисклокации, и к утру его поезд оказался в Ковно, в 100 верстах в тылу. Вскоре генерал вернулся назад в Вильковишки, но время было упущено. Штаб корпуса при переезде фактически оказался оторван от своих подчиненных, управление войсками потеряно. Утром 29 января (11 февраля) две отходившие дивизии вышли на одну дорогу и перемешались, превратившись в толпу вооруженных людей. Соединения, которые в течение почти двух недель с упорством вели тяжелейшие бои, наступая на немецкие укрепления, фактически прекратили свое существование как боеспособные единицы. Оказать этим войскам какую-либо помощь непосредственно на фронте или в тылу, путем прикрытия тыловых путей к Неману, штаб 10-й армии не мог. "Призрак противника сделал остальное, – вспоминал И. А. Хольмсен. – Вержболовская группа пришла в полное расстройство ко дню 11 февраля".
Дальнейшее движение ее остатков после этого быстро приняло хаотический характер. Подвергшись вечером 11 февраля нападению незначительных сил противника, толпы отступавших запаниковали и устремились в направлении на Ковно. Каким-то чудом удалось сохранить артиллерию: из 152 орудий, включая 16 тяжелых, было потеряно только 17 легких и 10 пулеметов. Порядок и дисциплина сохранились лишь в прикрывающей отход коннице, из пехотных частей корпуса за Неманом собрались поначалу около 5 тыс. человек. Впрочем, сохранившаяся благодаря командовавшему ею генералу Е. А. Леонтовичу кавалерия после отхода также перестала играть роль в сражении. До 2 (15) февраля конный отряд, выведенный на правый, восточный берег Немана в Олиту, фактически утратил связь со штабом армии и бездействовал. Командир отряда даже не воспользовался имевшейся у него радиостанцией. Прекрасный состав 1-й и 3-й кавалерийских дивизий и их артиллерийские бригады также не были им использованы в должной мере.
В весьма тяжелом положении сразу же оказалась крепость Ковно. К концу 1914 г. ее гарнизон состоял из двух ополченских бригад, второочередного казачьего полка и нескольких сотен пограничной стражи. Комендант крепости генерал от кавалерии В. Н. Григорьев был занят формированием дивизиона осадной артиллерии, который ему надлежало направить под Перемышль. Опасаясь оказаться в сложном положении в случае прорыва немцев, он в январе 1915 г. обратился к Ф. В. Сиверсу с просьбой об усилении гарнизона, которая осталась без ответа. В результате к началу февраля ситуация нисколько не изменилась, за исключением того, что осадную артиллерию все же успели отправить на Юго-Западный фронт. Благодаря тому, что из Вержболовской группы удалось спасти хотя бы что-то, Ковенская крепость не лишилась полностью пехотного гарнизона, в противном случае немцы смогли бы взять ее практически голыми руками. С другой стороны, эти остатки в последующие критические для 10-й армии дни могли только обороняться.
В середине февраля гарнизон Ковно получил подкрепление, сюда стали прибывать из-под Варшавы эшелоны 2-й бригады 68-й пехотной дивизии. Впрочем, на положение 10-й армии это уже никак не могло повлиять. Учитывая то, что немцы заблаговременно озаботились выделением частей для прикрытия от возможных ударов со стороны Ковенской крепости, они смогли спокойно и без остановки продолжать обходное движение своими основными силами. В результате этих событий правый фланг 10-й армии был оголен, ее правофланговым корпусом фактически стал 20-й армейский корпус. Тем временем из-за задержки отступления командир 20-го корпуса, не зная о том, что справа и в тылу на пространстве более 80 км нет ни одной боеспособной русской части, весь день 28 января (10 февраля) продолжал удерживать занимаемые им позиции. Обходящие его колонны противника двигались, не встречая никаких серьезных препятствий, кроме природных. Разумеется, и немцы при движении столкнулись с теми же сложностями, однако наступавшие имели определенное преимущество.
"Снежные сугробы в человеческий рост, – вспоминал Э. Людендорф, – чередовались с гололедицей. Русским предстояли еще большие трудности, так как перед их колоннами должны были двигаться обозы". Нельзя не отметить, что подготовка германских войск к действиям в специфических зимних условиях Мазур была все же лучшей, чем у русских. "Тяжелее всего приходилось артиллерии и обозу, – писал участник боев, – так как, несмотря на то что они были снабжены полозьями, они все же вязли в снежных сугробах. Лошади, не получавшие уже достаточно фуража, не в силах были вытаскивать тяжелые повозки. Приходилось прибегать к человеческой помощи. Само собою понятно, что прежде всего следовало доставить артиллерию с ее зарядными ящиками. Обоз, походные кухни и провиантские повозки пришлось предоставить самим себе, и следовательно, о регулярном продовольствовании не могло быть и речи. Но каждый стремился только вперед". Сложности с обеспечением продовольствием и фуражом (в повозках и орудиях заблаговременно была введена усиленная упряжка в 10–12 лошадей) в определенный момент даже поставили под угрозу продолжение операции, но захваченные в Вержболово русские склады упростили решение проблемы снабжения.
После долгих колебаний днем 28 января (10 февраля) командующий 10-й армией принял решение об общем отступлении в направлении на восток. Явно противоречивые приказы, приходившие один за другим, приводили к путанице и никак не способствовали налаженной работе штаба и тыла 20-го корпуса. В результате предыдущий приказ начать подготовку к отходу от 27 января (9 февраля) пришел в его дивизии утром 28 января (10 февраля), а днем немцы начали атаковать их во фронт. Сам отход первоначально предполагалось организовать только в ночь с 28 на 29 января (с 10 на 11 февраля). Не лучшим образом обстояли дела и в штабе 10-й армии. Поздним вечером 28 января (10 февраля) там получили сообщение, в котором говорилось, что значительные силы германской пехоты, прикрываясь на востоке конницей, движутся в тыл 20-го корпуса.