14 ноября в партийные органы была разослана директива об учете и проверке партийными органами ответственных сотрудников НКВД СССР, подписанная Сталиным. В соответствии с директивой учет, проверка и утверждение ответственных работников НКВД от высших должностей до начальников отделений возлагалась на ЦК ВКП(б). На местах обкомы, крайкомы, ЦК нацкомпартий были обязаны взять на учет всех ответственных работников местных органов НКВД, составить персональные списки, завести на каждого сотрудника личное дело. Помимо изучения документов на работников НКВД, требовалось и личное ознакомление с ними. Партийные руководители должны были начать проверку, не дожидаясь представления этих работников начальникам УНКВД на утверждение. Бюро соответствующего партийного органа решало вопрос о назначении. Исследователи совершенно справедливо считают это решение преддверием чистки в органах НКВД. В директиве прямо указывалась цель проверки, которая заключалась в том, что «органы НКВД должны быть очищены от всех враждебных людей, обманным путем проникших в органы НКВД, от лиц, не заслуживающих политического доверия».
Таким образом, резко усиливалось влияние партийных органов на кадровый состав органов госбезопасности как через значительное увеличение количества штатных сотрудников, утверждаемых в ЦК ВКП(б), так и через контроль за зачислением на службу новых работников.
В директиве от 14 ноября 1938 г. Сталин дал указание, чтобы первые секретари обкомов, крайкомов и ЦК нацкомпартий систематически представляли в отдел руководящих партийных органов (ОРПО) ЦК ВКП(б) докладные записки о ходе работы по учету, проверке и утверждению работников НКВД. Он нацеливал их на выявление недостатков в работе органов НКВД, засоренности их чуждыми и враждебными элементами. Фактически это была установка на массовую чистку среди сотрудников органов госбезопасности, которые допускали массовые нарушения Угоповного и Уголовно-процессуального кодексов.
Данное направление деятельности в отношении сотрудников оперативно-чекистских подразделений было закреплено в Постановлении СНК СССР и ЦК ВКП(б) от 17 ноября 1938 г. «Об арестах, прокурорском надзоре и ведении следствия». Среди исследователей утвердилось мнение, что Сталин в свойственной ему манере переложил свои ошибки на исполнителей преступных приказов.
Это постановление стало главным документом для следователей ГУГБ в ходе допросов арестованных сотрудников. В нем содержались основные положения обвинительных заключений. Главную вину за недостатки и извращения в следственной работе Сталин возложил на «врагов народа и шпионов иностранных разведок, пробравшихся в органы НКВД как в центре, так и на местах», проводивших массовые и необоснованные аресты. Одновременно они якобы спасали «от разгрома своих сообщников, в особенности засевших в органах НКВД». В приговорах на руководящий состав появится статья 58-1а УК РСФСР, то есть обвинение в шпионской работе на иностранные государства, и статья 197 (злоупотребление властью при отягчающих обстоятельствах).
В ноябре — декабре Сталин окунулся в лавину шифротелеграмм, записок и анонимных сообщений о многочисленных нарушениях, допущенных органами НКВД. До принятия решений, осуждавших подобные действия сотрудников органов госбезопасности, такого рода информация Сталину не поступала.
Секретари обкомов, крайкомов, ЦК нацкомпартий сообщали Сталину о «неожиданно» вскрывшихся фактах.
Первый секретарь Компартии Белоруссии П.К. Пономаренко неоднократно в декабре 1938 г. сообщал о ходе проверки сотрудников НКВД и выявленных нарушениях в деятельности органов госбезопасности. Он отмечал, что в тюрьмах сидят 2800 арестованных, на которых не собрано никаких доказательств их вины.
Сотрудники НКВД держат их до сих пор под арестом, так как постоянно избивали арестованных, а теперь боятся отпускать. Они выйдут на свободу, расскажут об издевательствах, и возникнет в обществе «трещина в авторитете органов». Пономаренко приводил факты о высокой смертности в тюрьмах Белоруссии. За период с 1 января по 1 октября 1938 г. в Гомельской тюрьме умерло 150 человек, в Витебской — 132, Слуцкой — 46, Бобруйской — 42 человека.
Сталин анализировал сообщения о нарушениях законности и продумывал выход из сложившейся ситуации. Фактически весь оперативный состав чекистских подразделений НКВД принимал участие в массовых репрессиях. Секретари обкомов настаивали на необходимости арестов значительной части сотрудников НКВД. Такой подход означал разрушение органов госбезопасности. Однако формулировка о врагах, якобы пробравшихся в НКВД и творивших беззакония, явилась достаточно удобной и приемлемой.
Прочитав сообщение Пономаренко, Сталин дал указание: «Молотову, Берия лично. Нужно очистить от грязи белорусские органы НКВД, такой грязи немало во всех других республиках и областях». Фактически это была установка на аресты руководящего состава управлений НКВД и наиболее «активных» исполнителей из сотрудников среднего звена.
Сталин читал сообщения секретарей обкомов, крайкомов, ЦК нацкомпартий, из которых вырисовывались типичные картины различных преступных действий сотрудников НКВД в ходе проведения репрессивных операций. Сталин давал указания об арестах, направлении комиссий в наиболее «отличившиеся» регионы. Например, в Житомирской области были выявлены факты, когда начальник управления Вяткин приводил приговоры в исполнение по решениям особой тройки на основании никем не подписанных протоколов заседаний, проводил расстрелы, оформляя их задним числом, поскольку решением Политбюро ЦК ВКП(б) работа особых троек приостанавливалась с 16 ноября 1938 г. На момент приостановления работы тройки неподписанными оказались решения на 2178 человек. Однако приговоры не были приведены в исполнение только над 20 осужденными. Такие же факты отмечались во многих регионах.
Берия на этой основе получал разрешения «чистить» чекистов, и только за период с сентября по декабрь 1938 г. было арестовано 332 руководящих работника НКВД (140 человек в центральном аппарате и 192 на периферии), среди которых оказалось 18 наркомов внутренних дел союзных и автономных республик. Аресты продолжались и в течение 1939 г.
В результате применения физических мер воздействия, то есть избиений и пыток, большинство арестованных сотрудничали со следствием, выгораживали себя и «топили» сослуживцев. Так, один из самых одиозных сотрудников Особого отдела Главного управления госбезопасности Ушаков-Ушимирский чутко улавливал направление репрессий в отношении сотрудников НКВД. В июне 1937 г., когда И.М. Леплевский уезжал на Украину, он передал ему список на 30 человек, составлявших так называемые «хвосты» предшествующего наркома В.А. Балицкого. В апреле 1938 г., на аудиенции у замнаркома Фриновского уже по поводу ареста Леплевского, он указывал на других сотрудников, которые, якобы, являлись участниками заговора в НКВД.
После арестов весной — летом 1938 г. высокопоставленных руководителей органов госбезопасности Ушаков-Ушимирский, находясь уже на Дальнем Востоке, стал брать показания на действующих сотрудников центра, чем встревожил руководство НКВД. Ежов дал указание об аресте Ушакова. Для того чтобы заставить его молчать либо изменить показания, Фриновский направил арестованного на Украину к Успенскому, который, по словам замнаркома, «сделает из него котлету». Ушаков-Ушимирский был арестован 4 сентября и вскоре отправлен на Украйну. Но сведения о его показаниях на сотрудников НКВД дошли до Берии, и 21 сентября Успенский сообщал персонально новому замнаркома о том, что арестованный передается в Москву.
Поскольку в качестве врагов фигурировало высшее руководящее звено органов госбезопасности, участь наркома внутренних дел СССР была предрешена. 23 ноября Ежов написал письмо Сталину, в котором каялся, что проглядел врагов, излишне доверял кадрам, назначенным им на важнейшие посты в наркомате внутренних дел.
В период массовых репрессий в ходе разгрома так называемых ягодинских заговорщиков многие сотрудники НКВД были арестованы и затем расстреляны по показаниям представителей высшей партийной номенклатуры. Нарком НКВД Украины Успенский выражал мысли многих руководителей местных органов, когда отмечал, что аресты партийно-советских работников в начале 1938 г. были своеобразным возмездием за погибших товарищей. Теперь Сталин предоставил такое право партийной номенклатуре, которая могла отыграться на руководящих работниках НКВД.
25 ноября 1938 г. Ежов был снят с должности наркома внутренних дел. Берия произвел практически полную смену не только начальников отделов НКВД СССР и их заместителей, но и почти всех руководителей республиканских, краевых и областных НКВД-УНКВД. На основании решения ЦК ВКП(б) от 5 декабря 1938 г. в период с 10 декабря 1938 г. по 10 января 1939 г. проходила передача дел от Ежова новому руководителю НКВД СССР Берии. Одновременно наркомат был подвергнут проверке комиссией, в которую входили секретарь ЦК ВКП(б), председатель Комиссии партийного контроля А.А. Андреев, заведующий ОРПО ЦК ВКП(б) Г.М. Маленков и новый нарком Берия.
В ходе проверки звучали резкие высказывания о вредительской работе как наркома, так и руководящего состава НКВД СССР. «Шпионы, враги, — отмечал Маленков, — сидели буквально на всех участках». Проверяя материалы так называемого «спецархива», в который Ежов откладывал компрометирующие материалы на партийных, советских и военных работников высокого ранга, Берия везде ставил пометки о том, что Ежову было известно о врагах, но он не давал ходу этим материалам. В «спецархиве» скопились доносы от 1937 г., найденные Берией, например на В.К. Блюхера, А.В. Косарева и многих других руководителей, репрессированных к моменту проверки наркомата. Содержались в «спецархиве» компрометирующие материалы и на руководящих работников оперативных отделов ГУГБ, которые Ежов придерживал у себя.
В своих выводах комиссия Политбюро ЦК ВКП(б) руководствовалась положениями постановления от 17 ноября 1938 г. Маленков, Андреев и Берия 9 января 1939 г., представляя Сталину акт приема-сдачи дел по НКВД СССР, сообщали: «1. За время руководства тов. Ежова Наркомвнудел СССР вплоть до момента егр освобождения от обязанностей Наркома большинство руководящих должностей в НКВД СССР и в подведомственных ему органах (НКВД союзных и автономных республик, НКВД краев и областей) занимали враги народа, заговорщики, шпионы.
2. Враги народа, пробравшиеся в органы НКВД, сознательно искажали карательную политику Советской власти, производили массовые необоснованные аресты ни в чем не повинных людей, в то же время укрывая действительных врагов народа.
3. Грубейшим образом извращались методы ведения следствия, применялись без разбора массовые избиения заключенных для вымогательства ложных показаний и “признаний”. Заранее определялось количество признаний, которых должен добиться в течение суток каждый следователь от арестованных, причем нормы часто доходили до нескольких десятков “признаний”».