Одразу ж почала працювати Державна комісія з питання «постановки шифрувальної справи в Республіці». У зв'язку з цим Чичерін 25 вересня 1920 року доповідав у РНК, що «з понеділка у нас розпочне працювати т. Голуб, завдання якого полягатиме в перетворенні шифровок на офіційні папери для розсилки їх у такому абсолютно зміненому вигляді звичайним одержувачам».
А вже наприкінці 1920 року в НКЗС був розроблений «Циркуляр про шифри». 1 березня 1921 року завідувачем шифрувальною частиною був призначений І.М.Міхель, колишній завідувач канцелярією НКЗС.
2. Спеціальний відділ ВНК
В десятих числах січня 1921 року Колегія ВНК приймає рішення про скликання наради представників зацікавлених відомств для підготовки відповідних пропозицій щодо утворення єдиної криптологічної служби. В обговоренні питання брали участь представники ЦК РКП, ВНК і наркоматів. В результаті 28 січня 1921 року при ВНК був утворений Спеціальний відділ для координації та контролю відомчих шифрувальних служб і централізованої організації секрет ного діловодства у державних установах. Відділ очолив колишній голова Петроградської НК у 1918 році та повноважний представник ВНК у Туркестані у 191920 роках Гліб Іванович Бокій, який з 12 липня 1921 року увійшов за посадою до Колегії ВНК.
Колегія ВНК до березня підготовила пропозиції про створення міжвідомчої шифрувальної комісії при РНК, що складалася з представників Наркомата військових справ, ВНК, НКЗС і Наркомата зовнішньої торгівлі під головуванням представника ВНК – начальника Спеціального відділу. Проте розроблений ВНК проект діяльності цієї комісії прийнятий не був, оскільки стало очевидно, що в умовах, що створилися, за наявності у всіх наркоматів безлічі важких невідкладних власних завдань, всю роботу зі створення і організації діяльності спеціальної служби повинно узяти на себе одне відомство, а саме ВНК.
Було прийнято ухвалу, запропоновану Леніним: «Доручити начальнику шифрувального відділу ВНК прийняти заходи до здійснення нагляду, контролю і керівництва шифрувальною справою в Республіці і представити в Малу раду відповідний проект Ухвали, погодивши його з найбільш зацікавленими відомствами». 12 квітня на засіданні Малого РНК з проектом утворення єдиного у країні шифрувально-дешифрувального відділу виступив начальник Спеціального відділу при ВНК Бокій, людина, якій належало стати головним організатором криптологічної служби країни і її першим керівником.
Ось текст цього проекту:
«Маючи на увазі: 1) відсутність у Республіці центру, що об'єднує та спрямовує діяльність шифрувальних органів різних відомств, і пов'язані з цим безсистемність і випадковість у постановці шифрувальної справи; 2) можливість, завдяки цьому, при існуючому положенні широкого інформування ворогів Робітничо-селянської держави про таємниці Республіки, Рада Народних Комісарів ухвалила:
Утворити при Всеросійській Надзвичайній Комісії «Спеціальний відділ», штати в якому затверджуються Головою ВНК. Начальник Спеціального відділу призначається Раднаркомом.
У коло ведення Спеціального відділу при ВНК включити:
I. Постановку шифрувальної справи в РРФСР:
А. Наукова розробка питань шифрувальної справи:
а) аналіз всіх існуючих та існуючих російських і іноземних шифрів;
б) створення нових систем шифрів;
в) складання описів шифрів і інструкцій у шифрувальній справі та користуванні шифрами;
г) збирання архівів і літератури у шифрувальній справі для сконцентрування такого при Спецвідділі;
д) складання і видання керівництва з питань шифрування. Б. Обстеження і вироблення систем шифрів:
1. Обстеження всіх шифрів, що діють у даний час, і порядку користування ними шифрорганами;
2. Остаточна обробка інструкцій у шифрувальній справі і користуванні шифрами та розробка правил роботи шифрорганів;
3. Розподіл знов вироблених систем шифрів між всіма відомствами. В. Організація навчальної частини:
1. Розробка програми школи шифрувальників.
2. Створення школи шифрувальників.
3. Укомплектовування школи викладачами і учнями.
Г. Облік особового складу шифрувальних органів. Спостереження за закономірною постановкою шифрувальної справи. Інструктаж та інспекція шифрувальних органів:
1. Облік і перевірка всіх співробітників всіх шифрорганів.
2. Розподіл співробітників усіх шифрорганів між останніми залежно від індивідуальних якостей кожного працівника та фактичної потреби в працівниках у тому або іншому шифроргані, а також залежно від державної важливості кожної установи.
3. Чищення неблагонадійного і нездібного елементу зі всіх шифрорганів.
4. Спостереження за закономірною постановкою шифрувальної справи у всіх шифрорганах.
5. Інструктаж та інспекція всіх шифрорганів і проведення в життя Інструкції і правил у шифрувальній справі.
II. Постановка розшифрувальної справи у РРФСР:
1. Дослідження способів повсюдного вловлювання всіх радіо, телеграм і листів ворожих, іноземних і контрреволюційних.
2. Відкриття ключів ворожих, іноземних і контрреволюційних шифрів.
3. Розшифровка всіх радіо, телеграм і листів ворожих, іноземних і контрреволюційних.
Всі розпорядження і циркуляри Спеціального відділу при ВНК з усіх питань шифрувальної та розшифрувальної справи є обов'язковими до виконання всіма відомствами РРФСР».
Тим часом 4 квітня 1921 року наказом РВРР №785/141 «Региструпр» ПШ РСРР був реорганізований у Розвідувальне Управління (далі – РУ) Штабу РСЧА. У його складі було створене шифрувальне відділення 2-го (агентурного) відділу, начальником якого став В.Я.Закіс.
А вже 5 травня 1921 року постановою Малого РНК №672 була утворена єдина радянська криптослужба у вигляді Спеціального відділу при ВНК. Приведемо текст цієї постанови:
«РНК, розглянувши питання про шифрувальні відділи, ухвалив наступне:
1) утворити при ВНК «спеціальний відділ»;
2) Спецвідділ ВНК поєднує всі шифрувальні органи, контролює й направляє всю діяльність таких органів;
3) всі розпорядження й циркуляри Спецвідділу ВНК із всіх питань шифрувальної та розшифрувальної справи є обов'язковими до виконання всіма відомствами Росії».
З того часу 5 травня вважається святом шифрувальників усіх міністерств i відомств. Начальником нової структури й одночасно членом колегії ВНК був призначений Гліб Іванович Бокій, який до цього керував Петроградською НК і завжди цікавився шифруванням, а свої записи про підпільні справи шифрував особистим математичним шифром.
З його ініціативи 25 серпня 1921 року у ВНК був виданий наказ, що пропонував усім підрозділам у центрі та на місцях «направляти в Спецвідділ всякого роду шифри, ключі до них і шифровки, виявлені при обшуках та арештах, а також добуті через агентуру або випадково».
Розміщався відділ не тільки на Малій Лубянці, але й у будинку №21 на вулиці «Кузнецкий мост», у приміщеннях НКЗС, де займав два верхні поверхи. Офіційними його завданнями були масштабна радіо- і радіотехнічна розвідка, дешифрування телеграм, розробка шифрів, радіоперехоплення, пеленгація й виявлення ворожих шпигунських передавачів на радянській території.
Специфіка роботи Спецвідділу докорінно відрізнялася від усього того, що робилося у ВНК, а тому вимагала залучення людей, що володіли унікальними навичками. Це насамперед відносилося до криптологів, завданням яких було розгадування шифрів і ребусів.
Взагалі, серед особового складу дешифрувального відділу було багато колишніх російських аристократів, зокрема графів і баронів. Ця суперечність із державним устроєм того часу пояснювалася серйозним браком лінгвістів, які були потрібні для ведення дешифрувальних робіт. А сама професія дешифрувальника була настільки рідкісною, що навіть тоді, коли представники цієї професії потрапляли у в'язницю, їх все одно залучали до роботи за фахом.