Нерешенность проблемы борьбы с иностранным шпионажем и связанные с этим негативные последствия наглядно проявились в годы русско-японской войны 19041905 гг.
С началом войны японцы приступили к массовой вербовке агентуры из числа местного китайского населения, а через некоторое время создали специальные школы для подготовки агентов-разведчиков. Под видом мелких торговцев, прислуги, нищих они проникали в тыл российской армии и стремились осесть в районе расположения воинских частей и соединений, на железнодорожных станциях и т. п. Благодаря хорошо поставленной разведывательной работе, в ходе всей войны противник был осведомлен о дислокации, численности, вооружении и перемещениях российских войск.
Борьбой с японским шпионажем на театре военных действий занимались разведывательные отделения штабов русских армий и некоторые другие учреждения. Для выявления вражеских шпионов они пытались использовать агентуру, гласные заградительные мероприятия. В тылу русских войск была сформирована, к примеру, специальная жандармская команда численностью 50 (позднее 100) человек, которая контролировала соблюдение режимных мер в прифронтовой полосе.
В ходе войны все дела по японскому шпионажу против Действующей армии, а также учет подозрительных лиц были сосредоточены у генерал-квартирмейстера при Главнокомандующем русскими войсками военного следователя полковника Огиевского, прикомандированного к управлению. К моменту заключения мирного договора с Японией им было рассмотрено 8 дел о шпионаже, по которым проходило 25 обвиняемых. Из них 16 человек были осуждены или казнены, а 9 человек оправданы.
Несмотря на уроки русско-японской войны, и в последующие годы продолжала иметь место практика привлечения к борьбе с иностранным шпионажем жандармских учреждений, а не создание сети специальных органов военного ведомства. Лишь в июне 1911 г. были образованы контрразведывательные отделения в штабах всех военных округов и тогда борьба с иностранным шпионажем в России приобрела новое качество. Однако, говорить о системе органов противодействия иностранным спецслужбам не приходится. Каждый штаб действовал самостоятельно, не учитывая общие положения и ту информацию о противнике, которая сосредотачивалась в Генеральном штабе.
Основные подходы к организации контрразведывательной работы, как они понимались в то время, были изложены в изданных 8 июня 1911 г. «Положении о контрразведывательных отделениях (КРО)» и «Инструкции начальникам контрразведывательных отделений». Согласно этим документам контрразведывательная работа строилась в России по смешанному линейно-объектовому принципу. С одной стороны, на территории обслуживаемых в оперативном плане военных округов, контрразведывательные отделения организовывали разработку иностранных дипломатических представительств и вызывающих подозрение в ведении шпионажа иностранных фирм. Для предотвращения утечки к противнику секретов осуществлялось контрразведывательное обеспечение военных штабов и некоторых других важных оборонных учреждений и объектов. С другой стороны, значительное место в оперативной деятельности КРО отводилось агентурному проникновению в конкретные зарубежные разведывательные органы, занимавшиеся ведением шпионажа против России.
Созданная контрразведывательная служба была нацелена исключительно на борьбу с разведывательно-подрывной деятельностью иностранных разведок в сфере военного шпионажа и не обращала внимания на противодействие политической разведке потенциальных противников. Считалось, что это прерогатива политической полиции. Так, руководство военного ведомства не учло, к примеру, факт использования японской разведкой крайне левых элементов в польском революционном движении для срыва мобилизации и антиимперской пропаганды в войсках.
Иным было отношение организаторов борьбы со шпионажем в самодержавной России к разведывательной составляющей в контрразведывательной работе. До Первой мировой войны результаты по разоблачению иностранных агентов во многих случаях достигались за счет получения соответствующей информации от закордонных агентов контрразведки. Достаточно активно работали в этом направлении контрразведчики Варшавского и Виленского военных округов. В частности, в октябре 1911 г. через закордонную агентуру КРО штаба Виленского округа удалось выяснить, что житель Ковны Кауфман является предположительно агентом германского разведчика капитана П. Флека, проживавшего в Кенигсберге. За Кауфманом было установлено агентурное и наружное наблюдение. В процессе его разработки было установлено, что он получил от неизвестного российского военнослужащего секретные материалы и будет лично переправлять их капитану Флеку. 19 января 1911 г. Кауфмана и его сообщника Сегаловича задержали по просьбе КРО при выезде за границу во Владиславе. Во время задержания у Сегаловича были обнаружены важные мобилизационные документы, а также копии приказов по Виленскому военному округу. Дальнейшее расследование показало, что, начиная с 1909 г. с германской разведкой сотрудничал также и писарь 28-й артиллерийской бригады унтер-офицер сверхсрочной службы И. С. Греблов. Все вышеуказанные лица, а также связанные и ними Шейн и Рабинович, были осуждены Виленским военно-окружным судом по ст. 111 Уголовного Уложения Российской империи к различным срокам каторжных работ.