Достаточно успешно велась борьба с японскими агентами из китайцев. Как отмечалось в отчете разведывательного отделения, «лучшим приемом было признано ведение ее посредством китайцев же». Это дело было поручено китайскому купцу, проживающему в Хабаровске, Тифонтаю. В отряде, который сформировал он для борьбы с японскими диверсантами, оказались опытные китайские полицейские, которые «действительно раскрыли несколько шпионских гнезд». Кроме этого, розыском неприятельских лазутчиков занимались также сотрудники начальника транспортов Маньчжурских армий Генерального штаба генерал-майора Ухач-Огоровича.
Для координации ведения всех дел о шпионаже было принято решение о прикомандировании в Управление генерал-квартирмейстера при Главнокомандующем специального военного следователя, проходившего службу в 4-м армейском корпусе, полковника Огиевского, «который был уже знаком с организацией шпионажа в Японии». Полковником Огиевским было рассмотрено 18 дел о неприятельских шпионах, при этом вина 16 человек была доказана. В ходе следствия выяснилось, что японская разведка в инструкции своим агентам из числа китайцев рекомендовала обращать внимание на цвет и шифровку на погонах военнослужащих русской армии. Это позволяло установить принадлежность к войсковым частям, дислоцирующимся в этом районе. Огиевский предложил поднять вопрос о снятии погон, как делалось это в японской армии, однако такая мера была признана излишне радикальной, поскольку могла бы отрицательно сказаться на состоянии дисциплины.
В начале войны были приняты меры по предупреждению шпионской деятельности. В частности, последовало распоряжение о выселении японцев с территории возможного театра военных действий, Контрразведчики установили, что японцы активно пользовались услугами лиц, работавших под видом корреспондентов, содержателей кафе-шантанов и меблированных комнат. Однако соответствующий полицейско-жандармский надзор за ними был установлен не сразу. Система японской разведывательной службы в войсках строилась следующим образом. В тыловые учреждения русской армии засылались небольшие группы из 3-4 человек, которые самостоятельно нанимали агентов-связных, занимавшихся доставкой донесений в японское разведывательной бюро. Такая группа либо выполняла какую-то определенную задачу, либо отслеживала передвижение войск. В качестве основной базы такой группы использовалась мелочная лавка или хлебопекарня. Способы доставки сведений варьировались от самых примитивных, когда они зашивались в одежду, прятались в подошвы обуви, заплетались в китайские косички, до более изощренных, когда кусочки навощенной бумаги зашивались в хомуты лошадей или вкладывались в специально выдолбленные пустоты повозок.
В начальный период войны большую помощь японской разведке оказывали китайские власти. Так, незадолго до отступления русских войск от Мукдена один из японских генералов под видом китайского сановника в сопровождении пышной свиты свободно разъезжал по улицам города. Мукденское купечество активно поддерживало отношения с японским разведывательным бюро. В глубоком тылу русской армии были случаи разоблачения шпионов, наблюдавших за ходом мобилизации и передвижением русских войск. Так, в Екатеринославе были задержаны два австрийских подданных, которые при помощи подкупа писарей воинского начальника получали сведения о ходе мобилизации и пересылали их через Австрию в Японию. На станциях Сибирской железной дороги японские агенты отслеживали передвижение воинских частей, число вагонов в составах, название частей и т. д. К своим заданиям японские разведчики подходили очень ответственно и тщательно фиксировали каждый малозначительный факт. В одном из перехваченных контрразведкой донесений говорилось: «Офицеры очень молоды, к делу относятся легкомысленно. Очевидно, многие из них назначены по протекции». В документах были зафиксированы факты задержания японских шпионов в госпиталях. Японцы были хорошо осведомлены как о числе больных, так и об уходе за ними.
Одной из главных задач японской военной разведывательной службы в Маньчжурии была дезорганизация тыла русской армии. Наряду с выполнением чисто разведывательных заданий японцы особое внимание уделяли организации диверсий, распространению слухов, инициировали деятельность в зоне военных действий мародеров и искателей легкой наживы. Здесь зоной особого внимания японских спецслужб стала линия КВЖД. Диверсионные отряды, действовавшие по линии железной дороги, главной мишенью выбирали, как правило, охраняемые железнодорожные мосты. Многие из них, особенно деревянные, намечалось просто сжечь, а более основательные — взорвать. Таких попыток было предпринято немало, и русским пограничным стражникам, сторожевым командам и казачьим дозорам приходилось быть в состоянии постоянной боевой готовности, проявлять повышенную бдительность и храбрость в вооруженных стычках у охраняемых объектов. Нередко в составе диверсионных групп оказывались высокопоставленные японские офицеры, которые выполняли роли инструкторов и руководителей таких групп.
Так, 30 марта 1904 г. в 20 верстах к юго-западу от станции Турчиха Китайско-Восточной железной дороги конный разъезд 26-й сотни Заамурского округа отдельного корпуса пограничной стражи в составе Павла Чежина, Ивана Прокопова и еще трех казаков обнаружил стоянку группы всадников. При них было еще пять лошадей с тяжело навьюченными мулами. При попытке их задержать завязалась перестрелка, и удалось захватить только двух человек в монгольских халатах, а остальные четыре человека скрылись. Во время обыска груза было обнаружено 24 килограмма пироксилина, бикфордовы шнуры с запалами к ним, оружие, палка с искусно вмонтированным кинжалом, литографированная инструкция подрывного дела, записные книжки, топографические карты местности, приспособления для порчи телеграфа, привязные китайские косы и другое стандартное имущество японских разведчиков и диверсантов. Один из задержанных, говоривший по-английски, объяснил, что они офицеры японской службы.
Пленные были доставлены в Харбин, где на допросе выяснилось, что задержанные оказались руководителями диверсионной группы. Это были высокопоставленные японские офицеры — полковник из японской Высшей военной школы в Пекине Шязо Юкоко и пехотный капитан Тейско Оки. Кроме этого, в составе группы находились четыре студента, изучавшие в Пекине китайский язык. Старший группы полковник Юкоко был одет в костюм тибетского ламы. Их группе были поставлены следующие задачи: проникнуть через территорию Монголии на линию КВЖД, взорвать там железнодорожный мост и вывести из строя телеграфную линию. Генерал, инструктировавший подполковника Юкоку перед отправкой в русский тыл, особо подчеркнул, что его подчиненный может вернуться на родину только в том случае, если выполнит возложенное на него задание. 7 апреля 1904 г. диверсанты были переданы Временному военному суду в г. Харбине и по законам военного времени приговорены к смертной казни. 12 апреля четыре японца из этой группы были убиты монголами в деревне Уланан в 80 ли южнее ставки сторонника Японии Джалайд вана.
Японские спецслужбы активно использовали для диверсий в русском тылу отряды местных, маньчжурских разбойников-хунхузов, предводители которых получали солидное материальное вознаграждение. Главными объектами хунхузов становились русские тыловые транспорты с продовольствием, военным снаряжением и амуницией. Нередко они нападали на небольшие гарнизоны, портили железнодорожное полотно и выводили из строя телеграфные линии. Одной из таких банд в это время командовал Чжан Цзолин, который впоследствии стал маньчжурским правителем.
Большим авторитетом среди китайского населения пользовался в это время последний главарь независимой Дьяпигоуской вольницы, сыгравшей заметную роль еще во время боксерского восстания в Китае, Хандэнгю. Он был в состоянии выставить до 10 тыс. человек собственного войска и вызывал вполне обоснованные опасения русского командования в силу того, что контролируемая им территория находилась на левом фланге российских войск. По сведениям русской разведки, японцы начали с ним переговоры по поводу перехода к ним на службу. Поэтому военному комиссару Гиринской провинции Генерального штаба полковнику Соковнину в мае 1905 г. было поручено принять «всевозможные меры», чтобы «склонить на нашу сторону китайца Хандэнгю, предложив ему и его людям щедрое денежное вознаграждение, так как имелись сведения, что Хандэнгю и его люди поступают на службу к японцам».