5 ноября 1896 г. Ямагата сформировал новый правительственный кабинет, целью которого стала подготовка к новой войне. Будущий противник не вызывал сомнений. На сей раз это была мощная Российская империя. В 1898 г. Россия взяла в аренду сроком на 25 лет Ляодунский полуостров с военно-морской крепостью Порт-Артур. Эти обстоятельства во многом инициировали разведывательную деятельность Японии против России.

Еще в январе 1892 г. в Японии открылись специальные школы по изучению России и русского языка. На подготовку тайной японской агентуры перед Русско-японской войной по некоторым данным было затрачено 12 млн. золотых руб. Величина этой суммы бросается в глаза, если учесть, что японцы имели громадное число почти даровых агентов, выполнявших различные разведывательные задачи из патриотических побуждений. Для пополнения своей агентуры японское правительство приняло следующие меры: все японцы, подлежащие призыву на воинскую службу, освобождались от нее, если они проживали в Сибири или Европейской части России. Они были обязаны Представить своему консулу лишь удостоверение о месте своего проживания. Таким образом, японское правительство получало возможность иметь внутри России кадры своих людей, хорошо осведомленных о том, что делается в России, знающих русский язык, фактически не неся для этого каких-то существенных затрат.

Японский шпионаж против России не ограничивался пределами Дальнего Востока. Его активно вели в европейской части страны. В первую очередь японскую разведку интересовало состояние Российского императорского флота. Известно, что кадровый морской офицер Ясуносуки Ямомото долгое время служил поваром в Одессе, собирая сведения о русской эскадре Черноморского флота. Активно велся японский шпионаж на Балтике. Военно-морским атташе посольства Японии в России до 1901 г. был опытный разведчик Хиросо. Он свободно владел русским языком и был высокопрофессиональным специалистом своего дела. Под его руководством в Петербурге действовала хорошо законспирированная организация японской военно-морской разведки. В конце 1901 г. Хиросо был отозван вице-адмиралом Хейкатиро Того обратно на японский военный флот и активно участвовал в его подготовке к войне.

Российское Морское министерство «посодействовало» японским шпионам в раскрытии военных секретов. Чтобы ошеломить японцев ускоренными темпами создания мощного флота на кораблестроительных верфях Санкт-Петербурга, руководство Адмиралтейства напустило на них японских дипломатов. Профессиональные морские разведчики моментально выяснили, в какой стадии находится строительство новейших русских броненосцев типа «Бородино». Они смогли даже точно рассчитать время приведения броненосцев в полную боевую готовность.

В японских вооруженных силах — армии и флоте — было много людей, хорошо знавших Россию. Начальник разведывательного отдела I императорской армии полковник Хагино прожил в России семь лет. Начальник главного штаба японских войск во время войны генерал Кадама долгое время жил в Амурской области. Он считался автором плана войны Японии с Россией. Коллеги по службе прозвали его «генерал-топор» за его высказывание о том, что в политике, как и в битве, острый топор лучше тупого кинжала.

Для массовой засылки японской агентуры на территорию Российской империи использовали всевозможные каналы. Особенно активно в конце XIX — начале XX в. использовалась трудовая миграция. Так, российским контрразведчикам было хорошо известно, что в 1891 г. японский министр иностранных дел официально обратился в российскую дипломатическую миссию с запросом о возможности найма японских артелей на предстоящие строительные работы в Сибири.

Японские шпионы собирали самую различную информацию о политическом и военном положении страны. Так, японскому Генеральному штабу были известны даже такие сведения, как, например, сколько солдат и продовольствия может поставить каждая российская губерния в случае войны, пропускная способность Транссибирской железнодорожной магистрали и КВЖД.

В марте 1904 г. начальник Енисейского ГЖУ полковник Глоба обратился к директору Департамента полиции Лопухину за указаниями о возможности привлечения к дознанию корейского подданного Акима. К этому времени негласным наблюдением было установлено, что владелец прачечной в г. Красноярске корейский подданный Кун-Чан-Сун, получивший при крещении имя Иоаким (на вывеске заведения значилось Аким), «постоянно посещает Красноярский вокзал Сибирской железной дороги и во время прибытия воинских поездов подходил к воинскому и продовольственному пункту, получал много писем из Харбина, Мукдена и других пунктов. Письма эти после прочтения сжигал в печке…».

2 апреля 1904 г. он помог скрыться резиденту японской разведки, который следовал с партией высылаемых с Дальнего Востока по подозрению в связях с японской разведкой. Аким был арестован. Следствие установило, что в его задачи входил сбор информации о воинских частях, направляемых в Маньчжурию. Дальнейшая судьба Акима неизвестна.

Предметом особого внимания японских разведчиков стала зона, примыкающая к Транссибирской железнодорожной магистрали. Для получения необходимой информации они прибегали порой к самым экстравагантным способам. Один из таких способов подробно описал в своих записках военный агент Великобритании в Германии Я. Гамильтон.

На одном из дипломатических приемов японский военный агент в Берлине майор Фукушима завел разговор, какое расстояние способна пройти лошадь под всадником при ежедневной работе и с определенной скоростью. Он заявил, что его лошадь в состоянии перевезти его из Берлина прямо во Владивосток. Возник спор, и его подняли на смех. Заключив пари, он пустился в путь и за 304 дня преодолел расстояние от Берлина до Владивостока, правда, на не одной и той же лошади. Естественно, в пути им были собраны самые широкие и весьма ценные сведения для японского Генерального штаба в преддверии войны с Россией. За этот «подвиг» Фукушима был объявлен национальным героем Японии и досрочно произведен в подполковники, а затем без задержек в полковники и генерал-майоры. Он возглавил 2-е отделение Генерального штаба (разведывательное), а позже был начальником штаба I японской армии барона Куроки.

Японские офицеры-разведчики проникали во все сферы российского общества. Художник и коллекционер князь Сергей Щербатов собрал уникальную коллекцию японских гравюр. В своих воспоминаниях впоследствии он писал: «Ко мне повадился торговец-японец, узнавший, что я собираю гравюры. Приносил их он в большом количестве, и плохие, и среднего качества, а также и самого лучшего, лубочные и ценные, видимо, плохо разбираясь столь же в их оценке, сколько и в их качестве. Носил он их и Грабарю, и мы изумлялись их дешевизне, позволившей значительно пополнить наши без того уже содержательные собрания. Такая оказия словно с неба свалилась! Когда японец не заставал меня дома, он подолгу ждал меня, терпеливо беседуя с моим старым словоохотливым слугой Федором, расхваливавшим мне его "обходительность". "Хоть и торговец, а такой деликатный и, видать, умный". Каково было наше изумление, когда мы впоследствии в иллюстрированном журнале признали в богато увешанном орденами адмирале японского флота нашего японца — торговца гравюрами, каждая черточка лица которого нам была так хорошо известна. Как оказалось, он под разными личинами шпионил в Петербурге. Он много со мной говорил, но от меня полезных тайн не узнал: это сознание было для меня успокоительно».

Японскую разведку интересовали не только мобилизационные возможности военных округов, находящихся в непосредственной близости от возможного театра военных действий. Особому анализу подвергались настроения различных слоев общества, внутриполитическая обстановка: рост революционных и оппозиционных настроений, сепаратистские выступления на Кавказе, в Финляндии, Польше, Северо-Западном регионе Российской империи. Военно-стратегические планы Японии предполагали накалить внутреннюю обстановку в стране с целью быстрого истощения государственных ресурсов. Таким образом, японская разведка все больше начинала преследовать помимо военных общеполитические цели. Заметим сразу, что Японии в немалой степени удалось реализовать эти планы.