Народные массы, в особенности солдаты, испытавшие на своей спине все зло сухомлиновских дел, поняли, что в высших военных сферах сидят изменники, предатели, немецкие шпионы. Отовсюду шли письма с требованиями убрать шпионов и вредителей.

Верховная следственная комиссия, куда входили люди, презиравшие рабочих и крестьян, ненавидевшие народ, и та вынуждена была признать, что «народ знает, что снарядов и пуль мало, он знает, что кто-то в этом виноват». 

Громадные жертвы, понесенные в боях, тяжело переживал народ. Но всего сильнее волновали передовых людей России те порядки, которые довели страну до катастрофического положения. Они знали, что те люди, которые так рьяно боролись с революционным движением, применяя страшные пытки против честнейших сынов России, были самыми отвратительными предателями и изменниками родины. 

Тучи начали сгущаться над Сухомлиновым. Союзники стали открыто выражать свое недовольство деятельностью его как военного министра России. Они считали, что политика Сухомлинова грозит России поражением и тем самым усилением нажима немцев на других фронтах. 

Сухомлинов народом был изобличен уже давно. Солдатская масса говорила во всеуслышание об измене в верхах военного управления. Русская буржуазия, жаждавшая военных успехов, также была недовольна действиями, Сухомлинова и его компании. 

Но низвергнуть Сухомлинова было нелегким делом. За его спиной стоял почти весь царский двор и влиятельные лица из русских помещиков, немецких генералов и знати, служивших тогда в России. Борьба с Сухомлиновым была трудна еще и потому, что его поддерживали лично Распутин, царица, Борис и Мария Павловна Романовы, не говоря о других влиятельных, лицах из придворных кругов. 

Гучков в своих показаниях на Верховной следственной комиссии отмечал: «Для меня, таким образом, вполне выясняется картина организованного вокруг военного министра иностранного шпионажа, и я все эти факты несу опять представителям правительств, убеждая их принять решительные меры к захвату этой организации, но я встречаю нерешительность, робость и колебания. Положение г. Сухомлинова чрезвычайно сильно, и борьба с ним может плохо закончиться для тех, кто на нее отважился».

Действительно, компания Сухомлинова применяла различные методы запугивания своих разоблачителей: снятие с должностей, обвинение в шпионаже, в провокации, объявление сумасшедшими, обвинение в казнокрадстве, аресты и убийства, ссылка. В этом отношении характерным являлось дело одного русского разведчика Александра Машека. 

Когда Машек в 1915 г. начал говорить о шпионской деятельности Сухомлинова, его сейчас же арестовали и зверски пытали, желая заставить его отказаться от своего заявления. Ему угрожали виселицей. Когда Машек все же продолжал доказывать, что Сухомлинов шпион, тогда Машека объявили сумасшедшим и без суда выслали. 

Почти одновременно на участке XI армии были задержаны два шпиона. Они были изобличены и по приговору полевого суда приговорены к смерти. Один из них, по фамилии Пикета, был сразу повешен. Исполнение же приговора над другим — Якубцом — было приостановлено по той причине, что он обещал дать сугубо важный материал. И, действительно, Якубец указал на важного австрийского агента, проживающего в Тарнополе под именем Николая Яроша. Работая в качестве парикмахера, Ярош в действительности был австрийским офицером. При аресте и обыске у «его были найдены: фотокарточка Яроша в форме австрийского офицера, заметки со сведениями, касающимися численности и расположения русских войск. 

Допрашивал этого шпиона следователь по особо важным делам при управлении генерал-квартирмейстера штаба верховного главнокомандующего. 

С 1908 г., после окончания академии «Марии Терезы», Ярош, он же Мюллер, находился на службе в военном министерстве в Вене. Во время войны Мюллер работал как в штабе австрийской действующей армии, так и в тылу русских войск. «Разведывательная работа на территории России, — говорил Мюллер, — проходила в полной согласованности с работой офицеров и разведывательных органов Германии. 

Так как наша работа производится одновременно и согласно с работой таких же офицеров в Германии, то мне, помимо связей и агентурной сети, раскинутой Австрией в России, в общих чертах известна такая же сеть, созданная в России Германией. Как австрийские, так и германские подотделы с особым составом агентов издавна находились в Петербурге, Москве, Киеве и в Варшаве, а также и в Одессе. Эти подотделы привлекали к себе на службу лиц, которым можно было бы безусловно доверять, и которые действительно обладали бы ценными для Австрии и Германии сведениями. Так, во всех этих городах у нас состояли на службе многие офицерские чины как общей, так и жандармской полиции». 

На каждого агента, работавшего в пользу Германии и Австрии на территории России, в разведывательных отделах генеральных штабов упомянутых стран имелось личное дело. В это дело вносились все данные об агенте, его биография, фотокарточка и весь агентурный материал, доставленный им за время работы. 

По словам Мюллера, в Петербурге шпионской деятельностью руководили лейтенант германской армии Бауэрмейстер и фон Люциус. Мюллер указал, что в г. Тарнополе имеется иезуитский монастырь, который служил важным пунктом австрийского шпионажа. В этом монастыре служители культа имели наблюдательный пункт, откуда при помощи подзорной трубы монахи следили за передвижением и сосредоточением русских войск. Посредством особых фонарей монахи подавали сигналы австрийцам. 

Но Мюллер раскрыл более важную тайну. Он, к изумлению следователей, стал называть фамилию Сухомлинова. 

Все шпионы в России, по словам Мюллера, были разбиты германским генеральным штабом на мелкие самостоятельные группы. Эта мера необходима была для того, чтобы на случай провала той или иной группы сохранить от гибели другие группы. Наиболее крупных шпионов в России около 48. В числе их был военный министр России Сухомлинов. 

«С ним Германия, — рассказывал Мюллер, — работала уже много лет до войны, но непосредственной связи с ним не имели, так как это было бы очень опасно. Работал же с министром Сухомлиновым германский генеральный штаб при посредстве своих агентов. С этими приближенными к Сухомлинову лицами Германия имела давнишние налаженные связи и непосредственно с ними вела работу. Таких посредников между Сухомлиновым и германским генеральным штабом было 10–12 человек. Из них был один военный инженер, служащий в русском военном министерстве, и лицо, занимавшее очень высокий пост в управлении почт и телеграфов. 

Я, — продолжал свои показания Мюллер, — дело генерала Сухомлинова видел лично и бегло его просмотрел. Дело довольно объемистое, и потому можно было заключить, что сведений от него было добыто очень много. Понятно, сведения эти касались военной мощи России и действительного количества войск, которое могла развернуть Россия, а также запасов оружия и боевых припасов. Я помню, что в этом деле имелись указания на те доклады, кок представлял генерал Сухомлинов государю императору, и на те слова, кои были высказаны государем императором генералу Сухомлинову».

На вопрос следователя: «Сознательно ли Сухомлинов оглашал секретные сведения перед известными лицами для передачи их в Германию?» — Мюллер ответил: «Да, Сухомлинов оглашал эти сведения намеренно для передачи их в Германию». И дальше: «На ваш вопрос — почему я так решительно это утверждаю — отвечаю: генерал Сухомлинов оглашал секретные сведения перед такими лицами, которые ничего общего с этими сведениями не имели. Так, например, мы получали от одного из знакомых генерала Сухомлинова, военного инженера, служащего в русском военном министерстве (фамилии его я не помню), секретные сведения вовсе не по инженерной части, каковые сведения сообщал этому инженеру генерал Сухомлинов». 

Допрос Мюллера происходил в Ставке, и Николай II знал показания Мюллера о Сухомлинове. Но все-таки эти важнейшие показания замалчивались. 

Но факты были настолько вопиющими, нажим союзников и буржуазии настолько силен, массы были так недовольны, что царский двор, скрепя сердце, вынужден был пойти на уступки и снять Сухомлинова с поста военного министра.