Однако ни героизм советских бойцов, ни отдельные успехи не могли изменить неблагоприятное в целом соотношение сил. В секретном, сообщении командующему соседней Северной армией (своему бывшему заместителю по V армии) Ремневу Сиверс писал в конце марта: «…Положение на фронте неважное, чересчур большой фронт, и чересчур ничтожные силы прикрывают его. Немцы помаленьку продвигаются каждый день, а ко мне силы почти не прибывают, и держать фронт становится все труднее и труднее». К тому же часть сил пришлось снимать с фронта на подавление контрреволюционных выступлений в Сумах и Белополье.

В конце марта части армии оставили Путивль и Ворожбу и отошли по приказу главкома в район Готня — Гайворон. Попытка немцев 5 апреля захватить Готню была, отбита с большими для них потерями в результате умелых и энергичных действий Фронтового революционного и Ярославского отрядов. Части стали готовиться к контрнаступлению, но Антонов-Овсеенко, обеспокоенный прорывом немцев через фронт IV армии к Харькову, приказал срочно перебросить основные силы V армии на станцию Дергачи под Харьковом.

Выгрузив части в Дергачах из эшелонов, Сиверс выслал разведку в сторону Пересечной, где вела бой группа Примакова. Установить связь с группой не удалось, так как она уже оставила Пересечную. Несмотря на это, части V армии развернулись в боевой порядок и перешли в контрнаступление, отбросив противника к западу от Дергачей. На 8 апреля штаб принял телеграфное сообщение о том, что немцы входят в Харьков. Чтобы избежать окружения, армия отошла в район Валуек.

В приказе по армии Сиверс отмечал, что хотя части оказались на последних северо-восточных рубежах южных республик и не имеют связи с остальными войсками, они будут твердо оборонять свои позиции, прикрывающие железнодорожные линии, по которым шла эвакуация в Советскую Россию хлеба, сахара, угля, станков и других ценностей с Украины.

На новых рубежах армия получила пополнение из местных рабочих: 1-й Пролетарский Валуйский полк, Острожский отряд и так называемую «Валуйскую крестьянскую армию».

Луганский отряд Ворошилова убыл из армии еще 5 апреля. Он выехал в Донбасс на переформирование, где стал костяком для новой армии. 18 апреля Сиверсом была получена телеграмма главкома: «Ваша армия переименовывается во II Особую. V является армия Ворошилова».

Части II Особой заняли отведенные им боевые участки. Не имея достаточно сил для создания сплошного фронта, Сиверс организовал глубокую очаговую оборону с более чем полутора десятками опорных пунктов. В помощь войскам вдоль линии фронта была создана завеса из крестьянских партизанских и разведывательных отрядов.

Командир-коммунист Рудольф Федорович Сиверс уделял особое внимание созданию и действиям «агитационно-организаторских отрядов». Именно эти отряды, проводившие огромную работу среди крестьянской бедноты прифронтовой полосы, не только сколотили силы завесы, но и помогли бедноте организоваться, наладить снабжение армии продовольствием.

Большая военно-организаторская и политическая работа, проведенная в самые короткие сроки, дала свои плоды. В целом ряде боевых столкновений части II Особой добились заметного успеха. На купянском направлении продвижение немцев было окончательно остановлено, на западном — красные части сами продвинулись вперед и заняли ряд населенных пунктов.

Насколько позволяли силы и условия, Сиверс старался проводить гибкую маневренную тактику, рассчитанную на охват и окружение противника, и требовал этого от всех командиров. Вот характерный пример.

В начале мая во время боев за станцию Николаевка немцы пытались захватить станцию, выслав вперед бронепоезд и высадив десант. В ответ на это советские части произвели искусный обходный маневр, поставивший противника под угрозу окружения. Спасаясь от окружения, немцы прекратили атаки и спешно отступили.

Части армии настолько усилились, что главком задумал организовать их внезапное для немцев наступление на Харьков. Была произведена соответствующая перегруппировка сил, но осуществить этот план не пришлось: начались мирные переговоры. Известие о них было встречено многими бойцами армии неодобрительно: не учитывая всей сложности общей обстановки, люди рвались в бой за немедленное освобождение Украины. Буквально за день до прекращения военных действий передовые части Сиверса серьезно потеснили немцев и захватили у них большие трофеи, в том числе броневик.

В десятых числах мая, в соответствии с условиями мира, украинские советские войска, отошедшие к границам РСФСР, начали расформировываться. Их бойцы в одиночку и целыми отрядами стали добровольно вступать в Красную Армию Советской России.

Основное ядро II Особой армии было преобразовано в соединение, названное Отдельной (или Особой) Украинской бригадой товарища Сиверса.

Формирование бригады проходило в городе Балашове, ставшем летом 1918 года одним из опорных пунктов в борьбе с южной контрреволюцией во главе с Красновым, тем самым Красновым, которого Сиверс уже бил в 1917 году под Петроградом. После занятия немцами в мае 1918 года западной части Донской области с Ростовом белоказачий «круг» избрал Краснова атаманом. Тот самый Краснов, который громогласно поносил в 1917 году большевиков как «немецких шпионов», стал прямым агентом германского империализма в борьбе с Советской Россией. В течение полутора месяцев немцы передали Краснову огромное количество оружия и боеприпасов.

Белоказачьи части Краснова повели наступление на север (в направлении Новохоперск — Поворино — Балашов) и северо-восток (на Царицын). На обоих направлениях большую роль в борьбе с белыми сыграли отошедшие с Украины части: под Царицыном — Ворошилова, севернее — Киквидзе и Сиверса.

Основу бригады Сиверса составляли украинские рабочие и крестьяне, среди которых особо выделялись своей стойкостью донецкие шахтеры и металлисты. Все они уже прошли боевую школу борьбы с немецкими оккупантами и их гайдамацкими прихвостнями, а некоторые участвовали еще и в боях с калединцами за Ростов. К этому ядру прибавлялись новые части и пополнения из жителей Балашова и его округи.

В начале октября 1918 года в связи с образованием Южного фронта бригада вошла в состав IX армии фронта во главе с выдающимся советским полководцем А. И. Егоровым.

В течение лета — осени 1918 года под Поворином — Балашовом не прекращались упорные бои. Краснов считал своей главной задачей взятие Царицына, но был вынужден все больше и больше сил перебрасывать на северный участок.

О том, каким упорством отличались бои под Балашовом, говорит простой факт: части Отдельной Украинской бригады в августе — ноябре ходили в наступление одиннадцать раз! Однажды летом во время совместного с 16-й дивизией Киквидзе наступления на группу генерала Дудакова под Урюпинской вследствие разрыва флангов бригада попала в окружение. Части Дудакова стремились во что бы то ни стало уничтожить бригаду. У окруженных вышли все снаряды, затем патроны. Казалось, катастрофа неизбежна. Но ни сам Сиверс, ни его бойцы не пали духом. Отважные воины ложным маневром обманули противника и нанесли ему внезапный и яростный штыковой удар. В результате бригада не только вышла из окружения, но и нанесла белым очень большие потери. Когда В. И. Киквидзе, боевой друг и соратник Сиверса еще по борьбе на Украине, после этого боя увиделся с Рудольфом Федоровичем, первыми его словами были:

— Как же ты вышел из кольца?

На что Сиверс, улыбнувшись, ответил со своим обычным лаконизмом:

— Воюют не числом, а умением.

Посетивший части бригады председатель политической секции при Высшей военной инспекции Красной Армии П. М. Петров писал 5 сентября 1918 года в газете «Известия»: «Бригада Сиверса является революционной в полном смысле этого слова. В течение 9 месяцев она геройски сражалась против Каледина, немцев, гайдамаков, офицеров и казаков».