Низовыми звеньями подполья были партийные организации, ячейки и группы, создававшиеся в городах и селах и подчинявшиеся горкомам и райкомам партии. При многих подпольных организациях создавались диверсионные и разведывательные группы. Для выполнения специальных заданий оставлялись также отдельные коммунисты и беспартийные.
Быстрое продвижение гитлеровских полчищ не дало возможности в ряде районов республики, особенно в западных, своевременно создать разветвленное подполье. Эвакуированным обкомам партии западных областей республики с помощью ЦК КП(б)У пришлось в восточных районах создавать из своих партийных и советских работников организаторские группы и позднее перебрасывать их через линию фронта. Так, в июле — августе 1941 г. ЦК КП(б)У подготовил и направил группу коммунистов из числа руководящих работников в Станиславскую область, две группы организаторов подпольной и партизанской борьбы были переброшены в Волынскую область, 38 коммунистов перешли линию фронта для организации борьбы в Ровенской области, 36 человек — во Львовской, 48 — в Дрогобычской, 23 — в Тернопольской, 24 — в Черновицкой. В июле 1941 г. ЦК КП(б)У подобрал и направил через линию фронта состав подпольного обкома и 18 секретарей для девяти подпольных райкомов партии в Каменец-Подольскую (ныне Хмельницкая) область, десятки коммунистов были направлены через линию фронта в Винницкую область. Однако не всем организаторским группам и подпольщикам удалось выйти в свои районы. Многие из них погибли во время перехода.
Больше времени для подготовки партийного подполья было в восточных областях республики, где партийные органы создали широкую сеть подпольных организаций.
В результате усилий ЦК КП(б)У и местных партийных органов к сентябрю 1941 г. комплектование сети партийного подполья на Украине в основном закончилось. Было создано 23 областных, 685 городских и районных подпольных партийных комитетов и 4316 первичных подпольных партийных организаций и групп. Для работы в подполье было выделено более 26 тыс. коммунистов.
Под руководством партийных органов работу по созданию сети комсомольского подполья проводили ЦК ВЛКСМ и ЦК ЛКСМУ. Заранее, до приближения фронта, был подготовлен состав девяти подпольных обкомов ЛКСМУ (Киевский, Черниговский, Полтавский, Сумской, Днепропетровский, Запорожский, Харьковский, Сталинский и Ворошиловградский), 213 горкомов и райкомов, 286 первичных организаций и групп, кроме того, подобрано и оставлено для выполнения специальных заданий в тылу врага 566 комсомольцев. Всего для подпольной работы на оккупированной территории республики привлекли около 3 тыс. комсомольцев.
Наряду с партийно-комсомольским подпольем на Украине была создана широкая сеть специальных подпольных разведывательных и диверсионных групп. Всего в течение 1941–1942 гг. подготовили, оставили или забросили на оккупированную территорию республики 84 такие группы, объединявшие 1189 человек. Кроме того, на оккупированную территорию республики за это время переправили 10 908 разведчиков-одиночек, которые выполняли специальные задания и одновременно вовлекали в свою работу местное население, способствовали развертыванию всенародной борьбы в тылу врага.
Важное значение придавалось подбору и подготовке явочных квартир, а также связных, поскольку технические средства связи тогда за редким исключением отсутствовали. В Киеве, например, было подобрано 64 явочные квартиры, в Харькове — 55, в Сумской области — 100, в Одесской — 104, в Ворошиловградской — 120. Связные выделялись из наиболее активных и энергичных коммунистов, комсомольцев и беспартийных советских патриотов, которым можно было поручать наиболее сложные задания.
Одновременно с созданием партийно-комсомольского подполья ЦК КП(б)У и местные партийные комитеты республики большое внимание уделяли организации партизанских сил. Самой распространенной формой партизанских формирований был отряд, состоявший из нескольких боевых подразделений. Вначале такие отряды насчитывали 30–40 человек в степных районах и 100 и больше человек в лесных. В ходе борьбы многие превращались в крупные партизанские соединения. Отряды комплектовались главным образом из партийного, советского и комсомольского актива по принципу строгой добровольности. Вступавшие в отряд, как правило, принимали присягу.
Источником организации и пополнения партизанских сил были также истребительные батальоны и подразделения народного ополчения. Многие из них после отступления советских войск переходили к партизанским методам борьбы. Так, в партизанские отряды Украины уже к 1 октября 1941 г. влилось 6236 бойцов истребительных батальонов. К партизанским действиям на Украине перешло 109 истребительных батальонов. Ряд отрядов сформировали оказавшиеся во вражеском окружении красноармейцы и командиры.
Всего на Украине в первые месяцы войны было создано для борьбы в тылу врага 2583 партизанских отряда и диверсионно-разведывательные группы с личным составом в 35 тыс. человек. Укреплялись партизанские силы: в отряды было направлено около 14 тыс. коммунистов и 8,5 тыс. комсомольцев.
С особой требовательностью подбирался командный состав партизанских формирований. Командирами, комиссарами, начальниками штабов отрядов назначались инициативные, с хорошими организаторскими способностями партийные, советские, комсомольские и военные работники, старые коммунисты, участники партизанского движения периода гражданской войны. С целью подготовки и обучения партизанских кадров в Киеве, Чернигове, Харькове, Сумах, Полтаве, Днепропетровске, Сталино, Ворошиловграде и других городах республики по решению ЦК КП(б)У были созданы специальные школы и краткосрочные курсы. В течение нескольких месяцев второго полугодия 1941 г. эти курсы закончили 4,5 тыс. человек. Действенную помощь в подготовке партизанских кадров и переброске их в тыл противника, особенно в первые месяцы войны, оказали политорганы Красной Армии, органы госбезопасности и НКВД, которые, обладая богатым опытом по борьбе с контрреволюцией и вражескими агентами, передавал свои знания будущим партизанам и подпольщикам, обучали их правилам соблюдения конспирации, указывали на слабые и сильные стороны противника.
Большое внимание уделялось материально-техническому обеспечению партизан и подпольщиков: заблаговременному созданию скрытых продовольственно-вещевых баз, складов оружия и боеприпасов, обеспечению их медикаментами, деньгами, радиоприемниками, стеклографами, ротаторами, печатными машинками, писчей бумагой, пропагандистской литературой, листовками и другими материалами. На многих предприятиях республики было налажено изготовление боевой техники и снаряжения для партизан и подпольщиков. Материально-продовольственные и оружейные базы закладывались в лесных подземных тайниках, в плавнях рек и других малодоступных местах. Предполагалось, что каждая из них обеспечит от 50 до 150 человек в течение 3–6 месяцев. Так, в Киеве и Киевской области было заложено 150 продовольственных баз и 160 складов с оружием, в Черниговской — около 200 баз и т. д.
Таким образом, уже в первые месяцы войны на Украине активно шла работа по подготовке партийно-комсомольского подполья и партизанских сил. Однако в ее проведении имелись большие трудности в связи с отсутствием достаточного опыта.
В связи с быстрым продвижением врага отдельные организации и отряды комплектовались поспешно, без тщательной подготовки. Не было создано единого руководящего центра партизанским движением, в результате чего не удалось избежать дублирования и некоторых просчетов. Это отрицательно сказалось на положении отдельных подпольных организаций и отрядов и было одной из причин ряда ошибок, провалов и гибели многих подпольщиков, особенно в начале их деятельности. В течение 1941 г. работу в тылу врага смогли развернуть лишь 13 подпольных обкомов, 110 горкомов и райкомов партии, свыше 280 первичных партийных организаций, четыре обкома комсомола, более 100 горкомов и райкомов ЛКСМУ и первичных комсомольских ячеек. Не была задействована и значительная часть партизанских формирований. И все же в начале войны своими усилиями партия и народ заложили прочную основу для широкого развития партийного подполья и партизанского движения в оккупированных районах страны, в том числе на Украине. Оставленные в тылу врага подпольные организации и партизанские отряды сыграли важную роль в дальнейшем развертывании массовой народной борьбы против оккупантов.