Согласно решениям XVII съезда партии, основными органами наркоматов стали главные производственные или производственно-территориальные управления³⁸. Это означало, что среднее звено в управлении — объединение — трест — сокращалось и начался переход от четырехзвенной системы управления (наркомат — объединение — трест — предприятие) к трехзвенной системе (главк — трест — предприятие) или двухзвенной (главк — предприятие). Двухзвенная система управления нашла применение в основном в машиностроении и станкостроении, а трехзвенная — в металлургической, химической, топливной и некоторых других отраслях. Таким образом, крупные предприятия передавались в ведение главков и непосредственная связь наркоматов с крупными предприятиями усилилась. Тресты сохранялись там, где большое количество предприятий было разбросано территориально и главк не мог обеспечить конкретное руководство ими.

В результате проведенной перестройки системы управления к началу 1936 г. Наркомат тяжелой промышленности руководил непосредственно 355 крупными предприятиями вместо 32 на начало 1933 г. В 1936 г. больше половины продукции тяжелой промышленности было выпущено на предприятиях, подчиненных непосредственно Наркомату³⁹. Переход к трехзвенной и прежде всего двухзвенной системе управления повышал роль предприятий в системе управления промышленностью, как это предусматривалось постановлением ЦК ВКП(б) от 5 декабря 1929 г. «О реорганизации управления промышленностью»⁴⁰.

Ликвидация функциональной системы управления, повышение качества организационно-практического руководства привели к значительным изменениям в структуре аппаратов управления промышленностью. Существенно уменьшено было число структурных подразделений в наркоматах, главках и заводоуправлениях. Например, в аппарате Наркомлегпрома было 409 структурных подразделений, уже в начале перестройки осталось только 160; в Наркомлесе вместо 262 подразделений осталось 150; аппарат Наркомпути был сокращен в первые полтора года после постановления ЦК ВКП(б) и СНК СССР «О работе железнодорожного транспорта» на 50%, а аппарат Наркомзема — на 54%⁴¹.

В ходе выполнения постановления ЦК ВКП(б) и СНК СССР «О работе угольной промышленности Донбасса» были значительно сокращены штаты трестов, рудоуправлений и шахт. Например, по тресту Кадиевуголь было сокращено 1092 человека, или 32,0% работников аппарата, по Лугануглю — 447 человек, или 24,4%, по тресту Донбассантрацит — 1541 человек, или 23,7%⁴².

Вновь созданные главки промышленных наркоматов строились по производственному или производственно-территориальному признаку. Главки отвечали за подчиненный им участок работы в целом, обладали правами и обязанностями по всем без исключения вопросам руководства подчиненными им организациями⁴³.

Основной задачей главков в годы второй пятилетки было конкретное, оперативное руководство предприятиями, прежде всего в области техники. В центре их внимания были вопросы технической политики, освоения техники, борьбы за качество продукции, за освоение передовых технических нормативов. В работе главков сочетались техническое и плановое организационно-хозяйственное руководство отраслью и предприятиями. В их распоряжении находились все ресурсы отрасли — и финансовые и материальные. Полноправными хозяевами становились основные подразделения главков — производственно-распорядительные отделы, отвечавшие за производство не по частям, а в целом. Другими важнейшими отделами главков в соответствии с их основными функциями были: технический отдел для определения путей овладения новой техникой, разработки всех вопросов технического развития отрасли и технико-экономических показателей, отдел капитального строительства, отдел снабжения и сбыта. Оставшиеся некоторые функциональные секторы наркоматов — плановый, финансовый и другие — были ограничены в правах и не могли руководить низовыми звеньями через голову главных управлений. Они превращались в подсобный аппарат Наркомата и его главных управлений.

Главки создавались по принципу узкой специализации, хотя и сохранялись еще некоторые комбинированные главки, как, например, Главное управление металлопромышленности (ГУМП), объединявшее черную металлургию, железорудную, коксохимическую, огнеупорную промышленность и промышленность редких металлов. Эти отрасли были тесно связаны между собой и подчинялись задачам развития черной металлургии. Но такие комбинированные главки являлись исключением⁴⁴.

Разукрупнение главков, их специализация способствовали усилению конкретного руководства предприятиями. Постановлением Совнаркома СССР от 31 августа 1933 г.⁴⁵ «О специализации и разукрупнении главных управлений Наркомата тяжелой промышленности и ликвидации ряда объединений и трестов» из Главного управления машиностроительной промышленности были выделены Главстанкоинструмент, Главсельмаш, Главторгмаш, Главметиз. Одновременно были ликвидированы объединения «Союзинструмент», «Станкообъединение», «Союзсельмаш», Союзхозметиз и другие, а также тресты. Подобная реорганизация была проведена в цветной металлургии, электротехнической и химической промышленности. Были организованы также специализированные машиностроительные главные управления в системе Наркомата тяжелой промышленности (Главные управления горного, легкого, среднего машиностроения)⁴⁶, а всего в системе Наркомтяжпрома было утверждено 33 главка⁴⁷; разукрупнены были также главные управления Наркомата легкой промышленности⁴⁸.

Перестройка внутренней структуры наркоматов повысила руководящую роль главных производственных управлений. При их организации в 1934 г. они не были хозрасчетными единицами, не имели своих оборотных средств. Значение главков как руководящих органов всей хозяйственной деятельностью подчиненных им предприятий и трестов значительно увеличилось после постановления ЦИК и СНК СССР от 15 июля 1936 г. «О хозрасчетных правах главных управлений промышленных народных комиссариатов»⁴⁹. Этим постановлением главкам наряду с производственными были приданы также сбытовые и снабженческие функции на основе хозяйственного расчета. Существовавшие хозрасчетные конторы по сбыту и снабжению были преобразованы в отделы главков. Главкам было предоставлено право заключения генеральных и прямых договоров по сбыту и снабжению, иметь собственные оборотные средства и самостоятельный баланс по операциям сбыта и снабжения, пользоваться банковским кредитом, а также право перераспределения оборотных средств, прибылей и амортизационных отчислений подчиненных им хозяйственных органов и предприятий. Этим решением значительно расширились возможности главков (а через них и наркоматов) активно направлять все стороны хозяйственной деятельности предприятий и отрасли в целом.

Существенным изменениям подверглись также структурное построение аппарата на предприятиях и система управления на них. В эти годы усиливался процесс укрупнения предприятий и концентрации промышленности. Вступили в строй гиганты индустрии. Уже к началу 1932 г. больше половины рабочих и служащих в машиностроительной промышленности было занято на крупных заводах с числом рабочих свыше 5 тыс. (53,3% всех рабочих и служащих этой отрасли работали на 7,7% общего числа заводов)⁵⁰. Более сложными стали производственный процесс, внутризаводское планирование, организация снабжения и сбыта. Все это диктовало необходимость сосредоточения на предприятиях лучших организаторских и технических сил.