Накануне принятия решения Политбюро по военной разведке, 25 мая 1934-го, Артузов был вызван в Кремль. Он вошел в кабинет Сталина в 13 часов 20 минут. Там уже находились Ворошилов и Ягода. Беседа продолжалась шесть часов. Уходить в другое ведомство, хотя бы и на родственную работу, с понижением в должности и без особых перспектив продвижения по службе Артузову явно не хотелось. Но после слов Сталина: «Еще при Ленине в нашей партии завелся порядок, в силу которого коммунист не должен отказываться работать на том посту, который ему предлагается», возражать было нечего. Хорошо представляя себе обстановку и взаимоотношения в военном ведомстве, Артузов сказал Сталину, что ему одному трудно будет вписаться в новый коллектив, попросив разрешения взять с собой группу сотрудников, которых он знал по работе в ИНО. Сталин согласился и вместе с Артузовым в военную разведку пришли 13 сотрудников ИНО. Со Сталиным явно была согласована и расстановка новых людей: без приказа генсека Ворошилов не отдал бы «пришельцам» важнейшие посты в военной разведке.
Наиболее крупными фигурами из этих 13 сотрудников были Федор Карин и Отто Штейнбрюк. И не только потому, что вскоре возглавили важнейшие отделы. В ноябре 1935 года в Красной Армии были введены персональные воинские звания. Звание комкора (нынешний генерал-лейтенант) получил как имевший опыт строевой службы новый начальник Управления Семен Урицкий. Звания корпусных комиссаров, по рангу соответствующее званию комкора, — уже бывший (к тому моменту) начальник Управления Берзин и Артузов. Эти же звания политсостава были присвоены Карину и Штейнбрюку, тем самым начальники отделов были приравнены к руководству военной разведки.
Времени на раскачку у Артузова не было. Ему предстояло проанализировать работу Управления и предложить свои рекомендации по реорганизации центрального аппарата военной разведки в течение месяца. 23 июня 1934 года подробный доклад был готов. Основные его положения в предварительном порядке были доложены наркому Ворошилову. Возражений с его стороны не последовало. Доклад о состоянии агентурной работы Управления и мерах по ее улучшению был адресован «Секретарю ЦК ВКП(б) Сталину». Второй экземпляр доклада предназначался Ворошилову. Неизвестно, находился ли в это время в Москве начальник Управления Берзин. Если так, то сам факт обращения с докладом через его голову, да и через голову наркома непосредственно к Сталину, был беспрецедентным. «Сталин, направляя меня в Разведупр, сказал, что я должен быть там его глазами и ушами», — говорил Артузов в 1936 году. Этим можно объяснить действия обычно тщательно соблюдавшего субординацию Артузова, пославшего свой первый доклад в новой должности на самый «верх».
Артузов был в военной разведке человеком новым, ему нечего было скрывать или приукрашивать. В докладе отмечалось, что после провалов агентурная сеть Управления фактически перестала существовать в Румынии, Латвии, Франции, Финляндии, Эстонии, Италии; сохранилась она в Германии, Польше, Китае, Маньчжурии, в некоторых странах (Турция, Персия, Афганистан, Корея) разведка велась полулегальным путем, когда резидент и его помощники работали «под крышей» полпредств, консульств и торговых представительств.
Анализируя работу в Германии, Артузов отмечал, что там имеется несколько ценных агентов, дающих документы об организации, вооружении и боевой подготовке рейхсвера, а также данные германских военных атташе об иностранных армиях, в частности о Красной Армии. Одним из серьезных недостатков работы в этой стране Артузов считал то, что несколько работников нелегальной резидентуры были получены в свое время от ЦК германской компартии. Иностранные коммунисты часто не исполняли приказы о прекращении всяких связей с партией в случае перехода на разведывательную работу. Артузов подчеркивал, что в случае провала в Германии гестапо легко может доказать связь между компартией и советской военной разведкой. Он рекомендовал «как правило, не использовать на разведывательной работе в данной стране коммунистов данной страны». Но такая рекомендация в очередной раз осталась на бумаге.
Новому заму по разведке, конечно, сразу же доложили об операции «Рамзай». Сказали о составе группы, задачах, которые ставились при разработке операции в 1933 году. Познакомился Артузов и с личным делом Зорге и имел представление о фигуре нелегального резидента военной разведки в этой стране. Но реальных результатов у «Рамзая» в июне 1934-го еще не было и сказать об этой группе в докладе он ничего не мог. Свой вывод о разведывательной работе в Японии он сделал только на основе информации о работе легальной резидентуры ИНО в Токио. Вывод был неутешительным: «Ведение агентурной работы в Японии из стен наших официальных представительств настолько чревато опасностями, что от этого надо отказаться».
Для улучшения работы Управления Артузов предложил остановить текучесть агентурных кадров. Для этого предлагалось принять особое положение о продвижении агентурных работников по службе. Работа за кордоном приравнивалась к службе в действующей армии на фронте со всеми вытекающими отсюда льготами. Предлагалось также разрешить агентурным работникам учебу в военных академиях с годовыми перерывами для заграничной работы. Создавался особый жилой фонд для возвращавшихся из-за рубежа агентурных работников, улучшалось их материальное и денежное содержание. Соответствующие меры были приняты, и утечку опытных кадров из Управления удалось приостановить.
Наиболее важные предложения Артузова касались изменения аппарата Управления. Прежняя структура сложилась в середине 1920-х и до 1934 года не менялась. В Управлении было пять отделов и несколько вспомогательных отделений. 1-й отдел занимался войсковой разведкой, 2-й — агентурной, 3-й — информационно-статистической работой, 4-й — контактами с иностранными военными атташе, 5-й — дешифровальной работой.
Артузов с его большим опытом работы в ИНО понимал необходимость перестройки структуры военной разведки с учетом новой международной обстановки. Он предложил сократить аппарат Управления и ликвидировать деление на добывающий и обрабатывающий аппараты, — иначе говоря, расформировать имевшие многолетний опыт 2-й и 3-й отделы.