В первой половине 1937 года произошли очередные провалы в резидентурах военной разведки в некоторых европейских странах. Сталин знал и о провалах, и о письме Артузова. Поэтому он решил лично провести совещание руководящих работников Разведупра. Оно состоялось 21 мая 1937 года. Выступая перед руководителями военной разведки, Сталин сказал: «Разведка должна постоянно учитывать, что есть враги прямые и враги возможные. Все союзники — возможные враги, и союзников тоже надо проверять. С точки зрения разведки, у нас не может быть друзей. Поэтому никаких секретов никому не давать. При сотрудничестве с чехами давать им материалы, не вскрывающие наши планы. Считать чехов врагами наших врагов. Необходимо полностью учесть урок сотрудничества с немцами на основе тесных взаимоотношений с ними после Рапалло...»

Я. Берзин на этом совещании не присутствовал. Тем не менее Сталин счел необходимым заявить: «...Товарищ Берзин — честный человек, но проглядел и со своим аппаратом попал в руки немцев...» Далее сделал неожиданный вывод: «...Сеть Разведупра нужно распустить. Лучше распустить всю. Вызвать людей, присмотреться к ним и после тщательной проверки некоторые из них могут быть использованы в другом направлении, можно посылать их в другие места».

Сталин не забыл и о докладной записке Артузова. Видимо, именно тогда он и решил предпринять кардинальные меры по обновлению аппарата военной разведки. Завершая свое выступление, сказал: «Мы должны создать свою сильную разведку. Хорошая разведка может отсрочить войну. Сильная разведка врага и наша разведывательная немощь — это провокация войны. Нельзя быть слепыми, надо иметь глаза. Значит, надо иметь сильную разведку и контрразведку».

2 июня 1937 года состоялось расширенное заседание Военного совета при наркоме обороны. Сталин прибыл на это совещание и выступил с докладом. Касаясь проблем в работе военной разведки, он сказал: «Во всех областях разбили мы буржуазию, только в области разведки оказались битыми как мальчишки, как ребята. Вот наша основная слабость. Разведки нет, настоящей разведки. Я беру это слово в широком смысле слова, в смысле бдительности и в узком смысле слова также, в смысле хорошей организации разведки. Наша разведка по военной линии плоха, слаба, она засорена шпионажем. Наша разведка по линии ПУ возглавлялась шпионом Гаем, и внутри чекистской разведки у нас нашлась группа хозяев этого дела, работавшая на Германию, на Японию, на Польшу сколько угодно, только не для нас. Разведка — это та область, где мы впервые за 20 лет потерпели жесточайшее поражение. И вот задача состоит в том, чтобы разведку поставить на ноги. Это наши глаза и уши».

Урицкий не мог перестроить работу так, как требовал Сталин. Через неделю после расширенного заседания Военного совета при наркоме обороны, точнее 9 июня 1937 года, С. Урицкий был освобожден от должности начальника Разведуправления. В этот же день начальником военной разведки был назначен Я. Берзин, возвратившийся из Испании.

Армейский комиссар 2-го ранга Я. К. Берзин 9 июня 1937 года вновь прибыл в свой рабочий кабинет в Разведуправлении, которое по-прежнему располагалось на Гоголевском бульваре, в центре Москвы.

Берзин был опытным организатором военной разведки, человеком, беззаветно преданным делу революции и социалистической России.

По распоряжению Сталина в Москве и других крупных городах проводились мероприятия по борьбе с «врагами народа». Коснулись они и Разведуправления Красной Армии. В июле 1937 года 20 офицеров Разведуправления, названных в доносе Артузова, были арестованы и отправлены на Лубянку. Среди них оказались Штейнбрюк, Геккер, Карин, Захаров-Мейер, Узданский и Александровский. В тот же день были арестованы опытные разведчики — дивизионный комиссар Л. А. Борович, заместитель начальника 2-го отдела Разведупра, работавший резидентом в Шанхае, комбриг В. Г. Боровой, полковник А. А. Мазалов, полковые комиссары Ю. Л. Антонович и А. Б. Асков. На Лубянке оказались и специалисты Разведуправления по Германии полковник А. М. Идоловский, руководивший резидентурой в Берлине, С. А. Залесская, работавшая в Германии, Чехословакии и Польше, и другие разведчики.

1 августа 1937 года положение в Разведуправлении, сложившееся в связи с разоблачением «врагов народа» среди разведчиков, было рассмотрено на заседании Политбюро ЦК ВКП(б). В связи с этим принято решение освободить Я. К. Берзина от обязанностей начальника Разведывательного управления Красной Армии и временное исполнение обязанностей начальника Разведуправления возложить на товарища Никонова. Никонов продержался на должности руководителя центрального аппарата военной разведки всего несколько дней.

В октябре 1937 года был арестован Я. К. Берзин. 28 июля 1938 года он был приговорен к высшей мере наказания — расстрелу. Через 28 лет — в 1956 году — Ян Берзин был реабилитирован. Однако до сих пор причины ареста и расстрела Берзина не имеют логического объяснения.

В начале семидесятых годов один из ветеранов военной разведки пытался выяснить, за что же арестовали начальника военной разведки. После преодоления некоторых обязательных формальностей он получил доступ к делу по обвинению Я. К. Берзина в государственной измене, которое хранилось в КГБ. В этом деле находился один любопытный документ — личное признание Берзина в сотрудничестве с иностранными разведками. Это признание, судя по дате, Берзин «написал» на следующее утро после ареста. Оно и стало основным доказательством вины начальника военной разведки.

На листе бумаги почерком Берзина было написано то, что он никогда не делал и не мог бы сделать, как честный человек, отдавший все свои силы в борьбе за социализм и его идеалы. Признание мог написать специалист, умеющий подделать любой почерк. Сотрудник КГБ, в присутствии которого изучалось дело бывшего начальника военной разведки, не мог опровергнуть такую версию.

Берзин знал многое. Он был опасен для наркома внутренних дел Н. Ежова, который воспользовался случаем и расправился с начальником военной разведки.

Репрессии обрушились на военную разведку по всем направлениям. Чистке подвергался центральный аппарат, зарубежные резидентуры и органы оперативной разведки — разведотделы штабов военных округов. Были арестованы все заместители начальника Разведуправления, все начальники отделов и их заместители. В ходе чистки Разведупра уничтожены наиболее опытные сотрудники центрального аппарата, из командировок отозваны зарубежные резиденты и некоторые разведчики. Многие из них тоже были репрессированы, некоторые уволены с работы.