Из-за антипатий левых демократов к ореолу власти и загадочности, присущих политической полиции, абверполицай могла заниматься своим делом только скрытно. С роспуском существовавшей до 1918 года политической полиции авберполицай официально прекратила свое существование, хотя фактически продолжала действовать в каждом полицейском участке под видом отдела 1А. Именно там следовало искать отвечавших за контрразведку сотрудников полиции.
Однако им приходилось постоянно сталкиваться с проблемами, поскольку на руководящем уровне не существовало единой организации, которая бы координировала все контрразведывательные управления или комиссариаты в различных полицейских структурах. Не существовало единого центрального органа для оценки полученной информации и использования её в совместных действиях. Просто в свое время договорились, что отдел 1А Берлинского полицейского управления должен создать что-то вроде центра анализа информации, но на неофициальной основе.
Военные сыщики были в несколько лучшем положении. После долгих колебаний и в нарушение Версальского мирного договора, запрещавшего Германии иметь военную разведку, для борьбы с вражескими шпионами в 1920 году была образована небольшая разведывательная группа под руководством майора Фридриха Гемпа. Она являлась частью военного министерства, но даже в там ей не разрешалось фигурировать под своим настоящим названием, и её именовали "абвер" (контрразведка), чтобы подчеркнуть оборонительные намерения. А в её офисе на Тирпитцуфер работали только три офицера Генерального штаба и семеро сотрудников из числа отставных офицеров. Этот скудный персонал вряд ли мог испугать громадную иностранную разведслужбу масштаба Разведупра.
Поэтому ни абвер, ни абверполицай не могли остановить наплыв советских шпионов. Фактически они оказались настолько беспомощны, что вынуждены были оставить формирование заводских охранных служб в руках частного капитала. Главный офис абвера в Восточной Пруссии, в Кенигсберге, был укомплектован единственным отставным капитаном, но тот был так озабочен польским шпионажем, что на сеть русских агентов не обращал внимания.
С самого начала абвер смирился со своей неспособностью проникнуть в советскую разведку, а абверполицай никогда не мог прозондировать сеть коммунистических агентов. Даллин считает, что "германская полиция была удивительно несведущей в деятельности различных советских органов". Они не знали ни адресов, ни состава подпольных коммунистических организаций. У них не было ни малейшего представления о сети информаторов ББ и связях советской разведки в Германии.
В 1932 году Берлинское полицейское управление на Александер-плац отправило в моабитский уголовный суд пятисотстраничный отчет о подпольных организациях ГКП и даже не заметило, что по пути он на некоторое время исчез в советском торгпредставе, где был сфотографирован. Долгие годы полиция считала центром коммунистического шпионажа офис ГКП в Карл Либкнехт Хаус, в Берлине и не обращала никакого внимания на издательство "Фюрер" на Вильгельмштрассе 131-2, под крышей которого скрывались "дюжина отделов Коминтерна и целая армия стенографистов, курьеров, переводчиков и сотрудников охраны".
Редко когда контрразведывательная служба было столь беспомощна перед напором вражеских шпионов. Однако впоследствии на сцену выступило экстремистское политическое движение, которое обещало Германии радикальные перемены и, самое главное, свободу от того, что они называли "большевистской угрозой". Власть в рейхе захватила партия Адольфа Гитлера.
Многие полицейские, обычно склонные к авторитаризму, уступили сладким посулам новых правителей, а большинство военных соблазнились националистическими настроениями нового режима. Нацисты обещали то, в чем больше всего нуждались полицейские силы республики: престиж, деньги, современные методы борьбы с преступностью и шпионажем, централизацию работы полиции, свободу от критики со стороны общественности и дипломатического вмешательства.
Больше того, новые хозяева Германии показали, что у них слово не расходится с делом. Практически за несколько месяцев они создали полицейский механизм, не знавший аналогов в истории Германии. Политическая полиция с её контрразведывательными управлениями, столь неохотно признаваемая при Веймарской республике, была выведена из-под руководства полиции и собрана в специальное управление с централизованным руководством - государственную тайную полицию или гестапо. Теперь она служила одному человеку и одной цели - поддержке диктаторской тирании фюрера.
Штаб-квартира гестапо в доме N 8 по берлинской Принц-Альбрехт-штрассе стала центром охоты за политическими двурушниками и шпионами. С лета 1934 года гестапо образовало II отделение, а абверполицай - III-е. С тех пор эти стражи нового режима стали неотделимы друг от друга. Они раскинули над страной хитросплетенную сеть, их управления и филиалы в каждой провинции держали под надзором шпионов и врагов режима, контролировали границы рейха и следили за настроениями в обществе.
Никогда германская полиция не создавала такой тотальной системы контроля. Была создана изощренная система реестров и картотек для регистрации каждого возможного противника режима или потенциального шпиона. Тщательно рассчитанная система поиска должна была гарантировать, что ни один беглец не ускользнет от всевидящего ока гестапо. Главной задачей пограничной полиции, которая теперь вошла в состав гестапо, стал перехват беглых предателей и пытающихся перейти границу шпионов. Власть над концентрационными лагерями давала Принц-Альбрехт-штрассе дополнительное оружие: нежелательных иностранцев до депортации можно было помещать в концлагеря.
Если кому и удавалось проскользнуть сквозь сети гестапо, ему предстояло пройти через строй ещё одних нацистских охранников режима - СД (Sicherheitsdienst - служба охраны). Стороннему наблюдателю служба СД с центром в Берлине и отделами, подотделами и аванпостами, раскинувшимися по всей стране, напоминало гестапо, однако её армия безвестных информаторов в каждой области жизни нации оказалась более эффективной и опасной.
Выражаясь словами одного из её руководителей, она была "универсальным инструментом против всех оппозиционных кругов во всех областях жизни".
Со временем аппарат нацистских репрессивных органов разрастался. Шаг за шагом победоносная полиция расширяла границы своей империи: в 1933-34 годах политическая и контрразведывательная полиция объединились для создания гестапо, в 1936 году гестапо и уголовная полиция слились в полицию безопасности (Sicherheitpolizei - Зипо), в 1939 Зипо и СД объединились в РСХА (Reichssicherheitshauptamt - Главное управление имперской безопасности). Таким образом экспансия полиции достигла своего пика.
Однако тем временем многие профессиональные сотрудники полиции, воспитанные в традициях уважения правовых норм, осознали, что новые правители заинтересованы не только в привычной защите государства от агентов и диверсантов. С какой-то завистью полиция наблюдала, что военная разведка (абвер) на Тирпитцуфер, получившая от режима ресурсы для существенного расширения своих функций, тем не менее в основном держалась в стороне от идеологических причуд новых властителей. Между руководством абвера и абверполицай существовали острые разногласия по поводу методов борьбы с противниками. Военные придерживались определенного кодекса поведения в делах секретной службы, в то время как на Принц-Альбрехт-штрассе лозунгом дня стал преднамеренный отказ от всяких угрызений совести. На смену старым полицейским чиновникам шла фанатичная поросль диктатуры фюрера, натасканная в нацистских военных училищах и школах выполнять как роботы любой приказ, отданный командиром, даже если тот преступен. И главное - вновь прибывшие носили черную униформу СС, лидеры которого захватили власть над полицией и хотели превратить её в касту хозяев, независимую от партии и государства.
Рейхсфюрер СС Генрих Гиммлер, глава германской полиции с 1936 года, вместе со своим безжалостным помощником, группенфюрером СС (генерал-майором) Рейнхартом Гейдрихом, руководителем полиции безопасности и СД, отравили полицию ядом слепого тоталитарного мышления и развратили многих полицейских чиновников старой школы. Эсэсовское руководство полиции было одержимо безумными идеями неогерманского язычества и антисемитизма, постоянно проповедовало безжалостную ненависть защитников империи ко всем врагам государства и шпионам. И полиция нашла свое место в том мире жестокости, где любой политический оппонент считался извергом. Был он евреем или масоном, коммунистом или демократом - любой враг режима подлежал изгнанию из "народного общества".