Аденауэр считал, что перевооружение Германии необходимо как для Европы, так и для восстановления политической идентичности Германии. Сначала он препятствовал публичным дебатам на эту тему, чтобы не мешать прогрессу в деле членства Германии в европейских институтах, но вскоре изменил свое мнение. По его мнению, доверие союзников может быть поколеблено, если Западной Германии нельзя будет доверить собственную оборону или она сама не будет доверять себе.
Перевооружение Германии было официально предложено Великобританией и США в августе 1950 года и быстро одобрено Германией. Франция отреагировала полусерьезным "Планом Плевена", который в октябре 1950 года предложил создать европейскую армию смешанной национальности, включая немецкие части. Был разработан проект договора, предусматривающий создание Европейского оборонного сообщества (EDC), в состав которого должен был войти интегрированный немецкий контингент. После того как Аденауэр ознакомил ключевых депутатов немецкого парламента с содержанием проекта договора , последовали ожесточенные споры. Шумахер дошел до того, что назвал договор "триумфом союзническо-клерикальной коалиции против немецкого народа".
В марте 1952 года, чтобы предотвратить создание европейского оборонного сообщества и перевооружение Германии, Сталин официально предложил объединение Германии на пяти условиях: (а) все оккупационные войска, включая советские, будут выведены в течение одного года; (б) объединенная Германия будет иметь нейтральный статус и не будет вступать ни в какие союзы; (в) объединенная Германия примет границы 1945 года - то есть линию Одер-Нейсе, которая представляла собой спорную послевоенную границу с Польшей; (г) экономика Германии не будет ограничена условиями, навязанными посторонними - другими словами, отмена Рурского статута, ограничивающего экономику Германии; и (д) объединенная Германия будет иметь право развивать свои собственные вооруженные силы. Эти предложения были адресованы западным союзникам, подчеркивая второстепенное положение Германии.
Было ли предложение Сталина искренним, или он пытался поставить Аденауэра в неловкое положение, маневрируя им так, чтобы казалось, что он предпочитает разделенную Германию внутри Европы объединенной, национальной, нейтральной Германии? По сути, Сталин просил Аденауэра отказаться от всего прогресса, достигнутого им на пути европейской интеграции, в обмен на объединение.
По современным данным, Сталин сделал это предложение только после того, как получил неоднократные заверения от своего министра иностранных дел, что оно будет отклонено. Тем не менее, это предложение поставило Аденауэра в трудное положение. Впервые после безоговорочной капитуляции вопрос об объединении страны был официально поставлен перед союзными державами и немецким народом. В Германии Шумахер утверждал, что нельзя упускать возможность для переговоров и что немецкий Бундестаг должен отказаться ратифицировать Европейское оборонное сообщество до тех пор, пока не будет изучена записка Сталина. Тот, кто одобряет ЕОУС в этих [нынешних] обстоятельствах, - утверждал он, - не может больше называть себя немцем.
Аденауэр стоял на своем. Он понимал, что переговоры могут зайти в тупик и перевести объединение Германии на идеологическую почву, на которой она будет стоять одна, и ее будут бояться все стороны. Если она будет действовать в одностороннем порядке, переговоры превратятся в поле боя, на котором европейцы будут вести междоусобную борьбу.
Чтобы избежать такого выбора, Аденауэр уклонился от публичной позиции по предложению Сталина, отложив его обсуждение до тех пор, пока концепция свободных выборов не будет принята всеми оккупационными странами и включена в конституцию объединяющейся Германии. В то же время он выступал за ратификацию Договора о ЕДК во имя общей обороны союзников.
Такой подход положил начало тому, что министр иностранных дел Великобритании Энтони Иден назвал "битвой нот". Аденауэра поддержал Эйзенхауэр, который в то время был кандидатом в президенты Соединенных Штатов и до 30 мая 1952 года оставался верховным главнокомандующим НАТО. Великобритания и Франция, больше обеспокоенные перспективой нейтральной Германии, чем советским давлением, согласились на гамбит Аденауэра. Консенсус был выражен в нотах союзников, направленных в Кремль 25 марта и 13 мая, которые требовали проведения свободных выборов как в Западной, так и в Восточной Германии в качестве прелюдии к объединению. Советский ответ от 24 мая утверждал, что ноты союзников затормозили любую возможность объединения Германии "на неопределенный срок".
С новой настоятельной необходимостью продемонстрировать потенциал европейского проекта, теперь уже за счет очевидного объединения Германии, 26 мая 1952 года Аденауэр подписал договорные соглашения о Европейском оборонном сообществе. Но многие во Франции по-прежнему не желали примириться с тем, чтобы делить армию с нацией, с которой их страна вела войны в каждом поколении, начиная с XVI века, которая разрушила часть их страны в Первой мировой войне и оккупировала всю ее во Второй. Через два года после заключения соглашения, 30 августа 1954 года, Национальное собрание Франции отказалось ратифицировать EDC - и одновременно отбросило план Плевена.
Назвав это "черным днем для Европы", Аденауэр выразил свою озабоченность представителям Люксембурга и Бельгии:
Я твердо убежден, на 100 процентов убежден, что национальная армия, к которой нас принуждает [премьер-министр Франции Пьер] Мендес-Франс, будет представлять большую опасность для Германии и Европы. Когда меня уже не будет под рукой, я не знаю, что станет с Германией, если только нам еще удастся вовремя создать Европу.
Из-за этих предчувствий Аденауэр отказался от проекта EDC и лично вел секретные переговоры с союзниками о контурах немецкой национальной армии.
Американское лидерство оказалось решающим. Избранный президентом в ноябре 1952 года, Эйзенхауэр решил, что объединение Европы и ее совместная оборона, включая Федеративную Республику Германия, является, по словам одного историка, ключом, открывающий решение сразу нескольких проблем, и, что самое важное, обеспечивающий тип "двойного сдерживания". Советский Союз можно было не пускать в Европу, а Германию - удерживать в Европе, при этом ни одна из сторон не могла доминировать на континенте.
Вместе с министром иностранных дел Великобритании Иденом Эйзенхауэр добился внесения изменений в Договор об ОДК, которые позволили создать немецкую армию. Менее чем через десять лет после безоговорочной капитуляции НАТО будет состоять из объединенных национальных сил, включая силы Германии.
Поездка Аденауэра в Вашингтон в 1953 году стала кульминацией этих усилий. 8 апреля он посетил Могилу Неизвестного солдата. Над Арлингтонским национальным кладбищем был поднят немецкий флаг - черно-красно-золотой триколор Федеративной Республики, а не черный меченосный орел Пруссии или свастика Тысячелетнего рейха. Когда канцлер шел к могиле, прозвучал салют из двадцати одного орудия - сцена, которой Аденауэр закончит том своих мемуаров 1945-53 годов:
Американский оркестр исполнил национальный гимн Германии. Я видел, как по лицу одного из моих спутников текли слезы, и я тоже был глубоко тронут. Это был долгий и тяжелый путь от полной катастрофы 1945 года до этого момента 1953 года, когда на национальном кладбище США звучал немецкий гимн.
Аденауэр восстанавливал вооруженные силы Германии на протяжении всех оставшихся лет пребывания у власти, не воскрешая исторический прерывистый милитаризм Германии. К началу 1964 года общая численность Бундесвера достигла 415 000 офицеров и рядовых. Один историк описывает его как "острие копья" альянса НАТО и "стержень" обороны Западной Европы от обычного советского нападения. Более того, армия стала опорой для возвращения ФРГ в международную дипломатию - ощутимый знак того, что новая Германия пользовалась доверием Атлантического альянса и была ответственным участником общей обороны.
Аденауэр использовал политический капитал, накопленный во время создания НАТО, для достижения своей основной цели - положить конец оккупации Германии . Чтобы добиться полноправного членства в НАТО и приступить к демонтажу оккупационного статута, Аденауэр согласился в 1954 году отложить решение вопроса о территории Саар - которую Париж стремился сохранить в качестве нейтрального протектората под французской оккупацией - до 1957 года. Потребовались сложные парламентские маневры, чтобы склонить Бундестаг к ратификации обоих договоров в феврале 1955 г.
Когда 5 мая 1955 года договоры вступили в силу, Федеративная Республика вновь стала суверенным государством. Если шестью годами ранее избрание Аденауэра было ратифицировано верховными комиссарами союзников, то теперь они приняли свой собственный роспуск. Аденауэр стоял на ступенях своего офисного комплекса - дворца Шаумбург - и наблюдал, как над правительственными зданиями в Бонне поднимается немецкий флаг. Первая великая задача Аденауэра - обеспечить мирное, быстрое и дружественное завершение оккупационного статута - была выполнена.
Два дня спустя, чтобы символизировать приверженность своей страны полному партнерству в Европе и Атлантическом альянсе, Аденауэр возглавил делегацию в Париже, где Германия получила равный статус в НАТО. За шесть судьбоносных лет Аденауэр провел свою страну от послевоенного раздела, ограничений по Оккупационному статуту и репараций до участия в Европейском сообществе и полноправного членства в НАТО. Стратегия смирения достигла своей цели - равенства в новой структуре Европы, которую ознаменовала инаугурация Аденауэра.