Следующим шагом Григория стала борьба против инвеституры духовных сановников мирянами. Речь шла о древнем порядке введения в права владения леном духовного лица, который становился таким образом как бы вассалом светского государя и должен был нести в его пользу оговоренные повинности. Этой мерой светская власть оставляла за собой верховные права на земельное имущество, подаренное в разное время церкви и занимавшее в общей сложности треть земель Запада. Помимо того, что инвеститура формально ставила государство выше церкви, она была ненавистна Григорию тем, что давала много поводов для симонии (особенно в Германии и Ломбардии, где императоры самовластно назначали епископов, имея от этого немалый доход).
Римский собор 1075 г. запретил инвеституру, предоставив только папе право назначать всех епископов. По мнению Григория, светские князья не имели никаких прав на земли, которые так или иначе, с большими или меньшими натяжками, можно было назвать землями св. Петра. «Что раз, по божьей воле и закону справедливости, — писал он, — поступило во владение церкви, пока будет существовать, не может быть отторгнуто от нее».
Это притязание в наибольшей степени задевало императора, ибо вся власть его покоилась на верховных правах над церковными землями и на союзе с епископами, которых он назначал. Столкновение Григория VII и Генриха IV было неизбежным, однако поводом для этого послужили не германские, а итальянские события.
Миланцы, находившиеся в натянутых отношениях с папой, обратились к Генриху с просьбой дать им архиепископа. Император отправил к ним клирика Тидальда, выразив тем самым полное пренебрежение к запрещению светской инвеституры и не обратив внимания на то, что Григорий уже назначил на это место своего ставленника Атто. Вдобавок, еще до Тидальда, Генрих отдал миланскую инвеституру герцогу Готфриду. Таким образом в Милане оказалось сразу три архиепископа. Папа вышел из себя, разразился гневными посланиями и поспешил отомстить вмешательством в германские дела. Жалобы саксонских епископов на произвол императора показали Григорию, что в Германии у него есть союзники. И он решил вступить в открытую борьбу. В начале 1076 г. он отправил в Гослар своих легатов и велел Генриху в ближайший пост явиться в Рим на собор и оправдаться в преступлениях, приписываемых ему. В случае неповиновения папа грозил предать его апостольскому проклятью и отлучить от церкви. Генрих был несказанно оскорблен как самим письмом, так и его властным тоном. Верный заветам старины, он принял брошенный вызов и отдал приказ немецким епископам собраться к 24 января в Вормсе, чтобы сообща положить конец немерным притязаниям того, кто величал себя «рабом рабов Божьих».
Известие о ссоре с императором воодушевило итальянских врагов папы, во главе которых стоял уже упоминавшийся барон Ценций. В сочельник, когда Григорий отправился по обычаю совершать всенощное богослужение в церковь Св. Марии на окраине города, туда ворвалась толпа вооруженных людей. С папы сорвали ризы, нанесли удар по голове и за волосы вытащили из храма. Ценций запер Григория в своей башне и стал требовать от него богатых поместий и возвращения своего родового замка Св. Ангела. Но ни оскорбления, ни копья, направленные в грудь, не сломили презрительного спокойствия папы. Между тем по городу разнеслась весть об ужасном покушении: тишину ночи прорезал гул набата. На рассвете с криками горожане бросились на штурм баронской башни. Роли переменились — теперь уже Ценций припал к ногам Григория, моля о пощаде. Папа с величием заявил, что прощает свою личную обиду, но оскорбление святыни необходимо искупить покаянием и путешествием в Иерусалим. Освободив папу, римляне с громким ликованием понесли его на руках в ту же церковь Св. Марии, где он и закончил богослужение. Барон Ценций за это время успел скрыться, а все его имущество папа объявил церковной собственностью. Римляне увидели в происшедшем руку Божью — положение Григория в городе значительно укрепилось.
Между тем император собрал в Вормсе собор немецких епископов и с легкомысленной поспешностью приказал им отлучить своего противника от церкви. Собор ломбардских епископов, собравшийся вскоре в Пьяченце, подтвердил вормское постановление и объявил, что Ломбардия не будет признавать Григория папой. Но собравшийся в конце февраля большой и представительный собор епископов в Риме выразил Григорию полную поддержку. Епископы едва не растерзали пармского священника Роланда, который осмелился объявить волю императора о низложении папы. После этого Григорий предал анафеме самого Генриха.
Отлучение императора от церкви было потрясающим, неслыханным событием и произвело огромное впечатление на современников. Генрих узнал о нем в Утрехте, где он праздновал Пасху. В раздражении он решил противопоставить папскому отлучению формальный акт о низложении Григория, по его требованию собор епископов в Павии объявил папу низложенным. Но Генриху хотелось, чтобы низложение было с такой же торжественностью провозглашено в Германии. Он велел немецким епископам съехаться на Троицу в Вормс, не сомневаясь, что дело будет легко доведено до конца. Но тут его ждало первое большое разочарование: к назначенному сроку собралось так мало епископов, что не было никакой возможности открыть собор. Генрих встревожился, велел отложить собор до Петрова дня и рассудил перенести его в Майнц. Он сам разослал епископам приглашения, написанные уже в форме просьбы, а не приказа. Папские легаты тем временем тоже разъезжали по стране и употребляли все средства для того, чтобы склонить на сторону Григория немецких князей. Усилия их не остались бесплодными.
Могущественные герцоги Рудольф Швабский, Вельф Баварский и Бертольд Церингенский вошли в соглашение с архиепископом Зальцбургским и епископами Вюрцбургским и Пассаусским и уклонились от всяких сношений с королем. Еще большего успеха папская пропаганда добилась в Саксонии — тамошние жители взялись за оружие, прогнали королевских сборщиков налогов, разорили имения его приверженцев и овладели королевскими замками.
Генрих с ужасом увидел, что власть ускользает из его рук. Измена присяге была освещена папой, вменена в обязанность, и прежние приверженцы покидали его. В июне на съезде в Майнце не было никого из южногерманских и саксонских князей, а те, кто приехали, повинуясь зову короля, оказались в растерянности. Было ясно, что большинство их скоро тоже его покинет. Генрих собрал, сколько мог, солдат и пошел против саксонцев, но они поднялись на него так единодушно, что он принужден был бежать в Богемию. Тем временем князья и епископы папской партии съехались на съезд в Ульме и решили, что обстоятельства требуют избрания нового короля. Они разослали приглашения всем остальным князьям и епископам, предложив им 16 октября собраться в Трибуре «для восстановления мира в церкви и государстве». Большинство приглашенных приехало в Трибур, и авторитет этого съезда был гораздо выше тех, какие удавалось собирать королю. Семь дней депутаты спорили о том, каким способом спасти государство от погибели. Генрих, находившийся в это время в Оппенгейме, на другом берегу Рейна, совершенно оробел. Он видел, что его покидают даже те люди, которых он осыпал милостями и считал своими верными приверженцами Он совершенно пал духом, отбросил прежнее высокомерие и каждый день посылал в Трибур своих уполномоченных, обещая исправиться. После долгих дебатов было принято решение обратиться к папе с просьбой, чтобы в феврале следующего года он приехал в Аугсбург и лично разобрал дело Генриха; и потом, если в течение года с него не будет снято церковное проклятие, немедленно приступить к выборам нового государя. Генрих тем временем должен был жить в Шпейере как частное лицо, в совершенном удалении от государственных дел.
Генрих принял все эти условия, сложил с себя королевские регалии и поселился в Шпейре. Однако, опасаясь весьма вероятного торжества своих врагов на соборе в Аугсбурге, он решил не дожидаться папского суда, а самому ехать в Италию. В январе 1077 г. он отправился в путь в сопровождении только жены и одного немецкого дворянина, сохранившего ему верность. С ним не было ни денег, ни дорожных запасов, так что иногда императору приходилось просить милостыню. В это самое время папа ехал в Германию на Аугсбургский съезд для суда над Генрихом; но тут узнал о внезапном прибытии императора в Италию и свернул с дороги в укрепленный замок Каноссу, принадлежавший тосканской маркграфине Матильде.