Когда Филипп из своей отдалённой обители прибыл в Москву, Иоанн принял его с великою честью, удостоил своей царской трапезы и щедро одарил. Но как только царь предложил ему в присутствии всего освящённого собора и бояр первосвятительскую кафедру, то Филипп сначала смиренно отказывался, ссылаясь на слабость своих сил и уподобляя себя малой ладье, неспособной носить великой тяжести, но потом, будучи «понуждаем» царём и собором на митрополию, смело сказал, чтобы государь отменил опричнину, а не отменит, то ему, Филиппу, митрополитом быть невозможно; а если его и поставит в митрополиты, он затем оставит митрополию. Царь разгневался, но по челобитью архиепископов и епископов отложил свой гнев и велел сказать Филиппу, чтоб он в опричнину и в царский домовый обиход не вступался и на митрополию ставился и после поставления не оставлял её из-за того, что царь не отменил опричнины, а советовал бы с царём, как прежние митрополиты советовали с отцом его и дедом. И Филипп дал своё слово архиепископам и епископам, что он, по царскому слову и по их благословению, соглашается стать на митрополию и в опричнину в царский домовый обиход вступаться не будет. Филипп был поставлен в митрополиты царствующего града.

Прошло около года, и ничто не возмущало мира между царём и митрополитом. Филипп занимался делами Церкви, стараясь подражать благому нраву благолюбивого митрополита Макария и последовать честным стопам его. Царь оказывал Филиппу благоволение и любовь. Все радовались этому и благодарили Бога. Но в душе царь уже не любил митрополита, подозревая в нём орудие бояр и полагая, что, по их-то настроению, он осмелился требовать уничтожения опричнины пред своим поставлением на митрополию. В июле 1567 года перехвачены были грамоты польского короля и литовского гетмана к главнейшим московским боярам, доставленные Козловым. Начались казни. Опричники неистовствовали в Москве, убивали всенародно, на улицах и площадях, человек по 10 и по 20 в день. Всех объял ужас. Многие со слезами прибегали к митрополиту и умоляли его заступиться за них пред государем. И добрый пастырь, утешая несчастных словами веры, не мог оставаться безответным на вопли и стоны своих духовных чад. Он помнил, что отказался от мысли просить уничтожения опричнины, но сохранил за собою право советовать государю и, следовательно, ходатайствовать по крайней мере о том, чтобы он обуздывал своих опричников, наблюдал правду и милость по отношению к своим подданным и, карая злодеев, не дозволял проливать неповинной крови. Одушевлённый такими мыслями, святитель отправился к Иоанну, чтобы сначала наедине пастырски побеседовать с ним. В чём состояла эта тайная беседа, как обличал или убеждал царя митрополит, неизвестно; но последствия показали, что убеждения не принесли никакой пользы, а только, быть может, ещё более утвердили Иоанна в уверенности, что митрополит держит сторону ненавистных бояр и служит их орудием. К прискорбию, нашлись и между духовными лицами предатели, старавшиеся только об угождении царю. Это были: архиепископ новгородский Пимен, суздальский епископ Пафнутий, рязанский епископ Филофей и протопоп Благовещенского собора Евстафий, царский духовник, которого Филипп подверг запрещению за какие-то проступки. Особенно последний (то есть духовник царя) постоянно доносил ему, тайно и явно, хульные речи на митрополита. Время шло, неистовства опричников не прекращались. И вот святитель, испытав недостаточность тайных вразумлений царю, решил начать открытые, всенародные обличения ему. Иоанн пришёл в соборную церковь. Здесь митрополит обратился к нему с Такою речью: «О, державный царь! Ты облечён самым высоким саном от Бога и должен чтить Его более всего. Тебе дан скипетр власти земной, чтобы ты соблюдал правду в людях и царствовал над ними по закону: правда — самое драгоценное сокровище для того, кто стяжал её. По естеству ты подобен всякому человеку, а по власти подобен Богу: как смертный не превозносись, а как образ Божий не увлекайся гневом. По справедливости властелином может назваться только тот, кто сам собою обладает и не работает позорным страстям. От века не слыхано, чтобы благочестивые цари волновали свою державу; и при твоих предках не бывало того, что ты творишь: у самих язычников не случалось ничего такого...» Услышав эти обличения, царь в ярости сказал: «Что тебе, чернецу, за дело до наших царских советов? Того ли не знаешь, что меня мои же хотят поглотить?»

Филипп отвечал: «Я точно — чернец; но, по благодати Св. Духа, по избранию священного собора и по твоему изволению, я — пастырь Христовой церкви и вместе с тобою обязан иметь попечение о благочестии и мире всего православного христианства». «Одно тебе говорю, отче свитый: молчи, а нас благослови действовать по нашему изволению», — снова сказал Иоанн. «Благочестивый царь! Наше молчание умножает грех души твоей и может причинить смерть», — говорил митрополит. «Владыко свитый! Восстали на мени друзи мои и искренние мои ищут мне зла», — отвечал Иоанн. «Государь! Тебе говорит неправду и лукавство; приблизь к себе людей, желающих советовать тебе добро, а не льстить, и прогони говорищих тебе неправду», «Не прекословь, Филипп, державе нашей, да не постигнет теби мой гнев, или сложи свой сан!» — кричал царь. «Не употреблил и ни просьб, ни ходатаев, ни мзды, чтобы получить этот сан: зачем лишил ты мени пустыни? Если дли теби ничего не значат церковные каноны, делай, как хочешь», — отвечал Филипп.

Царь пошёл в свои палаты в большом раздумье и в гневе на святители.

Через некоторое времи царь снова пришёл в воскресный день в соборную Успенскую церковь к литургии. Сам он и сопровождавшие его опричники были в чёрных одеждах, с высокими шлыками на головах. Он приблизилси к митрополичьему месту, на котором стоил Филипп, и три раза просил его благословений. Но свититель ничего не отвечал и не двигал си. Тогда бояре сказали: «Владыко свитый, к тебе пришёл благочестивый царь и требует твоего благословении». После этого Филипп, взглинув на Иоанна, произнёс: «Царь благой! Кому поревновал ты, принив на себн такой вид и изменив своё благолепие? Убойси суда Божия: на других ты налагаешь закон, а сам нарушаешь его. У татар и язычников есть правда; в одной России нет её. Во всём мире можно встречать милосердие, а в России нет сострадания даже к невинным и правым. Здесь мы приносим Богу бескровную жертву за спасение мира, а за алтарём безвинно проливается кровь христианская. Ты сам просишь прощения во грехах своих пред Богом, прощай же и других, согрешающих пред тобою...» Иоанн распалился яростию и воскликнул: «О, Филипп! Нашу ли волю думаешь изменить? Лучше было бы тебе быть единомысленным с нами?» «Тогда, — отвечал святитель, — суетна была бы вера наша, напрасны и заповеди Божии о добродетелях. Не о тех скорблю, которые невинно предаются смерти, как мученики; я скорблю о тебе, пекусь о твоём спасении». Иоанн, не слушая слов святителя, в великом гневе махал руками, грозил ему изгнанием и говорил: «Ты противишься, Филипп, нашей державе? Посмотрим на твою твёрдость». «Я пришелец на земле, как и отцы мои, — отвечал святитель, — и за истину благочестия готов потерпеть и лишение сана, и всякие муки». Тут же в соборе враги Филиппа, желая унизить его всенародно, подготовили на св. старца самую гнусную клевету, которую подучили произнести пред всеми одного благообразного отрока, бывшего чтецом домовой митрополичьей церкви. Выслушав отрока, Пимен новгородский и другие епископы, угодники царские, сказали: «Царя укоряет, а сам творит такие неистовства». Митрополит отвечал Пимену: «Ты домогаешься восхитить чужой престол, но скоро лишишься и своего». А отрока, который вслед затем сознался, что говорил всё не по своей воле, но по принуждению и из страха, простил и благословил. Когда эта клевета не удалась, царь приказал схватить всех бояр и сановников митрополичьих: их заключили под стражу и пытали, стараясь выведать что-нибудь недоброе о святителе, но ничего не допытались.

28-го июля, по случаю праздника в Новодевичьем монастыре, митрополит там священнодействовал. Туда же прибыл на праздник, по утвердившемуся обычаю, и царь со всеми боярами и опричниками. В то время как Филипп, совершая крестный ход вокруг обители, достиг св. ворот и хотел читать Евангелие, он увидел, обратившись к народу, что один опричник стоит в тафье, и сказал государю: «Чтение Слова Божия следует слушать христианам с непокровенною главою; а эти откуда взяли агарянский обычай предстоять здесь с покрытыми главами?» «Кто такой?» — спросил Иоанн и, взглянув вокруг, не увидел никого в тафье, потому что виновный успел уже снять её. Царю сказали, что митрополит говорит неправду, издеваясь над его царскою державою. Иоанн вышел из себя, всенародно поносил святителя и называл лжецом, мятежником и злодеем.