Вскоре ересь нашла повод к торжеству. Прошел 1492 год, которым оканчивалась седьмая тысяча лет от сотворения мира и который, под влиянием очень распространенного убеждения, народ православный проводил в страшной тревоге, в ожидании кончины мира и второго пришествия Христова. Даже церковная пасхалия не составлялась на восьмое тысячелетие. Но когда миновал роковой семитысячный год, еретики стали глумиться над православными. Тогда к обличителю ереси архиепископу Геннадию присоединился со своими проповедями Иосиф Волоколамский. Зосима был низложен с митрополии и заменен, как говорено выше, Симоном. Обличители стали опираться на Софию Палеолог и ее сына Василия. Елена, ее сын и вся их партия подверглась опале. В 1504 году созван был новый собор против жидовствующих, и Москва видела подобные испанскому ауто-да-фе казни еретиков: в клетках сожгли дьяка Волка Курицына, Митяя Коноплева и Ивашку Максимова; другие еретики были отправлены в заточение. Елена же скончалась в Москве в заключении.
Иоанн III является примечательным организатором нашего государственного быта в духе сложившихся или еще слагавшихся русских обычаев. Окружая себя царственною обстановкою, он организует служилое сословие. При нем, кроме бояр, достоинство коих теперь жалуется государем, являются уже и окольничие; появляются и придворные чины постельничего, конюшего, ясельничего, оружничего, ловчего и др. Ясно выступает система поместная, обращавшая на началах государева жалованья низшие классы служилых людей в помещиков, рядом с вотчинниками. Развиваются приказы с их дьяками. Впервые появляется «разряд», наблюдавший над порядком государевой службы; был и посольский приказ, что можно заключать из того, что теперь существовал посольский дьяк. Земли делятся уже всюду на сохи и обжи и облагаются налогом, который определяется писцовыми книгами. Переходы крестьян с одной земли на другую разрешаются в течение двух недель после Юрьева (осеннего) дня. Для организации суда Иоанн издает Судебник, который в нашем законодательстве составляет шаг вперед по сравнению с Русской Правдой, которая допускала и кровавую месть и дозволяла деньгами отделываться за убийство даже знатных людей (80 гривен за голову). Судебник же устанавливает государственные наказания за все уголовные преступления: казнь смертную или торговую, то есть телесное наказание. Приводим, как палеографический образчик того времени, отрывок из Судебника Иоанна.
Соответственно с выросшим могуществом Москвы, этот государь произвел в столице всея Руси громадные перестройки. Можно сказать, он разобрал весь Кремль и перестроил его заново, в более обширных размерах. Но государь исторических народных преданий, он дал всем своим постройкам привычный русскому глазу тип. Это примечательно особенно потому, что все почти его архитекторы, как Аристотель Фиоравенти, Алевиз, Марк Руф, Петр-Антоний Фрязин, были иностранцы, выписанные из Италии, где господствовало возрождение наук и искусств. Государь, однако, не позволял им строить в Москве здания в западных стилях: ни в готическом, ни в стиле возрождения. Они должны были возводить строения в русском стиле, применяясь к древнерусским деревянным постройкам и их орнаментации, или в византийском, для чего их посылали изучать каменные храмы Владимира и других городов.
Просуществовавший сто лет каменный Кремль Димитрия Донского, обветшавший и уже тесный, был теперь по приказу государя срыт, и заложены были новые стены «не по старой основе, а града прибавиша». Чтобы обезопасить его от пожаров, велено было вокруг Кремля снести церкви и дворы, чтобы между его стенами и посадскими постройками оставалось полое место, застенье в 110 саженей. «Против такой нечести великой, что церкви старые извечные выношены из города вон, да и монастыри старые извечные с места переставлены, и кости мертвых выношены в Дорогомилово», восставал архиепископ Геннадий, указывая на то, что даже в Киеве шел слух, будто «князь великий на Москве церкви все выметал».
Петр-Антон Фрязин выстроил следующие новые кремлевские стрельницы, или башни: Свибловскую (под нею тайник), Фроловскую (Спасские ворота), Никольскую, Боровицкую и Константино-Еленинскую, Троицкую, а Марк Фрязин построил стрельницу Беклемишевскую; всего числом восемнадцать. Эти башни в своем стиле и украшениях подражали древнерусским деревянным крепостным башням. На Спасской башне сохранилась следующая латинская надпись: «Иоанн Васильевич, Божиею милостию, великий князь Владимирский, Московский, Новгородский, Тверской, Псковский, Вятский, Угорский, Пермский, Болгарский и иных и всея России государь, в лето тринадцатое государствования своего, велел построить сию башню, а строил ее Петр-Антоний Селярий Медиоланский, в лето воплощения Господня 1491».
Троицкая башня при Иоанне III не имела такого высокого верха, какой мы видим теперь и который был надстроен при Михаиле Феодоровиче. Башня Кутафья имела тогда крытый верх.
Громадные постройки и внутри самого Кремля предприняты были Иоанном III. Так, здесь вновь были выстроены три главных собора: Успенский, Архангельский и Благовещенский.
За ветхостью и теснотою Успенский собор был разобран в 1472 году до самого основания, причем были обретены мощи св. Петра митрополита. Но построенный псковскими мастерами Кривцовым и Мышкиным собор, возведенный до сводов, рухнул. Нанятый в Италии, с платою по 10 рублей в месяц, зодчий Аристотель Фиоравенти получил поручение выстроить его снова. Но заграничный мастер должен был строить не по своему плану, а по образцу Успенского собора во Владимире, куда он для изучения был отправлен. Итальянец разобрал всю стройку, при чем употреблял невиданные в Москве тараны и блоки, устроил кирпичный завод у Андроникова монастыря и, употребляя особую клеевитую известь, через четыре года выстроил новый храм. В 1479 году митрополит Геронтий совершил его освящение. Великий князь при этом раздал бедным богатую милостыню и устроил большой пир для духовенства. Мощи, находившиеся во время стройки в церкви «св. Ивана под колоколы», перенесены были в собор.
Иоанн III, в память покорения Новгорода, как священный трофей этого, поставил в иконостасе Успенского собора принесенную оттуда икону Всемилостивого Спаса, находившуюся в Софийском соборе и писанную греческим императором Мануилом. В ризницу собора в то же время поступили и драгоценные новгородские сосуды св. Антония римлянина. Один сосуд сделан из яшмы, другой из оникса, и оба украшены драгоценными камнями и жемчугом. «Бысть же та церковь, — говорит летописец об Успенском соборе, — чудна весьма величеством, высотою, светлостью и пространством».
В последний год правления Иоанна был разобран и Архангельский собор и в более обширном объеме построен был Алевизом; гробы государей, числом 24, стояли на время в храме «св. Ивана, что под колоколы». Благовещенский собор, построенный Висилием I, был вновь перестроен. Он был украшен 9-ю главами и соединен сенями с набережными государевыми палатами, а на месте ханского подворья построена была вновь церковь Николы Льняного. Софья Фоминишна выпросила это место у ханши, жены Ахмата. Эту деревянную обыденную, из елового леса церковь велел заменить каменною Василий III и перенес сюда из села Гостуни чудотворный образ Николая Чудотворца. На постройку женщины жертвовали лен и полотна.
В Чудовом монастыре, по повелению Иоанна III, была разобрана церковь Михаила Архангела, и на ее месте была выстроена новая, которая была освящена в 1504 году.
Сгоревшая в 1470 году кремлевская церковь свв. Константина и Елены была тоже выстроена вновь.