Внутри государства постепенно отмирали пережитки политической раздробленности. В последние десятилетия великого княжения Ивана Ш исчезли удельные княжества. После смерти Андрея Меньшого (1481г.) и двоюродного дяди великого князя Михаила Андреевича (1486г.) прекратили свое существование Вологодский и Верейско-Белозерский уделы. Печальна была судьба Андрея Большого, удельного князя Углицкого. В 1491г. он был арестован и обвинен в измене. Старший брат припомнил ему и мятеж в тяжелом для страны 1480г., и другие его «неисправления». После двух лет заключения Андрей умер. В 1494г. скончался последний брат Ивана Ш - Борис. Свой Волоцкий удел он оставил сыновьям Федору и Ивану. По завещанию, составленному последним, большая часть причитавшегося ему отцовского наследства в 1503г. перешла к великому князю. После смерти Ивана Ш удельная система в прежнем своем значении никогда уже не возрождалась. И хотя он наделил своих младших сыновей Юрия, Дмитрия, Семена и Андрея землями, они уже не имели в них реальной власти.
Уничтожение старой удельно-княжеской системы потребовало создания нового порядка управления страной. В конце XV в. в Москве начали формироваться органы центрального управления - «приказы», которые были прямыми предшественниками петровских «коллегий» и министерств XIX в. В провинции главную роль стали играть наместники, назначавшиеся самим великим князем. Претерпевало изменения и войско. На место княжеских дружин приходили полки, состоящие из помещиков. Помещики получали от государства на время своей службы населенные земли, которые и приносили им доход. Земли эти именовались «поместьями». Учреждение поместного владения не было новостью: по своему основанию оно существовало издавна, но Иван Васильевич дал ему более широкий размер, заменяя, таким образом, господство вотчинного права господством поместного. Мера эта была выгодна для его самодержавных целей: помещики были обязаны куском хлеба исключительно государю; земля их каждую минуту могла быть отнята; они должны были заботиться заслужить милость государя, для того чтобы избежать несчастия потерять землю. Дети их не могли по праву наследства надеяться на средства к существованию и, подобно своим отцам, должны были только в милости государя видеть свою надежду. Провинность или раннее прекращение службы означали потерю поместья. Благодаря этому помещики были заинтересованы в честной и долгой службе московскому государю.
В 1497г. был издан Судебник - первый общегосударственный свод законов со времен Киевской Руси. Судебник вводил единые правовые нормы для всей страны, что явилось важным шагом к упрочению единства русских земель.
7 апреля 1503 года скончалась Софья, а 27 декабря того же года произведена была в Москве жестокая казнь над приверженцами «жидовской ереси» - сектантского течения, возникшего в Новгороде, которое смешивало догматы иудаизма и христианства. В числе пострадавших был один из способнейших слуг Ивана, дьяк Курицын, один из немногих русских, которым можно было давать дипломатические поручения.
Иван Ш не упускал из поля зрения и вопрос о своем преемнике. В истории не раз случалось, что споры претендентов на престол ввергали страну в долгие кровавые смуты. В 1490г. скончался в возрасте 32 лет сын и соправитель великого князя, талантливый полководец Иван Иванович Молодой. Его смерть привела к долгому династическому кризису, который омрачил последние годы жизни Ивана Ш. После Ивана Ивановича остался малолетний сын Дмитрий, представлявший старшую линию потомков великого князя. Другим претендентом на престол был сын Ивана Ш от второго брака, будущий государь всея Руси Василий Ш (1505 - 1533 гг.). За обоими претендентами стояли ловкие и влиятельные женщины - вдова Ивана Молодого валашская принцесса Елена Стефановна и вторая жена Ивана Ш, византийская принцесса Софья Палеолог. Каждого из возможных наследников поддерживали группировки придворной знати.
Выбор между сыном и внуком оказался для Ивана Ш делом крайне непростым, и он несколько раз менял свое решение. Стремясь отыскать такой вариант, который бы не привел к новой череде междоусобий после его смерти. Поначалу верх взяла «партия» сторонников Дмитрия-внука, и он в 1498 г. был коронован по неизвестному до того чину великокняжеского венчания, несколько напоминавшему обряд венчания на царство византийских императоров. Юный Дмитрий был провозглашен соправителем деда. На плечи ему были возложены царственные «бармы», а на голову - золотая «шапка».