В 1338 году Асикага Такаудзи был назначен северной династией на должность сёгуна. Появилось второе самурайское правительство, получившее название сёгунат Муромати, по имени одноименного района столицы, где находилась резиденция сёгуна. Время существования этого правительства называется периодом Муромати (1338—1573). В отличие от предыдущих режимов новый сёгунат повел курс на децентрализацию. Он предоставил военным губернаторам сюго в провинциях право присваивать половину налогов из региона, заставив их собственноручно поддерживать местных малоземельных самураев. Эти начальные реформы способствовали привлечению японской знати на сторону правительства в войне двух династий, но превратили военных губернаторов в мощных провинциальных властителей, которые часто пренебрегали приказами центра.
В 1392 году при правлении 3-го сёгуна Асикага Ёсимицу произошло объединение двух ветвей императорского дома в одну, что ознаменовало конец войны. С помощью сёгунских советников канрэев удалось поставить под жесточайший контроль военных губернаторов. Сёгунат взял на себя ряд политических функций императорского двора и стал единственным общеяпонским правительством. Для эффективного управления восточными землями Ёсимицу выделил камакурскую администрацию, а для активизации экономики страны начал торговлю с китайской династией Мин и корейской династией Чосон. Он также вел борьбу с контрабандистами и японскими пиратами.
После смерти Ёсимицу сёгунат начал постепенно терять контроль на регионами. Реальную власть в стране захватили сёгунские советники и военные губернаторы из провинций. В 1467 году из-за противостояния советников Хосокава и Яманы о назначении следующего председателя сёгуната вспыхнула война, получившая название смуты Онин. Она дала начало длительным междоусобицам самурайства в столице и регионах, так называемому периоду Сэнгоку, «Эпохе воюющих провинций» (1467—1615). Сёгун окончательно утратил свою роль всеяпонского лидера и гаранта стабильности. Для Японии нормой стали социальные катаклизмы: мятежи и восстания низов против верхов. Так, в 1486 году в провинции Ямасиро местные самураи выгнали всех чиновников и 8 лет самостоятельно управляли регионом, а в 1488 году последователи секты Дзёдо-синсю захватили власть в провинции Кага и удерживать её около века.
С начала 16 века новыми властителями в регионах постепенно стали председатели местных самурайских родов, которые сбросили своих вчерашних хозяев — военных губернаторов. Эти главы, которые назывались даймё, порвали с центральной властью и начали формирование собственных родовых «государств». Они конфисковывали частные и государственные земли в свою пользу, переставали перечислять налоги в столицу и организовывали крупные родовые армии из местной знати. Резиденции обладателей находились в горных замках, у подножия которых закладывались призамковые торгово-ремесленные города. В ряде таких родовых «государств» были установлены оригинальные удельные законы, которые выполняли функции земельного и уголовного кодексов.
В то время как центральную Японию охватили междоусобицы, на юге острова Рюкю объединились под руководством династии Сё, основавшая королевство Рюкю. Это государство заключило договоры с Японией и китайской Мин, и играла важную роль посредника в азиатской торговле 15 — первой половины 16 века.