В период Хэйан, из-за отсутствия внутренней или внешней угрозы для центрального правительства, Япония не имела регулярной армии. В целом уровень безопасности в стране, особенно в отдаленных регионах, был невысок. В целях защиты своих земель от грабителей местная знать начала формировать вооруженные отряды из «служилых людей» — самураев. Лидером таких отрядов становились преимущественно столичные аристократы, которые находились с подчиненными воинами в отношениях господина и слуги. Самыми известными среди отрядов были выходцы из родов Тайра и Минамото.
Между тем, в середине 11 века на трон взошел император Го-Сандзё, который не был родственником аристократов Фудзивара, и поэтому повёл курс на восстановление абсолютной власти монарха. Его реформы были поддержаны следующим императором Сиракава. Он ограничил влияние регентов и советников Фудзивара на монарха тем, что в 1086 году досрочно ушел в отставку, передав трон своему сыну, а сам стал его опекуном и советником. Таким образом было положено начало так называемому «правлению экс-императоров», институт инсэй, который был призван оберегать династию от чрезмерного вмешательства аристократов. Благодаря успешной реализации такого правления, род Фудзивара, который на протяжении 200 лет использовал родственные связи с императорским домом для узурпации власти, утратил свои позиции в правительстве.
Наряду с аристократами на воинские должности императорского двора стали принимать знатных самураев. Постепенно их стали признавать как отдельное сословие. К середине 10 века региональные самураи имели такую ??силу, что поднимали восстания против центрального правительства — в регионе Канто во главе с Тайра-но Масакадо и вблизи Внутреннего японского моря под руководством Фудзивара-но Сумитомо[9]. Поскольку государство не имело регулярной армии, она подавила выступления силами других самураев, тем самым способствуя росту их авторитета. Во второй половине 11 века на северо-востоке страны дважды вспыхивали бунты (смута Хогэн и смута Хэйдзи), которые были разбиты силами самураев из Канто. Их командир Минамото-но Ёсииэ снискал себе славу успешного полководца во всей Восточной Японии.