Кроме «официальных» сил имелись еще и военные отряды аристократических домов (сёка-но хэйси). Их существование не было предусмотрено законодательством, но, видимо, именно они были наиболее боеспособны. В дневниках аристократов того времени встречается много упоминаний о схватках между такими отрядами, происходивших на улицах столицы. Императорский двор время от времени издавал малоэффективные указы, запрещавшие частным лицам пользоваться оружием. Вообще, в X-XI вв уже просматриваются тесные связи между «официальными» и «частными» военными отрядами; предположительно, в них даже могли служить одни и те же люди.
Среди столичных жителей — как аристократии, так и ее окружения — было много первоклассных стрелков из лука и людей, искусно владевших мечом. Популярным развлечением тех лет были состязания в стрельбе из лука на скаку — ябусамэ. Аристократы-обладатели высоких рангов сами, как правило, не принимали участия в подобных состязаниях, но охотно обеспечивали своих лучших стрелков «конем и луком».
Провинциальные военные отряды были двух типов: отряды управителей и отряды местных знатных домов. Первые, в, свою очередь, состояли из частей непосредственного подчинения и «воинов провинции», так называемых куни-но цувамонодомо. В непосредственном подчинении находились приближенные к управителю представители провинциальной знати, которых, наверное, можно уже назвать вассалами. Кроме них, в отряды включались чиновники провинциальных управлений (дзайтё̄-но каннин), в обязанности которых входил контроль над изготовлением оружия в данной провинции. Самыми крупными отрядами обладали главы приграничных провинций севера и юга страны, а также побережья Внутреннего Японского моря.
«Воины провинции», видимо, были связаны с провинциальным управлением длительными отношениями: либо службой в пограничной страже, либо организацией охоты, либо участием в храмовых церемониях.
Что касается военных отрядов местных знатных домов, то их «частный» характер (как и в столице) проявлялся только в источнике содержания их воинов. Для государственные и «частных» военные формирований существовало строгое общее правило: они могли выступить только после получения письменного указа-разрешения императорского двора. Если это правило не выполнялось, то нарушитель объявлялся бунтовщиком, и государство направляло своего представителя для наведения порядка.
Отряды кэбииситё и отряды управителей провинций содержались на налоги, собираемые центральной властью. По мере того как сумма поступавших в столицу налогов уменьшалась, воин переходили служить в отряды то̄рё̄ или служили в двух отрядах одновременно, поскольку то̄рё̄ стабильно обеспечивал своих воинов, а государственное ведомство давало им должность и ранг, определявшие их социальный статус.
Военные конфликты периода Хэйан были затяжными и кровопролитными. Оружие, которое использовали японские воины, оставалось практически неизменным: лук, стрелы, меч и копье. Во второй половине XI в. меняется техника ведения боя — все чаще упоминаются факты единоборств, т. е. форма присущая самурайским боям последующих эпох.
Вскоре после смерти Фудзивара-но Митинага произошло восстание Тайра-но Тадацунэ. Оно началось в 1028 г. в провинциях Кадзуса и Симоса и по характеру было борьбой между Тадацунэ и Наоката за главенство в кантосской ветви дома Тайра.
Для наведения порядка в Канто̄ двор направил Минамото-но Ёринобу. В 1031 г. Ёринобу вернулся в столицу «с головой Тадацунэ» и его плененными сыновьями. Последним было даровано прощение: вероятно, центральная власть опасалась новых осложнений в Канто̄. Восстание нанесло огромный ущерб району, погибло много мирных жителей, было уничтожено множество полей, и на экономическое восстановление потребовалось долгое время. Одновременно, восстание продемонстрировало политическое и экономическое значение военной силы Тайра и Минамото, хотя пока еще регулируемой центральной властью. Во второй половине XI в. японское государство потрясли войны на северо-востоке о-ва Хонсю.
Война 1051–1062 гг., вошедшая в историю под названием 9-летней, началась в провинции Муцу и так же, как предыдущие конфликты, происходившие в северо-восточной части страны официально интерпретировалась как противостояние «варваров» эмиси и культурного центра.
Поводом к началу военных действий был отказ Абэ-но Ёритоки, главы знатного местного рода, от уплаты налогов центральной власти. Род Абэ управлял несколькими областями в провинции Муцу по меньшей мере на протяжении 100 лет. В его владения входили бассейн р. Китакими и крепость Идзава — территории, покоренные Саканоуэ-но Тамурамаро в IX в. Представители рода Абэ занимали наследственные должности в провинциальном управлении, собирали налоги, поддерживали мир и порядок от имени центральной власти.
Губернатор провинции Муцу поднял отряды против бунтовщика, однако был разбит. Военные действия продолжались с 1051 по 1062 г. с переменным успехом. Окончательную победу правительственным войскам удалось одержать под руководством Минамото-но Ёриёси, сына Ёринобу, подавившего в 1031 г. восстание Тайра-но Тадацунэ. Ему были предоставлены широкие полномочия непосредственно привлекать провинциальные власти и различные военные отряды провинций без предварительного обращения к императорскому двору. Численность сил Ёриёси была небольшой (1–3 тыс. чел.), но, в отличие от военных действий IX в., столичные воины по мастерству владения луком и стрелами сравнялись с эмиси провинций Муцу и Дэва. На этой войне прославился Ёсииэ, старший сын Ёриёси, которого «варвары» прозвали «сыном Хатиман», бога войны.
Назначение Минамото-но Ёриёси управителем провинции Муцу и военным командующим, показывает, что правительство по-прежнему использовало военные отряды аристократических домов для выполнения государственных задач. Новым, однако, было то, что, в отличие от прежних командующих, ни Ёриёси, ни кто-либо из его ближайшего окружения никогда не служили в дворцовой страже, так что Ёриёси получил высокое назначение в значительной степени благодаря тому, что был известным воином. Новым было и то, что когда Ёриёси за свой успех был награжден должностью управителя провинции Иё (о-в Сикоку), он отказался отправиться к месту нового назначения до тех пор, пока не будут награждены 10 его ближайших сподвижников. Такое поведение было не чем иным, как проявлением нового типа социальных отношений, сложившегося к тому времени в доме Минамото — Ёриёси уже имел определенные обязанности как сюзерен. Это сыграло огромную роль в последующем возвышении рода Минамото.
В 1083–1087 гг. Ёсииэ, сын Ёриёси стал главным действующим лицом следующей, т. н. 3-летней войны, завершившей спор за главенство на северо-востоке. Его противником был тогда род Киёхара. В отличие от всех предыдущих конфликтов Киёхара не нарушили никаких законов центральной власти, продолжали исправно собирать и выплачивать налоги и выражать почтение двору. Поэтому, когда Минамото-но Ёсииэ доложил о победе, двор не только не наградил его, но определил этот конфликт как «личную месть Ёсииэ», лишил его губернаторства в Муцу и заставил выплачивать долги по налогам провинции за все годы войны. Ёсииэ выплатил весь долг только к 1096 г. Борьба между Киёхара и Минамото-но Ёсииэ, как часто бывает в истории, закончилась поражением обеих сторон. В результате спорную местность получила в управление одна из ветвей дома Фудзивара.
Впрочем, несмотря на непризнание двора, Ёсииэ стал знаменитым, уважаемым воином в районе Канто̄. Воины, сражавшиеся под его началом в 3-летней войне, продолжили служить ему и его потомкам. Выросло число его вассалов, увеличились земельные владения, поскольку многие мелкие землевладельцы коммендировали ему свои участки.
Отрекшийся император Сиракава, опасаясь дальнейшего усиления влияния Ёсииэ, в 1091 г. издал специальный указ, запрещавший землевладельцам коммендировать ему земли. Однако в конце концов Ёсииэ получил прощение и даже дозволение входить в личные покои императора. В целом же, история 3-летней войны и последовавших событий показывает, что сила центральной власти в конце XI в. была еще очень
значительной.
Положение дома Тайра в XI в. при дворе было не таким прочным, как положение дома Минамото. Однако политическому возвышению Тайра способствовали как политические ошибки Минамото (старший сын Ёсииэ за грубость, допущенную по отношению к императорскому двору, был сослан в провинцию Сануки, откуда через некоторое время бежал в Идзумо, где поднял восстание, подавленное в 1108 г. Тайра-но Масамори), так и услуги, которые Тайра оказывали отрекшимся императорам Сиракава и Тоба. Тайра-но Корэхира еще в X в. получил земли в провинции Исэ, и с тех пор Тайра сделались самым сильным домом в Западной Японии.
Издавна действовавшие во Внутреннем Японском море пираты доставляли большие неприятности не только населению прибрежных районов, но и столице. Морские разбойники грабили суда, нападали на путешественников. В 1129 г. двор издал указ о назначении Тайра-но Тадамори командующим по усмирению пиратов. По-видимому, он действовал не вполне успешно, поскольку в 1135 г. последовал новый указ — обращение ко всем губернаторам прибрежных провинций начать активные боевые действия. На этот раз Тадамори успешно справился с поставленной задачей, и через несколько месяцев в столицу стали поступать сообщения о победах над пиратами. В 1139 г. Тадамори вновь сумел отличиться при усмирении монахов монастыря Кофукудзи, когда они, разгневанные нападением неизвестных на дом настоятеля, отравились походом из Нара в столицу. Однако наибольшую славу дому Тайра принес Тайра-но Киёмори, сын Тадамори.