Смирив гордость, Олег явился на переговоры. Приговор братьев был суров: Олег был лишен Чернигова, ему определили жить в лесном Муроме, подальше от половецкой степи, а пока же обретаться у брата в Смоленске, потому что в Муроме находился сын Мономаха Изяслав. Чернигов же оставляли за другими братьями Олега. От Олега потребовали также явиться на общий съезд русских князей для объединения сил против половцев.
К этому времени против Руси объединились две мощные половецкие орды — хана Тугоркана и хана Боняка. Их набеги происходили почти одновременно. Не помогало и то, что Святополк Изяславич женился на дочери Тугоркана, тесть продолжал свои опустошительные набеги на владения зятя. В 1096 г . Тугоркан напал на переяславские земли. Святополк и Мономах вышли навстречу половцам и разгромили их. В битве был убит и сам Тугоркан. Хан, по приказу Святополка, был похоронен близ княжеского села Берестово под Киевом. А в это время орда Боняка осадила Киев, захватила Печерский и Выдубицкий монастыри, забрала там ценные вещи — драгоценные оклады икон, серебряные кресты, разный скарб, ограблены были монашеские кельи. Братья бросились назад к Киеву, но не смогли догнать Боняка.
Пока Святополк и Мономах проводили время в изнурительной и жестокой борьбе с половцами, Олег снова подал о себе дурную весть. Он ушел из Смоленска, двинулся на Рязань, взял ее и направился к Мурому, где еще княжил Изяслав Владимирович. Дядя шел на племянника, считая Муром своей «отчиной». А племянник поднимал против дяди весь северо-восточный край. Поскакали гонцы в Ростов, Суздаль, Белоозеро, Новгород: Изяслав просил у братьев помощи против Олега.
Около Мурома войска Олега и Изяслава встретились в решающей битве. Олег одолел муромскую дружину малоопытного и молодого Изяслава. Сам муромский князь пал в бою. Мономах лишился в междоусобной борьбе первого сына. Олег взял Муром и двинулся на Суздаль. Не имея достаточных сил для сопротивления и не получив помощи ни от Мономаха, ни от его старшего сына Мстислава, княжившего теперь в Новгороде, суздальцы сдались Олегу. Затем Олег так же легко взял Ростов. Везде он назначил своих посадников.
Но вскоре из Новгорода от старшего сына Мономаха Мстислава к Олегу пришел посол с требованием покинуть земли, принадлежащие Мономахову дому. В обмен Мстислав обещал помирить Олега с отцом. Но Олег ответил отказом. В эти же дни Олег получил письмо от Владимира Мономаха. Тот взялся за перо, когда узнал из письма Мстислава о гибели сына. «О я, многострадальный и печальный! — писал потрясенный Владимир Мономах своему заклятому врагу. — Много борешься душа с сердцем и одолеваешь сердце мое; все мы тленны, и потому помышляю, как бы не предстать перед страшным судьею, не покаявшись и не помирившись между собой». Мономах обращался к Олегу со словами мира и страдания. Он предлагал не губить Русскую землю, сам же не собирался мстить за сына, полагая, что смерть воина в бою — естественное дело. «А мы что такое, люди грешные и худые? — философски размышлял Владимир, — сегодня живы, а завтра мертвы, сегодня в славе и в чести, а завтра в гробу и забыты, — другие собранное нами разделят». Мономах призывал Олега положить конец кровопролитию, договориться о всех взаимных обидах. Мономах признавал свою неправоту и говорил, что он простой смертный человек. Говорил он и о несправедливостях и жестокости Олега. В заключение он писал: «Не от нужды говорю я это, не от беды какой-нибудь, посланной богом, сам поймешь, но Душа своя мне дороже всего света сего. На Страшном суде без обвинителей сам себя обличаю» (дано в переводе).
Это письмо, написанное рукой отца, тяжело переживающего смерть сына, являет собой образец высокого гражданского мужества, способности человека перешагнуть через личное несчастье, через попранные амбиции ради интересов Родины. В этом письме Владимир Мономах показал себя истинным христианином, которому, несмотря на жестокости времени, не чужды высокие гуманистические христианские идеалы.
Олег и на этот раз ответил отказом. Более того, он начал готовиться к походу на Новгород, чтобы выбить оттуда старшего сына Мономаха, своего крестника Мстислава. Теперь против Олега поднялось все Мономахово племя во главе с самим князем Владимиром. Против Олега выступила новгородская рать. В подмогу ей Мономах направил другого сына Вячеслава, дав ему свой родовой стяг.
Новгородцы быстро выбили отряды Олега из северных городов. Уходя из Суздаля, Олег поджег город. Укрылся он в Муроме. Здесь неподалеку от города Мономаховичи при поддержке дружественных половцев одолели войско Олега. В решающий момент битвы юный Вячеслав приказал вынести вперед стяг Мономаха и воины Олега дрогнули, полагая, что это сам Владимир пришел отомстить за смерть сына. Сдав Муром, а потом Рязань, Олег запросил мира и поклялся на кресте прибыть на княжеский съезд для решения всех общерусских дел.
В 1097 г . Русь стала свидетелем необычайного события: впервые в ее истории все наиболее крупные и известные русские князья Рюриковичи, внуки и правнуки Ярослава Мудрого, съехались в родовой замок Мономаха — г. Любеч — для того, чтобы устроить порядок на Руси. На съезд прибыли Святополк Киевский, Владимир Мономах, князь Переяславский, братья Святославичи Олег и Давыд, Давыд Игоревич из Владимира-Волынского, Василько Ростиславич, князь Теребовльский, враждовавший на Волыни с Давидом Игоревичем, другие князья, их бояре и дружинники. По словам летописца, князья сказали на съезде: «Зачем губим Русскую землю, сами на себя ссоры навлекая? А половцы землю нашу расхищают и радуются, что нас раздирают междоусобные войны. Да с этих пор объединимся чистосердечно и будем охранять Русскую землю, и пусть каждый владеет отчиной своей» («каждо да держить отчину свою»).
Князья договорились, что за каждым из них сохраняются земли их отцов — детей Ярослава Мудрого. За нарушение этого порядка князьям-отступникам надлежало держать ответ перед всей землей. Им грозило наказание со стороны остальных князей. На этом договоре участники Любечского съезда целовали крест в знак верности соглашению.
В советской исторической науке сложилось твердое убеждение, что Любечский съезд стал той гранью, которая ознаменовала начало политического распада Руси, узаконила его. Это виделось в знаменитой летописной фразе «каждо да держить отчнну свою». Данная точка зрения нашла отражение в школьных и вузовских учебниках.
Однако при этом не только выпадали из рассмотрения факты о последующем могучем единстве Руси времен Владимира Мономаха и Мстислава, но и безусловное укрепление этого единства даже при относительно слабом великом князе — Святополке. А ведь это был период довольно значительный в истории Руси, почти тридцать лет. Следует также заметить, что акцент всего летописного пассажа делается как раз не на обособлении отдельных княжеских «отчин», а на другом. «Да ноне отселе имемся въ едино сердце, и блюдемъ Рускые земли» — так передает летописец основной смысл договоренности князей, а далее и следует известная фраза об «отчинах». Но о каких же «отчинах» идет речь?
Святополк держит за собой все владения, принадлежащие Изяславу Ярославичу, Владимир Мономах — владения Всеволода Ярославича, а за детьми Святослава Ярославича закреплялись владения их отца. Закреплялся и порядок, установленный великим князем Всеволодом: за Давыдом Игоревичем оставался Владимир-Волынский, за Володарем Ростиславичем (правнуком Ярослава Мудрого) — Перемышль, а за его братом Васильком — Теребовль в той же Волынской земле.
Эта запись появилась именно потому, что потомки Ярослава Мудрого начали рушить его завет о том, чтобы каждый его сын сохранял за собой определенную часть Руси. И теперь надлежало вновь вернуться к этому завету и нерушимо держаться заповедей великого предка.
Но ни в этих записях, ни позднее, нигде не оспаривался основной смысл предсмертного распоряжения Ярослава о том, что во главе Руси остается его старший сын («Се же поручаю в собе место столъ старейшему сыну моему и брату вашему Изяславу Кыевъ; сего послушайте, якоже послушаете мене»). Любечский съезд не только не отменил этот порядок, но и закрепил его своим решением о единстве Русской земли. Необходимо помнить, что весь пафос съезда был направлен на выработку таких решений, которые помогли бы объединить Русь в борьбе с половцами («А половци землю нашю несуть розно, и ради суть, оже межю нами рати»).