После смерти отца мать Хидэёси снова вышла замуж. Поскольку отчим постоянно бил и ругал пасынка, находя его не способным к труду земледельца, последний решил убежать из дома и во что бы то ни стало стать самураем. Молодой Хидэёси оставил родные края и подался на восток, в провинцию Суруга, где собирался наняться на службу к самураям клана Имагава.
Крестьянский (предположительно) сын, приняв новое имя — Киносита Токитиро, — смог устроиться слугой к самураю по имени Наганори Мацусита, одному из вассалов клана Имагава. Став через десятки лет повелителем всей Страны восходящего солнца, он щедро отблагодарил своего первого сюзерена, даровав ему во владение замок Кусано и близлежащие плодородные земли.
В 1554 году Хидэёси ушел со службы клана Имагава и нанялся на службу к Нобунаге Оде в качестве «носителя сандалий». Тем самым он вошел в круг приближенных полководца (что заставляет вспомнить приведенную выше версию о службе в войсках Нобунаги еще его отца, хорошо зарекомендовавшего себя, заслуги которого не были забыты Нобунагой и способствовали карьерному росту сына старого «асигару»).
Так или иначе, способный простолюдин быстро поднимался но самурайской иерархической лестнице. Первой его засвидетельствованной в источниках несомненной заслугой на службе новому сюзерену стал ремонт обвалившихся укреплений резиденции Нобунаги. Под руководством Хидэёси, который тогда ещё числился простым слугой Нобунаги, строительно-восстановительные работы были завершены всего за три дня. Эта оперативность настолько поразила Нобунагу, что «даймё», несмотря на неаристократическое происхождение своего подчинённого, назначил его управителем призамкового города Киёсу. Хидэёси, как успешному хозяйственнику, также были поручены финансовые операции всего клана Ода. Достигнув высокого социального статуса, новоиспечённый самурай закрепил свое положение, вступив в 1564 году в законный брак с дочерью Нагамасы Асано, знатного самурая и вассала Нобунаги Оды.
В 1566 году Хидэёси отличился в ходе войны Нобунаги Оды с самурайским кланом Сайто за провинцию Мино. Ему удалось быстро («всего за одну ночь») возвести укрепление в болотистом районе Суномата, ставшим главным плацдармом для штурма неприятельской цитадели. Кроме того, Хидэёси удалось переманить на свою сторону ряд влиятельных «тайсе» (генералов) противника. Ход войны изменился не в пользу клана Сайто, и через два года Нобунага Ода смог захватить всю провинцию.
В 1568 году Хидэёси принимал участие в походе войск Нобунаги Оды на Киото и был назначен, совместно с Мицухидэ Акэти, соправителем столицы.
В 1570 году Хидэёси со своим «бусиданом» вошёл в состав армии Нобунаги Оды, выступившей в поход на самураев клана Асакура, властителей северной провинции Этидзэн. В ходе этой кампании стало известно об измене союзника Нобунаги — Нагамасы Адзаи, вознамерившегося, вместе с силами клана Асакура, взять армию Оды в тиски. Нобунага решил поспешно отступить к столице, оставив Хидэёси, назначенного предводителем арьергарда, на верную смерть. Тем не менее тот успешно отразил все атаки неприятеля в районе Канагасаки и возвратился в Киото с вверенным ему войсковым контингентом целым и невредимым. Этот подвиг — самоотверженное прикрытие отхода войска Нобунаги — окончательно изменил отношения самураев клана Ода к Хидэёси. Если раньше благородные «боевые холопы» в нём видели лишь выскочку-простолюдина «с непропорционально маленькой головой, похожей на обезьянью», то отныне считали его одаренным полководцем и ровней себе во всех отношениях.
После поголовного истребления вероломно изменившего Нобунаге самурайского клана Адзаи в 1573 году Хидэёси получил от Оды в лен бывшие владения этого уничтоженного им «под корень» рода «боевых холопов» в северной части провинции Оми и построил там крепость Нагахама. Поскольку он не имел собственных вассалов, то принял к себе на службу своих родственников, преимущественно выходцев из крестьянского сословия. Кроме этого, он принял в свой клан некоторых вассалов уничтоженного рода Адзаи, блуждавших, в качестве бесприютных «ронинов», по Стране восходящего солнца в поисках нового сюзерена, которому могли бы предложить свои мечи и жизни. Тогда же он принял новое имя — Хидэёси Хасиба.
В 1575 году Хидэеси принял участие в знаменитой битве при Нагасино, в которой три тысячи аркебузиров Нобунаги Оды, почти что в упор, расстреляли знаменитую конницу клана Такэда, навеки сломив военно-политическую мощь этого «военного дома», чуть было не объединившего под своей властью всю Страну восходящего солнца.
В 1576 году он был назначен помощником «тайсё» Кацунэ Сибаты, командующего войсками Нобунаги Оды, преградивших путь наступающей армии «даймё» Кэнсина Уэсуга (давнего соперника клана Такэда). При обсуждении плана боевых действий Хидэёси поссорился с командующим и самовольно оставил военную Ставку. Проведённая Кацунэ Сибатой лобовая атака не увенчалась успехом, и возглавляемая им армия клана Ода потерпела сокрушительное поражение в битве с войсками Уэсуги при Тэдоригавс. Сюзерен Хидэёси Нобунага Ода, узнав о фактическом дезертирстве своего вассала в канун сражения, собирался казнить его, но, учитывая возможность использовать хозяйственные и полководческие качества Хидэёси, в конце концов ограничился вынесением дезертиру строгого выговора.
Чтобы дать Хидэёси возможность искупить свою вину, Нобупага Ода назначил своего провинившегося вассала командующим войсками клана Ода в войне против могущественного самурайского клана Мори (чей родовой герб-«мон» — журавль с поднятыми крыльями — стал эмблемой японской авиакомпании «Джапан Эр Лайнс», Джи Эй Эл). В 1577–1578 годах Хидэёси удалось подчинить несколько самурайских родов — Акамацу, Бэссё и Кодэра — и создать на их землях плацдарм для борьбы с Мори, с центром в замке Химэдзи. В 1579 году Хидэёси сумел переманить на свою сторону самураев рода Укита, давних вассалов клана Мори.
Однако в 1580 году в тылу у Хидэёси против власти Нобунаги Оды восстал самурайский род Бэссё, вследствие чего ему пришлось приостановить успешно развивавшееся наступление на запад и осадить родовой замок восставших. Неприятельская цитадель была взята измором только через год, после чего Хидэёси захватил провинцию Тадзима — владение старинного самурайского рода Ямана. Последние вассалы главы клана Ямана, собравшиеся в замке Тоттори, видя бессилие своего сюзерена, изгнали его и перешли на сторону Мори (как видим, самурайские заповеди, и первейшая из них — непоколебимая верность сюзерену — соблюдались «боевыми холопами» на практике далеко не всегда, особенно в трудные времена «войны всех против всех»). В 1581 году Хидэёси осадил замок Тоттори и, скупив весь провиант в округе, взял неприятельскую цитадель измором.
Как уже упоминалось выше, в 1582 году Хидэёси по приказу Нобунага Ода вторгся в провинцию Биттю и осадил замок клана Мори Такамацу. Этот замок находился в окружённой горами долине, омываемой с обеих сторон реками. Хидэёси свёл дамбы вокруг замка и изменил направление рек так, что вода залила всю долину. В результате этой инженерной стратагемы Хидэёси и сильных дождей замок превратился в островок посреди искусственного озера. До его падения оставалось несколько недель.
В мае 1582 года, как уже говорилось выше, против Нобунаги Оды восстал его вассал Мицухидэ Акэти (которого Ода когда-то оскорбил, ударив веером, посеяв в душе злопамятного вассала зерна ненависти и будущей мести). Окруженный в киотском храме Хоннодзи (как и многие японцы тех и нынешних времен, Ода, будучи ревностным христианином, оставался в то же время — так, на всякий случай! — синтоистом, а заодно и буддистом) десятитысячным войском мятежника, Нобунага Ода, увидев, что храм охвачен огнем, совершил над собой обряд «сэппуку» (по другой версии, он нал от руки Акэти Мицухидэ, однако точно установить это так и не удалось, поскольку труп злополучного «даймё» сгорел в огне пожара, уничтожившего храм). Узнав о гибели своего сюзерена, Хидэёси, все еще осаждавший замок Такамацу, скрыл полученную новость от противника, заключил перемирие с кланом Мори и спешно отвел все свои войска к столице. Одновременно на разгром мятежных самураев Мицухидэ Акэти (объявившего себя «сёгуном») двинулся ещё один близкий соратник Нобунаги — Иэясу Токугава, однако Хидэёси опередил Токугаву, преодолев всего за три дня расстояние в несколько сотен километров. 12 июня 1582 года сорокотысячная армия Хидэёси, благодаря своему подавляющему численному превосходству, разгромила войска самозваного «сёгуна» Мицухидэ Акэти в битве при Ямадзаки. Искавший спасение в бегстве вероломный Мицухидэ (вошедший в историю Японии под ироничным прозвищем «сёгун на тринадцать дней» или «тринадцатидневный сёгун») был убит местными крестьянами при попытке силой получить от них провизию и конский фураж (по другой, более «романтической» и «героической», версии, «тринадцатидневный сёгун» пал от руки самого Хидэёси, желавшего во что бы то ни стало отомстить неверному вассалу за гибель своего сюзерена).