В конце 1866 г. должность заведующего казачьими полками была упразднена, и 13.1.1867 г. Якова Петровича «зачислили по Донскому войску».

Доживал Я. П. Бакланов в Петербурге. На Дон он не вернулся.

Почему люди на старости лет меняют место жительства? Почему живут там, где их никто не знает, и они никого не знают?

Жизнь Якова Петровича Бакланова вне походов, вне войн плохо и мало изучена.

Может, он просто за детьми присматривал, материально их поддерживал. Старший его сын Николай вместе с отцом был в Литве, а с 1864 до 1866 года числился в лейб-гвардии казачьем полку, младший в это время служил в Атаманском. В гвардии служить — средства нужны. Все жалование на подарки да на полковые праздники уходит.

Его, разумеется, не забыли. Очень уж колоритная была фигура. Да и слава ему сопутствовала для проводившего либеральные реформы Петербурга своеобразная. Как писал один современник, «типичная наружность Бакланова, сильно смахивавшего на свирепого кабана, способствовала этой славе. Наружность его была действительно такая, что встреча с ним никогда не забывалась». И многие эти встречи с Баклановым фиксировали. Цензор Никитенко, автор знаменитого 3-томного «Дневника», например, зафиксировал: «Казацкий генерал Бакланов с удивительною рожею. На ней как будто отпечатана такая программа, что если он хоть четвертую часть ее исполнит, то его 10 раз стоило повесить. А между тем, странное дело, тут же видно и какое-то добродушие».

В отставке Яков Петрович прожил недолго. Всего шесть лет. Читал о военном деле, следил из Петербурга за всеми событиями в Донском войске. Успел написать короткие воспоминания, охватывающие далеко не все события его жизни. Долго и тяжело болел и умер 18 октября 1873 года.

Вроде и аренда у него была и пенсия генеральская, но деньги у Бакланова никогда не держались, не знал он им счета. Похоронили его за счет Донского войска на петербургском Новодевичьем кладбище. Донцы так же собрали средства на сооружение памятника и осенью 1878 г. этот памятник установили. Он представлял гранитную глыбу, на которую накинута бронзовая бурка. На бурке — папаха, шашка и древко знамени; полотнище знамени свешивается со скалы.

Позже прах Якова Петровича перезахоронили в крипте Войскового собора, и перенесли в Новочеркасск памятник.

На Дону Бакланова всегда помнили. В 1894 году в Азовском порту был спущен на воду пароход «Бакланов». К 100-летию Якова Петровича «Баклановским» назвали один из новочеркасских проспектов. За стрельбу на лагерных сборах казакам давали приз имени генерала Бакланова, а в Донском кадетском корпусе была такая стипендия.

Донские казаки, образовавшиеся изначально, как типичное военное сообщество, свято чтили память своего последнего наиболее яркого представителя.

В начале XX века Донским полкам, набираемым на совершенно иной основе, присвоили имена почетных шефов — Суворова. Кутузова, Потемкина, Ермака Тимофеевича, Платова… Новый полк № 17, называемый по-новому — 17-й Донской казачий полк, стал с того времени носить имя генерала Бакланова. Подобно «гусарам смерти» имел он особую символику — «мертвую голову». И знамя для полка изготовили соответствующее — прославленный баклановский значок черного цвета с черепом и костями и надписью «Чаю воскресения мертвых и жизни будущего века».