Большое внимание Якир уделял взаимодействию войск. Во время проведения широкомасштабного учения всех родов войск у станции Бровары под Киевом (1935 г.) впервые был осуществлен массовый воздушный десант. Блестящую военную операцию по достоинству оценили зарубежные специалисты. Якиру было присвоено звание командарма 1-го ранга (выше по тому времени – только маршал).
По инициативе командующего КВО сооружались Киевский, Коростенецкий, Центральный Украинский, Тираспольский и Каменец-Подольский укрепрайоны. И. X. Баграмян свидетельствовал, что «эти районы в начале Великой Отечественной войны могли бы сыграть большую роль: гитлеровские орды, натолкнувшись на их мощный заслон, не смогли бы так быстро продвинуться в глубь нашей страны, если бы укрепления не разоружили и не демонтировали». Так же поступили и со скрытыми партизанскими базами в приграничных районах. Якир осознавал, откуда исходит угроза для страны, но так до конца и не понял, откуда идет опасность для него.
Иона Эммануилович решительно и мужественно выступал в защиту своих друзей, в числе первых попавших под колесо репрессий. Иногда ему даже удавалось, дойдя до Ворошилова и Сталина, спасти некоторых товарищей, которых он лично знал. Но он слепо верил в существование мифических заговоров против вождя и, например, поддержал самые жестокие карательные меры против Бухарина и Рыкова. И видимо, потому же не смог спасти людей, которым доверял, – комдива Д. А. Шмидта, комбрига Б. И. Кузмичева, комкора И. И. Гаркавого. Якир лично присутствовал на процессе над старым большевиком и другом-однополчанином Я. Л. Лившицем и с ужасом слушал, как тот «добровольно» сознавался в своих преступлениях. Ничего не понимая, командарм старел на глазах, осунулся, стал угрюмым.
29 мая 1937 года, после ареста Тухачевского и других военачальников, пришла очередь и Ионы Эммануиловича. Взять под стражу в Киеве неординарного командарма, пользовавшегося огромным авторитетом на Украине, да еще и во время работы XIII съезда КП(б)У, ни Ежов, ни Сталин не осмелились. Выманил его в Москву Ворошилов. На пути к «новому месту работы» Якир был арестован. На следствии он долго сопротивлялся невиданной провокации. Но все тринадцать военачальников, проходивших по делу «антисоветской троцкистской военной организации», под жестокими пытками признались во всех преступлениях: предательстве, шпионаже, вредительстве, терроризме… Они давали показания не только на своих друзей, но и против себя. Якир пытался найти справедливость у Сталина и Ворошилова. Вождь на письмо командарма наложил резолюцию: «Подлец и проститутка». А Ворошилов на его обращении: «В память многолетней в прошлом честной работы моей в Красной Армии я прошу Вас поручить присмотреть за моей семьей и помочь ей, беспомощной и ни в чем неповинной», – написал в углу листа, что он «сомневается в честности бесчестного человека вообще».
11 июня 1937 года Якира не стало. Был ли он расстрелян или умер от разрыва сердца, как писалось во многих документах 1950-х годов, неизвестно. Жена командарма и 14-летний сын Петр за день до смерти Якира были высланы в Астрахань, а затем арестованы и 17 лет провели в тюрьмах. В 33 года Петр Ионович вернулся в Москву, окончил историко-архивный институт, защитил диссертацию и работал в Институте истории СССР АН СССР. Он был твердо убежден в невиновности отца и гордился им. Наверное, сыну было больно осознавать, что последними словами легендарного командарма, награжденного за доблесть и героизм тремя орденами Красного Знамени, были: «Да здравствует партия! Да здравствует Сталин!» По крайней мере, так писалось в некоторых воспоминаниях современников. Но может быть, эти фразы и не прозвучали. В истории по-прежнему много темных пятен.