Одновременно с большими (океанскими) получили развитие патрульные лодки. В соответствии с требованиями МГШ, они должны были иметь дальность плавания 10-узловым ходом не менее 25000 миль, автономность порядка 60 суток, большой запас торпед, два 140-мм орудия и бортовой гидросамолет для ведения разведки. Исходя из них, МТД взял за основу проект немецкой U 139 и соответствующим образом его переработал. Неразрешимой проблемой оказались бортовой самолет и надежность главных механизмов. В конце концов от гидросамолета пришлось отказаться, а дизели закупить у германской фирмы M.A.N. Корпус первых патрульных лодок был сравнительно коротким (97,5 м против 100,8 м у типа KD2) и широким (9,2 м), что позволяло разместить большие запасы топлива, обеспечивать требуемую автономность, хорошие мореходные качества и приемлемую остойчивость в надводном положении, необходимую для эффективного использования двух 140-мм орудий. В рамках программы 1923 г. по бюджету на 1923/24 гг. МГШ заказал сразу три патрульные ПЛ типа J1 (№ 74, № 75 и № 76), а в начале 1927 г. приступили к постройке четвертого корабля (I-4). Во время ходовых испытаний головной лодки серии выяснилось, что скорость надводного хода у нее не достигала 19 узлов, предусмотренных спецификацией, что заставило на остальных ПЛ данного типа изменить форму легкого корпуса в носовой оконечности. Главным недостатком кораблей типа J1 МГШ считал отсутствие бортового гидросамолета и потребовал на следующих патрульных лодках решить эту проблему.

Работы над созданием бортового гидросамолета для ПЛ японцы начали еще в 1923 г., когда стало известно, что американцы приобрели самолет у германской фирмой "Heinkel", который разместили на лодке S-1. Он с помощью крана опускался на воду, хотя изначально запуск планировался при помощи катапульты. Американцы переделали самолет (вместо колес смонтировали два поплавка, крылья сделали складывающимися, облегчили ряд корпусных конструкций), и он получил обозначение "Caspar-Heinkel" U-1. Японское правительство закупило такой же самолет для патрульных лодок. В течении двух лет шла его доработка и в конце 1925 г. опытный образец, полностью изготовленный в Японии, под названием "Heinkel" U-1 (тип 1 "Йокосука") был готов к испытаниям. Впервые он попал на корабль летом 1927 г. после вступления в строй заградителя I-121. На этой лодке в качестве ангара использовались минные трубы, где самолет хранился в разобранном состоянии и обслуживался с помощью специального крана. После ряда испытаний МТД пришел к выводу о необходимости запускать гидросамолет при помощи катапульты, так как его боевое использование даже при небольшом волнении становилось проблематичным. Исходя из результатов испытаний I-121, МТД зачительно переделал проект J1. За ограждением рубки, побортно разместили два герметичных ангара, жестко связанные с прочным корпусом. В одном из них хранился корпус самолета, в другом — крылья с поплавками. За ангарами должна была расплолагаться пневматическая катапульта. Пятую патрульную ПЛ типа J1M заложили в октябре 1929 г. Она вошла в строй в июле 1932 г., но к этому моменту самолет "Heinkel" U-1 считался устаревшим. Только в 1940 г. лодка получила на вооружение бортовой самолет "Ватанабе" E9W1. Конструкцию корабля типа J1M сочли удачной.

В октябре 1924 г. в рамках программы "Флот 8–8" 1919 г. заложили три подводных заградителя типа KRS (№ 48, № 49 и № 50) и приступили к постройке четвертого корабля серии программы 1923 г. Эти четыре лодки, проект которых был разработан на основе германской ПЛ типа UЕ II, являлись первыми и единственными подводными заградителями японского флота. В кормовой оконечности они имели две горизонтальные трубы для 42 мин заграждения, а в носовой — четыре 533-мм ТА. Во время постановки мин, даже при грамотном использовании специальных заместительных цистерн, возникал дифферент на нос. После завершения постановки "проваливалась" корма. Корабли плохо управлялись из-за малых размеров рулей, имели недостаточную остойчивость и незначительную автономность. В середине 1926 г. МГШ заказал три большие (океанские) ПЛ типа KD4. Они являлись развитием проекта KDЗВ. При тех же размерах был увеличен запас плавучести (для улучшения мореходных качеств) и до шести сократили число 533-мм ТА. Благодаря этому, возросли автономность и дальность плавания (до 10800 миль 10-узловым ходом). Дальнейшим развитием больших (океанских) ПЛ стал тип KD5. В отличие от предшественников, корпусные конструкции на нем выполнили из новых сортов стали, легкий корпус был расширен до 8,2 м (против 7,8 м на KD4) и получил новую форму, были сокращены размеры ограждения рубки и изменены ее очертания. благодаря нововведениям, скорость надводного хода возросла до 21 узла, предельная глубина погружения — до 70 м и повысилась остойчивость. Вместо 120-мм установили 100-мм зенитное орудие. Три лодки данного типа заказали в рамках бюджета на 1929/30 гг.

Последним кораблем программы 1923 г., реализованным постройкой, стала экспериментальная № 71. Еще в начале 1924 г. было решено приступить к работам над проектом лодки, обладающей большой скоростью подводного хода, но только в начале 30-х годов были проведены первые испытания натурной модели такого корабля. В отличие от Германии и СССР, японцы не стали заниматься разработкой новых видов двигателей подводного хода и сосредоточили усилия на форме корпуса. В результате им удалось получить ПЛ небольшого водоизмещения, способную в подводном положении идти со скоростью 21 узел. Дальность плавания при этом не превышала пяти миль. № 71 заложили в декабре 1937 г. на средства, выделенные Парламентом в рамках "Третьей программы по замене" 1937 г.

В августе 1928 г. начальник МГШ и морской министр предложили Парламенту новую кораблестроительную программу. Она предусматривала заказ (помимо прочих кораблей) 30 (по другим данным 32) лодок различных классов. В апреле 1930 г. завершилась Лондонская конференция по морскому разоружению, на которой японцы пытались убедить партнеров по переговорам согласиться с тем, они будут располагать ПЛ суммарным водоизмещением 78000 т, а их флоты — не более 52700 т. Хотя этого достичь не удалось, в ноябре 1930 г. Парламент утвердил "Программу 1931 г. по замене вспомогательных кораблей", в которой осталось только девять ПЛ суммарным водоизмещением 11700 т. Программа 1931 г. должна была быть реализована до декабря 1936 г. В соответствии с ней, по бюджету на 1932/33 гг. заказали большую (океанскую) ПЛ типа KD6А, среднюю типа K5 (Ro-33) и патрульную типа J2 (I-6). Последняя отличалась от I-5 формами легкого корпуса, новыми, более мощными главными механизмами, увеличенными размерами контеинеров для хранения бортового гидросамолета ("Ватанабе" E9W1) и вместо двух 140-мм орудий установили одно 127-мм зенитное. Контейнеры поднимались над надстройкой при помощи гидравлических приводов, и в этом положении самолет мог выводиться на катапульту. I-6 передали флоту в мае 1935 г. Результаты ходовых испытаний разочаровали МГШ, так как корабль имел сравнительно небольшую дальность плавания, недостаточную остойчивость и ограниченный запас торпед. Лодка типа KD6А (I-68) нелялась дальнейшим развитием кораблей линии KD и отличалась от предшественниц (типа KD5) удлиненным до 104,7 м корпусом (против 97,7 м) и более мощными дизелями (9000 л. с. пртив 6000 л. с.). Благодаря этим нововведениям, при том же составе вооружения, скорость надводного хода возросла до 23 узлов, а дальность плавания до 14000 миль. K5 стала первой средней лодкой после восьмилетнего перерыва. Этот корабль должен был стать прототипом для большой серии. В своей основе его конструкция являлась развитием типа K4, но, благодаря новым формам легкого корпуса, ограждения боевой рубки, сокращению до четырех числа 533-мм ТА (с сохранением запаса торпед) и увеличенной мощности главных механизмов, были обеспечены высокие скорость хода, дальность плавания и большая автономность. По бюджету на 1933/34 гг. и на 1934/35 гг. заказали пять кораблей типа KD6А и одну типа K5.