Деятельными прихожанами были резчик печати Даниил Цуда, заполнивший один из углов своего дома иконами, как в России, и Петр Мигури. Самым богатым прихожанином считался Петр Иноуе, имевший собственную торговую лавку, дом и даже загородную дачу. Имеются сведения, что в 1913 г. в Кобе построили первый православный храм.

В Осаке православная деятельность началась в 1877 г., когда сюда приехали Павел Ниицума и Павел Тацибана.

Если первый после встреч с жителями вернулся в Токио с докладом для владыки Николая, то Тацибана остался в городе и занялся проповедью, открыв приход во имя целителя Пантелеймона. В октябре того же года ему на помощь был отправлен Яков Такая. 2 марта 1878 г. иеромонах Анатолий (в миру Александр Дмитриевич Тихай), приехавший из Хакодате, крестил здесь 33 человека, а через четыре года он открыл катихизаторское училище. В том же 1882 г. архимандрит приобрел для Осакского прихода участок земли в память «мученической кончины Царя-Освободителя», деньги на покупку которой собрал во время отпуска в России.

Проповедью занимались в четырех домах Осаки. «Народ осакский — безучастен к вере, — писал в 1882 г. владыка Николай. — Никто здесь не мешает проповедникам, но и не слушает их почти никто. Все знают имя Христово, но христианского учения знать не хотят. Гонений нет, но при гонении лучше было бы. Нравы у богатого купечества неподвижные; христианскому учению нелегко будет пробить себе дорогу в этой среде». Прихожанами осакской православной церкви были русские дипломаты и те немногие выходцы из России, кто поселился в этом районе. Несколько лучше было положение у католиков, имевших в Осаке больший храм на 500 человек и женскую школу. У протестантов имелось немало приходов, расположенных как в иностранном квартале, так и в городе, но общее число японских христиан Осаки не превышало 200 человек.

Первый православный храм, во имя Покрова Божией Матери, расположился в здании бывшего ресторана «Санкёро» (Трехмостный) в Осаке с видом на реку Ёдогава и ее три моста, по соседству с осакским замком, построенным в 1583 г. военным правителем Японии Хидэёси Тоётоми. Кроме церкви там же располагались архиерейские комнаты, квартиры дьякона, кахитизатора и других служащих цёркви. Службы проходили в одной из комнат, самой большой. В 1898 г. отец Николай решил перевести в Осаку архимандрита Андроника (в миру Владимир Александрович Никольский), для которого приготовили жилье. Отец Андроник родился 1 августа 1870 г. в семье дьякона Ярославской епархии. Закончив Ярославскую духовную семинарию, он принял монашеский постриг. В 1896 г. иеромонаха Андроника назначили преподавателем, затем инспектором Ардонской Александровской миссионерской семинарии, а еще через год отправили в Японию. Отец Андроник смог прожить в Осаке недолго: только лето 1898 г. В письме владыке он писал, что «болен, скучает по России, сомневается, была ли воля Божия на его приезд в Японию; закрадывается мысль об отъезде». Понимая все трудности, архиепископ предложил ему провести зиму в Токио, но это не помогло: из-за болезни священник был вынужден вернуться в Россию.

Долгое время осакским приходом руководил отец Сергий Судзуки, некоторое время служивший и в Кобе. Несмотря на хорошие профессиональные качества, он так и не смог собрать воедино всех православных, и приход время от времени сотрясали скандалы. Поэтому в начале 1904 г. сюда перевели отца Иоанна Оно. Осакские священники позднее оказали огромную помощь русским военнопленным, размещенным в этом районе. Оживлению церкви способствовало открытие Воскресенской школы, а также проповеди, на которые приходило немало японцев, желавших узнать христианские догмы. Успехом пользовался и рукодельный кружок. В приходе можно было познакомиться с русским языком и культурой. Большую популярность, в частности, приобрело хоровое пение.

Осакские прихожане давно мечтали о строительстве нового храма: за несколько десятков лет существования прихода его здания сильно обветшали и требовали не ремонта, а замены их новыми.

24 августа / 5 сентября 1896 г. владыка Николай записал в дневнике: «Из Осака требуют больших денег на ремонт церковных зданий после недавнего урагана. Пошлю 20 иен на поправку крыш; штукатурку же снаружи могут не возобновлять, а тонкими досками защититься от дождей. Скоро нужно будет строить там храм, на месте нынешних зданий, составлявших когда-то трактир, небезызвестный в Осаке». Но средств на строительство не было, и к осуществлению планов удалось приступить лишь спустя десятилетие.

11/24 августа 1908 г. владыка побывал в Осаке, чтобы еще раз осмотреть перед сносом старые постройки. Из «Атласа планов и фасадов церквей, одобренных к постройке Святейшим синодом» он выбрал план № 19. Местные прихожане посоветовали разместить под одной крышей квартиры для священников и место для собраний, а для воскресной школы построить отдельное здание. Построечные дела поручили Моисею Кавамуре, а подрядчиком стал Фома Обаяси. Тем не менее владыка Николай не выпускал из виду строительство храма и приезжал в Осаку всякий раз, когда требовалось решить мало-мальский вопрос.

Дело оставалось за деньгами. Имевшейся суммы, 14 тыс. иен, было совершенно недостаточно. Отец Николай написал множество писем с просьбами пожертвовать деньги на храм или посоветовать, к кому можно обратиться за пожертвованием. Старый знакомый владыки Л. А. Тихомиров подсказал имя великой княгини Елизаветы Феодоровны, жившей в Москве. Та откликнулась, пожертвовав 1544 франка. Вероятно, по ее просьбе щедрый дар, пять тысяч рублей, поступил от супруги Николая II императрицы Александры Федоровны. Купец из Ханькоу Сергей Васильевич Унженин передал на строительство три тысячи иен. 1600 рублей собрало Братство Воскресения Христова. Петербургские купцы Иван и Федор Ивановичи Рубахины пожертвовали дорогие подсвечники, паникадило и другую церковную утварь. Большую деятельность по сбору денег развил в Новгороде с помощью княгини Александры Николаевны Голициной епископ Андроник, когда-то трудившийся в церкви Осаки. С его помощью было собрано восемь тысяч рублей пожертвований. В промышленной Осаке с населением в один миллион двести тысяч жителей проживали триста православных христиан. Они собрали около 760 иен.

Деньги на колокол пожертвовал Иван Андреевич Колесников, муж известной благотворительницы Ксении Феодоровны, которая уже передала в Японию немало средств. Петербургский купец Александр Григорьевич Елисеев в ответ на просьбу архиепископа заказал для новой церкви за свой счет иконостас и иконы. Владыка Николай был очень доволен: «Дубовый иконостас прост и изящен; иконы, писанные художником Андреем Петровичем Розановым, одобренным о. Иоанном Кронштадтским, который ему заказал написать иконы для своего Иоанновского монастыря в Петербурге, — весьма красивые, хотя я ожидал их в более строгом византийском стиле». Так случилось, что в это время в Японии находился племянник А. Г. Елисеева, будущий известный японовед, которого пригласили на освящение церкви.

13/26 августа 1909 г. состоялась торжественная закладка храма, которую провел владыка Николай. «Фундамент нашел отлично приготовленным, — писал он. — Два ряда камней уложены, камень — гранит, работа тщательная. Дом для христиан почти совсем готов; во весь этаж, только божницу я велел устроить не на западной стороне, как предположено было, а на восточной. Дом для служащих церкви вчерне также готов; будут очень удобные помещения для священника, диакона, катихизатора и учителя пения, а также — для временных посещений епископа — по-русски устроенные комнаты». На этом событии присутствовали более ста человек, в том числе настоятель Посольской церкви протоиерей Петр Булгаков и другие русские.