М. И. Калинину суждено было сыграть немалую роль в истории социал-демократических организаций Эстонии. Задача создания боевой нелегальной организации требовала соединить в единое русло все разрозненные революционные ручейки — местных социал-демократов, политических ссыльных, передовых рабочих разных национальностей. Только объединенными усилиями можно было продвинуть вперед дело политического просвещения масс, их организации.

Расширению нелегальных революционных связей Калинина с местным подпольем способствовал его переход (в ноябре 1901 года) с завода «Вольта», где он проработал более полугода, в ревельские железнодорожные мастерские. Специфика работы в мастерских давала большую возможность для нелегальных и легальных поездок связных в Петербург и другие города для доставки литературы. В мастерских Калинин так же, как и на заводе «Вольта», быстро завоевал симпатии рабочих, их уважение и признание. Им по душе были его политическая смелость, революционный дух суждений, особенно когда вопрос касался интересов рабочего класса.

В первой половине 1902 года Калинин создал марксистский кружок, в который входили передовые рабочие-железнодорожники и учащиеся железнодорожного технического училища. Занятия кружка посещали рабочие других предприятий Ревеля и революционно настроенные представители местной интеллигенции. Значительную роль в кружке играли питерские рабочие-обуховцы, студенты Московского университета, высланные в Ревель за участие в «студенческих беспорядках». Марксистские кружки были организованы и на других предприятиях города. Был заведен гектограф. Прокламации печатались на русском, эстонском, латышском языках и широко распространялись по заводам и фабрикам Ревеля. Эти революционные листки не оставляли без внимания факты произвола, незаконных штрафов, притеснений, сверхурочных работ. Учитывая, что многие эстонские рабочие — недавние крестьяне, не порвавшие связи с деревней, Калинин использовал в прокламациях примеры, бичевавшие помещиков и немецких баронов, незаконно владевших землей, грабивших крестьян. «Наша группа, — писал М. И. Калинин, — стала настолько заметна, что я уже был приглашен в новую редакцию эстонской газеты на конспиративные совещания… У нас уже почти на всех заводах были связи, а в вагоностроительном заводе даже целый кружок. Заведены были связи и с типографией, откуда нашим приходилось тащить шрифт и типографскую краску».[30]

Обладая удивительным свойством втягивать людей в революционную борьбу, Калинин быстро находил себе помощников среди учащейся молодежи, учителей и адвокатов, которые выполняли разные поручения: переводили листовки на эстонский и латышский языки, печатали прокламации, переписывали, размножали и хранили литературу, предоставляли помещение для собраний, руководили кружками и т, д.

Как убежденный марксист и сторонник революционных действий рабочего класса, Калинин продолжал непримиримую борьбу с «экономистами» и «легальными марксистами», с последователями оппортунистических догм Бернштейна, работы которого получили распространение в Эстонии, где проживало много немцев. Попыткам оппортунистов направить рабочее движение в Эстонии в «умеренное», реформистское русло Калинин противопоставлял лозунги политической борьбы, разъяснял значение создания революционной марксистской партии, ее роль в классовой пролетарской борьбе. В этой работе он опирался на ленинскую «Искру», номера которой стали нелегально доставляться в Ревель. Через петербургских социал-демократов Калинин связался с редакцией «Искры», стал одним из ее корреспондентов. Петербургский комитет РСДРП, рекомендуя Калинина агентом «Искры», писал в редакцию газеты: «Связываем с вами рабочего Михаила Ивановича Калинина (Август из Ревеля),[31] писавшего в „И[скру]“ под псевдонимом Чужестранец, а также и в „Р[абочую] М[ысль]“, когда находился в Петербургском Союзе.

Человек весьма энергичный, имеет много связей с провинцией, которые и сообщит вам. Намерен постоянно корреспондировать и вести с вами переписку».[32]

Став агентом «Искры», Калинин выполнял самые разные задания редакции. Он был корреспондентом и распространителем газеты, а также нередко и связным между редакцией «Искры» и ее столичной группой, между последней и местными социал-демократами. Калинин информировал петербургскую искровскую группу о своих нелегальных связях, в частности с матросами военно-морской базы, о возможностях использования некоторых из них для переправки нелегальных изданий из-за границы. В одном из писем 1902 года столичная организация «Искры» сообщала редакции газеты: «Август предлагает воспользоваться находящимся в Тулоне на крейсере „Баян“ Антоном Димитревичем,[33] служащим в машинном отделении (за него ручается Август) и который изъявил согласие привезти в Кронштадт пуда 2–3 литературы; уезжает из Тулона через недели 3–4, пароль Димитревичу: „От Калинина“».[34]

Осенью 1902 года Калинин вел оживленную переписку с секретарем редакции Н. К. Крупской. В одном из писем он сообщает Надежде Константиновне адрес, по которому редакция может высылать ему нелегальные материалы: «Старо-Почтовая, Максу Блюмбергу, Ревель. Ваш Август».[35] Гимназист Блюмберг был доверенным лицом Калинина в его переписке с редакцией «Искры». В письме от 30 ноября 1902 года Калинин просит поскорее прислать новые номера «Искры».[36]

В целях более широкой пропаганды идей «Искры» Калинин организует перепечатку и перевод на эстонский, латышский и польский языки важнейших ее статей. Это была сложная и опасная работа. Большую помощь Калинину оказывали в этом деле техник А. Тирвельт, который переводил статьи «Искры» на эстонский язык и помогал их печатать на гектографе в виде отдельных листовок, а также рабочие железнодорожных мастерских — токари К. Рохтма, Г. Каллас, Э. Пярди и другие. К распространению «Искры» и листовок со статьями из нее Калинин привлекал членов социал-демократического кружка, которым он руководил. «Искра» перепечатывалась на тонкой шелковой бумаге, что позволяло надежнее прятать ее, облегчало передачу из рук в руки. Статьи газеты оказывали огромное организующее воздействие на передовых рабочих Эстонии, воспитывали их в духе ленинских идей. Ревельские социал-демократы испытали на себе благотворное влияние идей «Искры»: с ее появлением их силы начали расти.

М. И. Калинин приложил немало усилий для объединения всех ревельских марксистских рабочих кружков в единую социал-демократическую организацию во главе с центральным рабочим кружком, который начал пропагандировать идеи научного социализма. Ревельские социал-демократы развертывали агитацию не только среди рабочих, но и среди крестьян, а также солдат и матросов. Агитация велась на эстонском, латышском, польском и русском языках.

Появление в Ревеле листовок антиправительственного содержания, да еще на разных языках, встревожило местные власти. В поисках подпольной типографии начались обыски. Но когда полиция проверила квартиру «гласного поднадзорного» Калинина, она ничего не нашла у него. Номера нелегальной «Искры» он хранил — с помощью рабочих — в тайнике, между половицами в цехе железнодорожных мастерских. Лишь при содействии провокатора полиции удалось «уличить» Калинина в «преступной» деятельности: при очередном обыске у него нашли нелегальную литературу — брошюры «Ходынка», «Торжество социализма», а также ключ для шифрованной переписки и «флакон химической жидкости для скрытой переписки». Вместе с Калининым подверглись аресту шесть его товарищей. Через несколько дней, 21 января 1903 года, Калинина перевезли в Петербург и поместили в дом предварительного заключения.