Надо признать, что эта установка принесла ощутимые результаты. Так, в Англии в Кембриджском университете под руководством Орлова в течение 1934 года были завербованы Ким Филби, Дональд Маклин и Гай Берджесс. Сам Филби, уже будучи в Москве, воздерживался упоминать имя Орлова, хотя высоко ценил его и считал прекрасным разведчиком. Когда Филби по заданию советской разведки стал корреспондентом «Обсервера» и действовал на стороне Франко, он выезжал на тайные встречи во французский город Биарриц, где его встречал резидент и советник НКВД в Испании Орлов. Кроме того, следует особо отметить, что, помимо известной кембриджской группы под руководством Орлова, была создана оксфордская группа во главе с неким агентом под псевдонимом СКОТТ, ни один человек из которой не известен до сих пор.
В конце 1935 года Орлов получил приказ вернуться в СССР, и в декабре через Финляндию прибыл в Ленинград, а затем в Москву. Находясь в Москве, он смог достаточно подробно узнать об убийстве 1 декабря 1934 года в Ленинграде С.М. Кирова, и последовавших затем процессах над так называемой «ленинской гвардией». Однако сам Орлов ни в малейшей степени доверия Сталина не утратил, и когда в июле 1936 года в Испании началась Гражданская война, он был послан туда советником республиканского правительства для организации контрразведки и партизанской войны в тылу противника.
Он прибыл в Испанию в сентябре 1936 года с паспортом на имя Александра Михайловича Орлова вместе с семьей и незамедлительно приступил к работе. Шестнадцатого сентября Орлов уже в Мадриде, где в «Гей-лор-отеле», недалеко от Прадо, размещалось большинство советских военных советников. Одной из самых важных операций Орлова в это время был вывоз в Москву на нескольких судах и подводных лодках золотого запаса республиканского правительства в оплату военных поставок из СССР. Но основной сферой деятельности Орлова в Испании было оказание практической помощи в создании собственной разведки и контрразведки, естественно, под контролем НКВД. Попросту его главной задачей было «сталинизировать» республиканскую Испанию, что, безусловно, не раз вызывало резкие протесты со стороны республиканских лидеров.
Контрразведывательная работа Орлова строилась по советскому образцу. Уже через два месяца после прибытия в Испанию он сообщил в Москву о разоблачении резидентуры фашистской разведки, с его помощью были разгромлены подпольные фалангистские группы и развернуты партизанские действия против армии Франко. Сохранились и его многочисленные доклады о шпионах в рядах самих республиканцев. Однако главным объектом НКВД в Испании была ПОУМ — испанская марксистско-троцкистская партия, основанная в сентябре 1935 года в Барселоне руководителем европейского анархо-синдикализма, примкнувшим к III Интернационалу, Андресом Нином. Тут Орлов пошел испытанным путем. Мадридской контрразведке были подброшены поддельные документы (план обороны одного из пригородов Мадрида и закодированный текст к нему, на котором была нанесена симпатическими чернилами буква «Н», что должно было означать «Нин»), изготовленные двумя сотрудниками тайной полиции республиканцев А. Кастильей и X. Хименесом. Шестнадцатого июня 1937 года А. Нин и еще сорок руководителей ПОУМ в Барселоне были арестованы, их войска распущены, штаб закрыт, а ПОУМ объявлена вне закона.
Когда арестованному Нину предъявили обвинение в предательстве, он отмел его с порога. Тогда его отправили в тюрьму города Алкала-де-Энарес, где долго допрашивали, добиваясь чистосердечного признания. Но, как с сожалением сообщал в Москву Орлов о ходе операции «Николай» (так называлась акция по ликвидации А. Нина), испанец оказался мужественнее советских коммунистов и категорически отрицал свою вину. Тогда было решено похитить Нина и «заставить исчезнуть» без суда и следствия, что и было сделано. Исполнителями этой акции были Орлов, сотрудник НКВД в Испании Иосиф Ромуальдович Григулевич (ЮЗИК) и три сопровождавших их испанца. Тело расстрелянного Нина было вывезено из тюрьмы и наспех похоронено у отметки «17 километр» на шоссе близ Алкала-де-Энареса. Кроме Нина были уничтожены бывший секретарь Льва Троцкого немец Эрвин Вольф, сын меньшевика Абрамовича Марк Рейн и многие другие.
Выполняя столь грязную и неблагодарную работу, Орлов нисколько не походил на палача. Вот как описывает первую встречу с ним боец интербригад, а потом агент НКВД Кирилл Хенкин:
«Меня поразил его ухоженный вид. Только что душ, только что бритье с одеколоном… Он был одет по-утреннему: в серых фланелевых брюках, в шелковой рубашке без галстука. На поясе — открытая замшевая кобура с пистолетом Вальтер калибр 7,65.
Мне повезло. Выслушав мои путаные объяснения: кто я, зачем, от кого, откуда приехал и почему пришел именно к нему, он не приказал охране меня пристрелить. Для порядка. Бывало и такое. Но в то утро я был парализован зрелищем завтрака, который перед носом у меня вкушал Орлов.
Лакей в белой куртке вкатил столик, снял салфетку и удалился. Орлов намазал маслом горячий тост, откусил уголок, принялся за яичницу с ветчиной, иногда отхлебывая кофе. К сливкам он не прикоснулся. Он не был, видимо, особенно голоден. Подобрав остаток желтка кусочком круассана и выпив последний глоток кофе, Орлов отодвинул столик, на котором оставалась еще булочка, масло, кувшинчик со сливками и пол-кувшинчика кофе, достал пачку «Лакки страйк», вынул сигарету и закурил».
Но в 1937 году над Орловым стали сгущаться тучи. Первой ласточкой стала полученная в августе 1937 года телеграмма от начальника ИНО НКВД A.A. Слуцкого. В ней говорилось, что секретные службы Франко и гитлеровской Германии разработали план похищения Орлова. В связи с этим Слуцкий собирается послать Орлову охрану из двенадцати человек, которая отвечала бы за его безопасность и сопровождала во всех поездках. Почуяв неладное, Орлов ответил Слуцкому, что в охране не нуждается, и одновременно набрал десяток человек личной охраны, всюду его сопровождавших. Вторым сигналом для Орлова послужило прибытие в Испанию в октябре 1937 года заместителя Слуцкого С. Шпигельгласа, организовавшего 4 сентября 1937 года в Швейцарии убийство И. Рейсса. Не имея в Испании никаких явных дел, Шпигельглас встретился с Володиным, который руководил в Мадриде мобильной группой Отдела специальных операций. Это настолько обеспокоило Орлова, что он вывез жену и дочь во Францию в Перпиньян, где снял для них виллу.
Девятого июля 1938 года Орлов получил телеграмму от Ежова, предписывавшую ему выехать в Бельгию, в Антверпен, где 14 июля на борту советского парохода «Свирь» якобы должно было состояться совещание с «товарищем, известным вам лично». При этом рекомендовалось прибыть туда на посольской машине в сопровождении советского генерального консула во Франции Бирюкова, «который может пригодиться в качестве посредника в связи с предстоящим важным заданием». Понимая, что в Бельгии его ждет не совещание, а арест с последующим расстрелом, Орлов решается вместе с семьей бежать. Он посылает ответ: «Прибуду в Антверпен в назначенный день» и 12 июля выезжает из Барселоны на машине во Францию. В Перпиньяне, забрав жену и четырнадцатилетнюю дочь, он садится на ночной поезд и утром 13 июля прибывает в Париж. Там он неожиданно для всех исчез.
После отъезда Орлова в Барселоне обнаружили, что он по рассеянности взял с собой ключ от сейфа. В Париж была послана телеграмма с просьбой, как только прибудет Орлов, пусть с нарочным пришлет ключ. Когда стало известно об исчезновении Орлова, сейф вскрыли. В нем отсутствовало 60 тысяч долларов, по тем временам очень солидная сумма, но зато имелось письмо. Вот что сообщает о его содержании сам Орлов:
«В нем я сказал Сталину, который лично меня знал еще с 1924 года, что я думаю о его режиме. Но главный смысл письма был в другом. Я ставил своей целью спасти жизни наших матерей (т. е. своей и жены). Со всей доступной мне решительностью я предупредил его, что, если он посмеет выместить зло на наших матерях, я опубликую все, что мне известно о нем. Чтобы показать, что это не пустая угроза, я составил и приложил к письму перечень его преступлений. Кроме того, я предостерег его: если даже я буду убит его агентурой, историю его преступлений немедленно опубликует мой адвокат».