В Париже Пеньковского ожидали оперативная группа и Винн. На конспиративной квартире близ площади Этуаль состоялось двенадцать встреч. На них, помимо прочего, рассматривалась возможность бегства Пеньковского из СССР в случае провала. Специально для ГРУ Пеньковскому вручили несколько брошюр по производству стали и электронике, аннотацию перевода книги доктора Лэппа «Человек и космос», а также организовали экскурсию на завод по производству дизелей вместе с офицером парижской резидентуры ГРУ. Пятнадцатого октября 1961 года Пеньковский вылетел из аэропорта Орли в Москву.
Последний раз Пеньковского видели 5 сентября 1962 года на приеме, организованном американским посольством в честь делегации США по электроэнергетике.
В посольствах США и Великобритании всерьез обеспокоились в связи с исчезновением Пеньковского, пока по специальному телефону 2 ноября 1962 года не последовали два условных звонка, сопровождаемые молчанием в трубку. Это означало, что на Пушкинской улице заложен тайник. Вторым подтверждением этому была пометка, сделанная мелом на фонарном столбе на Кутузовском проспекте. Для выемки тайника резидент ЦРУ Гарблер послал Ричарда Джекоба, работавшего под прикрытием архивариуса посольства. В момент выемки Джекоб был задержан сотрудниками КГБ. В тот же день в Будапеште был арестован Винн, которого 6 ноября доставили в Москву. Заявивший при задержании о своем дипломатическом иммунитете Джекоб был после составления протокола отпущен. Четвертого ноября он был объявлен персоной нон грата и 6 ноября покинул СССР.
Сам Пеньковский был арестован 22 октября 1962 года в посольстве США. Через два дня он вновь посетил Ван Влие и спросил, передал ли тот пакет в посольство, на что последний ответил, что не занимается такими делами, и вернул Пеньковскому нераспечатанный пакет, a при выходе из своего кабинета в ГККНИР. Материалы о том, как КГБ вышел на Пеньковского, до сих пор остаются засекреченными, но на основании известных фактов можно выдвинуть версию его провала.
КГБ мог предположить существование агента западных спецслужб в оборонных структурах, основываясь на утечке секретных военных материалов в США и Великобританию. Об этом могло стать известно от агентов, внедренных в западные спецслужбы. Например, от Джека Данлапа, штаб-сержанта в АНБ США, завербованного в 1960 году. При обыске у Данлапа дома в июле 1963 года, после того как он покончил с собой, было обнаружено несколько важных секретных документов Пеньковского, приписываемых «надежному советскому источнику». Другим возможным информатором мог быть сержант армии США Роберт Ли Джонсон, завербованный КГБ в 1953 году. В 1961 году, став охранником в секретном курьерском центре НАТО в аэропорту Орли, он пачками выносил из хранилища секретную корреспонденцию и передавал ее КГБ. Поскольку информацией Пеньковского о советских планах в Германии располагал старший американский командный состав в Европе, вполне возможно, что КГБ, проанализировав документы, полученные от Джонсона, вычислил источник этой информации. В Англии документы, полученные от Пеньковского, могли читать Джон Вассал, клерк в секретариате адмиралтейства, завербованный КГБ в 1955 году, и Френк Боссард, сотрудник министерства авиации, завербованный ГРУ в 1961 году. Следует иметь в виду и то, что муж Дж. Чизолм, Родерик Чизолм в 1954–1956 годах работал в берлинской резидентуре СИС вместе с Дж. Блейком. Тот, разумеется, не замедлил сообщить в Москву о ведомственной принадлежности Чизолма, и поэтому, когда Чизолм приехал в СССР в июне 1960 года, за ним было установлено постоянное наблюдение.
Интересную деталь раскрыл бывший сотрудник ГРУ Вадим Георгиевич Ильин, командированный в начале 1958 года в парижскую легальную резидентуру ГРУ под прикрытием должности секретаря военного атташе. В марте 1961 года им был завербован чрезвычайно ценный агент из военного министерства, поставлявший важную и достоверную информацию. А в августе 1961 года, по словам Ильина, агент впервые заявил, что в спецслужбах Советского Союза есть предатель. И что уж совсем невероятно, в сентябре 1961 года, во время пребывания Пеньковского в Париже, агент вновь подтвердил, что в ГРУ имеется предатель, и даже назвал его фамилию — Пеньковский. Когда же агент узнал от Ильина, что Пеньковский находится в Париже, то отказался от дальнейшего сотрудничества. Обо всем этом Ильин немедленно доложил резиденту ГРУ в Париже Николаю Ивановичу Чередееву, но тот посчитал информацию недостоверной и запретил упоминать о ней в отчете.
Весной 1962 года Ильин вернулся в Москву и поступил в академию. После ареста Пеньковского он попытался получить разъяснения от руководства ГРУ, но в ответ услышал: «Ваш агент — подстава». Более того, Чередеев, ставший к тому времени начальником управления, откровенно угрожал Ильину неприятностями, если тот не перестанет копаться в этом деле. Закончилось все тем, что Ильин был вынужден уволиться из ГРУ и перейти в «Воентехиздат» во французскую редакцию.
В самой Москве, по утверждению перебежчика Олега Гордиевского, после ареста в 1959 году Попова два-три раза в год в течение двух недель осуществлялась тотальная слежка за всем западным дипломатическим корпусом. Во время очередной такой операции одна из групп наружного наблюдения 7-го управления КГБ засекла контакт «в одно касание» между Дж. Чизолм и неизвестным русским. Дальнейшая слежка за Чизолм привела к установлению личности Пеньковского, а его встреча с Винном в июле 1962 года и попытка заглушить разговор шумом воды из крана в ванной в номере гостиницы «Украина» убедили КГБ в том, что Пеньковский является агентом СИС. Это подтвердил и высокопоставленный сотрудник КГБ, давший интервью Джеролду Шектеру осенью 1990 года, когда тот в Москве собирал материал для книги о Пеньковском.
КГБ медлил с арестом Пеньковского по одной простой причине: нужно было установить все его контакты в Москве. С этой же целью был предпринят негласный обыск в квартире Пеньковского. Чтобы произвести обыск беспрепятственно, на кресло Пеньковского в служебном кабинете был нанесен ядовитый состав, в результате чего он был госпитализирован и находился на излечении с 7 по 28 сентября 1962 года. Пеньковский был арестован, после того как скрытая камера, вмонтированная в потолок его квартиры, зафиксировала его разглядывающим фальшивый паспорт. Опасаясь побега Пеньковского, Грибанов отдал приказ о его немедленном аресте.
Суд над Пеньковским и Винном под председательством генерал-лейтенанта юстиции В.В. Борисоглебского состоялся в Москве с 3 по 11 мая 1963 года. Пеньковскому было предъявлено обвинение в измене Родине и шпионаже в пользу США и Великобритании, а Винну — в пособничестве и подстрекательстве. На суде старательно занижались объем и важность переданной Пеньковским информации, а основной упор делался на его моральное перерождение. Суд признал Пеньковского виновным в измене Родине и приговорил его к расстрелу с лишением звания полковника, орденов и медалей и конфискацией имущества. Винна приговорили к восьми годам лишения свободы с отбыванием первых трех лет в тюрьме, а последующих пяти — в исправительно-трудовом лагере строгого режима. После вынесения приговора Пеньковский обратился с просьбой о помиловании, которая была отклонена, и 6 мая 1963 года приговор был приведен в исполнение в подвале Бутырской тюрьмы.
В ноябре 1965 года на Западе появилась книга «Записки Пеньковского», где в предисловии утверждалось, что рукопись Пеньковский передал на Запад осенью 1962 года. Многие сомневались в подлинности «Записок» и считали их автором ЦРУ.
Действительно, разнообразных взаимоисключающих версий «дела Пеньковского» очень много. В немалой степени это объясняется громким судебным процессом в Москве и приукрашивающими действительность мемуарами Винна. Кроме того, шпионская деятельность Пеньковского приходится на период Берлинского и Карибско-го кризисов, когда мир стоял на грани ядерной катастрофы. Так или иначе, Пеньковский и по сей день остается одной из самых одиозных фигур XX века.