В 1883 году Кантор опубликовал статью «О бесконечных линейных точечных многообразиях». Как и книга Больцано, это было тоже философское сочинение с математическим уклоном, на что прямо указывал подзаголовок «Математически-философский опыт в учении о бесконечности».

По его автор поставил перед собой сложнейшую задачу: не только осмыслить философское содержание понятия бесконечности, но и отыскать математические средства для его описания.

Кантор смело отбросил ставший уже чем-то традиционным страх математиков перед операциями с бесконечностью. Он свел понятие бесконечности к понятию бесконечных множеств и первым планомерно и последовательно занялся изучением их свойств.

Таким образом, основным объектом исследования в новой теории стало множество — совокупность объектов, отвечающих определенному условию, объединенных некоторым общим признаком.

«Под многообразием или множеством, — писал Кантор, — я понимаю вообще всякое многое, которое можно мыслить как единое, т. с. всякую совокупность определенных элементов, которая может быть связана в одно целое, с помощью некоторого закона».

Скажем, множество четных чисел можно, по Кантору, определить так: это совокупность всех целых чисел, которые без остатка делятся на два.

Подобным же способом можно образовать и другие множества, как конечные, так и бесконечные, состоящие из тех или иных объектов. Например, множество всех людей, владеющих французским языком, или множество всех звезд с поверхностной температурой выше 6 тысяч градусов, или множество всех окружностей, обладающих общим центром.

Пожалуй, ни до Кантора, ни после него никто из математиков не брался с такой смелостью за проблему бесконечности и не вкладывал столько сил в ее решение.

«Я отлично знаю, что рассматриваемая мною тема, — писал Кантор, — была во все времена объектом самых различных мнений и толкований. Что ни математики, ни философы не пришли здесь к полному согласию. Поэтому я очень далек от мысли, что я могу сказать последнее слово в столь трудном, сложном и всеобъемлющем вопросе, как проблема бесконечности. Но так как многолетние занятия этой проблемой привели меня к определенным убеждениям и так как в дальнейшем ходе моих работ эти последние не поколебались, но лишь укрепились, то я счел своей обязанностью систематизировать их и опубликовать».

Кантор отлично понимал, что речь идет о расширении ряда целых чисел за бесконечное, то есть об операции совершенно необычной с точки зрения привычных математических и тем более обыденных житейских представлений.

— Я нисколько не скрываю от себя, — говорил Кантор своим друзьям, — что, решаясь на это, я вступаю в конфликт с широко распространенными взглядами на математическую бесконечность.

Речь шла о взглядах, укоренившихся еще со времен Аристотеля, то есть об отношении к математической бесконечности как к бесконечности, становящейся потенциальной, которая может стать меньше или больше любой заданной величины, но которая в то же время сама всегда остается величиной конечной.

Даже великий Гаусс считал, что конечный человек не отважится рассматривать бесконечное как нечто данное и доступное его привычной интуиции.

«…Прежде всего я протестую против пользования бесконечной величиной в качестве законченной, каковое пользование в математике никогда не дозволяется — писал он в одном из своих писем. — Бесконечное является лишь facon de parber (способ выражения), между тем как речь идет собственно о пределах, к которым известные отношения приближаются довольно близко, тогда как другим предоставляется возрастать без ограничения».

— Говоря о «конечности рассудка», — возражал по этому поводу Георг Кантор, — молчаливо предполагают, что его способность образования чисел ограничивается только конечными числами. Но если окажется, что рассудок в состоянии также в известном смысле определять и отличать друг от друга бесконечные числа, то придется приписать человеческому рассудку предикат «бесконечный», что, по моему мнению, единственно правильно. Как ни ограничена человеческая природа, к ней все-таки прилипло очень много от бесконечного.

Если говорить совершенно строго, то потенциальная бесконечность абсолютно непригодна для решения практических задач. Ведь потенциальная бесконечность — это «вечно незавершенный процесс».

Другими словами, одно дело осуществимость потенциальной бесконечности в теории и совсем другое на практике. Воспользуемся современным примером из области теоретической кибернетики. С точки зрения этой науки осуществим любой алгоритм, даже если он требует бесконечного числа шагов. Но реальная электронно-вычислительная машина не в силах решить подобную задачу. Такой расчет лежит за пределами ее возможностей — ведь она обладает всего лишь конечной памятью и способна осуществить хотя и очень большое, но конечное число операций.

Впрочем, математики находили выход из положения: совсем не обязательно достигать бесконечности: на каком-то шаге можно остановиться и вести все расчеты с определенной степенью точности, достаточной, чтобы решение имело практический смысл. Скажем, при вычислении числа π то есть отношения длины окружности к ее поперечнику, вовсе не обязательно находить бесконечное число знаков после занятой. Вполне можно ограничиться, например, пятью знаками — не сотнями и не десятками знаков, а пятью или даже четырьмя. Для практических математических операций этого вполне достаточно.

— Потенциальная бесконечность, — признавал и Георг Кантор, — оказалась весьма хорошим и в высшей степени ценным оружием и в математике и в естествознании.

Но теория множеств, развитая Кантором, по существу, имеет дело с актуальной бесконечностью. С этой целью Кантор обобщил понятие обычного числа до понятия трансфинитного числа. Он сделал попытку создать математический аппарат для описания актуально бесконечных множеств.

Например, первое трансфинитное число ω Кантор определяет как наименьшее из всех чисел, больших любого натурального числа. При этом он использовал одно из определений предела: Т является пределом {а_n}, если Т наименьшее из чисел, больших каждого из а_n. Последующие трансфинитные числа получаются из ω путем прибавления единицы: ω + 1, ω + 2, ω + 3… Трансфинитное число следующего, второго класса ω2 есть наименьшее из всех чисел, больших чисел вида ω + n и т. д.

Счетные множества имеют мощность первого числового класса. Следующая мощность может быть приписана всем числам второго класса и т. д. Так строится шкала последовательно увеличивающихся мощностей бесконечных множеств.

«Все так называемые доказательства против возможности актуально-бесконечных чисел по существу ошибочны, — писал Кантор в одной из своих работ. — Потому что они заранее приписывают или скорее навязывают бесконечным числам все свойства конечных. Между тем, бесконечные числа должны образовать благодаря своей противоположности конечным числам совершенно новый числовой вид, свойства которого вполне зависят от природы вещей и образуют предмет исследования, а не нашего произвола или наших предрассудков».

Главной отличительной особенностью теории Кантора явилось то обстоятельство, что бесконечные множества рассматривались в ней в завершенном виде как совокупность бесконечного числа всех содержащихся в них элементов.

«Эта бесконечность элементов, — писал советский академик Н. Лузин, — „схваченная“ вместе в одно целое данным характеристическим свойством, является тем самым уже данной вся целиком, уже сформированной и неизменной и, следовательно, как бы уже неподвижной и замкнутой в себе».

Георгу Кантору удалось достичь блестящих результатов и решить ряд очень важных задач, имевших первостепенное значение для развития математической науки.

Но, пожалуй, одной из самых замечательных особенностей новой теории множеств явилась ее небывалая общность. Операции с множествами и подмножествами не накладывают абсолютно никаких ограничений на характер объектов, составляющих эти множества. Они могут быть одушевленными или неодушевленными, маленькими или большими, реальными или воображаемыми. Это обстоятельство привело к тому, что понятия теории множеств стали в одни ряд с наиболее общими понятиями логики.