Еще один удар по традиционной теории был нанесен в 1896 г., когда Антуан Анри Беккерель (1852-1908) совершенно случайно открыл радиоактивность. Изучением этого явления занялись супруги Пьер Кюри (1859-1906) и Мария Склодовская-Кюри (1867-1934). Стало очевидно, что атом обладает гораздо более сложной структурой, чем предполагалось. О природе радиоактивности мы расскажем чуть позднее. Но вскоре стало ясно, что ядра некоторых атомов, в частности очень тяжелых атомов, обладают способностью испускать частицы и электромагнитное излучение, получившие соответственно названия альфа- и бета-частиц и гамма-излучения. Альфа-частицы — это ионизованные атомы гелия, бета-частицы — электроны, а гамма-излучение — электромагнитное излучение очень высокой частоты. Выяснилось, что при испускании альфа-частицы атом превращается в атом более легкого элемента. В ранних работах по строению атома продукты радиоактивного распада использовались для изучения частиц, составляющих атомное ядро.

К 1910 г. Эрнест Резерфорд (1871-1937), экспериментировавший с радиоактивными атомами, пришел к мысли, что атом по своему строению напоминает Солнечную систему, в которой вокруг расположенного в центре Солнца обращаются планеты. В модели атома Резерфорда вокруг расположенного в центре ядра по различным орбитам двигались электроны. Резерфорд был абсолютно уверен в том, что объем ядра не превышает «одной миллионной от одной миллионной» (т.е. 10 ⁻¹²) объема атома. Например, в атоме золота (атомный номер 79) вокруг ядра движется 79 электронов. Атомное ядро в модели Резерфорда состояло главным образом из протонов, о чем мы уже упоминали. Но для восполнения «недостающей» массы ядра Резерфорд предположил, что оно помимо протонов содержит также электрически нейтральные частицы, которые он назвал нейтронами. Ядра с одинаковым числом протонов, но разным числом нейтронов называются изотопами.

Пока Резерфорд и другие исследователи изучали атом, строили его модели, Макс Планк (1858-1947) в 1900 г. совершил необычайно важное открытие, оказавшее влияние на все последующее развитие атомной физики. Планк занимался изучением так называемого теплового излучения, или излучения абсолютно черного тела. Известно, например, что раскаленный докрасна металл излучает свет, который, как мы знаем, является одной из разновидностей электромагнитного излучения. Опираясь в основном на интуитивные физические представления, Планк выдвинул в 1900 г. гипотезу (теоретически пока не обоснованную), согласно которой излучение испускается не сплошным, непрерывным «потоком», а небольшими порциями, или квантами, энергия которых зависит от частоты излучения, испускаемого атомом. Энергия излучения, согласно Планку, определяется по формуле

где  n— число испущенных квантов, которое может быть равно 0, 1, 2, …; ħ— постоянная, называемая ныне постоянной Планка ( ħ =6,626∙10 ⁻³⁴Дж∙с = 6,686∙10 ⁻²⁷эрг∙c ~ 10 ⁻²⁶эрг∙с),  v— частота излучения, состоящего из квантов подобно тому, как, например, волны на воде состоят из молекул воды. Излучение, допустим, свет, кажется непрерывным, так как число образующих его квантов очень велико. Так, число квантов, испускаемых за 1 с обычной 100-ваттной электрической лампой, составляет порядка 10 ²⁰.

Падая на поверхность металла, свет с частотой vвысвобождает энергию. Из формулы Планка следует, что энергия каждого электрона, выбитого из поверхности металла, пропорциональна ħv. Позднее кванты излучения стали называть фотонами. Формула Планка была гипотезой, счастливой догадкой, плодом замечательной физической интуиции. Однако Планку понадобилось произвести немало математических выкладок, чтобы изложить свои рассуждения и хотя бы в какой-то мере придать им убедительность.

Эйнштейн в своей работе по фотоэлектрическому эффекту (1905), в детали которой мы намеренно не будем входить, ибо это увело бы нас далеко в сторону, не только подтвердил формулу Планка, но и сумел найти ей применение. Свет, освещая поверхность металла, выбивает из нее электроны. Из гипотезы Планка следовало, что падающее на поверхность металла излучение состоит из квантов, каждый из которых несет энергию ħv. Энергия каждого вылетевшего из металла электрона пропорциональна ħv. Гипотеза квантов позволила Эйнштейну объяснить взаимодействие света и атомов, образующих поверхность металла. Выбивание электронов происходит только при достаточно высокой энергии квантов, т.е. при больших частотах, но не зависит от интенсивности света. Что же касается числа выбиваемых электронов, то оно действительно определяется интенсивностью света. Работы Планка и Эйнштейна вновь подняли проблему: из чего состоит электромагнитное излучение и, в частности, свет? Из волн или из частиц? К этой проблеме мы обратимся в дальнейшем. А пока заметим лишь то, что уже ясно из сказанного: электромагнитное излучение ведет себя и как волны, и как частицы.

Но вернемся к работам, связанным с изучением структуры атома. Модель Резерфорда не позволяла объяснить, почему электроны, обращающиеся вокруг ядра, не испускают света или энергии какого-нибудь другого вида, как того требует теория электромагнитного поля, и не падают по спирали на ядро. Нильс Хенрик Давид Бор (1885-1962) «вгляделся» в структуру атома пристальнее, чем его предшественники. Приняв за исходную планетарную модель Резерфорда, Бор на основании некоторых математических соображений постулировал, что электроны в атоме не излучают, если движутся по вполне определенным («разрешенным») орбитам подобно тому, как движутся планеты. Обращающийся вокруг атомного ядра электрон обладает энергией, а именно механической энергией, которую имеет любой объект, обращающийся вокруг центрального тела. Но стоит лишь электрону перейти с одной орбиты на другую, как он либо испускает, либо поглощает излучение. И испускание, и поглощение энергии происходят скачками. Каждый скачок представляет собой квант энергии, его величина кратна ħv. При поглощении атомом излучения электрон переходит с внутренней, более близкой к ядру, орбиты на внешнюю, — более далекую от ядра. При обратном переходе, напротив, атом излучает кванты, или фотоны.

Теория Бора объясняла далеко не все результаты, касающиеся частот испускаемого атомами излучения, поэтому работа по выяснению структуры атома продолжалась.

До сих пор речь шла о квантах, или фотонах, т.е. о «частицах» электромагнитного излучения. В 1922 г. на сцене появился Луи Виктор де Бройль (1892-1987); он высказал идею, которая стала центральной в разделе физики, получившем название «волновая механика». Зная о корпускулярных свойствах световых волн (о фотонах), де Бройль задумался над вопросом: если световые волны могут вести себя и как частицы, и как волны, то почему бы аналогичным образом не вести себя частицам? Нельзя ли с любым веществом связать волны? Следовало попытаться определить частоту и скорость волн материи.

Пользуясь методами математической теории дифференциальных уравнений с частными производными, де Бройль установил, что длина волны λк любой частицы должна быть равна постоянной Планка ħ, деленной на произведение массы частицы  mи ее скорости v, т.е.

Произведение mvназывается импульсом частицы и обычно обозначается p.Для частиц массой 1 г, движущейся со скоростью 1 см/с, длина волны де Бройля λ= 10 ⁻²⁶см, т.е. в 10 млн. раз меньше размеров атомного ядра. Следовательно, в шкале масштабов окружающего нас макроскопического мира все объекты чудовищно велики по сравнению с длинами соответствующих им волн материи, поэтому мы не наблюдаем этих волн.

Развивая идею де Бройля о том, что всем микрочастицам и, в частности, электронам соответствуют волны, Эрвин Шрёдингер (1887-1961) вывел в 1926 г. дифференциальное уравнение с частными производными для так называемой ψ-функции, описывающей форму этих волн. Решая уравнение Шрёдингера, мы находим параметры волн. Его решения называются собственными, или характеристическими, функциями. Если коэффициентам, входящим в уравнение Шрёдингера, придать конкретные численные значения, то эти функции отличны от тождественного нуля только при определенных значениях некоторой постоянной. Эти значения называются собственными, или характеристическими. Дискретные значения энергии электронов в атоме оказываются собственными значениями волнового уравнения Шрёдингера и согласуются с теми величинами, которые дает теория Бора.