Точно так же можно определить количество информации, которое содержится в музыкальном произведении, в фототелеграмме, в любом сообщении, передаваемом самыми различными способами, посредством самых различных сигналов.
Итак, казалось бы, что математически вопрос о количестве информации, содержащейся в том или ином сообщении, решается очень просто. Необходимо выяснить возможное число различных вариантов этого сообщения и найти логарифм этого числа при основании два.
В действительности, однако, теория информации только начинается с этих элементарных соображений. Вспомните, читатель, вопросы, которые мы задавали, рассказывая историю изобретения паровой машины: «Могла ли изобрести паровую машину тетя Уатта?», «Можно ли, сложив два семизначных числа, получить в ответе бутерброд с маслом?» Формально их можно рассматривать как обычные двоичные вопросы, ответы на которые требуют выбора между «да» и «нет» и, следовательно, несут каждый одну единицу информации. Теория информации не ограничивается таким формальным подходом. Она учитывает не только число возможных вариантов ответа, но еще и вероятность того или иного из этих вариантов.
Заведомо известно, что, сложив два числа, нельзя получить в ответе бутерброд с маслом. Вероятность такого исхода заведомо равна нулю. И наоборот, вы можете быть уверены, что в 100 процентах случаев сложения двух чисел бутерброда с маслом в ответе не будет. Вероятность такого неизбежно отрицательного исхода считают равной единице. Но если ответ на вопрос заранее известен, то, значит, никакой неопределенности он не содержит. Чему же равно количество информации, которое содержит такой заранее известный ответ?
Здравый смысл подскажет каждому, что оно равно нулю. Именно такой ответ дает теория информации. Как видите, математическая теория и здравый смысл имеют много общего и зачастую приводят к одинаковым выводам.
Если бы приемщица ателье систематически вела учет числа посетительниц и отдельно учитывала число заказчиц, то в течение многих лет работы она накопила бы обширный, полезный для нее статистический материал.
Пусть, например, приемщица установила, что в среднем за много лет из каждых двух посетительниц одна становится заказчицей. Значит, одинаково вероятны оба варианта ответа на вопрос, станет ли заказчицей очередная посетительница. Вероятность каждого из ответов оценивают при этом величиной 0,5. Именно в этом и только в этом случае, то есть если оба возможных ответа на двоичный вопрос одинаково вероятны, в теории информации считают, что ответ на двоичный вопрос содержит одну единицу информации. Точно так же ответ на четверичный вопрос содержит две единицы информации только при условии, что одинаково вероятны все четыре варианта ответа.
Итак, если вероятность одного из ответов на двоичный вопрос равна нулю, то равно нулю количество информации, содержащейся в ответе на такой вопрос. Если оба ответа одинаково вероятны, то количество информации, которую несет ответ на вопрос, равняется единице.
Но пусть приемщица ателье в результате опыта установила, что в среднем только одна из двадцати посетительниц становится заказчицей. Какое количество информации содержится в ответе все на тот же вопрос: «Станет ли очередная посетительница заказчицей?»
Каждый понимает, что вероятность ответа «да» теперь в 19 раз меньше вероятности ответа «нет». Здравый смысл подсказывает, что угадать исход события в этом случае намного легче, чем когда вероятности обоих ответов были одинаковы. И в соответствии со здравым смыслом теория информации указывает, что в ответе на такой «менее неясный» вопрос содержится лишь немногим больше четверти одной единицы информации.
Приемщица ателье могла бы значительно расширить сферу своей статистической деятельности, регистрируя частоту выбора того или иного из фасонов платья, длительность обсуждения отдельных заказов, время сдачи готового заказа. В результате она накапливала бы все больше и больше полезных для себя сведений.
В обыденной жизни подобный статистический материал, собранный и обработанный подчас совершенно бессознательно, называют опытом работы.
Опыт работы накапливают токарь, стоящий у станка, инженер, проектирующий машины, ученый и артист, агроном и художник. А используют они его по-разному. Разными оказываются результаты их работы. Этот факт всегда вызывал крайнее удивление. И чтобы его как-то объяснить, приходится призывать на помощь такие понятия, как «способность», «настойчивость», «находчивость». Эти понятия, очень важные и полезные, так же не поддаются количественной оценке, как и сотни других понятий, имеющих пока чисто качественный характер. К сожалению, однако, только с помощью таких понятий можно объяснить, почему один токарь работает быстрее и точнее другого, почему десятая книга одного писателя хуже первой книги другого. В результате этого термин «опыт работы» приобретает несколько смутные очертания, хотя каждый понимает, что именно опыт составляет основу познания. Опыт работы позволяет приемщице не отрываться от «Огонька» при входе в ателье очередной посетительницы. А молодая женщина, зашедшая только для того, чтобы перелистать модный журнал, с удивлением замечает, что ей не мешают заниматься любимым делом.
В теории информации вместо туманного «опыта работы» используется систематизированный полноценный статистический материал. И если этот материал достаточно полно и объективно отражает факты и обработан в соответствии с законами теории вероятностей, то тогда выводы теории информации хорошо согласуются с настоящим «здравым смыслом» и дают возможность оценить его количественно (здравый смысл взят в кавычки потому, что мы в конце концов не знаем точно, что он означает).
И опять-таки этим еще далеко не исчерпывается значение теории информации, не исчерпываются те важные результаты, которые можно получить, пользуясь новым подходом к обычному понятию.
Токарь, изучающий чертеж детали, ученый, склонившийся над микроскопом, диссертант, лихорадочно просматривающий труды своих возможных оппонентов, девушка, перелистывающая модный журнал, — что между ними общего? Мы уже знаем это. Каждый из них собирает информацию. Если термин «информация» понимать здесь в обычном смысле слова, то на этом сходство заканчивается. Собирая информацию, они преследуют различные цели, по-разному ее используют, совершают различные действия.
Но ведь можно рассуждать по-другому. Свет падает на чертеж, освещает поле зрения микроскопа, текст статьи, картинку модного журнала. Солнце одинаково ярко освещает творения гениального художника и мазню ребенка. По одним и тем же законам свет отражается от чертежа и модной картинки. Отраженные световые сигналы различной интенсивности попадают на сетчатку глаза — так информация поступает в один из ее приемников, которыми оснащен человек. Конструкция этих приемников у всех людей одинакова, и в случае какого-либо частного дефекта (близорукость, дальнозоркость, частичная потеря зрения) сигналы, поступающие в такой приемник, искажаются одинаковым образом, что бы эти сигналы ни означали.
От чертежа и текста до сетчатки глаза информация передается по воздуху световыми сигналами. А затем она по зрительному нерву поступает в мозг. Зрительный нерв не проводит световых сигналов, и в сетчатке глаза информация переходит из одной формы в другую, световые сигналы преобразуются в электрические — как говорят, происходит перекодирование информации.
Механизмы перекодирования действуют строго определенным образом; интенсивность и распределение электрических сигналов, идущих от сетчатки в мозг, находятся в определенном соответствии с интенсивностью и распределением световых сигналов, падающих на сетчатку, и это соответствие, конечно, совершенно не зависит от исходного смыслового содержания информации.