Логарифмы и теория информации
Логарифмы
Логарифмы - это существа математической природы, очень красивые и простые в обращении. То есть можно сразу на ты и без церемоний.
Однако порой они особенно кокетливы и куртуазны, и все те степени восторга, которые они выражают в математических формулах, оказываются прикрыты вуалью легкой загадочности (даже, страшно сказать, стыдливости), флёром инфернального кокетства.
Поговорим же подробнее об этих чудесных и загадочных созданиях.
У операции сложения (a+b = c) есть обратная операция (c-b = a, c-a = b).
У операции умножения (a*b = c) есть обратная операция (c/b = a, c/a = b).
А у возведения в степень (ab = c) есть ли обратная операция?
Да, это - логарифмирование (log по основанию a c = b)
Например, тебя интересует, в какую степень b восторга нужно возвести мужчину a, чтобы получить сексуально заинтересованного мужчину c. Ты берешь сексуально заинтересованного мужчину c, логарифмируешь его самым решительным образом, и узнаешь необходимую степень восторга. После чего пускаешь в ход неотразимые женские чары.
Еще один образный пример применения логарифмов. Представь, что твой папа, король, объявил поиск достойного и знатного жениха для любимой дочери - принцессы, то бишь для тебя. И вот со всех стран приехало множество принцев. Перед тобой собралась толпа восхищенных поклонников, n человек. Тебе предстоит выбрать среди них единственного и лучшего.
Допустим, ты задаешь принцам вопрос: "Кто из вас совершит для меня отважный подвиг?"
Принцы отправляются в разные концы света, и потом n/2 принцев возвращается с трофеями - головами поверженных драконов, скальпами заморских ассасинов и дипломами школы Геракла.
Ты задаешь следующий вопрос: "Кто из вас умеет петь?"
Половина принцев радостно начинает петь красивыми голосами, другая половина хором вздыхает и уезжает восвояси.
Будучи столь же капризной принцессой, сколь и романтичной, ты задаешь следующий вопрос: "Кто из вас способен перебрехать дельфийского оракула?"
Принцы, перебрехавшие оракула, выгоняются тобой прочь, а те, кто потерял дар речи от твоего очарования, продолжают участие.
После каждого испытания число принцев сокращается вдвое, и наконец остается один-единственный, который прошел все испытания, и вас благословляет король.
Теперь вопрос: сколько испытаний ты провела, если изначально принцев было n, и каждое испытание отсеивало половину претендентов на твою руку?
Ответ: х = log 2 n.
После первого испытания принцев осталось n/2. После второго (n/2)/2 = n/(2*2) = n/4. После третьего (n/4)/2 = n/(4*2) = n/8. Наконец остался один принц, что значит, что мы делили количество принцев надвое x раз: n/(2x) = 1. Следовательно,
n = 2x
х = log 2 n
Теория информации
Логарифмы ужасно любят сплетничать. Именно поэтому на логарифмах основывается теория информации, созданная в 50-х годах 20-го века Клодом Шенноном. Согласно этой теории, единицей информации является 1 бит. Ответ на вопрос "Любите ли вы сыр, мадемуазель?", содержит один бит информации, независимо от того, каким будет ответ - утвердительным или отрицательным. Такое же количество информации содержит и ответ на вопрос "Любите ли вы меня, мадемуазель?", хотя очевидно, что эти два ответа по своему содержанию и значению совершенно различны.
Приведенный выше пример с выбором принца иллюстрирует, как происходит естественный отбор исчисление битов. Каждый твой вопрос приближал тебя к заветному соединению с лучшим из лучших; каждый твой вопрос делал тебя более информированной на 1 бит. Таким образом, чтобы выбрать принца, тебе нужны были всего-то: блеск пламенных очей, одна (зато какая!) очаровательная улыбка, а также log 2 n бит информации...
Пожалуй, на этом курс для благородных девиц по логарифмам и теории информации можно считать успешно пройденным. Всего тебе доброго, любознательная принцесса, и до новых встреч!