Прямая и обратная теоремы кодирования. Прямая теорема шеннона для источника общего вида

Доктор физико-математических наук Евгений Мейлихов

Введение (в сокращении) к книге: Мейлихов Е. З. Число Авогадро. Как увидеть атом. - Долгопрудный: ИД «Интеллект», 2017.

Итальянский учёный Амедео Авогадро - современник А. С. Пушкина - был первым, кто понял, что количество атомов (молекул) в одном грамм-атоме (моле) вещества одинаково для всех веществ. Знание же этого числа открывает путь к оценке размеров атомов (молекул). При жизни Авогадро его гипотеза не получила должного признания.

Истории числа Авогадро посвящена новая книга Евгения Залмановича Мейлихова, профессора МФТИ, главного научного сотрудника НИЦ «Курчатовский институт».

Если бы в результате какой-либо мировой катастрофы все накопленные знания оказались бы уничтоженными и к грядущим поколениям живых существ пришла бы только одна фраза, то какое утверждение, составленное из наименьшего количества слов, принесло бы наибольшую информацию? Я считаю, что это - атомная гипотеза: …все тела состоят из атомов - маленьких телец, находящихся в беспрерывном движении.
Р. Фейнман. Фейнмановские лекции по физике

Число Авогадро (константа Авогадро, постоянная Авогадро) определяется как количество атомов в 12 граммах чистого изотопа углерода-12 (12 C). Обозначается оно обычно как N A , реже L. Значение числа Авогадро, рекомендованное CODATA (рабочая группа по фундаментальным постоянным) в 2015 году: N A = 6,02214082(11)·10 23 моль -1 . Моль - это количество вещества, которое содержит N A структурных элементов (то есть столько же элементов, сколько атомов содержится в 12 г 12 C), причем структурными элементами обычно являются атомы, молекулы, ионы и др. По определению атомная единицы массы (а.е.м.) равна 1/12 массы атома 12 C. Один моль (грамм-моль) вещества имеет массу (молярную массу), которая, будучи выраженной в граммах, численно равна молекулярной массе этого вещества (выраженной в атомных единицах массы). Например: 1 моль натрия имеет массу 22,9898 г и содержит (примерно) 6,02 · 10 23 атомов, 1 моль фторида кальция CaF 2 имеет массу (40,08 + 2·18,998) = 78,076 г и содержит (примерно) 6,02·10 23 молекул.

В конце 2011 года на XXIV Генеральной конференции по мерам и весам единогласно принято предложение определить моль в будущей версии Международной системы единиц (СИ) таким образом, чтобы избежать его привязки к определению грамма. Предполагается, что в 2018 году моль будет определён непосредственно числом Авогадро, которому будет приписано точное (без погрешности) значение, базирующееся на результатах измерений, рекомендованных CODATA. Пока же число Авогадро является не принимаемой по определению, а измеряемой величиной.

Эта константа названа в честь известного итальянского химика Амедео Авогадро (1776-1856), который хотя сам этого числа и не знал, но понимал, что это очень большая величина. На заре развития атомной теории Авогадро выдвинул гипотезу (1811 год), согласно которой при одинаковых температуре и давлении в равных объёмах идеальных газов содержится одинаковое число молекул. Позже было показано, что эта гипотеза есть следствие кинетической теории газов, и сейчас она известна как закон Авогадро. Его можно сформулировать так: один моль любого газа при одинаковых температуре и давлении занимает один и тот же объём, при нормальных условиях равный 22,41383 л (нормальным условиям соответствуют давление P 0 = 1 атм и температура T 0 = 273,15 К). Эта величина известна как молярный объём газа.

Первую попытку найти число молекул, занимающих данный объём, предпринял в 1865 году Й. Лошмидт. Из его вычислений следовало, что количество молекул в единице объёма воздуха равно 1,8·10 18 см -3 , что, как оказалось, примерно в 15 раз меньше правильного значения. Через восемь лет Дж. Максвелл привёл гораздо более близкую к истине оценку - 1,9·10 19 см -3 . Наконец в 1908 году Перрен даёт уже приемлемую оценку: N A = 6,8·10 23 моль -1 числа Авогадро, найденную из экспериментов по броуновскому движению.

С тех пор было разработано большое число независимых методов определения числа Авогадро, и более точные измерения показали, что в действительности в 1 см 3 идеального газа при нормальных условиях содержится (примерно) 2,69·10 19 молекул. Эта величина называется числом (или постоянной) Лошмидта. Ей соответствует число Авогадро N A ≈ 6,02·10 23 .

Число Авогадро - одна из важных физических постоянных, сыгравших большую роль в развитии естественных наук. Но является ли она «универсальной (фундаментальной) физической постоянной»? Сам этот термин не определён и обычно ассоциируется с более или менее подробной таблицей числовых значений физических констант, которые следует использовать при решении задач. В связи с этим фундаментальными физическими постоянными зачастую считаются те величины, которые не являются константами природы и обязаны своим существованием всего лишь выбранной системе единиц (таковы, например, магнитная и электрическая постоянные вакуума) или условным международным соглашениям (такова, например, атомная единица массы). В число фундаментальных констант часто включают многие производные величины (например, газовую постоянную R, классический радиус электрона r e = e 2 /m e c 2 и т. п.) или, как в случае с молярным объёмом, значение некоторого физического параметра, относящегося к специфическим экспериментальным условиям, которые выбраны лишь из соображений удобства (давление 1 атм и температура 273,15 К). С этой точки зрения число Авогадро есть истинно фундаментальная константа.

Истории и развитию методов определения этого числа и посвящена настоящая книга. Эпопея длилась около 200 лет и на разных этапах была связана с многообразными физическими моделями и теориями, многие из которых не потеряли актуальности и по сей день. К этой истории приложили руку самые светлые научные умы - достаточно назвать А. Авогадро, Й. Лошмидта, Дж. Максвелла, Ж. Перрена, А. Эйнштейна, М. Смолуховского. Список можно было бы и продолжить...

Автор должен признаться, что идея книги принадлежит не ему, а Льву Фёдоровичу Соловейчику - его однокашнику по Московскому физико-техническому институту, человеку, который занимался прикладными исследованиями и разработками, но в душе остался физиком-романтиком. Это человек, который (один из немногих) продолжает «и в наш жестокий век» бороться за настоящее «высшее» физическое образование в России, ценит и в меру сил пропагандирует красоту и изящество физических идей. Известно, что из сюжета, который А. С. Пушкин подарил Н. В. Гоголю, возникла гениальная комедия. Конечно, здесь не тот случай, но, может быть, и эта книга покажется кому-то полезной.

Эта книга - не «научно-популярный» труд, хотя и может показаться таковым с первого взгляда. В ней на некотором историческом фоне обсуждается серьёзная физика, используется серьёзная математика и обсуждаются довольно сложные научные модели. Фактически книга состоит из двух (не всегда резко разграниченных) частей, рассчитанных на разных читателей - одним она может показаться интересной с историко-химической точки зрения, а другие, возможно, сосредоточатся на физико-математической стороне проблемы. Автор же имел в виду любознательного читателя - студента физического или химического факультета, не чуждого математики и увлечённого историей науки. Есть ли такие студенты? Точного ответа на этот вопрос автор не знает, но, исходя из собственного опыта, надеется, что есть.

Информация о книгах Издательского дома «Интеллект» - на сайте www.id-intellect.ru

Закон Авогадро

На заре развития атомной теории () А. Авогадро выдвинул гипотезу, согласно которой при одинаковых температуре и давлении в равных объёмах идеальных газов содержится одинаковое число молекул. Позже было показано, что эта гипотеза есть необходимое следствие кинетической теории, и сейчас она известна как закон Авогадро. Его можно сформулировать так: один моль любого газа при одинаковых температуре и давлении занимает один и тот же объем, при нормальных условиях равный 22,41383 . Эта величина известна как молярный объем газа .

Сам Авогадро не делал оценок числа молекул в заданном объеме, но понимал, что это очень большая величина. Первую попытку найти число молекул, занимающих данный объем, предпринял в Й. Лошмидт ; было установлено, что в 1 см³ идеального газа при нормальных условиях содержится 2,68675·10 19 молекул. По имени этого ученого указанная величина была названа числом (или постоянной) Лошмидта . С тех пор было разработано большое число независимых методов определения числа Авогадро. Превосходное совпадение полученных значений является убедительным свидетельством реального существования молекул.

Связь между константами

• Через произведение постоянной Больцмана Универсальная газовая постоянная , R =kN A .
• Через произведение элементарного электрического заряда на число Авогадро выражается постоянная Фарадея , F =eN A .

См. также

Wikimedia Foundation . 2010 .

Смотреть что такое "Постоянная Авогадро" в других словарях:

постоянная Авогадро - Avogadro konstanta statusas T sritis Standartizacija ir metrologija apibrėžtis Apibrėžtį žr. priede. priedas(ai) Grafinis formatas atitikmenys: angl. Avogadro constant vok. Avogadro Konstante, f; Avogadrosche Konstante, f rus. константа Авогадро … Penkiakalbis aiškinamasis metrologijos terminų žodynas

постоянная Авогадро - Avogadro konstanta statusas T sritis fizika atitikmenys: angl. Avogadro’s constant; Avogadro’s number vok. Avogadro Konstante, f; Avogadrosche Konstante, f rus. постоянная Авогадро, f; число Авогадро, n pranc. constante d’Avogadro, f; nombre… … Fizikos terminų žodynas

постоянная Авогадро - Avogadro konstanta statusas T sritis Energetika apibrėžtis Apibrėžtį žr. priede. priedas(ai) MS Word formatas atitikmenys: angl. Avogadro’s constant vok. Avogadro Konstante, f; Avogadrosche Konstante, f rus. константа Авогадро, f; постоянная… … Aiškinamasis šiluminės ir branduolinės technikos terminų žodynas

- (Авогадро число) (NA), число молекул или атомов в 1 моле вещества; NA=6,022?1023 моль 1. Названа по имени А. Авогадро … Современная энциклопедия

Авогадро постоянная - (Авогадро число) (NA), число молекул или атомов в 1 моле вещества; NA=6,022´1023 моль 1. Названа по имени А. Авогадро. … Иллюстрированный энциклопедический словарь

Авогадро (Avogadro) Амедео (9.8.1776, Турин, ‒ 9.7.1856, там же), итальянский физик и химик. Получил юридическое образование, затем изучал физику и математику. Член корреспондент (1804), ординарный академик (1819), а затем директор отделения… …

- (Avogadro) Амедео (9.8.1776, Турин, 9.7.1856, там же), итальянский физик и химик. Получил юридическое образование, затем изучал физику и математику. Член корреспондент (1804), ординарный академик (1819), а затем директор отделения физико… … Большая советская энциклопедия

Постоянная тонкой структуры, обычно обозначаемая как, является фундаментальной физической постоянной, характеризующей силу электромагнитного взаимодействия. Она была введена в 1916 году немецким физиком Арнольдом Зоммерфельдом в качестве меры… … Википедия

- (число Авогадро), число структурных элементов (атомов, молекул, ионов или др. ч ц) в ед. кол ва в ва (в одном моле). Названа в честь А. Авогадро, обозна чается NA. А. п. одна из фундаментальных физических констант, существенная для определения мн … Физическая энциклопедия

ПОСТОЯННАЯ - величина, имеющая неизменное значение в области её использования; (1) П. Авогадро то же, что Авогадро (см.); (2) П. Больцмана универсальная термодинамическая величина, связывающая энергию элементарной частицы с её температурой; обозначается k,… … Большая политехническая энциклопедия

Книги

• Биографии физических констант. Увлекательные рассказы об универсальных физических постоянных. Выпуск 46
• Биографии физических констант. Увлекательные рассказы об универсальных физических постоянных , О. П. Спиридонов. Настоящая книга посвящена рассмотрению универсальных физических постоянных и их важной роли в развитии физики. Задача книги - в популярной форме рассказать о появлении в истории физики…

Физическая величина, равная количеству структурных элементов (которыми являются молекулы, атомы и т.п.) на один моль вещества, называется числом Авогадро. Официально принятое на сегодняшний день его значение составляет NA = 6,02214084(18)×1023 моль−1, оно было утверждено в 2010 году. В 2011 были опубликованы результаты новых исследований, они считаются более точными, но на данный момент официально не утверждены.

Закон Авогадро имеет огромное значение в развитии химии, он позволил вычислять вес тел, которые могут менять состояние, становясь газообразными или парообразными. Именно на основе закона Авогадро начала свое развитие атомно-молекулярная теория, следующая из кинетической теории газов.

Более того, с помощью закона Авогадро разработан способ получения молекулярной массы растворенных веществ. Для этого законы идеальных газов были распространены и на разбавленные растворы, взяв за основу мысль, что растворенное вещество распределится по объему растворителя, как газ распределяется в сосуде. Также закон Авогадро дал возможность определить истинные атомные массы целого ряда химических элементов.

Практическое использование числа Авогадро

Константа используется при расчетах химических формул и в процессе составления уравнений химических реакций. С помощью нее определяют относительные молекулярные массы газов и число молекул в одном моле любого вещества.

Через число Авогадро вычисляется универсальная газовая постоянная, она получается путем умножения этой константы на постоянную Больцмана. Кроме того, умножив число Авогадро и элементарный электрический заряд, можно получить постоянную Фарадея.

Использование следствий закона Авогадро

Первое следствие закона гласит: «Один моль газа (любого) при равных условиях будет занимать один объем». Таким образом, в нормальных условиях объем одного моля любого газа равен 22,4 литра (эта величина называется молярным объемом газа), а используя уравнение Менделеева-Клапейрона можно определить объем газа при любом давлении и температуре.

Второе следствие закона: «Молярная масса первого газа равна произведению молярной массы второго газа на относительную плотность первого газа ко второму». Иными словами, при одинаковых условиях, зная отношение плотности двух газов, можно определить их молярные массы.

Во времена Авогадро его гипотеза была недоказуема теоретически, однако позволяла легко устанавливать экспериментальным путем состав молекул газа и определять их массу. Со временем под его эксперименты была подведена теоретическая база, и теперь число Авогадро находит применение

Информационная емкость дискретного (4.4) и пропускная способность непрерывного (4.7) каналов характеризует их предельные возможности как средств передачи информации. Они раскрываются в фундаментальных теоремах теории информации, которые известны как основные теоремы кодирования Шеннона. Применительно к дискретному каналу она гласит:

Теорема 4.4.1. (Прямая теорема кодирования для ДКБП.) Для дискретного канала без памяти при скоростях кода R , меньших информационной емкости , всегда существует код, для которого средняя вероятность ошибки стремится к нулю с ростом длины кодового слова.

В случае же непрерывного канала она формулируется как

Теорема 4.4.2. (Прямая теорема кодирования для АБГШ-канала). По АБГШ–каналу с неограниченной полосой информация может передаваться со сколь угодно малой вероятностью ошибки, если скорость передачи меньше пропускной способности.

Обратная же теорема утверждает:

Теорема 4.4.3. При скорости передачи
, большей пропускной способности канала связиC , никакой код не обеспечит произвольно малой вероятности ошибки декодирования, т.е. абсолютно надежной передачи сообщений.

Следует отметить, что если обратная теорема доказывается для произвольной модели канала связи, то прямая только лишь для конкретных типов каналов.

Результаты теорем кодирования для канала с шумами в определенной степени неожиданны. В самом деле, на первый взгляд кажется, что уменьшение вероятности ошибок в передаче сообщений требует соответствующего уменьшения скорости передачи и что последняя должна стремиться к нулю вместе с вероятностью ошибок. Такой вывод, в частности, вытекает из рассмотрения многократной повторной передачи символов по каналу как способа уменьшения вероятности ошибок в передаче сообщений. В этом случае при наличии помех в канале связи обеспечить стремление к нулю вероятности ошибки в передаче сообщения можно только при стремлении скорости передачи к нулю.

Однако теорема кодирования показывает, что в принципе можно вести передачу со скоростью, сколь угодно близкой к C , достигая при этом сколь угодно малой вероятности ошибки. К сожалению, теоремы, указывая на принципиальное существование помехоустойчивого кода, не дают рецепта его нахождения. Можно лишь отметить, что для этого необходимо применять коды большой длины. При этом по мере приближения скорости передачи к пропускной способности и уменьшения вероятности ошибок код усложняется вследствие увеличения длины блоков, что приводит к резкому усложнению кодирующего и декодирующего устройств, а также запаздыванию выдачи информации при декодировании. Применяемые в настоящее время способы кодирования, которые будут рассмотрены в дальнейшем, не реализуют потенциальных возможностей системы связи. Единственным исключением служат открытые в последнее время турбо-коды.

1Этот результат справедлив для любых симметричных каналов.

Программа курса

«Теория информации и кодирования»

Лекции читаются на 4-м курсе, VII-семестр,

51 час, лектор доцент

Понятие информации, энтропии. Системы связи. Дискретные источники. Описание источника при помощи случайного процесса. Статистическая независимость. Марковские источники. Эргодичность. Эргодичность бернуллиевского источника.

Вывод формулы энтропии (по Фадееву). Взаимная информация, и её свойства. Свойства энтропии. Теорема о максимальном значении энтропии. Энтропия в единицу времени источника сообщений.

Задача кодирования дискретного источника кодами равной длины. Скорость кодирования. Высоковероятностные множества. Прямая и обратная теоремы кодирования дискретного источника кодами равной длины.

Задача кодирования источника кодами неравной длины. Стоимость кодирования. Однозначно дешифрируемые коды. Префиксные коды. Побуквенное кодирование. Необходимое и достаточное условие однозначной дешифрируемости кода. Полные коды. Теорема кодирования дискретного источника кодами неравной длины. Алгоритмы построения оптимальных кодов (Фано, Шеннона, Хаффмена). Построение бинарного оптимального кода при равновероятностном распределении входных вероятностей. Приложение результатов теории информации при доказательстве нижних и верхних оценок сложности реализации булевых функций в некоторых классах управляющих систем. Метод построения оптимального кода при условии, что неизвестно распределение вероятностей букв источника. Теорема Маркова об однозначной дешифрируемости кода. Адаптивные алгоритмы сжатия информации.

Дискретный канал без памяти. Двоичный симметричный канал. Скорость передачи информации в канале. Пропускная способность канала. Расширенный канал и его пропускная способность. Решающие схемы и группировки наблюдений. Вероятность ошибочной передачи информации. Неравенство Файнстейна. Прямая теорема кодирования канала без памяти. Неравенство Фано. Теорема обработки информации . Обращение теоремы кодирования.

Теория помехоустойчивого кодирования. Критерий максимального правдоподобия. Кодовое расстояние. Коды с проверкой на четность. Порождающая и проверочные матрицы. Синдром. Алгоритм декодирования для кодов с проверкой на четность. Линейные коды и алгоритм их декодирования. Граница Хэмминга. Код Хэмминга. Циклические коды. Кодирования и декодирование циклических кодов.

ЛИТЕРАТУРА

1. Галлагер Р. Теория информации и надежная связь., М., Сов. Радио, 1979.

2. Кричевский Е. Лекции по теории и информации, Новосибирск, НГУ, 1966.

3. Колесник В., Полтырев Г. Курс теории информации, Наука, 1982.

4. Файнстейн А. Основы теории информации, М., ИЛ, 1960.

5. Питерсон В., Уэлдон Ф. Коды, исправляющие ошибки, М., Мир, 1976.

6. Бэрлекамп Алгебраическая теория кодирования, М., Мир, 1971.