Информационный смысл энтропии

Введение
§1. Понятие энтропии. Энтропия как мера степени неопределенности
§2. Понятие об информации. Измерение информации
§3. Теорема Шеннона о кодировании при наличии помех
§4. Пример использования энтропии в прогнозировании и ее значение для прогнозирования. Применение к рискам
Заключение
Список использованной литературы

Весь текст будет доступен после покупки

Ресурсом работы является энтропия и информации. Целью этой работы является изучение энтропии, информация и применения данных понятий с рискам. Данная поставленная цель ставит решение следующих задач: рассмотрения энтропии, статистического смысла этой понятия, энтропии как меры и степени неопределенности, понятия об информации применения, теоремы Шеннона о кодировании при наличии помех, использование энтропии в прогнозировании и применения энтропии к рискам.
Данная тема актуальна, так как трудно найти понятия более общие для всех наук (не только естественных) и, вместе с тем, иногда носящих оттенок загадочности, чем энтропия и информация. Отчасти это связано с самими названиями. Если бы не звучное название “энтропия” осталась бы с момента первого рождения всего лишь “интегралом Клаузиуса”, вряд ли она бы не рождалась вновь и вновь в разных областях науки под одним именем. Кроме того, ее первооткрыватель Клаузиузус, первым же положил начало применению введенного им для, казалось бы узкоспециальных термодинамических целей понятия к глобальным космологическим проблемам (тепловая смерть Вселенной). С тех пор энтропия многократно фигурировала в оставшихся навсегда знаменитыми спорах. В настоящее время универсальный характер этого понятия общепризнан и она плодотворно используется во многих областях.

Весь текст будет доступен после покупки

§1. Понятие энтропии. Статистический смысл понятия энтропии.
Энтропия как мера степени неопределенности
Энтропия (от греч. entropia - поворот, превращение) - мера неупорядоченности больших систем. Впервые понятие "энтропия" введено в XIX в. в результате анализа работы тепловых машин, где энтропия характеризует ту часть энергии, которая рассеивается в пространстве, не совершая полезной работы (отсюда определение: энтропия - мера обесценивания энергии Однако распространение на всю Вселенную законов, установленных для закрытых систем, не имеет убедительных научных оснований. В XX в. понятие " энтропия " оказалось плодотворным для исследования биосистем, а также процессов передачи и обработки информации. Это служит важным руководящим принципом и при разработке современных технологических процессов, при проектировании технических систем. Количественная мера информации формально совпадает с "отрицательно определенной " энтропией. Но глубокое понимание соответствия энтропии физической и информационной остается одной из кардинальных недостаточно исследованных проблем современной науки. Ее решение послужит одним из важных факторов становления нового научно-технического мышления.
Теория информации возникла для описания передачи и приёма сообщений в процессе деятельности человека. Во всех её задачах присутствуют понятия передатчика и приёмника, сигнала-сообщения, событий и их вероятностей. Существование цели передачи информации в теории информации выражается тем, что вводится понятие известного заданного события. Для него может быть определена вероятность р0наступления до приёма сообщения и р1после приёма.
Существование неопределённости связано с участием вероятностей в осуществлении событий. Устранение неопределённости есть увеличение вероятности наступления того, что задано как цель. Поэтому вероятности должны участвовать в математической
При математическом описании неопределённости (например способом Хартли) в случае равновероятных результатов можно перейти от их числаnк обратной величине - вероятностиродного из них.

Весь текст будет доступен после покупки

1.Дмитриев В.Н. Прикладная теория информации. М: Высшая школа,1989.
2.Колмогоров А.Н. Теория информации и теория алгоритмов.М:Наука,1987.
3.Колмогоров А.Н . Три подхода к определению понятия “количество информации” // Проблемы передачи информации.
4.Р.Л.Стратонович, М.С.Полякова, Элементы молек. физ., термодин. и стат. физ.,
5.Д.И.Нагирнер, Кв.мех. и стат. физ. для астр., 2004, с.200.

Весь текст будет доступен после покупки