|
Николайчук, Я. М. Теорія та методи оцінки ентропії дискретних маніпульованих сигналів [Електронний ресурс] / Я. М. Николайчук, Т. І. Пастух, А. Р. Воронич // Оптико-електронні інформаційно-енергетичні технології. – 2015. – 1(29). – С. 18-29.
Викладені теоретичні основи аналітичної оцінки ентропії випадкових процесів. Здійснена систематизація оцінок ентропії згідно методів розроблених Р. Хартлі, К. Крампа, Н. Колмогорова, К. Шенона, Дж. Лонго, Г. Шульца, Б. Олівера, Д. Мідлтона, В. Таллера, В. Боюна, Я. Николайчука. Проведений аналіз аналітики різних оцінок ентропії дозволив встановити, що їх базовою основою є логарифмічні функції імовірнісних станів джерел інформації, багатомірних статистичних розподілів, оцінок приростів математичного сподівання, дисперсії, середньоквадратичного відхилення та різних аналітичних виразів автокореляційних функцій (АКФ). Показано що міра ентропії Р. Хартлі є верхньою оцінкою об’єму інформації, міра Дж. Лонго та Г. Шульца враховують коефіцієнти корисності інформації. Міра К. Шенона враховує імовірнісні стани, а міра Я. Николайчука враховує дисперсію та АКФ, в найбільшій степені наближається до власної ентропії джерела інформації. |