энтропия на символ
1ЭНТРОПИЯ — (от греч. entropia поворот, превращение), понятие, впервые введённое в термодинамике для определения меры необратимого рассеяния энергии. Э. широко применяется и в др. областях науки: в статистической физике как мера вероятности осуществления к.… …
2Энтропия (теория информации) — Энтропия (информационная) мера хаотичности информации, неопределённость появления какого либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ передаваемого сообщения. Например, в… …
3ЭНТРОПИЯ — теоретико информационная мера степени неопределенности случайной величины. Если дискретная случайная величина, определенная на нек ром вероятностном пространстве и принимающая значения x1, x2, . . . с распределением вероятностей то Э.… …
4Информационная энтропия — Информационная энтропия  мера неопределённости или непредсказуемости информации, неопределённость появления какого либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ… …
5Условная энтропия — Энтропия (информационная) мера хаотичности информации, неопределённость появления какого либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ передаваемого сообщения. Например, в… …
6Абсолютная энтропия языка — Абсолютная энтропия языка  величина, равная максимуму информации, которую можно передать единицей данного языка. В теории информации обычно под единицей языка понимают одну символ (букву) соответствующего алфавита, а абсолютная энтропия… …
7КОДИРОВАНИЕ ИНФОРМАЦИИ — установление соответствия между элементами сообщения и сигналами, при помощи к рых эти элементы могут быть зафиксированы. Пусть В, , множество элементов сообщения, А алфавит с символами , Пусть конечная последовательность символов наз. словом в… …
8Энтропийное кодирование — Для термина «Кодирование» см. другие значения. Энтропийное кодирование  кодирование последовательности значений с возможностью однозначного восстановления с целью уменьшения объёма данных (длины последовательности) с помощью усреднения… …
9ИНФОРМАЦИИ ТЕОРИЯ — раздел математики, исследующий процессы хранения, преобразования и передачи информации. В основе его лежит определенный способ измерения количества информации. Возникшая из задач теории связи, теория информации иногда рассматривается как… …
10Сложность пароля — мера эффективности, с которой пароль способен противостоять его угадыванию или методу полного перебора. В своей обычной форме сложность пароля является оценкой того, как много попыток в среднем потребуется взломщику, без прямого доступа к паролю …
