Diferenzas entre revisións de «Entropía da información»

Recuperando 2 fontes e etiquetando 0 como mortas.) #IABot (v2.0.8.5
m (Arranxos varios)
(Recuperando 2 fontes e etiquetando 0 como mortas.) #IABot (v2.0.8.5)
 
O concepto básico de entropía en [[teoría da información]] ten moito que ver coa [[incerteza]] que existe en calquera experimento ou sinal aleatorio. É tamén a cantidade de «ruído» ou «desorde» que contén ou libera un sistema. Desta forma, poderemos falar da cantidade de información que leva un sinal.
 
Como exemplo, considérese un texto escrito en galego, codificado como unha cadea de letras, espazos e [[Signo de puntuación|signos de puntuación]] (o noso sinal será unha cadea de caracteres). Xa que, estatisticamente, algúns caracteres non son moi comúns (por exemplo, «w»), mentres outros si o son (como o «a»), a cadea de caracteres non será tan "aleatoria" como podería chegar a ser. Obviamente, non se pode predicir con exactitude cal será o seguinte carácter na cadea, e iso faríaa aparentemente aleatoria. Pero é a entropía a encargada de medir precisamente esa aleatoriedad, e foi presentada por Shannon no seu artigo de [[1948]], ''A Mathematical Theory of Communication''<ref>[{{Cita web |url=http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html |título=''A Mathematical Theory of Communication''] |data-acceso=30 de xullo de 2017 |data-arquivo=31 de xaneiro de 1998 |url-arquivo=https://web.archive.org/web/19980131083455/http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html |url-morta=yes }}</ref> ("Unha teoría matemática da comunicación", en inglés).
 
Shannon ofrece unha definición de entropía que satisfai as seguintes afirmacións:
* [[Perplejidad|Perplexidade]]
=== Ligazóns externas ===
* [http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html Unha teoría matemática da comunicación] {{Webarchive|url=https://web.archive.org/web/19980131083455/http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html |date=31 de xaneiro de 1998 }} (en inglés)
* [http://www.shannonentropy.netmark.pl Calculadora da entropía de Shannon] (en inglés)
* [http://ncomputers.org/entropytest Calculadora da entropía de Shannon para ficheiros] (en inglés)
199.272

edicións