Diferenzas entre revisións de «Entropía da información»

m
=== Exemplo ===
Supóñase que o número de estados dunha mensaxe é igual a 3 ''M''<sub>1</sub>, ''M''<sub>2</sub> e ''M''<sub>3</sub> onde a probabilidade de ''M''<sub>1</sub> é 50&nbsp;%, a de ''M''<sub>2</sub> 25&nbsp;% e a de ''M''<sub>3</sub> 25&nbsp;%.
:Para ''M''<sub>1</sub> tense que <math>\log_2 [1/p(M_1)]=\log_2 2= 1 </math>
:Para ''M''<sub>2</sub> tense que <math>\log_2 [1/p(M_2)]=\log_2 4= 2 </math>
:Para ''M''<sub>3</sub> tense que <math>\log_2 [1/p(M_3)]=\log_2 4= 2 </math>
Polo tanto, no codificador óptimo para transmitir ''M''<sub>1</sub> fará falta un bit e para ''M''<sub>2</sub> e ''M''<sub>3</sub> será necesario contar con dous bits. Por exemplo, poderíase codificar ''M''<sub>1</sub> con "0", ''M''<sub>2</sub> con "10" e ''M''<sub>3</sub> con "11". Usando este convenio para codificar a mensaxe ''M''<sub>1</sub>''M''<sub>2</sub>''M''<sub>1</sub>''M''<sub>1</sub>''M''<sub>3</sub>''M''<sub>1</sub>''M''<sub>2</sub>''M''<sub>3</sub> usaríase "010001101011" e polo tanto 12 bits.
40.010

edicións