Otro aspecto importante dentro de esta
teoría es la resistencia a la distorsión
que provoca el ruido, la facilidad de
codificación y descodificación, así como
la velocidad de transmisión.
Es por esto que se dice que el
mensaje tiene muchos
sentidos, y el destinatario
extrae el sentido que debe
atribuirle al mensaje, siempre y
cuando haya un mismo código
en común.
La teoría de la información
tiene ciertas limitaciones,
como lo es la acepción del
concepto del código.
El significado que se quiere
transmitir no cuenta tanto
como el número de
alternativas necesario para
definir el hecho sin
ambigüedad.
Si la selección del mensaje se
plantea únicamente entre dos
alternativas diferentes, la
teoría de Shannon postula
arbitrariamente que el valor de
la información es uno.
Esta unidad de información
recibe el nombre de bit.
Para que el valor de la
información sea un bit,
todas las alternativas deben
ser igual de probables y
estar disponibles.
Es importante saber si la fuente de
información tiene el mismo grado
de libertad para elegir cualquier
posibilidad o si se halla bajo alguna
influencia que la induce a una cierta
elección.
La cantidad de información crece
cuando todas las alternativas son
igual de probables o cuanto mayor
sea el número de alternativas.