Artículo
Según la definición aportada por ® C.E.Shannon (1948) en la Teoría Matemática de la Información, la entropía o cantidad de información de una fuente discreta de información, caracterizada por la probabilidad pj de enviar cada uno de sus ® símbolos, j, es el promedio estadístico:
  En caso de que la fuente pueda adoptar varios estados i, siendo Pi el estado de probabilidad, y estando cada uno de ellos caracterizado por una probabilidad pi(j) de producir los símbolos i, entonces la entropía se define como el promedio de las entropías de cada estado:
 De acuerdo a Floridi (2005), la entropía H puede designar tres cantidades equivalentes en el caso ideal de un canal sin ruido: 1) “el promedio de la cantidad de información producida por el agente informante (por cada símbolo)"; 2) el "promedio de la cantidad de déficit de datos (incertidumbre shannoniana) por parte del agente informado antes de que éste inspeccione la salida del informante"; 3) la "potencialidad informativa".
Aunque se trate de cantidades equivalentes, debe destacarse que, en última instancia, se trata de interpretaciones diferentes que corresponden a puntos de vista diferentes. El de la observación de la fuente con abstracción del destinatario; el de focalización en la incertidumbre del receptor; el de conocimiento de la realidad.
Puesto que las dos primeras interpretaciones suponen que a cada símbolo le corresponde una incertidumbre definida (ya sea en la emisión o en la recepción), esto a su vez implica un cierto acuerdo tácito del ® alfabeto o juego informacional en el que los agentes están inmersos. En ambos casos la información puede cuantificarse bajo la condición de que pueda especificarse la distribución de probabilidad dentro de un juego comunicativo que puede precisarse.
Según la tercera acepción se puede entender la entropía en términos de una magnitud física referida a la cantidad de desorden en procesos o sistemas portadores de energía o información. Cuanto mayor es la entropía, mayor será el número de estados físicos en los que el sistema puede encontrarse, y por consiguiente mayor la información a la que puede referirse, o de otro modo, la especificación del estado en el cual un determinado sistema se encuentra, requerirá tanta más información cuanto mayor sea su entropía, y ésta equivaldrá numéricamente a la cantidad de información o datos que es necesario aportar para especificar el estado. La entropía es así una característica del macroestado de un sistema (como puede ser la presión o la temperatura de un gas) al que corresponde un número de microestados mayor o menor según dicho valor. Para determinar el microestado en el que se encuentra el sistema e necesario extraer información adicional.
Esta vía nos permite observar el estrecho paralelismo que, en última instancia, existe entre la interpretación de Boltzmann de la entropía y la medida shannoniada de la información que justificaría su homonimia sin necesidad de caer en contradicción ninguna, como se ha señalado a menudo, incluso por los propios autores de la TMC (Shannon, Weaver, 1949).
Referencias
| Entradas
Nueva entrada. Para hacer una entrada es necesario: (1) identificarse como editor autorizado del sistema (que puede hacerse pulsando el enlace "acceder" en la parte inferior izquierda de la página). (2) Una vez identificado, púlsese el botón "editar página" en la parte superior derecha. (3) Estando en modo de edición, sustitúyase "nombre" por el de los autores correspondientes, "fecha" por la de introducción del texto, y la línea siguiente sustitúyase por el texto propuesto. Al final de la entrada deben consignarse las referencias usadas según el modelo normalizado. (4) Para finalizar púlsese "guardar" en la parte superior derecha. La entrada será revisada por el editor y al menos por otro experto. Una vez seleccionadas se integrarán en el artículo en la columna de la izquierda.
Nombre (fecha)
[Texto de Entrada] Entradas incorporadas En cuanto una entrada es integrada en el artículo (columna izquierda) la entrada correspondiente aparece reflejada en esta sección. Díaz-Nafría, J.M. (29/1/2021) La entrada, reflejada directamente en la columna de artículo, recoge la traducción de la versión en inglés y un desarrollado mayor de las consideraciones finales. |
Glosario (sp) >
