Los dos mensajes tienen casi la misma cantidad de palabras, pero no aportan lo mismo. El primero confirma lo que ya sabías; el segundo cambia por completo lo que esperabas. Esa diferencia se puede medir.
Intenta adivinar · luego te explicamos
Para Claude Shannon, un mensaje aporta más cuanto más reduce la incertidumbre de quien lo recibe, y por eso un mensaje improbable aporta más que uno esperado. ¿Qué estaba midiendo?
La información, en el sentido del matemático Claude Shannon, es una medida de cuánto reduce un mensaje la incertidumbre de quien lo recibe. Su artículo de 1948, "Una teoría matemática de la comunicación", fundó el campo entero.
La idea clave es que la información depende de la probabilidad. Un mensaje que ya esperabas casi con certeza aporta muy poca; uno que considerabas improbable aporta mucha. Por eso "saldrá el sol" casi no informa y "nevará en Cartagena" informa muchísimo.
Esto convierte la sorpresa en algo medible. Shannon propuso medirla con el logaritmo en base dos del inverso de la probabilidad: un evento con probabilidad de un medio aporta una unidad; uno con probabilidad de un cuarto, dos.
Esa unidad tiene nombre propio y es la protagonista de la siguiente enseñanza: el bit.