El lenguaje de la IA

Los trabajos de George Zipf y Claude Shannon marcan un antes y un después en la comprensión del lenguaje y de la información. Ambos investigaron en ámbitos diferentes, pero sus descubrimientos convergen en una idea potente: la comunicación humana no es caótica, sino que obedece a leyes recónditas de eficiencia y probabilidad. Entender estas leyes ha sido clave para el desarrollo de la lingüística moderna, la informática y la cultura digital.

Zipf observó que, en toda lengua, las palabras no se usan al azar. Existe una constante insólita: pocas palabras concentran gran parte del uso, mientras que la mayoría emerge rara vez. No obstante, lo más extraño es que la palabra más frecuente aparece exactamente el doble de veces que la segunda. La tercera, justo un tercio de veces que la primera y así sucesivamente en una misteriosa progresión matemática. La extensión de esta su Ley a otros campos en los que también se confirma (tamaño de las ciudades, distribución de los ingresos, etc.) lo enloqueció hasta el punto de que, por ella, acabó justificando el expansionismo nazi. Zipf jamás entendió del todo el porqué de su detección. Su alusión al principio del mínimo esfuerzo es muy discutible y obvia causas dispares. George Zipf, profesor en Harvard, murió joven, a los 48 años, antes de ver la importancia real de su hallazgo.

Shannon, matemático e ingeniero en los laboratorios Bell y en el MIT, llevó tal intuición, a través de su Teorema, al terreno matemático. Al fundar, a mediados del pasado siglo, la teoría de la información, constató que los mensajes pueden medirse, comprimirse y transmitirse de manera óptima. Introdujo conceptos como entropía, ruido y capacidad de canal, separando el significado del mensaje de su estructura estadística. Así, averiguó que se puede generar texto que parece lenguaje simplemente captando regularidades estadísticas, sin entender su sentido. Con él nacen las telecomunicaciones modernas, la computación digital y, décadas después, internet y la inteligencia artificial.

La importancia de Zipf y Shannon reside en haber demostrado que el orden emerge de la probabilidad y que incluso en el caos puede esconderse una lógica selecta y profundamente humana. Tanto, que si el lenguaje fuera totalmente impredecible la IA sería muda y ChatGPT no existiría.