Leyes de los grandes números y el Teorema Central del Límite
Tomá una sucesión de variables iidX1,X2,… con media μ y varianza
σ2, y la media muestralXˉn=n1∑i=1nXi. Dos
preguntas, dos teoremas:
¿A dónde va Xˉn? → a μ. Es la ley de los grandes números.
¿Cómo fluctúa alrededor de μ? → como una gaussiana de escala 1/n.
Es el Teorema Central del Límite.
Para enunciarlos con precisión, primero hay que decir en qué sentido converge una
sucesión de variables aleatorias —y ahí están casi todas las sutilezas.
Modos de convergencia
No hay un único "→" para variables aleatorias. Hay tres que importan:
En probabilidad:Casi seguro (c.s.):En distribucioˊn:XnpX⟺∀ε>0,P(∣Xn−X∣>ε)→0.Xnc.s.X⟺P(nlimXn=X)=1.XndX⟺Fn(x)→F(x) en los puntos de continuidad de F.
La jerarquía (estrictas las implicaciones):
c.s.⟹en probabilidad⟹en distribucioˊn.
En probabilidad dice que la chance de estar lejos se desvanece; casi
seguro dice que la sucesión misma converge, para casi todo ω. La
distinción no es pedante: es la diferencia entre la ley débil y la fuerte.
Las herramientas: Markov y Chebyshev
Las dos leyes se apoyan en una sola desigualdad elemental. Vale la pena entenderla
de verdad, porque es el motor de todo.
Desigualdad de Markov
La intuición: una variable no negativa no puede poner mucha masa lejos sin
inflar su media. Si una fracción importante de X valiera ≥a, ese solo
pedazo ya aportaría mucho a E[X]. Formalmente, para X≥0 y a>0:
E[X]=∫0∞xdP≥∫{X≥a}xdP≥∫{X≥a}adP=aP(X≥a).
El primer "≥" es tirar la parte donde X<a (integrando no negativo); el
segundo, reemplazar x por su cota inferior a en esa región. Despejando:
P(X≥a)≤aE[X]
Solo usa la media —ninguna otra información—, así que es válida siempre pero
típicamente floja.
Desigualdad de Chebyshev
Markov mira colas de variables positivas. Para acotar cuánto se aleja de su
media una variable cualquiera, aplicá Markov a Y=(X−μ)2 (que es ≥0)
con umbral a=ε2. Como el evento {(X−μ)2≥ε2} es
exactamente {∣X−μ∣≥ε}:
P(∣X−μ∣≥ε)=P((X−μ)2≥ε2)≤ε2E[(X−μ)2]=ε2σ2.
Midiendo la distancia en desvíos estándar (ε=kσ) queda la
forma más reveladora:
P(∣X−μ∣≥kσ)≤k21
A lo sumo 1/k2 de la masa está a más de k desvíos de la media —y esto vale
para cualquier distribución con varianza finita, sin suponer normalidad—. A
k=2: al menos el 75% está dentro de 2σ; a k=3, al menos el 89%.
Es flojo (la normal mete 95% dentro de 2σ, no apenas 75%), pero su
fuerza es que es libre de distribución. Jugá con la cota y mirá cuánto sobra:
La cota siempre vale (y suele sobrar) — interactivo
probabilidad real0.135
cota de Markov E[X]/a0.500
Markov: P(X ≥ a) ≤ E[X]/a. La cota nunca queda por debajo de la probabilidad real —siempre vale—, pero la sobreestima bastante: usa solo la media, ninguna otra información.
Esa holgura no importa para lo que viene: alcanza y sobra para demostrar la ley
débil en tres líneas.
La ley débil (WLLN)
Xˉnpμ: para todo ε, P(∣Xˉn−μ∣≥ε)→0.
Demostración (con varianza finita). La media muestral tiene
E[Xˉn]=μ y, por independencia,
Var(Xˉn)=nσ2. Chebyshev da
P(∣Xˉn−μ∣≥ε)≤ε2Var(Xˉn)=nε2σ2n→∞0.■
Tres líneas. La varianza de la media se encoge como 1/n, y eso aplasta la
probabilidad de desviarse.
La ley fuerte de Kolmogorov (SLLN)
La ley débil deja una puerta abierta: que Xˉn se acerque "casi siempre" pero
ocasionalmente pegue saltos para siempre. Kolmogorov la cierra:
Ley fuerte (Kolmogorov). Si X1,X2,… son iid con
E∣X1∣<∞, entonces Xˉnc.s.μ.
Notá la hipótesis: basta media finita, no hace falta varianza. Y la conclusión
es mucho más fuerte: para casi toda realización ω, la trayectoriaXˉn(ω) converge a μ. Mirá una trayectoria asentándose, dentro del embudo
μ±2σ/n:
La ley de los grandes números — interactivo
La media muestral X̄ₙ se asienta sobre μ = 1 a medida que n crece —eso es la ley de los grandes números—. El embudo es la banda μ ± 2σ/√n: las fluctuaciones se achican como 1/√n (el TCL lo dirá exacto). Hasta una fuente tan rara como ±1 (bimodal) obedece. Tocá ↻ para otra realización.
La maquinaria detrás es fina —la desigualdad maximal de Kolmogorov, el
teorema de las tres series y la ley 0-1 (todo evento de cola tiene
probabilidad 0 o 1)—. El espíritu: controlar no un término sino el supremo de las
colas, lo justo para saltar de "la probabilidad tiende a 0" a "la sucesión converge
con probabilidad 1".
El Teorema Central del Límite
La ley de los grandes números dice a dónde va la media; el TCL dice cómo llega.
Reescalando la desviación por n:
σ/nXˉn−μ=σn(Xˉn−μ)dN(0,1).
Lo asombroso es la universalidad: no importa la forma de la fuente —sesgada,
discreta, bimodal—, las medias estandarizadas convergen a la misma campana. Subí
n y miralo colapsar:
El Teorema Central del Límite — interactivo
n = 2 (muestras por media)2400 medias estandarizadas
Cada barra es el histograma de √n·(X̄ₙ − μ)/σ sobre 2400 muestras. Con n = 1 ves la forma cruda de la fuente (sesgada, bimodal…). Subí n y, venga de donde venga, el histograma colapsa a la campanaN(0,1). Eso es el TCL: las fluctuaciones de la media, reescaladas por √n, son universalmente gaussianas. Por eso la normal aparece en todos lados —y por qué los errores estándar van como σ/√n.
Bosquejo de la prueba (funciones características). La función característica
φ(t)=E[eitX] determina la ley y convierte sumas en productos.
Para Zn=σn1∑(Xi−μ), la independencia da
φZn(t)=[φ(X−μ)/σ(t/n)]n.
Expandiendo a segundo orden (media 0, varianza 1):
φ(s)=1−2s2+o(s2), así que
φZn(t)=(1−2nt2+o(n1))nn→∞e−t2/2,
que es la función característica de la N(0,1). Por el teorema de continuidad de
Lévy, la convergencia de las características implica convergencia en distribución.
■
La lectura conjunta
Los dos teoremas, juntos, describen la media muestral por completo:
Xˉn=LLN: el centroμ+TCL: la fluctuacioˊn gaussianaOp(n1).
La LLN te da consistencia (el estimador acierta el blanco); el TCL te da la forma
y el tamaño del error alrededor del blanco.
Por qué esto está en el corazón de la estadística
Consistencia de estimadores: que θ^n→θ es, en el fondo,
una ley de los grandes números.
Intervalos de confianza: θ^±znσ^ sale
directo del TCL —la normalidad asintótica es lo que justifica el ±1.96.
Monte Carlo: la LLN dice que el promedio de simulaciones converge al valor
buscado; el TCL te da las barras de errorσ/n. Por eso para ganar
un dígito de precisión hacés falta 100× más muestras.
El n no es casualidad: es la tasa universal de la estadística, y sale
de que la varianza de un promedio cae como 1/n.
Con esto en la mano, ya podemos hablar en serio de estimadores y sus
propiedades: el siguiente paso de la inferencia.