← Temas

Álgebra lineal: operaciones e identidades de inversión

Vectores y matrices son el lenguaje del caso multivariado. Acá juntamos las pocas identidades que se usan todo el tiempo —cómo se transpone e invierte un producto, qué propiedades tienen las formas cuadráticas, y dos lemas que evitan reinvertir matrices enteras cuando solo cambia un pedacito.

Transpuesta e inversa de un producto

La regla central: transponer (o invertir) un producto invierte el orden de los factores.

El error típico es escribir $(AB)^\top = A^\top B^\top$ —que en general es falso. Cambiá las entradas y miralo:

La intuición de la inversa es física: para deshacer "ponerse medias y después zapatos", primero te sacás los zapatos. Conviene tener también $(A^\top)^{-1} = (A^{-1})^\top$ (se anota $A^{-\top}$), y que para una matriz simétrica $A^\top = A$ —el caso de covarianzas y precisiones.

Propiedades de las formas cuadráticas

Una forma cuadrática es un escalar $\mathbf{x}^\top A\, \mathbf{x}$. Dos hechos la gobiernan:

Solo importa la parte simétrica. Como el resultado es un número (igual a su transpuesta), $\mathbf{x}^\top A\,\mathbf{x} = \mathbf{x}^\top A^\top \mathbf{x}$, y por lo tanto

Cualquier parte antisimétrica se cancela, así que siempre se puede suponer $A$ simétrica. Su definición se lee en los autovalores: $A$ simétrica es definida positiva ($\mathbf{x}^\top A\,\mathbf{x} > 0$ para todo $\mathbf{x} \neq 0$) si y solo si todos sus autovalores son positivos —el análogo vectorial de "$a > 0$" en una parábola.

El gradiente. Las derivadas matriciales que más se usan:

De acá sale, en una línea, por qué minimizar un cuadrático es resolver un sistema lineal:

Son las ecuaciones normales de mínimos cuadrados, y el mismo $A^{-1}\mathbf{b}$ que apareció al completar el cuadrado en $n$ dimensiones.

Identidades de inversión

Invertir una matriz $n \times n$ cuesta $O(n^3)$. Pero muchas veces ya tenés $A^{-1}$ y a $A$ solo le cambia un pedazo de rango bajo. Reinvertir todo sería un desperdicio —y para eso están estas dos identidades.

Sherman–Morrison (corrección de rango 1)

Si actualizás $A$ con un término $\mathbf{u}\mathbf{v}^\top$ (rango 1):

Todo el lado derecho usa el $A^{-1}$ que ya tenías más unos pocos productos matriz-vector: el costo baja de $O(n^3)$ a $O(n^2)$. El único punto delicado es el denominador $1 + \mathbf{v}^\top A^{-1}\mathbf{u}$: si se anula, la matriz actualizada es singular y no hay inversa. Movélo hacia cero y miralo:

Identidad de Woodbury (rango $k$)

Es la generalización a una corrección de rango $k$, con $U$ de $n\times k$, $C$ de $k \times k$ y $V$ de $k \times n$:

Sherman–Morrison es el caso $U = \mathbf{u}$, $C = 1$, $V = \mathbf{v}^\top$. La ganancia es la misma idea a lo grande: en vez de invertir la matriz grande $n \times n$, solo hay que invertir la chica $k \times k$ del paréntesis. Cuando $k \ll n$, es un ahorro enorme —y es exactamente lo que hace que la actualización recursiva de mínimos cuadrados, la ganancia de un filtro de Kalman y las actualizaciones de procesos gaussianos sean baratas paso a paso, sin reinvertir nada.

Cierre del bloque

Con esto, la sección de Álgebra recorre el camino completo: manipular expresiones (productos notables, factorización, fracciones), completar el cuadrado (escalar y matricial), exponenciales, logaritmos y series, y la caja de herramientas de álgebra lineal. Es la base algebraica sobre la que se apoya toda la pista de probabilidad e inferencia estadística.