Función generadora de momentos

format_list_bulleted Contenido keyboard_arrow_down

ImprimirCitar

Concepto en teoría de probabilidad y estadísticas

En teoría de probabilidad y estadística, la función generadora de momentos de una variable aleatoria de valor real es una especificación alternativa de su distribución de probabilidad. Por lo tanto, proporciona la base de una ruta alternativa a los resultados analíticos en comparación con trabajar directamente con funciones de densidad de probabilidad o funciones de distribución acumulativa. Hay resultados particularmente simples para las funciones generadoras de momentos de distribuciones definidas por las sumas ponderadas de variables aleatorias. Sin embargo, no todas las variables aleatorias tienen funciones generadoras de momentos.

Como su nombre lo indica, la función generadora de momentos se puede usar para calcular los momentos de una distribución: el nésimo momento alrededor de 0 es la nésima derivada del momento -función generadora, evaluada en 0.

Además de las distribuciones con valores reales (distribuciones univariadas), se pueden definir funciones generadoras de momentos para variables aleatorias con valores vectoriales o matriciales, e incluso se pueden extender a casos más generales.

La función generadora de momentos de una distribución de valor real no siempre existe, a diferencia de la función característica. Existen relaciones entre el comportamiento de la función generadora de momentos de una distribución y las propiedades de la distribución, como la existencia de momentos.

Definición

Vamos $X$ ser una variable aleatoria con CDF $F_{X}$ . Función generadora de momento (mgf) $X$ (o $F_{X}$ ), denotado por $M_{X}(t)$ , es

{displaystyle M_{X}(t)=operatorname {E} left[e^{tX}right]}

siempre que exista esta expectativa $t$ en un barrio de 0. Es decir, hay un $0}" xmlns="http://www.w3.org/1998/Math/MathML">h■0{displaystyle h confía0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/cbddb7a5cca6170575e4e73e769fbb434c2a3d71" style="vertical-align: -0.338ex; width:5.6ex; height:2.176ex;"/>$ tal que para todos $t$ dentro $<math alttext="{displaystyle -h<t- - h.t.h{displaystyle - ¿Qué? <img alt="{displaystyle -h<t$ , ${displaystyle operatorname {E} left[e^{tX}right]}$ existe. Si la expectativa no existe en un barrio de 0, decimos que la función generadora del momento no existe.

En otras palabras, la función generadora de momento X es la expectativa de la variable aleatoria $e^{tX}$ . Más generalmente, cuando ${displaystyle mathbf {X} =(X_{1},ldotsX_{n})^{mathrm {T} }}$ , un $n$ - vector aleatorio dimensional, y ${displaystyle mathbf {t} }$ es un vector fijo, uno utiliza $mathbf {t} cdot mathbf {X} =mathbf {t} ^{mathrm {T} }mathbf {X}$ en lugar de ${displaystyle tX}$ :

{displaystyle M_{mathbf {X} }(mathbf {t}):=operatorname {E} left(e^{mathbf {t} ^{mathrm {T} }mathbf {X} }right).}

$M_{X}(0)$ siempre existe y es igual a 1. Sin embargo, un problema clave con las funciones generadoras de momento es que los momentos y la función generadora de momento pueden no existir, ya que los integrales no necesitan converger absolutamente. Por el contrario, la función característica o la transformación de Fourier siempre existe (porque es la parte integral de una función atada en un espacio de medida finita), y para algunos propósitos pueden ser utilizados en su lugar.

La función generadora de momento es tan nombrada porque se puede utilizar para encontrar los momentos de la distribución. La expansión de la serie ${displaystyle e^{tX}}$ es

e^{t,X}=1+t,X+{frac {t^{2},X^{2}}{2!}}+{frac {t^{3},X^{3}}{3!}}+cdots +{frac {t^{n},X^{n}}{n!}}+cdots.

Por lo tanto

{displaystyle {begin{aligned}M_{X}(t)=operatorname {E} (e^{t,X})&=1+toperatorname {E} (X)+{frac {t^{2}operatorname {E} (X^{2})}{2!}}+{frac {t^{3}operatorname {E} (X^{3})}{3!}}+cdots +{frac {t^{n}operatorname {E} (X^{n})}{n!}}+cdots \&=1+tm_{1}+{frac {t^{2}m_{2}}{2!}}+{frac {t^{3}m_{3}}{3!}}+cdots +{frac {t^{n}m_{n}}{n!}}+cdotsend{aligned}}}

Donde $m_{n}$ es $n$ Un momento. Diferenciación $M_{X}(t)$ $i$ con respecto a $t$ y configuración $t=0$ , obtenemos el $i$ a momento sobre el origen, $m_{i}$ ; ver Cálculos de momentos a continuación.

Si $X$ es una variable aleatoria continua, la siguiente relación entre su función generadora de momento $M_{X}(t)$ y la transformación de dos lados de la función de densidad de probabilidad $f_{X}(x)$ sostiene:

{displaystyle M_{X}(t)={mathcal {L}}{f_{X}}(-t),}

ya que la transformada de Laplace de dos caras del PDF se da como

{displaystyle {mathcal {L}}{f_{X}}(s)=int _{-infty }^{infty }e^{-sx}f_{X}(x),dx,}

y la definición de la función generadora de momentos se expande (por la ley del estadístico inconsciente) a

{displaystyle M_{X}(t)=operatorname {E} left[e^{tX}right]=int _{-infty }^{infty }e^{tx}f_{X}(x),dx.}

Esto es consistente con la función característica de $X$ ser una rotación de Wick $M_{X}(t)$ cuando la función generadora de momento existe, como la función característica de una variable aleatoria continua $X$ es la transformación Fourier de su función de densidad de probabilidad $f_{X}(x)$ , y en general cuando una función $f(x)$ es de orden exponencial, la transformación de Fourier $f$ es una rotación Wick de su transformación de dos lados en la región de convergencia. Vea la relación de Fourier y Laplace transforma para más información.

Ejemplos

Aquí están algunos ejemplos de la función generadora de momento y la función característica para la comparación. Se puede ver que la función característica es una rotación de la función generadora de momento $M_{X}(t)$ cuando este último existe.

Distribución	Función generadora de momento $M_{X}(t)$	Función característica ${displaystyle varphi (t)}$
Degenerado $delta _{a}$	${displaystyle e^{ta}}$	${displaystyle e^{ita}}$
Bernoulli ${displaystyle P(X=1)=p}$	${displaystyle 1-p+pe^{t}}$	${displaystyle 1-p+pe^{it}}$
Geométrica ${displaystyle (1-p)^{k-1},p}$	$<math alttext="{displaystyle {frac {pe^{t}}{1-(1-p)e^{t}}},~tpet1− − ()1− − p)et,t.− − In⁡ ⁡ ()1− − p){displaystyle {frac {fnK}{1-(1-p)e^{t}},~t meant-ln(1-p)}<img alt="{displaystyle {frac {pe^{t}}{1-(1-p)e^{t}}},~t$	${displaystyle {frac {pe^{it}}{1-(1-p),e^{it}}}}$
Binomial ${displaystyle B(n,p)}$	${displaystyle left(1-p+pe^{t}right)^{n}}$	${displaystyle left(1-p+pe^{it}right)^{n}}$
Binomial negativo ${displaystyle operatorname {NB} (r,p)}$	$<math alttext="{displaystyle left({frac {p}{1-e^{t}+pe^{t}}}right)^{r},~t()p1− − et+pet)r,t.− − In⁡ ⁡ ()1− − p){displaystyle left({frac {p}{1-e^{t}}right)}{r},~t meant-ln(1-p)}<img alt="{displaystyle left({frac {p}{1-e^{t}+pe^{t}}}right)^{r},~t$	${displaystyle left({frac {p}{1-e^{it}+pe^{it}}}right)^{r}}$
Poisson ${displaystyle operatorname {Pois} (lambda)}$	${displaystyle e^{lambda (e^{t}-1)}}$	${displaystyle e^{lambda (e^{it}-1)}}$
Uniforme (continua) ${displaystyle operatorname {U} (a,b)}$	${displaystyle {frac {e^{tb}-e^{ta}}{t(b-a)}}}$	${displaystyle {frac {e^{itb}-e^{ita}}{it(b-a)}}}$
Uniforme (discreto) ${displaystyle operatorname {DU} (a,b)}$	${displaystyle {frac {e^{at}-e^{(b+1)t}}{(b-a+1)(1-e^{t})}}}$	${displaystyle {frac {e^{ait}-e^{(b+1)it}}{(b-a+1)(1-e^{it})}}}$
Laplace ${displaystyle L(mub)}$	$<math alttext="{displaystyle {frac {e^{tmu }}{1-b^{2}t^{2}}},~\|t\|etμ μ 1− − b2t2,SilenciotSilencio.1/b{displaystyle {fnMicroc {fnMicrosoft {fnMicrosoft {ffnMicrosoft {f} {ffnMicrosoft {fnMicrosoft {fnMicrosoft {fn\fn\fnMicrosoft {\fnMicrosoft {fnMicrosoft {f}f}f}f}f}f\fn\\fnfn\fnfnffff\\ffn\\\\\fnf\\\ffn\\\fnfnfnfnMicroc\\fn\\fn\\fn\\fn\\fn\\fn\\\\\\fn\\\\\ {2}} {1-b^{2} {2}}},~ perpetuat habit1/b}<img alt="{displaystyle {frac {e^{tmu }}{1-b^{2}t^{2}}},~\|t\|$	${displaystyle {frac {e^{itmu }}{1+b^{2}t^{2}}}}$
Normal $N(musigma ^{2})$	${displaystyle e^{tmu +{frac {1}{2}}sigma ^{2}t^{2}}}$	${displaystyle e^{itmu -{frac {1}{2}}sigma ^{2}t^{2}}}$
Chi-squared ${displaystyle chi _{k}^{2}}$	$<math alttext="{displaystyle (1-2t)^{-{frac {k}{2}}},~t()1− − 2t)− − k2,t.1/2{displaystyle (1-2t)^{-{frac {k}{2}}}, ~ t significa1/2}<img alt="{displaystyle (1-2t)^{-{frac {k}{2}}},~t$	${displaystyle (1-2it)^{-{frac {k}{2}}}}$
No central chi-squared ${displaystyle chi _{k}^{2}(lambda)}$	${displaystyle e^{lambda t/(1-2t)}(1-2t)^{-{frac {k}{2}}}}$	${displaystyle e^{ilambda t/(1-2it)}(1-2it)^{-{frac {k}{2}}}}$
Gamma ${displaystyle Gamma (k,theta)}$	$<math alttext="{displaystyle (1-ttheta)^{-k},~t()1− − tSilencio Silencio )− − k,t.1Silencio Silencio {displaystyle (1-ttheta)}{-k},~t made{tfrac {1}{theta }<img alt="{displaystyle (1-ttheta)^{-k},~t$	${displaystyle (1-ittheta)^{-k}}$
Exponential ${displaystyle operatorname {Exp} (lambda)}$	$<math alttext="{displaystyle left(1-tlambda ^{-1}right)^{-1},~t()1− − tλ λ − − 1)− − 1,t.λ λ {displaystyle left(1-tlambda ^{-1}right)}{-1},~t madelambda }<img alt="{displaystyle left(1-tlambda ^{-1}right)^{-1},~t$	${displaystyle left(1-itlambda ^{-1}right)^{-1}}$
Beta	$1 +sum_{k=1}^{infty} left(prod_{r=0}^{k-1} frac{alpha+r}{alpha+beta+r} right) frac{t^k}{k!}$	${displaystyle {}_{1}F_{1}(alpha;alpha +beta;i,t)!}$ (ver Función hipergeométrica confluente)
Normal multivariable ${displaystyle N(mathbf {mu }mathbf {Sigma })}$	${displaystyle e^{mathbf {t} ^{mathrm {T} }left({boldsymbol {mu }}+{frac {1}{2}}mathbf {Sigma t} right)}}$	${displaystyle e^{mathbf {t} ^{mathrm {T} }left(i{boldsymbol {mu }}-{frac {1}{2}}{boldsymbol {Sigma }}mathbf {t} right)}}$
Cauchy ${displaystyle operatorname {Cauchy} (mutheta)}$	No existe	${displaystyle e^{itmu -theta \|t\|}}$
Cauchy multivariable ${displaystyle operatorname {MultiCauchy} (muSigma)}$	No existe	${displaystyle !,e^{imathbf {t} ^{mathrm {T} }{boldsymbol {mu }}-{sqrt {mathbf {t} ^{mathrm {T} }{boldsymbol {Sigma }}mathbf {t} }}}}$

Cálculo

La función generadora de momentos es la expectativa de una función de la variable aleatoria, se puede escribir como:

Para una función de masa de probabilidad discreta, ${displaystyle M_{X}(t)=sum _{i=0}^{infty }e^{tx_{i}},p_{i}}$
Para una función de densidad de probabilidad continua, $M_{X}(t)=int _{-infty }^{infty }e^{tx}f(x),dx$
En el caso general: $M_{X}(t)=int _{-infty }^{infty }e^{tx},dF(x)$ , utilizando el Riemann–Stieltjes integral, y donde $F$ es la función de distribución acumulativa. Esto es simplemente la transformación de Laplace-Stieltjes $F$ , pero con la señal del argumento invertido.

Note eso para el caso donde $X$ tiene una función de densidad de probabilidad continua $f(x)$ , ${displaystyle M_{X}(-t)}$ es la transformación de dos caras de Laplace $f(x)$ .

{begin{aligned}M_{X}(t)&=int _{-infty }^{infty }e^{tx}f(x),dx\&=int _{-infty }^{infty }left(1+tx+{frac {t^{2}x^{2}}{2!}}+cdots +{frac {t^{n}x^{n}}{n!}}+cdots right)f(x),dx\&=1+tm_{1}+{frac {t^{2}m_{2}}{2!}}+cdots +{frac {t^{n}m_{n}}{n!}}+cdotsend{aligned}}

Donde $m_{n}$ es $n$ Un momento.

Transformaciones lineales de variables aleatorias

Si la variable aleatoria $X$ tiene función generadora de momento $M_{X}(t)$ , entonces ${displaystyle alpha X+beta }$ tiene función generadora de momento ${displaystyle M_{alpha X+beta }(t)=e^{beta t}M_{X}(alpha t)}$

{displaystyle M_{alpha X+beta }(t)=E[e^{(alpha X+beta)t}]=e^{beta t}E[e^{alpha Xt}]=e^{beta t}M_{X}(alpha t)}

Combinación lineal de variables aleatorias independientes

Si $S_{n}=sum _{i=1}^{n}a_{i}X_{i}$ , donde el X_i son variables aleatorias independientes y a_i son constantes, entonces la función de densidad de probabilidad para S_n es la evolución de las funciones de densidad de probabilidad de cada una de las X_i, y la función generadora de momento para S_n es dado por

M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)cdots M_{X_{n}}(a_{n}t),.

Variables aleatorias con valores vectoriales

Para variables aleatorias de valor vectorial $mathbf {X}$ con componentes reales, la función generadora de momento es dada por

{displaystyle M_{X}(mathbf {t})=Eleft(e^{langle mathbf {t}mathbf {X} rangle }right)}

Donde ${displaystyle mathbf {t} }$ es un vector y $langle cdotcdot rangle$ es el producto de puntos.

Propiedades importantes

Las funciones generadoras de momentos son positivas y log-convexas, con M(0) = 1.

Una propiedad importante de la función generadora de momento es que determina únicamente la distribución. En otras palabras, si $X$ y $Y$ son dos variables aleatorias y para todos los valorest,

M_{X}(t)=M_{Y}(t),,

entonces

F_{X}(x)=F_{Y}(x),

para todos los valores de x (o equivalentemente X y Y tienen la misma distribución). Esta declaración no es equivalente a la declaración "si dos distribuciones tienen los mismos momentos, entonces son idénticas en todos los puntos". Esto se debe a que, en algunos casos, los momentos existen y, sin embargo, la función generadora de momentos no, porque el límite

lim _{nrightarrow infty }sum _{i=0}^{n}{frac {t^{i}m_{i}}{i!}}

puede que no exista. La distribución logarítmica normal es un ejemplo de cuándo ocurre esto.

Cálculos de momentos

La función generadora de momentos se llama así porque si existe en un intervalo abierto alrededor de t = 0, entonces es la función generadora exponencial de los momentos de la distribución de probabilidad:

{displaystyle m_{n}=Eleft(X^{n}right)=M_{X}^{(n)}(0)=left.{frac {d^{n}M_{X}}{dt^{n}}}right|_{t=0}.}

Es decir, siendo n un número entero no negativo, el nésimo momento alrededor de 0 es la nésima derivada de la función generadora de momentos, evaluado en t = 0.

Otras propiedades

La desigualdad de Jensen proporciona un límite inferior simple en la función generadora de momentos:

{displaystyle M_{X}(t)geq e^{mu t},}

Donde $mu$ es la media de X.

La función generadora de momento se puede utilizar junto con la desigualdad de Markov para atar la cola superior de una variable aleatoria real X. Esta declaración también se denomina límite de Chernoff. Desde ${displaystyle xmapsto e^{xt}}$ está aumentando monotonicamente $0}" xmlns="http://www.w3.org/1998/Math/MathML">t■0{displaystyle t fiel0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/29a2960e88369263fe3cfe00ccbfeb83daee212a" style="vertical-align: -0.338ex; width:5.101ex; height:2.176ex;"/>$ , tenemos

{displaystyle P(Xgeq a)=P(e^{tX}geq e^{ta})leq e^{-at}E[e^{tX}]=e^{-at}M_{X}(t)}

para cualquier $0}" xmlns="http://www.w3.org/1998/Math/MathML">t■0{displaystyle t fiel0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/29a2960e88369263fe3cfe00ccbfeb83daee212a" style="vertical-align: -0.338ex; width:5.101ex; height:2.176ex;"/>$ y cualquier a, proporcionado $M_{X}(t)$ existe. Por ejemplo, cuando X es una distribución normal estándar y $0}" xmlns="http://www.w3.org/1998/Math/MathML">a■0{displaystyle a confía0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/1f34a80ea013edb56e340b19550430a8b6dfd7b9" style="vertical-align: -0.338ex; width:5.491ex; height:2.176ex;"/>$ , podemos elegir $t=a$ y recordar que ${displaystyle M_{X}(t)=e^{t^{2}/2}}$ . Esto da ${displaystyle P(Xgeq a)leq e^{-a^{2}/2}}$ , que está dentro de un factor de 1+a del valor exacto.

Varios lemas, como el lema de Hoeffding o la desigualdad de Bennett, proporcionan límites en la función generadora de momentos en el caso de una variable aleatoria limitada de media cero.

Cuando $X$ es no negativo, la función generadora de momento da un vínculo simple y útil en los momentos:

{displaystyle E[X^{m}]leq left({frac {m}{te}}right)^{m}M_{X}(t),}

Para cualquier ${displaystyle X,mgeq 0}$ y $0}" xmlns="http://www.w3.org/1998/Math/MathML">t■0{displaystyle t fiel0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/29a2960e88369263fe3cfe00ccbfeb83daee212a" style="vertical-align: -0.338ex; width:5.101ex; height:2.176ex;"/>$ .

Esto se deriva de la desigualdad ${displaystyle 1+xleq e^{x}}$ en que podemos sustituir ${displaystyle x'=tx/m-1}$ implicación ${displaystyle tx/mleq e^{tx/m-1}}$ para cualquier ${displaystyle x,t,min mathbb {R} }$ . Ahora, si $0}" xmlns="http://www.w3.org/1998/Math/MathML">t■0{displaystyle t fiel0}0" aria-hidden="true" class="mwe-math-fallback-image-inline" src="https://wikimedia.org/api/rest_v1/media/math/render/svg/29a2960e88369263fe3cfe00ccbfeb83daee212a" style="vertical-align: -0.338ex; width:5.101ex; height:2.176ex;"/>$ y ${displaystyle x,mgeq 0}$ , esto se puede reorganizar ${displaystyle x^{m}leq (m/(te))^{m}e^{tx}}$ . Tomando la expectativa de ambos lados da el límite ${displaystyle E[X^{m}]}$ en términos de ${displaystyle E[e^{tX}]}$ .

Como ejemplo, considere ${displaystyle Xsim {text{Chi-Squared}}}$ con $k$ grados de libertad. Luego de los ejemplos ${displaystyle M_{X}(t)=(1-2t)^{-k/2}}$ . Picking ${displaystyle t=m/(2m+k)}$ y sustitución en el límite:

{displaystyle E[X^{m}]leq (1+2m/k)^{k/2}e^{-m}(k+2m)^{m}.}

Sabemos que en este caso el límite correcto es ${displaystyle E[X^{m}]leq 2^{m}Gamma (m+k/2)/Gamma (k/2)}$ . Para comparar los límites, podemos considerar la asintotica para grandes $k$ . Aquí está la función generadora de momento ${displaystyle k^{m}(1+m^{2}/k+O(1/k^{2}))}$ , donde el límite real es ${displaystyle k^{m}(1+(m^{2}-m)/k+O(1/k^{2}))}$ . La función generadora de momento es así muy fuerte en este caso.

Relación con otras funciones

Relacionados con la función generadora de momentos hay una serie de otras transformadas que son comunes en la teoría de la probabilidad:

Función característica: Función característica $varphi _{X}(t)$ está relacionado con la función generadora de momento a través $varphi _{X}(t)=M_{iX}(t)=M_{X}(it):$ la función característica es la función generadora de momento iX o el momento de generar función X evaluado en el eje imaginario. Esta función también se puede ver como la transformación Fourier de la función de densidad de probabilidad, que por lo tanto se puede deducir de ella por inversa transformación Fourier.
Función acumulativa: La función generadora acumulativa se define como el logaritmo de la función generadora de momento; algunos definen la función generadora acumulativa como el logaritmo de la función característica, mientras que otros llaman a este último el segundo función acumulada.
Función de generación de probabilidad: La función generadora de probabilidad se define como ${displaystyle G(z)=Eleft[z^{X}right].,}$ Esto implica inmediatamente que ${displaystyle G(e^{t})=Eleft[e^{tX}right]=M_{X}(t).,}$

Contenido relacionado

Más resultados...