Lema de Neyman-Pearson

format_list_bulleted Contenido keyboard_arrow_down

ImprimirCitar

En las estadísticas, Neyman-Pearson lemma fue presentado por Jerzy Neyman y Egon Pearson en un periódico en 1933. La lema Neyman-Pearson es parte de la teoría Neyman-Pearson de las pruebas estadísticas, que introdujo conceptos como errores del segundo tipo, función de poder y comportamiento inductivo. La anterior teoría pesqueña de las pruebas de significado postuló sólo una hipótesis. Al introducir una hipótesis concurrente, el sabor de las pruebas estadísticas Neyman-Pearsonian permite investigar los dos tipos de errores. Los casos triviales donde uno siempre rechaza o acepta la hipótesis nula son de poco interés, pero sí demuestra que uno no debe renunciar al control sobre un tipo de error mientras calibra el otro. Neyman y Pearson procedieron a restringir su atención a la clase de todos ${displaystyle alpha }$ pruebas de nivel mientras que posteriormente minimiza el error tipo II, tradicionalmente denotado por ${displaystyle beta }$ . Su papel seminal de 1933, incluyendo la lema Neyman-Pearson, llega al final de este esfuerzo, no sólo mostrando la existencia de pruebas con la mayor potencia que conservan un nivel predeterminado de error tipo I ( ${displaystyle alpha }$ ), pero también proporcionar una manera de construir tales pruebas. El teorema Karlin-Rubin extiende la lema Neyman-Pearson a configuraciones que implican hipótesis compuestas con ratios de probabilidad monotona.

Declaración

Considere una prueba con hipótesis ${displaystyle H_{0}: = 'theta ¿Qué?$ y ${displaystyle H_{1}: = 'theta ¿Qué?$ , donde la función de densidad de probabilidad (o función de masa de probabilidad) ${displaystyle rho (xmid theta _{i}}$ para ${displaystyle i=0,1}$ .

Para cualquier prueba de hipótesis con conjunto de rechazo ${displaystyle R.$ , y ${displaystyle alpha in [0,1]}$ , decimos que se satisface la condición ${displaystyle P_{alpha }$ si

${displaystyle alpha =Pr_{theta - Sí.$ ${displaystyle alpha =Pr_{theta _{0}}(Xin R)}$
- Es decir, la prueba tiene tamaño ${displaystyle alpha }$ (es decir, la probabilidad de rechazar falsamente la hipótesis nula es ${displaystyle alpha }$ ).
${displaystyle exists eta geq 0}$ ${displaystyle exists eta geq 0}$ tales que ${displaystyle {begin{aligned}xin &Rsetminus Aimplies rho (xmid theta _{1}) títuloeta rho (xmid theta _{0})xin > R^{c}setminus Aimplies rho (xmid theta _{1}) madeeta rho (xmid theta _{0})end{aligned}}}$ ${displaystyle {begin{aligned}xin &Rsetminus Aimplies rho (xmid theta _{1})>eta rho (xmid theta _{0})\xin &R^{c}setminus Aimplies rho (xmid theta _{1})<eta rho (xmid theta _{0})end{aligned}}}$
Donde ${displaystyle A}$ $A$ es un conjunto ignorable en ambos ${displaystyle theta ¿Qué?$ $theta _{0}$ y ${displaystyle theta ¿Qué?$ $theta _{1}$ casos: ${displaystyle Pr_{theta ¿Por qué? - Sí.$ ${displaystyle Pr_{theta _{0}}(Xin A)=Pr_{theta _{1}}(Xin A)=0}$ .
- Es decir, tenemos una prueba de relación de probabilidad estricta, excepto en un subconjunto ignorable.

Para cualquier ${displaystyle alpha in [0,1]}$ , que el conjunto de nivel ${displaystyle alpha }$ pruebas son el conjunto de todas las pruebas de hipótesis con tamaño a la mayoría ${displaystyle alpha }$ . Es decir, dejar que su sistema de rechazo sea ${displaystyle R.$ , tenemos ${displaystyle Pr_{theta ¿Por qué?$ .

Neyman-Pearson lemma—Existencia:

Si una hipótesis prueba satisfizo ${displaystyle P_{alpha }$ condición, entonces es una prueba uniformemente más potente (UMP) en el conjunto de nivel ${displaystyle alpha }$ pruebas.

Unicidad:Si existe una prueba de hipótesis ${displaystyle R_{NP}$ que satisfice ${displaystyle P_{alpha }$ condición, con ${displaystyle eta >0}$ entonces cada prueba UMP ${displaystyle R.$ en el conjunto de niveles ${displaystyle alpha }$ pruebas satisfichas ${displaystyle P_{alpha }$ condición con la misma ${displaystyle eta }$ .

Además, ${displaystyle R_{NP}$ la prueba y el ${displaystyle R.$ test de acuerdo con probabilidad ${displaystyle 1}$ si ${displaystyle theta =theta ¿Qué?$ o ${displaystyle theta =theta ¿Qué?$ .

En la práctica, el índice de verosimilitud se utiliza a menudo directamente para elaborar pruebas (consulte prueba de índice de verosimilitud). Sin embargo, también se puede utilizar para sugerir estadísticas de prueba particulares que podrían ser de interés o para sugerir pruebas simplificadas; para esto, se considera la manipulación algebraica de la razón para ver si contiene estadísticas clave relacionadas con el tamaño de la razón (es decir, si una estadística grande corresponde a una proporción pequeña o grande).

Prueba

Dada cualquier prueba de hipótesis con conjunto de rechazo ${displaystyle R.$ , definir su función de potencia estadística ${displaystyle beta _{R}(theta)=Pr_{theta }(Xin R)}$ .

Existencia:

Dada alguna prueba de hipótesis que satisfice ${displaystyle P_{alpha }$ condición, llame a su región de rechazo ${displaystyle R_{NP}$ (donde NP representa a Neyman-Pearson).

Para cualquier nivel ${displaystyle alpha }$ prueba de hipótesis con región de rechazo ${displaystyle R.$ tenemos ${displaystyle [1_{R_{NP}(x)-1_{R}(x) [rho (x impertheta _{1})-eta rho (x impertheta _{0})]geq 0}$ excepto en un conjunto ignorable ${displaystyle A}$ .

Entonces integrelo sobre ${displaystyle x}$ para obtener ${displaystyle 0leq [beta] _{R_{NP}(theta _{1})-beta _{R}(theta _{1})]-eta [beta] ¿Por qué?$ .

Desde ${displaystyle beta ¿Por qué?$ y ${displaystyle beta _{R}(theta _{0})leq alpha }$ , encontramos que ${displaystyle beta _{R_{NP}(theta _{1})geq beta _{R}(theta) _{1}}$ .

Así el ${displaystyle R_{NP}$ prueba de rechazo es una prueba UMP en el conjunto de nivel ${displaystyle alpha }$ pruebas.

Unicidad:

Para cualquier otro nivel de UMP ${displaystyle alpha }$ test, con región de rechazo ${displaystyle R.$ , tenemos de la parte de la Existencia, ${displaystyle [beta] _{R_{NP} {theta _{1})-beta _{R}(theta _{1})geq eta [beta _{R_{NP}}(theta _{0})-beta _{R}(theta _{0})}}}}}$ .

Desde ${displaystyle R.$ La prueba es UMP, el lado izquierdo debe ser cero. Desde ${displaystyle eta >0}$ el lado derecho da ${displaystyle beta _{R}(theta _{0})=beta ¿Por qué?$ Así que... ${displaystyle R.$ test tiene tamaño ${displaystyle alpha }$ .

Desde el componente ${displaystyle [1_{R_{NP}(x)-1_{R}(x) [rho (x impertheta _{1})-eta rho (x impertheta _{0})}$ es no negativo, e integra a cero, debe ser exactamente cero excepto en un conjunto ignorable ${displaystyle A}$ .

Desde ${displaystyle R_{NP}$ test satisfies ${displaystyle P_{alpha }$ condición, que los ignorantes se establezcan en la definición de ${displaystyle P_{alpha }$ condición ${displaystyle A_{NP}$ .

${displaystyle Rsetminus (R_{NP}cup A_{NP}}$ es ignorable, ya que para todos ${displaystyle xin Rsetminus (R_{NP}cup A_{NP}}$ , tenemos ${displaystyle [1_{R_{NP}(x)-1_{R}(x)][rho (x impertheta _{1})-eta rho (x impertheta _{0})]=eta rho (x toleratheta _{0})-rho (xtheta) ¿Qué?$ .

Análogamente, ${displaystyle R_{NP}setminus (Rcup A_{NP}$ es ignorable.

Define ${displaystyle A_{R}:=(RDelta R_{NP})cup A_{NP}$ (donde) ${displaystyle Delta }$ significa diferencia simétrica). Es la unión de tres conjuntos ignorables, así es un conjunto ignorable.

Entonces tenemos ${displaystyle xin Rsetminus A_{R}implies rho (x sometidatheta _{1}]] títuloeta rho (x sometidatheta _{0})}$ y ${displaystyle xin R^{c}setminus A_{R}implies rho (x sometidatheta _{1}) madeeta rho (x sometidatheta _{0})}$ . Así que... ${displaystyle R.$ prueba de rechazo satisfios ${displaystyle P_{alpha }$ condición con la misma ${displaystyle eta }$ .

Desde ${displaystyle A_{R}$ es ignorable, su subconjunto ${displaystyle RDelta R_{NP}subset A_{R}$ es también ignorable. En consecuencia, las dos pruebas coinciden con la probabilidad ${displaystyle 1}$ si ${displaystyle theta =theta ¿Qué?$ o ${displaystyle theta =theta ¿Qué?$ .

Ejemplo

Vamos. ${displaystyle X_{1},dots X_{n}$ ser una muestra aleatoria de la ${displaystyle {mathcal {N}(musigma ^{2}}$ distribución donde la media ${displaystyle mu }$ es conocido, y supone que deseamos probar ${displaystyle ¿Qué? ^{2}=sigma ¿Qué?$ contra la ${displaystyle ¿Qué? ^{2}=sigma$ . La probabilidad de este conjunto de datos normalmente distribuidos es

{displaystyle {mathcal {L}}left(sigma ^{2}mid mathbf {x} right)propto left(sigma ^{2}right)^{-n/2}expleft{-{fc {sum ¿Por qué?

Podemos calcular el índice de verosimilitud para encontrar la estadística clave en esta prueba y su efecto en el resultado de la prueba:

{displaystyle Lambda (mathbf {x})={frac {Mathcal {L}left({sigma} ################################################################################################################################################################################################################################################################ {sigma {0}{2}{sigma ################################################################################################################################################################################################################################################################ ¿Qué? - ¿Qué? ¿Por qué?

Esta relación solo depende de los datos a través de ${displaystyle sum _{i=1}{n}(x_{i}-mu)^{2}$ . Por lo tanto, por la lema Neyman-Pearson, la prueba más poderosa de este tipo de hipótesis para estos datos dependerá solamente de ${displaystyle sum _{i=1}{n}(x_{i}-mu)^{2}$ . También, por inspección, podemos ver que si ${displaystyle sigma ¿Qué? ¿Qué?$ Entonces ${displaystyle Lambda (mathbf {x})}$ es una función decreciente ${displaystyle sum _{i=1}{n}(x_{i}-mu)^{2}$ . Así que debemos rechazar ${displaystyle H_{0}$ si ${displaystyle sum _{i=1}{n}(x_{i}-mu)^{2}$ es suficientemente grande. El umbral de rechazo depende del tamaño de la prueba. En este ejemplo, se puede demostrar que la estadística de prueba es una variable aleatoria distribuida a escala Chi-square y se puede obtener un valor crítico exacto.

Aplicación en economía

Una variante del lema de Neyman-Pearson ha encontrado una aplicación en el dominio aparentemente no relacionado de la economía del valor de la tierra. Uno de los problemas fundamentales de la teoría del consumidor es calcular la función de demanda del consumidor dados los precios. En particular, dada una propiedad de tierra heterogénea, una medida de precio sobre la tierra y una medida de utilidad subjetiva sobre la tierra, el problema del consumidor es calcular la mejor parcela de tierra que puede comprar, es decir, la parcela de tierra con la mayor utilidad, cuyo precio es como máximo su presupuesto. Resulta que este problema es muy similar al problema de encontrar la prueba estadística más potente, por lo que se puede utilizar el lema de Neyman-Pearson.

Usos en ingeniería eléctrica

El lema de Neyman-Pearson es bastante útil en ingeniería electrónica, concretamente en el diseño y uso de sistemas de radar, sistemas de comunicación digital y sistemas de procesamiento de señales. En los sistemas de radar, el lema de Neyman-Pearson se utiliza para establecer primero la tasa de detecciones perdidas en un nivel deseado (bajo) y luego minimizar la tasa de falsas alarmas, o viceversa. Ni las falsas alarmas ni las detecciones perdidas pueden establecerse a tasas arbitrariamente bajas, incluido cero. Todo lo anterior se aplica también a muchos sistemas de procesamiento de señales.

Usos en física de partículas

El lema de Neyman-Pearson se aplica a la construcción de ratios de verosimilitud específicos del análisis, utilizado, por ejemplo, para prueba de firmas de nueva física frente a la predicción nominal del Modelo Estándar en conjuntos de datos de colisiones protón-protón recopilados en el LHC.

Descubrimiento del lema

Neyman escribió sobre el descubrimiento del lema de la siguiente manera. Se han insertado saltos de párrafo.

Puedo señalar el momento particular cuando entendí cómo formular el problema desdogmático de la prueba más poderosa de una simple hipótesis estadística contra una alternativa simple fija. En la actualidad [probablemente 1968], el problema aparece totalmente trivial y al alcance fácil de un primer grado. Pero, con cierto grado de vergüenza, debo confesar que tomó algo como media década de esfuerzo combinado de E. S. P. [Egon Pearson] y yo mismo para aclarar las cosas.
La solución de la pregunta particular mencionada llegó una noche cuando estaba sentado solo en mi habitación en el Laboratorio Estadístico de la Escuela de Agricultura de Varsovia, pensando duro en algo que debería haber sido obvio mucho antes. El edificio estaba encerrado y, a las 8 p.m., escuché voces fuera llamándome. Esta era mi esposa, con algunos amigos, diciéndome que era hora de ir a una película.
Mi primera reacción fue la de la molestia. Y entonces, como me levanté de mi escritorio para responder a la llamada, de repente entendí: para cualquier región crítica dada y para cualquier hipótesis alternativa dada, es posible calcular la probabilidad del error del segundo tipo; está representado por esta integral particular. Una vez hecho esto, la región crítica óptima sería la que minimiza esta misma integral, sujeta a la condición lateral que se refiere a la probabilidad del error del primer tipo. Nos enfrentamos a un problema particular del cálculo de la variación, probablemente un problema simple.
Estos pensamientos llegaron en un flash, antes de llegar a la ventana para señalar a mi esposa. El incidente está claro en mi memoria, pero no recuerdo la película que vimos. Puede haber sido Buster Keaton.

Contenido relacionado

Más resultados...