Kontinguität und Likelihood-Entwicklung

Kontinguität

Definition: Kontinguität

Seien $(Ω_{n}, ℱ_{n})$ Messräume, $(P_{n})$ und $(Q_{n})$ Maße auf $ℱ_{n}$ . Dann heisst $(Q_{n})$ contiguous bezüglich $(P_{n})$ , falls jede $(P_{n})$ -Nullfolge auch eine $(Q_{n})$ -Nullfolge ist:

$(P_{n}) ◃ (Q_{n}) : ⟺ \forall (A_{n})_{n \in N}, A_{n} \in ℱ_{n}, P_{n} (A_{n}) \to 0 : Q_{n} (A_{n}) \to 0$

Bemerkung: Die Konvergenz der Maße (in welchem Sinne auch immer) ist nicht gefordert.

Lemma: Äquivalente Definition mittels stochstaischer Konvergenz

$(P_{n}) ◃ (Q_{n}) ⟺ (X_{n} \overset{P_{n}}{\to} 0 \Rightarrow X_{n} \overset{Q_{n}}{\to} 0 \forall (X_{n})_{n \in N}, X_{n} \in ℒ^{0} (ℱ_{n})$

Beispiel: Absolutstetigkeit $⇏$ Kontinguität

Beispiel: Kontinguität $⇏$ Absolutstetigkeit

Beispiel: Kontinguität als Verallgemeinerung von Absolutstetigkeit

Trotz dieser Gegenbeispiele kann Kontinguität als Verallgemeinerung von Absolutstetigkeit aufgefasst werden, denn mit $P_{n} = P < m a t h > u n d < m a t h > Q_{n} = Q$ gilt $Q_{n} ◃ P_{n} ⟺ Q_{n} ≪ P_{n}$

Satz: Charakterisierung Kontinguität

/Beweis Charakterisierung Kontinguität

Beispiel: Inverse Likelihood-Ratio konvergiert schwach gegen Log-Normalverteilung

Beispiel: Kontinguität von Folgen von Normalverteilungen

Likelihood-Entwicklung (im Produktmodell)

Wir wollen nun die Likelihood-Funktion einer mathematischen Stichprobe für wachsenden Stichprobenumfang entwickeln. Unter klassischen Regularitätsannahmen (z.B. die aus dem Satz zur asymptotischen Konvergenz Normalverteilung des MLE) gilt:

Satz: Likelihood-Entwicklung

Sei $(𝒳^{n}, 𝒳^{\oplus n}, (P_{θ}^{\oplus n})_{θ \in Θ})_{n > 0}$ ein Produktmodell, welches bei Failed to parse (syntax error): {\displaystyle \scriptstyle \theta_0 \in I(\Theta) \subseteq \mathbb{R}^k Hellinger-differenzierbar ist. Dann gilt für jede Folge <math>\scriptstyle h_n \rightarrow h \in \mathbb{R} } :

/Beweis Likelihood-Entwicklung

Bemerkung: Gaussches Shift-Modell

...

Gauss'sche Shift Experimente (pdf)

Asymptotik von Bayes-Schätzern

Problematik: Bayes-Schätzer hängt bei gegebener a-priori-Verteilung von der Verlustfunktion ab. Ziel: Asymptotik der a-posteriori-Verteilung

Heurikstik

Satz von Bernstein-Mises

Sei $(𝒳^{n}, 𝒳^{\oplus n}, (P_{θ}^{\oplus n})_{θ \in Θ})_{n > 0}$ ein Produktmodell, welches bei $θ_{0} \in I (Θ) \subseteq ℝ^{k} H e l l i n g e r - d i f f e r e n z i e r b a r i s t . D i e F i s c h e r - I n f o r m a t i o n s m a t r i x < m a t h > I (θ_{0})$ sei regulär.

Außerdem mögen Tests $φ_{n}$ für $H_{0} : θ = θ_{0}$ existieren, so dass für ale Folgen Failed to parse (unknown function "\rigtarrow"): {\displaystyle \scriptstyle M_n \rigtarrow \infinity } mit einer Konstanten $n > 0$ :

$B e d i n g u n g a n T e s t$

Besitzt die a-priori-Verteilung von $θ$ eine stetige, positive Dichte in der Umgebung von $θ_{0}$ , so gilt:

Bemerkungen

Die Anforderungen ab die Tests bedeuten gerade, dass die Fehlerwahrscheinlichkeit erster Art gegen Null konvergiert und die Fehlerwahrscheinlichkeit zweiter Art exponentiell schnell gegen Null konvergiert. Mann kann zeigen (van der Vaart, Lemma 10.6), dass die geforderten Tests bereits existieren, wenn es für jedes $ϵ > 0$ Tests $φ_{n}$ gibt, mit $* * * * * *$ .

Im Wesentlichen benötigen wir also nur, dass der Parameter $θ_{0}$ von den $θ$ mit $| θ_{0} - θ | > ϵ$ durch Tests eindeutig (?) separiert werden kann. (Verstärkte Identifizierbarkeitsforderung)