Berechnung, ML-Schätzer < math. Statistik < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 17:31 Mo 02.02.2009 | | Autor: | Marcel08 |
| Aufgabe | Maximum-Likelihood-Schätzer, verschobene Exponentialverteilung
Die Zufallsvariablen [mm] X_{1},...,X_{n} [/mm] seien unabhängig und identisch verteilt mit der Verteilungsfunktion
[mm] F_{\theta}(x)=\begin{cases} 1-e^{-(x-\theta)}, & \mbox{falls } x\ge\theta \mbox{ } \\ 0 & \mbox{ } sonst. \mbox{ } \end{cases}
[/mm]
a) Bestimmen Sie den Maximum-Likelihood-Schätzer [mm] T_{n} [/mm] für [mm] \tau(\theta)=\theta.
[/mm]
b) Geben Sie die Verteilungsfunktion von [mm] T_{n} [/mm] an.
c) Bestimmen Sie den Bias und den mittleren quadratischen Fehler von [mm] T_{n}.
[/mm]
d) Ist die Folge der Schätzer [mm] T_{1},T_{2},... [/mm] asymptotisch erwartungstreu für [mm] \tau(\theta)=\theta?
[/mm]
Hinweis: Bestimmen Sie zur Bearbeitung der Teilaufgaben c) und d) zunächst die Verteilung der Zufallsvariablen [mm] T_{n}-\theta. [/mm] |
Hallo Matheraum,
ich beziehe mich bei meinen Fragen zunächst nur auf den Aufgabenteil a). Dazu poste ich erst einmal meinen Lösungsansatz:
[mm] F_{\theta}(x)=\begin{cases} 1-e^{-(x-\theta)}, & \mbox{falls } x\ge\theta \mbox{ } \\ 0 & \mbox{ } sonst. \mbox{ } \end{cases}
[/mm]
Im ersten Schritt würde ich die Ableitung der Funktion nach x bestimmen.
[mm] f_{\theta}(x)=\begin{cases} e^{\theta-x}, & \mbox{falls } x\ge\theta \mbox{ } \\ 0 & \mbox{ } sonst. \mbox{ } \end{cases}
[/mm]
Meine Maximum-Likelihood-Funktion lautet demnach
[mm] L(\theta;x_{1},...,x_{n})=\produkt_{i=1}^{n}f_{\theta}(x_{i})=\begin{cases} e^{n\theta}\produkt_{i=1}^{n}e^{-x_{i}}, & \mbox{falls } x_{i}\ge\theta \mbox{ } \\ 0 & \mbox{ } sonst. \mbox{ } \end{cases}
[/mm]
Differenzieren der Likelihood-Funktion mit [mm] x_{i}\ge\theta [/mm] liefert dann
(*1) [mm] ne^{n\theta}\produkt_{i=1}^{n}e^{-x_{i}}
[/mm]
Nun würde ich die Funktion logarithmieren
[mm] ln(ne^{n\theta}\produkt_{i=1}^{n}e^{-x_{i}})
[/mm]
[mm] =ln(n)+n\theta-\summe_{i=1}^{n}{x_{i}}
[/mm]
Nullsetzen liefert dann
(*2) [mm] ln(n)+n\theta=\summe_{i=1}^{n}x_{i}
[/mm]
An dieser Stelle komme ich dann leider nicht mehr weiter. Könnte man hier argumentieren, dass die (Logarithmus-)Funktion monoton wachsend ist und es daher kein Maximum gibt?
Meine Fragen daher:
1.) Stimmt mein bisheriger Ansatz?
2.) Wenn ja, wie muss ich nun weiter verfahren, um den gesuchten
Schätzer zu erhalten? Wäre es sinnvoll, hier nach [mm] \thet [/mm] aufzulösen?
Über hilfreiche Ideen würde ich mich sehr freuen. Liebe Grüße,
Marcel
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 18:39 Mo 02.02.2009 | | Autor: | luis52 |
Moin,
da schau her.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 19:47 Mo 02.02.2009 | | Autor: | Marcel08 |
Hallo luis52  ,
vielen Dank für deine Verlinkung. Ich habe mir sie angesehen, allerdings auch dort Verständnisprobleme. Könntest du denn eventuell nochmal einen Blick auf meinen Lösungsansatz werden? Wäre es möglich, das Logarithmieren auch nach der Ableitung durchzuführen?
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 21:16 Mo 02.02.2009 | | Autor: | luis52 |
Logarithmieren (und Differenzieren) hilft hier nicht weiter: Die Funktion hat ein Randoptimum.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 10:37 Di 03.02.2009 | | Autor: | Marcel08 |
Okay, vielen Dank nochmal. Ich denke, dass ich es soweit hinbekommen habe. Wie genau komme ich denn aber nun zu der Verteilungsfunktion von [mm] T_{n}? [/mm] Könntest du mir einen kleinen Denkanstoß geben?
Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 10:57 Di 03.02.2009 | | Autor: | luis52 |
> Okay, vielen Dank nochmal. Ich denke, dass ich es soweit
> hinbekommen habe. Wie genau komme ich denn aber nun zu der
> Verteilungsfunktion von [mm]T_{n}?[/mm] Könntest du mir einen
> kleinen Denkanstoß geben?
>
Gerne, wenn dum mir verraetst, was du fuer [mm] $T_n$ [/mm] erhalten hast.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 12:04 Di 03.02.2009 | | Autor: | Marcel08 |
Also mein Lösungsvorschlag für [mm] T_{n} [/mm] wäre
[mm] T_{n}(X_{1},...X_{n})=min(x_{1},...,x_{n})
[/mm]
Dein vorheriger Hinweis hat mich darauf gebracht, dass die Funktion kein Maximum, bzw. nur ein Randmaximum hat, da das Intervall rechts begrenzt ist.
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 14:44 Di 03.02.2009 | | Autor: | luis52 |
> Also mein Lösungsvorschlag für [mm]T_{n}[/mm] wäre
>
>
> [mm]T_{n}(X_{1},...X_{n})=min(x_{1},...,x_{n})[/mm]
Prima ![[ok]](/images/smileys/ok.gif "[ok]")
>
>
>
> Dein vorheriger Hinweis hat mich darauf gebracht, dass die
> Funktion kein Maximum, bzw. nur ein Randmaximum hat, da das
> Intervall rechts begrenzt ist.
Da schau her.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 16:48 Di 03.02.2009 | | Autor: | Marcel08 |
Nach deinem Hinweis würde ich wie folgt vorgehen
[mm] P(X_{i}\ge x)=e^{-(x-\theta)}=\produkt_{i=1}^{n}(1-F_{i}(T))
[/mm]
gemäß
[mm] F_{\theta}(x)=\begin{cases} 1-e^{-(x-\theta)}, & \mbox{falls } x\ge\theta \mbox{ } \\ 0 & \mbox{ } sonst. \mbox{ } \end{cases}
[/mm]
erhalte ich dann als Verteilungsfunktion
[mm] F(T)=1-\produkt_{i=1}^{n}(1-F_{i}(T))
[/mm]
Dabei bin ich mir jedoch sehr unsicher. Würde das so stimmen oder ist das Unsinn?
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 17:08 Di 03.02.2009 | | Autor: | luis52 |
> Dabei bin ich mir jedoch sehr unsicher. Würde das so
> stimmen oder ist das Unsinn?
>
Leider komme ich mit deiner Notation nicht klar. In jenem Link wird
gezeigt
[mm] $P(T_n\ge t)=P(X_\text{min}\ge t)=\exp[-\lambda n(t-\theta)]$ [/mm] fuer [mm] $t\ge\theta$. [/mm] Es folgt fuer die Verteilungsfunktion: [mm] $F(t)=P(T_n\le t)=1-\exp[-\lambda n(t-\theta)]$ [/mm] fuer [mm] $t\ge\theta$ [/mm] und $F(t)=0$ sonst.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 17:29 Di 03.02.2009 | | Autor: | Marcel08 |
Vielen Dank soweit. Gibt es denn eine (einfache) Erklärung dafür, dass sich die Verteilungsfunktion aus der Aufgabenstellung sowie jene von [mm] T_{n} [/mm] sehr ähnlich sind?
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 17:50 Di 03.02.2009 | | Autor: | luis52 |
> Gibt es denn eine (einfache) Erklärung
> dafür, dass sich die Verteilungsfunktion aus der
> Aufgabenstellung sowie jene von [mm]T_{n}[/mm] sehr ähnlich sind?
Es gilt:
Ist [mm] $X_1,\dots,X_n$ [/mm] eine Stichprobe aus einer Verteilung mit Verteilungsfunktion F, so ist die Verteilungsfunktion G von [mm] $T_n=\min\{X_1,\dots,X_n\}$ [/mm] gegeben durch [mm] $G(t)=1-(1-F(x))^n$.
[/mm]
Erklaert dir das die Aehnlichkeit hinreichend?
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 18:40 Di 03.02.2009 | | Autor: | Marcel08 |
Hallo luis52,
vielen Dank soweit. Nun würde ich gern den Bias von [mm] T_{n} [/mm] bestimmen. Der berechnet sich ja wie folgt
[mm] Bias_{\theta}(T)=E_{\theta}(T)-\theta
[/mm]
Zur Berechnung des benötigten Erwartungswertes würde ich dann das folgende Integral aufstellen
[mm] E_{\theta}(T)=\integral_{\theta}^{x}{x*ne^{-n(x-\theta)} dx}
[/mm]
und ferner zur Berechnung des Bias´ [mm] \theta [/mm] subtrahieren
[mm] E_{\theta}(T)=\integral_{\theta}^{x}{x*ne^{-n(x-\theta)} dx}-\theta
[/mm]
Im Zuge der partiellen Integration erhalte ich dann
[mm] \bruch{1}{n}e^{-nx}(\theta-x)-\bruch{1}{n^{2}}(e^{-nx}-e^{-n\theta})-\theta
[/mm]
Speziell für [mm] \theta=x [/mm] ergibt sich
[mm] Bias_{\theta}(T)=-\theta
[/mm]
Stimmt meine Rechnung, bzw. mein Ansatz?
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 21:08 Di 03.02.2009 | | Autor: | luis52 |
>
> Stimmt meine Rechnung, bzw. mein Ansatz?
>
Leider nein. Habe mich bei der Verteilungsfunktion geirrt. Sie lautet $ [mm] F(t)=P(T_n\le t)=1-\exp[-n(t-\theta)] [/mm] $ fuer $ [mm] t\ge\theta [/mm] $ und $ F(t)=0 $ sonst. Fuer die Dichte folgt $f(t)= [mm] F'(t)=n\exp[-n(t-\theta)] [/mm] $ fuer $ [mm] t\ge\theta [/mm] $ und $ f(t)=0 $ sonst. Mathematica liefert mir:
[mm] $\operatorname{E}[T]=n\int_\theta^\infty [/mm] t [mm] \exp[-n(t-\theta)]\,dt=\theta+\frac{1}{n}$.
[/mm]
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 09:42 Mi 04.02.2009 | | Autor: | Marcel08 |
Hallo luis52,
das macht nichts, vielen Dank jedenfalls. Zur Berechnung des Bias subtrahiere ich dann noch [mm] \theta [/mm] und erhalte
[mm] Bias_{\theta}=\bruch{1}{n}+\theta-\theta=\bruch{1}{n}
[/mm]
Jetzt interessiere ich mich noch für den "Mittleren Quadratischen Fehler" (MSE), der sich ja wie folgt berechnen lässt
[mm] MSE=E([T-\theta]^{2}), [/mm] bzw.
[mm] MSE=Var(T)+Bias(T)^{2}.
[/mm]
Demnach müsste ich also, zur Berechnung der Varianz, das folgende Integral ansetzen
[mm] \integral_{}^{}{(x-(\theta+\bruch{1}{n}))^{2}*ne^{-n(x-\theta)}dx}
[/mm]
Würde das denn stimmen? Ich frage vorsichtshalber mal nach, da das Integral doch etwas böse aussieht.
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 10:02 Mi 04.02.2009 | | Autor: | luis52 |
>
>
>
> Demnach müsste ich also, zur Berechnung der Varianz, das
> folgende Integral ansetzen
>
>
> [mm]\integral_{}^{}{(x-(\theta+\bruch{1}{n}))^{2}*ne^{-n(x-\theta)}dx}[/mm]
>
>
>
> Würde das denn stimmen? Ich frage vorsichtshalber mal nach,
> da das Integral doch etwas böse aussieht.
>
Du kannst natuerlich von der alten Bauernregel [mm] $\operatorname{Var}[T]=\operatorname{E}[T^2]-\operatorname{E}^2[T]$ [/mm] Gebrauch machen, was i.a. etwas einfacher ist. Uebrigens: Mathematica berechnet das Integal mit [mm] $1/n^2$. [/mm] Nur zur Orientierung.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 19:16 Mi 04.02.2009 | | Autor: | Marcel08 |
Hallo luis52,
noch einmal eine letzte Frage bezüglich des Integrals
[mm] \integral_{}^{}{(x-(\theta+\bruch{1}{n}))^{2}*ne^{-n(x-\theta)}dx}
[/mm]
Handelt es sich hier wirklich um ein unbestimmtes Integral oder fehlen hier noch entsprechende Grenzen? Ohne Grenzen erhalte ich einen langen Ausdruck, der sich wohl nicht auf
[mm] \bruch{1}{n^{2}} [/mm]
zusammen fassen lässt. Nochmals vielen Dank.
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 22:14 Mi 04.02.2009 | | Autor: | luis52 |
Die Varianz ist
[mm] $\int_{-\infty}^{+\infty}(x-\operatorname{E}[X])^2f(x)\,dx= \integral_{\theta}^{\infty}{(x-(\theta+\bruch{1}{n}))^{2}\cdot{}ne^{-n(x-\theta)}dx} [/mm] $.
vg Luis
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 08:41 Do 05.02.2009 | | Autor: | Marcel08 |
Okay super, dann klappt es. Danke schön.
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 10:15 Mi 04.02.2009 | | Autor: | Marcel08 |
Um abschließend die asymptotische Erwartungstreue für [mm] \tau(\theta)=\theta [/mm] zu zeigen, führe ich noch die folgende Grenzwertbetrachtung durch
[mm] \limes_{n\rightarrow\infty}E_{\theta}(T)=\theta
[/mm]
Speziell für unseren Fall hätte man dann
[mm] \limes_{n\rightarrow\infty}\theta+\bruch{1}{n}=\theta
[/mm]
Demnach wäre also die Folge der Schätzer [mm] T_{1},T_{2},... [/mm] asymptotisch erwartungstreu für [mm] \tau(\theta)=\theta.
[/mm]
Das müsste doch dann auch stimmen, oder? Ich bedanke mich schon einmal recht herzlich für deine schönen Hilfen.
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 10:36 Mi 04.02.2009 | | Autor: | luis52 |
> Das müsste doch dann auch stimmen, oder?
> Ich bedanke mich
> schon einmal recht herzlich für deine schönen Hilfen.
>
Gerne.
vg Luis
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 10:19 So 15.02.2009 | | Autor: | Marcel08 |
Guten Morgen Matheraum- Community,
unabhängig von anderen Lösungen hier im Forum würde ich mich bezüglich dieser Aufgabe noch einmal über einen Kommentar freuen, der sich ganz speziell an meinen eigenen Lösungsansatz richtet.
Meine Fragen dazu:
1.) Stimmt die Berechnung soweit?
2.) Kann man denn nicht bereits bei (*1) und/oder an (*2) sehen, dass das Maximum am Rande des Intervalls sein muss, da die Funktion ja hier bereits sichtbar monoton wachsend ist? Oder anders gefragt: Ist mein Lösungsweg hier sinnvoll?
3.) Wenn nicht, was genau ist falsch oder was fehlt?
Über eine baldige Antwort würde ich mich sehr freuen.
Gruß, Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 10:46 Mo 16.02.2009 | | Autor: | luis52 |
> Guten Morgen Matheraum- Community,
>
>
> unabhängig von anderen Lösungen hier im Forum würde ich
> mich bezüglich dieser Aufgabe noch einmal über einen
> Kommentar freuen, der sich ganz speziell an meinen eigenen
> Lösungsansatz richtet.
>
>
>
> Meine Fragen dazu:
>
>
> 1.) Stimmt die Berechnung soweit?
>
Nein, weil du die Likelihoodfunktion falsch aufgestellt hast.
Ich wiederhole: Die Likelihoodfunktion besitzt ein Randmaximum,
so dass du hier mit Differenzieren nicht zum Ziel gelangst.
vg Luis
|
|
|
|
