Mit Maximum Likelihood (ML) Schätzung
Probit und Logit-Funktionen sind sowohl nicht-lineare in Parameter, so gewöhnlichen kleinsten Quadrate (OLS) kann nicht verwendet werden, um die Betas zu schätzen. Stattdessen müssen Sie bekannt, eine Technik verwenden, als Maximum-Likelihood (ML) Schätzung.
Das Ziel der Maximum-Likelihood (ML) Schätzung ist, Werte für die geschätzten Parameter (Betas) zu wählen, die die Wahrscheinlichkeit des Beobachtens der maximieren würde Y Werte in der Probe mit dem gegebenen X Werte. Diese Wahrscheinlichkeit wird zusammengefasst in dem, was der angerufene Likelihood-Funktion.
Konstruieren der Likelihood-Funktion
Die Likelihood-Funktion, die die berechnet gemeinsame Wahrscheinlichkeit alle Werte der abhängigen Variablen des Beobachtens annimmt, dass jedes Beobachtungs zufällig gezogen wird und unabhängig von der Bevölkerung. Wenn die Werte der abhängigen Variablen zufällig und unabhängig sind, dann können Sie die gemeinsame Wahrscheinlichkeit der Beobachtung aller Werte finden gleichzeitig durch die einzelnen Dichtefunktionen multipliziert wird.
Unter der Annahme, daß jede beobachtete Wert der abhängigen Variablen ist zufällig und unabhängig sind, ist die Likelihood-Funktion
wobei pi ist das Produkt (Multiplikation) Operator. Sie können diese Gleichung umschreiben als
woher P repräsentiert die Wahrscheinlichkeit, dass Y = 1, (1 - P) Ist die Wahrscheinlichkeit, dass Y = 0 und F dass die Standard-Normal oder logistische CDF- in den Probit und Logit-Modelle darstellen können, das sind die angenommenen Wahrscheinlichkeitsverteilungen.
Die Log-Transformation und ML-Schätzungen
Um die Wahrscheinlichkeitsfunktion besser handhabbar zu machen, wird die Optimierung mit Hilfe eines durchgeführt natürliche Log-Transformation der Wahrscheinlichkeitsfunktion. Sie können es mathematisch zu rechtfertigen, da die Protokollumwandlungen eine Art von monotonen Transformation sind. In anderen Worten, für jede Funktion f(X) Und Transformation log
Daher ist die Optimierungslösung für die Wahrscheinlichkeitsfunktion die gleiche wie die Log-Likelihood-Funktion.
Von der Likelihood-Funktion L, eine natürliche Log-Transformation verwenden, können Sie die geschätzte Log-Likelihood-Funktion schreiben, wie
woher F bezeichnet entweder die Standard-Normal CDF (für das Probit-Modell) oder die logistische CDF (für das Logit-Modell). Das Finden der optimalen Werte für die
Bedingungen erfordert die Lösung der folgenden Bedingungen erster Ordnung
ML Schätzung ist rechnerisch intensiv, weil die Bedingungen erster Ordnung für die Maximierung keine einfache algebraische Darstellung haben. Econometric Software stützt sich auf numerische Optimierung von für die Werte der Suche
dass der größtmögliche Wert der Log-Likelihood-Funktion zu erreichen, was bedeutet, dass ein Prozess der Iteration (eine wiederholte Folge von schrittweise Verbesserung der Lösungen) erforderlich, um die Koeffizienten zu schätzen.
Die ökonometrischen Software sucht (verwendet einen iterativen Prozess), bis sie die Werte für alle findet
dass maximieren gleichzeitig die Wahrscheinlichkeit der beobachteten Werte der abhängigen Variablen zu erhalten.
