Schätzung von Parametern psychometrischer Funktionen unter

Preview:

Citation preview

Schätzung von Parameternpsychometrischer

Funktionen unter Verwendungder Maximum-Likelihood-

Methode

Projektarbeit durchgeführt im Rahmen des

Nachdiplomkurses in angewandter Statistik an der

ETH-Zürich 1993.

1. Zusammenfassung............................................................................................... 22. Einleitung und Aufgabenstellung ....................................................................... 33. Modell einer psychometrischen Funktion........................................................... 44. Maximum-Likelihood Schätzung von µ und σ................................................... 65. Auswahl eines neuen Reizes am "Sweet-Punkt" ................................................ 96. Untersuchung der Effizienz ................................................................................ 177. Untersuchung der Stabilität................................................................................. 188. Diskussion und Ausblick .................................................................................... 209. Anhang: zum Simulationsprogramm in C .......................................................... 21

Autor: Christoph SchierzInstitut für Hygiene und ArbeitsphysiologieETH ZürichClausiusstrasse 218092 Zürich

Betreuer: Helmut GlemserFachgruppe Stochastik, MathematikETH ZürichRämistrasse 1018092 Zürich

Zürich, den 28. Januar 1994

– 2 –

1. Zusammenfassung

Titel: Schätzung von Parametern psychometrischer Funktionen unter Verwen-dung der Maximum-Likelihood-Methode

Stichworte: Psychophysik, 2AFC (two-alternative forced-choice tasks), Schwellenbe-stimmung, 2-dimensionale Likelihood-Funktion, asymptotische Varianz undKorrelation, Fishersche Information, Monte-Carlo-Simulation.

Autor: Christoph SchierzInstitut für Hygiene und Arbeitsphysiologie, ETH Zürich, Clausiusstrasse 21,8092 ZürichTel. 01/632 39 80; Fax 01/262 41 78

Betreuer: Helmut GlemserFachgruppe Stochastik, Mathematik, ETH Zürich, Rämistr. 101, 8092 Zürich

Ziel, Hintergrund: Untersuchung einer computergestützten adaptiven Prozedur zur Ermittlungvon Lage und Breite psychometrischer Funktionen mit wählbarer Genauig-keit. Es werden Computersimulationen sowie Effizienz- und Stabilitätsüber-legungen durchgeführt.

Literatur: Watson A.B., Pelli D.G.: QUEST: A Bayesian adaptive psychometricmethod. Perception & Psychophysics V33 N2 (1983) P113-120.

Hald A: Statistical Theory with Engineering Applications. 5. Aufl.; WileyLondon, New-York (1962) P204-208.

Zusammenfassung: In der Psychophysik besteht häufig der Bedarf die psychometrische Funk-tion zu ermitteln. Sie beschreibt die Relation zwischen einer physikalischenGrösse (z.B. einer Lichtintensität eines Punkts) und der Wahrscheinlichkeitdes Auftretens einer bestimmten dichotomen Antwort einer Versuchsperson(z.B. "habe Lichtpunkt gesehen/nicht gesehen"). In dieser Arbeit wird einer-seits gezeigt, dass zwei Parameter dieser Funktion – die Lage und die Breite– mit Hilfe der Maximum-Likelihood-Methode geschätzt werden können.Andererseits kann eine adaptive Prozedur durchgeführt werden, welche ausden geschätzten Parametern einen neuen Wert der physikalischen Grösse er-mittelt (=Sweet-Punkt), an dem die nächste Beobachtung stattfinden soll. DieAntwort zu dieser Beobachtung trägt zu einer optimalen Reduktion der Vari-anzen bei. Die Varianzen werden mit einer asymptotischen Näherung erfasstund dienen nach Erreichen einer Grenze als Abbruchkriterium für die adapti-ve Prozedur. Es wird ein im Rahmen dieser Arbeit erstelltes Simulati-onsprogramm (="NDK") benutzt, um das Verhalten der adaptiven Prozedurzu untersuchen. Es zeigt sich, dass die laufend ermittelten Schätzer eine ArtMarkov-Kette bilden, welche gegen die Sollwerte konvergiert. Es werdenHinweise gegeben, auf welchen Gebieten weitere Forschung betrieben wer-den könnte.

– 3 –

2. Einleitung und Aufgabenstellung

Im Volksmund ist ein Schwellenwert eine Grösse, bei deren Überschreitung "etwas passiert", beideren Unterschreitung jedoch "nichts" bzw. "etwas anderes". In der Realität zeigt sich jedoch,dass solche Übergänge jeweils fliessend stattfinden: Je stärker ein Schwellenwert überschrittenwird, umso häufiger, je stärker er unterschritten wird, umso seltener "passiert etwas" bzw. umsohäufiger "passiert etwas anderes".

Einen solchen Sachverhalt findet man auch in der Psychometrie, das heisst bei der Messung psy-chologischer Vorgänge. Wird beispielsweise im dunklen Raum untersucht, wie hell ein Licht-punkt definierter Grösse und definierter Präsentationsdauer sein muss, damit er gerade noch er-kannt wird, stellt sich heraus, dass die Antworten der Versuchsperson bei bestimmten Helligkei-ten nicht immer gleich sind. So kann es etwa sein, dass in 75% der Präsentationen der Punkt er-kannt wird, in 25% der Fälle jedoch nicht. Die Helligkeit bei welcher dieses Verhältnis der jaund nein-Antworten 50% zu 50% beträgt, wird üblicherweise als Lichtdetektionsschwelle be-zeichnet. Ein anderes Beispiel ist die Untersuchung von zwei präsentierten Linien: eine Refe-renzlinie und eine Linie variabler Länge. Die Versuchsperson muss jedesmal entscheiden, ob dievariable Linie länger oder kürzer erscheint (Fachausdruck: two-alternative). Eine solche Ent-scheidung wird sogar dann verlangt, wenn die Linien subjektiv gleich lang erscheinen (Fachaus-druck: forced choice). Es zeigt sich, dass die subjektive Längenwahrnehmung nicht immer mitder objektiven Länge übereinstimmt; zum Beispiel dann, wenn die beiden Linien senkrecht zu-einander stehen.

Aufgabe der Psychometrie bei solchen Versuchen ist, die jeweils zugrundeliegende sogenanntepsychometrische Funktion bzw. einzelne ihrer Parameter zu ermitteln. Die psychometrischeFunktion beschreibt die Relation zwischen der physikalischen Grösse des Reizes (z.B. Lichtin-tensität oder Länge) und der Wahrscheinlichkeit des Auftretens einer bestimmten Antwort (z.B."Punkt gesehen" oder "Linie ist länger"). Den Aussagen zur psychometrischen Funktion liegenModelle zugrunde, welche eine Idealisierung der Wirklichkeit darstellen. Aufgrund von Versu-chen können die in einem "guten" Modell vorhandenen Parameter wie z.B. die Lage der psycho-metrischen Funktion (= Schwelle) oder deren Breite geschätzt werden.

Ziel dieser Arbeit ist, zu untersuchen wie gut solche Schätzungen mit der Maximum-Likelihood-Methode möglich sind und ob die während des Versuchs laufend bestimmten Schätzungen zurErmittlung eines neuen abzufragenden Reizes verwendet werden können (= adaptive Prozedur).In der Literatur zur Psychophysik ist ein solches Verfahren unter dem Namen QUEST zu fin-den1,2. Für QUEST wird die logarithmierte physikalische Grösse verwendet und darauf der La-geparameter der psychometrischen Funktion bestimmt. Das entspricht der Schätzung der Breiteder psychometrischen Funktion auf der unlogarithmierten Skala. In dieser Arbeit wird die physi-kalische Grösse nicht logarithmiert, es sollen jedoch gleichzeitig zwei Parameter geschätzt wer-den: die Lage und die Breite.

1 WATSON A.B., PELLI D.G.: QUEST: A Bayesian adaptive psychometric method. Perception & PsychophysicsV33 N2 (1983) P113-120.

2 LAMING D., MARSH D.: Some performance tests of QUEST on measurements of vibrotactile thresholds. Per-ception & Psychophysics V44 N2 (1988) P99-107.

– 4 –

In Kap. 3 wird ein Modell der psychometrischen Funktion mathematisch festgelegt und dessenVoraussetzungen angedeutet. In Kap. 4 wird die Maximum-Likelihood-Methode an diesem spe-ziellen Modell angewandt. Kap. 5 erläutert die Auswahl eines nächsten Reizes und Kap. 6 zeigt,wie die Effizienz der Schätzung von den gewählten Reizen abhängt. Kap. 7 untersucht die Stabi-lität dieser adaptiven Prozedur. In Kap. 8 folgt die Diskussion der Ergebnisse. In den Kapitelnwird jeweils zuerst die allgemeingültige mathematische Formulierung gegeben ("Theorie"), da-nach folgen Hinweise zur Softwareimplementierung ("Software-Realisierung"), welche Bezugnehmen auf das Programm NDK.C, welches im Anhang gezeigt wird. Wenn möglich folgen Er-gebnisse der mit NDK durchgeführten Computersimulationen ("Resultate der Simulation").

3. Modell einer psychometrischen Funktion

Theorie

Angenommen, eine Versuchsperson habe bereits n Beobachtungen durchgeführt. Jede Präsenta-tion i = 1...n fand bei der physikalischen Grösse xi statt (z.B. Lichtintensität, Linienlänge) unddie Grösse Ri = ri bezeichne die i-te Antwort der Versuchsperson. Sie sei so codiert, dass Ri = 1ist, wenn eine der beiden Antworten erfolgte (z.B. "Lichtpunkt gesehen" oder "Strecke ist längerals Referenz"), und Ri = 0 für die andere Antwort. Bei geeigneter Wahl dieser Codierung zeigtsich, dass die Häufigkeit, mit welcher die Antwort Ri = 1 erfolgt, für grosse xi grösser wird. Diepsychometrische Funktion lässt sich daher wie eine kumulative Verteilungsfunktion F⟨x; µ,σ⟩darstellen, wobei µ die Lage und σ die Breite von F parametrisiert. Mit der Abkürzung

σµ−= i

i

xz (3.1)

ergibt sich beispielsweise eine psychometrische Funktion F⟨z⟩ wie in Fig. 3-1 dargestellt. Eslässt sich teilweise mit Signaldetektionstheorie begründen, dass in gewissen Fällen F⟨z⟩ einerNormalverteilung folgt. So könnte man im Falle des Streckenvergleichs annehmen, dass die Sig-nale zweier neuronaler Kanäle miteinander verglichen werden, wobei jedem Kanal ein normal-verteiltes Rauschen überlagert ist. Im Fall der Lichtdetektion ist eine solche Betrachtungsweisenicht angebracht. Einerseits zeigt die Anzahl ins Auge eintretender Photonen bereits das statisti-sche Verhalten seltener Ereignisse ( => Poissonverteilung), andererseits arbeiten die Neuronenan der Limite ihres Arbeitsbereichs, wodurch sie nichtlineares Verhalten aufweisen.

Z

ausg

ezo

gen

:V

erte

ilun

gsf

un

ktio

nF

(Z)

ges

tric

hel

t:D

ich

tefu

nkt

ion

f(Z

)

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

-3.0 -2.5 -2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0 2.5 3.0

+1σ

+2σ

µ−1σ

−2σ

R = 1R = 0

Fig. 3-1: Beispiel einer psychometrischen Funktion (ausgezogen) und ihrer ersten Ableitung (gestrichelt).

– 5 –

Es resultieren schiefe psychometrische Funktionen. Werden nur zwei Parameter der psychomet-rischen Funktion untersucht, muss daher vor der Durchführung von Versuchen, erst deren Formabgeklärt werden (Literatur, Vorversuche). Voraussetzung für die Anwendung der Maximum-Li-kelihood-Methode beim vorliegenden Modell ist weiter, dass die Zufallsvariablen Ri unabhängigsind.

Die Unabhängigkeit wird vorausgesetzt, damit die Maximum-Likelihood-Methode angewendetwerden kann. Es sind in den gemessenen Daten zweierlei Abhängigkeiten möglich: Einerseitsdadurch, dass das Antwortverhalten der Versuchsperson durch die vergangenen Antworten be-einflusst wird, andererseits durch das in Kap. 5 beschriebene adaptive Verfahren, welches einenneuen Messpunkt aufgrund der gerade aktuellen Parameterschätzung bestimmt. Die erste Abhän-gigkeit kann dadurch umgangen werden, dass mehrere Versuche (z.B. mit unterschiedlichen Re-ferenzlinien) parallel, aber zufällig ineinander verschränkt, durchgeführt werden. Eine Abhän-gigkeit durch das adaptive Verfahren, würde sich in Computersimulationen dadurch zeigen, dassgeschätzte Parameter $µn und $σn nicht die simulierten Werte µ und σ anstreben, sondern andere"Attraktoren" (z.B. ∞).

Das Modell berücksichtigt keine während des Versuchablaufs stattfindende Veränderungen derpsychometrischen Funktion. Damit das stationäre Modell tatsächlich die Wirklichkeit "model-liert", muss daher dafür gesorgt werden, dass die Versuchsperson ungestört bleibt und nicht er-müdet. Dies bedingt eine kurze Versuchsdauer, welche durch die Verwendung einer möglichsteffizienten Schätzung der gesuchten Parameter ermöglicht werden soll. Im asymptotischenGrenzfall ist dies die Maximum-Likelihood-Schätzung (Kap. 4). Durch Monte-Carlo-Simulationsoll untersucht werden, wie sich die Effizienz bei endlicher Versuchsdauer verhält (Kap. 5 und6).

In Kürze: Gegeben sind ein Modell mit unbekannten Parametern µ und σ, sowie n Werte ri (i =1...n) der Zufallsvariablen Ri. Die physikalische Grösse x ist keine Zufallsvariable, sondern wirdvom Experimentator (bzw. von der Versuchsmethode) mit den Werten xi gewählt. Das Modellbesagt, dass in der mit xi erhaltenen Beobachtung ri, die Wahrscheinlichkeit Pxi⟨Ri⟩ für Ri = 1,F⟨zi⟩ beträgt, für Ri = 0 jedoch 1–F⟨zi⟩, mit zi gemäss (3.1). Oder zusammengefasst:

( ) ii

i

r

i

r

iiix zFzFrRP−−⋅== 1

1 (3.2)

Ri folgt daher einer jeweils von xi vorgegebenen Bernoulliverteilung. Sein Erwartungswert (Ab-

kürzung E) beträgt:i

zFi

RE = (3.3)

Gesucht sind nach n Versuchen Schätzwerte $µn und $σn für die unbekannten Modellparameter µund σ, sowie deren Varianz var⟨ $µn⟩ und var⟨ $σn⟩ bzw. Standardabweichung sd⟨ $µn⟩ und sd⟨ $σn⟩.

Software-Realisierung

Da die Software-Routinen in einer zukünftigen Version aktiv einen Versuchsablauf steuern sol-len und das Programm daher auch auf die "Computerperipherie" zugreifen muss, wurde auf dieVerwendung eines Statistikpakets wie beispielsweise "S-Plus" verzichtet und ein C-Programmerstellt (Turbo C++ Version 1.0, Borland). Der Verzicht auf ein Statistikpaket macht es erforder-lich, Routinen zur Berechnung der kumulativen Standardnormalverteilung und zur Erzeugung

– 6 –

von uniform verteilten Zufallszahlen zu implementieren (Quelle: Press et al.3, im folgenden Re-cipes genannt). Die Funktion "stnd_norm_dist" (Recipes: "erfcc", S. 221) berechnet die kumula-tive Standardnormalverteilung F⟨z⟩ = Φ⟨z⟩ mit einem Fehler überall < 1.2 × 10-7. Die Recipes-Funktion "ran1" (Recipes: S. 280) erzeugt uniform verteilte Zufallszahlen, deren "stochastischeQualität" besser ist, als diejenige der vorhandenen C-Bibliotheksfunktionen. Für die Simulationwird also eine normalverteilte psychometrische Funktion verwendet. In zukünftigen Programm-Versionen sind aber auch Implementationen anderer Funktionen denkbar.

Die Modellsimulation erfolgt so, dass eine uniform verteilte Zufallszahl im Bereich [0..1[ ge-wählt und für vorgegebene xi, µ und σ mit dem Ergebnis der Funktion Φ⟨(xi – µ)/σ⟩ verglichenwird. Ist die Zufallszahl grösser, resultiert Ri = 0, andernfalls Ri = 1.

4. Maximum-Likelihood Schätzung von µ und σ Theorie

Weil die Antworten gemäss Voraussetzung unabhängig sind, kann aus (3.2) die Wahrscheinlich-keit £ des Auftretens eines ganzen Datensatzes ri (i = 1..n) berechnet werden:

( ) σµ=−⋅===σµ −

==∏∏ ,£:zF1zFrRP,;xx;rr£ ii

i

r1

i

n

1i

r

i

n

1iiixn1n1 KK (4.1)

Die Abhängigkeit von µ und σ steckt in der Abkürzung zi gemäss (3.1). Die zwei Parameter µund σ sind unbekannt. Nach dem Maximum-Likelihood-Prinzip sind ihre plausibelsten Wertediejenigen, für welche £ den grössten Wert hat. £ wird also als Funktion von µ und σ aufgefasstund heisst Likelihood-Funktion. Dort wo die Likelihood-Funktion ihr Maximum hat, sind dieMaximum-Likelihood-Schätzer nµ̂ und $σn. Anstatt das Maximum der Likelihood-Funktion zu

suchen, ist es oft einfacher, dasjenige ihres Logarithmus ( = Log-Liklihood-Funktion) zu ermit-teln. Die Log-Liklihood-Funktion L lautet:

L ii

nµ σ µ σ µ σ, log £ , ,= =

=∑l

1(4.2)

mit ( ) iiiii zF1logr1zFlogr, −⋅−+⋅=σµl (4.3)

Es ist zu erkennen, dass sich die Log-Likelihood-Funktion mit jeder Beobachtung um die Funkti-on l i µ σ, verändert. Da l i µ σ, < 0 gilt für alle µ und σ, wird L⟨µ,σ⟩ an jeder Stelle negati-

ver. Beim Maximum von L⟨µ,σ⟩ sind die partiellen Ableitungen nach µ und nach σ gleich 0. Esgilt:

3 PRESS W.H., TEUKOLSKY S.A., VETTERLING W.T., FLANNERY B.P.: Numerical Recipes in C. 2nd Ed. Cam-bridge Univ. Press 1992.

Im Zusammenhang mit Statistik enthält das Buch weitere kommentierte Routinen in C u.a. zu den Themen"Random Numbers", "t-Test", "F-Test", "χ2-Test", "Kolmogorov-Smirnov Test", "Kontingenztafelanalysezweier Verteilungen", "lineare Korrelation", "Rangkorrelation", "lineare Regression", "nichtlineare Regressi-on", "Bootstrap-Methode" und "robuste Regression". Es existieren analoge Bücher für die Programmierspra-chen FORTRAN, PASCAL und BASIC. Für die kommerzielle Verwendung der Hauptfunktionen ist eineLizenz von "Numerical Recipes Software, P.O. Box 243, Cambridge, MA 02238 (Fax 617 863-1739) erfor-derlich.

– 7 –

∂ µ σ∂µ ψ µ σ

µ µµ µ µ

L

nn

ii

n,,

$, $

===

= =∑1

0 (4.4a)

∂ µ σ∂σ ψ µ σ

σ σσ σ σ

L

nn

ii

n,,

$, $

==

== =∑

10 (4.4b)

wobei

( ) ( )

−−−

σ−=

∂µ∂

−−+

∂µ∂=σµψ ==

µi

ii

i

ii

i

i

zzdz

zdF

ii

i

zzdz

zdF

i,i zF1

zfr1

zF

zfr

1z

zF1r1

z

zFr, ii (4.5a)

( ) ( )

−⋅

−−⋅

σ−=

∂σ∂

−−+

∂σ∂=σµψ ==

σi

iii

i

iii

i

i

zzdz

zdF

ii

i

zzdz

zdF

i,i zF1

zfzr1

zF

zfzr

1z

zF1r1

z

zFr, ii (4.5b)

Die Funktionen σµψ µ ,,i und σµψ σ ,,i heissen Likelihood-Scores. Wird die psychometrische

Funktion als kumulative Verteilungsfunktion betrachtet, ist deren Ableitung f z dF z dz:= dieDichtefunktion der Verteilung. Sie ist in Fig. 3-1 als gestrichelte Kurve eingezeichnet. Es ist zuerkennen, dass gemäss (4.5) sich bei Beobachtungen mit grossen zi, das heisst, wenn xi im Ver-gleich zu σ weit von µ entfernt ist, kleine Likelihood-Scores ergeben. Solche Beobachtungen tra-gen daher zur Bestimmung von $µn und $σn kaum bei. Ist zi nahe bei 0, bzw. xi nahe bei µ, wirdwegen des Faktors zi in (4.5b) auch ψ µ σσi, , nahe bei 0 sein. Die Bestimmung von $σn mit sol-

chen physikalischen Reizen wird daher mit dem Ansatz (4.4b) sehr ungenau4. Im allgemeinensind die Gleichungen (4.4) nicht analytisch lösbar; es muss eine numerische Lösung gesuchtwerden. Eine numerische Alternative ist die direkte Suche nach dem Maximum von £ ,µ σ nach

(4.1) oder von L µ σ, nach (4.2).

Software-Realisierung

Die schnellste Lösung zur Ermittlung der Maximalstelle dürfte die Suche nach der Nullstelle desGleichungsystems (4.4) mit einem 2-dimensionalen Newton-Raphson-Verfahren sein (Recipes:S. 379-382). In der aktuellen Version des Programms wird jedoch das Minimum der negativenLog-Likelihood-Funktion mit der Prozedur "powell" gesucht (Rezipes: S. 415-418). Die Proze-dur sucht mit einem Algorithmus, ausgehend von Startwerten µο und σο und einer Startrichtung,eine neue Richtung in welche sie eine Parabel in die Funktion einpassen kann. Der Ort des Para-belminimums ersetzt in der Folge die ursprünglichen Startwerte. Danach wiederholt sich dieserProzess, bis eine vorgegebene minimale Änderung der Schätzwerte erreicht ist. Die Prozedur ar-beitet auch, wenn die Startwerte relativ ungenau sind. Erste Versuche unter Verwendung der Li-kelihood-Funktion £ ,µ σ ergaben Schwierigkeiten, da diese für die meisten Werte von µ und σnumerisch = 0 ist. Dadurch konnte die Prozedur "powell" das Extremum nicht finden. Die Ver-wendung der Log-Likelihood-Funktion L µ σ, ergibt gute Resultate, wenn auch deren Berech-

nung etwas länger dauert. Auch bei der Berechnung von L muss darauf geachtet werden, dassnicht der Logarithmus einer Zahl sehr nahe bei 0 berechnet wird. In diesem Fall wurde das ent-sprechende l i µ σ, auf LN_MINFLOAT gesetzt. LN_MINFLOAT ist der natürliche Logarithmus der

4 Da σ aber auch in (4.5a) vorkommt, könnte es aus der Varianz von $µn geschätzt werden.

– 8 –

kleinsten im Computer darstellbaren "float-Zahl" grösser 0. Der Startwert σο muss so gewähltwerden, dass $σn> 0 resultiert, da man nur an positiven Werten interessiert ist.

σ

µ0.50

0.751.00

1.251.50

1.752.00

σ

-0.75-0.50-0.250.000.250.500.75

µ

σ

µ

-500

-475

-450

-425

-400

-375

-350

-325

-300

-275

-250

-225

-200

Lo

g-L

ikel

iho

od

σ

µ

σ

µ0.50

0.751.00

1.251.50

1.752.00

σ

-0.75-0.50-0.250.000.250.500.75

µ

σ

µ

-425

-400

-375

-350

-325

-300

-275

-250

-225

-200

-175

-150

-125

Lo

g-L

ikel

iho

od

σ

µ

Fig. 4-1: Links: Simulation der Log-Likelihood-Funktion mit µ = 0.0; σ = 1.0; n = 500 und uniform verteiltenxi im Bereich $ $µ σi i− −±1 12 . Startwerte für die Suchprozedur "powell" waren µo = 1.0 und σo = 2.0.Rechts: Wie links, aber mit zs = ±1.575 (siehe dazu Kap. 5). Es ist zu erkennen, dass die Krümmungbeim Maximum in σ-Richtung hier stärker ist als links. Dadurch kann der Parameter σ genauer ge-schätzt werden. Die Funktion weist in σ-Richtung eine stärkere Krümmung auf, als in µ-Richtung.Das zeigt, dass in diesem Fall σ-Schätzungen genauer sind als µ-Schätzungen.

σ

µ0.50

0.751.00

1.251.50

1.752.00

σ

-0.75-0.50-0.250.000.250.500.75

µ

σ

µ

-350

-325

-300

-275

-250

-225

-200

-175

-150

-125

-100

-75

-50

Lo

g-L

ikel

iho

od

σ

µ

σ

µ0.50

0.751.00

1.251.50

1.752.00

σ

-0.75-0.50-0.250.000.250.500.75

µ

σ

µ

-550

-525

-500

-475

-450

-425

-400

-375

-350

-325

-300

-275

-250

Lo

g-L

ikel

iho

od

σ

µ

Fig. 4-2: Links: Log-Likelihood-Funktion für n = 150 und zs = ±0.83 (siehe dazu Kap. 5).Rechts: Log-Likelihood-Funktion für n = 500 und zs = ±0.83 (siehe dazu Kap. 5). Es ist deutlich dieZunahme der Krümmungen zu erkennen, welche mit grösserem n genauere Schätzungen von µ und σerlauben. Im Gegensatz zu Fig. 4-1 rechts sind hier die µ-Schätzungen genauer als die σ-Schät-zungen. Der Aspekt der Genauigkeit wird in Kap. 5 behandelt.

Resultate der Simulation

Beispiele von Log-Likelihood-Funktionen sind in Fig. 4-1 und 4-2 dargestellt. Fig. 4-1 zeigt, wiedie Form von der Verteilung der gewählten Reize abhängt; Fig. 4-2 zeigt Unterschiede infolgeanderer Beobachtungszahlen n.

– 9 –

5. Auswahl eines neuen Reizes am "Sweet-Punkt"

Theorie

Im folgenden sollen die Varianzen der in Kap. 4 erhaltenen Schätzer $µn und $σn ermittelt wer-den. Dazu seien zuerst die Fisherschen Informationen In der n Beobachtungen definiert:

∑∑=

µ

=µµ ∂µ

σµ∂ψ−=σµψ=σµ

n

1i

,in

1i

2

,i,n

,,,I EE (5.1a)

∑∑=

σ

=σσ ∂σ

σµ∂ψ−=σµψ=σµ

n

1i

,in

1i

2

,i,n

,,,I EE (5.1b)

Die In bestehen aus Summen von n Fisherschen Informationen Ii jeder einzelnen Beobachtung.Der Index i deutet darauf hin, dass diese Summanden vom physikalischen Parameter xi abhän-gen. Im vorliegenden Modell ergibt sich:

( )2

i

ii2

2

i

ii2

2

,i,i zF1

zfR1

1

zF

zfR

1,,I EEE

−⋅−

σ

σσµψ=σµ +=

µµ (5.2a)

( )2

i

iii2

2

i

iii2

2

,i,i zF1

zfzR1

1

zF

zfzR

1,,I EEE

−⋅

⋅−σ

⋅⋅

σσµψ=σµ +=

σσ (5.2b)

Dabei wurde die Tatsache benutzt, dass Ri2 = Ri; (1-Ri)

2 = (1-Ri) sowie Ri(1-Ri) = 0 ist. DerErwartungswert wird berechnet, indem Ri nach (3.3) durch seinen Erwartungswert F⟨zi⟩ ersetztwird. Für die Fisherschen Informationen der n Beobachtungen ergibt sich:

( )∑∑==

µµ −⋅σ=σµ=σµ

n

1i ii

2

i2

n

1i,i,n zF1zF

zf1,I,I (5.3a)

( )( )∑∑

==σσ −⋅

⋅σ

=σµ=σµn

1i ii

2

ii2

n

1i,i,n zF1zF

zfz1,I,I (5.3b)

Werden die Beobachtungen bei einem festen physikalischen Wert x1 durchgeführt, ist jeder Sum-mand in (5.3) gleich gross. Es kann gezeigt werden, dass noch ein zweiter Wert ′x1 existiert, fürwelchen die Summanden ebenso gross werden. Ist die Funktion f⟨z⟩ symmetrisch bezüglichz = 0, beträgt ′ = −x x1 1µ . Erfolgen nur an diesen zwei Orten Beobachtungen, ergibt sich aus(5.3) für die Fisherschen Informationen der n Beobachtungen mit ( ) σµ−=

11xz :

( ) σµ⋅=−⋅σ

=σµ µµ ,InzF1zF

zfn,I ,

2

2,n 1

11

1 (5.4a)

( )( ) σµ⋅=

−⋅⋅

σ=σµ σσ ,In

zF1zF

zfzn,I ,

2

12,n 1

11

1 (5.4b)

In Kap. 7 wird sich jedoch zeigen, dass aus Gründen der Stabilität nicht an nur einem Ort x1 ge-messen werden kann. Soll andererseits der zweite Ort ′x1 ebenfalls berücksichtigt werden, müssteµ bereits bekannt sein. Wird µ aus den vorliegenden Beobachtungen geschätzt, variiert ′x1 für je-de weitere Beobachtung, und es muss (5.3) zur Berechnung der Fisherschen Information ver-wendet werden; (5.4) kann nur als Näherung gelten. Die Verteilung der Schätzer $µn und $σnstrebt mit zunehmendem n gegen eine zweidimensionale Normalverteilung ( = asymptotische

– 10 –

Näherung) mit folgenden asymptotischen Varianzen und Standardabweichungen (Quelle z.B.:Hald A.5):

( ) nn

nn,n

2

nnn

n ˆvarˆsd;ˆ,ˆIˆ,ˆ1

1ˆvar µ=µ

σµ⋅σµρ−=µ

µ

(5.5a)

( ) nn

nn,n

2

nnn

n ˆvarˆsd;ˆ,ˆIˆ,ˆ1

1ˆvar σ=σ

σµ⋅σµρ−=σ

σ

(5.5b)

Dabei ist ρ µ σn , der asymptotische Korrelationskoeffizient, der sich wie folgt berechnen lässt:

∑∑

=σµ

σµψ⋅σµψ

σµψ⋅σµψ−=σµρ

n

1i

2

,i

n

1i

2

,i

n

1i,i,i

n

,,

,,,

EE

E(5.6)

Im vorliegenden Modell ergibt sich:

( )σµ⋅σµ

−⋅⋅

⋅σ

−=σµρσµ

=∑

,I,I

zF1zF

zfz

1,

,n,n

n

1i ii

2

ii

2n (5.7)

Z

Fis

her

-In

form

atio

nen

ein

erB

eob

ach

tun

g

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

-3.0 -2.5 -2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0 2.5 3.0

+1σ +2σµ−1σ−2σ

z s z s

Fig. 5-1: Fishersche Information I zi,µ (gestrichelt) und I zi,σ (ausgezogen) einer einzelnen Beobachtung i,wenn die psychometrische Funktion einer Normalverteilung folgt, mit σ = 1.

In (5.5) ist zu erkennen, dass die Varianzen kleiner werden, wenn ρ µ σn , = 0 gilt. Diese Bedin-

gung wird in Kap. 7 diskutiert. Im Moment sei angenommen, sie sei erfüllt. Aus (5.5) geht wei-ter hervor, dass die Varianzen klein werden, wenn die Fisherschen Informationen jeder einzelnenBeobachtung gross sind. Nach (5.3) ist die Fishersche Information von den verwendeten zi unddamit von der gewählten physikalischen Grösse x abhängig. Durch geeignete Wahl von x ist esdaher möglich, die Varianzen effizient kleiner werden zu lassen. Fig. 5-1 zeigt die FisherschenInformationen einer einzelnen Beobachtung I zi,µ (gestrichelt) und I zi,σ (ausgezogen) in Ab-

hängigkeit von ( ) σµ−= xz für eine psychometrische Funktion, die der Normalverteilung mit

σ = 1 folgt.

5 HALD A.: Statistical Theory with Engineering Applications. 5th Ed. New York; John Wiley & Sons Inc. Lon-don (1962) P204-208.

– 11 –

In der Figur ist zu erkennen, dass bei z = 0 zwar maximale Information über µ, aber keine über σerhältlich ist. Der Ort zs maximalen Informationsgewinns für σ berechnet sich, indem für einenSummand von (5.3b) numerisch nach dem Maximum gesucht wird. Wenn F z die Normalver-teilung ist, wird zs = ±1.575. Der Informationsgewinn für µ beträgt hier jedoch nur ca. 1/3 vommaximal möglichen bei z = 0. Bei Verfahren, welche nur einen Parameter bestimmen, heissendie Punkte zs mit maximalem Informationsgewinn "Sweet-Punkt". Falls im zweidimensionalenFall ebenfalls nur mit einem zs gemessen werden soll, hängt die Wahl vom gewünschten Stan-

dardabweichungsverhältnis q sd sdn n: $ $= µ σ ab. Es gilt mit der Näherung (5.4):

qn I

n Izn

n

n n

n n

2 21

11= ≈

⋅⋅

=var $

var $

$ , $

$ , $,

,

µσ

µ σµ σ

σ

µ(5.8)

und daraus folgt: z z qs = ≈ ±1 . (5.9)Um aus zs einen konkreten physikalischen Wert für x zu erhalten, müsste µ und σ bekannt sein.Es kann jedoch nur auf die Schätzungen $µn und $σn zurückgeriffen werden. Dadurch findet eineneue Beobachtung bei einem geschätzten physikalischen Sweet-Punkt $ ,xs n+1 statt:

$ $ $,x zs n s n n+ = ⋅ +1 σ µ (5.10)

n

Sim

ula

tio

nse

rgeb

nis

se

-0.2

0

0.2

0.4

0.6

0.8

1

1.2

0 50 100 150 200 250 300 350 400 450 500

µ

σ

zs = ±1.575

Fig. 5-2: Ergebnis einer einzelnen Simulation mit µ = 0.0; σ = 1.0 und geschätzten physikalischen Sweet-Punk-ten $ $ $,x zs n s n n+ = ⋅ +1 σ µ sowie zs = ±1.575. Startwerte für die Suchprozedur "powell" waren µo = 1.0und σo = 2.0. Die oberen Datenpunkte stellen Schätzungen $σn dar, die unteren sind Schätzungen $µn.Die asymptotischen Standardabweichungen sd( $µn) und sd( $σn) gemäss (5.5) sind als ausgezogene Li-nien symmetrisch um die Sollwerte aufgetragen.

Software-Realisierung

Es stellt sich das Problem, dass zu Anfang noch keine Schätzungen $µn und $σn vorhanden sindund daher (5.10) nicht verwendet werden kann. Im allgemeinen ist jedoch die Grössenordnungder gesuchten Parameter bekannt: Diese a priori Information sei mit µo und σo bezeichnet. EineStartprozedur kann dadurch im Bereich µo ± σo die ersten Reize darbieten. Sobald die Likeli-hood-Funktion ein Maximum aufweist, das heisst, sobald die asymptotische Varianz endlichwird, kann die Startprozedur verlassen werden. Es muss jedoch darauf geachtet werden, dass

– 12 –

$σn ≠ 0 ist. In einer zukünftigen Version könnte die a priori-Information auch im Sinne einerBayes-Regel verwendet werden.

Resultate der Simulation

Aufgabe der Computersimulation ist, zu zeigen ob die Verwendung der Schätzung (5.10) zu er-wartungstreuen Resultaten führt und wie gut die durch (5.5) gegebenen asymptotischen Varian-zen bzw. Standardabweichungen mit empirisch gewonnenen übereinstimmen. Fig. 5-2 stellt bei-spielhaft das Ergebnis einer Simulation mit zs = ±1.575 dar. Es fällt auf, dass die geschätztenWerte sich nicht kontinuierlich den Sollwerten nähern, sondern dass die $σn in häufigen kleinenSprüngen kleiner werden und in selteneren grossen Sprüngen grösser. Die $µn bleiben häufigkonstant, ändern ihren Wert ab und zu jedoch sprunghaft. Dieses Verhalten der beiden Schätzerkönnte ev. durch eine Markovkette modelliert werden. Die Grösse und Häufigkeit der Sprüngewird in Kap. 7 dargestellt. Abgesehen davon scheinen sich die Werte gut an die Sollwerte zu a-daptieren. Nach ca. 60 Beobachtungen befinden sie sich einigermassen im Bereich der asympto-tischen Standardabweichung. Der Lageparameter µ wird etwas weniger genau erreicht; nach(5.8) ist die asymptotische Standardabweichung von $µn etwa 1.575 mal grösser als diejenige von$σn.

Als nächstes wird mit Hilfe von 20 Simulationen gezeigt, wie gut die asymptotische Standardab-weichung mit der aus den 20 Schätzwerten $µn und $σn empirisch gewonnenen Standardabwei-chung übereinstimmt. In Fig. 5-3 bis 5-6 sind diese Werte für zufällig gewählte zs und fürzs = ±0.83, ±1.00 und ±1.575 dargestellt. Es zeigt sich, dass die asymptotisch bestimmten sd( $µn)relativ gut mit den empirischen Werten übereinstimmen. Am schlechtesten ist dies fürzs = ±1.575 erfüllt. Die asymptotisch bestimmten sd( $σn) sind ausser für zs = ±1.575 um einenFaktor von ca. 1.2 zu klein bzw. für zufällig gewählte zs etwas zu gross. Die Abweichungen lie-gen jedoch alle im Bereich des 95% Vertrauensintervall, welches von 0 76 1 46. . . .⋅ ⋅sd bis sd

reicht6.

In den Figuren ist zu erkennen, dass bei zufällig gewählten zs die mittleren Schätzwerte erst nacheiner grösseren Anzahl Beobachtungen (nach ca. n = 90) zuverlässig durch die Maximum-Likeli-hood-Methode erhalten werden können.

Die ebenfalls in den Figuren eingetragenen über die 20 Simulationen gemittelten Schätzer $µnund $σn zeigen, dass sie einigermassen erwartungstreu ausfallen. Um die Frage der Erwartungs-treue mit Hilfe von Simulationen zu beantworten, müsste vermutlich eine grössere Zahl Durch-läufe beurteilt werden.

6 Es gilt:n

n

n

n

sd sd sd−

− −⋅ ≤ ≤ ⋅1

1 22

1

1 1 22χ α χ α; / ; /

. . .

– 13 –

n

Sig

ma

0.7

0.8

0.9

1

1.1

0 50 100 150 200 250 300 350 400 450 500

zs = Random

n

-0.1

0

0.1

0.2

0.3

0 50 100 150 200 250 300 350 400 450 500

zs = Random

Fig. 5-3: Ergebnisse von 20 Simulationen mit zs zufällig gewählt aus dem Bereich $ $µ σi i− −±1 12 (µ = 0; σ = 1).Oben: weisse Kästchen: Mittelwert von 20 σ-Schätzungen; schwarze Kästchen: 1 – empirische Stan-dardabweichung der 20 σ-Schätzungen. Ausgezogene Linien: 1 – Mittel der 20 nach (5.5b) berech-neten asymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung(dünne Linien).Unten: weisse Kästchen: Mittelwert von 20 µ-Schätzungen; schwarze Kästchen: empirische Stan-dardabweichung der 20 µ-Schätzungen. Ausgezogene Linien: Mittel der 20 nach (5.5a) berechnetenasymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung (dün-ne Linien).

– 14 –

n

Sig

ma

0.7

0.8

0.9

1

1.1

0 50 100 150 200 250 300 350 400 450 500

zs = ±0.83

n

-0.1

0

0.1

0.2

0.3

0 50 100 150 200 250 300 350 400 450 500

zs = ±0.83

Fig. 5-4: Ergebnisse von 20 Simulationen mit zs = ±0.83, µ = 0 und σ = 1.Oben: weisse Kästchen: Mittelwert von 20 σ-Schätzungen; schwarze Kästchen: 1 – empirische Stan-dardabweichung der 20 σ-Schätzungen. Ausgezogene Linien: 1 – Mittel der 20 nach (5.5b) berech-neten asymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung(dünne Linien).Unten: weisse Kästchen: Mittelwert von 20 µ-Schätzungen; schwarze Kästchen: empirische Stan-dardabweichung der 20 µ-Schätzungen. Ausgezogene Linien: Mittel der 20 nach (5.5a) berechnetenasymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung (dün-ne Linien).

– 15 –

n

Sig

ma

0.7

0.8

0.9

1

1.1

0 50 100 150 200 250 300 350 400 450 500

zs = ±1.00

n

-0.1

0

0.1

0.2

0.3

0 50 100 150 200 250 300 350 400 450 500

zs = ±1.00

Fig. 5-5: Ergebnisse von 20 Simulationen mit zs = ±1.00, µ = 0 und σ = 1.Oben: weisse Kästchen: Mittelwert von 20 σ-Schätzungen; schwarze Kästchen: 1 – empirische Stan-dardabweichung der 20 σ-Schätzungen. Ausgezogene Linien: 1 – Mittel der 20 nach (5.5b) berech-neten asymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung(dünne Linien).Unten: weisse Kästchen: Mittelwert von 20 µ-Schätzungen; schwarze Kästchen: empirische Stan-dardabweichung der 20 µ-Schätzungen. Ausgezogene Linien: Mittel der 20 nach (5.5a) berechnetenasymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung (dün-ne Linien).

– 16 –

n

Sig

ma

0.7

0.8

0.9

1

1.1

0 50 100 150 200 250 300 350 400 450 500

zs = ±1.575

n

-0.1

0

0.1

0.2

0.3

0 50 100 150 200 250 300 350 400 450 500

zs = ±1.575

Fig. 5-6: Ergebnisse von 20 Simulationen mit zs = ±1.575, µ = 0 und σ = 1.Oben: weisse Kästchen: Mittelwert von 20 σ-Schätzungen; schwarze Kästchen: 1 – empirische Stan-dardabweichung der 20 σ-Schätzungen. Ausgezogene Linien: 1 – Mittel der 20 nach (5.5b) berech-neten asymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung(dünne Linien).Unten: weisse Kästchen: Mittelwert von 20 µ-Schätzungen; schwarze Kästchen: empirische Stan-dardabweichung der 20 µ-Schätzungen. Ausgezogene Linien: Mittel der 20 nach (5.5a) berechnetenasymptotischen Standardabweichungen (dicke Linie) mit Bereich von ± 1 Standardabweichung (dün-ne Linien).

– 17 –

6. Untersuchung der Effizienz

Theorie

Ein effizientes Verfahren im Sinne des Versuchs ist, wenn möglichst schnell ein möglichst ge-naues Resultat erhalten wird7. Die Geschwindigkeit hängt einerseits von den verwendeten Algo-rithmen und andererseits von der benötigten Anzahl n der Beobachtungen ab, bis ein gewünsch-ter relativer Fehler η erreicht wird:

ηµσ

σσ: max ,

$ $=

⋅sd q sdn n (6.1)

Der relative Fehler der µ-Schätzung unterscheidet sich nach (5.8) von demjenigen der σ-Schät-zung um den Faktor q. Für den relativen Fehler der σ-Schätzung, kann mit (5.3), der Näherung(5.4) und (5.9) eine Näherung für ein "mittleres asymptotisches n" bestimmt werden:

( )( )2

ss

ss

zfz

zF1zFn

⋅⋅η

−⋅≈ (6.2)

Software-Realisierung

Es wurden die in Kap. 5 beschriebenen 20 Simulationen mit zs zufällig sowie = ±0.83, ±1.00 und±1.575 auf ihre Effizienz hin untersucht, indem zu jedem Versuch jeweils dasjenige n ermitteltwurde, welches einen relativen Fehler der σ-Schätzung von η ≈ 0 1. ergab. In einer zukünftigenProgrammversion soll das Erreichen eines vorgegebenen η als Abbruchkriterium dienen.

Resultate der Simulation

Das theoretische n gemäss (6.2) wird in Tab. 6-1 mit Werten verglichen, welche mit Hilfe der 20Simulationen gewonnen wurden.

Tab. 6-1: Für unterschiedliche Sweet-Punkte zs erhaltene theoretische, empirische und asymptotische Werte derAnzahl Beobachtungen n, die benötigt werden, um eine relative Genauigkeit η ≈ 0.1 zu erreichen. Dieasymptotischen Standardabweichungen wurden während der 20 Simulationen laufend nach (5.5b) be-rechnet und anschliessend gemittelt. Daraus konnte die drittletzte Spalte bestimmt werden. Für dieletzten beiden Spalten wurden die asymptotischen Standardabweichungen jeder Simulation einzelnbeurteilt.

zs

ntheoretisch

nach (6.2)

nempirisch Mit-

tel von 20 Si-

mulationen

nasymptotisch

20 gemittelte

Simulationen

nasymptotisch

Minimum von

20 Simulat.

nasymptotisch

Maximum von

20 Simulat.

zufällig ? 287 314 233 437

0 ∞ -- -- -- --

±0.83 294 468 307 241 445

±1.00 228 393 262 152 358

±1.575 164 213 194 120 244

7 Relative Effizienz im Sinne der Statistik, ist das Verhältnis der Varianzen zweier Verfahren mit gleichem n.Diese Definition entspricht im vorliegenden Modell nach (5.4) und (5.5) dem Verhältnis der von jedem Ver-fahren benötigten Anzahl Beobachtungen für gleiches η.

– 18 –

Es zeigt sich analog zu Kap. 5, dass bei zs = ±1.575 die effizienteste Schätzung stattfindet; nach(5.8) beträgt dort jedoch sd n$ .µ σ η= ⋅1 575 und ist daher grösser als 0.1. Das theoretische n

scheint am ehesten eine untere Grenze für das mittlere asymptotische n darzustellen. Es unter-schätzt jedoch die empirisch ermittelten Werte insbesondere für kleine zs stark.

7. Untersuchung der Stabilität

Theorie

In diesem Kapitel werden zwei bereits erwähnte Aspekte aufgegriffen, nämlich die asymptoti-sche Korrelation ρ µ σn , und das sprunghafte Verhalten der geschätzten Werte im Verlaufe des

adaptiven Verfahrens.

In (5.5) von Kap. 5 war zu erkennen, dass die Varianzen kleiner werden, wenn ρ µ σn , = 0 gilt.

Dies ist erfüllt, wenn der Zähler in (5.7) gleich 0 wird:

( ) 0zF1zF

zfz

n

1i ii

2

ii =

−⋅⋅∑

=

(7.1)

Da die Werte zi einigermassen durch die xi gewählt werden können, ist es möglich, diese Bedin-gung im Mittel zu erfüllen. Wenn die psychometrische Funktion nicht einer schiefen Verteilungfolgt und wenn nur mit einem zs gearbeitet wird, müssen die zs gleich häufig positiv wie nega-

tiv sein. Bei schiefen Verteilungen muss entweder zs asymmetrisch zu 0 gewählt werden oderseine Vorzeichen müssen ungleich häufig auftreten.

Um das sprunghafte Verhalten der Schätzwerte zu erklären, sei die Log-Likelihood-Funktion amneuen Maximum durch eine Taylorreihe um das alte Maximum angenähert. Mit ∆µ µ µ: $= − nund∆σ σ σ: $= − n ergibt sich:

L LL L L L

konstL L

n n n nn n n n

n n n n

n n n n n n n n

n n n n n n n n

+ ++ + + +

+ + + +

≈ + =

= +

+ + +

+ + +

1 11 1

2 21

2

2 21

2

1 12 2

12

2 21

2

2 2

2 2

µ σ µ σ µ ∂∂µ σ ∂

∂σµ ∂

∂µσ ∂

∂σ

µ ∂∂µ σ ∂

∂σµ ∂

∂µσ ∂

∂σ

µ σ µ σ µ σ µ σ

µ σ µ σ µ σ µ σ

, $ , $

.

$ , $ $ , $ $ , $ $ , $

$ , $ $ , $ $ , $ $ , $

∆ ∆ ∆ ∆

∆ ∆ ∆ ∆l l

Da gemischte Ableitungen wegfallen wenn ρ = 0 ist und da die ersten Ableitungen am neuenMaximum wiederum 0 sind, folgt daraus:

=−

⋅σ

µ

=⋅σ

µ−

µ∂∂

µ∂∂−=µ∆

+

+

σµ

++ ≈0rwenn

zF1

zf

ˆ

ˆvar

1rwennzF

zf

ˆ

ˆvar

L

1nn

n

n

n

1nn

n

n

n

nˆ,nˆ2

1n2

1nl (7.2a)

=−

⋅σ

σ⋅

=⋅σ

σ⋅−

σ∂∂

σ∂∂−=σ∆

+

+

σµ

++ ≈0rwenn

zF1

zf

ˆ

ˆvarz

1rwennzF

zf

ˆ

ˆvarz

L

1nn

n

n

nn

1nn

n

n

nn

nˆ,nˆ2

1n2

1nl (7.2b)

– 19 –

Es zeigt sich, dass je unwahrscheinlicher die Antwort einer Versuchsperson ist, desto grösser dieÄnderung der Schätzung wird.

Software-Realisierung

Damit ρ µ σn , = 0 erfüllt ist, wird es jeweils gemäss (5.7) zusammen mit den Varianzen berech-

net. Falls ρn positiv ist, wird zs ebenfalls positiv gewählt und vice versa. Würde die psychometri-sche Funktion einer schiefen Verteilung folgen, ergäbe dies ungleich häufiges Auftreten desVorzeichens von zs. Damit und mit (7.1) könnte in einer zukünftigen Programmversion dieSchiefe der psychometrischen Funktion überprüft werden. Die Werte ∆µ und ∆σ werden benutzt,um einerseits der Prozedur "powell" (Kap. 4) eine Startrichtung für die Minimumsuche mitzutei-len. Andererseits ist im Programm NDK 1% dieser Werte die von der Prozedur zu erreichendeGenauigkeit der Schätzung. Als Startwerte dienen die vorgängig geschätzten Parameter $µn und$σn. Die Werte ∆µ und ∆σ könnten in einer zukünftigen Version für das in Kap. 4 erwähnteNewton-Raphson-Verfahren verwendet werden.

Resultate der Simulation

Es wurde probeweise der Wert zs immer mit demselben Vorzeichen gewählt. Er variierte aberdennoch leicht, da die zugehörigen $xs nach (5.10) nur geschätzt werden können. Die Log-Likeli-hood-Funktion ist in Fig. 7-1 dargestellt. Es ist deutlich zu erkennen, dass die Bestimmung desMaximums in Pfeilrichtung sehr ungenau wird. Die entsprechenden Schätzer wichen auch ent-sprechend vom Sollwert ab. Beispielsweise ergaben sich zu grosse $µn und zu kleine $σn.

σ

µ0.50

0.751.00

1.251.50

1.752.00

σ

-0.75-0.50-0.250.000.250.500.75

µ

σ

µ

-550

-525

-500

-475

-450

-425

-400

-375

-350

-325

-300

-275

-250

Lo

g-L

ikel

iho

od

σ

µ

Fig. 7-1: Log-Likelihood-Funktion für n = 500 und zs = +0.83; ρ → –1. Der Pfeil deutet an, in welche Rich-tung die Schätzungen unstabil werden können.

Um die Resultate von (7.2b) zu veranschaulichen, wurde die Grösse∆σ σ

σ⋅ ⋅$

var $n

n zs

1aus einer Si-

mulation mit zs = ±1.575 berechnet. Sie sollte nur zwei Werte ergeben: f⟨zs⟩/F⟨zs⟩ oder f⟨zs⟩/(1–F⟨zs⟩); in diesem Beispiel 2.00 und 0.12. Das Ergebnis ist in Fig. 7-2 dargestellt. Das Verhältnisder Anzahl seltener grosser Sprünge ng zu derjenigen häufiger kleiner Sprünge nk beträgt:

– 20 –

nn

F z

F zg

k

s

s=

−1(7.3)

Die Sprungweite und die Sprunghäufigkeiten kompensieren sich, sobald der Sollwert von der ad-aptiven Prozedur erreicht wird. Da ng/nk im Programm berechnet werden kann, wäre es in einerzukünftigen Version möglich mit (7.3) die Gültigkeit der angenommenen psychometrischenFunktion zu überprüfen. Für kleinere zs nähern sich ng und nk einander und die Sprungweiten

werden ähnlicher.

n

no

rmie

rte

Sch

ritt

wei

te

0

0.5

1

1.5

2

0 50 100 150 200 250 300 350 400 450 500

zs = ±1.575

Fig. 7-2: Schrittweiten ∆σ der σ-Schätzer, multipliziert mit$

var $σ

σn

nzs

⋅ 1 .

8. Diskussion und Ausblick

Es ergaben sich folgende Ergebnisse:

• Es kann ein Modell für psychometrische Funktionen erstellt werden, welches sich zur Er-mittlung des Lage- und Breitenparameters mit Hilfe der Maximum-Likelihood-Methodeeignet.

• Falls man das Likelihood-Maximum numerisch sucht, zeigt sich, dass die Log-Likelihood-Funktion und nicht die unlogarithmierte Funktion verwendet werden sollte.

• Mit Hilfe einer asymptotischen Näherung kann laufend die Varianz der Schätzer ermitteltwerden.

• Simulationen zeigen, dass auf Grund der Schätzer die Lage eines neuen Reizes (=Sweet-Punkt) berechnet werden kann. Das dabei erhaltene adaptive Verfahren bleibt stabil undkonvergiert zu den simulierten Parametern.

• Bei der Wahl des Sweet-Punkts besteht die Möglichkeit, ein gewünschtes Verhältnis zwi-schen den Standardabweichungen beider Schätzer zu erzwingen.

– 21 –

• Bei einem Sweet-Punkt von 1.575 wird der Breitenparameter am effizientesten geschätzt.• Die durch die Simulation ermittelten empirischen Standardabweichungen der Schätzer

stimmen ab einer minimalen Anzahl Beobachtungen weitgehend mit den asymptotischenStandardabweichungen überein.

• Die Anzahl benötigter Beobachtungen welche eine relative Genauigkeit von 10% ermögli-chen, ist relativ gross. Sie kann mit einer "mittleren asymptotischen Anzahl" nur ungenaugeschätzt werden.

• Damit die adaptive Prozedur stabil bleibt, muss dafür gesorgt werden, dass die Korrelationzwischen den beiden Parameterschätzungen 0 bleibt.

• Die laufend ermittelten Schätzer ändern sich dergestalt, dass unwahrscheinlichere Antwor-ten der Versuchsperson zu grösseren Sprüngen führen als wahrscheinlichere. Sprungweite,-richtung und -häufigkeit kompensieren sich, wenn der Sollwert der adaptiven Prozedur er-reicht ist.

• Die Sprünge sind kleiner, wenn ein kleiner Betrag des Sweet-Punkts gewählt wird.

Im Verlaufe der Arbeit ergaben sich folgende Punkte, die einer weiteren Untersuchung bedürfen:

• Es sollten auch andere psychometrische Funktionen untersucht werden. Interessant wäreinsbesondere, einen simulierten Beobachter mit einer nicht normalverteilten psychometri-schen Funktion zu untersuchen, wobei die verwendete Maximum-Likelihood-Methode miteinem Modell einer normalverteilten Funktion arbeiten würde.

• Als Startprozedur könnte die a priori Information im Sinne einer Bayes-Regel verwendetwerden.

• Tab. 6-1 mit den ermittelten Anzahl Beobachtungen sollte auch für $µn erstellt werden. DerAspekt der Effizienz müsste mit einer verbesserten Startprozedur nochmals genauer unter-sucht werden.

• Zur Beschleunigung der Schätzwertberechnung ist möglicherweise die Verwendung einesNewton-Raphson-Verfahrens effizienter als die Maximumsuche.

• Nach Kap. 7 könnte im Verlauf des adaptiven Verfahrens Schiefe und Langschwänzigkeitder psychometrischen Funktion geschätzt und eventuell berücksichtigt werden.

• Damit das sprunghafte Verhalten der Schätzer etwas ausgeglichen wird, könnte ein laufen-der Mittelwert verwendet werden.

• Aufgrund des ermittelten sprunghaften Verhaltens könnte mit Hilfe der Theorie über Mar-kovketten eine nicht asymptotische Verteilung der Schätzer ermittelt werden.

• Die Prozedur sollte auch mit realen Anwendungen ausgetestet werden.• Um die Erwartungtreue der Schätzer zu untersuchen, müsste entweder die Theorie erwei-

tert oder mit einer grösseren Anzahl Simulationen gearbeitet werden.

9. Anhang: zum Simulationsprogramm in C

Im folgenden wird kurz die Bedienung des Programms NDK erklärt, welches für die Simulatio-nen in dieser Projektarbeit verwendet wurde. Es wurde auf einem MS-DOS-Rechner mit Prozes-sor 80486/33MHz ausgeführt. Es ist wie folgt zu bedienen:

• Nach dem Programmaufruf mit dem Befehl NDK können die Startparameter eingegebenwerden. Wenn nur "Return" gedrückt wird, werden dir in Klammern angegebenen Default-wert übernommen. (Wird der minimale Skalenwert grösser als der simulierte Mittelwert

– 22 –

gewählt, erfolgt die Simulation immer mit positiven zi, wodurch nach Kap. 7 die Korrela-tion ρ in zunehmendem Ausmass von Null abweicht.)

• Danach wird die gewünschte Anzahl Durchläufe ausgeführt. Durch Tastendruck kann dasProgramm angehalten und auf Wunsch abgebrochen werden.

• Während der Simulation werden laufend die Resultate angezeigt. Es bedeuten:1. Zahl: Nummer des aktuellen Durchlaufs2. Zahl: Nummer n der simulierten Beobachtungxi vorgegebener Ort xi des Reizesri auf den Reiz am Ort xi gegebene Antwort rip Aufgrund der Antwortenzählung bestimmter Wert von F(zi) nach (7.3)fn Anzahl Aufrufe der Log-Likelihood-Funktion während der Maximumsuchem laufend geschätzte Werte $µn± Standardabweichung sd( $µn) nach (5.5a)s laufend geschätzte Werte $σn± Standardabweichung sd( $σn) nach (5.5b)r Korrelationskoeffizient ρ µ σn n n$ , $ nach (5.7)

• Gleichzeitig erzeugt das Programm für jeden Simulationsdurchlauf ein Datenfile mit denNamen TMP1.$$$, TMP2.$$$, TMP3.$$$ etc. Existieren solche Files bereits, wird dieNumerierung mit der folgenden freien Nummer fortgesetzt.

• Die Datenfiles sind ASCII-Files (Strichpunkt-delimitet). Sie können für graphische Dar-stellungen beispielsweise direkt in EXCEL 4.0 wie folgt eingelesen werden: "Datei", "Öff-nen...", "Dateiformat", "Text-Dateien (*.TXT;*.CSV)", "Text...", "Semikolon", "DOS oderOS/2 (PC-8)", "OK", "Dateiname *.$$$", dann gewünschtes Verzeichnis und gewünschteDatei auswählen, dann "OK".

• Die Datenfiles enthalten neben einer Informationszeile über die Eingabewerte folgendeGrössen:n laufende Beobachtungsnummer nm laufend geschätzte Werte $µnsd(m) Standardabweichung sd( $µn) nach (5.5a)s laufend geschätzte Werte $σnsd(s) Standardabweichung sd( $σn) nach (5.5b)r Korrelationskoeffizient ρ µ σn n n$ , $ nach (5.7)

xi vorgegebener Ort xi des Reizesri auf den Reiz am Ort xi gegebene Antwort riLL Wert der Likelihood-Funktion am gefundenen Maximumnfunk Anzahl Aufrufe der Log-Likelihood-Funktion während der Maximumsuchep Durch Antwortenzählung gemäss (7.3) bestimmter Wert von F(zi)

• Am Ende jedes Datenfiles befinden sich berechnete Log-Likelihood-Werte im Bereich dersimulierten Parameter in Tabellenform mit Randbeschriftung. Sie können zur Erzeugungdreidimensionaler Bilder (wie z.B. Fig. 4-1 und 4-2) verwendet werden.

Es folgt das Programmlisting des Hauptprogramms.

– 23 –

/*+----------------------------------------------------------------------------+¦ ¦¦ Programm zur Simulation von Schwellenbestimmungen mit Hilfe ¦¦ der Maximum-Likelihood-Methode ¦¦ ¦¦ von Christoph Schierz ¦¦ ¦¦ Das Programm entstand als Projektarbeit im Rahmen des Nachdiplomkurses ¦¦ in angewandter Statistik an der ETH Zürich 1993. Exemplare des dazuge- ¦¦ hörenden Projektberichts sind beim Autor erhältlich. ¦¦ ¦¦ Für die kommerzielle Verwendung der Funktionen "mnbrak", "brent", ¦¦ "linmin", "powell", "stnd_norm_dist" und "ran1" ist eine Lizenz von ¦¦ "Numerical Recipes Software, P.O. Box 243, Cambridge, MA 02238 ¦¦ (fax 617 863-1739) erforderlich (siehe dazu die Files NDK_NR.H bzw. ¦¦ NDK_NR.C). Die Funktionen in den Files NRUTIL.H bzw. NRUTIL.C sind ¦¦ Public-Domain Software. (15. Januar 1994) ¦¦ ¦+----------------------------------------------------------------------------+*/

#include <stdio.h>#include <stdlib.h>#include <math.h>#include <conio.h>#include <time.h>#include "nrutil.h"#include "ndk_nr.h"

#define MAXFLOAT 3.37E+38 /* grösste darstellbare float-Zahl */#define MINFLOAT 8.43E-37 /* kleinste float-Zahl > 0 */#define LN_MINFLOAT -83.063851669

float *xi; /* Pointer auf Vektor xi[1..max_anz] */int *ri; /* Pointer auf Antwortvektor ri[1..max_anz] */int anz; /* globaler Zähler für Nummer der aktuellen Antwort */int anzf; /* globaler Zähler für Anzahl Funktionsaufrufe von powell */long idum; /* globaler Startwert für Zufallszahlengenerator */

int max_anz; /* Maximal mögliche Anzahl Antworten */int anzd; /* Anzahl Simulationen */float sweet; /* gewünschter Sweetpunkt zs */float max_scale; /* maximal möglicher Wert von xi */float min_scale; /* minimal möglicher Wert von xi */float m_default; /* vermuteter Mittelwert */float s_default; /* vermutete Standardabweichung */float msim; /* simulierter Mittelwert */float ssim; /* simulierte Standardabweichung */

/* PS: Die Funktion main() befindet sich am Schluss! */

float rand_unif(float min, float max)/* Liefert uniform verteilte Zufallszahl aus dem Intervall [min...max[. */{ return(min + ran1(&idum)*(max-min));} /* rand_unif */

void init_ran1(void)/* Initialisiert Zufallszahlen-Generator. */{ idum=-time(NULL);

cprintf("Startwert Zufallszahlengenerator = %ld\r\n",idum);ran1(&idum);

} /* init_ran1 */

– 24 –

void init_values(void)/* Übernimmt Eingabewerte von der Tastatur oder setzt Defaultwerte. */{ char str[20];

cputs( "Geben Sie die Anzahl zu simulierende Antworten ein (500): ");str[0]=4; max_anz=atoi(cgets(str));if (!str[1]) { max_anz=500; cputs("500"); }else max_anz=abs(max_anz);cputs("\r\nGeben Sie die Anzahl Simulationen ein (1): ");str[0]=4; anzd=atoi(cgets(str));if (!str[1]) { anzd=1; cputs("1"); }else anzd=abs(anzd);cputs("\r\nGeben Sie den maximalen Skalenwert ein ( 10.00): ");str[0]=10; max_scale=atof(cgets(str));if (!str[1]) { max_scale=10.0; cputs("+10.00"); }cputs("\r\nGeben Sie den minimalen Skalenwert ein (-10.00): ");str[0]=10; min_scale=atof(cgets(str));if (!str[1]) { min_scale=-10.0; cputs("-10.00"); }cputs("\r\nGeben Sie den zu simulierenden Mittelwert ein (0.0): ");str[0]=10; msim=atof(cgets(str));if (!str[1]) { msim=0.0; cputs("0.0"); }cputs("\r\nGeben Sie die zu simulierende Standardabweichung ein (1.0): ");str[0]=10; ssim=atof(cgets(str));if (!str[1]) { ssim=1.0; cputs("1.0"); }else ssim=fabs(ssim);cputs("\r\nGeben Sie den zu vermutenden Mittelwert ein (1.0): ");str[0]=10; m_default=atof(cgets(str));if (!str[1]) { m_default=1.0; cputs("1.0"); }cputs("\r\nGeben Sie die zu vermutende Standardabweichung ein (2.0): ");str[0]=10; s_default=atof(cgets(str));if (!str[1]) { s_default=2.0; cputs("2.0"); }else s_default=fabs(s_default);cputs("\r\nGeben Sie den gewünschten Sweetpunkt ein (0.8302): ");str[0]=10; sweet=atof(cgets(str));if (!str[1]) { sweet=0.8302; cputs("0.8302"); }else sweet=fabs(sweet);cputs("\r\n");

} /* init_vari */

float norm_dist(float m, float s, float x)/* Kumulative Normalverteilung. */{ if (fabs(s)<TINY) return( (x-m) > 0.0 ? 1.0 : 0.0);

else return(stnd_norm_dist((x-m)/fabs(s)));} /* norm_dist */

float stnd_norm_dens(float x)/* Dichtefunktion der Standardnormalverteilung. */{ return(exp(-0.5*SQR(x))*0.3989422804);} /* stnd_norm_dens */

float neg_log_likeli(float parm[])/* berechnet das Negative der Log-Likelihood-Funktion an der Stelle m=parm[1],

s=parm[2]. Es werden xi[1..anz] und die Antworten ri[1..anz] verwendet. */{ int i;

float m,s,p,res;anzf++;m=parm[1];s=parm[2];res=0.0;for (i=1;i<=anz;i++) {

p=norm_dist(m,s,xi[i]);if (ri[i]) res += ( p < MINFLOAT) ? LN_MINFLOAT : (float)log( p);else res += (1-p < MINFLOAT) ? LN_MINFLOAT : (float)log(1-p);

}return(-res);

} /* neg_log_likeli */

void get_varianz(float vari[])/* übernimmt m aus vari[1] und s aus vari[2] und liefert die Varianz von m in

vari[1], die Varianz von s in vari[2] und die Korrelation r in vari[3]. */

– 25 –

{ int i;float m,s,zi,p,ps,cm,cs,cr,temp;m=vari[1];s=vari[2];cm=cs=cr=0.0;for (i=1;i<=anz;i++) {

zi=(xi[i]-m)/s;p =stnd_norm_dist(zi);ps=stnd_norm_dens(zi);p =p*(1-p);if (p>TINY) {

cm += SQR( ps)/p;cs += SQR(zi*ps)/p;cr += zi*SQR(ps)/p;

}}vari[3]=(cm<TINY || cs<TINY) ? 0.0 : -cr/sqrt(cm*cs);temp=cs*(1.0-SQR(vari[3]));vari[2]=(temp<TINY) ? MAXFLOAT : SQR(s)/temp;temp=cm*(1.0-SQR(vari[3]));vari[1]=(temp<TINY) ? MAXFLOAT : SQR(s)/temp;

} /* get_varianz */

int get_answer(float *x)/* Erzeugt eine zufällige Antwort 0 oder 1 auf den Stimulus *x. Befindet

sich *x ausserhalb des Bereichs [min scale..max_scale] wird es vorherauf die entsprechende Bereichsgrenze gesetzt. */

{ float a,b;*x=FMAX(min_scale,FMIN(max_scale,*x));a=rand_unif(0,1);b=norm_dist(msim,ssim,*x);return( (a<b) ? 1 : 0);

} /* get_answer */

void main(void){ int i,iter;

float dm,ds,pp1,pp2,pp;float m,s;float fret;float rare;float *parm;float *vari;float **dir;FILE *stream;char jn;char name[L_tmpnam];

/* Initialisieren Gesamtprogramm */clrscr();init_ran1();init_values();parm=vector(1,2);vari=vector(1,3);dir=matrix(1,2,1,2);xi=vector(1,max_anz);ri=ivector(1,max_anz);pp1=stnd_norm_dens(sweet)/stnd_norm_dist(sweet);pp2=stnd_norm_dens(sweet)/(1.0-stnd_norm_dist(sweet));

for (i=1;i<=anzd;i++) {

/* File erstellen und Eingabewerte speichern */stream = fopen(tmpnam(name), "w+");fprintf(stream,"Skala=[%.4f..%.4f], simul. Mittelwert=%.4f, "

"simul. Standardabw.=%.4f, vermutl. Mittelwert=%.4f, ""vermutl. Standardabw.=%.4f, Sweetpunkt=%.4f\n",min_scale,max_scale,msim,ssim,m_default,s_default,sweet);

fputs("n;m;sd(m);s;sd(s);r;xi;ri;LL;nfunk;p\n",stream);

/* Initialisieren eines Simulationsdurchlaufs */parm[1]=m_default;

– 26 –

parm[2]=s_default;vari[1]=MAXFLOAT;vari[2]=MAXFLOAT;vari[3]=0.0;rare=0.0;

for (anz=1;anz<=max_anz;anz++) {

/* Neuen Stimulus xi[anz] beim geschätzten Sweet-Punkt berechnen */if (vari[2] < MAXFLOAT) {

if (vari[3]>0) { /* Vorzeichen gemäss Korrelation r */xi[anz]=parm[1] + sweet*parm[2];

}else {

xi[anz]=parm[1] - sweet*parm[2];}

}else {

if (parm[1] < max_scale && parm[1] > min_scale)xi[anz]=rand_unif(parm[1]-s_default,parm[1]+s_default);

else xi[anz]=rand_unif(min_scale,max_scale);}

/* Antwort ri[anz] zu Stimulus xi[anz] abfragen */ri[anz] = get_answer(&(xi[anz]));if (((vari[3]>0) && !ri[anz]) || ((vari[3]<0) && ri[anz])) rare++;

/* ungefähre Suchvektoren dir[1..2][1..2] für Minimierungsfunktionpowell berechnen */

if ((vari[1] < MAXFLOAT) && (vari[2] < MAXFLOAT)) {if (ri[anz]) pp = (vari[3]>0) ? -pp1 : -pp2;else pp = (vari[3]>0) ? pp2 : pp1;dm = 2.0*pp*vari[1]/parm[2];ds = (2.0*pp*vari[2]/parm[2])*SIGN(sweet,vari[3]);dir[1][1]=dm; dir[1][2]=-dm;dir[2][1]=ds; dir[2][2]= ds;

}else {

dir[1][1]=s_default; dir[1][2]=0.0;dir[2][1]=0.0; dir[2][2]=s_default;parm[1]=m_default; parm[2]=s_default;dm=FTOL*100;

}

/* Minimum der negativen Log-Likelihood-Funktion suchen */anzf=0;powell(parm,dir,2,fabs(dm)/100.0,&iter,&fret,neg_log_likeli);parm[2]=fabs(parm[2]); /* Standardabweichung muss positiv sein */

/* Varianzen von m und s sowie Korrelation r berechnen */vari[1]=parm[1]; vari[2]=parm[2]; vari[3]=0.0;get_varianz(vari);

/* Output erzeugen */if (vari[1]<MAXFLOAT && vari[2]<MAXFLOAT) {

cprintf("%2d/%3d¦xi%7.4f¦ri %1d¦p %5.4f¦fn%3d¦m%7.4f±%6.4f¦s%7.4f±%6.4f""¦r%7.4f¦\r\n",i,anz,xi[anz],ri[anz],(anz-rare)/anz,anzf,parm[1],sqrt(vari[1]),parm[2],sqrt(vari[2]),vari[3]);

}else {

cprintf("%2d/%3d¦xi%7.4f¦ri %1d¦p %5.4f¦fn%3d¦m%7.4f±inf ¦s%7.4f±inf ""¦r%7.4f¦\r\n",i,anz,xi[anz],ri[anz],(anz-rare)/anz,anzf,parm[1],parm[2],vari[3]);

}fprintf(stream,"%d;%.4f;%.4f;%.4f;%.4f;%.4f;%.4f;%d;%7.2f;%d;%.4f\n",

anz,parm[1],sqrt(vari[1]),parm[2],sqrt(vari[2]),vari[3],xi[anz],ri[anz],-fret,anzf,(anz-rare)/anz);

/* Abfrage, ob Tastendruck für Programmende */if (kbhit()) {

getch();

– 27 –

cputs("möchten Sie das Programm abbrechen? (j/n):");jn=getche();if((jn=='j') || (jn=='J')) { max_anz=anz; i=anzd; }cputs("\r\n");

}

} /* for anz */

/* Berechnen der Log-Likelihood-Funktion an ausgewählten Orten um diesimulierten Werte msim und ssim. */

cputs("Log-Likelihood-Funktion berechnen\r\n");fputs("\nm/s",stream);for (s=0.5;s<2.03;s+=0.05) fprintf(stream,";%5.2f",s*ssim);for (m=-0.75;m<0.78;m+=0.05) {

fprintf(stream,"\n%5.2f",m*ssim+msim);for (s=0.5;s<2.03;s+=0.05) {

gotoxy(1,25); cprintf("m=%5.2f; s=%5.2f",m*ssim+msim,s*ssim);parm[1]=m*ssim+msim; parm[2]=s*ssim;fprintf(stream,";%5.2f",-neg_log_likeli(parm));

}}

fclose(stream);} /* for i */

/* allozierten Speicherplatz freigeben */free_matrix(dir,1,2,1,2);free_vector(vari,1,3);free_vector(parm,1,2);free_ivector(ri,1,max_anz);free_vector(xi,1,max_anz);

} /* main */

Recommended