Statistik im Forschungsprozess

Statistik im Forschungsprozess

Uwe Saint-Mont

Statistik im Forschungsprozess Eine Philosophie der Statistik als Baustein einer integrativen Wissenschaftstheorie

Prof. Dr. Uwe Saint-Mont Fachhochschule Nordhausen Fachbereich Wirtschafts- und Sozialwissenschaften Weinberghof 4 99734 Nordhausen Deutschland [email protected]

ISBN 978-3-7908-2722-4 e-ISBN 978-3-7908-2723-1 DOI 10.1007/978-3-7908-2723-1 Springer Heidelberg Dordrecht London New York Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. c Springer-Verlag Berlin Heidelberg 2011  Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Einbandentwurf: WMXDesign GmbH, Heidelberg Gedruckt auf säurefreiem Papier Physica-Verlag und Springer-Verlag sind Teil der Fachverlagsgruppe Springer Science+Business Media (www.springer.com)

There is no escaping the fact that statistics, unlike most disciplines, demands philosophical investigation. (Healy 2000)

Meiner Familie

Inhaltsverzeichnis

1

Einleitung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1 Ausgangspunkt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2 Abbildung der Realität . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.3 Empirische Wissenschaften . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.1 Subjektunabhängigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.2 Replikation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.3 Wechsel der Perspektive . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.4 Die zentrale Bedeutung der Invarianz . . . . . . . . . . . . . . . . . . . . .

1 1 10 12 12 14 15 19

2

Messtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.1 Formalisierung des Messvorgangs . . . . . . . . . . . . . . . . . . . . . . . . . 2.2 Äquivalente Messungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3 Skalenhierarchie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.4 Bedeutsamkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.5 Messtheorie in der Praxis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.5.1 Gegenbeispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.5.2 Enge und Rigidität . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.5.3 Verfeinerung und Mathematisierung . . . . . . . . . . . . . . . . 2.5.4 Distanzierung durch begriffliche Differenzierung . . . . . . 2.5.5 Instrumentalismus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.6 Forschungsstrategien I (Deduktion und Induktion) . . . . . . . . . . 2.6.1 Deduktives Vorgehen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.6.2 Deduktiv-induktives Schema . . . . . . . . . . . . . . . . . . . . . . . 2.6.3 Induktives Vorgehen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.7 Messtheorie (induktiv) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.8 Reale Messungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.9 Messtheorie und Statistik I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

23 23 25 27 31 37 37 40 42 47 50 54 55 58 60 61 65 68

3

Klassische Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1 Das Grundmodell . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2 Statistische Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.1 Fisher: Signifikanztests . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.2 Neyman und Pearson: Hypothesentests . . . . . . . . . . . . . .

77 78 83 83 89 vii

viii

Inhaltsverzeichnis

3.2.3 Tests in der Praxis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.4 Likelihood-Ratio-Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.5 Bayessche Testtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.6 Vergleich der Verfahren anhand ihrer Voraussetzungen Testreplikation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Forschungsstrategien II (Grundhaltungen) . . . . . . . . . . . . . . . . . 3.4.1 Deduktive Herangehensweise . . . . . . . . . . . . . . . . . . . . . . . 3.4.2 Induktives Verhalten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.4.3 Der induktive Gegenpol . . . . . . . . . . . . . . . . . . . . . . . . . . . Parametrische Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Wichtige klassische Modelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.6.1 Eine Umformulierung des Grundmodells . . . . . . . . . . . . . 3.6.2 Varianzanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.6.3 Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.6.4 Kanonische Korrelationsanalyse . . . . . . . . . . . . . . . . . . . . 3.6.5 Skalierung und Klassifikation . . . . . . . . . . . . . . . . . . . . . . 3.6.6 Operatorgleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Trends der aktuellen Datenmodellierung . . . . . . . . . . . . . . . . . . . 3.7.1 Rechenintensive Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . 3.7.2 Komplexere theoretische Strukturen . . . . . . . . . . . . . . . . 3.7.3 Graphische Methoden . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Hauptsatz der Datenmodellierung . . . . . . . . . . . . . . . . . . . . . . . . 3.8.1 Zeitreihenanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.8.2 Messtheorie und Statistik II . . . . . . . . . . . . . . . . . . . . . . . Invarianzargumente in der Statistik . . . . . . . . . . . . . . . . . . . . . . . 3.9.1 Äquivalente formale Strukturen . . . . . . . . . . . . . . . . . . . . 3.9.2 Invarianz bei Messungen . . . . . . . . . . . . . . . . . . . . . . . . . . 3.9.3 Skalentransformationen . . . . . . . . . . . . . . . . . . . . . . . . . . . Semantische Aspekte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.10.1 Die Qualität von Messungen . . . . . . . . . . . . . . . . . . . . . . . 3.10.2 Validität und Reliabilität . . . . . . . . . . . . . . . . . . . . . . . . . . 3.10.3 Die Bedeutung von Invarianzargumenten . . . . . . . . . . . . 3.10.4 Der wahre Wert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Modelle und ihre Interpretation . . . . . . . . . . . . . . . . . . . . . . . . . . 3.11.1 Modellspezifikation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.11.2 Vom Instrument zum wahren Modell . . . . . . . . . . . . . . . . 3.11.3 Angemessene Interpretation . . . . . . . . . . . . . . . . . . . . . . . Diskussion der Datenmodellierung . . . . . . . . . . . . . . . . . . . . . . . .

92 95 98 99 101 106 106 117 121 125 129 129 130 132 134 137 138 139 141 143 146 148 150 151 152 153 154 155 160 160 162 164 167 172 172 176 187 189

Induktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.1 Das allgemeine Induktionsproblem . . . . . . . . . . . . . . . . . . . . . . . . 4.2 Induktive Standard-Argumente in der Statistik . . . . . . . . . . . . . 4.2.1 Stichprobe und Population: Repräsentativität . . . . . . . . 4.2.2 Der Fehlerterm: Approximation . . . . . . . . . . . . . . . . . . . . 4.2.3 Fehlende Werte: Interpolation . . . . . . . . . . . . . . . . . . . . . . 4.2.4 Prognosen: Extrapolation . . . . . . . . . . . . . . . . . . . . . . . . . 4.2.5 Axiomatik der Wahrscheinlichkeitstheorie . . . . . . . . . . .

195 195 200 201 206 207 208 211

3.3 3.4

3.5 3.6

3.7

3.8

3.9

3.10

3.11

3.12 4

Inhaltsverzeichnis

4.2.6 Induktion bei deterministischen Modellen . . . . . . . . . . . . 4.2.7 Regression als Generalisierung . . . . . . . . . . . . . . . . . . . . . Orthodoxe Induktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3.1 Mills induktive Figuren . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3.2 Vergleichbarkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3.3 Randomisierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3.4 Systematisches Vorgehen und Randomisierung . . . . . . . 4.3.5 Resampling: Die Stichprobe als eigene Population . . . . 4.3.6 Bewertung der Randomisierung . . . . . . . . . . . . . . . . . . . . Induktive Logik und Bayessche Statistik . . . . . . . . . . . . . . . . . . . 4.4.1 Induktive Logik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.4.2 Bayessche Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.4.3 Diskussion der Bayesschen Statistik . . . . . . . . . . . . . . . . . 4.4.4 Einordnung des Bayesschen Ansatzes . . . . . . . . . . . . . . . Induktion und Modellierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.5.1 Induktive Schlüsse mit Modellen . . . . . . . . . . . . . . . . . . . 4.5.2 Modellentwicklung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.5.3 Die Rolle der Voraussetzungen . . . . . . . . . . . . . . . . . . . . . 4.5.4 Sozialwissenschaftliche Modelle . . . . . . . . . . . . . . . . . . . . . Induktive Orientierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.6.1 Explorative Datenanalyse . . . . . . . . . . . . . . . . . . . . . . . . . 4.6.2 Data Mining . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.6.3 Data Mining versus konservative Statistik . . . . . . . . . . . 4.6.4 Empirische Fundierung und inhaltlicher Kontext . . . . . Philosophische Paradoxa der Induktion . . . . . . . . . . . . . . . . . . . . 4.7.1 Austauschbarkeit und GRUE-Paradoxon . . . . . . . . . . . . 4.7.2 Das Raben-Paradoxon . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.7.3 Das Lotterie-Paradoxon . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.7.4 Simpsons Paradoxon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Lösung(en) des Induktionsproblems . . . . . . . . . . . . . . . . . . . . . . . 4.8.1 Tests und Repräsentativität . . . . . . . . . . . . . . . . . . . . . . . 4.8.2 Verschiedenartige induktive Schritte . . . . . . . . . . . . . . . . 4.8.3 Einordnung der induktiven Strategien . . . . . . . . . . . . . . . 4.8.4 Offenheit der Induktion . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.8.5 Erste Lösung des allgemeinen Induktionsproblems . . . . 4.8.6 Zweite Lösung des allgemeinen Induktionsproblems . . .

212 215 217 217 223 226 234 242 244 247 248 251 258 269 271 271 278 284 289 293 294 300 303 308 314 315 316 319 321 325 327 329 332 334 340 346

Synthese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.1 Forschungsstrategien III (Kombination) . . . . . . . . . . . . . . . . . . . 5.1.1 Primat der Deduktion in der Theorie . . . . . . . . . . . . . . . 5.1.2 Primat der Induktion in der Praxis . . . . . . . . . . . . . . . . . 5.1.3 Kombination beider Perspektiven . . . . . . . . . . . . . . . . . . . 5.1.4 Adaptive Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.1.5 Kreuzvalidierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2 Der Forschungszirkel I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2.1 Positionierung der Statistik . . . . . . . . . . . . . . . . . . . . . . . . 5.2.2 Sich ergänzende Perspektiven . . . . . . . . . . . . . . . . . . . . . .

351 351 352 362 364 370 380 384 387 393

4.3

4.4

4.5

4.6

4.7

4.8

5

ix

x

6

Inhaltsverzeichnis

5.3 Der statistikinterne strategische Konflikt . . . . . . . . . . . . . . . . . . 5.3.1 Vorher versus Nachher . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.3.2 Konflikte um den wesentlichen Unterschied . . . . . . . . . . 5.3.3 Weitere Felder der Auseinandersetzung . . . . . . . . . . . . . . 5.3.4 Mainstream-Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.3.5 Das Aufblühen des Neo-Bayesianismus . . . . . . . . . . . . . . 5.3.6 Gemeinsame Statistik ohne Kompromisse . . . . . . . . . . . . 5.4 Strategische Schnittstellen und Kausalschlüsse . . . . . . . . . . . . . 5.4.1 Kausale Graphen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.4.2 Kritik an kausalen Graphen . . . . . . . . . . . . . . . . . . . . . . . . 5.4.3 Die innerstatistische Alternative . . . . . . . . . . . . . . . . . . . . 5.4.4 Statistik und Fachwissenschaft . . . . . . . . . . . . . . . . . . . . . 5.5 Das Informationsparadigma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.5.1 Klassische Informationstheorie . . . . . . . . . . . . . . . . . . . . . 5.5.2 Moderne Informationstheorie . . . . . . . . . . . . . . . . . . . . . . 5.5.3 Das Prinzip der kompaktesten Beschreibung . . . . . . . . . 5.5.4 Universelle Prädiktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.5.5 Die Klärung des Wahrscheinlichkeitsbegriffs . . . . . . . . . . 5.5.6 Zufallsprozesse und zufällige Daten . . . . . . . . . . . . . . . . . 5.5.7 Latente Parameter und Strukturen . . . . . . . . . . . . . . . . . 5.5.8 Absoluter und relativer Zufall . . . . . . . . . . . . . . . . . . . . . . 5.5.9 Chaostheorie (Exkurs) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.5.10 Modernisierte Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.6 Invarianzen, Symmetrien und Symmetriebrüche . . . . . . . . . . . .

396 396 399 406 410 419 422 428 429 437 441 447 455 456 462 471 478 482 495 501 506 512 517 529

Integrative Wissenschaftstheorie . . . . . . . . . . . . . . . . . . . . . . . . . . 6.1 Der Forschungszirkel II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.1.1 Induktion und Deduktion . . . . . . . . . . . . . . . . . . . . . . . . . . 6.1.2 Die historische Entwicklung von Wissenschaften . . . . . . 6.1.3 Funktionsfähigkeit und Ertrag des Forschungszirkels . . 6.2 Wissenschaftstheorie im Forschungszirkel . . . . . . . . . . . . . . . . . . 6.2.1 Unwuchten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.2.2 Philosophische Orientierung . . . . . . . . . . . . . . . . . . . . . . . 6.2.3 Wissenschaftssoziologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.3 Konstruktive Antworten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.3.1 Ahistorische Wissenschaft . . . . . . . . . . . . . . . . . . . . . . . . . 6.3.2 Konstruktiv-kritisch oder stagnierend . . . . . . . . . . . . . . . 6.3.3 Die skeptische Grundhaltung . . . . . . . . . . . . . . . . . . . . . . 6.3.4 Ertragsorientierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.4 Adaptive Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.5 Schlussbemerkung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

539 539 541 543 549 554 554 560 573 577 577 581 582 587 589 595

Literatur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 601 Personenregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 649 Sachregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 661

Vorbemerkungen

E Pluribus Unum (Über die Aufgabe von Wissenschaftstheorie und Philosophie)

Wege durch das Buch Dieses Buch wurde für einen breiten Leserkreis geschrieben. Je nach Vorkenntnissen und Interessen gibt es deshalb verschiedene Wege durch die Kapitel. Kapitel 1 ist ein kurzer Abriss wissenschaftlicher Prinzipien, insbesondere betont es die Bedeutung der Mathematik. Kapitel 2 erläutert am Beispiel der Messtheorie den „Forschungszirkel“ und die Invarianzidee. Kapitel 3 ist eine „tour de force“ der klassischen Statistik: von den Grundbegriffen geht es über Hypothesentests zu Modellen. Kapitel 4 diskutiert das grundlegende Induktionsproblem und interpretiert die statistischen Vorgehensweisen als Strategien, ihm erfolgreich zu begegnen. Kapitel 5 führt Entwicklungen statistischer, philosophischer und fachwissenschaftlicher Provenienz unter dem Informationsgesichtspunkt zusammen. Kapitel 6 schließt mit einer integrativen Wissenschaftstheorie. Dem entsprechend könnte der Titel des Buches auch Statistik im Forschungszirkel: Induktion, Information und Invarianz (Saint-Mont 2009)

lauten, und man sollte auf keinen Fall die Synthese in Kapitel 5 überschlagen. Kapitel 4 dürfte ebenfalls für (fast) alle Leser interessant sein. Kapitel 6 wendet sich primär an Philosophen, Kapitel 3 an jene, die die Ideengeschichte der Statistik nachvollziehen wollen. Kapitel 2 ist eher für Spezialisten gedacht und kann deshalb bei einer ersten Lektüre übergangen werden. Kapitel 1 sollte zumindest für Wissenschaftler Allgemeingut sein.

Schwerpunktsetzung und mathematische Ausführungen In dieser Schrift geht es vordergründig um Statistik: ihre Stellung im Kanon der Wissenschaften, ihre aktuelle Positionierung und Ausrichtung sowie ihre „philosophische“ Fundierung. Tatsächlich handeln die Ausführungen jedoch xi

xii

Vorbemerkungen

nicht minder von Wissenschaftstheorie sowie deren aktueller Situation, auch wenn dieses Thema zunächst eher im Hintergrund steht und erst im letzten Kapitel explizit behandelt wird. Neben der Wissenschaftstheorie sehen wir die Wissenschaftsforschung. Darüber hinaus sind es die empirischen Wissenschaften, die sich ihrer bestimmenden Rolle bewusst sind und in den Vordergrund drängen. Der gesamte Ablauf wird umrahmt von Erkenntnistheorie, die mit ihren weitverzweigten und historisch gewachsenen Fragen dem Bild die nötige Tiefe verleiht. Doch es ist die Mathematik, welche dem Ganzen Struktur verleiht, die Geschehnisse klärt, mit ruhiger Hand ordnet, Argumenten logischen Halt gibt und ihnen Schärfe verleiht. Omnipräsent und zugleich an der Oberfläche weniger sichtbar, das ist die Rolle der Mathematik in diesem Buch. Viele der entscheidenden Ideen sind tatsächlich inhaltlicher, nicht formaler Natur und lassen sich anhand typischer Beispiele und mit geringem formalem Aufwand erläutern. Hinzu kommen jedoch Heuristiken, rationale Argumente und logische Figuren, die ihre Kraft erst voll entwickeln, wenn sie in Form gebracht, in ein Modell gegossen und mathematisch präzisiert worden sind. Wie die Logik und die erfolgreichsten Naturwissenschaften ist die Statistik untrennbar mit Mathematik verwoben. Würde man diese entfernen, büßte das Gebäude nicht nur seine Stabilität, sondern gleichzeitig auch seinen abstrakten Kern und seine Fundamente ein. Es kommt also nicht nur darauf an, an einigen entscheidenden Stellen exakt zu sein. Die Bedeutung der Mathematik reicht viel weiter: Sie ist die logisch strenge, alles verbindende Argumentationsebene. Damit ermöglicht sie gegenseitiges Verständnis, Kommunikation und Zusammenarbeit. Dazu gleich mehr im nächsten Kapitel. Es ist m.E. kein Zufall, dass die textorientierte Philosophie cum grano salis zu pointierten Positionen neigt, welche sich gerne zu Dogmen verhärten und deren Protagonisten sich häufig mit spitzen Argumenten begegnen, während Wissenschaftler ihre Meinungsdifferenzen mithilfe der neutralen Mathematik besprechen und klären können. Während Gegensätze im Bereich der Philosophie denn auch häufig zu „Ismen“ und Frustration führen, ist ihre Rolle im Bereich der empirischen Wissenschaften viel öfter konstruktiv und fruchtbar. Mit mathematischen Methoden werden zudem Einsichten und Gesetze zugänglich, die mit verbalen Mitteln unerreichbar bleiben. Mit revolutionär neuen, exakten Methoden beginnen schließlich auch wirkliche Lösungen klassischer Fragen zu reifen1 und bislang gänzlich neue Felder lassen sich erschließen. So begann mit Newtons (und Leibniz’) Differential- und Integralrechnung die klassische Physik und mit der Wahrscheinlichkeitsrechnung die traditionelle Statistik. Heute erleben wir, wie fundamentale Auseinandersetzungen um den zentralen Kausalitätsbegriff von einem systematischen Studium einschlägiger Zusammenhänge abgelöst werden, eben weil es den neuen Formalismus gerichteter Graphen gibt. 1

Man denke nur an Achilles’ Wettrennen mit der Schildkröte oder Epimenides’ LügnerParadoxon.

Vorbemerkungen

xiii

Aus all diesen Gründen habe ich die für den Fortgang der Argumentation notwendige Mathematik eher ausführlich erläutert. Mein Ziel war dabei, einem formal wenig vorgebildeten Wissenschaftler den Zugang zu ermöglichen. Der mathematisch versierte Leser möge diese Erläuterungen überblättern und bei Interesse die Quellen konsultieren, wo er eine Vielzahl zumeist weit formalerer Argumentationen findet.2 Im Vordergrund steht jedoch ganz eindeutig das Bemühen, die vorliegende Arbeit einem möglichst breiten Leserkreis zugänglich zu machen. Würde man sie zu sehr mathematisieren, so stünde der erzielte Gewinn an formaler Exaktheit in keinem Verhältnis zum Verlust an intuitiver Einsicht. Interdisziplinarität heißt nicht zuletzt, seine Gedanken so darzulegen, dass sie Vertretern möglichst vieler verschiedener Disziplinen auch zugänglich sind.

Dank Der angenehmen Pflicht, mich bei all jenen zu bedanken, die dieses Buch möglich gemacht haben, komme ich gerne nach. An erster Stelle ist Prof. Klaus Fischer zu nennen, der den Weg von der ersten Skizze bis zum fertigen „Produkt“ maßgeblich unterstützt hat. Durch seinen Ansporn ging es schnell voran und mir blieben zahlreiche fruchtlose Wege erspart. Er und seine Kollegen Prof. Krieger, Prof. Hellhammer und PD Gómez-Tutor (alle Universität Trier) sowie Prof. Rahnenführer (TU Dortmund) haben das Manuskript gründlich geprüft und viele Verbesserungsvorschläge gemacht. In Nordhausen hat Dr. G. Baumbach, der beste Kollege der Welt, das Manuskript nicht nur gründlich studiert, sondern mir auch während eines Forschungssemesters den Rücken freigehalten. Ich danke ihm und der Hochschule für die gewährte zeitliche Entlastung. Die Mitarbeiterinnen der Hochschulbibliothek haben selbst unzugänglichste Literatur gefunden und ohne ihre tatkräftige Unterstützung wäre das Buch nur eine Sammlung von Thesen. Schließlich hat der Springer-Verlag das Manuskript nicht nur umgehend als „gelbe“ Publikation akzeptiert, sondern bei seiner Fertigstellung auch professionell begleitet. Hierfür spreche ich Herrn Dr. Thomas und Frau Blanck meine Anerkennung aus. Viele Fachwissenschaftler lächeln, wenn man ernsthaft allgemeinere „fundamentale“ Fragen erörtert. Das liegt nicht zuletzt daran, dass derartige Diskussionen gerne ins Prinzipielle abgleiten und schnell wenig fruchtbare, weltanschauliche Meinungsverschiedenheiten aufbrechen. Jedoch stößt man auf reges Interesse, wenn man über das fachliche Detail hinausdenkt, punktuelle Resultate sinnvoll verknüpft, interpretiert und in einen größeren Zusammenhang stellt. Derartige „Philosophie“ war, zumindest früher, ehe Spezialisten 2

Ein Paradebeispiel ist die Messtheorie, siehe Kapitel 2. Auch in den Fußnoten habe ich meine „formale Zurückhaltung“ etwas gelockert.

xiv

Vorbemerkungen

das Feld beherrschten und Interdisziplinarität zu einem buzzword wurde, ein selbstverständlicher Bestandteil vieler Wissenschaften. Ich danke deshalb heute ausdrücklich all jenen Kollegen, die mir zugehört haben, für ihre Toleranz, ihr Verständnis und ihre Kommentare. Sie haben mich ermutigt, mich dem vermeintlich unmodernen Thema Statistik und Wissenschaftstheorie zu widmen. Selbstverständlich bin nur ich alleine für alle verbliebenen Fehler verantwortlich. Den größten Dank schulde ich jedoch nicht zuletzt, sondern zuallererst, meiner Familie, die durch ihre liebevolle Unterstützung das ganze Projekt erst möglich gemacht hat.

Kapitel 1

Einleitung Centuries ago, when some people suspended their search for absolute truth and began instead to ask how things worked, modern science was born. Curiously, it was by abandoning the search for absolute truth that science began to make progress, opening the material universe to human exploration. It was only by being provisional and open to change, even radical change, that scientific knowledge began to evolve. And ironically, its vulnerability to change is the source of its strength. Pagels (1985: 370), zitiert nach Kotz und Johnson (1993: xi)

Es gibt unzählige Bücher über Wissenschaft im Speziellen wie im Allgemeinen. Auch die Literatur zur Statistik und Wissenschaftstheorie füllt (kleinere) Bibliotheken. Einige Statistikbücher streifen bei bestimmten Themen nahezu zwangsläufig die Wissenschaftstheorie. Wenn es zum Beispiel um das Testen von Hypothesen geht, fällt mit großer Wahrscheinlichkeit der Name Poppers. Andererseits greifen auch manche wissenschaftstheoretische Bücher neben der (unvermeidlichen?) Logik zuweilen auf die Wahrscheinlichkeitstheorie und darüber hinaus gehend auf die Statistik zurück. Es gibt jedoch kaum Literatur über die Grundlagen der Statistik. Gewiss, es existieren grundsätzliche Überlegungen zum Fach, und es wurden auch schon vehemente Auseinandersetzungen über das richtige „Paradigma“ der Statistik geführt. Auch einige Philosophen haben sich - vor allem mit verbalen Argumenten - mit ihr auseinandergesetzt. Jedoch gibt es fast keine systematisch betriebenen, im Fach verankerten, einigermaßen neutrale Studien, die der Statistik in ihrer Breite und Tiefe gerecht würden. Das heißt, es gibt so gut wie keine etablierten Fachbücher oder eine im Curriculum gelehrte und gelebte, allgemein akzeptierte Philosophie der Statistik. Während die Philosophie der Mathematik so alt ist wie das Gebiet, mit dem sie sich beschäftigt, und seit den Anfängen der Stochastik auch ausführlich über Interpretationen des Wahrscheinlichkeitsbegriffs diskutiert wird, ist es bezüglich der Aufgabe und der Einordnung der Statistik bemerkenswert still geblieben oder aber, die Bemühungen von Fachwissenschaft und Philosophie laufen völlig auseinander.

1.1 Ausgangspunkt Es besteht [. . .] eine ungeheure Kluft zwischen logischen und wissenschaftstheoretischen Analysen von Begriffen der Prüfung, Bestätigung und der Bewährung von Hypothesen auf der einen Seite, und von Fachleuten im Gebiet der mathematischen

U. Saint-Mont, Statistik im Forschungsprozess, DOI 10.1007/978-3-7908-2723-1_1, © Springer-Verlag Berlin Heidelberg 2011

1

2

1 Einleitung Statistik angestellten Untersuchungen über diese Themenkreise auf der anderen Seite. (Stegmüller 1973: 1)1

Jedem Gebiet seine spezielle Wissenschaftstheorie ist zur Zeit eine populäre Forschungsstrategie. Sollte also nicht neben der Philosophie der Mathematik und ihrer Teilgebiete sowie all den speziellen Wissenschaftsphilosophien, insbesondere jener der Sozialwissenschaften (Mantzavinos 2009), Naturwissenschaften, z. B. Biophilosophie (Vollmer 1995b), Philosophie der Chemie (Baird et al. 2006), Philosophie der Physik (Feynman 2007) usw., noch eine spezielle Wissenschaftstheorie der Statistik treten? Ja, selbstverständlich! lautet die genauso naheliegende wie einleuchtende Antwort, womit der Autor dieser Arbeit sein Thema gefunden und zufrieden ans Werk gehen könnte. Das ist aber nicht alles, lautet die Antwort, wenn man etwas tiefer über die Problemstellung nachdenkt, also im besten Sinne des Wortes „philosophiert“. Denn womit beschäftigt sich die Philosophie, was sind ihre Gegenstände? Klassischerweise werden hier Logik, Metaphysik, Ontologie, Ethik und weitere praktische Philosophien sowie Erkenntnis- und Wissenschaftstheorie genannt. Die Erkenntnistheorie fragt ganz allgemein, inwiefern man in der Lage ist, einen bestimmten Gegenstand zu erkennen, also Erkenntnisse über einen Sachverhalt zu gewinnen. Wie belastbar sind unsere Erkenntnisse, wie lassen sie sich begründen oder auch kritisieren? Kann man subjektive Einflüsse vom zu Erkennenden trennen und wenn ja, wie? Warum sind wir als Subjekte in der Lage, scharf zwischen uns Selbst und dem Rest der Welt zu trennen und dabei zugleich vermeintlich stimmige und passende Einsichten über letztere zu formulieren? Diese allgemeinen Fragen verdichten sich im Bereich der Wissenschaftstheorie, weshalb heute Erkenntnis- und Wissenschaftstheorie als Einheit gesehen werden bzw. zu einem verbundenen, feststehenden Ausdruck geworden sind (Störig 1987: 635). Inwieweit ist eine Theorie intersubjektiv verbindlich? Lässt sich der Einfluss der speziellen Instrumente, der konkreten Messung, des sozialen Umfeldes bzw. der eingenommenen Perspektive erkennen, quantifizieren oder vielleicht sogar eliminieren? Inwiefern unterscheiden sich wissenschaftliche Erkenntnisse und Forschungsstrategien von anderen Ansätzen? Warum sind die modernen Naturwissenschaften so erfolgreich, und wo liegen die Grenzen der Erkenntnis? Fragen dieser Art habe ich in (Saint-Mont 2000) diskutiert, wobei der Fokus darauf liegt, die Wissenschaftstheorie aus der Erkenntnistheorie herzuleiten. Versteht man Wissenschaftstheorie als die Metatheorie der Wissenschaften, also als jene Wissenschaft, deren Forschungsfeld gerade die Wissenschaften sind, so kommt man konsequenterweise zu sehr konkreten, empirischen Fragestellungen. Denn wie der Erkenntisgewinnungsprozess der Natur- und Geisteswissenschaften funktioniert, ist letztlich eine empirische Frage. Anstatt darüber nachzudenken, wie Wissen gewonnen wird und und welche 1

Das gesamte Zitat wird im Original hervorgehoben. Soweit nicht ausdrücklich anders angegeben, sind im folgenden bei allen Zitaten Hervorhebungen im Original.

1.1 Ausgangspunkt

3

Probleme es dabei im Prinzip gibt, schaut man sich intensiv die Wissenschaftspraxis an. Es ist deshalb nur konsequent, dass das Studium der Wissenschaftsgeschichte im Rahmen der Wissenschaftstheorie eine immer größere Rolle einnimmt. Schon die berühmten Paradigmenwechsel (Kuhn 1962) entstammen nicht philosophischer Spekulation, sondern gründen sich auf eine (zugegebenermaßen umstrittene) Rekonstruktion der Geschichte der Physik. Auch die aktuelle wissenschaftstheoretische Kontroverse um die Frage, ob bzw. inwieweit die Maßstäbe und Methoden der Wissenschaft universell und ahistorisch sind oder aber mehr oder minder stark von nicht primär wissenschaftlichen Aspekten abhängen, lässt sich so interpretieren. Insbesondere politische, gesellschaftliche und wirtschaftliche Interessen werden von einer ganzen Reihe relativistischer Ansätze geltend gemacht (siehe Chalmers 1999, 2006), auch persönliche Faktoren wie Geschlecht (Gender Studies), sozialer Status2 und andere persönliche Faktoren werden diskutiert. Ganz allgemein wandelten sich in den letzten Jahrzehnten prinzipielle philosophische Diskussionen über das Wesen von Wissenschaft zu klarer umrissenen Fragen der Wissenschaftsforschung. Von besonderer Bedeutung sind dabei naheliegenderweise jene Wissenschaften, die in den letzten Jahrzehnten und Jahrhunderten außerordentlich erfolgreich waren und infolge dessen geradezu explosionsartig gewachsen sind - die Naturwissenschaften. Was ist das Geheimnis ihres Erfolges, wie funktioniert der Erkenntnisprozess der Naturwissenschaften? Die aktuelle Wissenschaftsforschung stellt sich dieser Aufgabe. Unbestritten ist, dass das Galileo Galilei zugeschriebene Zitat Miß alles, was sich messen läßt, und mach alles meßbar, was sich nicht messen läßt.3

zentrale Elemente erfolgreicher Erkenntnisgewinnung zumindest anreißt: • Eine dezidiert empirische Ausrichtung, welche auf aktives Forschen und Experimentieren, eng verbunden mit der Erschließung neuer Felder, großen Wert legt.4 • Die zentrale Bedeutung quantitativer Methoden und Aussagen. Gerade den letzten Aspekt unterstreicht Galilei (1623) mit seinem berühmten Zitat Die Natur spricht die Sprache der Mathematik.5 2

Wie heißt es schon bei Marx (1972a: 9): „Es ist nicht das Bewußtsein der Menschen, das ihr Sein, sondern umgekehrt ihr gesellschaftliches Sein, das ihr Bewußtsein bestimmt.“ 3

Siehe Kleinert (1988), der herausarbeitet, dass Galileo dieses Zitat wohl in den Mund gelegt wurde. 4 Selbstverständlich gab es mehr als einen „Vater“ der empirischen Forschung. Besonders erwähnt werden sollte der britische Empirismus und natürlich Bacon (1620). 5 Galilei (1623) etwas ausführlicher: „Die Philosophie steht in jenem großen Buch geschrieben, das uns ständig offen vor Augen liegt (ich spreche vom Universum). Aber dieses Buch

4

1 Einleitung

Heute würde man wesentlich profaner sagen, dass man es mit Daten zu tun hat. Alle erfolgreichen empirischen Wissenschaften sammeln, erheben und interpretieren Daten. Die Gewinnung aussagekräftiger quantitativer Daten also letztlich von Zahlen - ist der Kern jeder empirischen Untersuchung.6 Genau hier kommt die Statistik ins Spiel, versteht sie sich doch als die Wissenschaft von der Sammlung, Zusammenfassung, Analyse und Interpretation von Daten. Ein prototypische Definition geben Efron und Tibshirani (1993: 1): Statistical theory attempts to answer three basic questions: (i) How should I collect my data? (ii) How should I analyze and summarize the data I’ve collected? (iii) How accurate are my data summaries?

Auch viele andere Autoren heben auf einen oder alle diese Aspekte bei ihrer Begriffsbestimmung der Statistik ab. Für eine umfangreiche Sammlung siehe den ersten Abschnitt von Barnett (1999: 1ff) und Box et al. (1968). Versteht man „Daten“ in einem weiten Sinn, so muss es sich dabei nicht unbedingt um Zahlen handeln. Bei Daten handelt es sich bei diesem Verständnis um alle Informationen, die Auskunft über einen empirischen Sachverhalt geben - seien sie qualitativ oder quantitativ, schriftlich festgehalten oder auch nicht, als Zeichnung, Zahl oder natürlichsprachlich formuliert, präzise oder unpräzise. Entscheidend ist, dass Daten den Kontakt zur Empirie herstellen, es sich also z. B. um einen gelehrten Reisebericht des 19. Jahrhunderts statt um einen fiktiven Roman Jules Vernes’ handelt; man es mit einem gemessenen Wert und nicht mit einer beliebigen Zahl innerhalb einer rein mathematischen Rechenaufgabe zu tun hat.7 ist nicht zu verstehen, ehe man nicht gelernt hat, die Sprache zu verstehen, und die Buchstaben kennt, in denen es geschrieben ist. Es ist in der Sprache der Mathematik geschrieben, und die Buchstaben sind Dreiecke, Kreise und andere geometrische Figuren. Ohne diese Mittel ist es dem Menschen unmöglich, ein einziges Wort davon zu verstehen; ohne sie ist es ein vergebliches Umherirren in einem dunklen Labyrinth.“ Kurz zusammengefasst heißt es bei Schmutzer und Schütz (1989: 85): „Wer naturwissenschaftliche Fragen ohne Hilfe der Mathematik lösen will, unternimmt Undurchführbares. Man muss messen, was meßbar ist, und meßbar machen, was es nicht ist.“ Juhos und Schleichert (1966: 10f) verweisen auf einen wichtigen Vorgänger dieser eminenten Ideen, den Renaissance-Philosophen Zabarella und beschreiben Galileis konkrete Vorgehensweise. 6 Die einzige empirische Wissenschaft, welche sich bislang konsequent gegen diese Einsicht sperrt, ist die Soziologie. Dort dominieren nach wie vor eher prinzipiell-theoretische Überlegungen, Modelle werden typischerweise nicht-mathematisch formuliert und bei der Ausbildung des Nachwuchses spielen quantitative Methoden nur eine untergeordnete Rolle. Man beachte jedoch Lieberson (1985) und die sich auf ihn berufende Literatur. Vor allem in den USA gibt es eine wachsende Gruppe quantitativ arbeitender Gesellschaftswissenschaftler, und auch viele den Wirtschaftswissenschaften nahe stehende Forscher haben keine prinzipiellen Vorbehalte mehr. Ein Blick auf den berühmten Positivismusstreit (Dahms 1994) zeigt, dass dem nicht immer so war. 7

Will man prägnant den Unterschied zwischen Mathematik und Statistik beschreiben, so kann man sagen, dass sich die Mathematik mit Zahlen und darüber hinausgehend logisch in sich stimmigen Strukturen beschäftigt, während es in der Statistik um Daten geht, also um Zahlen mit empirischer Bedeutung.

1.1 Ausgangspunkt

5

So gesehen ist die Mathematik nicht mehr als eine Hilfswissenschaft, mit welcher sich die notierten Zahlen effizient weiterverarbeiten lassen. Genau aus diesem Grund schreibt auch Menges (1982: 15): „Am wichtigsten sind die Daten, das zweitwichtigste ist die jeweilige Sachtheorie (z. B. Biologie, Wirtschaftswissenschaften), dann erst kommen die Methoden. Bisher hat man in der Statistik die Methoden überbewertet.“ Zahlen und mathematische Methoden, gerne quantitativ genannt, haben jedoch den unschätzbaren Vorteil, präzise zu sein. Sie sind sogar in vielerlei Hinsicht exakt: 1. In sich unscharfe verbale Aussagen werden durch Zahlenangaben zumindest ergänzt. (Man blickt also bildlich gesprochen durch eine viel schärfere Brille.) 2. Man kann Effekte, insbesondere auch bei der Beobachtung auftretende Fehler, quantifizieren. 3. Das gesamte methodische Instrumentarium der Mathematik wird nutzbar, welches von numerischen Berechnungen über symbolische Umformungen bis hin zu vollständig formalisierten Theorien reicht. 4. Vorhersagen werden messbar. Dadurch lassen sie sich leichter prüfen. 5. Der innere Aufbau von Theorien wie auch deren Formulierung sowie die Datenerhebung werden stringenter und damit sowohl einfacher als auch transparenter. 6. Experimente lassen sich gezielter und mit größerer Genauigkeit durchführen. 7. Es lassen sich logisch exakte Folgerungen ableiten. 8. Widersprüche und Artefakte aller Art werden erheblich leichter aufdeckbar.8 Die Geschichte der Statistik selbst liefert einen anschaulichen Beleg für die Überlegenheit quantitativer Methoden. Im Rahmen der sogenannten Universitätsstatistik9 wurde mehrere Jahrzehnte, wenn nicht sogar Jahrhunderte lange dezidiert nicht-quantitativ gearbeitet. Menges (1982: 5) beschreibt die Folgen: „Die Universitätsstatistik war deskriptiv orientiert, die Politische Arithmetik analytisch; die Universitätsstatistik begnügte sich mit ungenauen Angaben, die Politische Arithmetik strebte nach Exaktheit; die Universitätsstatistik verwandte nur gelegentlich Zahlenangaben, die Politische Arithmetik basierte auf Zahlen; die Universitätsstatistik war eine Kathederlehre, die Politische Arithmetik kam aus der Praxis.“ Daraus schließt er: „Konfrontiert man diese Gegensätze mit dem Stil moderner Wissenschaftlichkeit, so erkennt man 8

Feynman (2007: 54) fasst viele der von uns genannten Gründe wie folgt zusammen: „[. . .] Mathematik ist eben nicht allein eine andere Sprache. Mathematik ist eine Sprache plus Schlussfolgerungen; sie ist gleichsam eine Sprache plus Logik. Mathematik ist ein Werkzeug, um Schlüsse zu ziehen. Sie ist eine gewaltige Sammlung logischer Denkresultate.“ (Hervorhebung im Original) 9 Etwa ab dem Jahr 1600, siehe z. B. Menges (1982: Kapitel 1; 2. Abschnitt).

6

1 Einleitung

die historische Überlegenheit der Politischen Arithmetik [. . .]“ Sogar der Name Statistik wurde von der Politischen Arithmetik „usurpiert“.10 Auch Kelvin (1891: 80f), zitiert nach Michell (2003b: 7), schreibt völlig unzweideutig: In physical science a first essential step in the direction of learning any subject is to find principles of numerical reckoning and methods for practicably measuring some quality connected with it. I often say that when you can measure what you are speaking about and express it in numbers you know something about it; but when you cannot measure it, when you cannot express it in numbers, your knowledge is of a meagre and unsatisfactory kind; it may be the beginning of knowledge, but you have scarcely in your thoughts advanced to the stage of science, whatever the matter may be.

Nun gibt es nicht nur quantitative Methoden, sondern auch in mathematischer Sprache formulierte Theorien, insbesondere in den besonders weit entwickelten und zugleich besonders erfolgreichen Wissenschaften. Man kann die Physik seit Newton nur verstehen, wenn man in der Lage ist, die von ihr verwendete Mathematik zumindest nachzuvollziehen. Physikalische Theorien sind untrennbar mit der Mathematik verwachsen, jeder Versuch, ihre Begriffe und Strukturen umgangssprachlich zu fassen oder auch nur zu erläutern führt unweigerlich zu einem substanziellen Verlust. Häufig wurde mathematische Theorie sogar für einen bestimmtes Feld entwickelt. Was ist der Grund dieser „unvergleichlichen Leistungsfähigkeit der Mathematik in den Naturwissenschaften?“ 11 Zumindest folgende Gründe sind zu nennen: 1. Präzision: Mathematische Begriffe erlauben es, sich exakt auszudrücken. Man kann auch subtilen Unterschieden gerecht werden. 2. Klarheit: Zahlen - aber auch alle anderen Begriffe der Mathematik - sind völlig unzweideutig. Es ist klar, was sie bedeuten. (Semantischer Vorteil) 3. Transparenz: Axiome legen den Rahmen fest, innerhalb dessen man sich bewegt. Deshalb sind auch sämtliche mit ihrer Hilfe errichteten mathematischen Strukturen völlig transparent. Logische Fehler lassen sich leichter aufspüren, als bei (in sich unscharfen) verbalen Formulierungen. 4. Verbindlichkeit: Die Axiome, und nichts sonst, bestimmen die Regeln. Da sie für alle Forscher gleich sind, folgt auch sofort intersubjektive Verbindlichkeit. 5. Strenge: Die Sprache der Mathematik ist logisch-streng. Dies gibt dem ganzen Projekt einen festen Halt. (Syntaktischer Vorteil) 6. Monotonie: Mathematische Ergebnisse bleiben gültig, egal wie sich verbale Diskussionen entwickeln, d.h., mathematisch tradiertes Wissen erodiert nicht.12 10 11

Für viele weitere Details siehe Sheynin (1977: 216-231, 255).

Siehe den berühmten Beitrag von Wigner (1960), der sogar von einer unreasonable effectiveness spricht. 12 Das Gegenteil ist sogar der Fall: Neue Einsichten können sich problemlos an die tradierten Gewissheiten anlagern oder diese verallgemeinern. Mathematische Strenge und Systematik sorgen zudem ganz automatisch für Ordnung.

1.1 Ausgangspunkt

7

7. Konstruktion: Mathematische Kritik ist konstruktive Kritik. Zumeist trägt sie zur Problemlösung aktiv bei, indem sie ein Begriffsgebäude bereitstellt, aus dem hervorgeht, wie etwas funktioniert.13 8. Kalkül: Last but not least ermöglicht es die Mathematik, logisch-strenge Schlussfolgerungen zu ziehen, insbesondere kann man, ausgehend von bestimmten Voraussetzungen, etwaige Folgen berechnen.14 Alle wirklich großen Philosophen und Naturwissenschaftler waren derselben Ansicht. Bei Galilei begann unsere Diskussion. Einige weitere, sehr klare Beispiele mögen genügen:15 Leonardo da Vinci (1452-1519): „Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung.“ Newtons Hauptwerk (1687) heißt Philosophiae Naturalis Principia Mathematica und er schreibt im Vorwort:16 “[. . .] the moderns, rejecting substantial forms and occult qualities, have endeavored to subject the phenomena of nature to the laws of mathematics, I have in this treatise cultivated mathematics as far as it relates to philosophy [science] . . . and therefore I offer this work as the mathematical principles of philosophy [. . .]” Kant (1786: 14): „Ich behaupte aber, daß in jeder besonderen Naturlehre nur so viel eigentliche Wissenschaft angetroffen werden könne, als darin Mathematik anzutreffen ist.“ Einstein (1953): “Development of Western science is based on two great achievements: the invention of the formal logical system (in Euclidean geometry) by the Greek philosophers, and the discovery of the possibility to find out causal relationships by systematic experiment (during the Renaissance).” Tukey (1969: 728): “Bear in mind a simple fact: the great majority of the useful facts that physics has learned - and recorded in numbers - are specific 13

Oftmals lässt sich daraus sofort ein konkreter Bauplan für die konkrete Situation gewinnen, zuweilen sogar logisch-streng ableiten. 14 Wirtz (2007) schreibt sehr schön: „Wozu braucht der Ingenieur, Techniker oder Architekt Mathematik? [. . .] Merke: Mathematik ist die Sprache der exakten Naturwissenschaften und damit der Technik. Auf sie baut die Technik Effizienz und Sicherheit in komplexeren Situationen. Durch sie unterscheidet sich der Ingenieur vom Handwerker. Als Sprache der exakten Wissenschaften ist Mathematik Bedingung für interdisziplinäres Arbeiten wie auch für die Wissenskommunikation (speziell das Lesen von Fachliteratur oder Normen). Dem Ingenieur obliegt traditionell die technische Leitaufgabe: Als ‚Kopfwerker‘ dient er dem Handwerker - und nicht als tabellenkonsumierende oder ‚stuhlwärmende‘, marktschreiende Hilfskraft, der alles mangels Grundlagenkenntnissen noch erklärt werden muss, die mangels fundierten Einsichten für zentrale Anliegen nur lückenhaft Verständnis aufbringen kann und die sich auf das Vertrauen in die übernommene ‘black box’ stützen muss, so letztlich dem Zufall ausgeliefert statt auf Berechnungen gestützt. Ein Ingenieur muss seiner Aufgabe gewachsen sein, die übernommene Verantwortung bezüglich Sicherheit und Effizienz in allen Aspekten überprüfbar zu tragen - und nicht nur referenzbasiert mit Hilfe der Krücke von Verweisen.“ 15 16

Für viele weitere Beispiele siehe Michell (2000). Siehe Kline (1980: 54)

8

1 Einleitung

and detailed, not global and general. The qualitative properties of things have proved much less important than the quantitative ones.” 17 Feynman (2007: 74f): „Die Physik läßt sich in keine andere Sprache [als jene der Mathematik] übersetzen. Wenn Sie etwas über die Natur erfahren, sich ein Bild von ihr machen wollen, müssen Sie sich der Sprache bedienen, die sie spricht. Sie gibt ihr Geheimnis nur in einer Form preis [. . . Zuweilen stellt man einfach] eine Gleichung auf und hat damit das Gesetz entdeckt - allem Anschein nach eine recht effektive Methode, die einmal mehr beweist, wie gut sich die Mathematik eignet, die Tiefen der Natur auszuloten. Dagegen können alle Versuche, sie durch philosophische Prinzipien zu erfassen oder durch die Einbildung, sich auszudenken, einpacken.“ Hilbert (1930): „Die Mathematik ist das Instrument, welches die Vermittlung bewirkt zwischen Theorie und Praxis, zwischen Denken und Beobachten: sie baut die verbindende Brücke und gestaltet sie immer tragfähiger. [. . .] Wir beherrschen nicht eher eine naturwissenschaftliche Theorie, als bis wir ihren mathematischen Kern herausgeschält und völlig enthüllt haben. Ohne Mathematik ist die heutige Astronomie und Physik unmöglich; diese Wissenschaften lösen sich in ihren theoretischen Teilen geradezu in Mathematik auf.“ Bei einer so verstandenen „angewandten“ Mathematik handelt es sich also nicht um irgendeine randständige Hilfstätigkeit, die man im Prinzip auch anders ausführen oder gar vernachlässigen könnte. Ganz im Gegenteil: Bei einer mathematisch formulierten empirischen Theorie, handelt es sich um nicht weniger als um das kristallisierte Verständnis realer Sachverhalte - streng, deduktiv aus Prinzipien hergeleitet, komprimiert, verbindlich und unmittelbar konstruktiv verwertbar. Dies hat Rényi (1972) in seinen Dialogen meisterhaft zum Ausdruck gebracht und dem entsprechend sagt der häufig zitierte David-Report (1984): „Hochtechnologie ist im Wesentlichen mathematische Technologie!“ Lassen wir einem Philosophen in dieser Angelegenheit das letzte Wort: Die Vorteile der quantitativen Sprache sind so augenscheinlich, daß man sich wundern muß, warum so viele Philosophen ihren Gebrauch in den Wissenschaften kritisiert haben. (Carnap 1982: 118)

Wissenschaftstheorie, -forschung und Statistik Was bedeutet dies alles für die von uns angestrebte Untersuchung der Grundlagen der Statistik? Geht man von der eher allgemein-philosophisch vagen 17

Hervorhebung im Original, da Tukey programmatisch fortfährt: “Why should this not hold true for people? I believe that just this will prove to be so, but not without much effort. Even if the task is hard, is it not past time to begin, especially in selected, more or less well-understood, subfields?” Noch prägnanter sagt Thorndike (1918: 16), zitiert nach Michell (2000: 655): “Whatever exists at all exists in some amount. To know it thoroughly involves knowing its quantity.”

1.1 Ausgangspunkt

9

Erkenntnistheorie zu den schärfer umrissenen Problemen der Wissenschaftstheorie über, so ergibt sich ein erster Zugewinn an Präzision. Geht man den Schritt zur Wissenschaftsforschung, so gewinnt man zusätzlich die empirische Ausrichtung. Geht man schließlich einen weiteren Schritt zur Statistik, so erschließt man sich den Vorteil quantitativer und mathematisch-exakter Argumente. (Quantitative) Wissenschaftsforschung und (empirische) Statistik sind jedoch keine Gegensätze. Der Unterschied liegt vor allem in ihrer Positionierung: Die Wissenschaftsforschung erhebt sich als Metawissenschaft über den Einzelwissenschaften und versucht gewissermaßen aus der Vogelperspektive die Quintessenz von Forschung zu erspähen.18 Die Statistik betrachtet den Prozess der Erkenntnisgewinnung hingegen aus der Froschperspektive. Zwischen der wissenschaftlichen Theorie „oben“ und dem empirischen Grund „unten“ liegen die Daten, auf die sich jede empirische Wissenschaft maßgeblich stützt. Wie wir festgestellt haben, ist genau deren Erhebung, Analyse und Interpretation das Feld der Statistik. Einige Autoren bringen sogar den engen Zusammenhang zwischen Wissenschaftstheorie und Statistik explizit zum Ausdruck, etwa Hand (1998a: 245): Statistics [is] a scientific method or applied philosophy of science.19 Buja (2006: 329) führt dies aus: Indeed, similar to the way the natural sciences replaced what was formerly the ‘philosophy of nature’, statistics appropriated topics that used to belong to ‘epistemology’. Again similar to the natural sciences, statistics developed some aspects of epistemology beyond anything that philosophers of the past could have anticipated. In as far as the business of statistics [is] to ponder the question ‘how is it possible to extract knowledge from empirical observations?,’ our field is the legitimate inheritor of the quantifiable aspects of epistemology.

Das heißt, es geht bei einer Philosophie der Statistik bei weitem nicht nur um eine (weitere) spezielle Wissenschaftstheorie. Im Gegenteil: Die Fundamente der Statistik sind deshalb von besonderer Bedeutung, weil sich in ihrem exakten Rahmen allgemeine erkenntnistheoretische Probleme klären lassen. Alle empirischen Wissenschaften, aber auch die Wissenschaftsforschung, -theorie und darüber hinausgehend die allgemeine Erkenntnistheorie bauen auf Fakten und Daten auf bzw. beschäftigen sich mit dem Gewinn von Erkenntnissen. Versteht man nun den erfolgreichen Erkenntnisprozess der Naturwissenschaften und insbesondere deren Art und Weise, mit Daten umzugehen, so sollten sich allgemeine Rückschlüsse ziehen lassen. Statistische Verfahren, Theorien und Schlussweisen können also als quantitative Modelle einer allgemeinen Erkenntnis- und Wissenschaftstheorie dienen. Statistik ist Erkenntnis- und Wissenschaftstheorie im Kleinen und im Exakten. Poetischer formuliert: In der Statistik trifft sich die Tiefe der Philosophie mit der Schärfe der Mathematik zu einem „empirischen Stelldichein.“ 18

Dabei lädt ein Instrument wie der Science Citation Index zu statistischen, quantitativen Untersuchungen geradezu ein! 19

Meine Hervorhebung, siehe hierzu auch die gleichlautenden Bemerkungen von Dawid, S. 124.

10

1 Einleitung

Dieses „Rendezvous“ ist nicht ohne Folgen geblieben. Aus Anlass der 150Jahr-Feier der Royal Statistical Society bemerkte einer der beiden geladenen Festredner: We face continuing controversy and disagreement within our own ranks concerning the deepest of all issues which we claim as our own, the methodology of scientific inference. This is not a matter which we can safely ignore. If statistics is to be more than playing with numbers, it must address itself to the basic questions of the nature of the conclusions which the mind is entitled to draw from the numbers and the so-clever analyses of them that we as statisticians devise. These questions are not new, indeed they are among the very oldest that man has chosen to set before himself, and it is possible to feel that little enough progress has been made towards answering them in a period of 2000-3000 years. I think that we can justifiably claim that, during the last 150 years, more light has been shed on them by statisticians than by followers of other disciplines, whether scientific of philosophical. Many of the most difficult problems of epistemology have been illuminated by statistical thinking, and many current discussions of the scientific method would be more productive if they took on board the conceptual innovations which we are accustomed to associate with the names of Fisher, Savage or Birnbaum - to mention only some who are no longer with us. (Healy 1984)

1.2 Abbildung der Realität Thought is primarily practical; and only in the second place theoretical [. . .] without theory there would only be a few rudimentary types of practice, but without practice there would be no theory at all. (Collingwood 1942)

Alle wirklich realistischen Positionen in der Erkenntnistheorie gehen davon aus, dass die äußere Wirklichkeit von einem erkennenden Subjekt (mehr oder minder zuverlässig) wahrgenommen werden kann. Zudem wird die Realität typischerweise als sehr unabhängig vom Subjekt angenommen. Die projektive Erkenntnistheorie (siehe z. B. Vollmer (1995a: Kapitel 5)) formalisiert diese Idee. Dabei orientiert sie sich an der Abbildung bzw. Projektion (⇒) eines Objektes auf einen Schirm: Objekt =⇒ Bild ⊆ Schirm

(1.1)

und formuliert das folgende erkenntnistheoretische Modell:20 Reale Welt =⇒ Empfindung / Wahrnehmung ⊆ Erkenntnisapparatur (1.2) Man beachte, dass hierbei Welt und Projektion (das Signal und die Signalverarbeitung) „objektiv“ sein sollen, während Bild und Erkenntnisapparatur zum wahrnehmenden Subjekt gehören. Einfluss auf die subjektiv wahrgenommene Empfindung haben also drei Komponenten: 20

Siehe insbesondere Vollmer (1994: 122ff)

1.2 Abbildung der Realität

11

1. Das abgebildete Objekt bzw. die reale Welt 2. Die Projektion, also die Abbildungsvorschrift 3. Die Struktur des Schirmes bzw. des Wahrnehmungsapparates Vollmer schreibt hierzu (Hervorhebung im Original): Kennt man diese drei Bestimmungsstücke, so kann man das Bild bestimmen (konstruieren). Das Bild wird dabei nicht in allen Zügen mit dem Original übereinstimmen. Es bleibt jedoch immer eine gewisse partielle Isomorphie bestehen. Kennt man nur das Bild, so kann man deshalb „umgekehrt“ versuchen, aufgrund von Annahmen (Hypothesen!) über den eigentlichen Gegenstand, den Projektionsmechanismus und den Aufnahmeschirm das Bild zu „erklären“. Auf diese Weise ist es möglich, aus dem Bild hypothetische (!) Informationen über das projizierte Objekt zu gewinnen.

Das gerade aufgestellte Modell der subjektiven Erkenntnis ist sehr natürlich. Im wesentlichen stellt es die Gemeinsamkeiten fast aller realistischen Theorien unserer Erkenntnis anschaulich dar. Es gibt eine (äußere) Welt mit Objekten. Diese werden (zuweilen) auf unsere subjektive Welt abgebildet, wo wir sie als Sinneseindruck bzw. Empfindung wahrnehmen. Fast alle in der Erkenntnistheorie vorherrschenden realistischen Auffassung teilen diese Ansicht. Sie differieren jedoch im Ausmaß der „partiellen Isomorphie“. Während ein naiver Realist das Wort „partiell“ einfach streichen könnte, investieren kritischere Formen des Realismus viel Aufwand in die Frage, was unter „partiell“ genau zu verstehen ist. Bereits das Wort Projektion ist unscharf und stellt eine Einschränkung dar. Bei der Mercator-, Peters-, Behrmann- und anderen in der Geodäsie gebräuchlichen Projektionen wird der dreidimensionale Globus auf eine zweidimensionale Karte abgebildet. Diese speziellen Abbildungsvorschriften verallgemeinert man in der sogenannten projektiven Geometrie zu einer Gruppe zulässiger Transformationen.21 Häufig versteht man in der Mathematik jedoch unter Projektionen auch einfach Abbildungen, welche höherdimensionale Räume in Räume mit niedrigerer Dimension überführen, insbesondere wenn man aus einem n-dimensionalen Vektor (x1 , x2 , . . . , xn ) gewisse der Komponenten, etwa (x1 , x2 ), „ausliest.“ Versucht man diese Unschärfe zu umgehen und spricht stattdessen einfach von einer Abbildungstheorie der Erkenntnis, so ist das zwar genauer, stellt aber immer noch eine Einschränkung dar. Zum einen gibt es neben den Abbildungen im engen mathematischen Sinne noch allgemeinere Möglichkeiten, Realität und Empfindung in Relation zu setzen. Zum anderen werden - empirisch gesehen - im Allgemeinen zwei verschiedene Bilder von unseren Augen wahrgenommen, so dass offensichtlich erst eine konstruktive Leistung unseres Gehirn diese wieder zu einer Empfindung zusammensetzt. Noch an anderen Stellen bleibt das Modell vage. Zum Beispiel beschreibt es nur ungenau, wie der Übergang von (objektiver) äußerer Welt zu (subjektiver) Empfindung erfolgt. Es wird auch nicht erläutert, welche Eigenschaften des Objektes von uns überhaupt wahrgenommen werden können (hierauf gibt 21

Für eine klassische Darstellung siehe z. B. Courant und Robbins (2001: Kapitel IV, §2).

12

1 Einleitung

allerdings die evolutionäre Erkenntnistheorie eine sehr plausible Antwort).22 Schließlich bleibt ganz entscheidend offen, wie sich denn aus der Kombination aller Informationen im wahrgenommenen Objekt die jeweiligen Einflüsse von Objekt, Projektion und Wahrnehmungsapparat isolieren lassen. Zur Empfindung tragen ja alle drei Komponenten etwas bei. Wie kann man aus der Mischung aller dieser Einflüsse die einzelnen Beiträge zurückgewinnen? Hierzu ein kleines statistisches Modell: Das Objekt A werde auf die Erkenntnisapparatur B abgebildet. Die Abbildung entspreche gerade einer „Multiplikation“, welche zur Empfindung C führe. In einer Gleichung: C = A · B. Wenn man nun nur C kennt, ist man nicht in der Lage, auf A oder B zurückzuschließen. Man sagt dann, dass A und B nicht identifizierbar seien. Die Situation ist unterbestimmt, weshalb man nicht zwingend von C auf A schließen kann. Nur unter zusätzlichen Annahmen, z. B. dass B positiv ist, lässt sich aus der Kenntnis von C genaueres über A sagen. Ist z. B. das beobachtete C negativ, so muss auch A < 0 sein.

1.3 Empirische Wissenschaften The statistician cannot excuse himself from the duty of getting his head clear on the principles of scientific inference, but equally no other thinking man can avoid a like obligation. (Fisher 1966: 2)

Die empirischen Wissenschaften gehen im Prinzip ebenfalls von Modell (1.1) aus. Ein empirischer Sachverhalt, eine Struktur, ein Objekt wird beobachtet, und das Ergebnis sind gewisse Daten. Damit steht auch die Wissenschaft vor demselben erkenntnistheoretischen Grundproblem: Wie lassen sich - aufgrund der zur Verfügung stehenden Daten - Abbildung und Objekt trennen bzw. wie unterscheidet man zwischen den Eigenschaften der Abbildung und des Objekts?

1.3.1 Subjektunabhängigkeit Die Situation ist insofern einfacher, weil man - anders als in der Erkenntnistheorie - in den meisten Fällen vom erkennenden Subjekt absehen kann. Der in der Erkenntnistheorie immer sehr problematische Übergang von objektiven 22

Eine Präzisierung des Modells findet sich in Saint-Mont (2000: 36-64). Dort wird zum einen Shannons Theorie der Signalübertragung, welche zwischen Signal und Fehler unterscheidet, verwendet. Zudem wird diskutiert, dass nur ein Teil der im Prinzip vorhandenen Informationen beim Subjekt ankommt (Selektionseffekte) und schließlich wird argumentiert, dass das Subjekt die empfangenen Informationen noch (in einem Kontext) interpretieren muss. Ein anderer Versuch der Präzisierung mithilfe der modernen mathematischen Abbildungstheorie ist Saint-Mont (2000), Anhang A.

1.3 Empirische Wissenschaften

13

Fakten zu subjektiven Anschauungen entfällt, da die Daten - z. B. notiert in einem Labortagebuch, einer elektronischen Datei oder aber auch einem wissenschaftlichen „Paper“ - genauso objektiv wie die anderen Komponenten des Modells sind. Handelt es sich bei den Ergebnissen um Zahlen, so hat dies einen weiteren Vorteil. Der „Schirm“ ist dann nämlich streng genommen die gesamte Mathematik. Alle empirischen Strukturen, die sich in Form von Zahlen und deren Beziehungen abbilden, können mit den genauso exakten wie umfangreichen Methoden der Mathematik analysiert werden. Dies ist ein immenser Vorteil gegenüber vagen Anschauungen oder gar einer subjektiven Empfindung! Intersubjektive Verbindlichkeit, sowohl was die Daten als auch was die Ergebnisse der numerischen Analyse anbelangt, wird so möglich. Auch sehr große Datenmengen können bequem gespeichert und ausgewertet werden, wobei die Präzision lediglich von der Güte der Messung, also der Genauigkeit der Übertragung von der empirischen Welt auf den uns zur Verfügung stehenden Datenträger abhängt. Das Grundmodell nimmt somit für die empirischen Wissenschaften die folgende Gestalt an: Empirische Struktur =⇒ Daten ⊆ Mathematik

(1.3)

Das Potenzial dieser Art der Aufzeichnung und Auswertung von Informationen ist immens. Zum ersten demonstrieren zahlreiche Naturwissenschaften, dass äußerst aussagekräftige Daten gewonnen werden können. Zum zweiten ist die Mathematik der einzige Bereich unserer Erkenntnis mit sicherem Wissen,23 und es lassen sich alle zuvor genannten Vorzüge der Mathematik ausspielen. Zum dritten ist aufgrund der Theorie der Berechenbarkeit (Turing 1936) sichergestellt, dass unsere Computer - Universalrechenmaschinen aus Daten im Prinzip alles berechnen können, was überhaupt sinnvollerweise berechenbar genannt werden kann. Auch hier wäre es wünschenswert, die „Projektion“ (⇒) präziser zu beschreiben. Wie man sich leicht klar macht, handelt es sich im einfachsten Fall um eine Beobachtung ohne weitere Hilfsmittel, etwa wenn ein Arzt zählt, wie oft das Herz eines Patienten pro Minute schlägt, oder ein Astronom mit dem „unbewaffneten Auge“ die Positionen von Sternen bestimmt. Im Allgemeinen wird man den Übergang von realer Welt in das Universum der formalen Strukturen als Messung bezeichnen, an der auch mehr oder minder sophistizierte Instrumente beteiligt sein können. Den Extremfall stellen womöglich die tonnenschweren Detektoren der Teilchenphysiker oder die riesigen Teleskope der Astronomen dar. Wie auch immer die Details im konkreten Fall aussehen - Der zentrale Punkt ist, dass bei einer Messung eine reale Gegebenheit oder Struktur in Zahlen und formale Zusammenhänge überführt wird. 23

Dem Autor ist bewusst, dass nicht jeder zeitgenössische Philosoph diese Ansicht teilt, siehe Kline (1980) und Zimmermann (1995). Der Leser, dem der Begriff „sicher“ zu weitgehend ist, wähle stattdessen die schwächere, aber wohl unstrittige Formulierung „Mathematische Erkenntnisse sind die sicherste Art von Wissen, die der Mensch kennt.“

14

1 Einleitung

Genau das ist auch die mittlerweile klassische und sehr weite Definition von Stevens (1951: 29): “The most liberal and useful definition of measurement is the assignment of numerals to things so as to represent facts and conventions about them.”

1.3.2 Replikation Die Ergebnisse eines einzelnen Experiments, einer isolierten Untersuchung oder Studie sind in den seltensten Fällen für sich genommen überzeugend. Der Grund ist ebenfalls in Modell (1.1) bzw. (1.3) zu erblicken: Untersucht man einen Sachverhalt nur ein einziges Mal, so vermengen sich im Ergebnis überdauernde, permanente Effekte und spezifische Faktoren. Beide determinieren das Ergebnis, doch sind die einen vorübergehend oder der speziellen Situation geschuldet, und damit letztlich unerheblich, während die anderen über das konkrete Experiment hinaus stabil und von erheblicher Bedeutung sein können. Zudem können sich bei einer einzelnen Untersuchung leicht Fehler einschleichen. Bei einem beobachteten Effekt könnte es sich schon deswegen schlicht um ein Artefakt handeln, der auf „glücklichen“ Umständen, Messungenauigkeiten oder aber auch Auswertungsfehlern beruht. Umso mehr drängt sich die Frage auf, wie man im Prinzip zwischen Wesentlichem und Unwesentlichem, Objekt und Abbildung, Struktur und Zufall bzw. Stabilem und Vorübergehendem unterscheiden kann. Replikation lautet die ganz zentrale, konstruktive Antwort der empirischen Forschung: Replication on fresh data, preferably by another group of experimenters, is a mainstay of ‘the scientific method.’ (Diaconis 2006: 18)24

Wenn sich ein Ergebnis zuverlässig reproduzieren lässt, so ist ein wesentlicher „realer“ Einfluss auf Dauer weit plausibler als eine fortgesetzte „Glückssträhne“, also spezifische und sich zugleich ständig ändernde Faktoren, die das Resultat ebenfalls beeinflussen. Tritt ein Effekt immer wieder auf oder lässt er sich sogar gezielt herbeiführen, so wird man ihn kaum auf ständig wirksame Störfaktoren, Messfehler oder gar Wahrnehmungstäuschungen zurückführen können. Ist er darüber hinaus interessant, so tut man sogar gut daran, ihn genauer zu untersuchen. Bei potenziell wichtigen Resultaten bedeutet das in aller Regel, dass andere Forscher versuchen werden, ein Ergebnis mit ihren Mitteln zu replizieren. Nicht immer ist dies ganz einfach. Zum Beispiel gab es jahrhundertelange 24

Für eine Sammlung ähnlich griffiger Zitate siehe Falk (1998: 313ff) und die S. 384 genannte Literatur. Judson (2004) wirft einen kritischen Blick auf die aktuelle Wissenschaftspraxis, bei der nur allzu oft auf die Replikation von Ergebnissen verzichtet wird. (Siehe S. 553.)

1.3 Empirische Wissenschaften

15

sehr glaubwürdige Berichte über Kugelblitze. Viele, auch naturwissenschaftlich geschulte und sehr kritische Beobachter bezeugten, dass sie Kugelblitze gesehen hätten. Allein, es gelang nie, diese Objekte unter kontrollierbaren Umständen zu erzeugen, geschweige denn eingehend zu studieren. So führte der Kugelblitz ein Dasein am Rande der Wissenschaft, ähnlich wie die Homöopathie, die Parapsychologie oder die Astrologie. Dies könnte sich nun geändert haben, da vor kurzem brasilianische Wissenschaftler ein nachvollziehbares Verfahren angegeben haben, mit dem sich Kugelblitze zuverlässig erzeugen lassen (siehe Muir (2007)). Zweifelsfreie Replikation ist notwendig für einen potenziell beachtenswerten wissenschaftlichen Effekt, denn lässt sich eine interessante Beobachtung nicht replizieren, so wird ihn die Fachwelt kaum ernst nehmen. In der Physik spricht man dann von einem okkulten Effekt, den man auf unbekannte Faktoren, zufällige Randbedingungen, Fehler oder sonstige unwesentliche Umstände zurückführt. Man denke an die Parapsychologie: Seit Jahrzehnten wird behauptet, es gäbe einschlägige Effekte wie Hellsehen, Psychokinese oder außersinnliche Wahrnehmung. In sorgfältig kontrollierten Experimenten konnten diese jedoch nie dingfest gemacht werden. Zusammengefasst heißt das: Substantive replication is required by science in order to help ensure objectivity. (Guttman 1985: 9)

1.3.3 Wechsel der Perspektive Replizieren heißt wiederholen, womit sich vorübergehende Fluktuationen von permanenten Effekten unterscheiden lassen sollten. Ein Blick auf Modell (1.1) bzw. (1.3) zeigt, dass die Replikation jedoch das Grundproblem nicht vollständig löst. Selbst wenn alle Wiederholungen erfolgreich sind, also von einem ernstzunehmenden Effekt gesprochen werden kann, so sind die Daten doch noch immer vom Objekt als auch seiner speziellen Abbildung, z. B. dem konkreten Messinstrument, abhängig. In den Daten vermengen sich nach wie vor die Einflüsse von realem Objekt und Messvorgang, von Abzubildendem und der vom Beobachter eingenommenen Perspektive, wie auch das obige „statistische Modell“ verdeutlicht. Systematische Variation ist die zentrale, konstruktive Antwort der empirischen Forschung an dieser Stelle. Man muss die Perspektive systematisch verändern, um zwischen (den Eigenschaften von) Objekt und Abbildung unterscheiden zu können. Das läuft darauf hinaus, ein und dieselbe Sache mit verschiedenen Instrumenten, einer anderen Messmethode, in einem externen Labor, unter anderen Randbedingungen, zu beobachten. Zielt die Replikation eines Ergebnisses primär darauf ab, einen Effekt überhaupt erst zweifelsfrei zu fassen, ihn sozusagen zu fixieren, möchte man mit der „Variation der Situation“ so genau wie möglich zwischen all’ jenen Faktoren trennen, die auf äußere

16

1 Einleitung

Einflüsse zurückzuführen sind und jenen Eigenschaften, die auf das Objekt selbst zurückgehen. Wie wir schon deutlich gemacht haben, ist man an letzteren weit mehr interessiert als an ersteren. Man möchte einen Aspekt der Welt besser verstehen - die Instrumente und Methoden sind hingegen letztlich nur geeignete Hilfsmittel. Selbstverständlich ist es auch nötig, deren Verhalten zu kennen, die Erhebungsverfahren und Messmethoden zu begreifen, doch lediglich, um zum Kern der Angelegenheit - der Realität - vorzustoßen. Die grundlegende Entscheidungsregel ist, völlig analog zur Replikation, auch hier ganz einfach: Alle Eigenschaften, die sich bei einer Variation der Situation, also bei einem Wechsel der Perspektive, nicht verändern, sozusagen „innert“ bleiben, sollten als Eigenschaften des untersuchten Objekts betrachtet werden, während alle Merkmale, die sich mit der Situation verändern, spezifisch für die Situation sind, von dieser zumindest (in gewissem Maße) abhängen und damit nicht zum eigentlich interessierenden Objekt gehörig. Im einfachsten, aber typischen Fall entdeckt man unter speziellen Umständen, vielleicht sogar einem einmaligen Entdeckungszusammenhang, auf jeden Fall aber unter einer ganz bestimmten Perspektive, ein neues Phänomen. Erfolgreiche Replikationen zeigen, dass das Phänomen nicht okkult ist. Variiert man die Bedingungen mehrfach und bleibt es dabei stabil, so hat man es isoliert. Dies gilt erst recht, wenn man schließlich zu einem interessanten Phänomen gerade die Klasse all jener Situationen angeben kann, in denen es sich zeigt. Man kann auch von einer Generalisierung sprechen, da es gelungen ist, von einer einzigartigen, konkreten Situation auf eine ganze Reihe von Beobachtungszusammenhängen überzugehen, in denen die gemachte Entdeckung von Bedeutung ist. Das mag sich hier noch trivial anhören, doch ist gerade die Generalisierung eine der wichtigsten Antriebsfedern wissenschaftlichen Fortschritts. Der Schluss von den Daten auf die Struktur in der realen Welt ist natürlich immer hypothetisch. Bei der soeben skizzierten Strategie handelt es sich ja um nicht mehr als eine sehr nahe liegende und oftmals erfolgreiche Heuristik, um den Einfluss von Objekt und Instrument auseinander zu halten. Diese Strategie der (systematischen) Perspektive-Wechsel funktioniert nicht, wenn sich die Situation gar nicht variieren lässt. Astronomen können z. B. nur den Himmel beobachten, der sich über ihnen erhebt. Häufiger noch ist, dass ein originelles Experiment unter neuen, bislang nicht untersuchten Randbedingungen zeigt, dass eine Eigenschaft eben gerade nicht - wie bislang angenommen - zum Objekt, sondern zur Situation gehört bzw. von dieser wesentlich beeinflusst wird. Einige Beispiele: 1. In der Physik misst man grundlegende Naturkonstanten in ganz verschiedenen Situationen. Die Elementarladung eines Elektrons lässt sich zum Beispiel mithilfe der Bewegung von Elektronen in elektrischen Felder bestimmen, aber auch mithilfe von elektrochemischen Experimenten. Die Tatsache, dass die Elementarladung in allen untersuchten Situationen immer exakt dieselbe ist, lässt sie uns als eine Eigenschaft des Elektrons erscheinen.

1.3 Empirische Wissenschaften

17

2. Ein historisch und philosophisch sehr wichtiges Beispiel ist die Bestimmung der Avogadroschen Zahl (siehe Nye (1972), Perrin (1990)). In den Jahren 1908-1913 maß Perrin die fragliche Größe mit 13 voneinander unabhängigen und völlig verschiedenen Methoden. Im Rahmen der Messungenauigkeit führten alle Messungen zu ein und demselben Wert der fraglichen Zahl. 3. Die Chemie widmet sich dem Studium der Elemente und ihrer Beziehungen. Zu jedem chemischen Element lassen sich lange Listen von Eigenschaften, wie z. B. Atommasse, -Radius, Dichte, Magnetismus, Wärmeleitfähigkeit, Elektronegativität usw. angeben. Schaut man genau hin, so werden bei manchen der vermeintlichen Elementeigenschaften jedoch zusätzliche Bedingungen genannt, welche angeben, in welcher Situation ein bestimmter Wert gültig ist. Von besonderer Bedeutung sind die sogenannten „Standard-“ und „Normalbedingungen“. 4. Die Biologie teil sich im Wesentlichen in zwei „Reiche“. In der Molekular-, Zell- und Entwicklungsbiologie sowie der Physiologie betrachet man den jeweiligen Organismus als solches und seine Entwicklung, also seine Veränderung mit der Zeit. Die Ökologie, Verhaltens- und Evolutionsbiologie beschäftigen sich hingegen ganz spezifisch mit den Wechselwirkungen von Organismus und Situation, also der Umwelt, in der er lebt. Eine spezielle Eigenschaft, z. B. „Agressivität“ wird man einer Art nur dann zuschreiben, wenn sie oft oder sogar unter (nahezu) allen Umweltbedingungen zu beobachten ist. 5. In der Sozialpsychologie ist die Trennung von Umwelt- bzw. Situationsvariablen auf der einen Seite und personenbezogenen Merkmalen auf der anderen Seite von besonderem Interesse. Zum Beispiel ist eine wichtige Frage der Entwicklungspsychologie, inwieweit beobachtete Fähigkeiten auf individuelle Prädispositionen, etwa genetischer Art, zurückzuführen sind und inwieweit sie von Umwelteinflüssen „moduliert“, also beeinflusst werden.25 Zwillings- und Geschwisterstudien sind genau deshalb besonders wichtig, weil man mit ihrer Hilfe den jeweiligen Einfluss zumindest abschätzen kann. Wer würde nicht von individuellem, angeborendem Talent ausgehen, wenn zwei eineiige Zwillinge, die bei der Geburt getrennt wurden, und in völlig unterschiedlichen sozialen Verhältnissen groß wurden, später genau denselben Beruf ergriffen? 6. Die allgemeine Psychologie, und hier speziell die Intelligenzmessung, liefert ein Beispiel, was geschieht, wenn die Trennung von Objekt und Randbedingungen nicht befriedigend möglich ist. Intelligenz sollte - genauso wie die Körpergröße - eine Eigenschaft des Indivduums sein, egal wie man sie misst. Leider konnte man sich auch nach vielen Jahrzehnten der Intelligenzforschung auf keine allgemein verbindliche Definition einigen. Eher spricht man von vielen Facetten der Intelligenz (z. B. numerischmathematischer, sprachlicher, emotionaler, sozialer usw.), die alle zum 25

Die Biologie spricht völlig analog vom „Phänotyp“, dessen Ausprägung sowohl vom „Genotyp“ als auch von der jeweiligen Umwelt abhängt.

18

1 Einleitung

Erfolg des Individuums beitragen.26 Schlimmer noch: Die Facetten von Intelligenz entsprechen ziemlich genau den Teilen von Intelligenztests und im Extremfall definiert man Intelligenz als das, was ein Intelligenztest misst. „Intelligenz“ ist damit keine Eigenschaft der Person, sondern untrennbar mit der Art und Weise ihrer Messung verbunden, ganz so, als würde das Gewicht eines Menschen von der Art des Wiegevorganges abhängen.27 Die Beispiele zeigen, dass die Trennung in „reine“ Objekteigenschaften und ebenso isolierte äußere Aspekte nur der Anfang einer Analyse ist. Die Daten hängen im Allgemeinen von Objekt und Perspektive ab. Anders gesagt: Eine reale Begebenheit hinterlässt je nach Blickwinkel einen anderen Eindruck beim Beobachtenden; sie ist in diesem Sinne nicht absolut, sondern relativ. Es ist häufig sogar von größerem Interesse, diese qualitative Einsicht zu quantifizieren - also möglichst genau zu fassen, wie das Zusammenspiel des Merkmals und der Perspektive ist -, als beide nur nebeneinander zu stellen. Lässt sich das zu Beobachtende in Abhängigkeit von einer speziellen Situation, also je nach Perspektive, charakterisieren, und kann man auf diese Weise exakt zwischen Objekt und Perspektive diskriminieren bzw. in einer Formel ihren jeweiligen Einfluss quantifizieren, so hat man damit noch weit mehr erreicht. Ein erstes solches Relativitätsprinzip geht schon auf Galilei zurück. Es besagt, dass physikalische Größen bzw. Eigenschaften von Objekten immer nur relativ zu einem Bezugssystem definier- und messbar sind. Ausgangspunkt war der Begriff der Bewegung bzw. Geschwindigkeit, definiert man doch letztere über die gleichförmige Bewegung eines Objektes in28 einem Bezugssystem. Galilei (1632) - siehe auch Schmutzer und Schütz (1989: 98) - motivierte das Prinzip u.a. mithilfe der damals umstrittenen Frage, ob sich eine Kugel an Bord eines fahrenden Schiffes in Bewegung oder in Ruhe befinde. Seine Antwort lautete, dass die Beantwortung der Frage von der Position des jeweiligen Beobachters abhängt: Ein Beobachter, der sich ebenfalls an Bord des Schiffes befindet, sieht die Kugel in Ruhe, während ein Beobachter am Ufer die Kugel sich zusammen mit dem Schiff bewegen sieht. Die Eigenschaft, in Bewegung zu sein, hängt also von der Wahl des Bezugssystems („Schiff“ versus „Ufer“) ab. Es handelt sich nicht um eine Eigenschaft, die der Kugel alleine zukommt. Daraus zog Galilei den Schluss, dass physikalische Eigenschaften eingeteilt werden müssen in relative, welche von den Eigenschaften 26

Insbesondere hat das Multi-Facetten-Modell von Guilford (1967) eine große Bedeutung erlangt. 27

Im Rahmen der Messtheorie werden wir in Abschnitt 2.5.5 ausführlicher auf den Instrumentalismus bzw. Operationalismus eingehen. 28 - also „relativ zu“ -

1.4 Die zentrale Bedeutung der Invarianz

19

des Bezugssystems abhängen, und absolute, die unabhängig von der Wahl des Bezugssystems definiert oder gemessen werden können.29 Allgemein wird man daran interessiert sein, erstens die relevanten (realen) Faktoren zu kennen, zweitens deren Beziehungen untereinander zu erfassen und drittens den Einfluss der Perspektive zu beschreiben. Am eindrucksvollsten gelingt dies wieder in der Physik, wenn man einen deterministischen, in einer einfachen mathematischen Funktion ausdrückbaren Zusammenhang zwischen den relevanten Merkmalen angeben kann, der noch dazu in der Empirie (nahezu) exakt gültig ist. So ändert sich die Masse eines Objektes mit seiner Geschwindigkeit. Je schneller sich ein Objekt bewegt, desto schwerer wird es, und die genaue - sehr wichtige - Formel liefert Einsteins spezielle Relativitätstheorie. Lässt sich also sagen, dass die Masse keine Eigenschaft des Objektes, sondern eine Eigenschaft von Objekt und Bewegung ist? Im Allgemeinen ja. Deshalb spricht man präziser von der Masse mv des Objekts bei einer bestimmten Geschwindigkeit v und zeigt bereits durch die Notation, dass eine Abhängigkeit zwischen Masse und Geschwindigkeit besteht. (Man könnte auch sagen, dass v überabzählbar viele mögliche Situationen „parametrisiert“, in denen sich das Objekt betrachten lässt.) Andererseits ist die sogenannte Ruhemasse m0 eine Eigenschaft des Objektes. Ein Kubikzentimeter Gold wiegt 19, 25g, ein Kubikzentimeter Silber 10, 49g, die Geschwindigkeit spielt hier keine Rolle.30

1.4 Die zentrale Bedeutung der Invarianz Eine nur ist sie für alle, doch siehet sie jeder verschieden; Daß es eines doch bleibt, macht das Verschiedene wahr. Schiller (1987: 309), „Wahrheit“

Egal ob man nun ein Objekt relativ zu einem Bezugssystem betrachtet, oder aber ob man ein Objekt auf verschiedene Arten abbildet - die obige Diskussion sollte deutlich gemacht haben, dass es in beiden Fällen von großem Interesse ist, genau zu studieren, was sich ereignet, wenn man die Perspektive wechselt. Das eine Mal ist zu beschreiben (unabhängig von jeder potenziellen Messung), was sich bei einer Änderung des Bezugssystem verändert und was gleich bleibt. Das andere Mal ist zu analysieren, welche Objekteigenschaften 29

Formuliert man diesen Gedanken mathematisch aus, so kommt man zur sogenannten Galilei-Transformation, aus der die wichtigsten Erhaltungssätze der klassischen Mechanik (Energie, Impuls, Drehimpuls) folgen! 30 In der modernen Physik hat der Ausdruck „invariante Masse“ oder einfach „Masse“, die nur eine Eigenschaft des untersuchten Objektes ist, den Ausdruck „Ruhemasse“ verdrängt. Dies nicht zuletzt deshalb, weil auch Licht - also Photonen, die sich immer mit Lichtgeschwindkeit bewegen - gemäß m = E/c2 , also der berühmten Einsteinschen Formel, eine Masse besitzt.

20

1 Einleitung

bei der Messung erhalten bleiben und welche von der speziellen Situation abhängen (bzw. allgemeiner, wie beide zusammenwirken). In beiden Fällen ist Invarianz der entscheidende Begriff. Ließe sich zum Beispiel „Geschwindigkeit“ unabhängig von einem speziellen Bezugssystem beschreiben, so wäre sie mit Fug und Recht eine Eigenschaft des Objektes. Dem Bezugssystem, relativ zu dem es sich bewegt, kommt dann nur eine Hilfsfunktion zu. Genau das gilt in der Newtonschen Mechanik: Ein Körper bewegt sich im Raum während die Zeit vergeht und beeinflusst beide nicht. Man kann den Rahmen, d.h. hier das Koordinatensystem, zumindest in gewissen Grenzen beliebig wählen, was bei Anwendungen „nebenbei“ den großen Vorteil hat, dass sich das Bezugssystem problemadäquat wählen lässt. Genau dasselbe gilt für eine Messung: Ist eine Größe unabhängig vom speziellen Messvorgang oder -instrument, so lässt sie sich zurecht als eine Eigenschaft des Objektes bezeichnen. Zentrale physikalische Größen wie Masse, Ladung, Temperatur oder Radioaktivität sind allesamt unabhängig von der Art der Messung definiert und damit Eigenschaften des untersuchten Objektes. Invarianz in dem von uns verwendeten Sinn bedeutet im einfachsten Fall, dass sich ein Merkmal beim Übergang in eine andere Situation überhaupt nicht verändert, also konstant bleibt. (Klassische Beispiele hierfür sind die elektrische Ladung und die S. 17 erwähnte Avogadrosche Zahl.) In einem etwas weiteren Sinne ist mit Invarianz Folgendes gemeint: Transformiert man ein Bezugssystem A in ein Bezugssystem B, so macht das Merkmal diese Transformation mit. Ist zum Beispiel Objekt A doppelt so schwer wie Objekt B in einem ersten Bezugssystem, so ist es dies auch in einem zweiten Bezugssystem.31 In der klassischen Physik ist das Bezugssystem oftmals einfach ein Koordinatensystemen (das z. B. den Raum beschreibt, in dem sich ein Objekt bewegt) und die Koordinaten werden transformiert. Ändern sich die interessierenden Merkmale dann mit den Koordinaten, sind sie also „kovariant“, so sind Aussagen über die Merkmale in allen (bzw. sehr vielen) Koordinatensystemen gültig. Verwendet man den kurzen Begriff „Gesetz“ anstelle des länglichen „Aussagen über Merkmale“ und ersetzt man „kovariant“ durch den sehr eng verwandten Begriff der Invarianz, so kommt man zu der durchaus nicht ganz trivialen Einsicht, dass physikalische, aber auch andere Gesetze mit allgemeiner Gültigkeit, invariant32 gegenüber (möglichst vielen) Koordinatentransformationen sein sollten und es de facto auch sind. Die Invarianz von Gleichungen bei Transformationen heißt oft schlicht Symmetrie, und gemäß dem Noether-Theorem ist jede solche Symmetrie mit einem Erhaltungssatz verknüpft.33 Vor ca. 90 Jahren zeichnete sich in der Physik ab, wie ungemein weitreichend diese Art der Betrachtung ist. E. Noether (1918: 240) selbst schreibt: „Mit diesen Zusatzbemerkungen enthält Satz I alle in Mechanik u. s. w. bekannten Sätze über erste Integrale, wäh31 32

Diese Art der Invarianz wurde früher in der Physik gerne „Forminvarianz“ genannt. Genauer natürlich: kovariant bzw. forminvariant.

33

Siehe auch Feynman (2007: 128ff)

1.4 Die zentrale Bedeutung der Invarianz

21

rend Satz II als größtmögliche gruppentheoretische Verallgemeinerung der ‚allgemeinen Relativitätstheorie‘ bezeichnet werden kann.“ 34 Die damalige Einschätzung wird von heutigen Physikern nicht nur geteilt, sondern sogar noch einmal deutlich erweitert. Anderson (1972: 394) sagt prägnant: “By symmetry we mean the existence of different viewpoints from which the system appears the same. It is only slightly overstating the case to say that physics is the study of symmetry.” 35 Zwar sprechen die Erfolge der modernen Physik für sich, gleichwohl wäre die herausragende Bedeutung von Invarianzüberlegungen ohne die vorangestellte grundsätzliche Überlegung kaum zu verstehen. Symmetrien und Invarianzen sind eine konstruktive, allgemeine Antwort auf das fundamentale Problem der Erkenntnis: Wie lässt sich rational bzw. begründet zwischen Objekt und Perspektive differenzieren? Damit sind sie auch für alle empirischen Wissenschaften und die Philosophie von Belang: 1. Hume (1739)36 argumentiert, wir könnten nicht beweisen, unsere Wahrnehmung sei zuverlässig. Als Grund gibt er an, dass uns nur unsere (subjektiven) Sinneseindrücke zur Verfügung stehen, wir also keinen direkten Kontakt zur (hypothetischen) Außenwelt aufnehmen können (siehe Modell 1.1). Argumente zugunsten der Reliabilität der Wahrnehmung seien deshalb entweder unbegründet oder zirkulär, weil wiederum auf Sinneseindrücken beruhend. Doch wie steht es um jene Objekte und Eigenschaften der Wahrnehmung, die unter ganz verschiedenartigen Perspektiven invariant bleiben? Sie beweisen natürlich nicht, dass unsere Wahrnehmung zuverlässig ist, aber sie sind zumindest ein starkes Indiz dafür, dass die diversen Sinneseindrücke auf ein reales Phänomen zurückgehen. Die Alternativerklärung, dass unsere Wahrnehmung jedesmal Wesentliches beiträgt, wird nämlich umso unplausibler, je mehr Perspektiven uns zur Verfügung stehen. Akzeptiert man das völlig analoge und dort als sehr stark eingeschätzte Invarianzargument Perrins37 in der Realismusdebatte, so muss man es auch hier würdigen. 2. Die Anhänger des von Stegmüller (1979, 1986) initiierten Strukturalismus präzisieren mit formal-logischen Argumentationen wissenschaftstheoretische Überlegungen. Wie der Name schon andeutet, gilt ihr besonderes Interesse der Struktur wissenschaftlicher Theorien, welcher sie sich mithilfe mathematischer Definitionen und Beweise nähern. Mühlhölzer (1996) beleuchtet die große Bedeutung des Invarianzbegriffs für eine so verstandene 34

Sie schließt mit der Fußnote: „Hiermit ist wiederum die Richtigkeit einer Aussage von Klein bestätigt, dass die in der Physik übliche Bezeichnung ‚Relativität‘ zu ersetzen sei durch ‚Invarianz relativ zu einer Gruppe‘.“ 35 Meine Hervorhebung, siehe auch Laughlin (2007) 36 37

Siehe z. B. Howson (2000: 172) Siehe S. 17, 68 und Perrin (1990)

22

1 Einleitung

Wissenschaftstheorie. Im gleichen Sammelband verwendet Balzer (1996) Invarianzen, um theoretische Terme zu identifizieren. 3. Auch die Replikation neuer Phänomene lässt sich als spezielle Invarianzeigenschaft deuten: Nur Effekte, die sich zuverlässig replizieren lassen, sind nicht von einem konkreten Experiment und dessen flüchtigen Randbedingungen wesentlich abhängig. Das heißt, sie sind keine zufälligen Artefakte, sondern für sich genommen von Bedeutung, weshalb man sie womöglich näher untersuchen sollte. Auch in einer abstrakten Theorie der Messung sollte gemäß den obigen Überlegungen die Idee der Invarianz grundlegend sein. Dort sollte das Wesentliche und realistisch Interpretierbare in Form von Symmetrien und Invarianten auf sich aufmerksam machen. Die nachfolgende Messtheorie formalisiert diese Grundüberlegung und arbeitet sie dann systematisch aus. Schließlich vertiefen wir in Abschnitt 5.6 die bisherigen Überlegungen.

Kapitel 2

Messtheorie

Measurement began our might. W. B. Yeats, zitiert nach Duncan (1984: xiii)

2.1 Formalisierung des Messvorgangs Die klassische Messtheorie, eingeführt von Stevens (1946, 1951) und zur Blüte gebracht durch Krantz, Luce, Suppes und Tversky,1 geht von einem einfachen mathematischen Modell des Messvorgangs aus. Eine Menge W , welche die Realität (Welt) repräsentiert, wird durch eine feststehende Vorschrift s auf eine Menge Z von Zahlen abgebildet. Die Vorstellung ist, dass dabei einem realen Objekt a ∈ W eine Zahl z = s(a), sein Messwert, zugeordnet wird.2 Mathematisch gesehen ist s nichts anderes als eine Abbildung der Menge W in Z. Empirisch gesehen entspricht s einer Messvorschrift, welche determiniert, was wie gemessen wird. Das Ergebnis einer Messung ist ein numerischer Wert z, welcher via s auf der Realität ( also a) basiert. Deshalb charakterisiert Stevens jede Messung mit den Worten “[. . .] the assignment of numerals to things so as to represent facts [. . .] about them” (siehe S. 14). Eine gute Messung sollte auf W existierende (reale) Strukturen respektieren, also geeignet in die Menge der Zahlen transportieren. Man spricht auch von der repräsentationalen Theorie des Messens, da so in Z ein Abbild der realen Verhältnisse entsteht. Diese Idee formalisiert die Messtheorie mithilfe von Relationen: Man betrachte hierzu zunächst die Menge Z. Eine bekannte Relation ist „kleiner“, also „ 0! Einmal hat man einen logisch strengen Beweis; das andere Mal nur einen mehr oder minder plausiblen Hinweis auf die Gültigkeit von H. Praktiker werden ihn akzeptieren, solange ε nur klein genug, der benötigte „induktive Sprung“ 18 also nicht allzu groß ausfällt. Logiker müssen sich jedoch auch bei noch so kleinem ε > 0 verweigern.19 Die (kleine) Wahrscheinlichkeit von x kann allerdings nur in Ausnahmefällen als Evidenz gegen H interpretiert werden. Nimmt z. B. X die Werte 1, 2, . . . , n, jeweils mit Wahrscheinlichkeit 1/n an,20 und ist zugleich n groß,21 so ist die Wahrscheinlichkeit gerade die Zahl x = 1 (oder eine beliebige andere natürliche Zahl ≤ n) zu beobachten, verschwindend gering. Erhöht man n, so kann pn = 1/n beliebig klein gemacht werden. Es spricht in diesem Fall jedoch nicht gegen die Hypothese, dass für das beobachtete x die zugehörige Wahrscheinlichkeit P (X = x) sehr klein ist - ein bestimmtes x zu sehen ist genauso plausibel wie jede andere natürliche Zahl, die nicht größer als n ist.22 Gegen die Hypothese spricht jedoch, bei wiederholten Beobachtungen die Zahl x mehr als einmal zu sehen.

Der p-Wert Aus diesem Grund23 macht die Testtheorie von Fisher die Evidenz für bzw. gegen die Hypothese H in aller Regel nicht an der Einzelbeobachtung x und deren Wahrscheinlichkeit fest, sondern argumentiert wie folgt: Nehmen wir an, die Werte lassen sich sinnvoll anordnen. Das heiße im folgenden immer, kleine Werte von x seien extremer und damit „schwerer“ mit der Hypothese zu vereinbaren als große Werte.24 In diesem Fall ist die Wahrscheinlichkeit 18

Engl.: leap of faith

19

Man könnte von einem “law of insufficient reason” sprechen, hätte der Ausdruck in der Bayesschen Statistik nicht schon eine andere Bedeutung. 20

Es gilt also P (X = 1) = P (X = 2) = . . . = P (X = n) = 1/n = pn . Die Verteilung von X ist also die diskrete Gleichverteilung auf den ersten n natürlichen Zahlen. 21

Etwa n = 102 , 105 oder n = 1010

22

Spielman (1974) diskutiert diesen Punkt mit direktem Bezug zu Fisher ausführlich, siehe auch Nickerson (2000: 253), der sich auf Good (1983a) und Jeffreys (1961: 315) bezieht: “If mere probability of the observation, given the hypothesis, was the criterion, any hypothesis whatever would be rejected.” 23

Ein weiterer Grund sind stetige Zufallsvariablen. Für diese ist P (X = x) = 0, so dass man, falls man lediglich eine Hypothese H explizit betrachtet, nicht umhin kommt, einen Bereich, insbesondere natürlich P (X ≤ x), zu studieren, was im folgenden diskutiert werden wird. 24 Wir könnten auch den gegenteiligen Fall betrachten, dass große Werte „auffällig“ sind, oder aber den Fall, dass sich große und kleine Werte nur schwer mit der Hypothese vereinbaren lassen.

86

3 Klassische Statistik

p = F (x) = P (X ≤ x) ein sinnvolles Maß der Evidenz gegen die Hypothese. Anders gesagt: Man addiert alle Wahrscheinlichkeiten „extremer (möglicher) Werte“, beginnend mit der tatsächlichen Beobachtung x. Ein Beispiel: Die Wahrscheinlichkeit, dass ein Mädchen (i.Z. 1) geboren wird, sei gleich der Wahrscheinlichkeit für einen Jungen (0).25 Nehmen wir an, auf einer Geburtsstation werden pro Jahr n Kinder geboren. Dann sollte der Wert von S = X1 + . . . + Xn in etwa gleich n/2 sein, wenn Xi = xi gerade das Ergebnis der i-ten Geburt ist. Man erwartet, etwas anders gesagt, ca. 500 Mädchengeburten, wenn in einem Krankenhaus 1000 Geburten stattfinden. Deshalb wären wir verblüfft, wenn nun jedoch 800 Jungen und 200 Mädchen geboren worden wären und erst recht würden wir die Stirn runzeln, wenn auf 950 Jungengeburten nur 50 Mädchen kämen. Den Fall von insgesamt 0 Mädchen fänden wir erst recht äußerst bemerkenswert. Das heißt, mathematisch gesprochen, ein Maß gegen die Hypothese H ist die Summe der „extremen“ Wahrscheinlichkeiten, also p = P (S = 0) + P (S = 1) + . . . + P (S = s), wobei s gerade die Anzahl der tatsächlich beobachteten Mädchen ist.26 Genau das ist der berühmt(-berüchtigte) p-Wert, auch empirisches Signifikanzniveau genannt. Technisch gesehen ist er sehr einfach zu ermitteln. Ausgehend von einer Hypothese H berechnet man die Wahrscheinlichkeit des beobachteten Werts s und aller Werte, die noch „extremer“ sind als dieser. Auch seine Interpretation scheint naheliegend und geradezu trivial zu sein: Je kleiner der p-Wert, etwa p = 0, 000001, desto unplausibler ist es, dass tatsächlich H der Fall ist, ein großer Wert von p (etwa p = 0, 3) lässt sich andererseits nicht oder kaum als Evidenz gegen H verwenden. Die Literatur über p-Werte füllt viele Regalmeter und macht einen nicht unbeträchtlichen Teil der Kontroversen um die verschiedenen statistischen Testtheorien aus. Ein wesentlicher Grund ist, dass p-Werte eben doch notorisch schwer zu interpretieren sind. Zu klären sind zunächst einmal die Fragen: 1. Wie groß bzw. klein sollte p sein, um als „überzeugende Evidenz“ zu gelten? 2. Was heißt „extrem“? Sehr kleine, sehr große Werte oder beides? 3. Kann man die Werte wirklich immer von klein nach groß anordnen und damit in eindeutiger Weise von „extremer“ sprechen? Die Antworten der Fachliteratur sind: 25

Man geht also von der diskreten Gleichverteilung über {0, 1} aus, d. h. P (X = 0) = P (X = 1) = 1/2. 26

Der früheste statistische Test, über den in der Literatur berichtet wird, ist Arbuthnot (1710) und bezieht sich auf eine eng verwandte Situation. Arbuthnot wertete die Geburtenregister Londons aus und stellte dabei fest, dass in 82 aufeinanderfolgenden Jahren mehr Jungen als Mädchen geboren worden waren. Unter der Nullhypothese, dass Jungen- und Mädchengeburten gleich wahrscheinlich sind, ist die Wahrscheinlichkeit für dieses Ereignis gerade einmal 2−82 . Auch Arbuthnot entschied sich gegen die Nullhypothese, und sah in dem Ergebnis eine göttliche Fügung.

3.2 Statistische Tests

87

1. Ein p-Wert kleiner 5%, besser noch 1% oder sogar 0, 1% gilt als beachtenswert. 2. Es gibt sowohl „einseitige“ als auch „zweiseitige“ Tests. Bei letzteren sind sowohl kleine als auch große Werte auffällig, sprechen also gegen H. Bei ersteren ist immer nur eine Richtung der Abweichung kritisch. Ob man zweiseitig testen sollte oder sich auf einen einseitigen Test beschränken kann, hängt maßgeblich vom Vorwissen ab. 3. Selbstverständlich sind Situationen bekannt, in denen die Anordnung der Werte nicht eindeutig oder überhaupt nicht sinnvoll ist.27 Dies ist jedoch in der Praxis fast immer unerheblich. Je kleiner der p-Wert, desto größer die Evidenz gegen H, was schon Berkson (1942) betont hat. Liefern zwei Experimente denselben p-Wert, so sollte jener auch für dieselbe Evidenz stehen. Anders gesagt, p-Werte sollten unmittelbar miteinander vergleichbar sein. Ein solches „α-Postulat“ (Cornfield 1966: 19) ist jedoch, wie man zeigen kann, definitiv falsch. Insbesondere spielt auch n, also die Anzahl untersuchter statistischer Einheiten, eine wesentliche Rolle. Johnstone (1986: 496) schreibt dazu: “Thus, as Jeffreys explained in 1939, if the sample is very large, the level of significance P tends to exaggerate the evidence against the null hypothesis, i.e. P tends to be smaller than it ought to be. But in practice, if the sample is very large, a good orthodox statistician will ‘deflate’ intuitively the level of significance P accordingly.” McPherson (1989) schreibt dazu: “This is very likely true, but it is an inadequate base for presenting the p value approach to scientists.” In Efron und Gous (2001: 212) wird zumindest ein Schaubild angegeben, welches im Fall der Normalverteilung ein wachsendes n bei der Beurteilung der vorhandenen Evidenz berücksichtigt.28 Als Faustregel gilt, bei größerem n einen p-Wert nur dann für beachtlich zu halten, wenn er sehr klein ist, zumal es sich bei den Signifikanzgrenzen von 5%, 1% oder sogar 0, 1% um willkürliche Setzungen handelt. Fisher (1929: 191) selbst schreibt: “It is a common practice to judge a result significant, if it is of such a magnitude that it would have been produced by chance not more frequently than once in twenty trials. This is an arbitrary, but 27

Man erinnere sich an das Nominalskalenniveau. Es lassen sich auch Transformationen angeben, die eine Verteilung nicht verändern, zugleich jedoch extreme Werte auf mittlere, typischen Werte abbilden und umgekehrt. Siehe z. B. das von Albert (1992: 28) gebrachte Beispiel. 28

Royall (1986) zeigt sogar, dass man diametral entgegengesetzte Aussagen vertreten kann, also sowohl “A given P -value in a large trial is usually stronger evidence that the treatments really differ than the same P -value in a small trial of the same treatments would be” (Peto et al. 1976: 593), als auch “The rejection of the null hypothesis when the number of cases is small speaks for a more dramatic effect [. . .] if the p-value is the same, the probability of committing a Type I error remains the same. Thus one can be more confident with a small N than a large N ” (Bakan 1970: 241).

88

3 Klassische Statistik

convenient, level of significance for the practical investigator [. . .]29 Bis auf die Konvention, dass ein p-Wert größer als 5% nicht als Evidenz gegen die Hypothese interpretiert werden sollte, hat der Anwender also einen großen subjektiven Bewertungsspielraum. Das grundsätzliche Problem des Ansatzes ist, die empirische Erfahrung, also die tatsächliche Beobachtung x, mit nicht beobachteten Werten zu vermengen. Dies hat Jeffreys sofort erkannt und einen skurrilen Effekt dadurch erzeugt, dass er die Verteilung der Werte y < x geeignet abänderte. Ist zum Beispiel PH (X = x) = 0, 03 und PH (X < x) = 0, 01, so kann man bei der Beobachtung von x mit p = 0, 04 die Hypothese ablehnen. Aber ist das gerechtfertigt? Man betrachte dazu die etwas modifizierten Hypothese K mit PK (X < x) = 0, 4 und wie zuvor PK (X = x) = 0, 03. In diesem Fall wäre p = 0, 43, und wir hätten keinen Anlass, K abzulehnen. Man beachte, dass die Wahrscheinlichkeiten, gerade x zu beobachten, unter H und K gleich sind. Die Folgerungen sind jedoch allein aufgrund nicht beobachteter Werte völlig verschieden. Jeffreys (1939: 316) spießt das in einem bekannten Zitat wie folgt auf: An hypothesis that may be true is rejected because it has failed to predict observable results that have not occurred. This seems a remarkable procedure. On the face of it, the evidence might more reasonably be taken as evidence for the hypothesis, not against it.

Daraus sollte man schließen, dass “[. . .] a proper measure of strength of evidence should not depend on probabilities of unobserved values.” (Siehe Royall (1997: 69).) Dessen war sich auch Fisher (1973: 71), bewusst: Objection has sometimes been made that the method of calculating confidence limits by setting an assigned value such as 1% on the frequency of observing30 3 or less [. . .] is unrealistic treating values less than 3, which have not been observed, in exactly the same manner as 3, which is the one that has been observed. This feature is indeed not very defensible save as an approximation.

P -Werte werden oft falsch interpretiert, inbesondere als die Wahrscheinlichkeit P (H|x), dass H, gegeben die Daten x, zutrifft. Diese Interpretation ist jedoch nicht gültig, da man zu wenig vorausgesetzt hat, um eine solche Wahrscheinlichkeit zu berechnen. Fehlinterpretationen Vorschub leistet auch die Tatsache, dass der p-Wert sowohl als ein Maß für die Evidenz der Daten als auch als ein empirisches Signifikanzniveau - zur Entscheidung über die Hypothese H herangezogen wird.31 Entsprechend vielfältig sind die Formulierungen in Lehrbüchern. Royall (1997: Abschnitt 3.6) gibt eine kleine Auswahl; Nickerson (2000) macht sich die Mühe, viele in der Praxis beliebte Interpretationen genauer zu hinterfragen. 29

Wir ergänzen dieses Zitat S. 104. Siehe auch Upshur (2001: 567): “Why 5%?” und “Surely God loves the 0.06 nearly as much as the 0.05?” (Rosnow und Rosenthal 1989). 30 [in einem speziellen Experiment] 31

Dazu gleich mehr im nächsten Abschnitt.

3.2 Statistische Tests

89

Man hat auch kein Kriterium zur Verfügung, verschiedene Testverfahren zu vergleichen. Zuweilen gibt es aber mehr als ein „vernünftiges“ Verfahren und es bleibt die Frage, welches besser ist. Auch andere wichtige Fragen bleiben offen. Zum Beispiel, wie groß die Wahrscheinlichkeit ist, sich fälschlicherweise für H zu entscheiden bzw. wie groß die Chance ist, einen Effekt (der von H abweicht) zu entdecken.

3.2.2 Neyman und Pearson: Hypothesentests Vor allem aufgrund der formalen Mängel von Fishers Testtheorie schlugen Neyman und E. S. Pearson ab Ende der 1920er Jahre eine Alternative vor. Der wichtigste formale Unterschied ist, dass diese Autoren mit zwei Hypothesen, also zwei Wahrscheinlichkeitsverteilungen H0 und H1 , arbeiten. Man kennt also die Wahrscheinlichkeit PHi (X = x) unter beiden Hypothesen, dass x beobachtet wird, wenn Hi der Fall ist. Aufgrund der Beobachtung x will man zwischen den Hypothesen H0 und H1 wählen. Dies geschieht wie folgt: Man geht von H0 aus. Wie bei Fisher steht diese Null-Hypothese typischerweise für „kein inhaltlich bedeutsamer Effekt“ bzw. der „bloße Zufall regiert das Geschehen“. Dies möchte man verwerfen, jedoch nicht vorschnell. Deshalb legt man eine Wahrscheinlichkeit, das sogenannte Niveau α fest, und definiert als Ablehnungsbereich R = Rα all jene potenziellen Beobachtungen, die unter der Hypothese H0 , also falls H0 gültig ist, zu „extrem“ sind. Sind gerade kleine Beobachtungen auffällig, so definiert PH0 (X ≤ xα ) = α den Ablehnungsbereich der Nullhypothese. Da man bislang nur die Hypothese H0 berücksichtigt hat, gibt es mathematisch gesehen keinen Unterschied zu Fisher. Der entscheidende konzeptionelle Unterschied ist, dass α, das Fehlerniveau, a priori, also vor der Beobachtung festgelegt wird. Wie zuvor lautet die Konvention, α auf einen der Werte 5%, 1% oder 0, 1% zu setzen.32 Der danach konkret beobachtete Wert x spielt nur insofern einer Rolle, als dass er in die Region R fällt oder nicht.33 Hat man sich derart gegen eine vorschnelle Entscheidung zuungunsten von H0 abgesichert, berechnet man für einen konkreten Test, also mit einer Verteilung H1 , die Wahrscheinlichkeit eines Fehlers 2. Art. β ist entsprechend die Wahrscheinlichkeit, die inhaltlich interessante Hypothese H1 abzulehnen, obwohl sie tatsächlich gilt. Das geschieht genau dann, wenn x in den (mithilfe von H0 ) festgelegten Ablehnungsbereich fällt (obwohl H1 der Fall ist). Man hat also β = PH1 (X > xα ). Die Gegenwahrscheinlichkeit 1 − β quantifiziert 32

Was Neyman und Pearson ausdrücklich nicht vorschlugen - siehe (Lehmann 1993: 70) - sondern auf Fisher zurückgeht (siehe Johnstone (1987a: 489)). Interessanterweise lehnt Fisher (1973: 45) eine solche habitual practice mit dem S. 121 gebrachten Argument ab. 33

Ob also x ≤ xα ist (Ablehnung von H0 ) oder nicht. Bei Fisher wird hingegen aus dem konkreten numerischen Wert x der zugehörige p-Wert berechnet, weshalb man bei ihm auch vom empirischen Signifikanzniveau spricht.

90

3 Klassische Statistik

die Chance den Effekt H1 aufzuspüren (wenn die H1 tatsächlich gilt) und wird deshalb die Power des Tests genannt. Bei guten Tests ist 1 − β groß, z. B. 0, 8. Das heißt, man entdeckt oft einen tatsächlich existierenden Effekt. Genau dies ist auch der Weg zwischen Testverfahren zu unterscheiden: Dasjenige Testverfahren ist für eine bestimmte Stichprobengröße n optimal, welches bei festgelegtem α die Power maximiert, bei dem also PH1 (X ≤ xα ) maximal ist. Ein Test, der dies leistet, heißt optimal und das Lemma von Neyman und Pearson, das sich in jedem Lehrbuch der klassischen Statistik findet, gibt seine Gestalt an.34 Schließlich kann man auch anders herum vorgehen und aus den beiden Hypothesen sowie α und β die Stichprobengröße n berechnen, also die Anzahl an Beobachtungen, die nötig ist um bei festliegendem H0 , H1 sowie α den Effekt mit Wahrscheinlichkeit 1 − β zu erkennen. Mit den Worten von E. S. Pearson (1955: 207): The appropriate test is one which, while involving (through the choice of its significance level [α]) only a very small risk of discarding my working hypothesis [H0 ] prematurely will enable me to demonstrate with assurance [1 − β] (but without any unnecessary amount of experimentation)35 the reality of the influences which is suspect may be present [H1 ].

Zu dieser Sicht der Dinge sagen sie auch: “From the point of view of mathematical theory all that we can do is to show how the risk of the errors [α, β] may be controlled and minimized. The use of these statistical tools in any given case, in determining just how the balance [between the two kinds of errors] should be struck, must be left to the investigator.” Neyman und Pearson (1933: 79f) Eine wichtige Erweiterung des Verfahrens ist, H1 nicht präzise festzulegen, sondern eine ganze Menge von Alternativhypothesen zuzulassen. Während man zuvor von „Punkthypothesen“ spricht, da man ganz konkrete Hypothesen - Verteilungen - auszeichnet, ist im letzten Fall von unspezifischen Alternativen bzw. einer unspezifischen Alternativhypothese die Rede. Damit nähert man sich dem Verfahren von Fisher insofern an, als dass auch dieser keine spezifische Alternative formulierte. Dies erfolgte jedoch implizit. Hier ist der Vorteil, dass alle Alternativen explizit vorliegen, so dass man aus der Menge dieser Alternativen den “worst case” ermitteln kann und dafür quantitative Aussagen möglich sind. Die Erweiterung des Fisherschen Modells um eine explizite Alternativhypothese und die Festlegung des Signifikanzniveaus a priori entkräftet nicht alle weiter oben genannte Kritik. Nach wie vor ist das Ergebnis des Tests stark vom Stichprobenumfang abhängig. Insbesondere gilt: Null hypotheses of no difference are usually known to be false before the data are collected; when they are, their rejection or acceptance simply reflects the size of the 34

Wobei die Likelihood-Funktion, siehe S. 128, die entscheidende Rolle spielt.

35

[n so klein wie möglich, aber so groß wie nötig.]

3.2 Statistische Tests

91

sample and the power of the test, and is not a contribution to science. (Gelman et al. 2004: 193)

Etwas anders gesagt: Putting it crudely, if you have enough cases and your measures are not totally unreliable, the null hypothesis will always be falsified, regardless of the truth of the substantive theory. (Meehl (1978: 822), Hervorhebung im Original.)

Auch bei Neyman und Pearson lassen sich keine Wahrscheinlichkeiten berechnen, ob die Hypothesen stimmen. P (Hi ) kommt im Kalkül nicht vor und damit kann man auch nicht P (Hi |x) berechnen. Nur die Wahrscheinlichkeiten von Ereignissen, wenn eine der beiden Hypothesen der Fall ist, ist bekannt (nämlich P (x|Hi )). Insbesondere konstruiert man eine Entscheidungssituation, die bis ins Detail a priori festgelegt wird. Darauf kommen wir im in Abschnitt 3.4.1, zurück. Ein neues Gegenargument ist, dass der konkrete Wert der Beobachtung nicht relevant ist, man ignoriert also potenziell relevante Informationen. Man vergleiche die äußerst grobe Aussage „Die Beobachtung liegt im Ablehnungbereich“ mit „Der p-Wert ist gleich 0, 0004“ oder sogar der Angabe des beobachteten Wertes x. Während die Interpretation des p-Wertes, wie wir gesehen haben, eine subtile Angelegenheit ist, fällt die Bewertung hier nach der Beobachtung völlig „mechanisch“: Verwerfung von H0 , falls x ∈ R, ansonsten Beibehaltung von H0 . Dies ist nicht nur von Vorteil. Denn das Verfahren kann höchst sensitiv auf eine winzige Änderung in den Daten reagiert: “[. . .] an epsilon variation in the data can swing the decision one way or the other” (Rissanen 2007: 103). Wie bei Fisher ist zudem die Situation asymmetrisch, die beiden Hypothesen werden ungleich behandelt. Eine andere Kritik zielt auf die praktische Relevanz der Vorgehensweise. Zur Kontrolle einer industriellen Produktionsanlage, wenn häufig die H0 (gelegentliche, unsystematische Schwankungen in der Produktion) und manchmal die H1 (systematischer Fehler in der Produktion) gilt, ist das Modell geeignet. In diesem Fall ist implizit davon auszugehen, dass zuweilen die H0 und zuweilen die H1 zutrifft, also sollte man sowohl den Fehler 1. als auch den Fehler 2. Art kontrollieren. Wird eine Hypothese häufig getestet, deren Wahrheitswert variiert, so ist dies ein sinnvolles Vorgehen. Nicht jedoch zur Beurteilung einer (festen) wissenschaftlichen Hypothese, die entweder zutrifft oder nicht. Zwar ist es auch hier sinnvoll, sich gegen einen Fehler 1. Art abzusichern, also nicht vorschnell für die H1 zu votieren. Doch was ist, wenn die H1 zutrifft, es also einen interessanten Effekt gibt? Bei einer Power von z. B. 0, 7 werden ca. 30% der Testergebnisse gegen die H1 sprechen. Man hat aufgrund dieser Resultate also allen Grund, an der H1 zu zweifeln, da: “[. . .] a theory that has seven facts for it and three facts against it is not in good shape, and it would not be considered so in the developed science.” (Meehl (1978: 823), Hervorhebung im Original.) Vertritt man einen falsifikationistischen Rigorismus, so sollte die H1 schon bei einer einzigen Widerlegung verworfen werden! Bei einem Test mit Power

92

3 Klassische Statistik

0, 7 ist jedoch genau das obige, ambivalente Ergebnis - für H1 - zu erwarten. Die Argumentation mit α und β erscheint so wie die Formalisierung eines ungenauen Messinstruments, das es uns erheblich erschwert, die Wahrheit von H1 zu erkennen. Tatsächlich ist die Situation in den Sozialwissenschaften sogar noch problematischer, da dort zumeist überhaupt keine expliziten Power-Überlegungen angestellt werden (Sedlmeier und Gigerenzer 1989) und die Ergebnisse oft widersprüchlich sind.

3.2.3 Tests in der Praxis Über die gerade im Abriss vorgestellten Testtheorien sind in den letzten Jahrzehnten Bibliotheken geschrieben worden. Zwar hat sich offiziell die NeymanPearsonsche Theorie durchgesetzt, doch tatsächlich wird in der Praxis eine wenig attraktive Mischung Fisherscher- und Neyman-Pearsonscher Überlegungen benutzt. Spielman (1974: 211) schriebt sehr schön: This hybrid is essentially Fisherian in its logic, but it plays lip service to the NeymanPearson theory of testing [. . .] Some researchers do use the Neyman-Pearson theory of testing in a pure form, but they constitute a small minority [. . .] Regardless of their terminology and verbal allegiance, most researchers in the fields mentioned above use and/or accept as valid a pattern of inductive reasoning that is characteristic for the Fisherian test of significance.

Die Einzelheiten: 1. Verbale Erwähnung von H0 und H1 als Referenz an Neyman und Pearson 2. Angabe des exakten p-Werts als Referenz an Fisher 3. Kennzeichnung des erreichten Signifikanzniveaus durch Sternchen. Zumeist ein Stern, falls p < 0, 05, zwei Sterne, falls p < 0, 01 und drei Sterne, falls p < 0, 001. Was auf den ersten Blick wie eine überzeugende Mischung beider Ansätze aussehen mag, ist in Wirklichkeit Eklektizismus: Das Signifikanzniveau muss nach Neyman und Pearson a priori festgelegt werden. Zeichnet man den erzielten p-Wert jedoch erst im Nachhinein mit der größtmöglichen Anzahl von Sternchen aus, so tut man genau dies nicht; d.h., man hat gewiss auch nicht den Fehler 1. Art kontrolliert. Scheinbar werden zwar a priori aufgestellt Hypothesen getestet, man geht also wie Neyman und Pearson deduktiv vor. Tatsächlich steht jedoch der empirische p-Wert im Zentrum der Interpretation (s.o.) Die ohnehin schon problematische Interpretation von p-Werten wird durch diese Mischung von Hypothesentestund Signifikanztest-Argumentation vollends obskur.36 Es wäre wünschenswert, wenn sowohl die Null- als auch die Alternativhypothese je einer mathematisch adäquat operationalisierten substanziellen 36

Eine hervorragende Klärung gibt Goodman (1993).

3.2 Statistische Tests

93

Hypothese entspräche. Tests werden jedoch meist so angewandt, dass die Alternative nicht mathematisch präzisiert wird, also simultan eine ganze Familie von Verteilungen H1 betrachtet werden. Damit arbeitet man jedoch de facto (fast) nur mit einer konkreten Nullhypothese. Doch noch nicht einmal die Nullhypothese entspricht einer inhaltlich interessanten Hypothese. Zumeist ist sie lediglich eine nil-hypothesis, die man verwerfen „möchte“, da sie nur angibt, was zu erwarten ist, wenn der Zufall das Geschehen bestimmt.37 Es werden also nicht konkrete Belege für eine spezifische Hypothese H1 gesammelt, vielmehr wird lediglich der „Strohmann“ H0 verworfen. Die Ablehnung der H0 ist jedoch genauso Beleg für jede andere Hypothese H1 .38 Aufgrund der asymmetrischen Behandlung von Hypothese und Alternative(n) lässt sich zudem ein nicht signifikantes Ergebnis schwer interpretieren. Manche Autoren lehnen dies sogar vollkommen ab: „Im Ansatz von Fisher kann die H0 nur verworfen, nicht aber angenommen werden (Sedlmeier 1996: 43).39 Insgesamt hat man das Gefühl, es mit einem Testritual40 zu tun zu haben, dessen Ergebnis null science (Bower 1997), ist. Schon Tukey (1967: 585) erkannte dies: “Formal testing cannot rescue us from an absence of ideas.” Obwohl also jeden Tag unzählige Hypothesen verworfen werden - was nach Popper ein ziemlich sicheres Zeichen für den schnellen Fortschritt der Wissenschaft sein sollte - bleibt der kumulative Fortschritt aus. Der Versuch, die Vorzüge mehrerer Verfahren in einem Hybridmodell zu vereinen, ist also nicht von Erfolg gekrönt gewesen. Vielmehr haben die Schwierigkeiten durch die Vermischung teilweise inkompatibler Ideen noch zugenommen, und ebenfalls wie bei der Messtheorie zieht sich die Diskussion über die „richtige“ Anwendung der Testtheorien schon Jahrzehnte hin. Im großen und ganzen stehen Naturwissenschaftler der „offiziellen Statistik“ recht reserviert gegenüber, wobei Jaynes (2003) nur ein Beispiel von vielen ist. In den Sozialwissenschaften inklusive der Medizin wurden jedoch im Fahrwasser des Erfolgs quantitativer Methoden auch Hypothesentests und einige andere statistische Verfahren zum de facto Standard. Es sollte jedoch nicht verwundern, dass die Einsichten, welche man mithilfe der gerade beschriebenen „kochbuchartigen Schulstatistik“ gewonnen hat, eher dürftig sind. Analog der Messtheorie verwendet man zwar fleißig ihre Begriffe und berechnet darüber hinaus emsig p-Werte und andere Statistiken, betrachtet dieses jedoch nicht ganz zu unrecht als lästige Pflichtübung. Statistik nach strengen Regeln be37

Mehr dazu S. 101.

38

Das erinnert nicht zu Unrecht an das Raben-Paradoxon (siehe Abschnitt 4.7.2), bei dem man sich unter anderem fragt, inwiefern die Beobachtung eines weißen Taschentuchs die Behauptung stützt, dass alle Raben schwarz sind. 39 Dazu mehr in Abschnitt 3.4.1. 40

Siehe insbesondere auch Gigerenzer (2004), Gigerenzer et al. (2004), doch schon Hotelling et al. (1948: 103) schreiben: “Unfortunately, too many people like to do their statistical work as they say their prayers - merely substitute in a formula found in a highly respected book written a long time ago.”

94

3 Klassische Statistik

trieben hört sich wissenschaftlich an, beeindruckt mit exakten Zahlen, schwer verständlichen Argumenten und macht Arbeiten vor allem publikationsfähig. Primär aus diesen Gründen wird sie wohl von vielen Wissenschaftlern benutzt, nicht weil man ihren intrinsischen Erkenntnis-Wert schätzte. Insbesondere tut man wie bei der messtheoretischen „Bedeutsamkeit“ gut daran, trotz allen Aufwands nach wie vor präzise zwischen numerischer und fachwissenschaftlicher Signifikanz zu trennen. Es ist oberflächlich und schlecht, statistisch signifikante Resultate (p < 0, 05) ohne weiteres Nachdenken auch als substanziell bedeutsam zu sehen und umgekehrt. Eine numerisch bedeutsam erscheinende Signifikanz kann inhaltlich gesehen völlig unwichtig sein, während auch ein „noch“ nicht signifikantes Ergebnis ein wichtiger Hinweis sein kann. Viele wichtige Effekte waren zunächst experimentell kaum zu kontrollieren und entsprechend schwer mit statistischen Verfahren zu erkennen.41 Es gab schon viele Vorstöße, an diesem wenig vorteilhaften Status quo etwas zu ändern. Gigerenzer (2004) argumentiert genauso wie die “task force” (siehe Wilkinson (1999)) gegen mindless statistics, also den wenig inspirierten Einsatz statistischer Methoden und für statistical thinking (Mallows 2006: 324). Mit Bezug auf den Fehler 2. Art hat Cohen (1988) schon früh die Bedeutung der Größe von Effekten betont und ein klassisches Buch darüber geschrieben, wie man kleine, mittlere und große Effekte statistisch dingfest macht. Tversky und Kahneman (1971: 110) schreiben: [. . .] the emphasis on significance levels tends to obscure a fundamental distinction between the size of an effect and its statistical significance. Regardless of sample size, the size of an effect in one study is a reasonable estimate of the size of an effect in replication.

Zumindest in Epidemiologie und medizinischer Statistik setzt sich langsam durch, mit der absoluten und relativen Risikoreduktion (ARR bzw. RRR) sowie der Anzahl der benötigten Patienten42 die Größe von Effekten zu quantifizieren. Dies ist ein besonders wichtiges Beispiel für die allgemein zu hörende Empfehlung, doch Methoden zu verwenden, die mehr Informationen liefern, als die 0-1-Entscheidung eines Hypothesentests, wobei insbesondere auch Konfidenzintervalle hier häufig genannt werden (Fidler 2004). Für eine ganze Reihe weiterer, konkreter konstruktiver Vorschläge siehe insbesondere Harlow et al. (1997: 3-13). Trotz lang anhaltender, überzeugender, ja teils sogar massiver Kritik hat sich bislang jedoch noch immer die normative Kraft des Faktischen durchgesetzt. Mehr noch: Die Bedeutung von Signifikanztests hat über die Jahrzehnte sogar deutlich zugenommen, und dies nicht nur in der Psychologie.43 41

Siehe z. B. Kirk (1996), Mallows (1998) und Wilkinson (1999). Engl. number needed to treat (NNT). Vergleicht man z. B. eine neue mit einer Standardtherapie, so bedeutet N N T = 10, dass man je 10 Patienten einen günstigen Verlauf mehr erwarten darf. Die positive Wirkung der neuen Therapie ist groß, weil typischerweise schon 10 Behandelte genügen, um deren günstigen Effekt zu erkennen (Bender 2005). 42

43

Siehe Hubbard und Ryan (2000), aber auch schon Morrison und Henkel (1970).

3.2 Statistische Tests

95

Neben den schon genannten Artikeln verweisen wir hierzu auf die umfangreiche einschlägige Literatur, insbesondere Hubbard und Lindsay (2008), Hubbard und Bayarri (2003), Nickerson (2000),, Krueger (2001), Marden (2000), Chow (1998), Cohen (1994), Meehl (1990), die Bücher Morrison und Henkel (1970), Oakes (1986), Harlow et al. (1997) samt der Besprechung Krantz (1999) sowie die Beiträge von S. N. Goodman (1992, 1993, 1999a,b) mit epidemiologischem Schwerpunkt. Eine Sammlung aussagekräftiger Zitate „zum Thema“ hat Nester (1996) zusammengestellt.

3.2.4 Likelihood-Ratio-Tests Es ist verblüffend, dass so einfache Situationen, nämlich eine Beobachtung und eine bzw. zwei Hypothesen, zu den geschilderten Kontroversen führen konnten. Fangen wir deshalb nochmals von vorne an. Eine naheliegende Forderung an jede stochastische Testtheorie ist, dass sie den deterministischen Falls sinnvoll erweitert. Insbesondere sollte sie eine falsche Hypothese auch anhand einer mit ihr nicht vereinbaren Beobachtung sicher erkennen.44 Sowohl bei Fisher als auch bei Neyman und Pearson trifft das jedoch nur in extremen Ausnahmefällen zu. Im Fall einer diskreten Zufallsvariablen X impliziert PH (X = x) = 0 bei Fisher nur dann p = PH (X ≤ x) = 0, wenn auch für alle y < x die Gleichung PH (X = y) = 0 gilt. Da die Wahrscheinlichkeiten P (X ≤ x) für potenzielle Beobachtungen x nur bei der Definition des Ablehnungsbereichs Rα eine Rolle spielen, folgt bei Neyman und Pearson sogar, dass man aufgrund einer tatsächlichen Beobachtung x nie innerhalb des Modells logisch streng zwischen den beiden Hypothesen unterscheiden kann! Selbst wenn PH0 (X ≤ x) = 0 ist, was bei Fisher zur deduktiven Ablehnung der Nullhypothese reicht, führt das bei Neyman und Pearson nur zu der Bemerkung, dass x ∈ Rα liegt45 und die Nullhypothese deshalb abgelehnt werden sollte. (Und dies auch nur in dem Sinne, dass man sich so verhalten solle, als träfe die Nullhypothese nicht zu, wie wir später sehen werden.) Beidesmal sind Bereiche wesentlich, so dass die konkrete Beobachtung aus dem Blickfeld gerät. Natürlich könnte man die Modelle um den (trivialen) Hinweis „Vorsicht, zunächst die Wahrscheinlichkeit des Einzelwerts beachten!“ ergänzen, doch wird dies nicht getan. Stattdessen liest man die Verteidigung If x is a continuous variable [. . .] then any value of x is a singularity of relative probability equal to zero.46 We are inclined to think that as far as a particular 44

Was Albert (1992), wie erwähnt, den deterministischen Teil der Hypothese genannt hat. Falls wir wie immer von einem einseitigen Test ausgehen, bei dem kleine Werte auffällig sind. 46 Siehe dazu die Fußnote S. 84, die ausdrücklich davor warnt, eine technische Feinheit mit einem substanziellen Argument zu verwechseln. 45

96

3 Klassische Statistik hypothesis is concerned, no test based upon a theory of probability47 can by itself provide any valuable evidence of the truth or falsehood of that hypothesis. (Neyman und Pearson 1933: 74)48

Zuvor hatten wir Fishers Testtheorie als eine probabilistische Version des modus tollens aufgefasst. Bereiche kamen ins Spiel, weil bei einer einzigen Hypothese die Wahrscheinlichkeit des Einzelwerts zumeist kein fundiertes Urteil über die Hypothese zulässt. Es spricht jedoch nichts dagegen, bei zwei Hypothesen H0 und H1 den Quotienten q = PH0 (X = x)/PH1 (X = x), zu betrachten.49 Hier spielt nur die tatsächliche Beobachtung x eine Rolle und man vermeidet die zuvor genannten Probleme. Kann man aufgrund einer Beobachtung x eine der beiden Hypothesen sicher ausschließen, so entspricht das einem Widerspruchsbeweis bzw. einer eliminativen Induktion. Das ist offensichtlich für alle x mit PH0 (X = x) = 0 und PH1 (X = x) > 0, also q = 0, möglich, wenn man sich sicher für H1 entscheiden kann. Völlig analog kann man sich bei einer Beobachtung x∗ mit PH0 (X = x∗ ) > 0 und PH1 (X = x∗ ) = 0, also q = ∞, sicher für H0 entscheiden.50 Damit hat man die Tatsache, dass, wenn nur zwei Erklärungen in Frage kommen und die erste davon ausgeschlossen werden kann, die zweite richtig sein muss, in probabilistischer Sprache formuliert.51 In allen übrigen Fällen ist der Quotient ein relatives Maß für (q > 1) bzw. gegen (q < 1) die Nullhypothese. Wenn dieser Quotient (deutlich) größer als 1 ist, liegt eine Entscheidung für H0 nahe, ist er nicht weit von 0 entfernt, so drängt sich die H1 auf. Tests der obigen Gestalt heißen Likelihood-Tests und gehen ebenfalls auf Fisher zurück. Der Name ist nicht zufällig. Wir verweisen dazu auf die später (S. 128) zu besprechende Likelihood-Funktion und das dort gegebene allgemeinere Beispiel. Hier hat man lediglich zwei Verteilungen zur Auswahl, etwa 47

Einschränkende Fußnote im Original: “Cases will of course, arise where the verdict of a test is based on certainty [. . .]” 48 49 50

Siehe die Diskussion S. 117. Im Fall stetiger Zufallsvariablen verwendet man den Quotient der Dichtefunktionen.

Der Fall dass beide besagten Wahrscheinlichkeiten gleich Null sind deutet darauf hin, dass entweder die Beobachtung fehlerhaft war oder aber das Modell inadäquat ist. 51 Der Schluss ist - innerhalb des Modells - deduktiv. Man spricht trotzdem von eliminativer Induktion, weil man wie bei Fishers Testtheorie (implizit) über das Modell hinausdenkt. Bei einer wissenschaftlichen Fragestellung überträgt man die Schlussfolgerung des Modells auf die Realität, und genau dort stellt sich die Frage nach der Adäquatheit des Modells, zuweilen auch „Fehler dritter Art“ (siehe S. 273) genannt. Ganz konkret könnte man im Modell die richtige Hypothese nicht berücksichtigt haben, so dass man nicht zwischen der zutreffenden und einer unzutreffenden Hypothese unterscheidet, sondern zwischen zwei fehlerhaften. Wir vertiefen diesen Gedanken in Abschnitt 4.8.

3.2 Statistische Tests

97

x Hypothese 0 1 2 3 4 5 Summe H0 0,047 0,476 0,476 0 0 0 1 H1 0,001 0,044 0,265 0,442 0,221 0,026 1 In jeder Zeile steht eine Wahrscheinlichkeitsverteilung. Die LikelihoodBetrachtung wechselt nun einfach die Perspektive. Bei festgehaltener Beobachtung x wird spaltenweise betrachtet, welche Werte Lx (i) = PHi (x) angenommen werden. Beim Vergleich, also Test, (genau) zweier Alternativen reicht es aus, deren Quotienten zu bestimmen. Ist x = 2, so spricht der Quotient 0, 476/0, 265 = 1, 8 eher für H0 . Bei x = 3 kann man hingegen H0 ausschließen. Es sei noch erwähnt, dass Likelihood-Quotienten den Vorteil besitzen, invariant unter beliebigen Transformationen zu sein. Das heißt, berechnet man mit dem Parameter θ den Likelihood-Quotienten qx = PH0 ,θ (X = x|H0 )/PH1 ,θ (X = x|H1 ), so ändert sich dieser Quotient nicht, wenn man von dieser Parametrisierung des Problems zu der Parametrisierung φ = g(θ) mit einer beliebigen Funktion g übergeht. Man hat also auch in jenem Fall PH0 ,φ (X = x|H0 )/PH1 ,φ (X = x|H1 ) = qx . Für mehr Details siehe Pawitan (2001: Abschnitt 2.8). Wie bei Fishers ursprünglicher Testtheorie hat man ein quantitatives Maß an der Hand, nicht nur eine Entweder-Oder-Entscheidung. Wie bei Neyman und Pearson vergleicht man (basierend auf dem Likelihood-Quotienten), zwei Hypothesen. Doch anders als bei Neyman und Pearson ist die Situation nicht asymmetrisch, die Hypothesen stehen also gleichberechtigt nebeneinander. Darüber hinaus ist sowohl eine evidenz- als auch eine entscheidungsorientierte Vorgehensweise möglich. Royall (1997: 89) vergleicht die beiden (Hervorhebungen im Original): Evidential formulation: The experiment is a procedure for generating evidence about H1 vis-à-vis H2 . It can produce an unsatisfactory result, which can take either of two forms: strong evidence supporting the false hypothesis over the true one (misleading evidence), or weak evidence.52 We want to be pretty sure (respective probabilities at least (1 − M, 1 − W )) that the experiment will not produce an unsatisfactory result of either type. Neyman-Pearson formulation: The experiment is a procedure for choosing between H1 and H2 . It can result in an error, which can take either of two forms: choosing H2 when H1 is true (Type I), or choosing H1 when H2 is true (Type II). We want to be pretty sure (respective probabilities at least (1 − α, 1 − β)) that we will not commit an error of either type.

Wie zuvor lässt sich auch die H0 wieder gegen eine Menge von Alternativen testen. Auch dann ist man vor allem wieder am “worst case” interessiert. Das bedeutet, diejenige Hypothese H1 zu ermitteln, für welche der Quotient 52

Letzteres spielt bei Neyman und Pearson keine Rolle, da der numerische Wert von x keine Berücksichtigung findet; eine Entweder-Oder-Entscheidung kennt naturgemäß keine Grade der Sicherheit oder Evidenz.

98

3 Klassische Statistik

kleinstmöglich wird, womit man die geringstmögliche Evidenz zugunsten von H0 bei gegebenen Daten x ermittelt hat.53 Eine Reihe von Beispielen geben Goodman (1999b) sowie Berger und Sellke (1987). Nach wie vor lassen sich jedoch keine Wahrscheinlichkeiten berechnen, ob die Hypothesen stimmen. Diesen letzten Schritt geht das umfangreichste aller Modelle, der Bayessche Ansatz.

3.2.5 Bayessche Testtheorie Die Wahrscheinlichkeit, dass die Hypothese Hi (i = 0, 1), gegeben die Beobachtung x, zutrifft, ist gerade gleich der Posteriori-Wahrscheinlichkeit P (Hi |x). Nach dem Theorem von Bayes, das diesem Ansatz seinen Namen gegeben hat, erhält man sie gemäß P (Hi |x) =

P (x|Hi )P (Hi ) P (x|Hi )P (Hi ) = P (x) P (x|H0 )P (H0 ) + P (x|H1 )P (H1 )

Die Posteriori-Wahrscheinlichkeiten lassen sich dann, wie im letzten Abschnitt gezeigt, auswerten, nur dass der Quotient hier Bayes factor genannt wird.54 Um das Theorem anwenden zu können, benötigt man die Priori-Wahrscheinlichkeiten P (H0 ) und P (H1 ) vor der Beobachtung von x, wobei sich auch wieder leicht eine Asymmetrie berücksichtigen lässt (P (H0 ) = P (H1 )). Um die Priori-Wahrscheinlichkeiten zu ermitteln, gibt es mehrere Möglichkeiten: 1. Subjektive Methode: Der Anwender legt die Priori-Wahrscheinlichkeiten fest, welche er für die in der Situation am besten passenden hält. 2. Intersubjektive Methode: Unter Forschern wird eine prior elicitation durchgeführt. Darunter versteht man, dass sich eine Reihe von Wissenschaftlern auf die Werte der Priori-Wahrscheinlichkeiten einigen. 3. Simulation: Man ermittelt vor der Durchführung des Experiments, wie sehr sich gegebene Priori-Wahrscheinlichkeiten durch die Daten maximal ändern können, oder aber man berechnet nach dem Vorliegen der Daten, welche Prior-Wahrscheinlichkeit zum Quotienten q = 1 führt. (Das heißt, an welchem Punkt die Evidenz zugunsten der jeweils anderen Hypothese „umschlägt“.) 4. Intersubjektiv verbindliche Methoden (“objective Bayes”). Dabei sucht man diejenigen Wahrscheinlichkeiten, die am besten die „Unwissenheit a priori“ widerspiegelt. Im Beispiel wäre das P (H0 ) = P (H1 ) = 1/2. Die 53

Dieser Quotient heißt minimaler Bayes-Faktor, obwohl es sich (noch) nicht um einen Bayesschen Ansatz handelt. Mit seiner Hilfe lassen sich also die Likelihoodquotienten nach unten abschätzen. 54

Für Details siehe insbesondere Kass und Raftery (1995).

3.2 Statistische Tests

99

Gleichverteilung geht auf Laplace (1812) und sein “indifference principle” bzw. “law of insufficient reason” zurück.55 Diese wurde im 20. Jahrhundert von Jeffreys (1939), Jaynes (2003) und anderen erheblich weiterentwickelt, wobei Invarianzüberlegungen eine tragende Rolle spielen (siehe z. B. Berger (1985)). 5. Werden die Priori-Wahrscheinlichkeiten aus anderen empirischen Daten ermittelt, so spricht man vom „Empirical-Bayes-Ansatz“. 6. Zuweilen ist es möglich, aus einer wissenschaftlichen Theorie die gesuchten Priori-Wahrscheinlichkeiten herzuleiten. Nur die beiden zuletzt genannten Möglichkeiten erfreuen sich allgemeiner Zustimmung. Das am häufigsten vorgebrachte Argument gegen die anderen Vorgehensweisen ist deren mangelnde „Objektivität“. Wir diskutieren die Bayessche Statistik ausführlich später.56

3.2.6 Vergleich der Verfahren anhand ihrer Voraussetzungen Neben den bereits genannten Diskrepanzen unterscheiden sich die vorgestellten Ansätze ganz wesentlich in der Stärke der verwendeten Voraussetzungen. Fisher geht es um den einfachsten möglichen Fall. Eine explizite Hypothese und eine Beobachtung. Mangels anderer Vergleichsmöglichkeiten lässt sich diese nur über den Bereich P (X ≤ x), also den p-Wert auswerten. Neyman und Pearson halten bei zwei und mehr Hypothesen an einem Bereich fest und kommen so zu ihrer Konstruktion. Fisher hingegen schlägt bei mehreren Hypothesen den Weg über den Likelihood-Quotienten bzw. die LikelihoodFunktion ein. Dieser Ansatz lässt sich mit Priori-Wahrscheinlichkeiten abermals anreichern, so dass die Bayessche Theorie einen natürlichen Abschluss darstellt. Die von Fishers einfachstem Modell ausgehenden Erweiterungen lassen sich also nicht zuletzt als Versuche verstehen, unausweichliche Lücken und Mängel eines konzeptionell äußerst einfachen Ansatzes zu beheben. Dazu benötigt man stärkere, also zugleich auch einschneidendere Voraussetzungen, was insbesondere beim Bayesschen Vorgehen, die allgemeine „objektive“ Anwendbarkeit der Verfahren einschränkt. Ganz ähnlich liegen die Verhältnisse übrigens beim statistischen Schätzen. Lehmann und Casella (1997: 1) beschreiben zunächst die drei wichtigsten Ansätze (Hervorhebungen im Original): “Data analysis. Here, the data are analyzed on their own terms, essentially without extraneous assumptions [. . .] Classical inference and decision theory. The observations are now postulated to be values taken on by random variables which are assumed to follow a joint probability distribution, P , belonging to some known class P [. . .] Bayesian 55 56

Siehe S. 257 Siehe die Abschnitte 4.4.2 und 5.3.1.

100

3 Klassische Statistik

analysis. In this approach, it is assumed in addition that θ is itself a random variable (though unobservable) with a known distribution.” Und ihre Schlussfolgerung entspricht der unseren: These three methods of approach permit increasingly strong conclusions, but they do so at the price of assumptions which are correspondingly more detailed and possibly less reliable.57

Schon dies verbietet eine allgemein gültige Bewertung. Simple, robuste Verfahren können von Vorteil sein. Royall (1997: 63) nennt eine Reihe von Argumenten und Fürsprechern, und Pawitan (2001: 13) gibt ein konkretes Beispiel: “A new eye drug was tested against an old one on 10 subjects. The drugs were randomly assigned to both eyes of each person. In all cases the new drug performed better than the old drug. The P-value from the observed data is 2−10 = 0.001, showing that what we observe is not likely due to chance alone, or that it is very likely the new drug is better than the old one.” Er bewertet dies wie folgt: “Such simplicity is difficult to beat. Given that a physical randomization was actually used, very little extra assumption is needed to produce a valid conclusion.” Will man jedoch differenzierter arbeiten, so ist das mit einem simplen Signifikanztest nicht möglich. Ein typischer Einwand ist bereits, dass man eine Hypothese nur ablehnen sollte, wenn man gleichzeitig eine bessere andere Hypothese zur Hand hat:58 [. . .] the only valid reason for rejecting a statistical hypothesis is that some alternative hypothesis explains the observed events with a greater degree of probability. (E. S. Pearson 1938: 242)59

So gesehen ist der Test einer einzelnen Hypothese weniger aussagekräftig als der verschiedenartiger Hypothesen. Ganz allgemein ist es sicherlich bedenkenswert, das Fishersche Grundmodell anzureichern, um z. B. wie Neyman und Pearson den Fehler 2. Art zu kontrollieren oder mittels „PowerÜberlegungen“ ein optimales Verfahren auszuwählen. Bayesianer setzen noch mehr voraus und können deshalb Aussagen über die Wahrscheinlichkeit ableiten, dass eine gewisse Hypothese H zutrifft, wenn gewisse Daten x vorliegen, also P (H|x) berechnen. Es ist zwar einerseits nahe liegend, den einfacheren Ansatz von der Warte des komplexeren aus zu kritisieren,60 andererseits ist das jedoch nicht ganz fair. Gerade in der Anwendung darf man erwarten, dass ein Ansatz, der mit wenigen Annahmen auskommt, häufiger zu sinnvollen Resultaten führt, da 57

Für systematische Ausarbeitung dieser Idee siehe S. 338 und Manski (2008).

58

Also „konstruktive“ statt „einfache“ Kritik Siehe hierzu auch das auf das Jahr 1926 datierte Schreiben von Gosset an E. S. Pearson: “[. . .] if there is any alternative hypothesis [. . .] you will be much more inclined to consider that the original hypothesis is not true [. . .]”, zitiert in Royall (1997: 68) und die Diskussion in Hodges (1990: 76ff). 59

60

Siehe z. B. Spielman (1974: 218ff) und Spielman (1973)

3.3 Testreplikation

101

die Annahmen seltener verletzt werden. Dies ist einer der praktischen Vorzüge robuster Methoden sowie klassischer gegenüber Bayesianischer Verfahren. Man kann auch lange darüber diskutieren, ob es besser ist, einen kleinen p-Wert als Maß für die Größe eines vorhandenen Effekts zu wählen61 oder aber im elaborierteren Neyman-Pearson-Modell die Differenz der Mittelwerte beider Hypothesen, also d = μ(H1 ) − μ(H0 ). Während man im letzteren Fall sofort erkennt, wann ein Effekt signifikant wird (d groß und die Streuung beider Hypothesen möglichst klein), ist andererseits nicht so leicht zu sagen, wie klein ein p-Wert sein sollte, um von einem echten Effekt ausgehen zu können.

3.3 Testreplikation [. . .] the strength of the evidence is not to be measured by the frequency observed in ‘repeated sampling from the same population’ [. . .] Fisher (1973: 95)62

Um die Vorzüge und Nachteile der erörterten Testtheorien zu beurteilen, ist es wie bei allen statistischen Verfahren sinnvoll zu fragen, was geschieht, wenn die Anzahl der Beobachtungen wächst oder aber, wenn man ein und denselben Test mehrfach anwendet. Bemerkt man hierbei, dass das zu erwartende Ergebnis ungenau oder sogar unsinnig ist, so ist das ein klares Indiz gegen das jeweilige Verfahren. Nil-Hypothesis63 Meehl (1967) stellt die „starke“ Verwendung von Signifikanztests in den Naturwissenschaften ihrer „schwachen“ Verwendung in den Sozialwissenschaften gegenüber.64 Damit meint er, dass es naturwissenschaftliche Theorien ermöglichen, inhaltlich bedeutsame Nullhypothesen zu formulieren. Mit steigendem Stichprobenumfang wird ein solcher Test immer präziser, so dass es für die Hypothese schwierig ist, ihn zu bestehen.65 Kurz gesagt: Mehr Informationen 61

Je kleiner der p-Wert, desto mehr liegt die Beobachtung ja im Randbereich der Nullhypothese. Entsprechend unplausibel ist es, dass die H0 zutrifft. 62 Etwas ausführlicher schreibt er in einem Brief an Behrens (siehe Bennett (1990: 56)): “[. . .] the key thought [of tests of significance put forward by Neyman and Pearson] is the frequency with which a statement would be found to be correct in ‘repeated samples from the same population’, which is in fact very far from being a measure of the strength of evidence provided by the data against some specific and well defined hypothesis or group of hypotheses.” 63 64 65

Siehe schon S. 93. Siehe auch Meehl (1997)

Graphisch hervorragend gestaltete Beispiele aus der Astronomie bzw. Geologie finden sich in Starkman und Schwarz (2005: 36) und Valley (2006: 80).

102

3 Klassische Statistik

führen zu einem schwierigeren Test für die Hypothese. Oakes (1986: 29, 32) schreibt glasklar: “There are no inferential grounds whatsoever for preferring a small sample [. . .] the larger the sample the better [. . .] The larger the sample size the more stable the estimate of effect size; the better the information, the sounder the basis from which to make a decision [. . .]” 66 In der sozialwissenschaftlichen Praxis ist es, wie wir S. 90ff ausgeführt haben, genau anders herum: Weil die Nullhypothese gerade die inhaltlich nicht interessante Hypothese ist, ist die H1 umso mehr im Vorteil, je größer der Stichprobenumfang ist. Da in der Psychologie oder anderen Sozialwissenschaften zudem alles mit allem zusammenhängt, ist eine Nullhypothese, welche gerade Zufälligkeit, also keinen irgendwie gearteten systematischen Zusammenhang behauptet, von vorneherein falsch. Das heißt: Erhebt man nur genügend viele Daten, so kann man bei dieser „schwachen“ Anwendung der Testtheorie jedes behauptete Phänomen belegen. Je mehr Daten, desto leichter wird der Test für die substanzielle Hypothese, was Meehl zurecht ein Paradoxon nennt.67 P -Werte und Metaanalyse Dass p-Werte im Allgemeinen die Evidenz gegen H überzeichnen, bemerkt man ebenfalls bei Replikationsexperimenten. Selbst bei kleinem p ist die Chance auf eine erfolgreiche Replikation des Ergebnisses nicht allzu groß. Goodman (1992: 877) gibt (ziemlich ernüchternde) Wahrscheinlichkeiten an, siehe auch Nickerson (2000: 256), Sohn (1998) und Ottenbacher (1996). Für einen aktuellen Überblick konsultiere man Hubbard und Lindsay (2008), eine Sammlung interessanter Beispiele findet sich unter www.stat.duke.edu/berger (Schlagwort ‘p values’ ). Angesichts dessen betonte Fisher (1936b: 58),68 wie wichtig es ist, signifikante Ergebnisse (am besten mehrfach) zu replizieren: [. . . ] no one doubts, in practice, that the probability of being led to an erroneous conclusion by the chances of sampling only, can, by repetition [. . .] of the sample, be made so small that the reality of the difference must be regarded as convincingly demonstrated.

Tukey (1969: 726) ergänzt: “The modern test of significance [. . .] owes more to R. A. Fisher than any other man. Yet Sir Ronald’s standard of firm knowledge was not one very extremely significant result, but rather the ability to repeatedly get results significant at 5%.” 66

Ganz ähnlich schon Berkson (1938), zitiert nach Cohen (1994): “It would be agreed by statisticians that a large sample is always better than a small sample.” 67 Siehe auch Oakes (1986: Abschnitt 2.3). 68

Siehe auch Johnstone (1987a: 488ff)

3.3 Testreplikation

103

Die heutige Metaanalyse69 ist nichts weiter als eine Formalisierung dieser Idee. D.h., ausgehend von einer Fragestellung verrechnet sie die Resultate vieler einschlägiger, in der Literatur dokumentierter Studien. Falls man dabei die p-Werte mehrerer Untersuchungen zusammenfasst, basiert das Endergebnis jedoch auf einem in sich unzuverlässigen Maß, weshalb zumeist auf Effektmaße zurückgegriffen wird. Hubbard und Lindsay (2008: 82) kommentieren die historische Entwicklung insgesamt wie folgt: [Thus] there is more than a hint of irony in the fact that Fisher’s sanctioning of the vital role of replication has been overlooked, while at the same time his widely misunderstood and defective p values blanket the empirical literature.

Sammlung von Evidenz Direkter als die Metaanalyse führt der Likelihood-Test Beobachtungen zusammen. Mit den beobachteten Werten x1 , x2 , x3 , . . . ergeben sich nacheinander die Quotienten q1 =

PH0 (x1 ) PH0 (x2 ) PH0 (x1 ) PH0 (x2 ) PH0 (x1 ) PH0 (x3 ) , q2 = , q3 = usw. PH1 (x1 ) PH1 (x2 ) PH1 (x1 ) PH1 (x2 ) PH1 (x1 ) PH1 (x3 )

Man kann zeigen, dass bei Gültigkeit von Hi die Folge q1 , q2 , q3 , . . . in (fast) allen Fällen gegen den richtigen Grenzwert, also Null wenn H1 der Fall ist und ∞ wenn H0 der Fall ist, konvergiert. D.h., man erkennt asymptotisch mit Wahrscheinlichkeit 1 die richtige Hypothese. Bei endlichem und vor allem kleinem n könnte qn gleichwohl sehr klein sein, obwohl H0 zutrifft. Auch diese Wahrscheinlichkeit, dass die Daten lügen,70 lässt sich zumindest abschätzen. Für Details und eine ausführliche Diskussion siehe Royall (2000).

Evidenz und Voreinstellung Der Bayessche Ansatz verrechnet die relative Evidenz der Daten, also qn , mit den Priori-Wahrscheinlichkeiten der Hypothesen, also P (Hi ). Der Reihe nach ergibt sich für H0 : 69

Siehe insbesondere Glass (1976), Rosenthal (1978), Hedges und Olkin (1985), Cooper and Hedges (1994), Schmidt (1992, 1996), Konstantopoulos and Hedges (2004), Sedlmeier und Renkewitz (2008: Kapitel 22) sowie Rothman et al. (2008: Kapitel 33) 70

Engl.: misleading evidence

104

3 Klassische Statistik

P (H0 ) − die Voreinschätzung PH0 (x1 ) P (H0 |x1 ) = · P (H0 ) = q1 · P (H0 ) PH1 (x1 ) PH0 (x2 ) PH0 (x2 ) PH0 (x1 ) P (H0 |x1 , x2 ) = · P (H0 |x1 ) = · P (H0 ) PH1 (x2 ) PH1 (x2 ) PH1 (x1 ) = q1 q2 · P (H0 ) usw. Die sukzessiven Wahrscheinlichkeiten für H1 ergeben sich völlig analog oder schneller noch aus P (H1 |x1 , . . . , xi ) = 1 − P (H0 |x1 , . . . , xi ). Mithilfe der obigen Formeln lässt sich der Einfluss der Daten sauber vom Einfluss des (subjektiven) Voreinstellung bzw. des (objektiven) Vorwissens trennen. Die Kombination beider gibt die aufgrund der Evidenz der Beobachtung geänderte Wahrscheinlichkeit, dass eine der Hypothesen zutrifft. Mit anderen Worten sammelt sich in der Posteriori-Wahrscheinlichkeit P (H0 |x1 , . . . , xn ) die in den Daten x1 , . . . , xn steckende Information, verbunden mit der A-Priori-Einschätzung P (H0 ). Sofern die Anfangswahrscheinlichkeit nicht gerade Null ist, man also von vorneherein eine der Hypothesen ausschließt (was den Test obsolet macht), konvergieren auch diese Wahrscheinlichkeiten gegen 1 bzw. 0. Man lernt also aus der Erfahrung, und die Voreinstellung wird im Laufe der Zeit immer unbedeutsamer.

Fehlerkontrolle Neyman und Pearson kontrollieren aufgrund der Kenntnis der Wahrscheinlichkeitsverteilungen (also der Hypothesen H0 und H1 ) die Wahrscheinlichkeit von Fehlentscheidungen. Die Gültigkeit des Modells vorausgesetzt, minimiert ein solches Verfahren die Anzahl der über einen längeren Zeitraum hinweg gemachten Fehler. Das heißt, Neyman und Pearson verwenden das Verhalten der Verfahren aufgrund vieler (hypothetischer) Wiederholungen gleichartiger Experimente nicht als nachträglichen „Test“ bzw. Qualitätskriterium, sondern als Konstruktionsprinzip solcher Tests. Royall (1997: 38) fasst dies schön zusammen: The basic tenet of Neyman-Pearson theory is that solutions to statistical problems, that is, statistical procedures, should be evaluated in terms of their probabilistic properties (‘performance characteristics’ in Neyman’s words). These properties measure the expected, or long-run average, performance of the procedures - a procedure with good probabilistic properties will, if used repeatedly, give good performance, on average.

Womöglich ist das auch der Ursprung des bekannten Bonmots,71 dass sich die Statistik damit begnüge, in höchstens 5% aller Fälle daneben zu liegen. Schon Fisher (1929: 191) weist das entschieden zurück: “[5%] is an arbitrary, but convenient, level of significance for the practical investigator, but it 71

Siehe z. B. Cox (2006: 197)

3.3 Testreplikation

105

does not mean that he allows himself to be deceived once in every twenty experiments. The test of significance only tells him what to ignore, namely all experiments in which significant results are not obtained.” 72 Hacking (1980) ordnet den Ansatz philosophisch(er) ein. Er sieht in der NeymanPearson-Theorie eine Peircean theory of Brownian inference. (Hervorhebung im Original.) Der Grund für diese Benennung ist laut Johnstone (1988: 358): “Brown had the idea that inference is conclusion, not argument [. . .] Peirce proposed that a good argument is one which tends ‘for the most part’ to generate correct conclusions.”

Kritik am Kriterium der (hypothetischen) Replikation Zuweilen hört man zwar das Argument, dass nicht immer eine Replikation beabsichtigt wird, das Kriterium also nicht unbedingt immer relevant ist, im Allgemeinen wird es jedoch kaum in Frage gestellt. Selbst die meisten Bayesianer, welche Neymans konkrete Vorgehensweise entschieden ablehnen, überprüfen ihre Verfahren routinemäßig auf deren “long run properties”. Nun ist es eine Sache, ein Verfahren auf längere Sicht optimal zu adjustieren, eine andere jedoch, den Einzelfall adäquat zu würdigen. Gerade um die relative Bedeutung von Verfahren und Daten werden heftige, weil prinzipielle Auseinandersetzungen geführt.73 Offenkundig kann man das eine wie das andere für wichtiger halten,74 wobei, wie schon das obige Beispiel der industriellen Produktion (S. 91) zeigt, die Testtheorie von Neyman und Pearson das Verfahren in den Mittelpunkt stellt. Auch die Tatsache, dass noch nicht einmal ein deterministisches Gegenbeispiel (S. 95) als solches sicher erkannt und in seiner logischen Kraft gewürdigt wird, unterstreicht dies. Genau auf einen solchen Einzelnachweis kommt es jedoch in der Wissenschaft an. Wir sind nicht besonders daran interessiert, uns über viele Experimente hinweg im Mittel optimal zu verhalten - von zentraler Bedeutung ist die bestmögliche Bewertung einer konkreten (einzelnen) Hypothese in einem spezifischen (einzelnen) Experiment. Dieser Meinung sind fast alle Statistiker. Die Liste der von Johnstone (1988: 358) zusammengetragenen Namen (mit spezifischen Literaturfundstellen) für die Bedeutung des Einzelfalls liest sich wie ein “Who is Who” der moderneren Statistik: Good, Cox, Pratt, Lindley, Edwards, Jaynes, Rosenkrantz, Bernard und auch Fisher (1973: 96): In fact, as a matter of principle, the infrequency with which, in particular circumstances, decisive evidence is obtained, should not be confused with the force, or cogency, of such evidence. 72 73 74

Siehe auch S. 87. Siehe insbesondere Mayo (1996)

Aus Sicht des Verfahrens „kommen und gehen die Daten“, d.h., es muss sich in ganz verschiedenen Situationen bewähren. Aus Sicht eines konkreten Datensatzes kommt es hingegen darauf an, dass das Verfahren genau diesen adäquat behandelt.

106

3 Klassische Statistik

Die Philosophen Kyburg und Giere stimmen diesem Urteil genauso zu wie der schon (S. 91) zitierte Psychologe Meehl (1978: 823):75 “[. . .] a theory that has [. . .] three facts against it is not in good shape.” Selbst E. S. Pearson (1938: 239), zitiert nach Johnstone (1988: 358), schloss sich hierin ausdrücklich Gosset an: “[. . .] the prospect of very few errors in the ‘long run’ is cold comfort if the sample (in a single test) is patently atypical.”

3.4 Forschungsstrategien II (Grundhaltungen) [. . .] there seems to be no way to combine tightness and realism, and realism must win in the end. (Tukey 1997: 26)

Neben der eher technischen, aber ins Prinzipielle tendierenden Frage, ob es zulässig ist, mit dem beobachteten x76 genauso umzugehen wie mit allen extremeren (z. B. kleineren) Werten als x,77 schält sich über das Problem, ob Einzelereignisse wichtiger sind als Mengen von Ereignissen, eine grundlegende Schwierigkeit heraus: Wie viel Bedeutung misst man den Daten und außerhalb der Daten gelegenen Aspekten bei? Wie groß ist der Einfluss der Daten auf das Ergebnis?78

Es ist eine Gewichtung vorzunehmen, und am Beispiel der statistischen Testtheorie(n) sollte deutlich geworden sein, dass sich statistische Verfahren und mehr noch deren Anwendung im Sinne eines „Auswertungsstils“ prinzipiell in der Art unterscheiden, wie sie mit Daten umgehen. Je nachdem, wie viel Bedeutung man den Daten bzw. den außerhalb der Daten gelegenen Randbedingungen beimisst, empfiehlt es sich von den Daten auszugehen und diese - induktiv - zu Evidenz zu verdichten oder zuvor einen Rahmen festzulegen und dann - deduktiv - mithilfe der Daten zu einer Bewertung oder sogar Entscheidung zu gelangen.

3.4.1 Deduktive Herangehensweise Sieht man das Modell, ein Verfahren, die Art der Datenerhebung oder andere Rahmenbedingungen als primär an, so weist man den Daten einen genau zuvor definierten Platz in der Gesamtsituation, die gar nicht selten einem 75 76 77

Siehe auch schon Meehl (1967), insbesondere S. 112ff. und der zugehörigen Wahrscheinlichkeit P (X = x)

und der zugehörigen Wahrscheinlichkeit P (X ≤ x) Andere häufig genannte Gesichtspunkte, insbesondere die Berücksichtigung von Randbedingungen, die Verwendung mehr oder minder weitreichender Voraussetzungen und subjektive Einflüsse lassen sich hierunter subsumieren. 78

3.4 Forschungsstrategien II (Grundhaltungen)

107

Räderwerk gleicht, zu. So sehr sich die Neyman-Pearson-Theorie und die Bayesianische Schule auch unterscheiden mögen, in diesem Punkt gehen sie de facto gleich vor. Erstere spezifiziert in Vorüberlegungen einen Raum aller möglichen Beobachtungen, also einen Stichprobenraum,79 welcher sogleich mit einer Wahrscheinlichkeitsverteilung80 versehen wird. Großer Wert wird darauf gelegt, dass beide durch die (objektive) Vorgehensweise, also die konkrete (experimentelle) Situation, festgelegt werden.81 Letztere benutzt immer den Bayesschen Mechanismus von Priori-Verteilung und Bayesschem Theorem. Hier wird insbesondere der nicht von den aktuellen Daten abhängige und in diesem Sinne auf jeden Fall „subjektive“ Aspekt der Priori-Verteilung besonderes betont. Beidesmal ist jedoch die Rolle der Daten festgelegt: Sobald man sie kennt, setzen sie das vorher installierte Räderwerk in Gang und liefern ein eindeutiges, klares Ergebnis: Bei Neyman und Pearson die Entscheidung gegen oder für die Hypothese, bei Bayes die Posteriori-Verteilung. Die Diskussion des Bayesschen Ansatzes verschieben wir auf die Abschnitte 4.4.2 und 5.3.1. Wir beginnen hier zunächst mit den einfacher zu fassenden Top-Down- also theorie- und hypothesengetriebenen Methoden. Dies ist auch gerechtfertigt, da es vorsichtige Forscher in Anbetracht der Fährnisse subjektiver Willkür sowie der Unwägbarkeiten und sogar Paradoxien der Induktion82 vorgezogen haben, eher der Deduktion zu vertrauen. Die primär oder sogar rein deduktive Sicht der Dinge wurde im 20. Jahrhundert, besonders und insbesondere natürlich von Popper, nachdrücklich betont. Man kann die statistische Testtheorie nicht vollständig verstehen, wenn man diesen wissenschaftstheoretischen Aspekt außer Acht lässt. Poppers kritischer Rationalismus übte lange Zeit einen immensen, wenn nicht sogar dominierenden Einfluss sowohl auf Fachphilosophen als auch Wissenschaftler aus. Sätze wie “We need not only recognize the importance of deduction in clinical trials but the irrelevance of any sort of inductive argument for the purpose of using the results of our deductions.” (Senn 1991: 1691) oder “Inductive procedures - that is, inferring from the observed to the unobserved - are always illogical [. . . ]” (Shahar 1997: 111) lassen sich nur mit Verweis auf Popper formulieren. Die Statistik macht hier keine Ausnahme, vielmehr wurde die deduktive Erkenntnisrichtung83 von bedeutenden Statistikern wie Neyman und Pearson, Wald aber auch in Teilen von R. A. Fisher und der mathematischen Statistik im Allgemeinen mit Freuden aufgegriffen. 79

Engl. sample space

80

Engl.: sampling distribution Auch der p-Wert ist, da er alle Wahrscheinlichkeiten bis zur Beobachtung x kumuliert, erheblich vom Stichprobenraum, insbesondere der auf jenem definierten Verteilung, abhängig. Siehe hierzu auch Goodman und Royall (1988: 1569). 81

82

Siehe Kapitel 4 und insbesondere Abschnitt 4.7 In ihren diversen Formen, insbesondere dem Covering-Law- (Hempel 1963) und dem Conjecture-Refutation-Ansatz (Popper) 83

108

3 Klassische Statistik

Die Grundvorstellung des deduktiv-nomologischen Modells84 in der Wissenschaftstheorie ist, dass aus einer Theorie inhaltliche Hypothesen abgeleitet werden. Da es sich bei Hypothesen immer „nur“ um mehr oder minder begründete Vermutungen handelt, sind auch wenig fundierte Hypothesen im Sinne „freier Schöpfungen des menschlichen Geistes“ zugelassen. Entscheidend ist, dass man Hypothesen überprüfen will, etwa indem man sie als statistische Hypothesen (also spezielle Wahrscheinlichkeitsverteilungen bzw. sampling distributions) operationalisiert und schließlich testet. Bei Neyman und Pearson geschieht dies, indem man den Raum aller möglichen Beobachtungen in zwei Teile zerlegt und aufgrund der Lage der tatsächlichen Beobachtung (entweder x ∈ R oder x ∈ / R) eine Entscheidung für oder gegen die interessierende Hypothese H1 fällt. Darüber hinaus bekommen wir gemäß Popper (1974: 389) nur „durch die Falsifikation unserer Annahmen [. . .] tatsächlich Kontakt mit der ‚Wirklichkeit‘.“ Diese Einseitigkeit berücksichtigt die Testtheorie gleich in mehrfacher Hinsicht: H0 und H1 werden asymmetrisch behandelt, H0 soll abgelehnt werden, und falls dies nicht gelingt, so spricht man nicht offen von Evidenz für H0 . Aus einem einfachen “acceptance of one of the hypotheses and rejection of the other” (Neyman 1950: 259), wird bei Bortz (1999: 118): „Ein nichtsignifikantes Ergebnis ist kein Beleg dafür, daß die Nullhypothese richtig ist.“ Auch Krengel (1988: 96) meidet das Wort Annahme, stattdessen formuliert er einmal „Wir sagen dann, dass die Nullhypothese verworfen wird“ und im zweiten Fall „Die Annahme der Hypothese bedeutet nur, daß die beobachteten Daten keinen hinreichenden Anlaß zur Verwerfung der Hypothese bieten“ (Hervorhebung im Original). In der englischsprachigen Literatur heißt es oft85 “One can never accept the null hypothesis, only fail to reject it.” Das Standard-Lexikon (Müller 1991) wählt die Formulierung, dass entweder die Nullhypothese abgelehnt wird oder aufgrund eines bestimmten Tests „gegen die H0 nichts einzuwenden ist.“ Sogar ein R. A. Fisher schwankt zwischen einer negativen Formulierung, etwa der Form “This should not be interpreted as evidence in support of the hypothesis, but merely as a lack of evidence against it” und einer positiven Formulierung, wie “[. . .] it is a fallacy [. . .] to conclude from a test of significance that the null hypothesis is thereby established; at most it may be said to be confirmed or strenghtened.” 86 Erst in jüngster Zeit scheint sich hier wieder eine glattere Sprache durchzusetzen. Zum Beispiel schreiben Casella und Berger (2002: 374): “A hypothesis testing procedure or hypothesis test is a rule that specifies: i. For which sample values the decision is made to accept H0 as true. ii. For which sample values 84 85

Siehe z. B. Salmon (1989) für eine ausführliche, auch historische Darstellung.

Siehe z. B. Goodman (1993: 487) Siehe Johnstone (1987a: 487) und (Royall 1997: 76ff) für weitere Details und Zitate. Gardner (1996a: 490) passt hierher: “This sounds like denying that a man is happy because the horse he bet on won the race, and asserting, on the contrary, that he is jumping up and down because his horse failed to lose.” 86

3.4 Forschungsstrategien II (Grundhaltungen)

109

H0 is rejected and H1 is accepted as true.” 87 Es ist ihnen bewusst, dass sie hierbei eine weitreichende Formulierung gewählt haben, die fast schon als Beweis88 missverstanden werden könnte. Wohl auch deshalb folgt auf derselben Seite eine Erläuterung: On a philosophical level, some people worry about the distinction between ‘rejecting H0 ’ and ‘accepting H1 ’. In the first case, there is nothing implied about what state the experimenter is accepting, only that the state defined by H0 is being rejected. Similarly, a distinction can be made between ‘accepting H0 ’ and ‘not rejecting H0 .’ The first phrase implies that the experimenter is willing to assert the state of nature specified by H0 , while the second phrase implies that the experimenter really does not believe H0 but does not have the evidence to reject it.

Solche Unterscheidungen sehen die Autoren wohl eher als sophistisch an, denn sie schließen den Absatz mit den Worten: “For the most part, we will not be concerned with these issues. We view a hypothesis testing problem as a problem in which one of two actions is going to be taken - the actions being the assertion of H0 or H1 .”

Modelle als Auswertungsmaschinen Ganz im Sinn der deduktiven Tradition betonen alle Autoren der statistischen Testtheorie ausdrücklich, dass bei sauberer Arbeitsweise die Phasen der Bearbeitung eines Testproblems, nämlich 1. Formulierung der Hypothesen 2. Festlegung des Tests inklusive α 3. Auswertung der Daten und Interpretation aufeinander folgen. Zum Beispiel schreibt Krengel (1988: 107f) klar und deutlich: „All unsere Überlegungen setzten voraus, daß die Beobachtung X erst angestellt wird, wenn alles andere festliegt. Insbesondere muss α vorgegeben werden [. . .], wenn der Test und damit die Irrtumswahrscheinlichkeiten wohldefiniert sein sollen.“ Li und Vitányi (2008: 284) verdeutlichen dies am Beispiel einer Wahl: In einem Land werde 30 Mal in Folge die Regierungspartei gewählt. Deren Stimmenanteil x war immer größer als 50 %, so dass sie stets alleine regieren konnte, jedoch waren bei jeder Wahl die ersten dreißig(!) Nachkommastellen von x genau mit den ersten 30 Nachkommastellen der Zahl π identisch! Sie schreiben: However, if we complain about this, the election organizers tell us that some sequence has to come up, and the actual outcome is as likely as any other. We cannot criticize a regularity we discover after the fact, but only those regularities we have excluded in advance. (Hervorhebung im Original)89 87 88 89

Alle Hervorhebungen, auch des nächsten Zitats, im Original. accept [. . .] as true

Ganz ähnlich ist das folgende, häufig im Alltag anzutreffende Beispiel: „Der Physiker Richard Feynman machte gern einen Witz über im Nachhinein gewonnene Erkenntnisse

110

3 Klassische Statistik

Die Testtheorie ist nur ein besonders prominentes Beispiel der deduktiven Sicht. Wie wir noch sehen werden, setzte sich insbesondere R. A. Fisher in seinen Werken explizit für eine gezielte, hypothesengeleitete Datenerhebung ein. Mehr noch, mit einem seiner Hauptwerke, The Design of Experiments, begründete er die heute orthodoxe Statistik. Seine statistischen Experimente, die Hypothesentests nach Neyman und Pearson und auch die auf Wald (1950) zurückgehende Entscheidungstheorie sind vom mathematischdeduktiven Geist durchdrungen. Es ist gar nicht so selten, dass einschlägige Autoren die Statistik als spezielle Entscheidungstheorie präsentieren.90 Neyman (1967), zitiert nach Brown (2000: 1277), sagt explizit: The concepts of confidence intervals and of the Neyman-Pearson theory have proved immensely fruitful. A natural but far reaching extension of their scope can be found in Abraham Wald’s theory of statistical decision functions. The elaboration and application of the statistical tools related to these ideas has already occupied a generation of statisticians. It continues to be the main lifestream of theoretical statistics.

Deshalb ist es auch nicht „im Sinne des Erfinders“ die ebenfalls auf Fisher zurückgehende Varianzanalyse (siehe Abschnitt 3.6.2) lediglich als eine Methode der Posteriori-Datenmodellierung darzustellen. Tatsächlich ist die Varianzanalyse, welche von vielen Lehrbüchern sogar als eine Erweiterung des einfachen t-Tests eingeführt wird, mit demselben operationalen wie interpretativen Überbau versehen wie die Testtheorie. Man geht, zumindest klassischerweise, in aller Regel nicht von vorliegenden Daten aus. Vielmehr startet man mit einer Fragestellung, zu deren Beantwortung experimentellkontrolliert Daten erhoben werden. Aufgrund der speziellen Erhebungsmethodik91 ist es dann gerechtfertigt, die Varianzanalyse als Analyseverfahren anzuwenden. Primär sind bei dieser Sicht nicht die Daten, sondern die Forschungshypothese, welche mit einer gewissen statistischen Sicherheit (also a priori festgelegten Fehlerniveaus) unter Zuhilfenahme präziser, man ist versucht zu sagen „optimiert“ erhobener Daten gestützt oder verworfen werden soll. Folgt man konsequent dem deduktiven Pfad, so ist a priori möglichst vieles, am besten alles - bis auf die Daten - festzulegen. Aufgrund der Hypothese(n) wählt man ein passendes experimentelles Design, bestimmt die benötigte Anzahl zu untersuchender Einheiten, überlegt sich, welche Ergebnisse [. . .] ‚Auf dem Weg zur Vorlesung bin ich über den Parkplatz spaziert, und - Sie werden es nicht glauben: Ich entdeckte ein Auto mit dem Kennzeichen ARW 357. Stellen Sie sich das einmal vor! Wie groß ist die Wahrscheinlichkeit, von den Millionen Nummernschilder in diesem Staat ausgerechnet dieses zu sehen?‘ “ (Feynman 2003: 25), zitiert nach Bryson (2005: 321f). 90 Siehe z. B. Bamberg (1972), insbesondere Abschnitt 2 und Ferguson (1967). Zuweilen wird die Statistik auch als ein Spiel gegen die Natur im Sinne der mathematischen Spieltheorie aufgefasst. Etwa im Klassiker Blackwell und Girshik (1979) oder sehr pointiert in “Fishers Game with the devil”, siehe Senn (1994). 91

Orthogonale, experimentell zu prüfende Einflussfaktoren, zufällige Zuordnung der statistischen Einheiten auf die Versuchsbedingungen

3.4 Forschungsstrategien II (Grundhaltungen)

111

man erhalten könnte und legt auch schon im Vorhinein fest, wie ausgewertet wird. Nun ist ein wesentlicher Punkt der Neyman-Pearsonschen Testtheorie die Kontrolle des Fehlers 1. Art. Möchte man diesen auch bei einem komplexen Experiment mit vielen Einzelauswertungen kontrollieren, also die Wahrscheinlichkeit von fälschlichen Fehlentscheidungen gegen die Nullhypothese(n) unter einem vorgegebenen Niveau halten, so kommt man zur αAdjustierung. Darunter versteht man, das als akzeptabel erachtete Fehlerniveau α so zwischen allen geplanten Tests aufzuteilen, dass es insgesamt eingehalten wird. Beabsichtigt man also z. B. 10 Tests durchzuführen, bleiben je geplantem Test durchschnittlich α/10 an tolerierbarem Fehler.92 α wird so zur begrenzten, wertvollen Ressource, zumal gilt: “Once we have spent this error rate, it is gone” (Tukey 1991: 104f). Er fährt fort: The message has to be that it can be wise and necessary to focus on a very few prespecified questions, prespecified before data collection, whenever we cannot enjoy the luxury of enough data to work with either familywise (F) or Bonferroni (B) error rates. (Hervorhebung im Original.)

Manche Autoren dieser Denkrichtung sprechen sogar explizit von einem Missbrauch statistischer Tests, falls man α nicht adjustiert, und es deshalb zu einer Inflation des Fehlers erster Art kommt.93 Was ist die Konsequenz? [. . .] a very few prespecified comparisons will be allowed to eat up the available error rate, and the remaining comparisons have the logical status of hints, no matter what statistical techniques may be used to study them. (Tukey, ibd.)

Aus der Sicht der Entscheidungstheorie ist diese Vorgehensweise völlig konsequent: Es sind eine Reihe von Entscheidungen zu treffen, und mit einer gewissen Wahrscheinlichkeit geht man bei jeder einzelnen von diesen fehl. Will man nun insgesamt nur mit einer vorgegebenen Wahrscheinlichkeit (von typischerweise α = 5%) irren, so muss die Irrtumswahrscheinlichkeit bei jeder einzelnen Entscheidung entsprechend klein bzw. sogar winzig sein. Zudem kann man nur a priori ins Auge gefasste Vergleiche auf dem vorgegebenen Fehlerniveau a posteriori als belegt oder widerlegt ansehen, während alle weiteren Analysen nur den Status von Indizien haben.

Enge und Rigidität Gleichzeitig wird dadurch jedoch der ohnehin schon vorhandene Konservatismus der orthodoxen Statistik94 entschieden verschärft, was u.a. auch Rothman (1990) hervorhebt. Es ist deshalb kein Zufall, dass selbst drastische 92

Sogar genau α/10 bei der sogenannten Bonferroni-Methode. Es gibt mehrere Techniken, die verfügbare Fehlerrate von α auf die Einzelvergleiche aufzuteilen. 93 94

Siehe z. B. Dar et al. (1994: 76ff) oder Mattner (2009). β „klein“, jedoch α ≤ 5%, ≤ 1% oder sogar ≤ 0, 1%. Wir vertiefen dies ab S. 187.

112

3 Klassische Statistik

Fehleinschätzungen für95 die Nullhypothese von Seiten traditioneller Wahrscheinlichkeitstheoretiker und Statistiker ernsthaft vertreten wurden. In Feller (1971: 76) heißt es: For a time it was fashionable [. . .] to detect ‘hidden periodicities’ for sunspots, wheat prices, poetic creativity, etc. Such hidden periodicities used to be discovered as easily as witches in medieval times, but even strong faith must be fortified by a statistical test.96

Wie wir noch sehen werden, neigen Statistiker bei weniger klaren Effekten, etwa dem (potenziellen) Erfolg von Aktienhändlern (S. 185) erst recht stark der konservativen Ansicht zu und erklären das Marktgeschehen im Wesentlichen mit dem Zufall und der Selektion der „glücklichen“ Akteure. Dadurch übersieht man aber zwangsläufig die (sehr) erfolgreichen Akteure, die ähnlich wie die erfolglosen Händler eher zügig aus dem Markt ausscheiden, und man missachtet definitiv den Erfolg langfristig erfolgreicher Anleger mit ihren auch substanziell überzeugenden Strategien. Die Bewertung in Bruss (2007) ist überaus typisch: Ein starker Selektionseffekt zugunsten der (zufällig) Erfolgreichen wird für plausibler gehalten als die (zumeist wohl schwach ausgeprägte) Fähigkeit der Analysten, das Marktgeschehen vorherzusagen.97 Cornfield (1966: 19) verdeutlicht das Geschehen anhand eines in der Praxis äußerst häufigen Falls: An experimenter, having made n observations in the expectation that they would permit the rejection of a particular hypothesis, at some predesignated significance level, say .05, finds that he has not quite attained his critical level. He still believes that the hypothesis is false and asks how many more observations would be required to have reasonable certainty of rejecting the hypothesis [. . .] He also makes clear that had the original n observations permitted rejection he would simply have published his findings.98 95

nicht gegen?!

96

Jaynes (2003: 526) kommentiert dies mit den Worten: “Apparently, Feller did not believe in the sunspot periodicity, which no responsible scientist has doubted for over a century. The evidence for it is so overwhelming that nobody needs a ‘statistical test’ to see it [. . .] the eyeball is a more reliable indicator of an effect than an orthodox [test].” Es sollte angemerkt werden, dass Feller (1968, 1971) als die beste und einflussreichste Einführung in die Wahrscheinlichkeitstheorie und ihre Anwendungen (so der Titel) der letzten Jahrzehnte gilt. 97 Man beachte, dass man mit einem völlig analogen Argument auch einen Großteil aller publizierten Effekte als Artefakte abtun kann, zumal unerwartete oder „missliebige“ Resultate eher unter Verschluss gehalten werden als den Erwartungen entsprechende Ergebnisse (file drawer effect, Rosenthal (1979)) und die Annahmepolitik von Fachzeitschriften ausgesprochen selektiv ist. Man spricht vom publication bias, weil negative Resultate, selbst wenn sie wichtig wären, zumeist nicht publiziert werden. (Einschlägige “Journals of negative results” sind die große Ausnahme.) Deshalb besteht damit insgesamt die sehr reale Gefahr, dass sich falsch positive Resultate anhäufen und womöglich erst nach einiger Zeit als unrichtig erkannt werden. Diese Gefahr ist besonders groß, wenn wenig Wert auf die Replikation von Resultaten gelegt wird. (Siehe z. B. Oakes (1986: 11ff), Rennie und Flanagin (1992), Nelder (1999: Abschnitt 4.1), Scargle (2000), Feynman (2005b: 456ff), Moonesinghe et al. (2007) und Young et al. (2008) sowie die dort genannte Literatur.) 98

Siehe auch Royall (1997: 111)

3.4 Forschungsstrategien II (Grundhaltungen)

113

Aufgrund des zuvor Gesagten ist klar, wie die Antwort lauten muss. Das verfügbare Fehlerniveau ist verbraucht, weshalb Cornfield fortfährt: Under these circumstances it is evident that there is no amount of additional information, no matter how large, which would permit rejection at the .05 level. It the hypothesis being tested is true, there is a .05 of its having been rejected after the first round of observations. To this chance must be added the probability of rejecting after the second round, given failure to reject after the first, and this increases the total chance of erroneous rejection to above .05 [. . .] Thus no amount of additional evidence can be collected which would provide evidence against the hypothesis equivalent to rejection at the P = 0.05 level [. . .]

Kaum ein Wissenschaftler dürfte diese Art der Datenerhebung akzeptieren. Es kommt nämlich sehr häufig vor, dass ein tatsächlich existierender Effekt nur deswegen (noch) nicht signifikant geworden ist, weil noch nicht genügend viele Daten vorliegen. Es ist eben viel schwerer, einen Effekt einer gewissen Größe mit n = 10 Beobachtungen überzeugend zu belegen, als mit der zehnfachen oder gar hundertfachen Anzahl von Beobachtungen. Wertet man in einem solchen Fall zu früh aus, so ruiniert man den ganzen Versuch. Man muss dann ein neues gleichartiges Experiment mit weiteren 0, 05-Prozent Fehlermarge starten oder aber, wenn man die α-Adjustierung ernst nimmt und Cornfields Argument akzeptiert, es gleich ganz sein lassen, da man auch bei noch so vielen weiteren Experimenten den Effekt nie wieder auf dem 0, 05-Niveau statistisch belegen kann. Auch wenn diese Haltung verquer anmutet, so ist sie doch von großer praktischer Bedeutung. Sie zeigt sich am deutlichsten in klinischen Studien,99 welche die Wirksamkeit einer neuen Therapie, z. B. eines neuen Medikaments, testen. Hier wird größten Wert auf ein a priori zu erstellendes Untersuchungsprotokoll gelegt. In diesem sind die Hypothesen, das Design und die geplanten Auswertungen exakt und in vielen Details festzuhalten. Eine ganze „Zulassungsindustrie“ hat sich darauf spezialisiert, derartige große Studien zu planen, administrativ zu betreuen und auszuwerten. Da jede Auswertung entweder nur den Status von Indizien hat oder aber das a priori festgelegte Fehlerniveau belastet, geht die Tendenz dahin, die Daten ausschließlich zu ebenfalls zuvor festgelegten Zeitpunkten auszuwerten und sie ansonsten nicht zu be(tr)achten. Mit den Worten von Royall (1991: 57): There is a popular solution to this problem, a simple way to prevent experimental trials from evolving into demonstration trials: do not allow those who are conducting the trial to look at the results as they accumulate. That is, [. . .] conceal the evidence from the physician until the trial is completed. 99

Engl. clinical trial; oft auch mit RCT für randomized controlled trial abgekürzt. Eine prägnante Charakterisierung gibt Lee (1999: 349): “Clinical trials are scientific experiments involving human subjects [. . .] The goal of a clinical trial is to produce an objective inference as to the relative benefit of interventions under evaluation. This goal is achieved by comparing the clinical outcome from a group of patients receiving an intervention to a comparison group of patients receiving a placebo. Those groups should be made compatible except for difference in treatment [. . .] lest an unfair statistical comparison should result from the trial.”

114

3 Klassische Statistik

Eine Folge hiervon ist, dass Informationen, die in den Daten bereits vorhanden sind, erst mit Verspätung - nämlich zu den geplanten Auswertungsterminen - genutzt werden. (Man stelle sich einen Entscheider in Wirtschaft, Politik oder Militär vor, der wichtige Daten absichtlich erst mit Verspätung, nämlich nur zu vorab vereinbarten Terminen, zur Kenntnis nimmt.) Eine noch weit zweifelhaftere Konsequenz dieser Perspektive ist, dass es als problematisch angesehen wird, Daten überhaupt zu analysieren. Jede Analyse ist mit Kosten, eben dem „verbrauchten“, nicht erneuerbaren Signifikanzniveau, verbunden. Will man mehr als Indizien, so zehrt jeder Blick auf die Daten an der Sicherheit der Schlussfolgerung, und einige Autoren wie Pogue und Yusuf (1998: 50) fragen ganz offen und konsequent: Should there be any penalty for multiple looks at the data [. . .]?

Man muss den letzten Satz zweimal lesen. Empirisch arbeitende Wissenschaftler sollen allen Ernstes dafür bestraft werden, wenn sie mithilfe ihrer Daten Erkenntnisse gewinnen wollen. Keiding (1995: 242) schreibt völlig zurecht: [. . .] it is indeed unsatisfactory to have to defend, perhaps in the face of senior, highly qualified substantive scientists, our mainstream statistical thinking which assumes that you are not supposed to look at the data when searching for methods of optimal analysis with the purpose of gaining new knowledge.

Statt die Datenanalyse im statistischen Labor zu erleichtern, wird jenes nur zu bestimmten Zeiten aufgeschlossen und darf dann auch nur gemäß einem lange vorher festgelegten Plan benutzt werden. Wäre das nicht tägliche Praxis, so könnte man darüber lachen; so aber macht sich die Statistik in den Augen vieler Anwender lächerlich Finally, we should consider the subclass of practitioners who are ‘more holy than the Pope,’ so to speak. To these practitioners, the whole purpose of the religion of Statistics is to maintain the sanctity of the alpha level (which is another name for 0.05). No activity that appears to involve looking at data for sensible combinations of for interesting effects is allowed. It is forbidden, in fact, to do anything more than to compute the p value using a method determined in advance of the experiment and fully documented at that time. (Salsburg 1985: 221)

behindert die Forschung Statistical inference is a branch of mathematics, but is not an intrinsic part of substantive science. Rather, it belongs to the scaffolding [. . .] a good part of statistical inference is unsuitable for scientific development [. . .] Many practitioners have become disillusioned with declarative inference, especially that of hypothesis testing [. . .] The emphasis on statistical significance over scientific significance in education and research represents a corrupt form of the scientific method [. . .] It is curious that the idea of making go−no-go decisions in operations research should be regarded by some mathematicians as a basis for a general decision theory for all of science. (Guttman 1985: 3f)100 100

Lindley (2002: 22) schließt sich dem mit den Worten an: “Of course, this is understandable; it is much easier to instruct in a ritual than it is to teach reasoning, as all Churches have long since realized.”

3.4 Forschungsstrategien II (Grundhaltungen)

115

oder leistet zumindest einem einseitigen Verständnis von Wissenschaft Vorschub: Because frequentist inference requires the ‘long run’ to be unambiguous, frequentist designs need to be rigid (for example, requiring fixed sample sizes and prespecified stopping rules), features that many regard as requirements of science rather than as artifacts of a particular inferential philosophy (Goodman 1999a: 1000).

Statistik als angewandte Mathematik Auch wenn weder überraschend sein dürfte, dass die gerade beschriebene deduktive Haltung bei Mathematikern beliebt ist, noch verblüffend ist, dass die lange Zeit dominierende Philosophie Poppers ihren Abdruck auf der heutigen Statistik hinterlassen hat, stellt sich doch die ganz einfach Frage: Ist eine solche Sicht wirklich sinnvoll? Oder anders gefragt, welcher Wissenschaftler arbeitet besser; jener der 1. den Forderungen der orthodoxen Statistik Folge leistet und seine Daten nur mit äußerster Vorsicht auswertet? Oder jener, der flexibel und gewissenhaft nach potenziell interessanten, aber verborgenen Strukturen sucht? 2. die Daten als ein Bild der realen Verhältnisse auffasst und sich intensiv und ohne Vorbehalte mit ihnen beschäftigt um neue Erkenntnisse zu gewinnen, oder jener, der aus Angst vor Fehlern gar nicht erst genau hinschaut? 3. genau einem a priori festgelegten Weg folgt oder jener, der überraschenden Indizien, also a priori nicht erwarteten Effekten, nachgeht? 4. so schnell wie möglich die auflaufenden Informationen nutzen möchte oder jener, der aus prinzipiellen Gründen die Auswertung bis zum nächsten geplanten Termin aufschiebt? Man kann empirischen Wissenschaftlern nicht ernsthaft empfehlen, Daten nur nach einem a priori festgelegten Muster, gewissermaßen „nach Plan“, oberflächlich und zugleich extrem konservativ auszuwerten. Zudem grenzt es an Dogmatik, jegliche Suche nach substanziell interessanten Mustern101 reflexartig mit Polemik wie data dredging, data snooping, fishing for significant results oder sogar torturing the data until they confess abzutun.102 Natürlich ist es sinnvoll, Experimente zu planen, natürlich ist es weit überzeugender, prospektiv einen Effekt vorherzusagen anstatt retrospektiv zu „erklären“, dass alles so kommen musste, wie es denn kam.103 Selbstverständlich ist es richtig, Daten kritisch und skeptisch zu beurteilen. Doch schüttet man das Kind mit dem Bade aus, wenn man diese Haltung übertreibt! Es 101 102 103

Siehe S. 187ff Siehe z. B. Burnham und Anderson (2002: Abschnitt 1.5), sowie Chatfield (1995: 462).

Wer Aktienkurse wirklich prognostizieren kann, wird schnell reich; wer nur in der Lage ist, die Entwicklung im Nachhinein zu erklären, ist lediglich ein „Experte“.

116

3 Klassische Statistik

liegen Welten zwischen chaotischer Nicht-Planung und bürokratischer Planwirtschaft, und gesunde Skepsis ist von krankhafter Hysterie genauso weit entfernt wie die “conservative induction” eines Post (1971) vom Deduktivismus eines Popper (1935). Es ist wohl kein Zufall, dass gerade ein Physiker wie Jaynes (2003) eine solche rigide Haltung aufs Schärfste kritisiert, und es ist leider die Ausnahme, dass orthodoxe Statistiker ihre prinzipielle Art, an Daten heranzugehen, fundamental hinterfragen. Statistik wird von vielen maßgeblichen Protagonisten primär als angewandte Mathematik gesehen. Ergo dominiert in der klassischen Statistik der deduktiv-nomologische, oft auch normative Standpunkt. Das mathematische Modell, dessen Eigenschaften und deduzierbaren Folgen, die Widerlegung (mehr noch als der Beleg) von Hypothesen, die „Anwendungen“ der Verfahren und möglichst sichere “decisions” werden angestrebt.104 Schon Fisher (1935: 39) schreibt:105 . . . mathematicians [like Neyman] who have been trained, as most mathematicians are, almost exclusively in the technique of deductive reasoning [and who as a result (sic) would] . . . deny at first sight that rigorous inferences from the particular to the general were possible

Das führt zu äußerst großen Parallelen zwischen den gerade ausgeführten Argumenten und dem Diskurs in Kapitel 2. Hier wie dort beobachtet man eine primär von mathematischen Gesichtspunkten getriebene Entwicklung, die mit einer starken Tendenz zu normativen Vorgaben an die „Anwender“ einhergeht. Hier wie dort wird die Theorie der Praxis wenig gerecht, was nicht zuletzt zu einer „kreativen“ Semantik106 , zuweilen sogar einer barocken Begrifflichkeit107 führt. Und hier wie dort ist schließlich ein strikter Rationalismus die zugehörige, passende Philosophie (Reichenbach 1947: 452). Beidesmal stellten sich neben Tukey nur wenige gegen die Dominanz der deduktiven Strategie und seine schon zu Beginn von Abschnitt 2.6 genannten Beiträge „passen“ zielgenau auch hier. Man könnte den Gegensatz von Induktion und Deduktion (“conclusions versus decisions”, explorative versus konfirmatorische Datenanalyse) sogar das dominierende „philosophische“ Thema seines Lebenswerks nennen.108 104

Im Klassiker Chernoff und Moses (1959: vii) findet sich ganz am Anfang die ebenso klassische Formulierung: “In recent years, Statistics has been formulated as the science of decision making under uncertainty. This formulation represents the culmination of many years of development and, for the first time, furnishes as simple and straightforward model of exhibiting the fundamental aspects of a statistical problem.” (Meine Hervorhebung.) Siehe auch Wald (1950) und Brown (2000). 105 106 107

Zitiert nach Hubbard und Bayarri (2003: 172) Siehe Abschnitt 3.10, etwa die Interpretation der „Signifikanz“ eines Ergebnisses usw.

Z. B. Nicht-Ablehnung einer Hypothese statt Evidenz für eine Hypothese Zahlreiche weitere Beiträge in Jones (1986a,b), also in 2 seiner 8 Bände umfassenden gesammelten Werke, beschäftigen sich mit ihm. Auch eine seiner letzten Arbeiten (Tukey 1997) ist dem Thema gewidmet. Siehe insbesondere auch Abschnitt 4.6. 108

3.4 Forschungsstrategien II (Grundhaltungen)

117

3.4.2 Induktives Verhalten Trotz allem konnte die Statistik als angewandte Wissenschaft dem Induktionsproblem nicht ganz aus dem Weg gehen. Es spricht für den weiten Horizont Neymans, dass er sich des Problems explizit annahm. Da er wie Popper explizit induktive Schlüsse verwirft, plädiert er offen für „induktives Verhaltens“. Neyman (1950: 11) fasst dies zusammen: “Mathematical statistics is a branch of the theory of probability. It deals with problems relating to performance characteristics of rules of inductive behavior based on random experiments.” Aufgrund eines Test-Ergebnisses sollte also kein irgendwie geartetes induktives (nicht logisch zwingendes) Urteil über die Hypothesen gefällt werden. Ein Test führt zu keiner Evidenz oder Wahrscheinlichkeit, dass ein Hypothese zutrifft. Er empfiehlt uns jedoch eine gewisse Verhaltensweise, nämlich so zu handeln, als sei die akzeptierte Hypothese richtig und die verworfene Hypothese falsch. Ein Hypothesentest ist also nichts weiter als ein formalisierte Art, eine Entscheidung „unter Unsicherheit“ zu treffen, auf der dann das weitere Verhalten aufbaut.109 Die Annahme oder das Verwerfen einer Hypothese ist nur in genau diesem Sinne zu verstehen: The terms ‘accepting’ and rejecting’ a statistical hypothesis are very convenient and are well established. It is important, however, to keep their exact meaning in mind [. . .] to accept a hypothesis H means only to decide on action A rather than action B. This does not mean that we necessarily believe that the hypothesis H is true. Also if the application [. . .] ‘rejects’ H, this means only that the rule prescribes action B and does not imply that we believe H is false. (ibd., S. 259)

Induktive Schlüsse lehnt er darauf explizit ab: In the past, claims have been made frequently that statistical estimation involves some mental processes described as inductive reasoning [. . .] in the ordinary procedure of statistical estimation, there is no phase corresponding to the description of ‘inductive reasoning.’ [. . .] all reasoning is deductive and leads to certain formulae and their properties.110

Jedoch können wir uns trotzdem aufgrund des Tests (bzw. vieler gleichartiger Tests) sinnvoll „induktiv“ verhalten: 109

[. . .] any rule R prescribing that we take action A when the sample point [. . .] falls within a specified category of points, and that we take action B in all other cases, is a test of a statistical hypothesis. (ibd., S. 258) 110 Das heißt, negativ formuliert, “[. . .] no test based upon a theory of probability can by itself provide any valuable evidence of the truth or falsehood of a hypothesis” (Neyman und Pearson (1933: 74), meine Hervorhebungen). Siehe auch das nachfolgende Zitat: “Such a rule tells us nothing as to whether in a particular case H is true.” Wie wir bereits (S. 96) gesehen haben, sind dazu die von Neyman und Pearson vorgeschlagenen Hypothesentests auch nicht in der Lage. Deren technische Unvollkommenheit wird also mit einem prinzipiell-philosophischen Argument verteidigt! Der Likelihood-Test erkennen hingegen den deterministischen Teil der Hypothesen sicher.

118

3 Klassische Statistik

“A new phase arrives when we decide to apply these formulae and to enjoy the consequences of their properties. This phase is marked by an act of will (not reasoning) and, therefore, if it is desired to use the adjective ‘inductive’ [. . .] it should be used in connection with the noun ‘behavior’ rather than ‘reasoning’.“ (Neyman (1952: 210), Hervorhebungen im Original.) “Without hoping to know whether each separate hypothesis is true or false, we may search for rules to govern our behaviour with regard to them, in following which insure that, in the long run of experience, we shall not often be wrong. Here, for example, would be such a ‘rule of behaviour’; to decide whether H of a given type be rejected or not, calculate a specified character, x, of the observed facts; if x > x0 , reject H, if x ≤ x0 , accept H. Such a rule tells us nothing as to whether in a particular case H is true [. . .] But it may often be proved that if we behave according to such a rule, then in the long run we shall reject H when it is true not more, say, than once in a hundred times, and in addition we may have evidence that we shall reject H sufficiently often when it is false.” (Neyman und Pearson 1933: 74)

Diese Grundhaltung fasst Neyman (1950: 1)111 zusammen: [. . .] the term ‘inductive reasoning’ remains obscure and it is uncertain whether or not the term can be conveniently used to denote any clearly defined concept. On the other hand [. . .] there seems to be room for the term ‘inductive behavior.’ This may be used to denote the adjustment of our behavior to limited amounts of information. The adjustment is partly conscious and partly subconscious. The conscious part is based on certain rules (if I see this happening, then I do that) which we call rules of inductive behavior. In establishing these rules, the theory of probability and statistics both play an important role, and there is a considerable amount of reasoning involved. As usual, however, the reasoning is all deductive.

Die Theorie des induktiven Verhaltens wird heute kaum noch vertreten. In einer Reihe von Artikeln hat sie Johnstone (1986, 1987b, 1988) geradezu seziert. Ein wesentlicher Grund ist, dass Wissenschaft viel weniger mit Verhalten oder optimierten Handlungsstrategien, als mit Theorien und Argumenten zu tun hat, die in enger Auseinandersetzung mit empirischen Befunden gewonnen werden. Johnstone (1986: 491) schreibt: Scientists, as opposed to ‘shopkeepers’112 interpret the results in their tests as measure of evidence. There is often not a decision in sight. And even if there is literally a decision pending, e.g. the decision whether or not to market a new drug, scientists require evidence; evidence that is relevant in that decision. Thus no matter what their situation, scientists want evidence, if only out of that same natural curiosity which so inevitably killed the cat. This is accepted by all but Neyman’s most loyal advocates. (Hervorhebung im Original.)

Danach zitiert er Pratt (1976: 782) als ein typisches Beispiel: “The real problem is statistical inference: we want an interpretation of the evidence inherent in the data on the questions of interest, including an expression of the uncertainty involved. We don’t want to go directly to decisions, conclusions, or behavior.” Ganz ähnlich äußert sich Fisher 1962 in einem Brief an James: 111 112

zitiert nach Hubbard und Bayarri (2003: 173)

Fußnote im Original: In Kyburg’s terms, Fisher denigrated Neyman’s interpretation as ‘statistics for shopkeepers’, e.g. Kyburg (1974: 76)

3.4 Forschungsstrategien II (Grundhaltungen)

119

“I think a good many are dissatisfied with mere ‘decisions’, which essentially evade the problem of specifying the nature of uncertainty, or the true grounds for belief. . .” (siehe Bennett (1990: 148)) Wie Johnstone durch gründliches Literaturstudium in den o.g. Artikeln, insbesondere in (Johnstone 1987b: 274ff), nachweist, hat sich selbst Neyman in der Praxis nicht an seine eigenen theoretischen Schriften gehalten. Das verheerende Ergebnis war und ist jedoch eine Verwirrung der Begriffe und Ideen, was nicht anders zu erwarten ist, wenn man induktive Evidenz (conclusions) mit deduktiven Entscheidungen (decisions) vermengt: N-P-theory is not a logical or adequate theory for inference.113 Aware of this, Neyman took on a Peircean114 behavioristic interpretation of statistical tests, eschewing the classical inferential interpretation espoused by Karl Pearson and R.A. Fisher. No more was it ‘scientific’ to speak of evidence, support, belief, or anything explicitly subjective. Instead, Neyman introduced the rhetoric of ‘accept’ or ‘reject’, ‘decide that..’ ‘decide to state that..’ and other meaningless formalisms115 (siehe Johnstone (1987b: 275)).

Die fundamentale Unterscheidung lässt sich auf den p-Wert versus das Fehlerniveau α verdichten. Da beide Konzepte interpretativ zwar vollkommen verschieden, mathematisch gesehen jedoch äußerst ähnlich sind, war das heutige Chaos geradezu vorprogrammiert.

Prinzipien der orthodoxen Statistik Die spezielle Theorie des induktiven Verhaltens ist Geschichte. An den oben zitierten Schlüsselpassagen und Beispielen lassen sich jedoch auch die zentralen Stützpfeiler der orthodoxen Statistik herausarbeiten, die bis heute das Denken bestimmen: 1. Möglichst alles wird im vorhinein festgelegt. 2. Ist man in der Lage, die Daten in einem statistischen Experiment kontrolliert zu erheben, so schafft man damit einen logischen Rahmen (weshalb man auch von experimental design spricht), in dem man die Daten auch (möglichst weitgehend) interpretiert. Das Verfahren ist also explizit, steuerbar und objektiv.116 3. Technisch gesehen spielt dabei der Stichprobenraum, also die Menge aller möglichen Stichproben, samt der dort definierten Verteilung, eine zentrale Rolle, weshalb man auch von sample space inference spricht. 113

Fußnote im Original: e.g. Seidenfeld [1979, Ch.2] extends the Hacking [1965] refutation.

114

Siehe S. 105 Fußnote im Original: De Finetti (1974b: 128) regarded [this language as . . .] ‘the principle cause of the fogginess widespread all over the field of statistical inference.’ 115 116

Die offensichtliche Willkür, die z. B. in der Konvention α = 1% steckt, fällt demgegenüber kaum ins Gewicht.

120

3 Klassische Statistik

4. Die konkret gemachte Beobachtung spielt hingegen kaum eine Rolle. Im Extremfall hat sie wie bei Popper nur eine einzige, zuvor genau definierte Aufgabe, nämlich innerhalb des festgelegten Rahmens eine auf der Empirie basierende Entscheidung zu fällen. 5. Die Qualität eines Verfahrens - nicht nur Tests - wird an dessen (hypothetisch) gutem Abschneiden “in the long run” festgemacht.117 Dadurch übernimmt man die Häufigkeitsinterpretation der Wahrscheinlichkeit (Reichenbach 1968: 346ff). Das heißt, man knüpft die Wahrscheinlichkeitsaussagen via dem Gesetz der großen Zahlen (S. 82) an die empirisch beobachteten Häufigkeiten, ein weiteres Merkmal von Objektivität (siehe aber S. 212). In der englischsprachigen Literatur wurde deshalb sogar die Bezeichnung frequentist statistics geprägt.118 6. Mit dem “long run” bewertet man statistische Verfahren analog der Zuverlässigkeit von Messinstrumenten bei deren wiederholtem Einsatz. Was wir Replikation genannt haben119 heißt bei Cox (2006: 197) Kalibrierung: Frequentist analyses are based on a single and powerful unifying principle. The implications of data are examined using measuring techniques [. . .] calibrated, as are other measuring instruments, indirectly by the hypothetical consequences of their repeated use.120

Diese Punkte haben historisch gesehen den Ausschlag gegeben. In den letzten 60 Jahren konnten Bayesianer und andere Kritiker noch so ausgefeilte Argumente gegen viele Details „frequentistischer“ Verfahren vorbringen. Letztlich waren es die Objektivität des Aufbaus, der Durchführung und der Interpretation, gepaart mit der empirischen Basierung der Wahrscheinlichkeitsaussagen, die die meisten Statistiker für die klassische Statistik und gegen die „subjektiven“ Bayesianer einnahmen. Neyman (1977) stellt die Vorzüge explizit heraus und Efron (1986: 4) folgt ihm darin gerne: The high ground of scientific objectivity has been seized by the frequentists.

Auch Royall (1997: 84f), ein führender Vertreter des konkurrierenden Likelihood-Ansatzes räumt ein: For one thing, [Neyman’s and Pearson’s] finding of the optimal test procedure made choosing a test an objective process, driven by the mathematics of size and power, rather than by the experimenter’s subjective judgements [. . .] and gives the experimenter two remarkable advantages: it provides precise, objective measures of the 117

Die Alternative, z. B. ein und denselben Test an verschiedenen Stichproben derselben Population tatsächlich mehrfach durchzuführen, spielt praktisch eine untergeordnete Rolle. 118 Mehr zur Interpretation von Wahrscheinlichkeiten siehe S. 261ff und vor allem Abschnitt 5.5.5. 119

Und Psychologen womöglich Retestreliabilität nennen würden Ganz ähnlich schreiben Hubbard und Bayarri (2003: 181): Frequentism aims at reporting measures of performance that behave nicely in the long run, in the sense that the average reported performance is no better than the long run actual performance of the statistical procedure. (Hervorhebungen im Original) 120

3.4 Forschungsstrategien II (Grundhaltungen)

121

probability of results that are misleading or otherwise unsatisfactory; and, even more important, it gives methods for controlling those probabilities.

Es ist sicherlich kein Zufall, dass sich der Mathematiker Neyman der philosophischen Aspekte der Statistik annahm. Nur dadurch war er in der Lage, seinen Ansatz auch auf der prinzipiellen Ebene gegen Kritik zu verteidigen. Und nur dadurch konnte er einen breiten Geltungsanspruch frequentistischer (und nicht zuletzt seiner) Methoden begründen, ja sogar einen Alleinvertretungsanspruch formulieren. Da er und seine Schule sich durchgesetzt haben, prägt diese Grundhaltung bis heute das Verhalten der Statistiker: The frequentist’s theory of inductive inference, called either the theory of inductive behavior, or the theory of statistical decision functions, or, more simply, the modern theory of statistics, is meant for application in all those cases where a stochastic model has been adopted to represent a given class of phenomena. (Neyman (1955: 17), meine Hervorhebung)

3.4.3 Der induktive Gegenpol Die Begründer der heute orthodoxen Statistik, vor allem R. A. Fisher und Neyman, waren sich des fundamentalen philosophischen Unterschieds bewusst. Im Gegensatz zum Mathematiker Neyman verstand sich Fisher zeitlebens als empirischer Wissenschaftler (vor allem im Bereich der Genetik), welcher statistische Methoden benutzte und (oft entscheidend) weiterentwickelte. Es gibt nicht nur zahlreiche Artikel und Aussagen Neymans über Induktion, auch Fisher hatte die im Allgemeinen von den empirischen Wissenschaften verwendete Methode im Auge. Neymans Testtheorie wurde von Fisher primär nicht aufgrund mathematischer Details sondern wegen ihrer „unangemessenen“ deduktiven Auffassung von Wissenschaft bekämpft.121 Eine echte induktive Statistik, ironischerweise auch der Titel vieler einschlägiger mathematischer Lehrbücher, war für ihn Programm. Einige typische Zitate aus Fisher (1973) mögen dies belegen: The concept that the scientific worker can regard himself as an inert item in a vast cooperative concern working according to accepted rules is encouraged by directing attention away from his duty to form correct scientific conclusions, to summarize them and to communicate them to his scientific colleagues, and by stressing his supposed duty mechanically to make a succession of automatic ‘decisions’ [. . .] The idea that this responsibility can be delegated to a giant computer programmed with Decision Functions belongs to a phantasy of circles rather remote from scientific research. (S. 104f) [. . .] for in fact no scientific worker has a fixed level of significance at which from year to year, and in all circumstances, he rejects hypothesis; he rather gives his mind to each particular case in light of his evidence and his ideas. (S. 45) 121

Die Auseinandersetzung zog sich über Jahrzehnte hin, siehe insbesondere Neyman (1961). Für eine knappe Kontrastierung der Positionen siehe Gigerenzer (2004).

122

3 Klassische Statistik

[. . .] The conclusions drawn from tests constitute the steps by which the research worker gains a better understanding of his experimental material [. . .] More recently, indeed, a considerable body of doctrine has attempted to explain, or rather to reinterpret, these tests on the basis of quite a different model, mainly as a means to making decisions in an acceptance procedure. The differences between these two situations seem to the author many and wide, and I do not think it would have been possible had the authors of this reinterpretation had any real familiarity with work in the natural sciences, or consciousness of those features of an observational record which permit of an improved scientific understanding [. . .] (S. 79f) In choosing the grounds upon which a general hypothesis should be rejected, personal judgement may and should, properly be exercised. The experimenter will rightly consider all points, on which, in the light of current knowledge, the hypothesis may be imperfectly accurate, and will select tests so far as possible, sensitive to those faults, rather than to others. (S. 50)

Es ist charakteristisch, dass sich die fundamentalen Unterschiede an technischen Details festmachen lassen. Von den meisten Statistikern wird dies als Nachteil empfunden, denn wer möchte im Alltagsgeschäft schon ständig von prinzipiellen Problemen verfolgt werden? Andererseits kommt man nicht umhin, sich den fundamentalen Problemen zu stellen, und von unserer Warte aus gesehen ist es ein großer Vorteil, wenn sich vage prinzipiell-philosophische Positionen leicht fixieren lassen. Vergleichen wir diesbezüglich die verschiedenen Testverfahren, so könnte der Kontrast zu Neyman und Pearson kaum größer sein. Geht man von den Daten aus, so steht zunächst einmal der Einzelfall im Mittelpunkt. Was lässt sich aus den vorliegenden Daten lernen, welche Information lässt sich aus ihnen extrahieren, sind die naheliegendsten Fragen. In Fisher (1955: 73f) heißt es ganz deutlich: In an acceptance procedure [. . .] acceptance is irreversible, whether the evidence for it was strong or weak. It is the result of applying mechanically rules laid down in advance; no thought is given to the particular case, and the tester’s state of mind, or his capacity for learning is inoperative.

Datengetriebene Analysen handeln kaum von Entscheidungen nach Regeln oder Optimalitätskriterien samt den zugehörigen Beweisen, als vielmehr von plausiblen, induktiven Schlussfolgerungen. Fishers Gedanke, die Evidenz des Experiments im p-Wert zu kumulieren ist ein typischer Ansatz dieser Richtung. Der p-Wert quantifiziert in einer einzigen Maßzahl die gesammelte Evidenz des speziellen Experiments. Es ist sodann völlig natürlich, die Ergebnisse, also insbesondere die p-Werte, einer Reihe von Experimenten zusammenzufassen. Damit hat Fisher bereits begonnen122 und die Metaanalyse (siehe S. 103) ist eine konsequente Folge dieser Geisteshaltung. Ein Vor- und ein Nachteil der induktiv-datengetriebenen Sicht ist, dass die Interpretation des p-Werts, aber auch die Kombination der Evidenz, von der konkreten Situation abhängig ist, und deshalb letztlich in die Verantwortung des Anwenders gelegt wird. Das hierbei explizit erscheinende subjektive 122

Er empfahl z. B. das Produkt der p-Werte aller Experimente

3.4 Forschungsstrategien II (Grundhaltungen)

123

Element zeigt sich z. B. darin, dass ein Autor bei der Gestaltung einer Metaanalyse große Freiheiten genießt und es bei einem Signifikanztest keinen festliegenden Annahmebereich gibt. Likelihood-Überlegungen sind eng verwandt - diese subsummieren die gesammelten Informationen im Likelihood-Quotienten bzw. allgemeiner der Likelihoodfunktion. Zwar kann man hier, wie wir zuvor (S. 97) bemerkt haben, deduktiv und induktiv vorgehen, doch verzichtet der Likelihood-Ansatz typischerweise auf die explizite Angabe eines Ablehnungsbereichs. Weit üblicher ist es, den numerischen Wert des Quotienten q (siehe S. 96) anzugeben, verbunden mit einer groben Einteilung der Stärke der Evidenz,123 die von „schwach“ bis „sehr stark“ reicht. Diese quantitative oder zumindest (ordinal) geordnete Art, die Stärke von Evidenz zu unterteilen, ist sicherlich informativer als eine Null-Eins-Entscheidung. Zudem basiert die Kette der mathematischen Argumente auf dem tatsächlich beobachteten Wert x. Eine induktive Haltung legt Wert darauf, Beobachtung für Beobachtung aus der Erfahrung zu lernen, d.h. unsere Überzeugungen ändern sich mit der sich akkumulierenden Erfahrung. Der Bayessche Ansatz greift genau dies auf und interpretiert demgemäß Wahrscheinlichkeiten zunächst einmal als Grade der subjektiven Überzeugung, die sich im Licht neuer Erkenntnisse (also Daten) langsam ändern. Goodman (1999b: 1005) grenzt beide Ideen gegeneinander ab: [There is] the widespread misconception that the only utility of the Bayesian approach is a belief calculus. What is not appreciated is that Bayesian methods can instead be viewed as an evidential calculus.

Die Anzahl der Beobachtungen zu fixieren und eine 0-1-Entscheidung zu treffen, sobald die Posteriori-Wahrscheinlichkeiten P (Hi |x1 , . . . , xn ) eine feste Schranke überschreiten, widerstrebt dem Bayesschen Ansatz deshalb noch mehr als dem Likelihood-Argument. Viel natürlicher ist es, die sich in P (H0 |x1 ), P (H0 |x1 , x2 ) sammelnde Erfahrung so lange zu verfolgen, bis die Posteriori-Wahrscheinlichkeiten eindeutig in die eine oder andere Richtung tendieren. Wenn eine obere Schranke k1 , z. B. k1 = 0, 95, überschritten wird, wird man dann mit gutem Grund H0 präferieren. Im gegenteiligen Fall, etwa wenn die untere Schranke k2 = 0, 1 unterschritten wird, sind hingegen eher Zweifel an der H0 angebracht. Das entspricht der intuitiven Vorstellung, mit großer Sicherheit eine richtige Entscheidung treffen zu können, wenn genügend Information aufgelaufen ist.

Der Status Quo Fisher stand und steht mit seiner Grundauffassung nicht allein. Im Gegenteil, seine Zeitgenossen und Vorgänger, wie Gosset, Galton und K. Pearson verstanden sich alle als empirisch arbeitende Wissenschaftler, die Daten erhoben, 123

Siehe z. B. (Goodman 1999b: 1006, 1008).

124

3 Klassische Statistik

analysierten und interpretierten. Sie waren sich einig, dass quantitative Methoden, wo immer anwendbar, von Vorteil sind und gaben damit die Richtung vor. Doch waren für sie mathematische Argumente und der Wahrscheinlichkeitstheorie entliehene Methoden immer Werkzeuge zum Zweck der Datenanalyse. Dementsprechend ging es ihnen weniger um mathematisch-logische Deduktionen, als vielmehr um die Lösung wissenschaftlicher Fragestellungen, den Erkenntnisgewinn aus Experimenten bzw. allgemein, um das Lernen aus Erfahrung. Sie vertraten also, kurz gesagt, einen dezidiert empiristisch-induktive Grundhaltung, die K. Pearson (1892) sogar explizit darstellte.124 In der Nachfolge von Fisher waren es vor allem angewandte britische Statistiker (Barnard, Box, Chatfield, Cox, Good, Lindley), die ihn weiterhin vertraten und nie die tiefschürfenden „fundamentalen“ Probleme der Statistik aus den Augen verloren. Der bald ausführlicher zu besprechende Bayesianische Ansatz betont auch heute noch die wesentlichen wissenschaftstheoretisch-philosophischen Unterschiede und leitet aus ihnen seine Art, Statistik zu betreiben, ab.125 Ganz anders der statistische Mainstream, sowohl in Theorie als auch Anwendung. Nach endlosen, ziemlich fruchtlosen Debatten über die „Fundamente“ konzentrieren sich „konventionelle“ Statistiker auf konkrete Problemstellungen und -Lösungen, technische Fortschritte (sowohl was statistische Verfahren als auch Computer anbelangt) und natürlich mathematische Resultate. Es ist geradezu verpönt, prinzipiellere, philosophische Fragen zu stellen. Enttäuscht schreibt Dawid (2000: 326): It was the deep logical and philosophical conundra that beset the making of inductive inferences from data that attracted me into statistics [. . .] But I have always been disappointed that so few other statisticians seem to share my view of statistics as ‘applied philosophy of science’, and even that small number seems to be dwindling fast.

Bemerkenswerterweise betonen Autoren am Rand der klassischen Statistik, welche mit wesentlichen Neuerungen aufzuwarten haben, dezidiert die Bedeutung der induktiven Erkenntnisrichtung. Dies gilt insbesondere für die außerordentlich beeindruckenden Entwicklungen auf den Feldern des Data Mining, der kausalen Netze und der Informationstheorie samt den ihnen nahestehenden Anwendungsgebieten. Siehe dazu insbesondere die Abschnitte 4.6.2, 5.4.1 und 5.5. Mit Blick auf diese Entwicklung fährt Dawid fort: [. . .] there are increasing numbers of researchers in artificial intelligence and machine learning who are taking foundational issues extremely seriously and are conducting some very original and important work. It is ironic that, as statisticians devote more of their effort to computing, so computer scientists are applying themselves to statistical logic. 124 125

Man denke auch an die Titel der wichtigsten Bücher Fishers (1966, 1970, 1973).

Mehr noch: Viele Vertreter dieser Schule gründen darauf - wieder - einen Alleinvertretungsanspruch.

3.5 Parametrische Statistik

125

Zwei herausragende Beispiele hierfür sind Li und Vitányi (2008) und Pearl (2009a). Hingegen ist Reid (1995: 194) sehr typisch für den statistischen Mainstream. Zur bedingten Inferenz (siehe S. 403ff) schreibt sie nach einer langen, intensiven Diskussion nur: “I tried to avoid as much as possible a discussion of the foundations of inference, as I find their study confusing.” 126 Der Kontrast zu den Gründervätern der heutigen Statistik könnte größer nicht sein. Sie stellten sich explizit dem fundamentalen Problem der statistischen Inferenz und Induktion. Ihre gerade besprochenen Argumente im Rahmen der Testtheorie sind dabei nur ein kleiner Ausschnitt des gesamten Spektrums statistischer Fragestellungen, die immer mit tieferen „philosophischen“ Problemen, insbesondere der Induktion, einhergingen. Im folgenden wollen wir einige typische Generalisierungen in der Statistik vorstellen. Viele Autoren verstehen sogar das ganze Projekt der Statistik als den am weitesten ausgearbeiteten Versuch, fundiert(e) induktive Schlüsse zu ziehen. So schreibt Basu (1979: 324): “Data interpretation is not an objective scientific method. There cannot be a mindless weighing of evidence.” Wenige Jahre früher (Basu 1971: 244) sagt er noch pointierter: If we define mathematics as the art and science of deductive reasoning [. . .] then statistics (the art and science of induction) is essentially anti-mathematics. A mathematical theory of statistics is, therefore, a logical impossibility!

Wir vertiefen diesen Gesichtspunkt in Abschnitt 5.1 im Rahmen des allgemeinen Induktionsproblems. Zunächst verfolgen wir eine etwas komplexere, dafür aber auch erheblich flexiblere Idee Fishers, Daten mithilfe übersichtlich strukturierter Modelle auszuwerten. Konkret bedeutet das, das IIDGrundmodell (Abschnitt 3.1) geeignet zu verfeinern, was wir in den nächsten beiden Abschnitten tun wollen.

3.5 Parametrische Statistik The KISS principle: Keep things simple and smart127 126

Sie fährt fort: “However, it is difficult to delve very deeply into a study of conditional inference without coming up against foundational aspects, and Dawid and Goutis quite rightly raise some troubling issues.” Die Schlussfolgerung am Ende ihres Abschnitts über foundations ist bemerkenswert und folgerichtig: “[. . .] conditioning seems to be a convenient tool for a number of different purposes [. . .] most of the principles that statisticians espouse fail in one aspect or another, but luckily a pragmatic approach to problems seems to be fairly effective in applications. Still it is vaguely unsettling to be unable to pin the discipline down on a principled foundation.” (Meine Hervorhebungen) Viele haben darauf hingewiesen, dass der so fixierte Unterschied genau jener zwischen nützlicher Technik und fundierter Wissenschaft ist. Man vergleiche die gerade gebrachten Ausführungen z. B. mit jenen von Rissanen, S. 519. 127 Es gibt viele Varianten hiervon, etwa small and simple, simple and straightforward, sweet and simple, speckless and sane, sober and significant sowie natürlich keep it simple, stupid! Siehe insbesondere die deutsche und die englische Wikipedia zu diesem Stichwort.

126

3 Klassische Statistik

Wir haben schon des öfteren betont, wie wichtig es ist, zu detaillierten, quantitativen Aussagen zu kommen. Dem entsprechend ist anzunehmen, dass gewisse Verteilungsfunktionen wichtiger sind als andere. Insbesondere sollte man oft in der Lage sein, mittels weniger sogenannter Parameter ein stochastisches Modell, d.h. eine Verteilungsfunktion oder Familie von Verteilungsfunktionen, festzulegen. Genau dies ist eine der genialen Ideen des jungen Fisher (1922, 1925). Die mit Abstand wichtigste Verteilung ist die Normalverteilung, gegeben z. B. durch ihre Verteilungsfunktion

x (t−μ)2 1 Φμ,σ (x) = √ e− 2σ2 dt 2πσ −∞ mit dem Lage-Parameter μ und dem Streuungs-Parameter σ, die sich wohl in (fast) jedem Statistikbuch findet.128 Der Lageparameter μ gibt physikalisch gesprochen den Schwerpunkt der Verteilung an, die Varianz σ 2 das Drehmoment. Das ist typisch: Zumeist spiegeln sich in den Parametern wichtige Eigenschaften der jeweiligen Verteilungsfunktion wider. Neben der Normalverteilung gibt es noch Dutzende weitere mehr oder minder wichtige parametrische Modelle, die sowohl alltäglich benutzt als auch theoretisch intensiv analysiert werden. Nahezu erschöpfende Auskunft geben die ebenso zahl- wie einflussreichen Bände von Johnson und Kotz - sowie mittlerweile einiger weiterer Koautoren - über “Distributions in Statistics”, z. B. Johnson et al. (1994, 1995, 2005). Parametrische Modelle haben nicht nur den großen Vorteil, genauere Aussagen zu ermöglichen als nichtparametrische. Sie sind auch technisch weit leichter beherrschbar, da es sich in aller Regel um reellwertige Zahlen oder Zahlbereiche handelt. Im allgemeinen Fall muss man hingegen mit großen Familien ziemlich willkürlicher Verteilungsfunktionen zurecht kommen. Die Einfachheit hat jedoch auch einen Nachteil: Parametrische Modellannahmen sind weit einschränkender als nichtparametrische. Es sind die konkreten, sehr weitreichenden Verteilungsannahmen, die parametrische Modelle weit enger werden lassen als nichtparametrische. Wie in der Messtheorie erkauft man sich also den mathematischen Vorteil durch den Nachteil, dass ein parametrisches Modell in der Anwendung oft nicht adäquat sein wird. Es weist bildlich gesprochen nur eine eingeschränkte Flexibilität auf, und man muss damit rechnen, dass diese der Realität nicht gerecht wird.129 128

Man schreibt prägnant X ∼ N (μ, σ) für eine Zufallsvariable X mit dieser Verteilung. Sind die Parameter also fest - konkrete, konstante Zahlenwerte - so hat man es mit einer Verteilung zu tun. Betrachtet man sie als variabel, so kommt man zu einer ganzen Familie eng verwandter Verteilungen. Die Normalverteilung hat die bemerkenswerte Stabilitätseigenschaft, dass die Summe zweier unabhängiger, normalverteilter Zufallsvariablen wieder normalverteilt ist. q Genauer: Ist X1 ∼ N(μ1 , σ1 ) und X2 ∼ N(μ2 , σ2 ), dann ist X1 + X2 ∼ N (μ1 + μ2 , 129

σ12 + σ22 ).

Zwar heißt es, alles sei normalverteilt, doch ist das natürlich nicht der Fall. Man denke an radioaktive Zerfälle (näherungsweise Poissonverteilt), das Würfeln (diskrete Zufallsva-

3.5 Parametrische Statistik

127

Schätzverfahren Im Rahmen parametrischer Modelle besteht die Hauptaufgabe der Statistik darin, mithilfe der Beobachtungen die fraglichen, zunächst unbekannten Parameter (näherungsweise) zu identifizieren.130 Aus naheliegenden Gründen bezeichnet man diesen Vorgang als Schätzung und das arithmetische Mittel der Einzelwerte wäre ein Schätzer des Parameters μ, in Zeichen: μ ˆ=μ ˆ (x1 , . . . , xn ). Besonderes Interesse galt und gilt allgemein anwendbaren Verfahren, die sehr häufig optimale oder zumindest in der Praxis brauchbare Ergebnisse liefern. Beim Schätzen heißt das: Wie kann man routinemäßig „gute“ Schätzer konstruieren? Hier ist das Verfahren der Maximum-Likelihood-Schätzung von überragender Bedeutung, was nicht verblüfft, wenn man vom obigen Grundmodell ausgeht: Es sei eine Familie von Verteilungen gegeben, welche sich durch wenige Parameter beschreiben lasse. Nehmen wir z. B.131 die hypergeometrische Verteilung HW,S mit den Parameter W, S. Dabei bezeichnen W und S die Anzahl von weißen bzw. schwarzen Kugeln in einer Urne. pW,S (w, s) sei die Wahrscheinlichkeit, genau w weiße und s schwarze Kugeln aus einer solchen Urne zu ziehen. Man berechnet    W S W +S pW,S (w, s) = / (3.1) w s w+s

 mit den Binomialkoeffizienten nk = n!/(k! · (n − k)!) und n! = 1 · 2 · . . . · n. Es sei bekannt, dass W ≤ 7 und S = 5 gilt, und es werde eine Stichprobe vom Umfang n = w + s aus der Urne gezogen. Mithilfe dieser Daten soll die Gesamtanzahl W der weißen Kugeln in der Urne geschätzt werden. Mit den bekannten Wahrscheinlichkeiten aus (3.1) erhält man die folgende Tabelle: riable) oder Variablen, die nur nichtnegative Werte annehmen. Zwischen parametrischen und nichtparametrischen Modellen stehen, wie der Name schon andeutet, sogenannte semiparametrische Ansätze, die die Vorteile „beider Welten“ zu kombinieren suchen (Härdle et al. 2004). 130 Am wichtigsten ist der Erwartungswert μ = E(X) bzw. kürzer μ = EX einer ZufallsPn variablen X. Nimmt diese nur endlich viele Werte an, so ist μ = i=1 xi · p(X = xi ). Als Streuungsmaß ist die Varianz σ 2 = σ 2 (X) am wichtigsten. Im Fall einer Zufallsvariablen X, die nur endlich viele Werte annimmt, hat man σ 2 = E(X − EX)2 = Pn 2 i=1 (xi − μ) · p(X = xi ). Der Erwartungswert ist linear, d.h. mit Konstanten a, b gilt immer E(aX + b) = aE(X) + b. Für die Varianz hat man σ 2 (aX + b) = a2 σ 2 (X). Von großer Bedeutung ist zudem die Varianzzerlegung σ 2 (X) = σ 2 (E(X|Y )) + E(σ 2 (X|Y )). Weitere Eigenschaften finden sich z. B. in Krengel (1988: Abschnitte 3.3 und 3.5). 131 Das nachfolgende Beispiel wurde Krengel (1988: 62f) entnommen.

128

3 Klassische Statistik

w W 0 1 2 3 4 5 6 7

0 1 0,167 0,047 0,018 0,008 0,004 0,002 0,001

1 0 0,833 0,476 0,268 0,159 0,099 0,065 0,044

2 0 0 0,476 0,536 0,476 0,397 0,325 0,265

3 0 0 0 0,179 0,317 0,397 0,433 0,442

4 5 Summe 0 0 1 0 0 1 0 0 1 0 0 1 0,040 0 1 0,099 0,004 1 0,162 0,013 1 0,221 0,026 1

Da in jeder Zeile eine Wahrscheinlichkeitsverteilung steht, ist die Summe jeder Zeile genau Eins. Offenkundig können nicht mehr weiße Kugeln in der Stichprobe zu finden sein, als insgesamt weiße Kugeln in der Urne liegen, so dass die Wahrscheinlichkeit immer gleich Null wird, sobald w > W ist. Die Maximum-Likelihood-Schätzung wechselt nun einfach die Perspektive. Statt der Zeilen betrachtet sie die Spalten, genau gesagt diejenige Spalte, welche tatsächlich beobachtet wurde. Enthielt die Stichprobe zum Beispiel 5 weiße Kugeln, so sind nur die Zahlen der vorletzten Spalte, also neben den Nullen 0, 004; 0, 013 sowie 0, 026 von Belang. Die Maximum-LikelihoodSchätzung des unbekannten W , bedingt unter der Beobachtung w = 5, ist ˆ = 0, 026, also das Maximum dieser Zahlen. Der Name “Likelihood”, als „an W der Wahrscheinlichkeit orientierter Plausibilität“ rührt daher, dass man nicht - zeilenweise - die Beobachtungen x als Funktion des Parameter θ betrachtet, welches genau die Wahrscheinlichkeiten pθ (x) sind, sondern - spaltenweise den unbekannten Parameter als Funktion der bekannten Beobachtung, also lx (θ). Genau dies ist die bereits des öfteren erwähnte Likelihoodfunktion. Zahlenmäßig ist natürlich bei festem θ und x gerade pθ (x) = lx (θ). Schaut man über die Statistik hinaus, so kann man in der Maximum-LikelihoodSchätzung ein konkretes Verfahren im Geiste eines Schlusses auf die beste Erklärung sehen.132 Unter allen überhaupt in Betracht gezogenen Möglichkeiten wird die in einem natürlichen Sinne beste Alternative ausgewählt. Das Prinzip der Maximum-Likelihood-Schätzung lässt sich ganz allgemein anwenden. Wird die Familie der Verteilungen etwa durch Wahrscheinlichkeitsdichten repräsentiert, wie im wichtigsten Fall der Normalverteilung, so gelangt man durch (Logarithmieren und) einfaches Differenzieren am schnellsten zur Lösung, also zum Maximum-Likelihood-Schätzer eines gesuchten Parameters. In vielen Fällen ist der Maximum-Likelihood-Schätzer sehr gut oder sogar optimal.133 132 133

Engl.: inference to the best explanation, oft IBE abgekürzt

Siehe z. B. Pawitan (2001), insbesondere S. 101 sowie die Kapitel 3 und 9. Einen guten Überblick gibt Held (2008). Wichtige Erweiterungen besprechen wir S. 144, S. 475ff und S. 475.

3.6 Wichtige klassische Modelle

129

3.6 Wichtige klassische Modelle Linear models are a basic component of statistics. (Nelder 1994: 221)

3.6.1 Eine Umformulierung des Grundmodells Das IID-Grundmodell wird gerne in der folgenden Form eingeführt. Die Zufallsvariablen X1 , . . . , Xn seinen unabhängig und identisch verteilt und haben die Gestalt Xi = μ + Ui für i = 1, . . . , n.

(3.2)

Das heißt, die Daten setzen sich additiv aus dem (unbekannten) „wahren“ Wert μ und einem (ebenfalls unbekannten) „Fehler“ Ui zusammen. Die Vorstellung ist - in völligem Gegensatz zur Messtheorie - dass eine Beobachtung x = μ + dadurch charakterisiert ist, dass der tatsächliche Wert μ von einem unsystematischen „Rauschen“, der oftmals unvermeidbaren Messungenauigkeit (also dem konkreten Wert Ui = ) überlagert wird. Da sich jede Zufallsvariable X mit endlichem Erwartungswert μ in der Form (3.2) schreiben lässt, stellt das obige Modell zudem mathematisch gesehen keine wesentliche Einschränkung gegenüber der IID-Prämisse dar.134 μ ist für alle Beobachtungen gleich, d.h. konstant. Dies ist gleichbedeutend damit, dass die Messfehler unabhängig und identisch verteilt sind. Typischerweise wird (nichtparametrisch) vorausgesetzt, dass diese den Erwartungswert 0 und eine endliche Varianz besitzen. Sehr häufig kann man (parametrisch) davon ausgehen, dass die Fehler normalverteilt sind. Mit diesen Annahmen ergibt sich, dass man mit wachsendem n dem unbekannten Wert des Parameters beliebig nahe kommen kann, denn mit den Rechenregeln für die Varianz ¯ = n Xi /n sofort: und den Erwartungswert (siehe S. 127) ergibt sich für X i=1 √ ¯ = μ, σ2 (X) ¯ = σ 2 /n und σ(X) ¯ = σ/ n EX (3.3) So „harmlos“ die letzte Formel aussieht, so durchschlagend ist sie: σ ist ein Maß dafür, wie sehr der wahre Wert μ bei der Beobachtung „verschwimmt“. Je größer σ, desto mehr streuen die beobachteten Werte x1 , . . . , xn um den tatsächlichen Wert μ. Die Formel zeigt, warum n Beobachtungen erheblich besser sind als eine einzige: Weil man mit ihrer Hilfe den wahren Wert μ viel genauer erkennt. Hat eine Beobachtung die Streuung σ, so sinkt dieser Wert bei 25 Beobachtungen auf σ/5, und bei 100 Beobachtungen ist die Streuung 134

Der einzige Unterschied zwischen der Verteilung des Fehlers ε und der Daten X ist, dass der Erwartungswert des Fehlers aufgrund von EU = EX − E(μ) = μ − μ = 0 ist. Anders gesagt: Man erhält die Verteilung des Fehlers, in dem man den Schwerpunkt der Verteilung - also den Erwartungswert der Zufallsvariablen - in den Ursprung verschiebt.

130

3 Klassische Statistik

auf ein Zehntel ihres Ausgangswertes zurückgegangen. Asymptotisch (n → ∞) lässt sich der Wert von μ sogar exakt erkennen!135 Die Statistik verdankt ihre Flexibilität und damit auch einen Teil ihres empirischen Erfolges nicht zuletzt der Tatsache, dass sich (3.2) geradezu extrem verallgemeinern lässt. Zudem stellen die zuvor beschriebenen mathematischen Techniken sicher, dass sich die so gewonnenen Modelle (fast) so einfach routinemäßig - zumindest näherungsweise - lösen wie aufstellen lassen. Zuweilen wird deshalb die Statistik als Ganzes mit der Analyse von Variation gleichgesetzt: “[. . .] the use of probability to describe variation.” (Fraser 1976: 2). Zur nun folgenden Skizze orthodoxer statistischer Modellbildung passt auch Galton (1889: 3), zitiert nach Stigler (1986: 8), vortrefflich: The road to be travelled over [. . .] is full of interest in its own. It familiarizes us with the measurement of variability, and with curious laws of chance that apply to a vast diversity of social subjects. This part of the inquiry may be said to run along a road on a high level, that affords wide views in unexpected directions, and from which easy descents may be made to totally different goals to those we have now to reach.

3.6.2 Varianzanalyse Bei der Varianzanalyse - oft ANOVA für analysis of variances abgekürzt - werden die Beobachtungen nicht nur in eine Konstante μ plus Fehler ε zerlegt, sondern es gibt noch eine Reihe weiterer Konstanten αi , woraus sich das additive Modell Xi,k = μ + αi + Ui,k

(3.4)

für i = 1, . . . , p ergibt.136 „Die Zahl μ kann als allgemeines ‚Mittel‘, die Zahl αi als Wirkung der i-ten Stufe des Faktors A angesehen werden, während sich Ui,k als (zufälliger) Versuchsfehler interpretieren lässt.“ 137 Typischerweise ist A ein vom Experimentator kontrollierter Faktor, der mehrere Ausprägungen kennt. Da der Erfinder der Varianzanalyse, R. A. Fisher, auch in der Biologie und Pflanzenzucht arbeitete, handelte es sich ursprünglich z. B. um verschiedene Felder, Umweltbedingungen oder genetische Varietäten, die einen Einfluss auf den Ertrag haben. Die Varianzanalyse hat ihren Namen daher, dass sich aufgrund der Zerlegung (3.4), auch die Varianz in den erklärten Anteil „zwischen den Stufen“ und ein Residuum „innerhalb der Stufen“ zerlegen lässt. Etwas genauer: In Stufe i ist μi = E(X|i) = μ+αi und σi2 = σ 2 (X|i) = E((X|i)−μi )2 bezeichne 135

Sind die Xi unabhängig und alle gemäß B(p) verteilt, so ist μ = p und erhält man auf diesem Weg erneut das Gesetz der großen Zahlen (S. 82). 136 Für eine tiefergründigere Diskussion des Verfahrens siehe S. 110ff 137

Siehe Müller (1991: 462ff), der viele weitere Aspekte der Varianzanalyse bespricht.

3.6 Wichtige klassische Modelle

131

die bedingte Varianz dort. Dann gilt138 σ 2 (X) = σ 2 (E(X|i)) + E(σ 2 (X|i)) = σ 2 (μi ) + E(σi2 ) = E(αi2 ) + E(σi2 ). Die Terminologie erklärt versus residual wird klar, wenn man bedenkt, dass die Unterschiede zwischen den αi struktureller Natur sind, etwa weil die Dosis i eines Medikaments eine andere Wirkung αi entfaltet als die Wirkung αj der Dosis j. Werden hingegen eine Reihe von Personen mit derselben Dosis i behandelt, so sind die beobachteten Unterschiede zwischen ihnen nur auf Ui,k zurückführbar, also auf eine nicht weiter aufgeschlüsselte Variabilität zwischen den Personen. Ein Effekt ist umso leichter festzustellen, je mehr sich die Stufen untereinander unterscheiden (z. B. μ1  μ2 ) und je geringer zugleich die Variabilität innerhalb der Stufen ist (alle σi klein). Ein probates Mittel, um die „unerwünschte“ Variabilität klein zu halten, ist, möglichst homogenes „Material“ 139 zu verwenden. Xi,j,k = μ + αi + βj + Ui,j,k ist die naheliegende Verallgemeinerung des Modells auf zwei (typischerweise experimentell kontrollierte) Faktoren A und B. Auch sogenannte Interaktionen, gerne als AB notiert, lassen sich bei einer geschickten Versuchsplanung isolieren. Dazu stelle man sich ein großes Feld vor, wobei in West-Ost-Richtung der Düngereinsatz stufenweise erhöht wird und in Nord-Süd-Richtung die Bewässerung. Eine Analyse mittels des hierfür gemachten Modells Xi,j,k = μ + αi + βj + (αβ)i,j + Ui,j,k deckt dann auf, welche Kombination von Dünger und Bewässerung besonders wirkungsvoll ist. (Zum Beispiel: sehr viel gießen, eher wenig düngen.) Es dürfte klar sein, dass sich auf diese Weise noch weit kompliziertere Modelle konstruieren lassen. Insbesondere gibt es Modelle mit vielen Faktoren, hierarchisch angeordneten Faktoren (sogenannte “nested designs”) und Modelle, in denen nicht alle Faktorkombinationen auch wirklich experimentell geprüft werden. (Man spricht von lateinischen und griechischen Quadraten, wenn nur ganz spezielle Faktorkombinationen experimentell getestet werden.) Der Terminus technicus für die Kunst, mit möglichst wenig experimentellem Aufwand möglichst viele Effekte zu entdecken, heißt, wie schon am Rande erwähnt, experimentelles Design,140 wurde von Fisher (1966) systematisch entwickelt und gilt bis heute als die bestmögliche Art, statistische Schlüsse zu ziehen. Wesentliche Ideen gehen zudem auf Gosset141 zurück. Eine klassische 138

Siehe S. 127

139

Also Personen, Tiere, Pflanzen. . . Allgemein spricht man völlig neutral von statistischen Einheiten 140

Engl.: experimental design

141

etwa (Gosset 1931)

132

3 Klassische Statistik

Übersicht bieten Rasch et al. (1978), aber auch jedes traditionelle Statistiklehrbuch der Sozialwissenschaften wie Bortz (2004). Eine echte konzeptionelle Erweiterung bringt die folgende Überlegung: Alle bislang vorgestellte Modelle gehen von sogenannten „festen Faktoren“ aus. Nun ist es auch möglich, die Faktoren A bzw. B als Zufallsvariablen aufzufassen, d.h., die gewählten experimentellen Bedingungen α1 , α2 usw. sind lediglich gewisse Realisierungen derselben. Im Allgemeinen nimmt man an, dass es sich bei den αi um Beobachtungen unabhängiger, normalverteilter Zufallsvariablen Ai mit gemeinsamer Varianz und Erwartungswert Null han2 delt, also Ai ∼ N (0, σA ), so dass man als Modell Xi,j = μ + Ai + Ui,j 2 mit den unabhängigen, zufälligen Fehlern Ui,j ∼ N (0, σU ) bzw.

Xi,j,k = μ + Ai + Bj + (AB)i,j + Ui,j,k 2 bei einem weiteren Faktor Bj (mit Bj ∼ N (0, σB )) sowie Interaktionen ABi,j 2 2 (mit ABi,j ∼ N (0, σAB )) und dem unabhängigen Fehler Ui,j,k ∼ N (0, σU ) 142 anschreiben kann.

3.6.3 Regressionsanalyse Die wohl bedeutendste Klasse von Verfahren, zumindest in den Wirtschaftswissenschaften, sind die nachfolgend vorgestellten Regressionsanalysen.143 Im einfachsten Fall der linearen Regression ersetzt man die Konstante μ in (3.4) durch eine lineare Funktion, also die Gerade ax + b. Dadurch erhält man für die Beobachtungen144 xi,k = b + axi + εi,k .

(3.5)

Zumeist schreibt man yi statt xi,k , da je Person bzw. statistischer Einheit das Wertepaar (xi , yi ) beobachtet wird. Die Parameter a und b werden mit dem Kriterium der kleinsten Quadrate festgelegt. Das heißt, man minimiert die Abweichung der geschätzten Werte yˆi = axi + b von den beobachteten Werten yi , im folgenden Sinne: 142

Man beachte, dass auch diese Argumentation aufgrund der S. 127 genannten Zerlegung σ 2 (X) = E(σ 2 (E(X|Y )) + σ 2 (X|Y )) zum Ziel führt. 143

Für Details siehe wieder Müller (1991: 329ff) und Fahrmeir et al. (1996: Kapitel 4). Zur historischen Entwicklung siehe insbesondere Freedman (1997) und Morgan und Winship (2007). 144

Man könnte das Modell auch problemlos wie oben mit Zufallsvariablen schreiben.

3.6 Wichtige klassische Modelle n 

(ˆ yi − yi )2 −→ M inimum!

133

(3.6)

i=1

Diese Art der Schätzung ist fast so bedeutsam wie die Maximum-LikelihoodSchätzung und wird gerne mit OLS (für Ordinary Least Squares) abgekürzt. Wieder ist eine Streuungszerlegung nach dem Muster der Varianzanalyse möglich. Den Quotienten aus erklärter und gesamter Varianz nennt man hier passenderweise Bestimmtheitsmaß. Es gibt an, wie gut das Modell zu einem konkreten Datensatz passt bzw. wie groß der Fehler ist, wenn man die Daten durch das Modell ersetzt. Dieses Grundmodell lässt sich in mindestens sechs Richtungen erweitern.145 Wir schreiben „mindestens“, da es sich bei der Regressionsanalyse um ein nach wie vor dynamisches Forschungsgebiet handelt, das ständig wesentlich erweitert wird: 1. Wie bei der Varianzanalyse können statt einer sogenannten „unabhängigen Variablen“ x eine ganz Reihe von Variablen x(1) , x(2) , . . . berücksichtigt werden.146 Man spricht dann von multipler linearer Regression und jeder, der ein beliebiges Lehrbuch der Ökonometrie aufschlägt, wird hierzu reichhaltige Informationen finden.147 2. Nichtlineare Ansätze. Das heißt, anstelle der Geraden yˆ = f (x) = ax + b bzw. yˆi = axi + b kommen nichtlineare Funktionen zum Einsatz. Besonders beliebt sind die Parabel, also f (x) = a + bx + cx2 , Polynome, also f (x) = a0 + a1 x + a2 x2 + . . . + ar xr , die Potenzfunktion, also yˆ = axb , wobei a, x > 0, der exponentielle Ansatz, also yˆ = abx , wobei a, b > 0 sowie die logistische Funktion, also yˆ = k/(1 + ea+bx ) mit b < 0 und der „Sättigungsgrenze“ k. 3. Die Kombination der ersten und zweiten Erweiterung führt zum verallgemeinerten linearen Modell yˆ = h(a1 x(1) + . . . + ap x(p) ) mit der (mathematisch hinreichend „schönen“) Responsefunktion h und der Linkfunktion h−1 .148 Zur Auswahl relevanter ai , also solcher Faktoren, die einen großen Einfluss auf die abhängige Variable haben, verwendet man gerne das „Lasso“ (Tibshirani 1996) und verwandte Verfahren. 4. Nichtparametrische Regression. Hier ist der Ansatz yi,k = m(xi ) + εi,k , wobei man keine spezielle Form der Regressionsfunktion m festlegt, son145

Für weitere Details siehe z. B. Müller (1991: 326ff)), Fahrmeir et al. (1996), Ruppert et al. (2003), Gelman und Hill (2007) und die auf Tibshirani (1996) aufbauende Literatur. 146

„Unabhängige Variable“ ist eine Redewendung, die ausdrückt, dass x das Argument einer Funktion f (x) ist. Entsprechend heißt y = f (x) die „abhängige Variable“ oder auch „Kriterium.“ Diese Sprechweise hat also nichts mit der Abhängigkeit oder Unabhängigkeit von Zufallsvariablen zu tun! 147 Am Rande sei bemerkt, dass es kein günstiges Licht auf einen Forschungsbereich wirft, wenn eine einzige Methode dominiert - ohne dass deshalb die Ergebnisse empirisch durchschlagenden Erfolg hätten. Dies ist auch Inhalt der von Freedman in den 1980ern und 1990er Jahren vehement und wiederholt vorgetragenen Kritik. Siehe z. B. Freedman (1991). 148

Für Details siehe Fahrmeir et al. (1996: 244) und McCullagh und Nelder (1990).

134

3 Klassische Statistik

dern nur annimmt, dass m hinreichend glatt, also genügend oft differenzierbar, ist. Es lässt sich zeigen, dass unter sehr allgemeinen Voraussetzungen das optimale m(x) gleich dem bedingten Erwartungswert E(Y |X = x) ist. (Siehe Müller (1991: 326ff).) Damit einher gehen „lokale“ Ansätze, das heißt, man sucht nicht eine Funktion für alle möglichen Werte von X, sondern gibt je nach „Abschnitt“ des Wertebereichs von X unterschiedliche Regressionsfunktionen an. 5. Wir hatten bislang nicht ausdrücklich erwähnt, ob es sich bei der bzw. den unabhängigen Variablen um Zufallsvariable Xi oder Zahlenwerte xi handelt. (Auch bei der Varianzanalyse gibt es ja Modelle mit festen bzw. zufälligen Faktoren.) Typischerweise hat man es hier mit Zufallsvariablen zu tun.149 6. Bei den Koeffizienten ai handelt es sich hingegen üblicherweise um feste Zahlenwerte. Doch auch diese lassen sich durch geeignet gewählte Zufallsvariable ersetzen.150

Kovarianzanalyse Eine interessante Kombination von Varianz- und Regressionsanalyse stellt die ebenfalls auf R. A. Fisher zurückgehende Kovarianzanalyse151 - oft mit ANCOVA, für analysis of covariances, abgekürzt - dar: Hierbei geht man davon aus, dass außer der (interessierenden) unabhängigen Variablen X noch weitere (miterhobene) sogenannt Kovariaten Z einen Einfluss auf das Kriterium Y haben. Typischerweise wird dann zunächst - mittels einer Regressionsanalyse das Kriterium um den Einfluss der Kovariaten „bereinigt“ und anschließend eine Varianzanalyse durchgeführt. Prägnant schreibt Bortz (1999: 350): „Eine Kovarianzanalyse ist eine Varianzanalyse über Regressionsresiduen.“ Eine ANCOVA ist also keine Analyse von Kovarianzen (siehe hierzu den nächsten Abschnitt), sondern eine Varianzanalyse, nachdem man zunächst Kovariate berücksichtigt hat.

3.6.4 Kanonische Korrelationsanalyse Die wohl wichtigste Erweiterung der bisherigen Ansätze besteht darin, nicht nur viele Einflussfaktoren (Prädiktoren) X1 , . . . , Xp zuzulassen, sondern darüber hinaus auch das Kriterium durch einen Vektor Y = (Y1 , . . . , Yq ) zu 149

In Shadish et al. (2002) werden beide Fälle ausführlich besprochen.

150

Siehe z. B. Swamy (1971) und Longford (1993). Ganz allgemein spricht man von Modellen mit zufälligen Koeffizienten, wenn die Parameter, also z. B. a und b bei der linearen Regression, ebenfalls Zufallsvariable sind. 151

Siehe z. B. Fisher (1973: Kapitel IX)

3.6 Wichtige klassische Modelle

135

ersetzen. An einer statistischen Einheit i werden also sowohl die unabhängi(i) (i) (i) (i) gen Variablen X1 , . . . , Xp als auch die abhängigen Variablen Y1 , . . . , Yq (i) (i) (i) (i) bzw. ihre Realisierungen (Messwerte) x1 , . . . , xp sowie y1 , . . . , yq erhoben. Dann werden sowohl Prädiktoren als auch Kriteriumsvariablen linear kombiniert, also (i)

X = v1 X1 + . . . + vp Xp bzw. xi = v1 x1 + . . . + vp x(i) p sowie (i)

Y = w1 X1 + . . . + wq Xq bzw. yi = w1 y1 + . . . + wq yq(i) , mit reellen Zahlen v1 , . . . , vp und w1 , . . . , wq . Hier angelangt geht es nun darum, die Koeffizienten vi und wj so zu bestimmen, dass die Korrelation zwischen X und Y , also r(X, Y ) = 

vT DX,Y w (vT DX v)(wT DY w)

maximal wird. Dabei bezeichnen v = (v1 , . . . , vp ) bzw. w = (w1 , . . . , wq ) die Spaltenvektoren der jeweiligen Koeffizienten, T ist die Transposition, welche aus Spaltenvektoren Zeilenvektoren macht, und DX , DY und DX,Y sind die n (i) Varianz-Kovarianzmatrizen von X und Y . Das heißt, mit x ¯k = i=1 xk /n n (i) und y¯l = i=1 yl /n sind ihre Elemente dX (k, l) = dY (k, l) = dX,Y (k, l) =

n  i=1 n  i=1 n  i=1

(i)

(i)

(i)

(i)

(i)

(i)

(xk − x ¯k )(xl − x ¯l ) (yk − y¯k )(yl − y¯l ) (xk − x ¯k )(yl − y¯l )

für k = 1, . . . , p und l = 1, . . . , p; für k = 1, . . . , q und l = 1, . . . , q; für k = 1, . . . , p und l = 1, . . . , q.

Für weitere Details siehe Bortz (1999: Kapitel 19), an dessen Darstellung wir uns anlehnen. Das gerade beschriebene Modell ist so allgemein, dass man darunter sowohl alle bislang beschriebenen Verfahren als auch weitere (im Wesentlichen lineare) Analysen abhandeln kann.152 Insbesondere verwendet man in der Praxis die folgenden Verfahren: 152

Der mathematisch weniger versierte Leser sehe lineare Modelle zum einen und Formeln mit Matrizen und Vektoren zum anderen als äquivalent an. Der Grund ist, dass sich lineare Abbildungen (zwischen endlichdimensionalen Vektorräumen) mithilfe von Matrizen darstellen lassen. Die Subtilitäten werden in der linearen Algebra behandelt, z. B. in (G. Fischer 2005).

136

3 Klassische Statistik

1. Multivariate Varianzanalyse (MANOVA). Man spricht von einer multivariaten Varianzanalyse, wenn das Kriterium Y ein Vektor ist. Hingegen heißt ein Varianzanalyse mehrfaktoriell, wenn es mehrere unabhängige Variablen X1 , . . . , Xp gibt. Auch zur Kovarianz- und Regressionsanalyse existieren multivariate Analoga. 2. Bei der Diskriminanzanalyse möchte man aufgrund eines oder mehrerer Kriterien zwei Gruppen bestmöglich unterscheiden, was heißt, sie mittels einer linearen mathematischen Struktur (Gerade bei einem Kriterium, Ebene bei zwei Kriterien oder einer (l − 1)-dimensonalen Hyperebene bei l Kriterien) voneinander zu trennen. Als Prädiktoren bzw. unabhängige Variable treten jetzt die (geeignet codierten) Gruppenzugehörigkeiten auf. 3. Ziel der Faktorenanalyse ist schließlich, aus vielen beobachteten Kriterien q (z. B. die Antworten auf Items - also Fragen - in einem psychologischen Test), auf wenige diesen zugrunde liegenden Faktoren p zu schließen. Die Idee ist, dass viele „äquivalente“ Items dasselbe latente, also verborgene, Merkmal erfassen, jedes Item für sich genommen jedoch ziemlich ungenau ist. Kombiniert man im Nachhinein jedoch die Antworten auf alle solchen Items, sollte sich gewissermaßen „hinter“ den Items der (gemeinsame) Faktor herausschälen, auf den die Antworten zurückgehen. Anders gesagt: Man möchte die Vielzahl von Items auf eine geringe(re) Anzahl erklärender Faktoren reduzieren. Aufgrund der obigen Interpretation sollte dabei, obwohl p Y0 ). The parameter P r(Y1 > Y0 ) is not even contemplated in the Neyman (1923)-Rubin (1978) setup [. . .] Sobel says that ‘much stronger assumptions’ 180

Am Rande sei bemerkt, dass Sobel, wie andere Statistiker (siehe S. 426), dann auf die philosophische Ebene wechselt, wenn er fachlich in die Defensive gedrängt wird. So unterstellt er Heckman aufgrund dessen (missverständlichen) Satzes “causality is in the mind” eine antirealistische Position. (Siehe Heckman (2005: 106, 142f)) 181

Und dies obwohl sie in der Theorie ständig von einem „wahren Modell“ ausgehen, „Black-Box-Überlegungen“ energisch ablehnen (siehe z. B. die Kritik an Dawid (2000) und (Breiman 2001), S. 280, 285 und 301) und der Hauptsatz der angewandten Statistik (samt induktiver Datenanalyse) ihr Tun bestimmt.

452

5 Synthese

are required to estimate this parameter. In any specific case, this is not true. The assumptions to justify randomization (no randomization bias, no contamination or crossover effects [. . .]) are different and not weaker or stronger than the assumptions [econometric models use]. (Hervorhebungen im Original.)

Die Schnittstellen von Statistik und Wissenschaft Die Auseinandersetzungen sind heftiger als sie sein müssten. Offenkundig gibt es „im Osten und im Westen“ des Forschungszirkels Schnittstellen zwischen der Statistik (unten) und der theoretischen Fachwissenschaft (oben). In Erweiterung der dreistufigen Einteilung von Fisher (1922), der zwischen der Spezifikation eines Problems, der Schätzung struktureller Parameter sowie der Verteilung der Daten unterschied, definiert insbesondere Mallows (1998) ein nulltes Problem182 im Vorfeld und ein viertes Problem (Mallows 2006) im Nachgang: “[it] comes after the statistical analysis has been completed; it is to interpret the results in terms that are intelligible to the nonstatistical worker.” Es ist dabei völlig natürlich, dass sich Statistiker mehr auf die Daten fokussieren als Fachwissenschaftler, für die viele darüber hinausgehende Aspekte eine Rolle spielen. Durch die ganz besondere Betonung der Daten in der heutigen Statistik (siehe S. 414ff) kommt es an den Schnittstellen jedoch zu strategischen Konflikten. So hat Tukey (1986g: 109) wenig Probleme damit, die fachwissenschaftliche Theorie in Zweifel zu ziehen: To say that causal interpretations are resolved by ‘context beliefs, and a priori theory is to demote causal interpretations to the level of transient opinions or fads. Much great progress in physical science has come from destroying unfounded belief [. . .] and widely accepted a priori theory [. . .]183 (Hervorhebungen im Original.)

Dieses schon zuvor (S. 270) gebrachte Argument klingt bei einer subjektiven Priori-Verteilung überzeugend und sicherlich ist auch eine generelle Skepsis gegenüber Theorien, Hypothesen oder Methoden gesund, insbesondere wenn diese beliebt oder allgemein üblich sind und nicht (mehr) kritisch hinterfragt werden.184 Gerade den Theorien der Wirtschaftswissenschaften, die gar nicht so selten nach Universalität streben, und dabei ihre empirische Fundierung vernachlässigen, sollte man nicht allzu viel zutrauen. Wilson (2000: 263ff) charakterisiert sie überzeugend als „Newtonisch, weil Ökonomen nach einfachen, allgemeinen Gesetzen suchen“ (siehe S. 290) und „hermetisch, weil sie die Komplexitäten des menschlichen Verhaltens und der umweltbedingten Zwänge nicht in Rechnung stellen“.185 182 183 184

Siehe S. 175 Für eine direkte Antwort hierauf siehe Heckman und Robb (1986: 111ff).

Man denke als Statistiker an die Randomisierung. Am Rande sei erwähnt, dass das Versagen der Makroökonomie angesichts der Wirtschaftskrise 2009 zu einer Grundsatzdiskussion über die Rolle mathematischer Modelle 185

5.4 Strategische Schnittstellen und Kausalschlüsse

453

Doch kann man die Skepsis, wie schon Jaynes (S. 187) betont, zu weit treiben. Es grenzt an Chuzpe, wenn man den Sozial- und Wirtschaftswissenschaften nach Jahrzehnten der Modellierung und Jahrhunderten der Theoriebildung noch nicht einmal zutraut, (zumindest grob) wesentliche kausale Zusammenhänge zu kennen, zumal gerade die Makroökonomie auf präzise, quantitative Methoden und Modelle den größten Wert legt. De Finetti (1969: 30, 176), zitiert nach Ietto-Gillies (2009: 164f), gibt eine angemessenere Sicht wider und zielt auf eine Symbiose: Whether it is appropriate to use mathematics in economics and to what extent, is not something that can be judged in the abstract and a priori: it all depends on what use one makes of it and whether mathematics is useful to the problem at hand. Mathematics can help to reach sensible solutions; however, in order to reach sensible and exact conclusions it is not enough to resort to the use of mathematical techniques [. . .] Any mathematical development, and mathematical critique may emerge from requirements or curiosities that are purely mathematical in nature; however, if they do only this without making us ponder on the economic interpretation they cannot be of relevance to economics; they risk giving rise to confusions by suggesting incautious and gratuitous interpretations.

Auch Wilson (2000) betont nachdrücklich die immense Bedeutung der weitreichenden, harmonischen Vernetzung aller Forschungsgebiete, wozu zunächst einmal gehört, das Wissen anderer zumindest zu würdigen. Besser noch ist, Fachkenntnisse explizit zu verwenden, was klassischerweise informell geschieht. Fisher nutzte wann immer möglich solches Vorwissen und statistische Tests sind am überzeugendsten, wenn den statistischen Hypothesen inhaltlich bedeutsame Aussagen entsprechen. Die im Bayesschen Ansatz explizit formalisierte Schnittstelle wird von fachwissenschaftlich fundierten kausalen Graphen abermals erheblich erweitert. Noch umfassender argumentiert Heckman (2005: 3, 8). In seinem „wissenschaftlichen Modell der Kausalität“ unterscheidet er drei Ebenen, die sich unschwer in den Forschungszirkel einordnen lassen: 1. Die Datenebene. Hier stellt sich das Problem der internen Validität und man macht Aussagen über the impact of interventions actually experienced bzw. historical interventions. 2. Die Populationsebene. Hier stellt sich das Problem externer Validität und man macht Voraussagen. Heckman spricht von forecasting the impacts (constructing counterfactual states) of interventions implemented in one environment in other environments. 3. Die theoretische Ebene. Formuliert man allgemeine Gesetze, die die Auswirkungen von noch nie erprobten Interventionen in völlig neuen Situadort geführt hat. Die einfache Tatsache, dass inadäquate Modellannahmen zu wenig validen Modellen führen und seien jene auch noch so exakt, scheint nicht allgemein geläufig zu sein. Siehe hierzu die lebhafte Diskussion in der Frankfurter Allgemeine Zeitung (2009). Insbesondere ist der homo oeconomicus kaum mit aktuellem sozialpsychologischem Wissen vereinbar (siehe S. 175).

454

5 Synthese

tionen erlauben, so stellt sich das Induktionsproblem in seiner ganzen Schärfe.186 Diese Differenzierung erlaubt, sauber zwischen verschiedenen Abstraktionsstufen einer Untersuchung zu unterscheiden. Nur auf der untersten Ebene spielen statistische Aspekte eine dominante Rolle, insbesondere wenn man mithilfe realer Daten testet und schätzt. Für die mittlere Ebene hat sich der Terminus Identifikation (Koopmans 1949) eingebürgert.187 Hier tut man so, als würde man die Population kennen bzw. äquivalent, es lägen beliebig viele, perfekte Daten vor. Auf der theoretischen Ebene sind vor allem begriffliche und konzeptionelle Fragen zu klären, die eine wissenschaftliche Theorie zu einem umfassenden, sehr viele konkrete Situationen abdeckenden Gedankengebäude machen. Heckman (2005) zeigt, dass Statistiker selten eine solche Differenzierung vornehmen und deshalb regelmäßig die Ebenen vermengen. Etwa schreibt er S. 4: „Some analysts associate particular methods of estimation [. . .] with causal inference and the definition of parameters. Such associations confuse the three distinct tasks of definition, identification, and estimation. Ibd., S. 147, nennt er das wichtigste Beispiel und kommentiert es (S. 4): Holland claims that there can be no causal effect of gender on earnings. Why? Because we cannot randomly assign gender. This confused statement conflates the act of definition of the causal effect [. . .] with empirical difficulties in estimating it [. . .] Since randomization is used to define the parameters of interest, this practice sometimes leads to the confusion that randomization is the only way - or at least the best way - to identify causal parameters from real data.

Eine solche Sichtweise nimmt nicht nur der Randomisierung ihre herausgehobene Stellung, sondern weist die gesamte Statistik eher der konkreten, operativen Ebene zu. Damit muss sie sich nicht begnügen, sie könnte vom Formalen bis weit ins Inhaltliche vorstoßen. Doch weil die traditionelle Statistik ihre Schnittstellen zu den empirischen Wissenschaften vernachlässigt hat, decken nun Fachwissenschaftler diese genauso sensiblen wie für Untersuchungen ganz entscheidende Bereiche ab, und die Statistik befindet sich weit in der Defensive. Neuentwicklung wie der Propensity Score werden eher kritisch beurteilt, genauso wie die als künstlich oder zumindest sehr einschränkend empfundene Ignorierbarkeitsbedingung.188 Während Heckman (2005) dem Rubin-Modell189 kaum einen positiven Aspekt abzugewinnen vermag, nimmt er Pearls Vorschläge sehr ernst. Morgan und Winship (2007) sind weniger parteiisch, doch fällt auf, dass nach Kapitel 6 ihres Buches, in dem 186

In einer Fußnote verweist Heckman auf Knight (1921: 313): “The existence of a problem in knowledge depends on the future being different from the past, while the possibility of a solution of the problem depends on the future being like the past.” 187 Für einen aktuellen Überblick siehe v.a. Manski (1999, 2003, 2008). 188

Siehe etwa die Äußerungen S. 445 von Ho et al. (2007) und Manski (2008: 76): “Whatever merits conditioning on the propensity score may have for statistical inference, the idea is unrelated to identification.” 189

Siehe insbesondere (Rubin 2006)

5.5 Das Informationsparadigma

455

sie von „einfachen“ zu „schweren“ Problemen übergehen (ibd., S. 184) häufig die Namen Heckman, Manski und Pearl fallen, nicht aber Rosenbaum oder Rubin.190 Die Anwender haben sich emanzipiert. Unter dem Stichwort selection on the unobservables ist eine reichhaltige Literatur entstanden, die mehrere Strategien kennt, um auch noch in ungünstigen Situationen kausale Effekte zu schätzen (Morgan und Winship 2007: 169). Anhand des Simpsonschen Paradoxons (siehe S. 436ff) und der Konfundierung demonstriert Pearl (2009a: Kapitel 6), dass kausale Argumente völlig natürlich mit solchen Phänomenen umgehen können, während rein statistische Lösungen - falls sie überhaupt ernsthaft in Angriff genommen wurden - versagen. Diese Effekte sind Teil des in Philosophie wie Statistik völlig ungeklärten und zugleich ganz zentralen Problemfelds, wie man die richtige Detaillierungsebene bzw. Referenzklasse findet, unter welchen Variablen zu bedingen ist, wie man wechselseitige Abhängigkeiten geeignet modelliert, relevante Einflussfaktoren identifiziert, welche Auswirkungen experimentelle Maßnahmen - etwa die Randomisierung - haben, wie man kausale Effekte nachweist und all dies adäquat formalisiert. Das Simpsonsche Paradoxon wird so lange ein Fanal und wesentlicher Bestandteil einer tale of statistical agony (Pearl 2009a: Abschnitt 6.1.2) bleiben, bis man die Kraft expliziter Darstellungen, die wahrscheinlichkeitstheoretische und graphische Methoden elegant und flexibel verknüpfen, zu würdigen versteht. Structural Causal Models (Pearl 2009b), die gezielt die Vorteile aller bisherigen Ansätze verbinden, haben eine gute Chance, sich zu einer ausgereiften, allgemeinen Theorie kausaler Beziehungen zu entwickeln. Dawid (2003) und erst recht Pearl (2009a: Kapitel 11) sind Dokumente des Umdenkens. Schon Pearl (1995: 708) schließt angesichts des großen konstruktiven Beitrags kausaler Netze: [. . .] I do not think over-confidence is currently holding back progress in statistical causality. On the contrary, I believe that repeated warnings against confidence are mainly responsible for the neglect of causal analysis in statistical research, and that such warnings have already done more harm to statistics than graphs could ever do.

5.5 Das Informationsparadigma The key word in statistics is information. After all, that is what the subject is all about. (Basu in Ghosh (1988: 21))

Das am häufigsten benutzte Wort in der Statistik lautet nicht „Wahrscheinlichkeit“, „Likelihood“, „Population“ oder gar „Zufallsexperiment“, sondern zweifelsohne Information. I. und M. Miller (1994), zitiert nach Barnett (1999: 3), sprechen wie Basu den meisten Statistikern aus der Seele, wenn 190

Auch der Unterschied zwischen Morgan und Winship (2007) sowie Winship und Sobel (2004) ist sehr beachtlich!

456

5 Synthese

sie sagen: “The object of statistics is information. The objective of statistics is the understanding of information contained in data.” Zahlreiche weitere Beispiele könnten genannt werden,191 wir erinnern nur an Efron (S. 306), der in der Statistik die “most successful information science” erblickt. R. A. Fisher ging das Wort nicht nur leicht über die Lippen,192 tatsächlich kreist sein ganzes Denken, wie auch seine Korrespondenz (Bennett 1990) eindeutig belegt, um die Gewinnung und den effizienten Umgang mit Information. Bei vielen der in Kotz und Johnson (1993) versammelten wichtigsten Arbeiten der letzten Jahrzehnte193 ist das nicht anders. Die Idee der Information ist alles andere als peripher, sondern von grundlegender Bedeutung für die Statistik im Speziellen und die Wissenschaft im Allgemeinen. Bildlich gesprochen hat der Forschungszirkel ein Zentrum, um das er sich dreht und das ihn zugleich in Gang hält: Setzungen Hypothesen  Substanzielle Generalisierung

Formale Ableitung  Theorem

INFORMATION

Operationalisierung 

Numerisches Resultat  Formale Argumente

Daten

Daten

Mit der Formalisierung des Informationsbegriffs, der Entwicklung der Informationstheorie und ihrer Anwendungen hat sich eine ungemein kraftvolle Entwicklung ergeben, die heute alle Bereiche berührt, wenn nicht sogar mehr und mehr prägt. Trotz ihrer offenkundigen Nähe zur Statistik wurde diese Entwicklung von der Mainstream-Statistik weitgehend ignoriert, weshalb (wieder einmal) Tukey schon früh vor “the coming collision between computer science and statistics” warnte.194 Es ist offensichtlich, dass eine zurzeit ausreifende Theorie der Information vehemente Auswirkungen auf die Statistik haben wird und es bislang wiederum „Externe“ waren, die die Akzente setzten.

5.5.1 Klassische Informationstheorie A mathematical theory of communication. (Shannon 1948) 191

Siehe insbesondere den Registereintrag „Statistik, Definition” Siehe z. B. Fisher (1966: Kapitel 11), Fisher (1973: 154ff), Jaynes (2003: 514), nicht zuletzt ist ein Informationsbegriff nach ihm benannt 193 Z. B. Fisher (1922), Rao (1945), Akaike (1973) 192

194

Siehe Barnard (1968: 38)

5.5 Das Informationsparadigma

457

Schon bei Hume (1748) kann man die Idee der Information finden. In einem kurzen Satz beschreibt er die Induktion im Allgemeinen wie im Speziellen, und reißt zudem die heutige Definition der Information an:195 Im Allgemeinen richten wir uns bei unseren Überlegungen nach der Maxime, daß die Objekte, die unserer Erfahrung fremd sind, denen ähneln, die ihr bekannt sind; daß das, was uns am üblichsten vorkommt, immer am wahrscheinlichsten ist und daß wir überall, wo verschiedene Argumente aufeinanderstoßen, denen den Vorzug gegen sollten, die auf der größten Anzahl früherer Beobachtungen beruhen [. . .]

Seit Shannon (1948) ist Information ein formal fassbarer und damit ernst zu nehmender wissenschaftlicher Begriff. Ein Ereignis, eine „Nachricht“, im Jargon der Informationstheorie, ist grob gesagt umso informativer, je überraschender es ist, das heißt, je kleiner die Wahrscheinlichkeit ist, mit der es eintritt. Formal: Sei p > 0 eine Wahrscheinlichkeit. Dann ist die zugehörige Information I(p) = −p log(p) = p log(1/p) ≥ 0. Da der Logarithmus auf dem offenen Intervall ]0, 1[ negative Werte annimmt, ist die Information umso größer, je kleiner die zugehörige Wahrscheinlichkeit ist. Niemand wird verwundert sein, wenn die Sonne aufgeht (p groß), jedoch äußerst überrascht, wenn er erfährt, dass er den Hauptgewinn in einer Lotterie gezogen hat (p klein). Da der Logarithmus eine nichtlineare Funktion mit limx↓0 log(x) = −∞ ist, sind Ereignisse, die mit winziger Wahrscheinlichkeit auftreten, ganz besonders informativ. Für p = 0 setzt man deshalb I(p) = ∞, da ein Ereignis A mit p = p(A) = 0 völlig „aus dem Rahmen fällt“, also unmöglich in dem Sinne ist, dass es nur mit Wahrscheinlichkeit 0 auftritt. Das Gegenteil hiervon ist das sichere Ereignis, also ein Ereignis mit p = 1. Wie man sofort nachprüft, ist I(p) = 0 ⇔ p = 1. Das heißt, ein sicher eintretendes Ereignis liefert keine (neue) Information. Von herausragender Bedeutung für alles Folgende ist, dass Information äußerst eng mit Wahrscheinlichkeit verwandt ist. Die gerade hergestellte Verbindung ist nämlich erst der Anfang: Der „Informationsgehalt“, welcher mit einer diskreten196 Wahrscheinlichkeitsverteilung P (bzw. einer Zufallsvariablen X ∼ P ) einher geht, ist gleich ihrer Entropie (siehe Gleichung (4.1), S. 257), also  H(P ) = H(X) = pi log(1/pi ) = −E(log P (X)), i

wobei pi = p(xi ) = P (X = xi ) die Wahrscheinlichkeit ist, mit der der Wert xi angenommen wird. Die relative Entropie ist ein Maß für den Zusammenhang zwischen zwei Zufallsvariablen X und Y mit den Verteilungen P = PX und 195

Ibd., Kapitel X, „Über Wunder“, zitiert nach Durant und Durant (1985: Bd. 13, 400), meine Hervorhebung. 196 Bei stetigen Verteilungen kann man völlig analog vorgehen.

458

5 Synthese

Q = PY , die auf derselben (diskreten) Menge197 erklärt sind. Sie ist definiert als   H(P || Q) = H(X|| Y ) = pi log(1/qi ) = − pi log qi , i

i

woraus sich unmittelbar der auf Kullback und Leibler (siehe Gleichung (5.1), S. 378) zurückgehende „Abstand“ zwischen den Verteilungen ergibt, nämlich:    I(P || Q) = H(P || Q) − H(P ) = pi log pi − pi log qi = pi log(pi /qi ). i

i

i

Wir schreiben „Abstand“ weil es sich nicht um eine Abstandsmaß - eine Metrik - im üblichen mathematischen Sinne handelt. Insbesondere ist I(P ||Q) nicht symmetrisch. Das heißt, die Verteilung Q kann erheblich mehr Information über P enthalten als P über Q (oder umgekehrt). Wie bei Metriken gilt aber die Ungleichung I(P || Q) ≥ 0

wobei die Gleichheit genau dann gilt, wenn P = Q ist.

Diese heißt Informationsungleichung und ist von eminenter Bedeutung in der Informations- und Kodierungstheorie,198 insbesondere, da sich aus ihr viele andere wichtige Ungleichungen der Informationstheorie herleiten lassen.199

Kodierung Der Zusammenhang zwischen Wahrscheinlichkeitsverteilungen und der Kodierung von Information ist mindestens genauso fundamental. Zunächst ist ein (binärer) Code nichts anderes als eine Abbildung von einem Alphabet A in die Menge B aller binären Zeichenketten. Das heißt, jedem Buchstaben x des Alphabets A (oben aufgefasst als eine mögliche Realisierung der Zufallsvariablen X) wird eine (endliche) Folge von Nullen und Einsen zugeordnet. Zum Beispiel wird im ASCII-Code, welchen jeder Laptop verwendet, der Buchstabe „a“ auf die achtstellige Zeichenkette, das Codewort „00111101“ abgebildet. Selbstverständlich muss die Abbildung injektiv sein, d.h., zwei unterschiedlichen Buchstaben müssen unterscheidbare Codewörter zugeordnet werden. Es ist ein nahe liegendes Ziel, möglichst platzsparend zu kodieren. Deshalb kam schon Morse, Schöpfer des nach ihm benannten Codes, auf die Idee, häufig verwendeten Zeichen möglichst kurze Codewörter zuzuordnen, während selten zu beobachtende Zeichen lange Codewörter erhielten. Der in 197

Häufig „Alphabet“ genannt

198

MacKay (2005: 34) nennt sie “[. . .] probably the most important inequality in this book,” wobei sein Buch immerhin 628 Seiten lang ist. Für Grünwald (2007: 101) ist sie die zweitwichtigste Beobachtung in seinem etwa siebenhundertseitigen Werk. 199

Für eine übersichtliche Sammlung siehe Cover und Thomas (2006: Kapitel 17).

5.5 Das Informationsparadigma

459

der deutschen Sprache am häufigsten auftretende Buchstabe „e“ wird deshalb mit einem einzelnen kurzen Signal - umgangssprachlich einem Punkt, gefolgt von einer kurzen Pause - kodiert, während der erheblich seltenere Buchstabe „v“ das weit längere Codewort „drei kurz, ein lang“ (Punkt, Punkt, Punkt, Strich), wiederum gefolgt von einer kleine Pause, erhält. Aufgrund der Pause kann man einzelne Codewörter, wie gewöhnliche Wörter der natürlichen Sprache, problemlos aneinanderhängen. Da hinter jedem Codewort eine Pause steht, verbrauchen die Pausen bzw. die Zeichenkette mit der die „Pause“ kodiert wird, viel Platz.200 Um dies zu vermeiden, sollte man Codewörter unmittelbar - ohne Pause - aneinander hängen können. Will man die so entstehende „Bandwurm-Zeichenkette“ decodieren, also die einzelnen Codewörter wiedergewinnen, so muss man darauf achten, dass kein Codewort als Vorsilbe eines anderen auftritt. Kodiert man z. B. „e“ mit einem Punkt (·) und „a“ mit zwei Punkten (··), jeweils ohne anschließende Pause, so könnte man bei der Zeichenkette „· · · “ nicht sagen, mit welchem der beiden Vokale man es zu tun hat.201 Der Grund ist, dass das Codewort von „e“ gerade der Anfang des Codeworts von „a“ ist, was die Grammatik „Präfix“ nennen. Präfix-Codes vermeiden genau dies, womit man eine so kodierte Nachricht202 auch problemlos aus der zugehörigen Kette ihrer Codewörter zurückgewinnen kann. Fasst man diese Ideen zusammen,203 so stellt sich heraus, dass sich zu jedem Buchstaben x des Alphabets - aufgefasst als Realisierung einer Zufallsvariablen X mit der Verteilung P - ein Präfix-Code C angeben lässt, so dass das zu x gehörige Codewort gerade die Länge LC (x) = − log p(x) hat.204 Das heißt insbesondere, dass häufigen Buchstaben kurze, und wenig wahrscheinlichen Buchstaben lange Codewörter zugewiesen werden. C heißt der zu P gehörige Code, denn er ist eindeutig bestimmt. Grünwald nennt es die wichtigste Beobachtung im wichtigsten Abschnitt seines Buches, dass davon auch eine Umkehrung gilt: Zu jedem vollständigen Präfix-Code (über einem Alphabet A) gibt es ein zugehörige Wahrscheinlichkeitsverteilung P mit der obigen Eigenschaft. Dabei ist Vollständigkeit lediglich eine leicht nachzuvollziehende Optimalitätseigenschaft: Analog der Definition dominierender Strategien in der Spieltheorie, heißt ein Code C effizienter als 200

Man betrachte diesen Text. Das mit Abstand häufigste Zeichen ist der Leerraum zwischen den Wörtern, einem Umstand, dem man schon bei der Konstruktion der Schreibmaschinentastatur Rechnung getragen hat. 201

ea, ae und eee wären mögliche Dekodierungen.

202

Also eine Reihe aufeinanderfolgender Buchstaben Siehe z. B. Grünwald (2007: 96)

203 204

Dabei sei wieder p(x) = P (X = x). Da es sinnvoll ist, Abhängigkeiten zwischen den Buchstaben zu nutzen (etwa sind die Silben sch oder ab weit häufiger als die Silben ry oder ju), werden in der Praxis zumeist nicht einzelne Buchstaben, sondern Texte einer gewissen Länge n kodiert.

460

5 Synthese

ein Code D, wenn LC (x) ≤ LD (x) für alle Buchstaben x des Alphabets gilt und mindestens einmal „ EQ (− log U (X)) ≥ log n. Angenommen, die Daten seien gemäß einem unbekannten Q verteilt. Dann kann man sie gemäß irgendeiner Verteilung P oder aber mithilfe der Gleichverteilung U kodieren. Die letzte Ungleichungskette zeigt, dass man sich dabei schlechter stellt, wenn man also statt auf U mit irgendeinem anderen P kodiert. Das heißt, die diskrete Gleichverteilung ist im gerade beschriebenen “worst case” besser als jede andere Verteilung, weshalb es eine gute Idee ist, bei unbekannter (Priori-)Verteilung bzw. keiner Annahme über die Priori-Verteilung mit der diskreten Gleichverteilung zu arbeiten. Dies nennt Grünwald (2007: 107) die drittwichtigste Beobachtung seines Buches. Man kann auch die erste Beobachtung, also die Äquivalenz (vollständiger) Präfix-Codes und Wahrscheinlichkeitsverteilungen, nutzen, um für eine parametrische Familie von Wahrscheinlichkeitsverteilungen PΘ eine PrioriVerteilung über dem Parameterraum zu spezifizieren. Die Herleitung dieser universellen Verteilung über das Kodierungsproblem zeigt sofort, dass sie kein a priori vorhandenes Wissen formalisiert. Anders gesagt: Zwar arbeitet man formal gesehen mit einer Wahrscheinlichkeitsverteilung über dem Parameterraum, also einer klassischen Priori-Verteilung, teilt jedoch nicht deren (enge subjektive) Bayesianische Interpretation.208 Cover und Thomas (2006: Kapitel 11) zeigen viele weitere, enge Verbindungen zwischen Informationstheorie und Statistik auf. Sie schreiben (ibd., S. xviii): “We have also taken delight in relating Fisher information, mutual information, the central limit theorem, and the Brunn-Minkowski and entropy power inequalities.” Rissanen (1989: 42) führt den äußerst engen Zusammenhang zwischen dem 2. Hauptsatz der Thermodynamik und dem zentralen 208

Für weitere Einzelheiten siehe Li und Vitányi (2008: 389ff), Rissanen (1989) und Dowe et al. (2007).

462

5 Synthese

Grenzwertsatz an. Auch die Herkunft des Prinzips maximaler Entropie (Jaynes 1957) aus der Informationstheorie ist offenkundig.

5.5.2 Moderne Informationstheorie Information theory must precede probability theory, and not be based on it. (Kolmogorov, zitiert nach Calude (2002: 92))

So beeindruckend diese erste Verbindung von Statistik und Informationstheorie auch sein mag, sie leidet an einem entscheidenden Mangel, den Rissanen (2007: VII) prägnant beschreibt: “Shannon’s formal measure of information, the entropy together with the related notions of relative entropy or the Kullback-Leibler distance, the mutual information, and the channel capacity, are all defined in a mean sense with respect to a given probability distribution.” Li und Vitányi (2008: 48) sagen noch deutlicher: In fact, classical probability theory cannot express the notion of randomness of an individual sequence. It can only express expectations of properties of outcomes of random processes, that is, the expectations of properties of the total set of sequences under some distribution. (Hervorhebung im Original.)

Das heißt, der klassische Informationsbegriff (aber auch die orthodoxe Statistik im Allgemeinen) arbeitet mit Zufallsvariablen, ihren Verteilungen und Erwartungswerten. Damit ist er nicht feiner als die Bausteine, die in der klassischen Statistik verwendet werden. Viele Ergebnisse gleichen deshalb eher Umformulierungen bekannter statistischer Sachverhalte, als dass sie wesentlich über das bislang Bekannte hinausführten.209 Weit durchschlagender wäre ein formales Konzept für die in einem einzelnen, festen Datensatz enthaltene Information. Li und Vitányi (2008: 101) bemerken: The most natural approach to defining the quantity of information is clearly to define it in relation to the individual object [. . .] rather than in relation to a set of objects from which the individual object may be selected.

Komplexität Es ist von größter Bedeutung, dass es Solomonoff, Kolmogorov und Chaitin gelang, genau diese Idee im Rahmen der Kodierungstheorie zu formalisieren: Die Komplexität K(x) eines Datensatzes x = (x1 , . . . , xn )210 ist gerade gleich 209

Das soll die Bedeutung einer weiteren, primär nicht-statistischen Perspektive keinesfalls schmälern! Wie insbesondere die obigen „Bayesschen Beispiele“ zeigen, ist es sehr nützlich, einen zweiten Kontext zur Verfügung zu haben, in dem andere Prioritäten gesetzt werden, und der deshalb auch andersartige Resultate bereitstellt. 210 In der Informatik gerne als Nachricht oder binäre Zeichenkette bezeichnet

5.5 Das Informationsparadigma

463

der Länge p des kürzesten Computerprogramms s∗ = (s∗1 , . . . , s∗p ), welches als Output die Zeichenkette x produziert. Ein solches Progamm existiert, denn schreibt man x in den Speicher eines Computers, so hat man die Zeichenkette erzeugt.211 Außerdem ist p, da man nach dem kürzesten solchen Programm sucht, auch eindeutig bestimmt. Jede Reduktion von n auf m Bit (mit n > m ≥ p) bezeichnet man als Datenkompression. Je größer die Kompression, desto mehr hat man aus den Daten gelernt, desto kompakter ist das Modell s = (s1 , . . . , sm ), mit welchem sich die Daten (verlustfrei) beschreiben lassen. Anders gesagt: Es genügt auf jeden Fall, s zu kennen, um den gesamten Datensatz x rekonstruieren zu können. Die größte konzeptionelle Schwierigkeit erwähnen wir nur am Rande: Die Länge des kürzesten Programms könnte auch wesentlich von der speziellen Programmiersprache bzw., allgemeiner, vom konkret verwendeten Computer abhängen, also anderen, außerhalb des Datensatzes x gelegenen Sachverhalten. Wäre dem so, so könnte man die „Komplexität“ bzw. die „Einfachheit“ bzw. den „Informationsgehalt“ von Daten nicht unabhängig von deren Darstellung definieren. Es lässt sich jedoch zeigen,212 dass alle Computer im Wesentlichen zu einem „Universalrechenautomaten“, etwa der Turing-Maschine, äquivalent sind, womit der Informationsgehalt eines Datensatzes de facto (jedoch nicht ganz) unabhängig von seiner Darstellungweise ist. (Siehe z. B. Cover und Thomas (2006: Abschnitt 14.1).) Denkt man bei Datenkompression an ein Musikstück, eine Fotografie oder einen Film, die auf einen Bruchteil ihrer Größe komprimiert werden können, so wird man diese Technik nützlich finden, dem Sachverhalt jedoch kaum eine weit darüber hinausgehende Bedeutung beimessen. Dem ist jedoch nicht so, wenn man s als eine prägnante Beschreibung der Fakten x interpretiert. Ein allgemeines Gesetz ist deshalb so wertvoll, weil es kurz und knapp viele Beobachtungsdaten erklärt, man die Daten bestenfalls stringent aus ihm herleiten kann: The Kepler Challenge for statistics is to develop a general compression or pattern recognition algorithm that has cogent theoretical properties, that works well in case studies, and that, when applied to data like Brahe’s, yields Kepler’s three laws. (Siehe Beran (2008: 219), Hervorhebung im Original.)

Etwas ähnliches geschieht hier. Man muss das Programm s nur ausführen, also die in ihm niedergelegten logischen Schritte der Reihe nach ausführen, 211

Der Datensatz dient also als Programm seiner selbst. Die Nicht-Unterscheidung zwischen Daten und Programmen mag einen Fachfremden zunächst verblüffen, doch ist sie vom Standpunkt der Informatik aus nur konsequent. Programme wie Daten werden im Computer als binäre Zeichenketten abgebildet, im selben Speicher abgelegt und auf dieselbe Weise verarbeitet. Syntaktisch-formal gesehen gibt es keinen Unterschied. Semantisch gesehen schon: Daten sind Informationen, die verarbeitet werden, also „passiv“ sind; Programme hingegen sind „aktiv“, d.h., sie verändern andere Zeichenketten. (Besonders spannend wird es, wenn der gerade aktive Teil eines Programms, also ein aktuell ausgeführter Befehl, die gerade passiven Teile, also im Moment nicht ausgeführte Befehle desselben Programms, verändert.) 212

Das heißt, die genannten Herren konnten dies

464

5 Synthese

um die zuweilen erheblich umfangreicheren Daten zu erzeugen. Je kürzer das Programm dabei ist, desto mehr hat man die Fakten gewissermaßen „aufs Wesentliche“ reduziert, denn s ist zwar kleiner, jedoch immer noch genauso gehaltvoll wie x. So erscheint der Übergang von x zu s wie eine Induktion,213 und tatsächlich hat sich genau dieser Begriff auch hier eingebürgert. Man abstrahiert nämlich, anders gesagt, von Spezifika der Daten auf die Struktur bzw. den Gehalt in den Daten, deren „Bauplan“. Man beachte, in welchem Sinne induktiv geschlossen wird: Der Datensatz x ist fest, über ihn hinausgehende Aussagen, etwa reale Prognosen, werden nicht gemacht. Man bewegt sich stets innerhalb des formalen Rahmens von Zeichenketten, also Daten und Programmen.214 Dass kein Weg mit Notwendigkeit von irgendwelchen Tatsachen zu irgendwelchen Gesetzen führt (Poppers Formulierung) muss sich jedoch auch hier zeigen. Tatsächlich lässt sich mathematisch streng beweisen, dass es prinzipiell kein konstruktives Verfahren gibt, um, ausgehend von einem beliebigen x, zu s oder sogar s∗ zu kommen. Technischer formuliert: Die Kolmogorovsche Komplexität K(x) eines Datensatzes x ist nicht berechenbar. Der tiefere Grund hierfür ist das Halteproblem, das dadurch eine ziemlich natürliche Interpretation erfährt.215 Wäre in der Terminologie Gödels das System vollständig, d. h. könnte man in allen Fällen algorithmisch, und damit sogar konstruktiv, in endlich vielen Schritt von x zu s kommen, so hätte man das Induktionsproblem mit logischen Mitteln gelöst und damit Hume einen Streich gespielt. Doch die Logik lässt sich nicht überlisten, d.h., s ist von x aus gesehen (logisch-deduktiv) außer Reichweite. Gewiss, sobald man „irgendwie“ ein (kurzes) Programm s gefunden hat, mit dem sich die ursprünglichen Daten erzeugen lassen, so kann man von einem Gesetz sprechen, welches die Fakten erklärt. Und findet man ein noch kürzeres Programm, so hat man etwas dazugelernt. Man weiß jedoch nie, ob man schon bei s∗ angekommen ist, also die kürzest mögliche Erklärung gefunden hat. Schon der Weg von x nach s, also von den Daten zu irgendeinem Modell, kann beliebig kompliziert sein.216 213

Wir werden gleich präzisieren, in welchem Sinn s allgemeiner als x ist.

214

Dieser Rahmen ist gleichwohl äußerst allgemein, deckt der Übergang von Programmen zu Daten doch alle (algorithmisch) berechenbaren Sachverhalte ab! 215

Cover und Thomas (2006: 483) schreiben: “The halting problem in computer science is very closely connected with Gödel’s incompleteness theorem. In essence, it states, that for any computational model, there is no general algorithm to decide whether a program will halt or not (go on forever). Note that this is not a statement about any specific program. Quite clearly, there are many programs that can easily be shown to halt or go on forever. The halting problem says that we cannot answer this question for all programs.” Für viele weitere Details siehe ibd., Abschnitt 14.7. 216 Dies erkennt man am besten mithilfe verschlüsselter Daten. Eine Verschlüsselung zur Geheimhaltung von Daten ist nämlich genau dann gut, wenn man aufgrund der verschlüsselten Daten x keinerlei Hinweis darauf hat, wie die Ausgangsinformation s ausgesehen haben mag. Besten- bzw. schlimmstenfalls erkennt man noch nicht einmal, dass sich in bzw. „hinter“ der völlig willkürlich anmutenden Zeichenkette x eine Struktur verbirgt.

5.5 Das Informationsparadigma

465

Algorithmische Zufälligkeit Interpretiert man, wie wir es eben getan haben, das kürzeste Programm s∗ als die in den Daten enthaltene Struktur, so ist es naheliegend, den zu x fehlenden Teil als unwesentlich bzw. redundant aufzufassen. Genau dies ist die Definition von algorithmisch zufällig. Eine Zeichenkette x der Länge n heißt algorithmisch zufällig, wenn sie sich nicht komprimieren lässt, also kein Programm echt kleinerer Länge existiert, das x erzeugt. Da es 2n Zeichenketten der Länge n gibt, jedoch nur 2n−1 der Länge n − 1, stellt sich sofort heraus, dass zumindest die Hälfte aller Zeichenketten nicht komprimierbar und damit im genannten Sinn zufällig sind. Erst recht gibt es nur sehr wenige Zeichenketten, die substanziell, etwa auf ein Viertel ihrer Größe, komprimierbar wären.217 Andererseits gibt es - ebenfalls wiederum aufgrund des Halteproblems - auch keine allgemeine Methode, dies zu erkennen! Man kann nur den „Gegenbeweis“ führen: Hat man ein kürzeres Programm gefunden, dessen Output gerade die in Frage stehende Zeichenkette ist, so war letztere wohl komprimierbar. Eine elegante Art diesen Sachverhalt zu erfassen, eröffnet die ebenfalls nach Kolmogorov benannten Strukturfunktion. Zunächst fasst man x als Element einer Menge S auf. Auch dieser Menge lässt sich eine Komplexität K(S) zuordnen, ebenfalls definiert als die Länge des kleinsten Programms, welches S als Output hat. Allgemein gilt die zunächst kontraintuitive Ungleichung K(S) ≤ K(x) , denkt man doch, die Komplexität einer Menge S  x müsse größer sein als die eines ihrer Elemente. Stellt man man sich jedoch die Komplexität als die Informationsmenge vor, die notwendig ist, um ein Objekt zu charakterisieren, so ist unmittelbar klar, dass man n Ja-Nein-Fragen (und damit Bits) benötigt, um eine spezifische binäre Zeichenkette der Länge n festzulegen, jedoch nur k < n entsprechende Fragen, um lediglich einen Teil, nämlich k Bit der kompletten Zeichenfolge zu beschreiben. Die restlichen n − k Bit sind nicht festgelegt und definieren eine natürliche Menge von „Mustern“ von denen eines die gegebene Zeichenfolge x ist.218 In diesem Sinne sind auch komprimierte Daten, etwa s = (s1 , . . . , sm ), allgemeiner als nicht komprimierte, etwa x = (x1 , . . . , xn ), ist doch n > m, d. h. man kann s noch mit beliebigen n − m Bit „auffüllen“. Wie verändert sich K(S), wenn man die Menge S sukzessive vergrößert? Beginnend mit S = {x} ist die Komplexität c = K(S) = K(x). Außerdem 217

Es gibt nur 2n/4 solche Zeichenketten. Z. B. existieren 28 = 256 verschiedene Bytes, aber nur 22 = 4 Kombinationen zweier aufeinander folgender Bits (nämlich 00, 01, 10 und 11). Man kann also höchstens 4 von 256, also 1/64 aller Zeichenketten auf ein Viertel ihrer Größe komprimieren. In diesem Sinne sagt Kolmogorov, zitiert nach Calude (2002: 92): “By the very essence of this discipline, the foundations of information theory have a finite combinatorial character.” 218

Informatiker benutzen gerne das Zeichen „?“ (eine sogenannte “wildcard”) um ein nicht festgelegtes Bit zu charakterisieren. Die acht Bit 0110.0001 sind der ASCII-Code des Buchstabens „a“, jener von „A“ ist 0100.0001. Sucht ein Computer also, Groß- und Kleinschreibung nicht beachtend, in einem Text nach dem genannten Buchstaben, so versucht er das Muster 01?0.0001 zu finden.

466

5 Synthese

besteht S aus einem Element, d.h. |S| = 1 und damit ist log |S| = 0.219 Senkt man nun die zugelassene Komplexität c ab, fordert also K(S) ≤ c mit c < K(x), so gibt hx (c) = min{ld |S| : x ∈ S, K(S) ≤ c} S

an, wie umfangreich - im Sinne des Logarithmus der Anzahl ihrer Elemente die x enthaltende Menge mindestens sein muss, um die vorgegebene, gerade noch erlaubte Komplexitätsschranke c einzuhalten. Da S umso größer werden muss, je kleiner c ist, erhöht sich die Anzahl der zulässigen Zeichenketten sukzessive, bis man beim Wert c = 0 alle Zeichenketten der Länge n zugelassen hat (kein einziges Bit liegt fest, es wird keine einzige Ja-Nein-Frage gestellt), S also die Menge aller binären Zeichenketten der Länge n ist. Der zugehörige Funktionswert ist hx (0) = ld 2n = n. Anschaulich bedeutet dies, dass hx (c) eine auf dem Intervall [0, K(x)] monoton fallende Funktion mit hx (0) = n und hx (K(x)) = 0 ist. Ist x nicht komprimierbar, so ist K(x) = n, da alle n Bit zu kodieren sind und hx (c) ist eine Gerade mit der Steigung −1.220 Ist x jedoch komprimierbar, so ist K(x) < n und hx (c) setzt sich aus zwei monoton fallenden Geraden zusammen. Die linke von beiden hat eine Steigung kleiner als −1, die rechte wiederum eine Steigung gleich -1. Am Punkt, in dem sie sich treffen entsteht anschaulich gesprochen ein „Knick“ 221 Dessen Interpretation ist wie folgt: Im Wesentlichen muss beim nicht systematischen, algorithmisch-zufälligen Teil der Daten jedes Bit einzeln angegeben werden, was zu einer Steigung von -1 der rechten Geraden führt. Der systematische Teil lässt sich hingegen in einem kleinen Programm der Länge < n ablegen, und genau diese Komprimierung zeigt sich in einer Steigung < −1 der zugehörigen Geraden. Die Gesamt-Komplexität K(x) der beobachteten Daten x wird so in zwei Teile zerlegt: Einen allgemeinen Teil s = (s1 , . . . , sm ), welcher bereits von einer Menge T  x der Komplexität m = K(T ) < K(x) abgedeckt wird, und einen speziellen Teil, der nur x zu eigen ist. Die zu m gehörige Menge T bzw. jedes Programm, das diese Menge erzeugt, heißen Kolmogorov suffiziente Statistik. Die Angabe der minimalen Kolmogorov-suffizienten Statistik entspricht bzw. entspräche der maximal möglichen Kompression der Daten.222 219

| · | steht hier für die Mächtigkeit, also die Anzahl der Elemente, einer Menge.

220

Da sie durch die Punkte (0, n) und (n, 0) geht, ist ihre Funktionsgleichung y = −x + n. 221 Siehe Rissanen (2007: 54), Cover und Thomas (2006: 498ff) und Li und Vitányi (2008: 406). 222

Die Begriffsbildung ist völlig natürlich. Auch in der klassischen Statistik enthält ein suffiziente Statistik per definitionem alle relevanten Informationen. Die Daten werden also, anders gesagt, auf diese Statistik (ohne Informationsverlust) komprimiert. Eine herkömmliche minimal-suffiziente Statistik entspricht im neuen formalen Rahmen gerade der maximal möglichen Datenkompression. Es sollte deshalb auch nicht verwunderlich sein, dass man minimalsuffiziente Statistiken in einem geeigneten informationstheoretischen Rahmen stark verallgemeinern kann (Shamir et al. 2008). Es ist auch schon gelungen, die wechselseitige

5.5 Das Informationsparadigma

467

Universelle Wahrscheinlichkeit Das zuvor genannte kombinatorische Argument motiviert die Definition der universellen Wahrscheinlichkeit eines binären Datensatzes x = (x1 , . . . , xn ). Die Wahrscheinlichkeit, dass sich ein beliebiger Datensatz der Länge n „zufällig“ ergibt, wird auf 1/2n gesetzt, also P (x) = 1/2n . Zwischen der Kolmogorovschen Komplexität K(x) und der universellen Wahrscheinlichkeit P (x) einer Zeichenkette x besteht die auffällig enge Beziehung 1/2K(x) ≤ P (x) ≤ d/2K(x) mit einer Konstanten d. Man kann also die Komplexität benutzen, um die universelle Wahrscheinlichkeit nach oben und unten abzuschätzen. Hierzu gleichwertig ist  K(x) − d ≤ log(1/P (x)) ≤ K(x) 

mit einer Konstanten d . Das heißt, die Kolmogorovschen Komplexität K(x) mit ihrer algorithmischen Interpretation und die aus der universellen Wahrscheinlichkeit abgeleitete Größe − log(P (x)) mit ihrer probabilistischen Interpretation sind im Wesentlichen gleichwertige Arten, die in einem Datensatz enthaltene Information zu messen. Mehrere Einwände kommen einem gleichwohl in den Sinn und sind fast genauso schnell zu entkräften. Zum einen mag man einwenden, dass es sich bei der universellen Wahrscheinlichkeit in Wirklichkeit um eine sehr spezielle Wahrscheinlichkeit, nämlich jene binärer Zeichenketten, handelt. Darauf wird jeder Informatiker erwidern, dass alle realen Sachverhalte als binäre Zeichenketten codiert werden (können), was die Basis sowohl der theoretischen als auch der praktischen Informatik ist. Zum zweiten behandelt die Definition der universellen Wahrscheinlichkeit die beiden möglichen Zeichen völlig gleichwertig. Insbesondere werden alle Zeichenketten derselben Länge als gleich wahrscheinlich angesehen. Greift hier also nicht wieder die Kritik am Indifferenzprinzip? Auch dieser Einwand verpufft, da man nicht in irgendeiner speziellen Situation Unwissenheit formalisieren möchte, sondern sich in einer allgemeinen, von konkreten substanziellen Überlegungen völlig unabhängigen Situation befindet. Was die Zeichenketten bedeuten, welchem Gebiet sie entstammen, kurz, ihre ganze Semantik, spielt überhaupt keine Rolle. Es ist die formale, informationstheoretische Situation, welche die Setzungen nahe legt, wenn nicht sogar bestimmt, d. h. die gleichberechtigte, symmetrische Behandlung von 0 und 1 und die Unabhängigkeit der Inhalte zweier verschiedener Bits. Die schlichte Setzung P (x1 , . . . , xn ) = 1/2n hat die außerordentlich bemerkenswerte Konsequenz, dass kurzen Zeichenketten ein größere Wahrscheinlichkeit zugewiesen wird als langen, was eine Formalisierung von Ockhams Ökonomieprinzip des Denkens ist. Information I(x, y) zweier fester Datensätze x, y nicht-stochastisch zu fassen (Gács et al. 2001).

468

5 Synthese

Der Hauptsatz auf Datensatzebene Mit der Trennung in relevante Strukturinformation und kaum relevantem (algorithmischem) Zufallsrauschen hat man - sehr abstrakt - sauber zwischen dem strukturierbaren und dem nicht-strukturierbaren Teil der Daten differenziert. Dies entspricht einer sehr allgemeinen, logisch präzisen Formulierung des Hauptsatzes der angewandten Statistik.223 Der Satz ist jedoch nicht nur mathematisch-exakt, er ist zugleich auch, da man sich konsequent auf der Datensatzebene bewegt und nicht das etwas künstliche Hilfsmittel von Zufallsvariablen usw. benutzt, weit feiner als alle seine vorausgegangenen Formulierungen. Es sind die Daten, deren Eigenschaften und insbesondere die in ihnen enthaltenen Informationen, die ins Zentrum rücken - und nicht Zufallsvariable X oder Parameter θ und deren Verteilungen, wie es in der orthodoxen und der Bayesianischen Statistik der Fall ist. Ist man in der Lage, die im individuellen Datensatz vorhandene Information logisch befriedigend zu formalisieren und genau das tut die Kolmogorovsche Komplexität - so baut man auf einem wirklich empirischen Fundament auf. Jenes ist nicht nur genauer als Shannons (nicht hierfür gedachte) Idee mittlerer Information über eine Reihe von Datensätzen, es vermeidet vor allem auch die oft genauso weitreichenden wie kaum zu überprüfenden Annahmen über zumeist unbekannte Prozesse, welche die vorliegenden Daten erzeugt haben. Man handelt zumindest im Geiste des Likelihood-Prinzips, wenn man konsequent zwischen dem tatsächlich Beobachteten und unseren Ergänzungen unterscheidet, und dabei zugleich den Fakten die Priorität zugesteht. Sehr bemerkenswert ist z. B. Greenland (1990). Im Verlauf einer Diskussion, in dem er alle möglichen probabilistischen Interpretationen einer fachwissenschaftlich wegweisenden, nicht-randomisierten Studie verwirft, schreibt er (S. 425, meine Hervorhebungen): The point of the preceding exercise is not to criticize the Framingham study; on the contrary, it is important to note that the study was among the most informative in epidemiologic history. The point is that the study was informative despite the fact that the study statistics bore no randomization interpretation (since no one was randomized), and that any defensible descriptive interpretation would have to be trivial in character.

Kann man theoretisch die besten Gründe anführen, warum an Folgerungen aus einer solchen Studie die größten Zweifel angebracht sind, und muss man zugleich einräumen, dass die Daten praktisch äußerst bedeutsam waren, so bleibt eigentlich nur der Schluss, dass die bisherige Theorie inadäquat ist, und man nach einer völlig anderen Rechtfertigung der empirischen Bedeutsamkeit der Ergebnisse Ausschau halten sollte.224 Jene liegt auf der Hand: Ist es wirklich verblüffend, dass man einiges über Krankheiten lernen kann, wenn man 223

Abschnitt 3.8

224

Dies hatten wir schon bei der Diskussion der Messtheorie festgehalten.

5.5 Das Informationsparadigma

469

viele, nicht gerade völlig untypische Personen detailliert und einigermaßen systematisch untersucht? Auch wenn vorliegende Daten vielerlei statistische Qualitätskriterien nicht erfüllen und deshalb in zahlreicher Hinsicht verfälscht sein könnten (und höchstwahrscheinlich auch sind) - informativ bleiben sie in aller Regel gleichwohl. Mit den Worten von Rissanen (2007: 3): The theory provides a different foundation for statistical inquiry [. . .] What is most important is that the data need not be regarded as a sample from any distribution, and the idea of a model is simply a computer program that describes or encodes the data.225

Die resultierende Sichtweise ist zunächst einmal induktiv, also von den Daten zum Modell, und nicht mehr deduktiv, also vom (vorgegebenen, „unbekannten“) Modell zu einer Reihe von Daten. Doch auch wenn die Extraktion von Information aus den gegebenen Daten das wohl am meisten gehörte Motto bei allen einschlägigen Autoren ist - wie dies auch schon früher bei führenden Autoren wie Fisher, Jaynes und Tukey der Fall war -, durch die Wahl einer Klasse von überhaupt in die engere Wahl gezogener Modelle kommt auch der Top-Down-Gesichtspunkt zu seinem Recht. Gleichzeitig lässt sich die oft zurecht kritisierte Priori-Verteilung vermeiden.226 Die Informationstheorie erklärt aber auch elegant, warum experimentelle Designs, auf die die klassische Statistik so großen Wert legt, tatsächlich sehr wertvoll sind: Aufgrund ihres Aufbaus schließen sie überzeugend Alternativerklärungen aus, leiten die Auswertung und erleichtern die Interpretation der Daten. Genauer gesagt gelingt es mit ihnen, effizient und überzeugend Informationen zu erheben, weil das experimentelle Design die Daten mit einer Struktur versieht, die es erlaubt, die Information anschließend aus den Daten elegant zu extrahieren. Bei nicht-experimentellen Daten ist dies weit schwieriger, weshalb die auf solchen Daten aufbauenden Schlüsse denn auch entweder bescheidener oder aber weniger gut begründet sind. Die Informationsidee reicht jedoch weit über klassische Denkmuster hinaus. Fasst man Daten zunächst einmal nicht als Realisierungen von Zufallsvariablen auf, so eröffnen sich völlig neue Möglichkeiten. Je nach Kontext kann es weit fruchtbarer sein, sie als Diskretisierung einer stetiger Größe, gerundete Werte, das Ergebnis eines komplexen, jedoch deterministischen Prozesses, eine verschlüsselte Nachricht, den Output eines technischen Ablaufs, usw. aufzufassen. Von besonderer Bedeutung sind die ab dem nächsten Abschnitt beschriebenen Ansätze. In jüngster Zeit hat man sogar damit begonnen, eine nicht-probabilistische Statistik zu formulieren.227 225

Sehr ähnlich äußert sich Vovk (2001: 213): “In this approach [. . .] it is not assumed that data are generated by some stochastic mechanism.” Auch Gács et al. (2001: 2445) schreiben: “In contrast, in the algorithmic case we investigate the relation between the data and an individual model and therefore a probability distribution over the models is irrelevant.” 226 Womit Fishers Fiduzialidee wiederaufersteht. (Siehe S. 392) 227

Siehe z. B den in der 3. Auflage neuen Abschnitt 5.5 in Li und Vitányi (2008), an dessen Ende (S. 420) es heißt: „These results usher in a completely new era of statistical

470

5 Synthese

Sich von vorneherein auf eine stochastische oder sogar entscheidungstheoretische Sicht zu verengen, ist auf jeden Fall eine zuweilen gefährliche Vereinfachung, zumal die Vielfalt der Ansätze (Kapitel 4) weit besser zum hier vollzogenen induktiven Schritt passt. Dieser besteht im Übergang von endlich vielen, begrenzten Daten, also n Bit, zu einem allgemeinen Modell und der diesem entsprechenden realen Situation. Es ist dabei auch unmittelbar klar, dass endlich viele Bits nur endlich viel Information kodieren können, weshalb glatte, stetige Modelle immer nur eine Näherung darstellen. Bei gegebener Datenlage kann man zudem immer nur endlich viele dieser Modelle unterscheiden. Dies entkräftet sofort einen zuweilen gehörten Einwand gegen Bayessche Methoden, dass nämlich das Bayessche Theorem (zumindest in seiner üblichen Form) nur mit endlich vielen Hypothesen umgehen könne. Auch muss man eine Bevorzugung diskreter Beschreibungen nicht mit einem vagen „die Welt ist eher diskret als stetig aufgebaut“ rechtfertigen. Es genügt die Tatsache endlicher Information, welche eine begrenzte Diskriminierungsfähigkeit zur Folge hat. Wie die Wellenlänge der verwendeten Strahlung in der Mikroskopie über die kleinsten noch erkennbaren Strukturen entscheidet, so ist es hier die in den Daten enthaltene Information, welche über die Granularität, also die aufgrund der Daten noch sinnvollerweise zu treffenden Unterschiede zwischen Modellen, bestimmt.228 Alle Überlegungen stützen sich maßgeblich darauf, dass die Informationationsmenge immer in Bit gemessen wird und - von technischen Feinheiten einmal abgesehen - nur von den vorliegenden Daten abhängig ist. Genau deshalb hat man in der Statistik erstmals einen universellen Maßstab zur Verfügung, Information zu messen, die Komplexität einzelner Datensätze zu quantifizieren, Daten prägnant zusammenzufassen und auch sehr verschiedenartige Modelle zu vergleichen. Dies prädestiniert die Informations- und Kodierungstheorie nach einigen Jahrzehnten einer von der Statistik eher losgelösten Entwicklung als deren vereinheitlichendes Paradigma. Wie insbesondere die verschiedenen Publikationen Rissanens eindrucksvoll belegen, ist er sich schon seit langer Zeit der Kraft dieses Ansatzes bewusst. Rissanen (2007: VIII) schreibt: “[The] resulting algorithmic theory of information turned out to have far-reaching implications not only for the theory of computation but inference that is always best rather than expected. (Hervorhebungen im Original.) Auch Beran (2008: 219) schreibt: “Mathematics offers powerful languages besides probability theory.” Für einige frühe Ansätze siehe Diaconis (2006: 22f) und von der Lippe (1996: 29). 228 Genau so kann man schon ein Hauptergebnis der klassischen mathematischen Statistik lesen: Die Varianz eines (erwartungstreuen) Schätzers θˆ gibt an, wie viel man aufgrund der Beobachtungen über den Parameter θ weiß. Je kleiner diese Varianz, desto besser ˆ ist also ein weiß man über den Wert des Parameters Bescheid und vice versa. 1/σ 2 (θ) gutes Maß für die Information, über die man aufgrund der konkreten Schätzung über den Wert des Parameters verfügt. Wie nicht anders zu erwarten, kann die Präzision von ˆ nicht beliebig Schätzungen bei endlich vielen Beobachtungen nicht beliebig groß bzw. σ 2 (θ) klein werden. Vielmehr ist letztere durch die sogenannte Fisher-Information nach unten beschränkt. (Details hierzu finden sich in fast jedem traditionellen Lehrbuch der Statistik, der Ausgangspunkt des Ergebnisses ist Rao (1945).)

5.5 Das Informationsparadigma

471

also with regard to provability in logical systems, foundations of probability,229 and inductive inference.”

5.5.3 Das Prinzip der kompaktesten Beschreibung „[. . .] briefly, and in its most concrete form, the object of statistical methods is the reduction of data. A quantity of data [. . .] is to be replaced by relatively few quantities which [. . .] shall contain as much as possible, ideally the whole, of the relevant information contained in the original data. Fisher (1922: 13)

Der große Vorteil ihrer Allgemeinheit, welche die Informationstheorie zum neuen Paradigma der Statistik prädestiniert und die Statistik wieder in den Kanon der Wissenschaften einbetten würde, ist jedoch auch ihr größter Nachteil, da aufgrund eben dieser Allgemeinheit viele ihrer wichtigsten Größen prinzipiell nicht algorithmisch berechenbar sind. Wie auch in anderen weit abstrahierten Teilgebieten der Mathematik muss man die Situation soweit einschränken, dass konstruktive Verfahren und vor allem Algorithmen möglich werden. Rissanen (2007: VIII) beschreibt eine der wichtigsten Varianten: By replacing the class of models as the set of programs in a universal language by families of probability models, we avoid the non-computability problem and obtain a fairly comprehensive theory of modeling which, unlike the traditional attempts at theory, has no logical fallacies.

Gelingt eine natürliche Konkretisierung, so sind Methoden, welche sich wesentlich auf die Informations- und Kodierungstheorie stützen, fundierter, allgemein anwendbar, frei von logischen Widersprüchen und in der Praxis auch noch zumeist weit besser als klassische Verfahren. Sie reichen typischerweise weit über traditionelle statistische Verfahren, insbesondere Maximum Likelihood, aber auch Bayesscher Provenienz hinaus und vermeiden bei der Modellselektion schon aufgrund ihrer Konstruktion das zentrale Problem der übermäßigen Anpassung. Ein wesentliches Argument für kausale Netze war, dass mit ihrer Hilfe klassische Probleme einer konstruktiven Lösung zugeführt werden können, an denen sich die traditionelle Statistik lange Zeit vergeblich abmühte. Hier ist dies in noch weit größerem Umfang der Fall: Minimum Message Length (MML)230 ist eine Methode, die sich eng an die Bayessche Sichtweise anlehnt. Sie fasst den Datensatz x als eine spezielle Nachricht auf, welche einer mehr 229

Gemeint ist damit die algorithmische Zufälligkeit. Man kann aber noch viel weiter gehen. Siehe dazu Abschnitt 5.5.5. 230

Siehe Wallace (2005) für eine aktuelle Darstellung

472

5 Synthese

oder minder bekannten Quelle (entsprechend der Population in der traditionellen Statistik) entstammt. Hat die Nachricht die Wahrscheinlichkeit P (x), so ist ihre Länge, also die Anzahl zu ihrer Kodierung benötigter Bits − ld(P (x)). Die Hypothese H, welche die Daten erklären soll, besitze die Priori-Wahrscheinlichkeit P (H). Aus der Definition der bedingten Wahrscheinlichkeit P (x|H) = P (H, x)/P (H) ergibt sich sofort der Produktsatz P (H, x) = P (H) · P (x|H), und durch Logarithmieren erhält man 0 ≤ − ld(P (H, x)) = − ld(P (H)) − ld(P (x|H)). Das MML-Prinzip besagt nun, dass man die linke Seite der Gleichung minimieren, also Daten und erklärende Hypothese simultan so kurz wie möglich machen sollte. Aufgrund der rechten Seite heißt das, zum einen die Daten gut an die Hypothese anzupassen,231 zugleich aber auch die Hypothese einfach zu halten.232 Das Minimum wird weder bei einer primitiven Hypothese erreicht,233 was underfit entspricht; noch bei einer übermäßig komplizierten Hypothese,234 entsprechend einem overfit. Vielmehr ist die im MML-Sinne optimale Lösung, eine gute und zugleich prägnante Beschreibung der Daten zu finden. Insgesamt wird die Nachricht getreu dem Hauptsatz auf Datenebene in zwei Komponenten zerlegt. Wallace (2005: 190) schreibt dazu: The given data contains information about both the pattern to which it conforms and the ‘noise’. The task of an inductive or statistical inference procedure may be regarded as a separation of the data information into ‘pattern’ and ‘noise’ components [By the method of strict minimum message length] the data is recoded into a two-part message, in which the first part (assertion) concerns pattern, and the second part (detail) encodes whatever details of the data cannot be deduced from the assertion. We now argue that, by choosing the shortest possible explanation, we effect the best possible separation between pattern and noise.

Die Maximum-Likelihood-Schätzung (ML, siehe S. 127ff) ist dafür gemacht, mit einer festen Anzahl von Parametern zurecht zu kommen. Schon Neyman und Scott (1948) präsentierten ein Problem, in dem die Anzahl der Parameter mit der Anzahl der Beobachtungen wächst: Seien X1 , X2 , . . . unabhängige Zufallsvariable mit Xi ∼ N (μi , σ). Von jeder der Zufallsvariablen sollen jeweils zwei Realisierungen xi1 und xi2 bekannt sein. Neyman und Scott zeigten, dass zwar der ML-Schätzer von μi , nämlich μ ˆi = x ¯i = (xi1 + xi2 )/2 konsistent ist, nicht jedoch der ML-Schätzer der Standardabweichung, wel√ cher für n → ∞ mit Wahrscheinlichkeit Eins gegen σ/ 2 konvergiert. Dowe 231

P (x|H) groß und damit − ld(P (x|H)) klein

232

Typischerweise ist P (H) umso größer, je einfacher H ist. Es ist zudem nahe liegend, ohne weiteres Vorwissen einfachen Hypothesen ihre universelle Wahrscheinlichkeit zuzuordnen. Da die Funktion − ld auf dem Intervall [0, 1] fällt, ist beidesmal − ld(P (H)) klein. 233 234

− ld(P (H)) klein, jedoch − ld(P (x|H)) groß − ld(P (H)) groß, jedoch − ld(P (x|H)) klein

5.5 Das Informationsparadigma

473

and Wallace (1997) verwenden den MML-Schätzer und zeigen auf wenigen Seiten, dass ihr Verfahren mit der Situation zurechtkommt.235 Das Behrens-Fisher-Problem (S. 425) ist wie das Problem of the Nile (S. 405) ein multivariates Problem, das heißt, es spielen mehrere Parameter simultan eine Rolle. Wie die nicht abreißenden Beiträge zu solchen Problemen zeigen, kommt die klassische Statistik nur schwer mit ihnen zurecht; es gibt also bis heute keine allgemeine oder auch nur allgemein akzeptierte Lösung. Das von Stein (1956) formalisierte Paradoxon (S. 405), ein multivariates Schätzproblem, ist keine Ausnahme, und die klassischen Ansätze scheitern, weil die Verwendung statistisch offensichtlich irrelevanter „Informationen“ günstig sein kann. Ohne solche Bemühungen auch nur zu erwähnen, gibt Wallace (2005: 181) eine überzeugende Begründung, weshalb sich der Effekt einstellt: Even if [n] univariate mean estimation problems are completely independent, we do better to encode their data in a single explanation. Closely parallel results are well known in Information Theory. If several analogue quantities are to be digitized for storage or transmission, the digitizing process, by representing each quantity only to a finite number of digits, inevitably introduces a ‘quantization noise’. By quantizing several quantities at once [. . .] the mean quantizing noise is reduced without use of extra digits. A curious consequence of combining independent problems in this way is that now the [Strict Minimum Message Length] estimate for one problem depends on data from other, unrelated problems.

Minimum Description Length (MDL)236 löst sich noch konsequenter von traditionellen, auch Bayesschen Vorstellungen. Rissanen (2007: 44) charakterisiert ihn wie folgt: “[. . .] the complexity of a data set is measured by the fewest number of bits with which it can be encoded when advantage is taken of a proposed class of models. Hence, the complexity measure is relative to the class of models, which then act as a language allowing us to express the properties in the data, and [. . .] the information in the data [. . .] if the language is poor, we expect to be able to learn only gross properties. If [. . .] the language is very rich, we can express a large number of properties, including spurious ‘random’ quirks.” (Siehe hierzu auch ibd., S. 4.) Grünwald (2005: 8) präzisiert dies: The goal of statistical inference may be cast as trying to find regularity in the data. ‘Regularity’ may be identified with ‘ability to compress’. MDL combines these two insights by viewing learning as data compression: it tells us that, for a given set of hypotheses H and data set D, we should try to find the hypothesis or combination of hypotheses in H that compresses D most. (Hervorhebungen im Original.)

Auch dies führt sofort wieder zu einer neuen Formulierung des Hauptsatzes: “This raises the thorny issue of deciding how much of and which proper235

Siehe auch Wallace (2005: Kapitel 4). Zahlreiche weitere Beispiele werden in Dowe et al. (2007) genannt. Übrigens führt auch Akaike (1973) sein Kriterium als Verallgemeinerung der Maximum-Likelihood-Methode ein. 236

Siehe v.a. Rissanen (1989, 2007) und Grünwald (2005, 2007)

474

5 Synthese

ties of the data we want to and can learn. Our solution will be based on the idea that the portion of the data that cannot be compressed with the class of models available will be defined to be uninteresting ‘noise’, and the rest is what we want to learn - the useful learnable information. We may state that to achieve such a decomposition of data is the purpose of all modeling.” (Rissanen 2007: 44f) Anders als beim Bayesschen Ansatz ist auf der Klasse der Hypothesen bzw. Modelle keine Wahrscheinlichkeitsverteilung definiert. Rissanen (2007: 4) sagt dazu: The basic coding theory [. . .] implies that a code length L(a) for any finitely describable object a defines a probability P (a) This means that to encode [. . .] we need a prior for the parameters. The real-valued parameters must be quantized so that they can be encoded with a finite code length. This is an important and even crucial difference between the MDL theory and the Bayesian approaches, in that in the former only prior knowledge that can be described, i.e., encoded, is permitted, not in any vague sense that there is a certain prior distribution on the parameters, but in the concrete sense that the parameter value needed can be encoded in such a manner that it can be decoded. A code length is equivalent with a probability, and there is no need for the awkward Bayesian interpretation that a probability is a degree of belief.

Direkt danach nennt er noch zwei weitere wichtige Unterschiede zum Bayesschen Ansatz: Statt wie MDL eine Klasse von Modellen zu betrachten, fixiert der Bayessche Mechanismus eine Priori-Verteilung. MDL arbeitet zudem nur mit der Codelänge, anstatt dem gesamten Code bzw. äquivalent zu diesem, der kompletten Verteilung. Wichtiger noch ist die Tatsache, dass man sich konsequent von der Vorstellung löst, die Daten seien durch einen (stochastischen) Prozess erzeugt worden. Es gibt kein „wahres“ Modell, das im Hintergrund alles steuert, und an dem sich viele traditionelle statistische Verfahren orientieren. Noch einmal Rissanen (2007: 99): “There is no need to assume anything about how the existing data were generated. In particular, unlike in traditional statistics, the data need not be assumed to form a sample from a population with some probability law.” Schon in Rissanen (1989: 6) findet sich eine ähnlich grundsätzliche Kritik am „wahren Modell“. ‘There is a plethora of applications of the MDL principle in many different areas” (Li und Vitányi 2008: 436) und ibd., S. 435-437) treten sie mit einer differenzierten Aufzählung den Beweis an. Auch Hansen und Yu (2001) sowie Bryant und Cordero-Braña (2000) sparen nicht mit Praxisbeispielen, wobei letztere insbesondere Kontingenztafeln behandeln (ibd., S. 261f) ohne auf die Randsummen zu bedingen (siehe hierzu S. 371f). Rissanen (1989, 2007) selbst geht es weniger um die Lösung einzelner Probleme, die sich für die klassische Theorie als schwierig erwiesen haben. Weit darüber hinausgehend baut er in seinen Büchern die Schätz- und Testtheorie, also den Kern der klassischen Statistik, systematisch neu auf. Nachdem er mit dem MDL-Ansatz eine universal sufficient statistics decomposition hergeleitet hat, wendet er sich unter anderem der Maximum-Likelihood-Schätzung,

5.5 Das Informationsparadigma

475

einem Kernstück der orthodoxen Theorie, zu. Es ist wohlbekannt, dass jene unbekannte Parameterwerte θ1 , . . . , θk in aller Regel zuverlässig schätzt, nicht jedoch deren (optimale) Anzahl k. Rissanen (2007: 85) schreibt: Yet both are just parameters, and one and the same principle of estimation should be applicable [. . .] In the light of the decomposition above we now see that in every case we should separate the noise part from the information and fit parameters only such that we capture the information [. . .] the maximum-likelihood principle should be rejected in both cases, because we are not then distinguishing between noise and the learnable part, i.e., the information. In case of [the parameters’ values] the damage is minor for large amounts of data [. . .] in case of [k] the damage is devastating.

Auch einer großen Anzahl von Parametern oder semiparametrischen Modellen kann man mit der Maximum-Likelihood-Ansatz höchstens ad hoc beikommen, etwa indem viele Störparameter zu Beginn der Analyse marginalisiert werden (Murphy und van der Vaart 2000). Und die Probleme bei Maximum Likelihood, die permanent zu einer Vielzahl origineller Lösungsansätze zwingen, sind nicht die Ausnahme, sondern die Regel: Während AIC, auf Maximum Likelihood aufbauend, oft noch nicht einmal konsistent ist,237 ist MDL dies unter sehr schwachen Voraussetzungen.238 Dringt man noch weiter vor, so stellt sich heraus, dass für Schätzprobleme im Allgemeinen Kolmogorovs bislang nicht erwähnter Entropiebegriff fundamental ist (Nikouline und Solev 2007). Rissanen (2007: Kapitel 7 und 9) stellt auch das Hypothesentesten mit dem neuen Begriff der optimalen Unterscheidbarkeit auf eine solide Grundlage. Ibd., S. 104, erläutert er die Vorgehensweise: It seems that the real issue in hypothesis testing is to be able to measure how well models fitted to the data are separated. In case of just two models, the problem amounts to calculating the two error probabilities and determining the decision boundary for which the sum of the error probabilities is minimized - i.e., the NeymanPearson lemma. The difficult case is when we have a parametric class of models [. . .] The central problem then becomes how to partition the parameter space into at most a countable number of equivalence classes such that any two adjacent models can be optimally distinguished from a given amount of data in a measure that is intuitively acceptable and can also be formally justified.239 (Hervorhebung im Original.)

Man beachte, dass bei dieser Behandlung des Problems mit dem Datenumfang und damit der vorhandenen Information, die Unterscheidbarkeit der Modelle sukzessive zunimmt. In dem Maß, in dem sich der „Schleier des zufälligen Rauschens“ lichtet, lässt sich die Wahrheit erkennen. Das passt nicht nur sehr gut zu dem in der Physik vorherrschenden Denken (siehe S. 331); der Ansatz adaptiert sich darüber hinaus auch automatisch an den Informationszuwachs. Dies ist ganz im Sinne von Fisher, der, zitiert nach Lehmann 237

Das heißt, dass selbst wenn die Anzahl n der Beobachtungen gegen unendlich geht, das selektierte Modell nicht gegen das korrekte Modell konvergiert. Siehe z. B. Schlittgen und Streitberg (2001: 340ff), Lang (2005: 168ff), Sarstedt (2006: 21f) und die dort genannte, ausführliche Literatur. Weakliem (1999) beschäftigt sich ausführlich mit BIC 238

Siehe Hansen und Yu (2001: 771f) und Barron et al. (1998)

239

Siehe auch Grünwald (2007: Abschnitt 7.3)

476

5 Synthese

(1990: 160f), sagt: “More or less elaborate forms will be suitable according to the volume of the data.” Traditionellerweise fixiert man hingegen die Modellklasse,240 was die Betrachtung starr macht und beim Testen zum Konvolut von α-Fixierung, β-Minimierung, α-Adjustierung bzw. p-Wert, Metaanalyse und „Hybriden“ beider Ansätze führt. Selbstverständlich behandelt Rissanen (2007: 105) auch die beiden Fehlerwahrscheinlichkeiten simultan, um keine willkürlichen Setzung (α = 5%) vornehmen zu müssen.241 Nur der ursprüngliche Fishersche Signifikanztest, der ganz schlicht eine feste Hypothese einem ebenso festen Satz von Beobachtungsdaten gegenüberstellt, kann mit der konzeptionellen Eleganz des neuen Ansatzes konkurrieren. Dies ist nicht weiter verwunderlich, bringt doch auch dessen simples Inferenzmuster den entscheidenden Unterschied zwischen einer allgemeinen Aussage und den konkreten Fakten auf den Punkt. Fishers Signifikanztest komprimiert den Forschungszirkel auf seine beiden wesentlichen Komponenten.242 Entspricht die H0 einer substanziellen Hypothese, die je mehr Daten verfügbar sind, umso schärfer getestet wird, so genügt Fishers Ansatz vollauf, um Huxleys Maxime gerecht zu werden, dass Hypothesen an der Wirklichkeit scheitern können müssen. Simultan mehr als eine Hypothese zu betrachten ist in gewissem Sinne bereits eine Seitenentwicklung. Viel stärker ist die adaptive Idee: Anstatt eines rigiden „Daten versus Hypothese(n)“ ist „Daten relativ zu Modell(en)“ weit elastischer und angemessener. Das heißt, man strebt keine wenig informative 0-1-Entscheidung an, sondern will primär flexible Modelle optimal an (feste) Daten anpassen.243 In diesem Sinne schreibt abermals Rissanen (2007: 102): [. . .] I came to realize that the fundamental problem both in data compression and statistics is the modeling problem, and that the code length minimization is the key to both.244

Weitere Vorzüge der neuen Methoden Ein Blick in die genannten Arbeiten zeigt, dass sich die Reihe erfolgreicher Anwendungsbeispiele noch erheblich verlängern lässt. Dabei sollte man nicht übersehen, dass die informationstheoretischen Methoden eng verwandt sind. In Li und Vitányi (2008: Abschnitte 5.4-5.6, insbesondere 385, 389ff, 398ff, 407ff, 413ff), werden viele Querbezüge zwischen ihnen hergestellt. Von großer 240

Insbesondere eine parametrisierte Verteilungsfamilie, siehe auch S. 519.

241

Siehe hierzu auch die S. 112 und 367 zitierten Bemerkungen von Cornfield (1966).

242

Wie so oft, wenn man einen Sachverhalt auf seinen theoretischen Kern reduziert hat, erscheint es andererseits eher als eine Karikatur, da man von vielen anderen, zuweilen auch wichtigen Faktoren abstrahiert hat, jene also überhaupt nicht formal berücksichtigt. Die ermüdenden Diskussionen um den p-Wert zeigen, dass die Vereinfachung wohl zu weit geht. 243

Beide Ansätze betrachten die Daten als fest. Zu einer (noch) „dynamischeren Sicht“ auch der Datenentstehung siehe Abschnitt 6.4. 244 Siehe auch das Zitat von Bryant und Cordero-Braña (2000), S. 527.

5.5 Das Informationsparadigma

477

Bedeutung ist, dass sich sowohl Maximum Likelihood als auch das Prinzip maximaler Entropie (siehe S. 257) als ein Spezialfall der kürzesten Nachrichtenlänge auffassen lassen.245 Ein weiteres, äußerst starkes Argument für MML- und MDL-Methoden ist, dass sie viele Invarianzeigenschaften, die in der klassischen Theorie eher sporadisch wenn überhaupt vorhanden sind (siehe etwa Wallace (2005: 187ff)), besitzen. Während, wie das Problem of the Nile zeigt, zuweilen schon eine einfache Umparametrisierung bei lediglich zwei Parametern die klassische Statistik in arge Bedrängnis bringt, wird nicht nur dieses schon auf Fisher (1973: 138ff) zurückgehende Beispiel246 in Balasubramanian (2005: 86ff) fast beiläufig behandelt. Es ist bezeichnend, dass die umständlichen Konstruktionen der klassischen Statistik dabei überhaupt keine Erwähnung finden, während der objektive Bayessche Ansatz wie folgt beurteilt wird: “Of course, once we have picked a particular prior distribution ω(Θ), Bayesian inference is reparametrization invariant, provided we remember to include the Jacobian of coordinate transformations in the integration measure as we are instructed in elementary calculus courses.” Genau dies war die Grundüberlegung von Jeffreys (S. 259). Dieser Ansatz reicht im Allgemeinen jedoch nicht aus, denn Balasubramanian fährt fort: “[. . .] the apparently unbiased measure [. . .] that gives equal weight to all parameters is not reparametrization-invariant [. . .] if ω(Θ) was uniform in the parameters, the probability of a model family given the observed data would depend on the arbitrary parametrization.” Man greift also zu kurz, wenn man nur die Parametrisierung von Modellen bzw. Verteilungen betrachtet, welche in einem gewissen Sinne immer willkürlich ist.247 Grundlegender sind sicherlich die Modelle selbst und ihre Beziehungen zueinander, d.h. “[. . .] a good method is to give equal prior weight to all distributions contained in a model family as opposed to the parameters, which are only an arbitrary scheme for indexing the distributions.” (Hervorhebung im Original.)248 Auf diese Weise kommt man zu geeigneten Mengen bzw. Familien von Verteilungen. Insbesondere lässt sich aus der KullbackLeibler-Information ein Distanzmaß gewinnen, so dass man es mit anschaulichen, metrischen Räumen zu tun hat. Die Distanz zwischen zwei Modellen ist wohldefiniert und viele wichtige Größen bekommen eine unmittelbar einsichtige Interpretation, etwa als Volumen, Oberfläche oder Krümmung.249 Am 245

Siehe zudem Rissanen (1983), Feder (1986) und Wallace (2005: Kapitel 10), der die Ähnlichkeit der Ansätze in den Vordergrund stellt. 246 Siehe Efron (1978) und S. 405 247

Davon unbenommen ist, dass man den meisten Parametern eine natürliche Interpretation geben kann und bei parametrischen Modellfamilien zumeist die Betrachtung der Parameter-Räume genügt. 248 Er empfiehlt er also, zum einen direkt mit den Verteilungen - nichtparametrisch - zu arbeiten und zum anderen eine Priori-Verteilung zu verwenden - d. h. Bayesianisch vorzugehen. Damit steht er nicht allein, vielmehr ist “Nonparametric Bayes” ein sehr aktuelles statistisches Thema, siehe z. B. Ramamoorthi und Ghosh (2003) und Hjort et al. (2010). 249

Siehe z. B. Balasubramanian (2005), Hanson und Fu (2005), Rodríguez (2005) sowie Cover und Thomas (2006: 247): “Just as the entropy is related to the volume of the typical

478

5 Synthese

tiefgründigsten sind wohl die Arbeiten von Balasubramanian (1997, 2005), und in der jüngsten Vergangenheit hat Rissanen (2007: Kapitel 7) dessen geometrische Überlegungen zur informationstheoretischen Herleitung von Konfidenzintervallen verwendet. Auch dort ist, wie beim Hpyothesentesten, die entscheidende Einsicht, dass, je nach Datenlage, die theoretischen Verteilungen nur bis zu einem gewissen Grad unterscheidbar sind. Das vermeintlich tiefschürfende GRUE-Paradoxon ist hingegen im Lichte der Komplexitätstheorie kaum einer Erwähnung wert. Man beobachtet die konstante Folge grün, grün, grün. . . Jene hat eine äußerst geringe Komplexität, kann doch jeder Anfänger ein kurzes Programm schreiben, das das Wort „grün“ ad infinitum ausgibt. Ein Programm, das zu einem gewissen Zeitpunkt t in der Zukunft von „grün“ auf “blau“ wechselt ist offenkundig komplizierter.250 Deshalb genügt das klassische Ökonomieprinzip des Denkens, um die GRUE-Hypothese als äußerst unplausibel zu diskreditieren und jedes „vernünftige“ statistische Verfahren wird die Konstanz bestätigen bzw. erkennen. Nur wenn man green und grue als irgendwelche Adjektive auffasst, lässt sich ansatzweise verstehen, warum Hájek und Hall (2002: 167), nachdem sie die obige einschlägige Literatur zitiert haben, schreiben: “These [ideas] may also shed light on the time-honored but all-too-nebulous intuition that ‘green’-like hypotheses are somehow ‘simpler’ than ‘grue’-like hypotheses.” Weil man heute simple ohne Anführungsstriche schreiben kann, hat sich der Nebel gelichtet.251

5.5.4 Universelle Prädiktion In statistical modeling there is only one data set from which the statistical properties of the data constituting the model are to be learned, and there (sic) are hoped to hold for future data generated by the same physical process. (Rissanen 2007: VII)

In den letzten Abschnitten haben wir das Induktionsproblem dadurch (implizit) gelöst bzw. aufgelöst, dass wir annahmen, in den Daten verberge sich (allgemeine) Struktur, welche es zu erschließen gilt. Die „Hoffnung“, dass die gefundene Struktur auch in Zukunft noch relevant ist, ist ein zweiter, daset, there is a quantity called Fisher information which is related to the surface area of the typical set.” 250

Und völlig ad hoc! Warum nur ein Wechsel zu einer anderen Farbe zu einem beliebigen Zeitpunkt? 251

Damit verflüchtigt sich auch eine klassische, von Kemeny (1953: 391) wiedergegebene Argumentationslinie gegen induktive Schlüsse: “The concept of simplicity plays a central role in inductive inferences. Given any inductive problem in which there are several ‘equally good’ hypotheses, the scientist will choose the simplest one. In spite of the fact that this much is generally admitted, the concept of simplicity remains highly controversial in the philosophy of science [. . .] you will almost always find the firm opinion that no precise definition can be given for the concept of simplicity.”

5.5 Das Informationsparadigma

479

mit zwar eng verwandter, aber doch verschiedener Gesichtspunkt. Wir waren schon in Abschnitt 4.5.2 auf ihn gestoßen (siehe auch S. 454). Typischerweise geht die Modellierung der Prädiktion voran, und man wird ein Modell nur dann als wirklich nützlich empfinden, wenn man es wiederverwenden kann, es also über das konkrete Experiment, die im Augenblick vorliegenden Daten, hinausgeht. Doch man kann, wie wir in den Abschnitten 4.5.2 und 4.6.2 festgestellt haben, auch ohne ein explizites Modell prognostizieren. Während das Problem der Identifikation der wesentlichen Struktur meist unter den eher engen Begriffen der learnable properties und data compression bzw. den weiteren Ideen des modeling bzw. der (statistical) inference behandelt wird, spricht man bei der Vorhersage zukünftiger Ereignisse von prediction. Im prequential framework von Dawid (1984, 1991, 1992) werden statistische Verfahren sogar primär gemäß ihrer Vorhersagegüte beurteilt, wobei die Information sequentiell aufläuft:252 The prequential approach to statistics [. . .] is based on the idea that we can judge the quality of an inference method by converting it into a forecasting system and assessing the empirical success of the sequence of one-step-ahead forecasts that it implies (Dawid und Vovk 1999: 125).

Das schwache prequential principle besagt, dass man ein Vorhersagesystem ausschließlich aufgrund seines empirischen Erfolges beurteilen sollte. D.h., es kommt nur auf die tatsächlich gemachten Prognosen (wie auch immer man zu diesen gekommen sein mag) und deren „Abstand“ zum tatsächlichen Geschehen an. Auch Hume stellte das Induktionsproblem in Form einer Prognose dar. Bei heutigen Autoren heißt es eher technisch (Hutter 2007: 35): “In the predictive setting we are not interested in identifying the true environment, but to predict the next symbol well.” Auch Li und Vitányi (2008: 350) differenzieren, ausgehend von einer Zeichenkette x, prägnant: The goal of inductive inference in general is to be able either to (i) predict, or extrapolate, the next element after x or (ii) to infer an underlying effective process that generated x [. . .]

Bei der Modellierung geht man also von x = (x1 , . . . , xn ) zu einem kürzeren s1 , . . . , sm über - man komprimiert - während bei einer Prognose x geeignet zu verlängern ist.253 Ähnlich klar unterscheiden Wissenschaftstheoretiker 252

Daher der Name: prediction und sequential. Rissanen (2007: 77) spricht von predictive MDL. 253

Am Rande sei bemerkt, dass sich die Unterscheidung auch schon im klassischen Rahmen, etwa einer linearen Regression, formulieren lässt. Die übliche OLS-Schätzung (siehe S. 133) ist prognostischer Natur, da sie verlangt, dass yˆ = b1 x1 +. . .+bp xp möglichst wenig vom tatsächlich zu beobachtenden y abweicht. Hingegen fragt man bei der Schätzung der Parameter bi nach der Struktur. Für eine aktuelle Diskussion siehe z.B. Candes und Tao (2007).

480

5 Synthese

zwischen dem (äußeren) prognostischen Erfolg und der (immanenten) Erklärungskraft einer Theorie.254 Technisch gesehen muss man auf jeden Fall den bisherigen Rahmen erweitern, da zu allen bislang vorhandenen Randbedingungen und Strukturen die Zeit als häufig ganz entscheidende, auf jeden Fall ordnungsstiftende Dimension, hinzukommt. Die immense Kraft der modernen Informationstheorie zeigt sich nun darin, dass Solomonoff mit ihrer Hilfe eine formal strenge Lösung des (prädiktiven) Humeschen Induktionsproblems angeben konnte.255 Ausgehend von den Daten werden alle mit jenen kompatible Modelle in Betracht gezogen, nach ihrer Komplexität geordnet und bewertet, um dann mithilfe der Bayesschen Formel eine mit der Vergangenheit konsistente Vorhersage zu machen. Li und Vitányi (2008: 358) sagen prägnant: “Solomonoffs inductive formula [. . .] to predict outcomes y given a sequence of observed outcomes x, can be viewed as a mathematical form of Occam’s razor: find all rules fitting the data and then predict y according to the universal distribution on them.” (Hervorhebung im Original.) Li und Vitányi (2008: 347) führen etwas detaillierter aus: “Essentially, combining the ideas of Epicurus, Ockham, Bayes, and modern computability theory, Solomonoff has successfully invented a perfect theory of induction. It incorporates Epicurus’s multiple explanations idea, since no hypothesis that is still consistent with the data will be eliminated. It incorporates Ockham’s simplest explanation idea since the hypotheses with low Kolmogorov complexity are more probable. The inductive reasoning is performed by means of the mathematically sound rule of Bayes.” Noch präziser schreibt Hutter (2007: 38): The overarching principles put together by Solomonoff (1964) are: Occam’s razor (choose the simplest model consistent with the data), Epicurus’ principle of multiple explanations (keep all explanations consistent with the data), (Universal) Turing machines (to compute, quantify and assign codes to all quantities of interest), Kolmogorov complexity (to define what simplicity/complexity means).256

In vielerlei Hinsicht ist Solomonoffs Theorie damit die ideale inference to the best explanation, also eine äußerst allgemeine, logisch korrekte und konstruktive Antwort auf das Induktionsproblem. Die Lösung ist so allgemein, dass genau dies ihr Makel ist, denn da die Kolmogorovsche Komplexität nicht berechenbar ist, lässt sie sich in ihrer allgemeinsten Form nicht implementieren. 254

Für eine sehr lesenswerte Vertiefung dieser Unterscheidung siehe Dowe et al. (2007). Auch Breiman (2001), Box et al. (2005: 404) und Wallace (2005: 404ff, 408) kontrastieren diese beiden Ziele der Statistik. 255

Da Solomonoff mit Carnap korrespondierte (siehe Li und Vitányi (2008: 332)), könnte man seine Theorie auch als des letzteren „späte Rache“ an den Deduktivisten verstehen. 256

Bemerkenswerterweise schreibt auch der Strafverteidiger von Schirach (2009: 112) ganz ähnlich: „Der Satz des Kriminalkommissars, dass eine Lösung zu einfach sei, ist eine Erfindung von Drehbuchautoren. Das Gegenteil ist wahr. Das Offensichtliche ist das Wahrscheinliche. Und fast immer ist es auch das Richtige.“

5.5 Das Informationsparadigma

481

Dem lässt sich jedoch auf zweierlei Art begegnen. Erstens: “[. . .] in spite of its incomputability, Algorithmic Probability can serve as a kind of ‘Gold Standard’ for induction systems” (Solomonoff, zitiert nach Hutter (2007: 33). Siehe auch Li und Vitányi (2008: 420).) Zweitens existieren berechenbare Approximationen, allen voran MDL, was die Bedeutung jenes Ansatzes erneut unterstreicht.257 Unmittelbar nachdem Li und Vitányi (2008: 347f) Humes Induktionsproblem besprochen haben, schreiben sie: Our aim is to demonstrate that data compression is the answer to many questions about how to proceed in inductive reasoning [. . .] Making these ideas rigorous involves the length of the shortest effective description of some object: its Kolmogorov complexity. We treat the relation between data compression and learning and show that compression is almost always the best strategy, both in hypothesis identification using the [. . .] MDL principle and in prediction [. . .] Nonprobabilistic statistics [. . .] gives a detailed view of all stochastic properties of data, and, among others, a rigorous foundation and justification of MDL.

Die wichtigsten Eigenschaften guter Wissenschaft finden sich im nächsten Satz: “Let us consider theory formation in science as the process of obtaining a compact description of past observations together with predictions of future ones.” Im Jargon der Informationstheorie geht es bei Wissenschaft also um nichts anderes als die Entwicklung von Modellen mit möglichst geringer Komplexität bei zugleich möglichst großer Prognosekraft. Alles in allem gilt es den Quotienten Predictive Power / Model Complexity zu maximieren; was zugleich die wohl kompakteste Wissenschaftstheorie ist, die man sich vorzustellen vermag. Übrigens schreibt schon äußerst ähnlich Feigl (1970a: 12): “[. . . ] it is the fact-postulate ratio that represents the explanatory power of theories. The aim of scientific explanation throughout the ages has been unification, i.e., the comprehending of a maximum of facts and regularities in terms of a minimum of theoretical concepts and assumptions.” (Hervorhebung im Original.) Aufgrund ihrer Einheitlichkeit und konzeptionellen Einfachheit leitet die Informationstheorie die Herangehensweise an neue Probleme und stellt allgemein anwendbare Verfahren zu Verfügung. Sie lenkt die Argumentation in fruchtbare Bahnen und hält, wenn auch zurzeit noch eher im Hintergrund, alles zusammen. Nichts ist eben praktischer als eine gute Theorie (Lewin), ein in sich stimmiges Begriffsgebäude, das wie selbstverständlich Ad-hoc-Ansätze wenn nicht überflüssig macht, so doch weit zurückdrängt, und dabei die Daten, den Rohstoff, aus dem Wissen gewonnen wird, in den Mittelpunkt rückt. 257

Hutter (2007: 33) ergänzt: “Solomonoff completed the Bayesian framework by providing a rigorous, unique, formal, and universal choice for the model class and the prior.” Er fährt ibd., S. 45, fort: “The major (agonizing) problem Bayesian statistics leaves open is how to choose the model class and the prior. Solomonoff’s theory fills this gap by choosing the class of all computable (stochastic) models, and a universal prior inspired by Ockham and Epicurus, and quantified by Kolmogorov complexity.”

482

5 Synthese

In Li und Vitányi (2008: 348ff) folgen nach den obigen Ausführungen eine universelle Theorie der Vorhersage (im Sinne von Abschnitt 5.5.6), allgemeine Lernalgorithmen, die auch das Lernen durch enumerative Induktion umfassen, eine Formalisierung von Ockhams Ökonomieprinzip, die Selektion von Hypothesen und andere klassische statistische Verfahren als Spezialfälle. Die Fülle von philosophisch tiefen, mathematisch sophistizierten und zugleich äußerst praktischen Ideen wird auf wenigen Seiten dargestellt und stellt wohl alles in den Schatten, was andere Disziplinen (vielleicht mit Ausnahme der Statistik) in den letzten 100 Jahren zum Induktionsproblem beigetragen haben. Zugleich zeigt einem eine gute Theorie aber auch, wo die Grenzen liegen, was also nicht möglich ist: “The noncomputability of the Kolmogorov complexity [. . .] implies that the process of selecting the optimal model and model class will always have to be done by informal means where human intelligence and intuition will play a dominant role.” (Rissanen 2007: 45)

5.5.5 Die Klärung des Wahrscheinlichkeitsbegriffs Randomness: The flip side of information. (Von Baeyer 2005: 99)

Von Baeyer erblickt in der Informationstheorie die „neue Sprache der Wissenschaft.“ Es wird Zeit, dass die Statistik sie zu sprechen lernt, was damit beginnt, den für sie bislang fundamentalen Wahrscheinlichkeitsbegriff mit ihrer Hilfe zu verstehen. Zunächst vertiefen wir die schon angerissene Tatsache, dass Information, Komplexität und Wahrscheinlichkeit äußerst eng verwandt sind.258 Es handelt sich bei diesen Begriffen und den mit ihnen eng verknüpften Theorien weit mehr um drei Blickrichtungen auf eine gemeinsame Grundsituation partieller Determiniertheit, als dass man es mit mehreren fundamental verschiedenen Sachverhalten zu tun hätte. Es liegt auch weit mehr an der eher getrennten historischen Entwicklung der Gebiete, dass man heute eher die (interpretativen) Unterschiede zwischen ihnen, anstatt die weitreichenden Gemeinsamkeiten betont. Dies wollen wir im folgenden auf einer Reihe voneinander unabhängigen Wegen begründen, bis wir schließlich in der Lage sein werden, Wahrscheinlichkeit und Information sogar als zueinander reziproke Begriffe zu erkennen. In Abschnitt 5.6 setzen wir die Überlegungen auf einer abstrakteren Ebene fort. 258

Man könnte auch Chaos (S. 512ff) noch hinzunehmen.

5.5 Das Informationsparadigma

483

Ursachen der Unbestimmtheit Wählt man einen philosophischen Ansatz, so wird man wohl beim grundlegenden Unterschied zwischen epistemischen und objektiven Wahrscheinlichkeiten beginnen (siehe die Abschnitte 4.4.1 und 5.3.3). Wer behauptet, alle Interpretationen des Wahrscheinlichkeitsbegriffs vereinigen zu können, muss in der Lage sein, zumindest diese beiden klassischen Interpretationen auf natürliche Weise zu versöhnen. Wir gehen sogar noch einen Schritt weiter und differenzieren zwischen vier verschiedenen Interpretationen (siehe Gillies (2000: 1), Hervorhebungen im Original): The four principal current interpretations are the following: 1. The logical theory identifies probability with degree of rational belief. It is assumed that given the same evidence, all rational human beings will entertain the same degree of belief in a hypothesis or prediction. 2. The subjective theory identifies probability with the degree of belief of a particular individual. Here it is no longer assumed that all rational human beings with the same evidence will have the same degree of belief in a hypothesis or prediction. Differences of opinion are allowed. 3. The frequency theory defines the probability of an outcome as the limiting frequency with which that outcome appears in a long series of similar events. 4. The propensity theory, or at least one of its versions, takes probability inherent in a set of repeatable conditions. To say that a probability of a particular outcome is p is to claim that the repeatable conditions have a propensity such that, if they were to be repeated a large number of times, they would produce a frequency of the outcome close to p.259 Die natürliche Sprache ist sogar noch reichhaltiger, wenn es darum geht, Wahrscheinlichkeiten zu interpretieren. Ungewissheit, Erwartung, Chance, Risiko, Überraschung, Überzeugungsgrad, Häufigkeit, (Mess-)Ungenauigkeit, Fehler, Unschärfe, potenzielle Mehrdeutigkeit usw. sind nur einige der Begriffe, die mit stochastischen Phänomenen einhergehen.260 Aus zuvor ausführlich diskutierten Gründen beschränkt sich die Diskussion nicht auf philosophische Kreise, insbesondere geht auch mancher Bayesianer intensiv auf die „richti259

Der Vorschlag geht auf Popper (1959) zurück. Hájek (2007) erläutert die Idee mit einem etwas anderen Akzent: “Like the frequency interpretations, propensity interpretations locate probability ‘in the world’ rather than in our heads or in logical abstractions. Probability is thought of as a physical propensity, or disposition, or tendency of a given type of physical situation to yield an outcome of a certain kind, or to yield a long run relative frequency of such an outcome. This view was motivated by the desire to make sense of single-case probability attributions such as ‘the probability that this radium atom decays in 1600 years is 1/2’.” 260

Viele Nuancen des Begriffs, die die Diskussion nicht unbedingt erleichtern, werden in Oakes (1986: Kapitel 4) sehr verständlich erläutert. Auch die philosophische Literatur ist an diesem Punkt ausführlich. Siehe insbesondere Hawthorne (2005), der intensiv um die beste(n) Interpretation(en) des Wahrscheinlichkeitsbegriffs ringt.

484

5 Synthese

ge“ Interpretation des Wahrscheinlichkeitsbegriffs ein oder stellt sogar noch tiefergehende Fragen nach der Natur des Zufalls (Jaynes 2003). Die obigen Interpretationen der Wahrscheinlichkeit differenzieren, worin die Ungewissheit ihren Ursprung hat. Subjektivisten sehen sie im mangelhaften Wissensstand des Beobachters. Die klassische Statistik lokalisiert die Ursache der Unschärfe im fehlerbehafteten Beobachtungsprozess. Popper verlegt mit seiner propensity die Unbestimmtheit in das beobachtete Objekt selbst. Schließlich wohnt bei traditionellen Zufallsexperimenten das Element der Unbestimmtheit der gesamten Situation inne. Die sich daraus ergebenden Wahrscheinlichkeiten heißen „logisch“ weil die Situation, etwa beim Münzwurf, hinreichend genau beschrieben ist, um die Wahrscheinlichkeiten - nicht aber den konkreten Ausgang des Experiments - festzulegen (Strevens 1998).261 Allen Interpretationen ist gemeinsam, dass die vorhandenen bzw. verfügbaren Informationen nicht ausreichen, um eine eindeutige Aussage zu treffen. Sie erlauben zwar oft die Eingrenzung der Wahrscheinlichkeit, gehen jedoch nie soweit, dass sie determinieren würden, was geschieht. Am Beispiel einer mit schwarzen und weißen Kugeln befüllten Urne lässt sich dies deutlich machen. Zieht man aus der Urne eine Kugel, verheimlicht jedoch das Ergebnis, so ist die Information über die Farbe der Kugel zwar im Prinzip vorhanden, jedoch weiß der Beobachter nicht mehr als vor dem Experiment. Zieht man sukzessive mit Zurücklegen, so offenbart sich langsam aber sicher dem Beobachter, wie es um die Anteile schwarzer und weißer Kugeln in der Urne bestellt ist, er lernt also dazu (seine Information wächst). Der Beobachtungsprozess sorgt also dafür, dass seine Unsicherheit nach und nach schwindet. Im Grenzfall unendlich vieler Beobachtungen kann man den Anteil weißer Kugeln beliebig genau schätzen, was auf dasselbe hinausläuft, als hätte man dem Beobachter mitgeteilt, wie der Anteil weißer Kugeln in der Urne ist, was einer logischen Wahrscheinlichkeit entspricht. Es geht jedoch auch anders herum: Enthielte die Urne nur Kugeln einer Farbe, würde jedoch die jeweils andere Farbe auf dem Weg zum Beobachter (etwa von einem übellaunigen Versuchsleiter) beigemischt, so wäre es gerade der Prozess der Nachrichtenübermittlung, welchem die Unsicherheit anhaftete. Hier zeigt sich die Wahrscheinlichkeit als Information, welche im Zuge der Beobachtung verloren geht. Auch die Urne für sich betrachtet ist recht interessant. Enthält sie nur Kugeln einer Farbe, so lässt sich das als ihre Farbe auffassen, ihre Farbe ist determiniert. Werden ihr jedoch Kugeln der anderen Farbe beigemengt, so hat sie nurmehr eine propensity für die eine der beiden Farben. Sie ist bezüglich ihrer Farbe in sich selbst unbestimmt. Dies mag sich zunächst einmal befremdlich anhören, und es war wohl auch kein Zufall, dass Popper diese Interpretation im Zusammenhang mit den unbestimmten Ob261

Weit häufiger noch arbeitet man direkt mit den als relevant erachteten Regelmäßigkeiten und Symmetrien. So definiert man typischerweise eine Verteilung nicht durch tabellarische, explizite Angabe der Werte und Wahrscheinlichkeiten, sondern verweist auf eine prototypische, hochgradig symmetrische Situation. Bei Funktionen ist es ähnlich. Wann gibt man schon explizit alle Wertepaare (x, f (x)) zur Definition einer Funktion f an?

5.5 Das Informationsparadigma

485

jekten der Quantenmechanik vorbrachte, tatsächlich handelt es sich was die Interpretation von Wahrscheinlichkeiten angeht, aber um nichts anderes als die wohlbekannte natürliche Variabilität einer makroskopischen Population. Denn gibt es in einer Population zwei Geschlechter, so wohnt der Population bzgl. des Merkmals Geschlecht eine Ungewissheit inne und kein noch so exakter Messprozess wird es schaffen, die darauf zurückgehenden Schwankungen zu beseitigen. Es ist das Objekt selbst - in diesem Fall Population genannt -, welches bezüglich des Merkmals „Geschlecht“ nur bis zu einem gewissen Grad (den gerade die Wahrscheinlichkeit misst) festgelegt ist.

Die einheitliche Informationsinterpretation Die Frage, welche Interpretation von Wahrscheinlichkeit denn die richtige sei, hat eine klare Antwort: Wie bei der Interpretation von Modellen (siehe Abschnitt 3.11.2) kommt es maßgeblich auf die Situation an, wie weit man mit der Deutung gehen kann. Hier wie dort ist die Interpretation ums stärker, je mehr die Begriffe und Zusammenhänge in der Realität verankert werden konnten. Zuallererst einmal ist Wahrscheinlichkeit ein degree of belief, also eine subjektive Angelegenheit. Der zugehörige Kalkül und die Operationalisierung über Wetten erlauben es zudem, das Adjektiv rational zu verwenden. Wie in der Physik wird diese lokale Unbestimmtheit durch Randbedingungen aller Art überlagert, welche die Interpretation sukzessive verstärken. Bei klassischen Zufallsexperimenten legen die der Situation eigenen Symmetrien fest, wie man die Wahrscheinlichkeiten zu wählen hat, so dass Konsens darüber besteht, wie beim (idealen) Würfel oder einem Münzwurf die Wahrscheinlichkeiten beschaffen sind. Die Replikation eines einfachen Zufallsexperiments kommt als weitere, für den traditionellen Aufbau der Wahrscheinlichkeitstheorie entscheidende Rahmenbedingung hinzu. Sie führt, zusammen mit beobachtbaren relativen Häufigkeiten, zur frequentistischen Interpretation. Der Informationsgesichtspunkt ordnet die klassischen Interpretationen in eine natürliche Hierarchie ein. Fasst man Wahrscheinlichkeit als eine Messung bzw. Quantifizierung von Information auf, so ist zunächst klar, dass sie lokaler Natur ist. Mit der Idee lokal vorhandener, verfügbarer oder erschließbarer Information, vermeidet man den problematischen Subjektivitätsbegriff. Außerdem kann eine lokal verfügbare Information auch einer Gruppe von Subjekten zu eigen sein oder aber sich auf eine mehr oder minder festgelegte Situation beziehen.262 Wird die Situation darüber hinausgehend durch 262

Die Tatsache, dass Information lokal ist, wirft, nebenbei bemerkt, auch noch ein neues Licht auf die deduktive Seite der Erkenntnis. Gerade Philosophen behaupten hier gerne, dass man dort nichts wirklich Neues lerne, weil ja in den Voraussetzungen bereits alles enthalten sein müsse, mithin also, logisch gesehen, die abgeleiteten Aussagen nicht gehaltvoller als die Axiome seien. Von einem übergeordneten Standpunkt aus gesehen stimmt das zwar, doch sind es die Ergebnisse (nämlich Beweise) der Mathematik, die unser Wissen über das untersuchte Axiomensystem erheblich erweitern. Mit jedem Theorem lernen wir

486

5 Synthese

(objektive) Randbedingungen eingeschränkt oder zumindest intersubjektivkonsensfähig beschrieben, so führt diese zusätzliche Information auch zu einer Verstärkung der Interpretation. Mit der hypothetischen und sogar tatsächlichen Replikation eines Experiments bzw. der wiederholten Durchführung gleichartiger Experimente wird weitere Information generiert, die nicht nur die Interpretation weiter verstärkt, sondern im theoretisch-formalen Rahmen zu den zentralen Sätzen der Wahrscheinlichkeitstheorie sowie in der Anwendung zu einer genaueren Abschätzung der Unsicherheit (etwa in Form einschlägiger Streuungs- und Konfidenzmaße) führt. Auf jeder Stufe der Hierarchie wird die Interpretation zwar stärker, da mehr Information berücksichtigt werden kann, doch erscheint die Quelle der Unbestimmtheit eher unwesentlich. Viel wichtiger ist, dass sie in einer konkreten Modellierung erkannt und angemessen berücksichtigt wird. Konzeptionell gesehen hat ein solches full probability modeling Aussicht auf Erfolg, weil jegliche Art von Unbestimmtheit auf die Informationsidee zurückgeführt werden kann, was sich formal in einem einheitlichen Kalkül für alle (vermeintlichen) „Arten von Wahrscheinlichkeit“ niederschlägt. Anhand des heute üblichen Aufbaus der Wahrscheinlichkeitstheorie wollen wir dies genauer erläutern. Typischerweise startet man mit einer Menge S und führt dann zunächst Maße und Integrale zur Inhaltsmessung ein, d.h., man definiert mit ziemlich großem Aufwand, was unter der „Größe“ P (A) einer Menge A ⊆ S zu verstehen ist. Dann wird nur noch die Größe der Grundmenge S, in der sich alles abspielt, auf Eins normiert, und schon betreibt man Stochastik. Diese Herleitung über die allgemeine Integralrechnung ist zwar einerseits elegant, versteckt aber andererseits ganz hervorragend, dass die Wahrscheinlichkeit P (A) = P (A)/P (S) gerade den Anteil von A an S misst. Die äquivalente Beschreibung mittels Odds bringt das besser zum Ausdruck: Die Menge S wird in die disjunkten Mengen A und A¯ zerlegt und ¯ bringt ebenfalls zum Ausdruck, wie groß der Anteil der Quotient P (A)/P (A) ist. Eine völlig gleichwertige Beschreibung dessen ist die folgende, informationstheoretische. Vor der Partitionierung der Menge S hat man eine eindeutige Situation in dem Sinn, dass alle Elemente von S gleichwertig sind. x ∈ S ist das einzige, was man im Allgemeinen über sie weiß. Zerlegt man S nun in ¯ so führt man eine zusätzliche Information ein, nämlich zwei Teile A und A, ob ein Element x zur Menge A oder deren Komplement A¯ gehört. Beobachtet man ein konkretes - wie auch immer „gezogenes“ x ∈ S, so kann man sofort sagen, ob es zu A gehört oder nicht. Ohne Beobachtung263 lässt sich jedoch ¯ bzw. gleichwertig P (A)/P (S) = P (A) angeben, wie die nur mit P (A)/P (A) Chance ist, dass x ∈ A. etwas über den formalen Rahmen, in dem wir uns bewegen, hinzu. Unsere Information wächst, auch wenn der Kontext und damit der Informationsgehalt der Axiome derselbe bleibt. 263

Man denke an Kugeln in einer Urne

5.5 Das Informationsparadigma

487

Bei dieser Betrachtungsweise ist die zusätzliche, durch die Partition entstehende Information primär, deren Messung mithilfe von Wahrscheinlichkeit ist sekundär. Betrachtet man die ganze Menge, so lässt sich P (A) auch als ein Maß für die entstandene Unbestimmtheit auffassen: Je näher P (A) bei 1/2 liegt, desto weniger weiß man vor der Beobachtung über die Zugehörigkeit eines beliebigen Elements der Menge zu A, im Extremfall hat man die Menge halbiert, was äquivalent zu der Formulierung ist, dass keine der beiden Teilmengen ein Übergewicht hat. Genau in diesem Fall sind auch die Entropie und die Varianz maximal. In den Fällen P (A) = 0 und P (A) = 1 ist hingegen „fast sicher“ die Zugehörigkeit jeden Elements x schon im vorhinein geklärt, die zusätzliche Information bzw. Unbestimmtheit also wieder verschwunden. Es ist genau die Entropie, die bei dieser Art der Betrachtung entscheidend ist. Sie misst, wie viel Information relativ zum Extremfall fehlt. Hingegen wirkt die Varianz, ganz anders als in der klassischen Statistik, eher wie eine spezielle Messmethode der grundlegenden Idee der Unbestimmtheit der gesamten Situation. Man beachte, dass man beidesmal ein und dieselbe Situation betrachtet hat, nämlich die Zerlegung einer Menge in zwei Teilmengen. Es ist nur die Art der Beschreibung, die (scheinbar) wesentlich differiert. Tatsächlich ist die Wahrscheinlichkeitsbetrachtung jedoch völlig äquivalent zur Informationsbetrachtung, was schon in der bijektiven Beziehung I = I(p) = −p log p zum Ausdruck kommt. Schreibt man diese Gleichung mithilfe der Komplexität L in der Form I = L · p (siehe S. 457f) so deutet dies darauf hin, dass auch Wahrscheinlichkeit und Komplexität äußerst eng verwandt sind.

Wahrscheinlichkeit und Komplexität Das für Interpretation des Wahrscheinlichkeitsbegriffs wichtigste Ergebnis der Komplexitätstheorie ist genauso einfach wie fundamental: Die meisten Objekte besitzen (nahezu) maximale Komplexität, sind also, mit anderen Worten, nicht (bzw. kaum) komprimierbar.264 Da ein aus zwei unterschiedlichen Buchstaben bestehendes Alphabet genügt, um jegliche Information kodieren zu können, reicht es, binäre Zeichenketten zu betrachten. Ist die Komplexität K(x) eines solchen Strings x = (x1 , . . . , xn ) groß, d. h., ist K(x) nicht erheblich kleiner als n, ist das Objekt mit anderen Worten nicht einfach beschreibbar, also (in diesem Sinne) nicht regelmäßig bzw. strukturiert. Anders gesagt, ein algorithmisch zufälliges x ist kaum bzw. nicht komprimierbar. Kolmogorov und Uspenskii (1987: 400) erläutern dies wie folgt: The question ‘what chains of zeros and ones of length n are random?’ is clearly irrelevant for n = 2 and is meaningful only for n sufficiently large. Moreover, even 264

Siehe S. 465, Li und Vitányi (2008: 117) und Cover und Thomas (2006: Abschnitt 14.5).

488

5 Synthese

for very large n, there is no clearcut boundary between random and nonrandom chains of length n. In fact, if we take a ‘random’ chain of very large length n and replace successively the ones by zeros digit after digit, the we arrive in the final analysis at a ‘nonrandom’ chain of the same length of zeros. But at no stage of the process does the incipient formation of a ‘nonrandom’ chain out of a ‘random’ one manifest itself [. . .] The correct question is not ‘Is a given chain random?’ but rather ‘By how much is a given chain random?’ [. . .] These considerations led the first author to introduce the notion of ‘defect of randomness of an element y relative to a finite set M assuming that y ∈ M.’ The larger this defect, the less random is y as an element of M .265

Bemerkenswerterweise ergibt sich aus der Definition, dass sich unendliche Folgen wesentlich von endlichen Folgen (dem für die Praxis wirklich relevanten Fall) unterscheiden. Während die Menge aller unendlichen Folgen in zwei Klassen zerfällt, es in diesem Fall also nur zufällige versus regelmäßige Folgen gibt, ist dies im Endlichen nicht der Fall. Den Zusammenhang beschreiben Li und Vitányi (2008: 56) prägnant: “Finite sequences cannot be effectively described by a significantly shorter description than their literal representation are called random. Our aim is to characterize random infinite sequences as sequences of which all initial finite segments are random in this sense [. . .] A related approach characterizes random infinite sequences as sequences all of whose initial finite segments pass all effective randomness tests.” Die für uns hier wichtigste Anwendung der Idee ist, dass sich die Häufigkeitsinterpretation der Wahrscheinlichkeit vom Kopf auf die Füße stellen lässt. Der frequentistische Ansatz versucht, endliche Zahlenfolgen (mit den zugehörigen relativen Häufigkeiten) ins Unendliche zu verlängern und damit via Konvergenz die Wahrscheinlichkeit zu erhalten. Da dies, egal wie man es anstellt, eine induktive Verallgemeinerung bedeutet, hängt die Interpretation in der Luft. Anders herum ist es einfacher: Komprimierung heißt ja nichts anderes als aus einer vorhandenen (und potenziell unendlich langen) Zeichenkette eine kürzere zu gewinnen. Dies gelingt zwar nicht mechanisch (NichtBerechenbarkeit!), aber das Problem ist im Rahmen der Komplexitätstheorie definier- und mathematisch-streng behandelbar. Insbesondere stellt sich heraus, dass es genau die hohe Komplexität der meisten Folgen ist, welche zur gewünschten Konvergenz führt, welche aus der (vom Endlichen zum Unendlichen gehenden) Sicht von Mises’ so zweifelhaft und ad hoc erscheint.266 Li 265

Für weitere Details siehe Li und Vitányi (2008: 146f, 165f, 282ff) sowie Calude (2002: 105ff). Es ist der Erwähnung wert, dass Kolmogorov und Uspenskii (1987: 391) die Zufälligkeit einer (binären) Folge x1 , x2 , x3 , . . . mit den folgenden Eigenschaften charakterisieren: Erstens muss sie typisch sein, also “the property of belonging to any reasonable majority [of sequences].” Zweitens chaotisch, d. h. “it has no simple law governing the alternation of its terms.” Und drittens muss die relative Häufigkeit hn der Null unter den ersten n Ziffern für n → ∞ gegen 1/2 konvergieren. Diese Eigenschaft Stabilität der Häufigkeiten muss zudem erhalten bleiben, wenn man zu einer „geeignet gewählten“ Teilfolge, etwa x2 , x4 , x6 , . . . übergeht. 266

Der Vollständigkeit halber sollte man anmerken, dass der im Kern induktive Schritt, also die Konvergenz der relativen Häufigkeiten (für die meisten Folgen), doch gelingen kann. Die Zusatzbedingung, die zur Verfügung steht, ist ja die völlige Gleichartigkeit der Würfe.

5.5 Das Informationsparadigma

489

und Vitányi (2008: 142) schreiben: “Apparent convergence occurs because of, not in spite of, the high irregularity (randomness or complexity) of a data sequence. Conversely, the failure of convergence forces the complexity to be less than maximal.” Äußerst bemerkenswert ist, dass sich dahinter ein allgemeines Prinzip verbirgt: This is an instance of the general principle that high probability of a computable property translates into the fact that high complexity implies that property.267

Große Wahrscheinlichkeit und hohe Komplexität gehen mit anderen Worten Hand in Hand, und man kann von typischen Objekten mit ebensolchen Eigenschaften sprechen. Dies lässt sich zu einer starken Beweismethode, der incompressibility method (siehe Li und Vitányi (2008: Kapitel 6) und Vitányi (2007)) weiterentwickeln, die die Eigenschaften typischer, nicht komprimierbarer Objekte analysiert.

Information und Wahrscheinlichkeit Bei allen Überlegungen haben wir uns aufgrund der in Abschnitt 5.5.2 genannten Argumente auf binäre Zeichenketten beschränkt. Es ist die Universalität der binären Codierung, die es erlaubt, sich auf diesen einerseits hochgradig abstrakten und damit allgemein gültigen und zugleich hochgradig symmetrischen und damit leicht analysierbaren Rahmen zu beschränken. Die Spezifika der untersuchten praktischen Probleme verschwinden genauso wie die Semantik der Daten, deren Erhebung und Interpretation. Es genügt, aufeinanderfolgende Bits zu betrachten, welche völlig austauschbar sind und deren Inhalte (0 oder 1) in aller Regel nichts miteinander zu tun haben. In dieser Situation sollte man auch am einfachsten erkennen können, wie Information und Wahrscheinlichkeit im Kern zusammenhängen, und die Hoffnung täuscht nicht. Zunächst bedeutet Informationgewinn, Möglichkeiten einzuschränken, sich auf einen Teil des Ganzen zu verengen, Optionen auszuschließen zu können. Die typische Art, den Informationsgehalt einer Nachricht zu bestimmen, besteht darin, wieviele Ja-Nein-Fragen beantwortet werDiese Bedingung gilt für potenziell alle Würfe und reicht damit über jede endliche Folge x1 , . . . , xn hinaus. Es ist deshalb völlig natürlich in der Theorie das Grenzverhalten der Summe Sn = X1 + . . . + Xn von unabhängigen und identisch B(1/2)-verteilten Zufallsvariablen Xi zu studieren. Hat man hier hinreichend feine Grenzwertaussagen, so sollte sich auch von Mises’ Idee realisieren lassen. Der entscheidende Schritt ist der Übergang von x1 , x2 , . . . zu geeigneten Teilfolgen xi1 , xi2 , . . . Dies ist bislang jedoch noch nicht gelungen, siehe Li und Vitányi (2008: 155-158) und Kolmogorov und Uspenskii (1987: Abschnitt 1.6). 267

Ibd., meine Hervorhebung. Siehe auch Cover und Thomas (2006: 477). Mit “high probability” ist hier gemeint, dass die Menge aller Folgen x, die eine gewisse Eigenschaft besitzen, groß ist, also diese Folgen (bei zufälliger Auswahl einer von ihnen) eine große Wahrscheinlichkeit auf sich vereinigen, also in diesem Sinne typisch sind. Anders gesagt: Besitzen die meisten Folgen eine gewisse Eigenschaft, so genügt es nachzuweisen, dass eine gewisse Folge komplex ist (also nicht einfach, regelmäßig strukturiert ist), damit auch diese die Eigenschaft besitzt.

490

5 Synthese

den müssen, um zum interessierenden Objekt zu kommen. Ein einzelnes Bit ist das Grundmodell dieser Verengung: Es hat zwei mögliche Zustände und der Informationsgewinn besteht gerade darin zu wissen, welcher der beiden gerade der Fall ist. Mit der Wahrscheinlichkeit verhält es sich genau anders herum. Wahrscheinlichkeiten erscheinen auf der Bildfläche, wenn Möglichkeiten erweitert, eine Festlegung (wieder) aufgehoben wird oder gar nicht vorhanden ist. Auch dieser Informationsverlust lässt sich am Bit festmachen: Der Übergang vom determinierten Zustand „1“ des Bits in seinen unbestimmten Zustand „1 oder 0 kann der Fall sein“ entspricht genau der Schaffung von Ungewissheit. Gab es zuvor einen Zustand, der sicher der Fall war, so sind es nun zwei mögliche Zustände. Die Zunahme der Unbestimmtheit lässt sich messen, indem man jedem der beiden Zustände ein Gewicht (etwa p0 und p1 ) zuordnet. Da offenkundig „Eins“ genau dann nicht der Fall ist, wenn „Null“ der Fall ist, muss zudem p1 = 1 − p0 gelten. Die Situation völliger Bestimmtheit, des Wissens, dass z. B. der Zustand „1“ ist, ist äquivalent zu p1 = 1, während die Situation mit der größtmöglicher Unbestimmtheit - Entropie - gerade durch p0 = p1 = 1/2 repräsentiert wird. Was wir gerade beschrieben haben ist, wie man unschwer erkennen kann, völlig gleichbedeutend mit einem Münzwurf. Die Art der Herleitung machte jedoch deutlich, dass man auf kein (natürliches oder idealisiertes) Zufallsexperiment oder den (noch schwerer zu fassenden) Begriff des Zufalls zu rekurrieren braucht. Deshalb ist es uns auch gelungen, den zwar natürlichen und ungemein hilfreichen Formalismus von Zufallsvariablen und ihren Verteilungen seit Abschnitt 5.5.2 vollkommen auszublenden und auf später zu verschieben.268 Am Ausgangspunkt braucht man dererlei nicht, da sich der Wahrscheinlichkeitsbegriff völlig natürlich als Umkehrung des Informationsbegriffs ergibt. Quantifiziert letzterer die Zunahme an Bestimmtheit bis hin zur Festlegung auf einen einzigen Zustand, so misst ersterer die gegensätzliche Entwicklung, also die Zunahme der Unbestimmtheit.269 Information zu gewinnen bedeutet gain of certainty, Informationsverlust hingegen loss of certainty. Im paradigmatischen Beispiel des Bit kommt man so von einem festgelegten Zustand auf eine Reihe möglicher Zustände, denen nichtnegative Gewichte zugeordnet werden, welche sich zu „Eins“ addieren. Aufgrund dieser Bedingung kann auch jede Einzelwahrscheinlichkeit p sofort als zu einer Ver268

Wir haben, bis auf die letzte Fußnote, als alle binären Folgen von Interesse waren, nur die Wahrscheinlichkeit einzelner Objekte verwendet. 269 Man denke hier auch daran, dass uncertainty wohl der am häufigsten gebrauchte Begriff bei definitorischen Festlegungen von Statistik ist, etwa die schon (S. 116) erwähnte klassische von Chernoff und Moses (1959: vii), aber auch im Bericht der National Science Foundation 2002 zur Zukunft der Statistik, zitiert nach Huber (2006: 332): “Statistics is the discipline concerned with the study of variability, with the study of uncertainty, and with the study of decision making in the face of uncertainty.” Huber kommentiert dies übrigens ibd. mit: “It is a fine description of ivory tower theoretical statistics, and it pointedly excludes analysis of actual data.”

5.5 Das Informationsparadigma

491

teilung gehörig interpretiert werden, am einfachsten natürlich, indem man einen zweiten möglichen Wert hinzunimmt, dem man die Gegenwahrscheinlichkeit 1 − p zuordnet. Mathematisch gesehen geht man vom (elementaren) Begriff einer Konstanten zum allgemeineren Begriff der Verteilung. Eine Einzelwahrscheinlichkeit ist nichts anderes als das relative Gewicht einer der zur Verteilung gehörigen Werte, klassischerweise interpretiert als einer der möglichen Zustände, welche das System annehmen kann bzw. die relative Bedeutung des Zustands.270 Die „Kopplung“ von Verteilung (also der Menge aller möglichen Werte samt ihrer Wahrscheinlichkeiten) und konkret beobachtetem Wert x kann aber auch anders, etwa über den Erwartungswert der Verteilung erfolgen. Man denke an eine Gleichung der Form x = μ + ε, die oft so interpretiert wird, dass der wahre Wert, also die Konstante μ, nicht exakt, sondern nur mit dem Fehler ε beobachtet wird. Weil man „informationsseitig“ von einer definierten Situation ausgeht und diese weiter einengt, kann man im Wesentlichen deduktiv vorgehen. Natürlicherweise sucht man nach Randbedingungen, die das System genauer beschreiben bis im Idealfall sein Zustand eindeutig festliegt. Dies ist bei der Wahrscheinlichkeit nicht möglich: Einen einzigen Zustand kann man nicht nur im Prinzip, sondern auch ganz praktisch, in beliebig viele umfassendere Situationen einbetten. Der Schritt von einer konkreten Zahl auf eine Verteilung ist induktiv. Man ist völlig frei in der Wahl der Verteilung.271 Um diesen Schritt eindeutig zu machen, sind zusätzliche Annahmen unumgänglich. Das Prinzip der Einfachheit, Ökonomieprinzip bzw. Ockhams razor272 leitet einen dahin, zunächst nur Verteilungen mit zwei möglichen Zuständen zu betrachten, von denen einer mit der vorgegebenen Konstanten übereinstimmen sollte. Hat man dergestalt die möglichen Werte der Verteilung festgelegt sind noch die Gewichte zu bestimmen. Als weiteres Prinzip bietet sich hier das Indifferenzprinzip an, d.h. man hat keinen Grund einen der beiden Werte zu präferieren, was zur B(1/2)-Verteilung, bzw. völlig gleichbedeutend, einem Bit, führt, dessen aktueller Zustand entweder nicht bekannt ist oder aber überhaupt nicht fest liegt.273 270

Man denke an die Stimmenanteile von Parteien bei einer Wahl. Die Maßtheorie fasst, wie wir schon erwähnt haben, Wahrscheinlichkeiten ganz allgemein als Anteile auf. Es mag bezeichnend sein, dass sich Philosophen vornehmlich und intensiv mit dem Wahrscheinlichkeitsbegriff auseinandersetzen, während sie dessen natürliche und äußerst enge Verknüpfung mit dem Begriff der Verteilung weitestgehend ignorieren. 271 Man muss noch nicht einmal als allgemeine Situation eine Wahrscheinlichkeitsverteilung wählen! Man denke an die Diskretisierung eines analogen Signals und dessen Rekonstruktion anhand der digitalisierten Daten. 272 Für eine schöne Formulierung siehe Li und Vitányi (2008: 341): “Occam’s Razor Principle. Entities should not be multiplied without necessity.” (Hervorhebung im Original.) Danach heißt es: “According to Bertrand Russell, the actual phrase used by William of Ockham was, ‘It is vain to do with more what can be done with fewer’.” Ibd., S. 431f, findet sich eine eindrucksvolle Genealogie der Idee. 273 Traditionellerweise würde man von einem Münzwurf, also einer gemäß B(1/2) verteilten Zufallsvariablen X mit P (X = 1) = P (X = 0) = 1/2 sprechen.

492

5 Synthese

Dieses deduktiv-induktive Schema ist der Kern des Ganzen. Für sich alleine genommen (Bit bzw. Münzwurf) besagt es nicht viel. Als Quintessenz der Informations- und Wahrscheinlichkeitstheorie komprimiert es aber auf engstem Raum den wesentlichen Zusammenhang. Der Zusammenhang ist einfach, und es liegt vor allem an der historischen Entwicklung, dass er so schwer offenzulegen war: Zufallsexperimente wie der Münzwurf sind technisch leichter zugänglich als Geräte zur systematischen Informationsverarbeitung. Deshalb ging die formale Wahrscheinlichkeitstheorie der Informationstheorie historisch voraus. Damit einher geht, dass der Wahrscheinlichkeitsbegriff bis heute aufs engste mit der Vorstellung eines nicht-determinierten Vorgangs verwoben ist. Wie schon die länglichen Diskussionen um die klassischen Interpretationen des Begriffs belegen, ist dies nicht immer hilfreich, und die darüber hinausgehenden eher unfruchtbaren philosophischen Diskussionen um Zufall versus Notwendigkeit unterstreichen dies. Derartige Dichotomien und fundamentale Meinungsverschiedenheiten werden abgelöst durch eine einheitliche Sicht: Situationen sind mehr oder minder determiniert und ebenso ist es um unser Wissen über die tatsächlichen Verhältnisse bestellt. Information und die mit ihre verwandten Ideen der Komplexität und Wahrscheinlichkeit beschreiben dies in einem gemeinsamen, in sich stimmigen Rahmen. Jener ist sogleich so umfassend, dass er für alle empirischen Wissenschaften und insbesondere auch die Statistik von größter Bedeutung ist. Der „Zufall“ ist deshalb allgegenwärtig, weil es weit häufiger vorkommt, dass eine Situation nur vage bekannt ist oder auch nur bis zu einem gewissen Grad festliegt, als dass sie vollständig bestimmt wäre und wir dies darüber hinaus auch noch erkennen würden.274 Es genügt, Wahrscheinlichkeit als Maß für irgendeine Unbestimmtheit zu sehen. Wie wir schon ausgeführt haben, gibt es sehr viele mögliche Ursachen für die Unbestimmtheit, die nicht wirklich von zentraler Bedeutung sind und in der Theorie schon heute nicht beachtet werden. Die Maß- und Integrationstheorie fasst Wahrscheinlichkeiten als Anteile auf, nämlich als den Anteil des Volumens einer Menge A an einer Gesamtmenge S. Dies deckt sich mit unserer Auffassung von „Gewichten“ (welche diversen Möglichkeiten zugeordnet werden) und insgesamt den Raum aller (betrachteten) Möglichkeiten ergeben. Die naheliegende Anwendung in der Statistik besteht darin, die eindeutige Realität (die Daten) in einen solchen größeren Zusammenhang einzubetten. Das Faktische wird gewissermaßen im Rahmen des Potenziellen gesehen. Letzteres besteht in der Praxis häufig und innerhalb des obigen Paradigmas immer aus einer Menge von in Erwägung gezogener Möglichkeiten, welche gemäß ihrer Auftretenshäufigkeit oder irgendeines anderen Kriteriums gewichtet werden. Klassischerweise handelt es sich hierbei um die Verteilung einer Zufallsvariablen und deren Realisierung. In der Informationstheorie denkt man hingegen zuerst an die (immer näherungsweise) Digitalisierung bzw. Kodierung eines Sachverhalts. Eng damit verwandt ist 274

So gesehen bedürfen auch die deterministischen Gesetze der klassischen Physik weit mehr einer Begründung als die probabilistischen Gesetze der Quantenphysik.

5.5 Das Informationsparadigma

493

die Diskretisierung eines stetigen Zusammenhangs, insbesondere in der numerischen Mathematik. (Man denke insbesondere an Simulationen.) Ein klares Verständnis der Wahrscheinlichkeit als „induktiver“ Schwester der Information wird erst möglich, wenn eine entsprechend ausgearbeitete Informationstheorie zur Verfügung steht. Information in einem absoluten Sinn gibt an, wie viele Ja-Nein-Fragen (Bits) zur Festlegung einer Situation bzw. eines Objekts (traditionellerweise einer Nachricht) benötigt werden. Information in einem relativen Sinn, also Informationszuwachs, entspricht der Einengung einer Situation, insbesondere durch Randbedingungen. Wahrscheinlichkeit ist hierzu reziprok: In einem absoluten Sinn gibt sie an, wie exakt eine Situation festliegt, wie viele Freiheitsgrade sie besitzt. Relativ gesehen bedeutet sie eine Zunahme an Unschärfe, Variabilität, Unbestimmtheit oder auch Unwissen. Nicht unähnlich der Differential- und Integralrechnung konnte man lange Zeit sinnvolle Mathematik betreiben ohne den entscheidenden Grundbegriff (Differential bzw. Grenzwert) aufgeklärt zu haben. Auch dort zeigt sich übrigens ein (schwaches) induktives Problem: Weil Differenzieren eine Funktion vereinfacht gibt es für sie explizite Regeln und die Ableitung einer differenzierbaren Funktion ist eindeutig bestimmt. Anders die (dazu komplementäre) Integration: Die Stammfunktion einer integrierbaren Funktion liegt zum einen nur bis auf eine additive Konstante fest und es gibt auch nur Heuristiken (nämlich die Umkehrungen der Differentiationsregln), um sie zu bestimmen. Diese Zunahme an Komplexität zeigt sich auch darin, dass viele Stammfunktionen nicht mithilfe elementarer Funktionen darstellbar sind.275

Der Stand der philosophischen Diskussion (Exkurs) Die Tatsache, dass sich Fachwissenschaftler zunächst einmal an den Axiomen der Wahrscheinlichkeitstheorie orientieren und die Interpretation hintanstellen, hat Philosophen nicht eingeschüchtert. In zahlreichen Werken276 spüren sie den Nuancen und Untiefen des Wahrscheinlichkeitsbegriffs nach, um den sich die philosophische Diskussion zumeist dreht. Viele Beiträge sehen auch die theoretischen Vorzüge der Bayesschen Statistik277 und versuchen sie mit philosophischen Argumenten zu untermauern. (Was fachwissenschaft275

Siehe hierzu auch Fischer (1983: 266). Die Analogie lässt sich sogar noch etwas weiter treiben: In der Analysis formuliert man ein Problem als Differentialgleichung und löst es durch Integration (mit einigen Haken und Ösen). In der Statistik besteht die Problembeschreibung darin, alle relevanten Information zu erfassen, und insbesondere in einem Experiment aktiv zu erheben. Der Lösung des Problems läuft dann auf eine Extraktion der Information aus den (aussagekräftigen) Daten hinaus. Das wichtigste Hilfsmittel hierbei sind probabilistische Methoden, Konzepte und Begriffe. Am Ende steht wie in der Physik die Überprüfung des Ergebnisses anhand eines neuen Datensatzes bzw. der Replikation des Experimentes. 276 277

Etwa Gillies (2000), Hacking (2001) und Jeffrey (2004) Etwa Howson und Urbach (2006), Earman (1992) und Kadane und Seidenfeld (1990)

494

5 Synthese

liche Diskussionen häufig eher erschwert, gleiten jene doch sehr leicht ins Grundsätzliche ab.) Was zumeist auffällt, ist jedoch, dass die originellen und starken Argumente fast ausschließlich von Fachwissenschaftlern stammen. Es waren NeoBayesianer, allen voran de Finetti, die die klassische Interpretation von Wahrscheinlichkeit als degree of belief gegen die von Venn (1888) aufgebrachte frequentistische Deutung mit neuen, substanziellen Resultaten verteidigten. Jaynes (1976: 241ff) musste sogar noch Laplace engagiert gegen die wenig fundierte fachliche Kritik von Boole und Venn in Schutz nehmen. Poppers konstruktive Beiträge sind, wie die Propensity-Interpretation, umstritten (Gardner 2001, Hennig 2007) oder zweifelhafter Natur (Li und Vitányi 2008: 343, 347), und während Carnaps Programm scheiterte, reüssierte die Schule um Kolmogorov. Darüber hinaus hat die jüngere philosophische Literatur die fachwissenschaftliche Entwicklung aus den Augen verloren. Gillies (2000) stellt die Propensity-Interpretation in den Mittelpunkt seiner Darstellung. Algorithmische Zufälligkeit wird hingegen überhaupt nicht behandelt, vielmehr endet die dorthin führende Entwicklung bereits mit Church (1940). So hält es auch Hájek (2008), dessen Überblick sich mit den klassischen Interpretationen begnügt. Schließlich scheint Solomonoffs höchst allgemeine Lösung des Induktionsproblems (S. 480f) Philosophen vollkommen entgangen zu sein, obwohl zumindest Hájek und Hall (2002: 167) explizit (Li und Vitányi 1997) sowie AIC, BIC, MDL und MML erwähnen. Wir führen diese Kritik in einem weiteren Rahmen S. 563 fort. Ganz anders die fachwissenschaftliche Literatur. Shafer und Vovk (2001: Kapitel 2) sind auf dem heutigen Diskussionsstand. Die Verweise in Li und Vitányi (2008) sind wie jene in Pearl (2000a, 2009a) nicht nur überaus zahlreich, sondern selbstverständlich auch aktuell und führen weit über die mathematische Literatur hinaus. Dem entsprechend werden Fundierungsversuche von Philosophen eher mit Unverständnis oder aber als schmückendes Beiwerk aufgefasst, und selbst grundsätzlichere Ausführungen gestandener Wissenschaftler eher kritisch beäugt. Jaynes (1976: 230) fasst außerordentlich ernüchtert zusammen: This debate has gone on for over 100 years, with the same old arguments and counterarguments repeated back and forth for generations, without getting anywhere. Philosophical disputation may be great fun; but through recorded history its score for actually solving problems is, I believe, precisely zero. Anybody who genuinely wants to see these issues resolved must recognize the need for a better method.

So ist die Wissenschaftstheorie in der wissenschaftsöffentlichen Wahrnehmung vollkommen in den Hintergrund getreten: Man konzentriert sich auf konkrete Probleme, neue Methoden - primär für die Anwendung - und hofft, damit auch die Theorie und schließlich vielleicht sogar die Fundierung des ganzen Projekts voranzubringen.

5.5 Das Informationsparadigma

495

5.5.6 Zufallsprozesse und zufällige Daten Conclave - The Process of Electing a New Pope. The current office-holder is Pope Benedict XVI. (Aus der englischsprachigen Presse.)

Will man die grundlegenden Beziehungen auf der feinsten, also der Datensatzebene durchdringen, so tut man gut daran, dabei jeglichen „Überbau“ konsequent auszublenden. Gleichwohl drängt sich, wie sich gerade, aber eigentlich auch schon bei der Definition der universellen Wahrscheinlichkeit eines Datensatzes gezeigt hat, eine klassische, stochastische Behandlung sukzessive aufeinanderfolgender Bits geradezu auf. Aufeinander folgende Bits gleichen einander noch weit mehr als ein Ei dem anderen. Sie sind per definitionem völlig identisch, also beliebig kombinier- und austauschbar. Ihre Belegung (0 oder 1) ist es ebenfalls, es gibt bei der Darstellung keine natürliche Präferenz für eines der beiden Zeichen. Dem entspricht, das i-te Bit gemäß einer B(1/2)-verteilten Zufallsvariable, also dem Wurf mit einer fairen Münze Xi , zu modellieren. Außerdem ist zumindest plausibel, dass die Belegung unterschiedlicher Bits (in guter Näherung) voneinander unabhängig ist. (Bits können beliebig, völlig unabhängig voneinander beschrieben werden.) Nimmt man deshalb an, dass die Zufallsvariablen Xi stochastisch unabhängig sind, so ist die Wahrscheinlichkeit einer speziellen Zeichenkette P (X1 = x1 , . . . , Xn = xn ) = 1/2n , also gleich der universellen Wahrscheinlichkeit (S. 467ff). Aufgrund der Herleitung entfällt dabei die schwierige Frage, was denn einen Zufallsprozess von einem deterministischen Phänomen unterscheidet und ob es in der Natur überhaupt so etwas wie Zufall gibt. Der gesamte begriffliche Apparat von Zufallsvariablen, Verteilungen usw. erscheint hingegen als eleganter Formalismus, um die vorliegende Situation adäquat zu beschreiben. Der enge Zusammenhang zwischen Komplexität, Information und Wahrscheinlichkeit auf Datenebene findet Entsprechungen auf der Ebene der Zufallsvariablen. Ist X = (X1 , . . . , Xn ) ein Vektor von Zufallsvariablen, so zeigt sich dessen Komprimierbarkeit darin, dass man die zugehörige n-dimensionale Verteilung P = P (X1 , . . . , Xn ) durch eine Verteilung geringerer Dimension ersetzen kann. Da jegliche stochastische Abhängigkeit zwischen den Zufallsvariablen eine Redundanz darstellt, die sich zur Komprimierung nutzen lässt, ist dies im Allgemeinen möglich. Nur bei Unabhängigkeit, wenn also per definitionem P (X1 , . . . , Xn ) = P (X1 )·P (X2 )·. . .·P (Xn ) ist, wenn also jede Zufallsvariable eine eigene Dimension aufspannt, genauer, wenn zu jeder Zufallsvariablen eine eigene, von den anderen Zufallsvariablen nicht beeinflusste Verteilung gehört, ist auch die Entropie, also H(X1 , . . . , Xn ) = H(X1 ) + . . . + H(Xn ) maximal. In diesem Fall ist jede der Zufallsvariablen völlig unabdingbar, kein „Teil“ der in ihr enthaltenen Information lässt sich auf andere Zufallsvariablen zurückführen. D.h., anders gesagt, auch bei vollständigem Wissen über Xi lässt sich nichts bezüglich Xj (j = i) sagen. Größtmögliche Komplexität, maximale Entropie und stochastische Unabhängigkeit sind alles Sprechwei-

496

5 Synthese

sen dafür, dass zwischen den einzelnen Zufallsvariablen keinerlei Beziehungen bestehen, sie keine Information gemeinsam haben bzw. austauschen. Der Fall sukzessive aufeinanderfolgender Bits führt darüber hinaus unmittelbar zu identisch verteilten Zufallsvariablen, deren Verteilung noch dazu sogar so einfach wie irgend möglich, nämlich B(1/2)-verteilt, ist. Dieses für die Wahrscheinlichkeitstheorie äußerst spezielle Modell, gleichsam ein prototypisches Beispiel für jedes Zufallsexperiment (an dessen allgemeiner Anwendbarkeit man auch genau deshalb große Zweifel hegen kann), ist jedoch aufgrund der Kodierungsinterpretation in Wirklichkeit so universell wie nur irgend möglich. Deshalb darf man hoffen, ausgehend von einem genauen Studium unabhängiger, jeweils B(1/2) verteilter Zufallsvariablen, die meisten Gesetze der Stochastik aufzudecken, was sich eindrucksvoll bestätigt. Die so gefundenen Eigenschaften lassen sich auch wieder unmittelbar auf binäre Zeichenketten übertragen. X und x Man beachte, dass mit dem Übergang von x zu X die Ebene gewechselt wird. Während sich die obigen Betrachtungen auf einen gegebenen Datensatz x beschränkten, geht man nun implizit, nämlich mittels der grundlegenden Setzung aller Statistik, X = x, wesentlich über den Datensatz hinaus. Genauer gesagt hat man das einzelne Datum x mit einer Zufallsvariablen X und deren Verteilung in Verbindung gebracht. Das heißt, x wird immer in eine Menge von Realisierungen mitsamt den zugehörigen Gewichten (Wahrscheinlichkeiten) eingebettet. Es ist deshalb in der klassischen Wahrscheinlichkeitstheorie nicht möglich, einen Einzelfall, losgelöst von einer Menge anderer Fälle, zu analysieren. Ordnet man mittels P (x) = P (x1 , . . . , xn ) = 1/2n lediglich einem x seine universelle Wahrscheinlichkeit zu, so tut man dies klassischerweise stillschweigend für alle Zeichenketten der Länge n, definiert auf dieser Menge also eine Gleichverteilung. In der Informationstheorie, insbesondere der sogenannten Typentheorie, wird der Übergang von X zu x explizit untersucht.278 Seien X1 , X2 , . . . unabhängig und identisch verteilte Zufallsvariable mit Verteilungsfunktion F , und sei Fˆx die empirische Verteilungsfunktion eines Vektors von Realisierungen x = (x1 , . . . , xn ). Letzterer heißt typisch, wenn die zu ihm gehörige empirische Verteilungsfunktion nicht sehr von F abweicht, d. h. für ein (kleines) > 0 gilt: D(Fˆx || F ) ≤ . Unter nicht allzu einschränkenden Bedingungen stellt sich dann heraus, dass die meisten realisierten Folgen typisch für die zugrundeliegende theoretische Verteilung F sind: [. . .] as n grows, the probability of the set of typical sequences goes to one at the near exponential rate [. . .] Moreover [. . .] all typical sequences have just about equal probability [. . .] (Rissanen 2007: 25) 278

Siehe z. B. Rissanen (2007: Abschnitte 2.6 und 2.7), Li und Vitányi (2008: 402ff) sowie Cover und Thomas (2006).

5.5 Das Informationsparadigma

497

In der Stochastik werden, wie der Name schon sagt, systematisch Eigenschaften von Zufallsvariablen und ihren Verteilungen studiert und dann in der Statistik auf konkrete Daten übertragen. Diese Anwendung der Ergebnisse, also der Übergang von X zu x, ist oftmals implizit. Das heißt, man postuliert letztlich, dass Ergebnisse, die für Zufallsvariablen gelten, auch für deren Realisierungen relevant sind. Die Typentheorie beantwortet die nicht gestellte Frage, weshalb ein solches Vorgehen oft erfolgreich ist: Der konkrete Datensatz ist in aller Regel typisch für die Zufallsvariable und deren Verteilung, also ein guter Repräsentant der Population. Aus demselben Grund ist die Ersetzung von X durch E(X), einen anderen typischen Wert der Verteilung, in vielen numerischen Simulationen erfolgreich. Ganz ähnlich heißt es in Zurek (1989: 4745): “[. . .] statistical entropy is almost always an excellent approximation of the physical entropy [. . .]” Auch Fisher war der Unterschied bewusst. In einem Brief an Kendall 1943 (siehe Bennett (1990: 184f)) schreibt er: I suppose that all science [. . .] requires some such postulate as that observations are not generally made by especially privileged or exceptional observers [. . .] The form the postulate takes when faced with what ‘Student’ called a ‘unique sample’ is that the only basis upon which a unique body of information subsumed in such an estimate as s2 can be utilized is that s2 is typical or representative, or not selected, biassed or sophisticated [. . .] any rational approach to the interpretation of data must contain some axiom justifying the propriety of using the data at all, or basing any inference upon them. (Meine Hervorhebungen)

Die Berechnung von Konfidenzintervallen (für X) funktioniert, weil die entsprechenden Glaubwürdigkeitsintervalle (für x) sich oftmals numerisch nicht allzu sehr unterscheiden. Die Zahlenwerte sind sich genau dann ähnlich, wenn Vorwissen bzw. Randbedingungen nicht relevant sind, eine suffiziente Statistik existiert und keine Störparameter das Ergebnis maßgeblich beeinflussen (Jaynes 1976). Der interpretative Unterschied ist gleichwohl wesentlich und Fisher macht an ihm die entscheidende Diskrepanz zu Neyman fest. In seinem Brief an Kendall fährt er fort: “[. . .] Neyman [. . .] seized upon an unessential feature of simpler tests of significance [. . .] namely that the level of significance was in fact, in these simpler cases, the proportion of samples obtained by repeated sampling of a fixed population which would be rejected by the proposed test.” (Meine Hervorhebung). Dies kommentiert er mit: “This, I think, only happens to be true [. . .]” (Hervorhebung im Original). Tatsächlich sind die Tests gut, “[. . .] because of the different proposition that the proportion of the samples, of which that presented is a representative, which are rejected by the test is in fact the fraction specifying the level of significance.” (Meine Hervorhebungen)

Der wesentliche Unterschied ist, dass einmal von einer festen Population ausgegangen wird, das andere Mal aber von einer festen Folge von Beobachtungen, ohne die Population(en) denen diese entstammen, genauer zu spezifizieren. Dieser elegante Übergang von Priori- zu Posteriori-Betrachtung ist der Kern von Fishers Fiduzialargument. Weil man dabei äußerst schnell

498

5 Synthese

in logische Untiefen gerät, ist es, wie schon (S. 392) erwähnt, außerordentlich umstritten. Für erhellende Erläuterungen, die sich direkt auf (Fisher 1930) beziehen, siehe Hampel (2003: 7ff). Zur Posterior-Interpretation von Konfidenzintervallen schreibt er (ibd., S. 10): “It should be noted that the aposteriori interpretation of confidence intervals (and thus the implicit fiducial argument and a subconscious switch between aleatory and epistemic probability) was probably centuries old [. . .]” Wie wir gesehen haben, ist auch bei der Randomisierung (siehe insbesondere S. 233) der Unterschied zwischen Zufallsvariable und Realisierung entscheidend. Obwohl hier auf der Ebene der Zufallsvariablen Unabhängigkeit vorliegt, kann es auf der Stichprobenebene zu Konfundierungen bzw. baseline imbalances kommen. Angesichts der Resultate Kolmogorovs folgert Suppes (1988: 399): The tension between randomness and complexity is apparent. A sampling procedure is random. Often, any sequence, simple or complex, is as likely as any other. But the result of using the random procedure is a given sequence whose complexity can be measured. My suggestion is that we move from procedures to results and from randomness to complexity as the essential measure.

Wir haben für dieselbe Haltung argumentiert, siehe insbesondere S. 400ff und S. 468ff. Ohne die Randomisierung expressis verbis zu erwähnen, beschreibt Suppes auf derselben Seite eine allgemeingültige Lösung dieses Problems: “[If we replaced random results by complex results [. . .] we could have a table of complex sequences with some threshold of complexity satisfied by the table. We simply draw any sequence of given length from the table, or, as a still different approach, we could use some standard method of generating random numbers, but we throw out any constructed sequence whose complexity is below an agreed upon complexity threshold.” Angesichts der Nicht-Berechenbarkeit der Kolmogorov-Komplexität wird man sich hier jedoch mit einer berechenbaren Approximation begnügen müssen.

Zwei Ebenen Klassischerweise wechselt man ziemlich frei zwischen Zufallsvariable und Realisierung hin und her: It seems to me that in much of the discussion of randomness there is not always a clear distinction between [. . .] random processes or procedures on the one hand and random results on the other.279 (Suppes 1988: 399)

Deshalb werden leicht beide Ebenen verwechselt. Etwa schreibt Wegman (1988: 281): “Randomness can be interpreted, then, in four distinct, but interrelated ways: non-repeatability, unpredictability, patternlessness, and hardto-compute.” Während sich die erste Eigenschaft auf den erzeugenden Prozess 279

Fast gleichlautend Good (1988: 407).

5.5 Das Informationsparadigma

499

bezieht (dessen Ergebnis, wie die gezogenen Lottozahlen, nicht wiederholbar ist, indem man ihn nochmals startet), sind die letzten beiden Eigenschaften jene der Daten, während sich die Nicht-Vorhersagbarkeit sowohl auf die Daten (Prädiktion bei festem x) wie auch auf den Prozess (Unabhängigkeit der Zufallsvariablen) beziehen lässt.280 Spätestens bei den Diskussionen um die Bayessche Statistik (Abschnitt 5.3), wo es vornehmlich um die realisierten Daten x versus den Prozess X geht, der erstere erzeugt hat, wird einem die klassische sloppiness zum Verhängnis, verwischt die Ungenauigkeit doch die entscheidende Differenzierung. (Für viele einschlägige Beispiele siehe insbesondere die Arbeiten von Basu und Jaynes.) Betrachten wir deshalb nochmals mit scharfem Blick den prototypischen Fall aufeinanderfolgender Bits, also unabhängiger, identisch gemäß B(1/2)verteilter Zufallsvariablen und ihre Realisierungen. Die zwischen ihnen klaffende Lücke zeigt sich beim Übergang von X zu x darin, dass - trotz Unabhängigkeit der Zufallsvariablen - in einem konkreten Fall nicht immer eine Zeichenkette (nahezu) maximaler Komplexität erzeugt wird. Plaktativ gesagt erzeugt ein (stochastisch) zufälliger Prozess nicht immer (algorithmisch) zufällige Daten. Er tut es nur mit hoher Wahrscheinlichkeit.281 Anders herum ist die Situation noch prekärer. Es ist schon schwer, nur aufgrund der Daten zwischen diversen Verteilungen zu unterscheiden (Marshall et al. 2001). Zufallszahlengeneratoren im Speziellen sowie die Chaostheorie im Allgemeinen zeigen sogar, dass der erzeugende Prozess überhaupt nicht kompliziert sein muss, um den Anschein komplexer, zufälliger Daten zu erwecken. Es genügt ein Mechanismus, der hochgradig sensibel auf kleine Unterschiede (z. B. Rundungsfehler) reagiert, so dass diese immens verstärkt werden.282 Doch schlimmer noch: Zu jeder von einem Zufallsprozess erzeugten Folge x1 , . . . , xn (egal welcher Komplexität) lässt sich tatsächlich ein deterministischer, chaotischer Prozess283 angeben, der die vorgegebene Folge erzeugt.284 Ornstein und Weiss (1991), zitiert nach Suppes (2009: 28), konnten sogar folgendes Theorem beweisen: There are physical processes which can equally well be analyzed as deterministic systems of classical mechanics or as indeterministic Markov processes, no matter how many observations are made, if observations have an accuracy bounded away from zero.

Es ist also prinzipiell unmöglich, festzustellen, ob ein Datensatz von einem stochastischen oder einem deterministischen Prozess erzeugt wurde! Dies ist 280

Ähnliche Eigenschaften, jedoch ausdrücklich für Daten, zählt Calude (2002: 101) auf. Zum Beispiel ergibt sich mit der kleinen Wahrscheinlichkeit 1/2n bei unabhängig, identisch B(1/2) verteilten Zufallsvariablen die Realisierung 1, . . . , 1, als n aufeinander folgende Einsen. 282 Siehe auch die Beispiele in Kolmogorov und Uspenskii (1987). 281

283

Also eine Funktion f mit xi+1 = f (xi ), die die Daten iterativ erzeugt Elston und Glasbey (1990: 340). Siehe auch Chatterjee und Yilmaz (1992: 92). Wir vertiefen das Thema ab S. 512. 284

500

5 Synthese

auch intuitiv einsichtig: Genauso wie ein Zufallsprozess eine regelmäßige Folge hervorbringen kann, ist es andererseits möglich, dass ein chaotischer Prozess eine hochgradig unstrukturierte Zeichenkette hervorbringt, die auch ein Münzwurf erzeugt haben könnte. Die Asymmetrie beim Übergang von X zu x bzw. x zu X ist nicht wirklich verblüffend. Mit X legt man immer auch einen formalen Rahmen fest, innerhalb dessen sich deduktiv argumentieren lässt, was u. a. zu Wahrscheinlichkeitsaussagen führt. Der Übergang von x zu X ist jedoch induktiv. Wie wir schon festgestellt haben, lassen sich die Daten im Prinzip in beliebig viele allgemeine Zusammenhänge einbetten, was dazu führt, dass es höchst zweifelhaft ist, ausgehend von konkreten Daten, den „wahren Prozess“, also denjenigen realen Mechanismus, der die Daten tatsächlich hervorgebracht hat, wiederaufzufinden. So wird man wieder zum Hauptsatz der angewandten Statistik geführt: Es ist nur möglich, die Daten in “order and noise” zu trennen und hierbei einen Kompromiss zwischen over- und underfitting herbeizuführen. Das geht mit einem nicht zu vermeidenden, systematischen Bias einher. Setzt man nämlich die Existenz einer nicht-systematischen Komponente voraus, so greifen alle Verfahren, die eine Trennung in zwei Teile vornehmen, grundsätzlich daneben, falls es gar keine unsystematische Komponente gibt. MDL wählt z. B. in einem solchen Fall fälschlicherweise das einfachere Modell: With some amount of overstatement on can say that if one obtains perfect data for a true hypothesis, then ideal MDL interprets these data as data obtained from a simpler hypothesis subject to measuring errors. Consequently, in this case ideal MDL is going to give you the false simple hypothesis and not the complex true hypothesis. (Li und Vitányi (1997: 360), Hervorhebungen im Original).

Ein analoges Argument gilt auch für das Erkennen einer Folge x = x1 , x2 , . . . als Realisierungen von IID-Zufallsvariablen X = X1 , X2 , . . . Es ist klar, dass für letztere gewisse stochastische Gesetze gelten. Jedes zufällige x sollte zumindest approximativ ebenfalls diesen Gesetzen genügen. (Bei einem häufig wiederholten fairen Münzwurf erwarten wir z. B. in einer konkreten Folge in etwa so häufig „Wappen“ wie „Zahl“ zu sehen.) Nun kann man jedoch leicht zeigen, dass eine typische Folge x nicht alle stochastischen Gesetze, die für X gelten, erfüllen kann, auch nicht approximativ. Das typische, durch einen Zufallsprozess erzeugte x wird, anders gesagt, gewissen Tests auf Zufälligkeit nicht genügen, also (fälschlicherweise) von diesen Tests als nicht-zufällig klassifiziert werden. Man kann also sinnvollerweise nur verlangen, dass x einigen Kriterien von Zufälligkeit genügt. “Kolmogorov’s solution is to select those randomness properties [. . .] that are ‘simply expressible.’ The objects that do not satisfy such a property have a corresponding regularity [. . .]” (Li und Vitányi 2008: 284)285 Letztlich sucht man also in x nach 285

Für weitere Details siehe ibd., insbesondere stellt sich sofort heraus, dass die in Kolmogorovs Sinn regelmäßigen Objekte selten sind.

5.5 Das Informationsparadigma

501

Struktur.286 Findet man jene nicht, so folgert man, dass x eine Realisierung von X ist.

5.5.7 Latente Parameter und Strukturen Learning with incomplete information and the mathematical structure behind it. (Kühn und Stamatescu 2007)

Alles, was man über Zufallsvariable287 lernen kann, muss - wie sollte es auch anders sein - in der statistischen Theorie explizit in jene hineingelegt werden. Im Standardfall unabhängiger, identisch verteilter Zufallsvariablen Xi wird man zuallerest einmal an der Verteilung P und den sie charakterisierenden Parametern (falls vorhanden) interessiert sein. Fasst man den Datensatz x = (x1 , . . . , xn ) wie üblich als Realisierungen der Zufallsvariablen auf, so findet sich anders gesagt in den Daten sowohl das zufällige Rauschen als auch strukturelle, auf P zurückzuführende Information wieder. Handelt es sich bei P zum Beispiel um eine Normalverteilung mit dem Erwartungswert μ, so streuen die beobachteten Werte xi um den „wahren Wert“ μ und σ 2 , die Varianz, gibt an, wie stark sie es tun. Im Allgemeinen lassen sich Abhängigkeiten beliebiger Art zwischen Zufallsvariablen aber auch Beobachtungen nutzen, um diese auf eine einfachere Gestalt zu reduzieren. Verlustfreie Kompression bedeutet, Redundanzen zu erkennen und gezielt zu nutzen. Während deshalb in der Komplexitätstheorie bei einem einzelnen Datensatz (x1 , . . . , xn ) Abhängigkeiten im Prinzip „gut“ sind, weil sich der Datensatz umso stärker komprimieren lässt, je größer die Abhängigkeiten sind, ist es bei Zufallsvariablen genau anders herum. Unabhängige Zufallsvariablen transportieren ein Maximum an Information über die latenten Strukturen und Parameter, da man mit jeder Beobachtung am meisten hinzulernt. Ist nämlich Xi in irgendeiner Weise von einer anderen Zufallsvariablen Xj abhängig, so lässt sich ein Teil des Ergebnisses anhand von Xj erklären bzw. voraussagen. Will man etwas über einen latenten Parameter θ lernen, so ist dies ungünstiger, als wenn sich in xi nur die über Xi vermittelten Einflüsse von θ wiederfinden. Zudem sind Abhängigkeiten in der Praxis nur dann beherrschbar, wenn sie eine einfache Struktur aufweisen. Auf diese Weise kam man im Verlauf der historischen Entwicklung zum ersten auf die nahezu unumgängliche theoretische Voraussetzung, dass eine Reihe von Datensätzen von demselben zugrundeliegenden Prozess erzeugt werden (so wenig realistisch das oftmals auch sein mag). Zum zweiten stellen unabhängige, identisch verteilte Zufallsvariable, den Idealfall dar. Und geht 286

Formalisiert als Komprimierbarkeit bzw. Berechenbarkeit. D.h., die Daten lassen sich auf eine kürzere Beschreibung reduzieren bzw. ausgehend von einem endlichen Programms (re)konstruieren. 287

Oder irgendwelche anderen theoretischen Objekte

502

5 Synthese

man zum dritten über jenen hinaus, so stößt man völlig natürlich auf einfache oder aus einfachen Bausteinen zusammengesetzte, etwa baumartige Strukturen, wie sie auch für die Spiel-, Kodierungstheorie und bei kausalen Graphen üblich sind. In der Stochastik haben darüber hinausgehend die Markoveigenschaft (Xi+1 hängt nur von Xi , nicht aber von allen übrigen Zufallsvariablen ab), Martingale und Prozesse mit unabhängigen, identisch verteilten Zuwächsen, die größte Bedeutung erlangt. Die Anreicherung der Daten mit Struktur erfolgt also auf eine subtile Weise. Zur Beobachtungsebene (x) und der Ebene der Zufallsvariablen (X) tritt eine weitere latente Ebene. Mittels des Konstrukts identisch verteilter Zufallsvariablen lernt man aufgrund der Beobachtungen etwas über die (feste) Struktur im Hintergrund bzw. die sie charakterisierenden Parameter. So erhebt sich über bzw. erwächst aus der Variabilität vieler unzuverlässiger Beobachtungen eine Ebene stabiler Struktur, welche über die Objekte und Gesetze der Stochastik aneinander gebunden sind. Aufgrund der zentralen Stellung der Zufallsvariablen, ihrer Verteilungen und Eigenschaften - zwischen Beobachtungen und Parametern - könnte man auf die Idee kommen, auch deren Bedeutung wäre am größten. Tatsächlich stellen sie jedoch nur das Scharnier dar, sie vermitteln den „Informationsfluss“ von x zu θ, mit ihrer Hilfe lernen wir aus den Beobachtungen etwas über die Struktur. Diese dreischichtige Konstruktion bewährt sich in der Praxis hervorragend. Das liegt zum einen daran, dass man (kontrolliert) über die Daten hinausgeht288 und dabei zugleich Strukturen auf der Ebene der Zufallsvariablen einführt, welche sich mithilfe der Daten approximieren lassen. Zum anderen ist die Formalisierung von Fisher (1922), nämlich parametrisierte Familien von Verteilungen, X ∼ Pθ (x), genial einfach. Diese gezielte Anreicherung der Daten erklärt zusammen mit den zugehörigen Techniken, welche die Voraussetzungen der Verfahren absichern und damit die induktive Lücke klein machen, weshalb die traditionelle, am Experiment orientierte Statistik so erfolgreich ist. Sie erklärt jedoch nicht, warum auch Beobachtungsdaten, mehr oder minder systematisch befüllte und gepflegte Datenbanken, ja selbst Daten mit zweifelhafter Herkunft, vielen Lücken und Verfälschungen in aller Regel sinnvoll ausgewertet werden können. Die meisten Zusammenhänge, insbesondere die interessanteren, sind nicht linear. Asymptotische Verfahren sind bei kleinen Datensätzen kaum zu rechtfertigen. Verteilungsannahmen sind zumeist nicht exakt erfüllt, und gerade die in der klassischen Statistik nahezu unentbehrliche Normalverteilung (siehe z. B. Jaynes (2003: Kapitel 7; 550ff) und Basus Bemerkung S. 369) wird viel häufiger benutzt, als dass sie real (wenn auch nur näherungsweise) vorhanden wäre. Die Unabhängigkeitsannahme ist zumeist noch schwerer zu rechtfertigen (siehe hierzu insbesondere Kruskal (1988)), und die leading situation eines Verfahrens (siehe S. 296), also je288

X = x ist der eigentliche induktive Schritt

5.5 Das Informationsparadigma

503

ne Situation, für die es „gemacht“ wurde, stellt oft sogar eine völlig andere Konstellation dar als das hauptsächliche Anwendungsgebiet! Angesichts der permanenten, teils massiven Verletzung der Annahmen sollte man viel häufiger auf Schwierigkeiten stoßen. Dass dem nicht so ist, bedarf einer Erklärung und sollte jeden kritischen Beobachter verblüffen. Das festzustellende fehlende Erstaunen lässt sich womöglich psychologisch dadurch erklären, dass man zumeist weit schärfer nachdenkt, wenn etwas nicht gut geht, von dem anzunehmen war, dass es funktionieren sollte, als wenn etwas entgegen aller Erwartung doch glückt.

Erfolg ist kein Zufall Es wäre höchst erstaunlich, wenn stochastische Verfahren beständig trotz eklatanter Verletzung ihrer Grundannahmen funktionieren würden. Sicherlich erklärt deren Robustheit und die allgegenwärtige Approximationsidee einiges. (Etwa sind Zusammenhänge oftmals nicht linear, gleichwohl lassen sie sich häufig mit linearen Strukturen gut approximieren.) Auch die bei der Auswertung äußerst hilfreiche Semantik der Daten trägt das ihre zum Erfolg bei. In vielen Fällen lassen sich aber mittlerweile auch konkretere informationstheoretische Erklärungen für den Erfolg der etablierten Vorgehensweisen angeben. Schon in Abschnitt 5.5.3 hatten wir eine ganze Reihe von Problemstellungen (insbesondere Schätzen und Testen) besprochen und ihre moderne Behandlung zumindest angerissen. Doch auch bei den beiden zentralen Annahmen der parametrischen Statistik - Unabhängigkeit und Normalverteilung - greift ein informationstheoretisches Argument. Da große Entropie die Regel und nicht die Ausnahme ist,289 ist sowohl die Unabhängigkeitsannahme häufig zumindest näherungsweise erfüllt (S. 495) und klassische Verteilungen, welche die Entropie maximieren (S. 460) sind in der Praxis weit häufiger als jene, die das nicht tun. Neben konkreten Rechtfertigungen gibt es auch allgemeine Gründe, weshalb die tradierte Vorgehensweise oft erfolgreich ist: Ein wesentlicher erster Grund ist, dass sich Repräsentativität, das Ideal der klassischen Statistik, abschwächen lässt. Hinge jene tatsächlich vom idealtypischen Fall repräsentativer Auswahlen ab, so wäre ihre Anwendungsfelder so eng wie die einschlägigen Lehrbuchbeispiele in der Praxis selten sind. Repräsentative Stichproben sind tatsächlich schwer zu erhalten, typische Stichproben hingegen umso häufiger.290 So fällt es uns schwer, eine einzige repräsentative Stadt (S. 203) zu finden, doch sind typische Ansiedlungen, mit all ihren gleichnamigen Merkmalen, überaus zahlreich; bereits nach einem kurzen Aufenthalt in einem Land können wir problemlos viele ihrer charakteristi289

Die verwandte physikalischen Vorstellung ist die eines “nearly black object” (Donoho et al. 1992). Siehe zudem Zurek (1989: 4745f) 290

Dies ist keine Tautologie, wenn man unter typisch die geringe Abweichung der konkreten Beobachtung von der gesamten Population versteht, siehe S. 496.

504

5 Synthese

schen Eigenschaften aufzählen. Da mit wachsendem Stichprobenumfang die typischen Fällen zudem schnell die Oberhand gewinnen, erläutert die (mehrdimensionale) Typentheorie, weshalb asymptotische Verfahren oft auch schon bei kleinen Datensätzen greifen, also die Generalisierung vom Datensatz zur Population gelingt. Es ist die in aller Regel gültige Approximation des (seltenen) repräsentativen Falls durch den typischen, charakteristischen, dass „Beispiele weit häufiger sind als Gegenbeispiele“ (S. 583), sich Beobachtungsdaten oft problemlos generalisieren lassen, Standardverfahren sich in nicht allzu pathologischen Situationen (selbst bei Verletzung zahlreicher Voraussetzungen) gutartige verhalten, und ganz allgemein (zuweilen hochgradig) idealisierte statistische Modelle nützlich sind. Eine ganz konkrete Folge ist, dass man weit weniger in die Erhebung von Daten investieren muss, als bislang gedacht. Sofern man nur eklatante Fehlerquellen ausschließen kann, wie einschneidende Selektionseffekte, die zu massiven Verzerrungen führen (und damit selbst wieder von Interesse sind), sind Daten aussagekräftig. Das heißt, sie sind typische Vertreter der Gesamtheit, der sie entstammen, unsere „vernünftigen“ Methoden greifen, und auch bei ihrer Interpretation ist kritischer Menschenverstand weit eher angezeigt als pathologisches Misstrauen. Deshalb darf man auch erwarten, dass epidemiologische Studien (siehe S. 468), umfangreiche Datensammlungen und systematische „Quasi-Experimente“ wertvolle Informationen liefern.

Nochmals der Hauptsatz der angewandten Statistik Ein zweiter wesentlicher Grund für den Erfolg der klassischen Schule ist der Hauptsatz der angewandten Statistik, genauer, die Zerlegung der Daten in Struktur plus Zufall. Diese Grundüberlegung funktioniert auch dann noch, wenn die Prozesse, welche die Daten erzeugt haben, definitiv nicht alle mathematischen Voraussetzungen erfüllen, welche sie laut Theorie erfüllen müssten. Man denke nur an die explorative und deskriptive Statistik. “Technologies have no assumptions“ (siehe S. 288) bedeutet, sehr lax mit Annahmen umzugehen, und oftmals arbeitet man sogar ganz ohne explizite Voraussetzungen: Um eine Skizze anzufertigen und in Augenschein zu nehmen benötigt man noch nicht einmal die einfachsten stochastischen Begriffe, geschweige denn fortgeschrittene Wahrscheinlichkeitstheorie. Trotzdem gelingt es mit diesen Mitteln, Daten prägnant zu charakterisieren: Much of statistics consists of techniques for condensing data sets into simplified numerical and graphical forms [. . .]” (Good 1988: 395).

Hat man mehr Vorwissen, so legt dieses häufig eine Struktur in den Daten nahe, nach der man dann gezielt suchen kann. Im einfacheren, das heißt datenanalystisch-induktiven Fall, probiert man diverse plausible oder die in einer statistischen Analysesoftware verfügbaren Strukturen einfach durch.

5.5 Das Informationsparadigma

505

Anders als in der deterministischen Messtheorie, die keinen Platz für Ungenauigkeit lässt, kann man mit probabilistischen Methoden einiges, wenn nicht sogar sehr viel, in der Fehlerkomponente belassen, etwa alle Faktoren, die man nicht explizit modelliert hat. Stochastische Methoden bewähren sich sogar in quasi-zufälligen, unübersichtlichen Situationen hervorragend, weil sie flexibel genug sind, um wesentliche strukturelle Eigenschaften einer Situation von unwesentlichen, unsystematischen „zufälligen“ Eigenschaften zu trennen. Die diversen Schulen unterscheiden sich im Wesentlichen darin, wie sie nach den wesentlichen Strukturen suchen - primär in den Daten (Likelihood), mit Hilfe von Vorabinformation (Bayes) oder über ein (experimentell gestaltetes) Umfeld (Fisher). Der grundlegenden Idee, das Wesentliche vom Unwesentlichen zu trennen, bzw., gleichbedeutend, Daten auf ihren substanziellen Gehalt zu reduzieren, begegnet einem auch im technischen Detail. Beim Bedingen betrachtet man nur den Teil aller Daten, der gewisse, als relevant erachtete Bedingungen erfüllt. D.h., man trifft eine Reihe von Festlegungen und baut die Schlussfolgerungen nur auf jene Daten auf, die diese Randbedingungen erfüllen. (Im einfachsten Fall setzt man Xi = c.) Bei der eng verwandten Betrachtung von Randverteilungen werden Variable nicht durch Festhalten sondern durch Summation bzw. Mittelung entfernt. (Im einfachsten Fall betrachtet man statt X1 , X2 nur X1 .) Auch “worst case” bzw. “best case” Überlegungen reduzieren die Daten, indem sie eine Variable Xi dadurch eliminieren, indem sie sie durch ihr Minimum bzw. Maximum - ebenfalls eine Konstante - ersetzt. Ersetzt man eine Zufallsvariable durch ihren Erwartungswert (und ihre Varianz), so rechnet man mit einem (bzw. wenigen) charakteristischen Zahlenwert(en) anstatt der gesamten Verteilung, was auch die Intention der parametrischen Statistik ist. Das conditionality principle (siehe S. 267) setzt sogar noch früher an, wenn es fordert, dass nur das tatsächlich Geschehene relevant ist, man sich also auf die vorliegenden Daten beschränken kann. Dass man auch Suffizienz- und Invarianzargumente als geschickte Datenreduktionen begreifen kann, ist eigentlich kaum der Erwähnung wert. Schon das Wort suffizient zeigt, dass man sich auf die für eine Fragestellung relevanten Informationen beschränkt. Eng verwandt sind Invarianzargumente, die Symmetrieeigenschaften von potenziellen Analyseschritte bzw. den Daten fordern. Im Ergebnis strebt man in allen Fällen eine Reduktion der Daten an, man versucht, die stabile Struktur, die wesentlichen Aussagen, die Quintessenz des Ganzen zu finden. Deshalb sprechen moderne Methoden explizit von Datenmodellierung oder noch konsequenter von Datenkompression. Zudem sind sie weit weniger intuitiv-informell als die überkommenen Herangehensweisen.

506

5 Synthese

5.5.8 Absoluter und relativer Zufall Probabilities may not exist.

Die moderne Formulierung des Hauptsatzes ist viel leistungsfähiger, da sie sich auf eine starke Theorie stützt. Dass Muster weit komplexer sein können als in der klassischen Herangehensweise, ist z. B. lediglich eine Folge der Tatsache, dass Struktur und Zufall simultan und einheitlich behandelt werden. Die Theorie macht auch deutlich, dass die meisten Daten ohne weitere Voraussetzungen nicht komprimierbar sind. Wir machen sie (in der Theorie) komprimierbar, indem wir über unsere Konstruktionen Struktur in die Daten hineinlegen.291 Da in der Praxis die meisten Datensätze ebenfalls eine Kompression erlauben, muss es auch hierfür eine Begründung geben. Die plausibelste Erklärung ist, dass sich in den Daten Muster der hochstrukturierten realen Welt niederschlagen, der sie entstammen. Reale Daten sind mit Mustern angefüllt, das größte Problem ist, sie aufzudecken.292 Eine Seite später spricht er vom „melken“ der Daten. Dies könnte auch ein Grund dafür sein, warum wir „naiv“, also aufgrund unserer evolutionären Vergangenheit, überall nach Mustern und verborgenen Zusammenhängen suchen. Die Wissenschaft muss zwar kritischer sein, doch da sich unser Konfabulieren (S. 182) bewährt hat, scheint es besser zu sein, standardmäßig nach Strukturen zu suchen, als an deren Existenz zu zweifeln. Typischerweise fasst die neue Theorie Daten als eine Nachricht auf, die in zwei Teile zerlegt wird. Zum ersten Teil (zuweilen Hypothese genannt) muss immer dessen zugehöriger zweiter Teil treten (die relativ zur Hypothese unsystematische Komponente), um die Daten vollständig zu beschreiben. Es handelt sich also um ein Muster mit dem diesen zugeordneten Fehler. Der „Zufall“ ist typischerweise nicht absolut in dem Sinne, dass es gar kein Muster gibt, mit dessen Hilfe sich die Daten wesentlich reduzieren ließen, vielmehr ist Zufälligkeit allererst einmal Unregelmäßigkeit relativ zu einer vorgegebenen Struktur. Es handelt sich um jene Variabilität in den Daten, welche nicht der Regelhaftigkeit des vorgegebenen Musters entspricht. Genauer gesagt ist die verwendete Modellklasse nicht in der Lage, die Variabilität in ihrem Rahmen zu erfassen. Etwa wird eine lineare Regression nicht in der Lage sein, einen quadratischen Zusammenhang adäquat abzubilden. Auch die Tatsache, dass es immer eine noch kürzere Beschreibung der Daten geben könnte (und wir dies aufgrund der Nichtberechenbarkeit der Komplexität nicht wissen), erschwert es, den Fehler als absoluten, real exis291

Man beachte, dass beim IID-Modell aufgrund der Unabhängigkeitsannahme die gemeinsame Verteilung der Zufallsvariablen nicht weiter komprimierbar ist. Es ist die gleichzeitige Annahme einer identischen Verteilung F , die eine Redundanz schafft, welche sich darin äußert, dass wir mit jeder Beobachtung über sie etwas lernen können. Im Allgemeinen sind es latente Strukturen, die eine Kompression der Daten ermöglichen. 292

Siehe z. B. Salsburg (1973: 153): “The bulk of my time, however, is spent trying to make sense out of data.”

5.5 Das Informationsparadigma

507

tierenden Zufall zu interpretieren: Im vermeintlichen Zufall könnte sich immer nicht erkannte Struktur verbergen, eine Zufallsreduktion, gleichbedeutend mit einer Modellverbesserung, kann prinzipiell nie ausgeschlossen werden. Ein Vektor von Beobachtungsdaten x ist nur dann (absolut) zufällig, wenn er nicht komprimierbar ist, es also keine Struktur (kein Programm) gibt, das ihn prägnanter beschreibt. Algorithmische Zufälligkeit ist synonym mit (prinzipiell) nicht strukturierbar. Im interessanteren Fall ist ein Datensatz nicht zufällig, es gibt also irgendeine Struktur, bezüglich derer er sich kürzer darstellen lässt. Findet man jene, so hat man die Variabilität erklärt. Bezüglich einer „unpassenden“ Struktur lassen sich die Daten jedoch nicht komprimieren, sie erscheinen also weiterhin als völlig unsystematisch. In diesem Sinne ist Zufälligkeit relativ zu einer speziellen Struktur. Man kann also unterscheiden zwischen „echter“, absoluter Zufälligkeit, die eine Eigenschaft des Datensatzes ist und „relativer“ Zufälligkeit, was bedeutet, dass der Datensatz lediglich nicht mithilfe einer bestimmten Struktur die häufig durch das Verfahren vorgegeben ist -, komprimierbar ist. Dawid (1990: 340) kommentiert dies wie folgt: [. . .] I considered the ability of a data sequence to support description by one-stepahead probability forecasts, using an information base consisting of full or partial information about previous values. It then turns out that a sequence can be deterministic for one information base but probabilistic for another, coarser, one.

Zur selben Schlussfolgerung gelangt auch Suppes (1988: 400): “[The given] example demonstrates the startling fact that the same phenomena can be both deterministic and random [. . .] The classical philosophical dichotomy between determinism and randomness is a mistaken one.” 293 Eine solche Behandlung der nicht systematischen Komponente widerspricht der klassischen Interpretation des Fehlers als „absolutem“ Zufall als(o) einer Unregelmäßigkeit, die sich prinzipiell nicht in einem Muster einfangen lässt. Die vorherrschende, frequentistische Deutung der Wahrscheinlichkeit und erst recht die Propensity-Interpretation des Zufalls verorten die Zufallskomponente in natürlichen, nicht von anderen Faktoren abhängigen Fluktutationen in der realen Welt. Damit erscheint es von vorneherein hoffnungslos, sie verringern oder gar mit einem geeigneten (deterministischen) Muster erklären zu wollen. Im Standard-Beispiel des Münzwurfs ist dessen Ergebnis unvorsagbar, weil es keine (zur Vorhersage nutzbare) Struktur gibt, die die Realisierung beeinflusst. Auch die Zerlegung der Daten in das wahre Modell plus Zufall unterscheidet zwischen der tatsächlichen Struktur und der darüber hinausgehenden, nicht weiter strukturierbaren Variabilität; es lässt also keine Grautöne zu. 293

Dies gilt jedoch nur für die (endlichen) Ergebnisse der Prozesse. Wir haben bereits (S. 488) Kolmogorov und Uspenskii (1987) referiert, die feststellen, dass es schon bei einer unendlichen Folge x1 , x2 , . . . sehr wohl sinnvoll ist, zwischen zufällig und nicht-zufällig zu unterscheiden. Siehe auch Li und Vitányi (2008: Abschnitte 3.6 und 2.5).

508

5 Synthese

Systematische Datenanalyse In der Praxis stehen die vorhandenen Daten im Mittelpunkt. Deren statistische Untersuchung sollte, falls nicht offensichtlich Strukturen vorhanden sind, mit einem Test beginnen, ob sie (absolut) zufällig sind, also bezüglich keines Modells komprimierbar sind. Diese Idee hat Martin-Löf (1966), ebenfalls ein Schüler Kolmogorovs, verfolgt.294 Gerade in der Kryptographie es schwer zu entscheiden, ob man es mit einer regellosen Folge oder einer raffiniert verschlüsselten Nachricht zu tun hat, die ihre Struktur hervorragend verwischt. Ähnlich schwer fällt es, zwischen computergenerierten Pseudo-Zufallszahlen und „echten“, also von einem nicht-deterministischen physikalischer Prozess erzeugt Zufallszahlen, zu unterscheiden. Hat man sich dergestalt davon überzeugt,295 dass in den Daten Struktur vorhanden ist, so sollte man systematisch auf die Suche nach einem geeigneten, zugrundeliegenden Muster gehen, wobei diese Suche eher datengetrieben oder theoriegeleitet erfolgen kann. Letztlich läuft in der Praxis alles darauf hinaus, eine Reihe von explizit in Betracht gezogenen Strukturen durchzuprobieren, und je nach Gebiet können die Verfahren hierfür sehr verschieden sein. Während in der Kryptographie aber auch der Chaostheorie das zugrundliegende Muster eine hochgradig nichtlineare Funktion ist, kommt es in der traditionellen Statistik vor allem darauf an, möglichst einfache Strukturen befriedigend an stark strukturierte Daten anzupassen. Klassische Methoden lassen sich als besonders einfache, mit ein wenig Informationsverlust (Fehler) verbundene Kompression der Daten auffassen, sie trennen „ihre“ Struktur von einem mithilfe dieser Struktur nicht erfassbaren Rest.296 Ihr Ziel ist es, die Daten möglichst genau mithilfe zwar parametrisierter, aber im Grundsatz fest vorgegebenen Mustern zu erfassen, wobei die meisten dieser Verfahren (siehe Kapitel 3) nach eher einförmigen, nicht zuletzt linearen Zusammenhängen in den Daten suchen, was zu expliziten Formeln und effizienten Algorithmen führt: 1. Bei der Varianzanalyse geht man von einem Basisniveau μ0 aus und einzelne Faktorstufen unterscheiden sich lediglich um additive Konstanten αi von μ0 . 2. Bei der Regressionsanalyse sind die Zusammenhänge hingegen linear, die Gleichungen werden (wie z. B. bei der logistischen Regression) linearisiert oder aber die Funktionen sind noch analytisch beherrschbar. 3. Bei der Clusteranalyse sucht man nach leicht zu unterscheidenden, möglichst wenigen Gruppen. 294

Siehe die Darstellung in Li und Vitányi (2008) und die dort angegebene Literatur. Die historische Entwicklung wird in Shafer und Vovk (2001: Kapitel 2) nachgezeichnet, auch die enge Verbindung mit von Mises’ Kollektiven. 295

Natürlich nicht: bewiesen Jener wird gerne „Fehler“ genannt und dem Zufall zugeschrieben, enthält aber selbstverständlich auch alle nicht mithilfe des Verfahrens aufdeckbare Muster (siehe Abschnitt 3.11.1), also relativen und absoluten Fehler. 296

5.5 Das Informationsparadigma

509

4. Bei der Diskriminanzanalyse versucht man hingegen, vorgegebene Gruppen durch einfache Funktionen zu trennen. Selbst wenn man, wie bei den neuronalen Netzen, kompliziertere Trennfunktionen zulässt, arbeitet man immer noch mit einfachen Algorithmen. 5. In der Zeitreihenanalyse, wo Abhängigkeiten eine große Rolle spielen, fahndet man nach Trends, saisonalen Komponenten, der zeitlichen Abhängigkeitsstrukur (Autoregression) usw. 6. Der Multidimensionalen Skalierung (MDS), wie auch der Faktoranalyse und der Korrespondenzanalyse liegt die Idee bzw. die Hoffnung zugrunde, dass man hochdimensionale Daten auf wenige Dimensionen reduzieren kann.297 Zufallsreduktion und Modellverbesserung sind, wie schon K. Pearson erkannte, äquivalent, da beides besagt, dass mehr Struktur aufgeklärt wird. Deshalb lassen sich alle weiter oben als Datenkompression beschriebenen Aktivitäten auch als Modellierung begreifen. Ähnlich Rissanen (S. 469 und 476) schreibt Ye (1998: 129): Thus data analysis is, at a deeper level, a type of model selection.

Bei den obigen Verfahren gibt man sich nämlich zunächst eine mehr oder minder große Klasse potenzieller Modelle vor und wählt dann aufgrund der Daten dasjenige aus, welches am besten passt. Bei dieser Selektion des am besten passenden Modells bzw. der Anpassung eines Modells an die Daten oder auch der Entwicklung eines Modells aus den Daten heraus, handelt es sich - bei allen Bedeutungsnuancen dieser Formulierungen - im Kern um nichts anderes als das Erkennen von Mustern in Daten. Dieser Schluss ist immer induktiv, denn 1. In den Daten muss sich kein Muster „verstecken“, die Daten können völlig unstrukturiert sein. Das heißt, der ganze Ansatz ist nur sinnvoll, wenn man zunächst einmal annimmt, dass sich äußere Strukturen in den Daten abgebildet haben. 2. Implizit wird zudem immer angenommen, dass die vorliegenden Daten typisch für die postulierte hinter den Daten liegende Struktur sind. Sind sie es nicht, so wird einen, wenn man sich nur auf die Daten stützt, jedes plausible Verfahren (etwa das Ökonomieprinzip) systematisch in die Irre führen.298 3. Die Daten alleine geben keine Art von Muster vor, nach denen zu suchen ist. Das heißt, es ist unsere Aufgabe konkrete Strukturen vorzuschlagen, 297

Bei der MDS geschieht dies mittels Ähnlichkeiten anschaulich-direkt, bei der Faktoranalyse destilliert man aus vielen ähnlichen Items einen zugrundeliegenden, latenten Faktor und bei der Korrespondenzanalyse sucht man nach verborgenen Assoziationen. 298

Siehe S. 500. Royall (2000) berechnet innerhalb des Likelihood-Modells die Wahrscheinlichkeit dafür, dass die „Daten lügen“. Man vergleiche hierzu auch die ausführlichen Warnungen der klassischen Statistik vor missspezifizierten Modellen, Data Mining und Kausalschlüssen.

510

5 Synthese

zu denen die Daten passen könnten. Wir spezifizieren technisch gesagt (induktiv) die Modellklasse, innerhalb der wir uns daraufhin (deduktiv) bewegen. 4. Auch die Trennlinie zwischen Struktur und Zufall ist nicht klar gezogen. Sie lässt sich zwar innerhalb einer Modellklasse oft eindeutig festlegen, doch wie bei jeder Optimierung führen andere Kriterien zu einem anderen Optimum. Beginnt man mit Daten ohne eine explizit unterlegte Struktur, so besteht der erste Schritt darin, eine potenziell geeignete Struktur explizit einzufügen. Wie in Gleichung (4.2), S. 330, kommt man so zu Daten = Struktur + (relativer und absoluter) Zufall

(5.2)

Der absolute Zufall ist per definitionem nicht strukturierbar. Alles was man erreichen kann, ist, die mit der gewählten Modellklasse erklärbare Variation zu ermitteln. Genau diese Optimierung ist der Kern vieler statistischer Verfahren. Ihr Ergebnis ist (siehe Gleichung (4.5), S. 331) Daten = Bestmögliches Modell innerhalb einer gewählten Modellklasse + relativer Zufall bzgl. anderer Klassen von Modellen + absoluter Zufall

(5.3)

Der Idealfall bestünde darin, durch Wahl einer Modellklasse, die das wahre Modell enthält, den gesamten relativen, also im Prinzip durch eine geeignete Struktur erklärbaren Zufall zu eliminieren, was zu der folgenden Zerlegung führt: Daten = Zugrundeliegendes Muster + absoluter Zufall.

(5.4)

Wie bei den klassischen Interpretationen der Wahrscheinlichkeit und dem Grundmodell (Abschnitt 1.2) sind zwei Aspekte zu unterscheiden. Die Tatsache, dass zum einen eine Struktur überhaupt vorhanden ist, und zum zweiten, die Aufgabe, jene durch ein geeignetes Verfahren aufzudecken. In der obigen „inversen“ Sprechweise ist dies gerade die Unterscheidung zwischen absoluter und relativer Zufälligkeit. Gäbe es wirklich nur absoluten Zufall im Sinne real existierender Wahrscheinlichkeiten, so wäre das gerade beschriebene Vorgehen prinzipiell nicht sinnvoll. Es wäre unmöglich, die unabhängig von jeder Struktur existierende Variabilität aufzuklären. Die Daten wären prinzipiell nicht komprimierbar, was den Ansatz von vorneherein zum Scheitern verurteilen würde. Versuchte man es doch, so würden lediglich Artefakte produziert, also vermeintliche Muster aufdeckt, die tatsächlich überhaupt nicht vorhanden sind.299 So wandelt sich de Finettis probabilities do not exist von einer vermeintlichen subjek299

Vielleicht warnen Statistiker permanent und nachdrücklich vor genau dieser Gefahr, weil gerade die „absolute“ Vorstellung von Zufälligkeit im allgemeinen Denken vorherrscht.

5.5 Das Informationsparadigma

511

tiven Bedrohung der Statistik zu einer Hoffnung. Denn je weniger Variabilität in den Daten „natürlich“ ist, also auf echten, äußeren Zufall zurückgeht, desto mehr kann die Statistik bewirken. Bestehen die Daten hingegen zu einem erheblichen Teil aus echtem, nicht auflösbarem Zufall, so setzt jener ihrer Kunst prinzipielle Grenzen. In der Praxis wird Zufälligkeit damit gleichgesetzt, dass es keine erkennbare Struktur gibt, weshalb es sich lohnen kann, nach letzterer zu suchen. Die Hauptaufgabe des Statistikers ist, relativen Zufall in Struktur umzusetzen und damit bei der Aufklärung realer Strukturen zu helfen. Die eigentliche Schwierigkeit bei der Analyse von Daten besteht deshalb nicht darin, feinsinnigen theoretischen Unterscheidungen nachzuspüren, sondern mit allen verfügbaren Mitteln die unsystematische Komponente aufzuschlüsseln. Eine wirkungsvolle Technik sollte in der Lage sein, hypothetische Strukturen so geschickt zu wählen, dass der relative Zufall (fast) vollständig verschwindet. In diesem Sinne schafft Statistik “order from noise.” Standard ist heute, dass man sich eine feste Struktur - etwa eine lineare Funktion - vorgibt und diese an die Daten anpasst. Diese Anpassung ist nichts anderes als die Bestimmung derjenigen Funktion, welche den geeignet zu definierenden Abstand zu den Daten minimiert. Neben der Überadaptation besteht das Hauptproblem darin, dass eine Klasse von Modellen in aller Regel nur einen kleinen Teil der Information in den Daten extrahieren kann. Alles andere ist Fehler; zum Teil echte Zufälligkeit, zum Teil Messfehler, zum überwiegenden Teil aber wohl auch nicht erkannte strukturelle Information. Dies erschwert eine realistische Interpretation sehr, ja verbietet sie bei schlechter Modellpassung von vorneherein. Ein schlecht passendes Modell kaum den Anspruch erheben, die tatsächlichen Verhältnisse zumindest im Wesentlichen abzubilden. Statistiker sind zurecht froh, wenn das „Modell passt“, das Residuum also klein ist und viel Struktur aus den Daten extrahiert werden konnte. (Was zumeist auch die Prognosefähigkeit erheblich verbessert.) Im bestmöglichen Fall sammelt sich bei der Zerlegung der Daten in der Strukturkomponente alle in der Realität existierende Struktur, während in der Zufallskomponente nur der echte, äußere Zufall übrig bleibt. Dann erscheint es im Lichte der letzten Gleichungen gerechtfertigt, das gefundene Muster realistisch - zumindest als Approximation der tatsächlichen Verhältnisse - zu interpretieren. Allein, das ist prinzipiell nicht zu erkennen, so dass eine große Fehlerkomponente auch Ausdruck eines großen Messfehlers oder eben nicht erfasster, wohl aber vorhandener verborgener Muster sein könnte. Deshalb besteht ein zentrales Problem, wie schon gesagt, darin, von einer geeigneten Modellklasse auszugehen, also einer Klasse von Modellen, die eine Chance hat, den tatsächlichen Verhältnissen zumindest nahe zu kommen. Durch eine Verbesserung des Messvorgangs kann man zumindest dessen Anteil an der Variation verringern, was allerdings nicht primär Aufgabe des Statistikers ist. Ob es jedoch aufgrund von absolutem, real vorhandenem Zufall prinzipiell kein besseres Modell gibt, man also alle Struktur in den Daten entdeckt hat oder aber, ob das Modell einfach nur zu grob war, lässt sich nicht

512

5 Synthese

entscheiden. Beidesmal modelliert die Statistik die nicht aufgeklärte Komponente durch einen geeigneten Zufallsprozess, etwa „normalverteilte Residuen“. Handelt es sich dabei um natürliche Variabilität, so lässt sich nichts weiter reduzieren, denn jene ist ja tatsächlich real, und man hat eine Eigenschaft des betrachteten Objekts beschrieben. Absoluter Zufall ist ja gerade so definiert, dass er sich durch kein Muster auflösen lässt. Man kann ihn zwar in den Gleichungen berücksichtigen, doch zum Verschwinden bringen oder auch nur verkleinern kann man ihn nicht. Andernfalls verstecken sich im vermeintlichen Zufall noch systematische Komponenten.

5.5.9 Chaostheorie (Exkurs) Chaos can be defined in terms of mixing [. . .] mixing goes along with loss of information [. . .] all sufficiently past events are approximately probabilistically irrelevant.300 (Werndl 2009: 214, 213, 217)

Unsere Argumentation ist geprägt von der strikten Trennung der real vorliegenden Daten und des sie erzeugenden (zufälligen) Prozesses. Zudem unterscheiden wir Grade der Regelmäßigkeit in den Daten. Zum ersten die Kompatibilität mit einer bestimmten Klasse von Strukturen, verbunden mit der Komplexität der zu den Daten passenden Struktur. Zweitens die Abweichung der Daten von einer gegebenen Klasse von Modellen oder Mustern - was wir auch „relativ“ zufällig genannt haben - und schließlich die „absolute“ Zufälligkeit also die völlige Strukturlosigkeit der Daten, im Sinne von Nicht-Komprimierbarkeit. Unsere Sichtweise wird gestützt durch die Tatsache, dass diese Art der Argumentation nicht nur natürlich bzgl. der Informations- und Komplexitätstheorie ist. Tatsächlich erschienen vor ca. 20 Jahren, als Chaos ein populäres Thema war, viele Arbeiten über das wechselseitige Verhältnis von Regelhaftigkeit, Chaos und Zufall, denn auch beim Studium von Chaos steht man vor dem Problem, Regelmäßigkeit zu erkennen, klar von Zufälligkeit zu unterscheiden und falls möglich zu klassifizieren.301 Regelmäßige Systeme können im Wesentlichen dadurch charakterisiert werden, dass sie wenig empfindlich auf eine Veränderung der Anfangsbedingungen reagieren. Das heißt, ähnliche Startbedingungen führen zu nahe beieinander liegenden Endzuständen, was erlaubt, auch langfristig präzise und zuverlässige Vorhersagen zu machen. Das häufig verwendete Bild hierfür ist das einer laminaren, also gleichmäßig fließenden Strömung. Chaotische Prozesse sind hingegen weniger überschaubar. Wie bei einem sich verwirbeln300

Man denke nur an ein Kartenspiel, das gemischt wird - Ausgangspunkt vieler Beispiele in der Wahrscheinlichkeitstheorie. Bei der „Ziehung der Lottozahlen“, einem klassischen Zufallsexperiment, werden lediglich Kugeln statt Karten gemischt. 301

Für einen Einstieg siehe Bartlett (1990).

5.5 Das Informationsparadigma

513

den, wilden Strom werden zwei beim Start nahe beieinanderliegende Punkte schnell getrennt und auf völlig verschiedene Wege gebracht. Allenfalls sind noch kurzfristige Prognosen möglich. Mit den Worten von Ornstein (1989: 185): The flows that are not completely predictable are generally considered chaotic. Not being completely predictable is essentially the same as having sensitivity to initial conditions, positive Lyapunov exponents, or positive entropy.

Innerhalb chaotischen Verhaltens lässt sich differenzieren, was nicht weiter verwundert, wenn man an diverse unregelmäßige Strömungen mit ihren mehr oder minder stark ausgeprägten Wellen und Wirbeln denkt. Ornstein (ibd.) stellt demgemäß eine Hierarchie des chaotischen Verhaltens von Strömungen vor, die eng mit deren Vorhersagbarkeit verknüpft ist. Sie reicht von völliger Vorhersagbarkeit der Zukunft über die lang- und kurzfristige Prognose bis hin zu sehr geringer und schließlich verschwindend geringer Vorhersagbarkeit bei einer Bernoulli-Strömung.302 So gesehen gilt: [. . .] randomness can be thought of as an extreme form of chaos (Elston und Glasbey 1990: 340)

Auch auf der technischen Ebene zeigt sich die enge Verwandtschaft von Komplexitäts- und Chaostheorie. Erstere definiert „Struktur“ in einem Datensatz x = (x1 , x2 , . . .) über die Existenz einer rekursiven Funktion, mittels derer sich die xi sukzessive berechnen lassen.303 Chaotische Systeme sind hierfür fast schon prototypische Beispiele. Die aufeinanderfolgenden Werte werden häufig iterativ definiert, also xi+1 = f (xi ), wobei f eine nicht sonderlich komplizierte, zumeist explizit bekannte, immer nichtlineare Funktion ist. Während die Komplexitätstheorie nun jedoch nur auf den zur Verfügung stehenden festen Datensatz x abhebt, betrachtet man in der Chaostheorie stets auch eine kleine Umgebung Uε (x). Da, sobald man x1 = x festlegt, die gesamt Folge (iterativ) bestimmt ist, genügt es, statt Uε (x) eine Umgebung Uε (x) von x zu betrachten. Man könnte dies eine Sensitivitätsanalyse nennen, und die für chaotische Systeme charakteristische hohe Sensitivität zeigt sich darin, dass es in jeder Umgebung von x Punkte gibt, die in völlig andere Bereiche des Zustandsraums304 abgebildet werden als x selbst. Klassisches Beispiel ist der Würfel: Winzige Unterschiede in den Anfangsbedingungen führen zu völlig verschiedenen gewürfelten Zahlen. Während das chaotische System also lokal, d.h. für jeden Punkt x, einem deterministischen Gesetz folgt, und damit im Sinne der Komplexitätstheorie komprimierbar und nichtzufällig ist, sorgt die hinreichend komplizierte Funktion f dafür, dass eine anfänglich winzige „Unschärfe“ massiv vergrößert wird. 302 303

Schon der Name deutet auf einen „Münzwurf“ hin, siehe S. 79.

Siehe Li und Vitányi (2008: Kapitel 1) und Rissanen (2007: Kapitel 4). Der Zustandsraum ist einfach die Menge aller möglichen Zustände, die ein Prozess annehmen kann. Zuvor hatten wir vom Stichprobenraum gesprochen, also der Menge aller möglichen (beobachtbaren) Stichproben. 304

514

5 Synthese

Dieses auch als Schmetterlingseffekt bekannte Phänomen305 wirkt wie Zufall. Dem muss aber nicht so sein. Etwa gibt Diaconis (1998: 803), beim Münzwurf sehr regelmäßige Strukturen an, die im System vorhanden sind. Dazu ordnet er jedem Punkt eines geeignet gewählten Parameterraum die Farbe schwarz oder weiß zu, je nachdem, ob bei dieser speziellen Wahl der Parameter „Kopf“ oder „Zahl“ fällt.306 Das auf diese Weise entstehende Muster ist nun allerdings so fein, dass man de facto das Verhalten des Systems nicht mehr vorhersagen kann. Selbst wenn die zugrundeliegende Struktur äußerst regelmäßig ist - man denke an ein filigranes Schachbrettmuster, bei dem sich lediglich weiße und schwarze Quadrate abwechseln - es genügen numerisch unvermeidliche Rundungsfehler oder eine winzige experimentelle Variabilität, um das Ergebnis für einen Beobachter nicht mehr von echtem Zufall unterscheidbar zu gestalten. Dessen zu geringe Information ist für ihn gleichbedeutend mit zufälliger Variation: Statt eines regelmäßigen Musters weißer und schwarzer Quadrate sieht er anschaulich gesagt nur noch ein regelloses Rauschen. Genauer gesagt kann er auf Basis seiner Information, etwa der Genauigkeit seiner Beobachtungen, nicht mehr vorhersagen, was sich ereignen wird. Entscheidet sich in der 5. Nachkommastelle, ob „Kopf“ oder „Zahl“ fällt, kennt er aber nur höchstens die 1. Nachkommastelle, so kann er angesichts der perfekten Symmetrie zwischen dunklen und hellen Quadraten nur mit Wahrscheinlichkeit 1/2 für ein dunkles bzw. helles Quadrat optieren. Man muss kein Positivist sein - für den nur die beobachtbare „Oberfläche“ zählt -, um genau diese Ununterscheidbarkeit zum Anlass zu nehmen, mangelnde Information, also Ungewissheit bzw. Unsicherheit, mit Wahrscheinlichkeit gleichzusetzen. Man beachte, dass wir die Abbildungsvorschrift f hier so nutzen, dass sie eine Struktur auf Uε (x) erzeugt. In der Praxis genügt es, dass diese Struktur wie beim Münzwurf oder beim Würfeln, also klassischen Zufallsexperimenten, zu fein für den Beobachter ist, um sie von „systemimmanentem Zufall“ (propensity) ununterscheidbar zu machen. Doch es ist in der Theorie auch kein Problem, sich beliebig feine Muster auszudenken, etwa indem man das genannte Schachbrettmuster fortlaufend verfeinert.307 Das so entstehende fraktale Muster ad infinitum ineinander geschachtelter Quadrate ist von einem mit endlicher Präzision agierenden Beobachter prinzipiell nicht mehr von Zufall zu unterscheiden. Doch lässt sich Uε (x), versehen mit der gerade definierten Struktur, immer noch komprimieren. Es ist nämlich kein Problem, ein Programm anzugeben, das die sehr regelmäßige Struktur (asymptotisch) 305

Die Anfänge der Chaostheorie liegen u.a. in der Meteorologie (Lorenz 1963). Sind Winde chaotisch, so kann tatsächlich der Flügelschlag eines Schmetterlings einige Zeit später den Unterschied zwischen Windstärke 0 und 12 bewirken. 306

Man könnte auch die Menge aller möglichen Startkonstellationen der Münze betrachten und jede dieser Konstellationen gemäß dem Ergebnis des Wurfs einfärben. 307 Man ersetze z. B. fortlaufend jedes der Quadrate durch vier Quadrate mit jeweils halber Kantenlänge in alternierender Färbung.

5.5 Das Informationsparadigma

515

erzeugt.308 Damit ist die Struktur zwar beliebig fein, komplexitätstheoretisch gesehen aber nicht zufällig! Darüber noch hinausgehende echte Zufälligkeit des Systems bestünde in der gewählten Situation darin, alle Punkte in Uε (x) so zu färben, dass kein Programm diese Färbung erzeugen kann, welches kürzer ist als die Angabe aller Punkte samt der ihnen zugeordneten Farbe. Weißes Rauschen, also die typische Punktewolke, die in einem bestimmten Moment auf einem Fernsehbildschirm zu sehen ist, falls kein externes Signal empfangen wird, ist ein guter Kandidat hierfür.309 Wiederum sind wir auf eine Abstufung der Strukturiertheit gestoßen, die schon ganz am Anfang - passend zum Studium dynamischer Systeme - mittels der Fähigkeit zur Prognose operationalisiert wird. Offenkundig sind Prognosen nur dann zuverlässig möglich, wenn man eine Struktur in den Daten nutzen kann, wenn es ein Muster gibt, dem man folgen kann. Außerdem kann man nur dann auf längerfristige, zuverlässige Prognosen hoffen, wenn die der Prognose unterliegende Struktur dauerhaft ist. Das Verblüffende und Verstörende bei Chaos ist, dass, obwohl die Datenpunkte xi (interpretiert als die sukzessiven Zustände des sie erzeugenden Prozesses) zumeist durch ein einfaches und gleichbleibendes Gesetz der Gestalt xi+1 = f (xi ) erzeugt werden, die Fähigkeit zur Prognose gleichwohl ganz erheblich eingeschränkt ist! Selbst wenn man das „wahre Gesetz“ f kennt, die Binnenstruktur des Modells also in unserer Terminologie vollständig bekannt ist, nutzt einem das in der Praxis, bei der Prognose, kaum etwas, und im Extremfall sogar gar nichts. Der Grund ist, dass sich selbst kleinste Rundungsfehler bei der sukzessiven Berechnung der xi extrem verstärken. Damit entfernen sich die berechneten Werte sehr schnell von den theoretisch richtigen Werten. Liegt andererseits ein mutmaßlich chaotischer Datensatz x vor, so kann man ihn weder numerisch approximieren, noch hat man eine reelle Chance, sein Bildungsgesetz f zu erraten. Hinzu kommt, wie wir schon bemerkt haben (S. 499), dass von einem Zufallsprozess erzeugte Daten noch nicht einmal prinzipiell von solchen eines chaotischen Prozesses zu unterscheiden sind. Obwohl die Punkte x1 , x2 , . . . völlig regelmäßig, gemäß einer simplen Regel, auseinander hervorgehen und deshalb x eine kleine Komplexität besitzt, bleibt einem in der Praxis nichts anderes übrig, als die Daten mit statistischen Methoden zu bearbeiten, ganz so, also hätte ein klassischer Zufallsprozess sie erzeugt. Nicht zuletzt aufgrund dieser äußerst engen Verwandtschaft heißt es im Klappentext von Berger (2001): By studying both probabilistic and deterministic features of dynamical systems the reader will develop what might be considered a unified view on chaos and chance as two sides of the same thing. 308

Man nehme hierfür eines der vielen „Bilderbücher“ über Fraktale zur Hand, siehe auch Cover und Thomas (2006: 471). 309 Vgl. Zurek (1989: 4735f)

516

5 Synthese

Ergodizität Wie wir gesehen haben, besteht eine Möglichkeit, einen chaotischen Vorgang zu beschreiben, darin, möglichst viele Verläufe xi = (xi,1 , xi,2 , xi,3 , . . .) mit verschiedenen Anfangsbedingungen xi,1 zu untersuchen. Zeilenweise ist die Situation deterministisch, da sich zu jedem xi,j sofort xi,j+1 = f (xi,j ) und damit auch alle nachfolgenden xi,j+k mit k ≥ 0 angeben lassen. Andererseits lässt sich über dem Zustandsraum eine zu einer Zufallsvariablen X gehörige Verteilung P definieren. Äquivalent mit X sind unendlich viele, voneinander unabhängige Realisierungen, von denen wir annehmen, diese seien gerade ˜ 1 = (x1,1 , x2,1 , x3,1 , . . .) Aufgrund x des Gesetzes der großen Zahlen (S. 82) n gilt dann fast sicher limn→∞ i=1 xi,1 /n = EX. Aufgrund der Kenntnis von xi,1 lässt sich überhaupt nichts über xi+1,1 oder irgendein anderes xi∗ ,1 mit i = i∗ aussagen. Bei einer „späteren“ Spalte j wird es aufgrund der sensiblen Abhängigkeit von den Anfangsbedingungen im Allgemeinen kaum besser sein, das heißt, die Situation ist - spaltenweise - nicht deterministisch. Insbesondere gibt es, von exotischen Ausnahmefällen abgesehen, keine Funktion g mit xi+1,j = g(xi,j ). In einem gewissen Sinn haben Zeilen und Spalten also wenig miteinander zu tun. Die Auswirkungen der häufigen Anwendung von f zeigen sich jedoch anhand der Veränderung von P . Diese wird durch einmalige Anwendung von f zu einer Verteilung P2 über der zweiten Spalte,310 durch zweimalige Anwendung zu einer Verteilung P3 über der dritten Spate usw. In der Sprechweise der Chaostheorie wird man häufig auf einen sogenannten Attraktor A geführt, also eine Teilmenge des Zustandsraums des Prozesses, die von vielen Verläufen besucht wird. Dessen Wahrscheinlichkeit Pj (A) entspricht gerade dem Anteil aller Pfade, die sich zu einem Zeitpunkt j dort befinden. Man weiß also, anders gesagt, wie wahrscheinlich es ist, dass sich der Prozess zu einem Zeitpunkt j gerade in diesem Bereich aufhält. Je häufiger man f anwendet, desto mehr sollte Pj von f und umso weniger von der Ausgangsverteilung P abhängen. Gibt es eine Grenzverteilung P∞ , so sollten deren Eigenschaften sogar maßgeblich von f und (fast) nicht mehr von P abhängen. Das heißt, gerade bei einer sensiblen Abhängigkeit von den Anfangsbedingungen, die eine Vorhersage im Einzelfall vereitelt, offenbart sich so (spaltenweise) die in f enthaltene Struktur, noch dazu in Form einer Wahrscheinlichkeitsverteilung. In diesem Sinn haben Spalten und Zeilen311 viel miteinander zu tun. Der Kern der sogenannten Ergodenhypothese ist, dass die stochastischen Eigenschaften einer typischen Folge xi , also einer typischen Zeile, dieselben sind wie jene von X∞ ∼ P∞ , also der „Grenzspalte“. Etwa nsollte (zumeist) das arithmetische Mittel einer chaotischen Folge xi , also j=1 xi,j /n ebenfalls gegen EX∞ konvergieren, also approximativ gleich EXj (mit einem 310

Bildlich gesprochen transportiert f die Wahrscheinlichkeitsverteilung von der ersten in die zweite Spalte. 311 - wo f iterativ angewandt wird -

5.5 Das Informationsparadigma

517

nicht zu kleinen j) sein.312 Gilt die Ergodenhypothese, so kann man Zeilen und Spalten in diesem Sinne miteinander vertauschen. Anders gesagt, genügt es, eine einzige (möglicherweise mit Rundungsfehlern behaftete) Folge xi zu beobachten, also von einer einzigen Realisierung xi,1 auszugehen, um über X∞ Aussagen machen zu können. Der Übergang von einem Zahlenwert zur Zufallsvariablen wird dabei bezeichnenderweise durch eine deterministische Funktion f gesteuert.313 Wie zuvor (S. 514) lässt sich auch hier auf der ˜ j , ein wesentlicher Un„atomaren Ebene“, also beim Vergleich von xi und x terschied ausmachen, der jedoch auf der (gröberen) Verteilungsebene (P∞ ) und erst recht der Parameterebene (μ = EX∞ ) verschwindet.314 Aufgrund der genannten technischen Details ist es nicht überraschend, dass sich die Ergodenhypothese in einem theoretischen Rahmen schwer beweisen lässt; in der Realität, insbesondere der statistischen Physik, jedoch hervorragend bei allen „gut durchmischten“ Systemen bewährt. Insgesamt sind also auch Zufälligkeit und Chaos enger verwandt, als die klassische philosophische Dichotomie von Zufall und Notwendigkeit vermuten ließe. Auf der Prozessebene (Münzwurf, Würfeln) liegen stochastische Prozesse zwar nicht vollständig fest, doch ist die Ungenauigkeit so gewählt, dass man Verteilungen und probabilistische Abhängigkeiten spezifizieren kann. Chaotische Prozesse liegen andererseits zwar vollständig fest xi+1 = f (xi ), jedoch lassen sich die von ihnen beschriebenen Vorgänge nur in der Theorie (für festes x1 ) exakt replizieren. In der Praxis ist die Vorhersage stark eingeschränkt und längerfristig prinzipiell unmöglich. Demgemäß bezeichnet Chaos - wie relative Zufälligkeit bzw. Komplexität - ein ganzes Kontinuum zwischen dem einen Extrem absoluter Zufälligkeit einerseits und prägnant charakterisierbarer Regelmäßigkeit andererseits. Berkovitz et al. (2006) sprechen sogar explizit von einer „ergodischen Hierarchie“. Die mit Chaos eng verwandten Fraktale veranschaulichen die Stufung: Zum einen sind sie zwar (noch) regelmäßig aufgebaut, zum anderen sind sie jedoch weit weniger regelmäßig als klassische geometrische Figuren. Damit repräsentieren sie eine Zustand „zwischen“ scharf umrissenen Gebilden und regellosem Zufallsrauschen.

5.5.10 Modernisierte Statistik It is very difficult, if not impossible, to formalize the goodness of fit of an individual model for individual data in the classic probabilistic statistics setting. It is as hard 312

Physiker nennen dies die Gleichheit des Zeitmittels (einer Folge) und des Scharmittels vieler Folgen. 313 Da diese jedoch chaotisch, also „hochkomplex“ sein muss, erinnert dies sehr an das S. 489 formulierte Prinzip. 314 Allgemeiner gesagt, scheint es Eigenschaften zu geben, die nur auf der feinsten, definitorischen Ebene zu unterscheiden sind. Sobald man jene verlässt, gleichen sie sich wie ein Ei dem anderen.

518

5 Synthese

to express the practically important issues in induction in those terms, which is no doubt one of the reasons why contention is rampant in that area. Li und Vitányi (2008: 402)

Die Schwäche der klassischen Statistik Angesichts der letzten Abschnitte erscheint die klassische Statistik im Rückblick mehr denn je als eine Ansammlung lokal funktionierender Ad-hocAnsätze.315 Dies gilt naturgemäß noch mehr für die orthodoxe, frequentische Sicht mit ihren zerspitterten Schulen als die Bayessche Statistik, mit ihrer einheitlichen, sich um das Bayessche Theorem gruppierenden Vorgehensweise. Je komplizierter die Probleme werden, desto schneller zeigt sich auch die Unzulänglichkeit orthodoxer Methoden. Schon bei der einfachen Aufgabe, ein gutes Zusammenhangsmaß zwischen mehr als zwei Zufallsvariablen zu definieren, kommt sie in arge Schwierigkeiten (Joe 1989). Es ist kein Zufall, dass beim allgemeinen Problem der Selektion geeigneter Modelle (S. 378ff) seit Akaike (1973) explizit informationstheoretische Betrachtungsweisen im Vordergrund stehen. Doch hat sich auch hier schon herausgestellt, dass sowohl die Maximum-Likelihood-Schätzung als auch darauf basierende klassische Kriterien, insbesondere AIC, diverse Inkonsistenzen aufweisen (siehe S. 475). Tatsächlich stößt die traditionelle Statistik sehr schnell an ihre Grenzen. Zum Schätzproblem sagt Wallace (2005: 54): “Neither classical approach can offer a convincingly general solution to the estimation of real-valued unknown parameters. The non-Bayesian approach can at best derive assertions about intervals of possible parameter values, framed in terms of the rather vague concept of ‘confidence’.316 In a few particularly simple cases, estimators of non bias and/or minimal variance can be deduced, but these properties apply only to one special parametrization of the model family. The Bayesian approach can deduce a posterior density over parameters, but offers no general method of selecting a ‘best’ estimate which is not tied to a particular parametrization of the model family.” Doch selbst wenn man noch innerhalb eines fest gewählten Modells befriedigend schätzen und testen kann, so ist schon die Bestimmung einer Parameteranzahl (S. 475) - etwa wenn es darum geht, die „beste“ Regressionsfunktion zu einer Reihe von Datenpunkten zu finden - ohne der Informationstheorie entlehnter Hilfsmittel kaum möglich. Erst recht gibt es kein Mittel, zwischen Modellen mit völlig unterschiedlicher Struktur zu entscheiden: “While there exists a theory for estimating the real-valued parameters, based on Fisher’s work, no theory exists for estimating such important parameters as the number of the real-valued parameters or, more generally, the model structure.” (Rissanen 2007: 2) Schon in Rissanen (1989: 5) heißt es: 315 316

Siehe insbesondere die Ausführungen in den Abschnitten 5.3.4 und 5.4.4. Siehe unsere Bemerkungen über Konfidenzintervalle, S. 397

5.5 Das Informationsparadigma

519

Indeed, an essential element in learning is the ability to compare [. . .] so as to be able to prune out the inferior [models]. But such a comparison is not possible without facing squarely the essence of randomness and the intimately related concept of complexity. And this must include the complexity of the models themselves as an essential part, which, despite the fundamental role it plays in our intuitive thinking, modern statistics has no provision for.317

Er fasst ibd. zusammen: It seems to us that it is precisely the attempts to avoid the comparison of models of different complexities that are the cause for the current distorted theory which lacks both foundation and direction. Thus for example, even the most completely developed part of modern statistics, the theory of estimation, treats only the real-valued parameters, and it breaks down when the estimation of their number is required. Apart from ad hoc criteria, the comparison of models with different numbers of parameters is meant to be done by hypothesis testing, but that theory is fragmentary and its procedures unreliable, which harsh realities have taught the statistical practitioners to apply with healthy skepticism. As to the conceptual difficulties, statistics has been the battle field of bitter disputes since its very beginning, where dominance is fought and gained by strength of believes and authority as much as by rational reasoning.

Es ist äußerst bezeichnend, dass die professionelle Statistik bis heute die Entwicklungen in der Informationstheorie kaum zur Kenntnis genommen hat. Frühe Versuche, insbesondere von Lindley (1956), Jaynes (1957), Kullback (1959), Greeno (1970) und Martin-Löf (1974) blieben fast ohne Wirkung. Doch auch die aktuelleren Überblicksartikel von Soofi (1994, 2000) zeigen deutlich, wie wenig die Statistik über den eigenen Tellerrand geblickt hat oder rezipiert hätte, was sich in verwandten Feldern ereignet hat. Der Informationsbegriff ist, anders als behauptet (Soofi 1994), alles andere als intangible. Symptomatisch ist die stiefmütterliche Behandlung von MDL, etwa in Claeskens und Hjort (2008), durchaus vergleichbar mit der kühlen Rezeption nicht der eigentlichen Statistik entstammender Ansätze bei Kausalschlüssen.318 MML wird in diesem umfangreichen Buch über Modellierung noch nicht einmal erwähnt. Versteckt heißt es dann (ibd., S. 284): “The basic limit theorems that underlie selection criteria, like AIC, BIC, the FIC and relatives, have conditions that amount to keeping the set of models fixed while the sample size tends to infinity.” (Meine Hervorhebung.) Man vergleiche das mit S. 475, 518 und der weit allgemeineren Behandlung in Li und Vitányi (2008: Abschnitt 5.6; 418ff).319 317

Siehe auch Rissanens Bemerkung S. 460. Genau deshalb hebt er an vielen Stellen den universal yardstick, nämlich der Länge einer Nachricht, also der Anzahl Bit, die notwendig ist, um sie zu beschreiben, hervor, den nur die Informationstheorie bereitstellt. Dowe et al. (2007: 724) schreiben ganz ähnlich: „[Our method] is applicable equally to problems of parameter estimation and model selection. This unified treatment can be regarded not only as a strong theoretical virtue, but one which gives demonstrably better results in practice [. . .] 318 Siehe S. 448, Freedman (2005) und Morgan und Winship (2007). 319

Der Fairness halber sollte man allerdings hinzufügen, dass es sehr wohl sinnvoll sein kann, nicht beliebig komplexe Modelle in Betracht zu ziehen (siehe S. 481). Zudem ist mir

520

5 Synthese

Allenfalls sporadisch werden nützliche Argumentationslinien anderer Gebiete übernommen, und insgesamt kann keine Rede davon sein, dass die Statistik systematisch an ihren Grundlagen oder einer durchgängigen Vernetzung mit anderen Gebieten arbeiten würde. Statt z. B. die Möglichkeiten der Modellierung konstruktiv zu verbessern, erschöpft sich nicht nur Freedman (2010) - trotz des vielversprechenden Untertitels - in fundamentaler Kritik. Gestützt auf den von Kolmogorov und anderen formalisierten Informationsbegriff, ausgearbeitet zu einer umfassenden Informations- und Kodierungstheorie, ist es heute jedoch eher die Herangehensweise der traditionellen Statistik, welche museal anmutet: In the early days of control theory the naive thinking was that most processes to be controlled are linear, and the task at hand is to ‘identify’ a linear system from its impulse response, with perhaps some gaussian noise added. Similarly, in statistics the thinking has been advanced that the main problem of statistics is to ‘identify’ a distribution from the data it creates by sampling as if the world were made of random variables. In reality, the problems of statistics are much more severe. The main task is to find constraints that restrict the observed data, so that thus amount to a model of the data. (Rissanen (2007: 97), meine Hervorhebungen.)320

Dabei sind gute statistische Modelle und “good statistical practice” genauso wie erfolgreiche wissenschaftliche Theorien im Allgemeinen einfach und stark, das heißt, sie sind explizit, formalisieren substanzielle Einsichten, beschränken sich auf die wesentlichen Faktoren, decken relevante Mechanismen auf, erläutern, was bei Interventionen von außen geschieht, basieren auf angemessenen Voraussetzungen und orientieren sich an Invarianzüberlegungen und anderen allgemein erfolgreichen Prinzipien: “You communicate information; you do not make yes-no decisions.” (Gigerenzer 2004: 593) Allzu oft ist das in der mathematischen Statistik nicht der Fall. Viel zu häufig sind ihre Argumentationsmuster kompliziert und doch schwach. Aktuelle klinische Studien sind hierfür ein schlagendes Beispiel. Statt das Hauptaugenmerk darauf zu legen, überzeugende kausale Zusammenhänge zu erschließen und offensiv nach relevanten Informationen zu suchen,321 verlieren sie sich in aufwändigen technischen Details, denen kein entsprechender Nutzen gegenübersteht. Penston (2003: 76ff) konstrastiert sie mit der üblichen Forschungspraxis: aus sicherer Quelle bekannt, dass beide Autoren informationstheoretische Überlegungen schätzen und MDL in Claeskens und Hjort (2008) nur deshalb knapp behandelt wird, weil der Verlag auf einer Kürzung des Manuskripts bestand. 320

Geistesverwandt ist Williamson (2007), der zeigt, wie man mithilfe von äußeren Bedingungen und einigen weiteren Prinzipien auf subjektive bzw. objektive Wahrscheinlichkeiten kommt. Auch die statistische Versuchsplanung ordnet sich problemlos hier ein. Dort ist es die Art der Erhebung der Daten, welche als Randbedingung zum Modell der Varianzanalyse führt. Die willentlich eingeführte Bedingung der Randomisierung dient ebenfalls dazu, Daten gezielt mit Information anzureichern, so dass eine kausale Interpretation gerechtfertigt erscheint. 321

Siehe schon Salsburg (1973: 153f)

5.5 Das Informationsparadigma

521

[. . .] it is the existence of sound background theory which is crucial for the success of science. It is the framework against which observations are made, it allows strict definition of the items involved, it is the source of information about possible relevant variables and allows for the identification of homogeneous reference classes that ensure regularity and, hence, reliable causal inference. Furthermore, in line with the requirement of a body of knowledge to contain only logically consistent premises, the background theory regulates which generalisations may be accepted, thus providing a further check on the validity of the new findings. Finally, the generalisations may readily be confirmed by replication. The contrast with mega-trials in medical research could not be more obvious. Without sound background theory and knowledge, heterogenous classes are, in most clinical situations, unavoidable. The proposed solution to this problem - randomisation - fails in practice to deliver internal validity. Mega-trials also suffer from intractable problems in terms of external validity. Moreover, not only are the small treatment effects undetectable in routine clinical practice but there is no prospect of confirmation by replication.

Zuweilen wird die Unzulänglichkeit, die sich, wie wir gesehen haben, auch schon in weit einfacheren Fällen zeigt, sogar offen zugegeben. Zur Versuchsplanung schreibt bereits Salsburg (1973: 153): “At this point, the texts tell us the statistician is supposed to estimate minimal sample sizes for preconceived power and prepare a balanced incomplete block design that produces all kinds of clever contrasts for testing. I don’t do this. Instead, I spend my time asking stupid questions.” Lesaffre (2000) sagt: “[. . .] it is my experience that a successful clinical trial is often attributed to a fast recruiting system, efficient clinical staff and a well-organized data management system, but less to a proper and clever plan of statistical analysis.” Im sich anschließenden Kommentar zu (Senn 2000) bemerkt Longford (2000: 170): “And, finally, a non-controversy: inference from a clinical trial is meant for a population, not just a group of recruited subjects. So a trial is, in effect, a survey with a haphazard or, at best, quota sampling design. Yet its analysis assumes no selection bias (Longford 1999).” Am Ende eines langen Vergleichs zwischen diversen “scales of evidence” schreiben Efron und Gous (2001: 256): “The Bayesian guiding principle is focussed on consistent decision-making across different frames of reference, sample-size coherency being a classical example. Examples of frequentist inconsistency, in which the Bayesian model-selection literature abounds, are apt to fall on deaf ears, frequentists being more focused on just the problem at hand.” Man kann solche Sätze eigentlich nur vor dem Hintergrund des Mottos let the data speak for themselves verschärft zum cult of the single study verstehen, das seit Jahrzehnten dominiert. Wie wenig befriedigend die genannte Haltung ist, haben wir schon bemerkt (S. 439) und zeigt sich im zitierten Text bereits ein paar Sätze weiter: Fisher’s scale seems perfectly suited to the common situation of fixed sample size and a straw-man null hypothesis that the investigator wishes to disprove. However it is less satisfactory for more complicated problems involving multiple comparisons, data-mining, null hypotheses of genuine interest [. . .], or sequential decision making.

522

5 Synthese

Even slightly more complicated situations [. . .] made us grateful for some Bayesian guidance [. . .]

Ein wissenschaftliches Unternehmen, das nur den Einzelfall behandeln kann, weil sich sonst sofort Widersprüche ergeben, und in etwas komplizierteren Fällen (n variabel) völlig versagt, befindet sich im Konkursverfahren.

Statistik als Informationswissenschaft Die aktuelle Aufgabe ist offensichtlich, die Wissenschaft und Kunst der Erhebung, Extraktion, Analyse und Interpretation von Daten in einem umfassenden, logisch stimmigen Rahmen neu aufzubauen. Das hört sich beeindruckender an, als es ist, denn schon des öfteren mussten Wissenschaften, bei den Grundlagen beginnend, systematisch neu errichtet werden. Dabei bleiben typischerweise die zentralen Einsichten vergangener Erklärungsmuster erhalten. Was sich aber verändert, sind die Grundbegriffe und das Grundverständnis eines Fachs. Wie die obigen Arbeiten zeigen, ist der Neuaufbau tatsächlich schon in vollem Gange, und er sollte wieder zu einer einheitlichen, wohlproportionierten Theorie führen. Gerade die von physikalischem Denken inspirierten neuen Methoden zeigen, wie eine erfolgreiche, omnipräsente Statistik aussehen könnte: Konkrete Probleme treiben eine adäquate Begriffs- und Modellbildung voran. Anstatt die Ideenwelt der Statistik zu isolieren oder einfach hinzunehmen, dass ihre zahlreichen Ad-hoc-Lösungen keinen inneren Zusammenhang aufweisen, sollten ihre Begriffe wie auch Lösungen mit substanziellem Wissen eng verknüpft sein. Mit den vorgestellten kausalen Netzen, welche in der Lage sind, Mechanismen aller Art elegant abzubilden und deterministische wie stochastische Abhängigkeiten zu erfassen, hat sich ein erster solcher Formalismus etabliert, der auch über die klassische Wahrscheinlichkeitstheorie hinausgeht (siehe S. 438).322 Allgemein geht es um den adäquaten Umgang mit Information, weshalb jede moderne Statistik äußerst eng mit der Informationstheorie verzahnt sein muss. Information ist das Schlüsselwort der Statistik, alle ihre Argumentationsmuster, gruppieren sich um diese eine, zentrale Idee. Die Verankerung der wesentlichen Begriffe und Argumente in der Informationstheorie verhindert weltanschauliche Auseinandersetzungen. Zugleich ist jene so weit, dass sie allen traditionellen Aspekten (z. B. subjektiv, objektiv, Prä- und PostBetrachtung, Berücksichtung von Priori-Information oder nicht, diverse Interpretationen des Wahrscheinlichkeitsbegriffs usw.) gerecht werden kann. Mehr noch, sie verknüpft auf natürliche Weise die zentralen Themen der Prognose, Modellierung und algorithmischen Berechnung. 322

Technisch gesehen handelt es sich um Wahrscheinlichkeitsverteilungen auf gerichteten, azyklischen (kausal interpretierbaren) Graphen, die sich auch als Erweiterung sich verzweigender, baumartiger Strukturen und als Spiele verstehen lassen (siehe insbesondere Shafer (1996) und Shafer und Vovk (2001)).

5.5 Das Informationsparadigma

523

So erfrischend neu, theoretisch fundiert oder einfach nur pragmatisch ein Ansatz auch sein mag, die Kunst(fertigkeit) im Umgang mit Daten besteht darin, alle in einer Situation relevanten Informationen geeignet zu fassen, also insbesondere zu formalisieren. Eine auf die Informationstheorie gestützte, einheitliche Methodik ist dazu weit stärker in der Lage als jeder Ad-hoc-Ansatz. Insbesondere vermeidet man die typischen Fallstricke, sobald man über ein spezielles Problem und seine Lösung hinausgehen will. Die durchgängigen Erfolge in der Praxis (Lösung klassischer Probleme, bessere Ergebnisse als traditionelle Ansätze) wie in der Theorie (statistische Kriterien der Verfahren wie auch die logische Konsistenz im Allgemeinen) sprechen für sich. Dabei zeigt sich, wie man mit der universellen Sprache der Mathematik umgehen sollte. Anstatt Annahmen prinzipiell zu scheuen, kommt es zunächst einmal darauf an, genügend starke Annahmen zu machen, um überhaupt erst effizient arbeiten zu können. Es ist weniger fruchtbar, sich jahrelang über die Interpretation von Tests und Schätzungen zu streiten, weil der Formalismus nur indirekt die gewünschten Schlussfolgerungen erlaubt, als innerhalb eines eleganten Kalküls auch kompliziertere Probleme routinemäßig bearbeiten zu können. Fisher ist der Ausgangspunkt dieser wenig überzeugenden Haltung. Er lehnte die einfache, weil auf relativ starken Voraussetzungen basierende Bayessche Methodik ab und musste deshalb innerhalb eines eigenen, weniger starken begrifflichen Rahmens agieren. Jaynes (2003: 494ff) schildert die Folge: But nobody seemed to notice that Jeffreys was able to bypass Fisher’s calculations and derive those parameter estimates in a few lines of the most elementary algebra [. . .] Fisher’s difficult calculations calling for all that space intuition [. . .] were quite unnecessary for the actual conduct of inference. [Zwei Seiten später heißt es:] Harold Jeffreys (1939) was able to derive all the same results far more easily, by direct use of probability theory as logic, and this automatically yielded additional information about the range of validity of the results and how to generalize them, that Fisher never did obtain.323

Symptomatisch ist auch die Behandlung des Behrens-Fisher-Problems (S. 425). Anstatt eine einfache, logisch einwandfreie Lösung zu akzeptieren, reiht sich seit Jahrzehnten, ohne einen wirklichen Durchbruch, ein heuristischer Lösungsversuch an den nächsten. Bezeichnenderweise stammen Fishers stärkste Beiträge aus den 1920er Jahren, als er mit der parametrischen Statistik die Wahrscheinlichkeitstheorie zu deren nahezu alleinigem Werkzeug machte. Um die Information in den (festen!) Daten x zu erschließen, betrachtete er letztere als Realisierungen (parametrisierter!) Zufallsvariablen Xθ . Durch diese geniale Setzung reduzierte er die statistische Inferenz auf Aussagen über einige wenige, gut zu überblickende Parameter. Orientiert am praktisch wie theoretisch eminent wichtigen Fall der Normalverteilung N (μ, σ), konnte er daraus eine allgemeine Theorie des Schätzens (Likelihood) entwickeln. 323

Für eine moderne Version des Arguments siehe MacKay (2005: Abschnitt 3.1).

524

5 Synthese

Liest man Fisher im Original, so ist ganz deutlich, dass für ihn die Extraktion von Information aus vorhandenen Daten324 der entscheidende Gesichtspunkt war. Die Daten sind für ihn nur der Rohstoff, um Genaueres über einen Gegenstand zu lernen. Über die Effizienz einer Schätzung schreibt er z. B.325 My definition depends on amount of information and is aimed at affording an invariant comparison for transforms of the parameters [. . .]

Der Parameterraum ist deshalb bei ihm - wie den Bayesianern - weit wichtiger als der Stichprobenraum. Man beachte jedoch, dass Fisher letztlich nur aus technischen Gründen die wesentliche Struktur hinter den Beobachtungen in den Parametern abbildet, und Abschnitt 5.5.3 (insbesondere S. 473ff) liest sich wie eine konsequente, moderne Umsetzung Fortsetzung seiner Grundidee. Allgemeiner gesprochen sind für ihn Zufallsvariablen und damit auch die Wahrscheinlichkeitstheorie nur nützliche, wenn auch höchst effiziente Werkzeuge. Mit Neyman und Pearson rückten aber gerade jene und der mit ihnen verbundene Formalismus in den Mittelpunkt der Betrachtung. Und mit der Dominanz der mathematischen, insbesondere frequentistischen Statistik wandelte sich das Instrument schließlich zum Selbstzweck, weshalb man heute vor einer problemadäquaten Erweiterung der Stochastik zurückschreckt.326 Pearl (2009a: 412) schreibt zur Frage, weshalb kausale Graphen mit so viel Argwohn aufgenommen werden: The answer, I believe lies deeper, and it has to do with the official language of statistics - namely, the language of probability [. . .]327 The word cause is not in the vocabulary of probability theory; we cannot express in the language of probabilities the sentence, mud does not cause rain - all we can say is that the two are mutually correlated or dependent [. . .] Naturally, if we lack a language to express a certain concept explicitly, we can’t expect to develop scientific activity around that concept [. . .] Scientific development requires that knowledge be transferred reliably from one study to another and, as Galileo showed 350 years ago, such transference requires the precision and computational benefits of a formal language. (Hervorhebungen im Original)

Nicht nur kausale Zusammenhänge lassen sich mit wahrscheinlichkeitstheoretischen Begriffe alleine kaum fassen. Es ist schon ziemlich schwierig, verschiedene Informationsstände, die nicht nur in der Ökonomie von herausragender Bedeutung sind, innerhalb des traditionellen Rahmens der Maß-, 324

Die bestenfalls natürlich kontrolliert, unter Berücksichtigung relevanter Vorinformation, selbst erhoben wurden. 325 326 327

Siehe Fisher (1954), zitiert nach (Bennett 1990: 307) Siehe insbesondere S. 438ff

Hierzu eine kleine historische Notiz: Aus der wohl wichtigsten Zeitschrift der theoretischen Statistik, den Annals of Mathematical Statistics sind in den letzten 40 Jahren folgende Zeitschriften hervorgegangen: Annals of Probability, Annals of Applied Probability, Annals of Statistics, Annals of Applied Statistics[!] und Statistical Science.

5.5 Das Informationsparadigma

525

Integrations- und Wahrscheinlichkeitstheorie elegant abzubilden. Ein Wahrscheinlichkeitsraum (Ω, A, P ) besteht aus einer Grundmenge Ω, einer Verteilung P und einer Sammlung A „schöner“ Teilmengen A ⊆ Ω, die man mit einer Wahrscheinlichkeit P (A) versehen kann. Innerhalb der sogenannten σAlgebra A kann man nun eine Hierarchie von Teilsigmaalgebren A0 , A1 , . . . bilden, die einen sequentiellen Erkenntniszuwachs formalisieren. Neben ihrer fast schon sprichwörtlichen Unanschaulichkeit ist es kaum möglich, mehr als ein paar Informationsstände (wie z. B. aufeinanderfolgende Zeitpunkte) ohne Umschweife zu formalisieren. Selbst ganz zentrale Begriffe wie Suffizienz und Invarianz sind mit einem eher abschreckend-aufwändigen Formalismus verbunden (siehe z. B. Basu (1969) oder Berger (1985)). Die durch von Neumann und Morgenstern (1944) begründete Spieltheorie wurde hingegen dafür gemacht, diverse Akteure - mit je eigenen Informationsund Strategiemengen - abzubilden und mit- bzw. gegeneinander antreten zu lassen. Es ist auch seit langem bekannt, dass man große Teil der Statistik als geeignete Spiele, insbesondere „des Statistikers gegen die Natur“, auffassen kann. Neu ist jedoch, dass es mithilfe sogenannter „Wahrscheinlichkeitsspiele“ gelingt, die gesamte klassische Wahrscheinlichkeitstheorie samt deren fortschrittlichster, maßtheoretischer Beweistechnik328 spieltheoretisch abzubilden. Mehr noch, es stellt sich dabei heraus, dass der spieltheoretische Rahmen stärker ist als der maß- und integrationstheoretische (Shafer und Vovk 2001).329 Zur so erweiterten Fähigkeit, ein System zu beschreiben, tritt unmittelbar der Wunsch, die Reaktion des Systems auf äußere Interventionen zu erfassen. Dem entspricht aus der Warte der Spieltheorie ein Spiel, an dem die äußere Welt teilnimmt. Betrachtet man noch die Abhängigkeiten der Spieler untereinander, so lassen sich darüber hinaus auch Aspekte der Entscheidungsfindung mit einbauen. Eine etwas andere Sicht besteht darin, experimentelle und nicht-experimentelle Beobachtungen in einem umfassenden probabilistischen und zugleich kausalen formalen Rahmen zu interpretieren und so eine Theorie der verallgemeinerten kausalen Inferenz zu etablieren.330 So erfährt das klassische Inferenzmuster von „Vorher, Daten und Nachher“ eine neue, weit umfassendere und zugleich flexiblere Interpretation als je zuvor: A priori lassen sich Strukturen jeglicher Provenienz effizient abbilden, bei den Daten kann es sich um eine Vielzahl von Ereignissen (inbesondere Beobachtungen, Messungen, Interventionen) handeln und das Resultat kann sich mit einer Beschreibung der neuen Situation begnügen oder aber bis zur Entschei328

Martingale, stochastische Prozesse und stochastische Analysis, siehe insbesondere Doob (1953), Chow und Teicher (1997), Schilling (2005) und Deck (2006). 329

Ersterer ist uns schon an anderen Stellen in dieser Arbeit begegnet, letzterer ist ein Schüler Kolmogorovs. Damit wird übrigens auch auf einer weit abstrakteren Ebene eine direkte Verbindung mit de Finetti etabliert, der subjektive Wahrscheinlichkeiten ja gerade mit Wetteinsätzen, also konkreten Spielstrategien, objektivierte. Siehe auch Topsøe (2007) sowie Grünwald und Dawid (2004). 330

Siehe Shadish et al. (2002) und Spirtes et al. (2000)

526

5 Synthese

dungsfindung (auch in einer Gruppe) und Handlung voranschreiten. Letztlich kommt es darauf an, in Abhängigkeit von der Zielsetzung die relevanten Informationen adäquat zu modellieren. Ein primär prognostisches Modell sollte schließlich eine zuverlässige, präzise Vorhersage liefern, während in einem erklärenden Modell alle wesentlichen Faktoren und Zusammenhänge enthalten sein sollten. Grünwald empfindet das Fehlen einer Entscheidungstheorie als das wichtigste Manko des informationstheoretischen MDL-Ansatzes. Da die Spieltheorie auch hier ein reichhaltiges Angebot an Strategien und Kooperationsmöglichkeiten erlaubt, könnte womöglich auch die Handlungskomponente eine angemessene Repräsentation finden, was ein weiteres Argument für diesen Ansatz wäre.331 Selbst die in der Quantenmechanik benötigte Wahrscheinlichkeitstheorie, welche sich nicht innerhalb des heute üblichen maßund integrationstheoretischen Rahmens behandeln lässt, kann auf diese Weise (wieder) eingegliedert werden.332 Kritisch ist eigentlich nur anzumerken, dass die Spieltheorie, ähnlich wie das Bayessche Paradigma vor einigen Jahrzehnten, vor allem „a posteriori“ von Nutzen ist. Das heißt, man kann mit ihm bekannte Lösungen elegant darstellen. Es ist jedoch weit schwerer, die Spieltheorie direkt zur Problemlösung sinnvoll einzusetzen. Der von ihr abgesteckte Rahmen ist weit, und die Möglichkeiten sind so vielfältig, dass es wohl noch einige Zeit dauern wird, bis man zu spieltheoretisch fundierten und problemorientierten Standardverfahren kommt.333

Statistik der Zukunft Zuweilen helfen historische Vergleiche bei der Einordnung einer aktuellen Situation. Die Statistik vor R. A. Fisher war durchgängig bayesianisch. Dieser „katholische Glaube“ ging in den Wirren des 20. Jahrhunderts unter, als sich eine Vielzahl von Sekten entwickelten und die Protestanten unter Neyman und Pearson schließlich die Oberhand gewannen. Es spricht einiges dafür, den aktuellen Trend als „Gegenreformation“ der Bayesianischen Schule zu begreifen. Auch wenn mancher Vertreter dieser Richtung hoffen mag, dass danach alles wieder so sein wird wie zuvor, die Geschichte lehrt, dass das Neue meist völlig anders ist als das Alte. Nachdem sich der Lärm und die allgemeinen Wirren der Reformationszeit gelegt hatten, war nicht das Wiedererstarken 331

Siehe hierzu auch Hutter (2007).

332

Siehe Shafer und Vovk (2001: Abschnitt 8.4). Man beachte auch Khrennikov (2009), wo sogar negative(!) Wahrscheinlichkeiten behandelt werden. 333

Beweistechnisch gesehen ist die Informationstheorie mit einer Reihe fundamentaler Ungleichungen am natürlichsten und mit der Methode der Nicht-Komprimierbarkeit am stärksten. Die Spieltheorie argumentiert standardmäßig mit Gleichgewichten und erzielt die stärksten Ergebnisse mit sehr allgemeinen Sätzen über Spiele, deren Beweise oft ebenfalls nicht-konstruktiv sind. Die Maßtheorie bildet die natürliche Brücke zwischen Analysis (Integrationstheorie) und Stochastik. Außerdem lassen sich wahrscheinlichkeitstheoretische Argumente in fast allen mathematischen Teilgebieten fruchtbar einsetzen.

5.5 Das Informationsparadigma

527

der alten Kräfte der entscheidende Punkt, sondern die allgemeine Toleranz in einer neuen Zeit, der Neuzeit, die nicht mehr von den alten Glaubensbekenntnissen beherrscht wurde. So ist zu hoffen, dass die aktuelle Entwicklung nicht wieder in einen allgemeinen Bayesianismus mündet, sondern in eine Statistik, die ihrer großzügig bemessenen Rolle im Erkenntnisprozess gerecht wird. Konnte man von Seiten der orthodoxen Statistik vorwiegend induktive Vorstöße wie Metaanalyse, EDA, und Data Mining noch als theoretisch wenig fundierte Versuche abtun, Daten anwendungsbezogen auszuwerten, so fällt das bei kausalen Netzen, und anderen Ansätzen, die den wahrscheinlichkeitstheoretischen Rahmen gezielt erweitern, schon weit schwerer. Es kann nicht ohne Auswirkungen auf die Statistik und Datenanalyse bleiben, wenn ein in den empirischen Wissenschaften zentraler, äußerst erfolgreicher Begriff - Kausalität -, elegant formalisierbar wird. Doch es ist letztlich die Klärung des Informationsbegriffs und die mit ihm eng verbundenen Ideen der Komplexität, der Verteilung und der Zufälligkeit, zusammengefasst in einer umfassenden quantitativen Informations- und Kodierungstheorie, welcher der Statistik ein neues Fundament gibt. Unter dem großen Banner der Information, das alle relevanten Aspekte berücksichtigt, lassen sich die zahlreichen Wege und Seitenpfade der „balkanisierten Statistik“ (S. 359) wieder zusammenführen. Moderne Bayesianische Lehrbücher334 gehen zum Beispiel ausführlich auf die Datenerhebung ein. Sie beschreiben, wie Selektions- und Störeffekten konstruktiv zu begegnen ist (siehe auch S. 450). Eine ganze neue Art der Informationssammlung und -Aggregation sind sogenannte “Informationsmärkte”, die sich schon in vielen Fällen als weit besser als klassische, repräsentative Stichproben erwiesen haben (Hahn und Tetlock 2006, Sunstein 2009). Mit kausalen Netzen lassen sich Ursache-Wirkungszusammenhänge und Interventionen elegant formalisieren. MML und MDL sagen einem schließlich, wie man, die Daten in den Mittelpunkt stellend, das richtige Modell auswählt:335 Note that while many sampling-based approaches take a hypothesized model as given and measure how far away the data lie (from the point of view of that model), the MDL approach takes the data as given and asks how far away the model lies (from the point of view of the data).

Dawid und Vovk (1999: 149) schlagen den Bogen zu den ebenfalls schon erwähnten belief functions (S. 421) und dem prequential framework (S. 479). Dieser Vergleich von Prognose und dem Verhalten der Natur kann wiederum in einen spieltheoretischen Rahmen eingebettet werden, und auch der Schritt zur Entscheidungstheorie ist schon getan worden.336 Das heißt, auf allen Ebenen ist die Konvergenz der Ansätze in vollem Gange. 334 335 336

Etwa Carlin und Louis (2000) oder Gelman et al. (2004) Siehe Bryant und Cordero-Braña (2000: 259), Hervorhebungen im Original.

Siehe Hutter (2007) und Vovk (2001), für die zahlreichen Querbezüge zu den o.g. Feldern siehe inbesondere dessen Kapitel 4.

528

5 Synthese

Es ist höchste Zeit für einen konzeptionellen Neuanfang mit einer ausgewogenen Philosophie (Forschungszirkel), ausgeprägter Problemorientierung, unvoreingenommener Zusammenarbeit mit Forschern jeglicher Provenienz und einer systematischen Vernetzung mit allen angrenzenden Wissenschaften. Wer gefragt werden bzw. gefragt sein will, muss selbst bereit sein, ohne Vorbehalte zu kooperieren, offen für Neues sein und konstruktive, problemorientierte Beiträge liefern. Dies leisten die oben vorgestellten Ansätze der letzten Jahre und Jahrzehnte. Es ist zu wünschen, dass sie der Statistik den Weg aus ihrer selbst verschuldeten Isolation bahnen, was jedoch nur gelingen kann, wenn mathematical statistics und statistical science wieder als eine Einheit verstanden werden: However anonymously, the present technological environment has given experimental statistics a revolutionary task: transforming our discipline from the dichotomy of mathematical philosophy and computer-aided empiricism into an experimentally supported information science. (Beran 2001: 261)

Die elegante Kombination der induktiven und deduktiven Sicht, orientiert an der Information in den Daten, war schon der Kern von Fishers Statistik. Man muss nur der intellektuellen Biographie Kolmogorovs folgen, um diese schlagkräftige Mischung wieder zu entdecken. So gelangt man von den Axiomen der Wahrscheinlichkeitstheorie der 1930er Jahre, auf die sich die Statistik noch heute gründet, über die allgemeine Theorie dynamischer Systeme337 zum Komplexitätsbegriff der 1960er Jahre und dem sich daraus ergebenden, heutigen, viel feineren Verständnis von Struktur, Information und Zufälligkeit. Daten sind das Erkenntnisobjekt der Statistik, systematische Zusammenhänge zu erfassen und zu extrahieren ist ihr Lebenselexier, und weil die Wahrscheinlichkeit die induktive Schwester der Information ist, spielen beide in der Statistik eine dominante Rolle. Die konzeptionelle Zukunft der Statistik liegt mit großer Sicherheit in einer innovativen, harmonischen Verknüpfung aller gerade genannten Elemente. Die so entstehende Statistik ähnelt weit mehr einer erfolgreichen empirischen Wissenschaft mit einem eleganten konzeptionellen Kern und einer darauf basierenden effektiven Methodik als angewandter (deduktiver) Mathematik oder heillos zerstrittener Philosophie, die mit prinzipiellen Argumenten um die richtige Fundierung ringt. Dabei spielen spezifische Randbedingungen eine wichtige Rolle, und es zeichnet sich erneut die herausragende Bedeutung von Invarianzen ab. 337

Siehe Kolmogorov (1954) und Broer (2004), wobei auch der Invarianzbegriff eine große Rolle spielt.

5.6 Invarianzen, Symmetrien und Symmetriebrüche

529

5.6 Invarianzen, Symmetrien und Symmetriebrüche Jede oberflächliche Betrachtung verwechselt immer eine Nebenrolle mit einer Rolle im Hintergrund. (Zweig 1977)

Bei aller Methodenvielfalt und der heutigen Pluralität der Ansätze gibt es mehrere übergeordnete Ideen, die immer wieder in ganz unterschiedlichem Gewand auftreten. Eine davon ist der Informationsbegriff, verbunden mit der Überlegung, alle relevanten Informationen geeignet zu formalisieren. Sodann steht man vor dem Problem, das Relevante vom Irrelevanten zu scheiden, also Struktur und Zufall zu trennen, was gerade der Hauptsatz der angewandten Statistik ist. Ganz spezifisch sucht man nach Invarianzen bzw. Invarianten, die maßgeblich anzeigen, welche Eigenschaften wesentlich und was nur von peripherer Bedeutung ist. Dieser Gesichtspunkt ist nicht nur in der modernen Physik immer stärker geworden, er zieht sich, wenn auch wesentlich weniger explizit, durch die gesamte Statistik. Empirisch gesehen zeigt sich Invarianz zunächst als Replikation. Lässt sich ein Ergebnis zuverlässig wiederholen, so schließt man aus, dass es sich dabei immer wieder um eine glückliche Fügung gehandelt hat. Vielmehr ist dies Anlass genug, das Phänomen als überdauernd - invariant in der Zeit - anzusehen und ernsthaft zu würdigen. Kreuzvalidierung ist die kleine Schwester der Replikation, und auch bei ihr ist entscheidend, ob ein Ergebnis im Wiederholungsfall so bleibt, wie es sich zunächst gezeigt hat. Fisher dachte an (kleine) p-Werte und betrachtete ein Phänomen als real, wenn eine Reihe von Experimenten immer wieder zu kleinen p-Werten geführt hatte. Eine Standardvorgehensweise zu Ermittlung für ein Kriterium Y wirklich relevanter Einflussfaktoren Xτ1 , . . . , Xτq aus einer Reihe potenzieller Faktoren X1 , . . . , Xp , wobei q zumeist viel kleiner als p ist, besteht darin, dass man immer mithilfe eines Teils der Faktoren ein (bestmögliches) Modell zur Vorhersage von Y konstruiert. Alle jene Faktoren, die in den meisten dieser Modelle eine (größere) Rolle spielen, die also invariant bzgl. der Modellierung sind, werden als tatsächlich relevant angesehen.338 Selbst de Finettis Begriff der Austauschbarkeit, also Invarianz unter Permutation der Zeitpunkte, wurde genau hierfür gemacht. Humes und Goodmans Paradoxa (S. 197ff), dass morgen alles anders sein könnte als bisher, nehmen erst Gestalt an, wenn man dererlei Regelmäßigkeit nicht voraussetzt. Die klassischen Gütekriterien statistischer Verfahren (z. B. Konsistenz und Erwartungstreue), die Argumentationsmuster der sample space inference - also das zur Zeit wichtigste Beispiel kontrafaktischer Schlüsse - ergeben sich aus der einfachen Frage, was geschieht, wenn man ein Verfahren in derselben Situation mehrfach einsetzt. Die Validität und Reliabilität der Verfahren werden dadurch bestimmt, dass man sie (zumindest hypothetisch) wiederholt anwendet. 338

Man beachte jedoch, dass wie bei Resampling-Verfahren die Daten festgehalten werden.

530

5 Synthese

Denkt man an die Physik, so tritt zur Invarianz bzgl. der Zeit immer die Invarianz bzgl. des Raums. Goodmans Paradoxon, dass sich ein Ergebnis von hier (z. B. Labor A) nicht nach dort dort (z. B. Labor B) übertragen lässt, spielt mit der Idee, dass die Bedingungen in A bzw. B nicht vergleichbar sind, es also immer einen für das Ergebnis eines Experiments wesentlichen Faktor geben kann, bezüglich dessen sich A und B unterscheiden. Wenn wir diesen Faktor nicht kennen bzw. erkennen, und er das Ergebnis des Experiments bestimmt, so lässt sich ein von A gefundenes Resultat nicht auf B übertragen, insbesondere also auch nicht verallgemeinern. Um diesem Einwand zu begegnen, hat man keine andere Wahl, als die Bedingungen in A und B soweit als möglich vergleichbar zu machen. Klassischerweise kontrolliert man explizit alle relevanten Faktoren. Ist dies nicht möglich, so leistet einem die Randomisierung nützliche Dienste. Immer jedoch zielt experimentelles Design darauf ab, die Ausgangsbedingungen vergleichbar zu machen, damit Mills Argument greift: Gibt es a priori keinen (wesentlichen) Unterschied, a posteriori jedoch schon, so muss dies die Folge des experimentellen Eingriffs dazwischen sein. Bei der Zusammenstellung von Gruppen in statistischen Experimenten zeigt sich, dass Austauschbarkeit und Vergleichbarkeit dasselbe sind. Die Experimental- und die Kontrollgruppe liefern genau dann dasselbe Ergebnis, wenn man sie gedanklich austauschen kann, was heißt, dass sie bezüglich aller für das Ergebnis relevanten Variablen vergleichbar sind. Auch für diverse experimentelle Bedingungen gilt: Sind sie austauschbar, so unterscheiden sich die Ergebnisse nicht voneinander. Mit den Worten von Edgington (1995: 346): Every randomization test is a test of the null hypothesis of invariance of the measurements of experimental units over treatment conditions.

Den Hauptgrund, warum wir nach Invarianzen suchen, haben wir bereits zu Beginn (insbesondere in Abschnitt 1.4) ausgeführt: Ändert man die Betrachtungsweise oder aber das Bezugssystem, so sind es gerade die Invarianten, die wesentlich sind. Was hingegen von der Art der Beschreibung bzw. der Beobachtung abhängig ist, kann keine wesentliche Eigenschaft des untersuchten Systems sein. Man könnte auch sagen, dass wir trotz allen (oberflächlichen) Wandels nach Stabilität „hinter“ den Erscheinungen suchen. In diesem Sinne schreibt Pearl (2009a: 182) ganz allgemein: [. . .] humans are generally oblivious to rates and proportions (which are transitory) and [. . .] constantly search for causal relations (which are invariant).

Wird ein Phänomen modelliert, schätzt man eine Größe oder testet einen Sachverhalt, so ist es nicht nur naheliegend, sondern sogar zwingend erforderlich, den Blick in Richtung Invarianzeigenschaften zu lenken. Dies führt technisch gesehen auf Klassen von Transformationen, wie sie uns zum ersten Mal in der Messtheorie begegnet waren. Doch auch objektive Bayesianische Verfahren werden systematisch auf ihre Invarianzeigenschaften relativ

5.6 Invarianzen, Symmetrien und Symmetriebrüche

531

zu Transformationen untersucht.339 Die Idee konsistenter subjektiver Überzeugungen lässt sich mit Invarianzargumenten stützen,340 und auch die Erweiterung des Bayesschen Mechanismus wird so begründet: „[. . .] As long as invariance holds, updating is valid by a generalization of conditioning [. . .] (Jeffrey 2004: 57). Schon beim p-Wert ist eine Invarianzüberlegung grundlegend: It is not difficult to see how ‘Student’ and Fisher found themselves defending the use of the P integral. For if one accepts that it is possible to test a null hypothesis without specifying an alternative, and that the test must be based on the value of a test statistic in conjunction with its known sampling distribution on the null hypothesis, then the integral of the distribution between specified limits is the only measure which is invariant to transformations of the statistic. If follows that one is virtually forced to consider the area between the realized value of the statistic and a boundary as the rejection area - the P integral, in fact. (Edwards 1972: 176), zitiert nach Oakes (1986: 122).

Nicht nur in den genannten Fällen sind Invarianzen einzelner Statistiken oder ganzer Methoden immer Argumente für das jeweilige Verfahren. Einem kritischen Forscher wie Basu (1969: 160) fiel deshalb schon früh auf, dass “in statistical literature, the principle of invariance has been used in a rather halfhearted manner.” Im genannten Artikel untersucht er deshalb den Zusammenhang zwischen Suffizienz und Invarianzeigenschaften des Stichproben- sowie des Parameterraums und stellt dabei enge Zusammenhänge fest. Auf beiden Räumen handelt es sich um Teilmengenbeziehungen, wenn man diese Zusammenhänge mithilfe von σ-Algebren formuliert. D.h., eine der beiden Reduktionsmöglichkeiten umfasst die jeweils andere. Auf dem Parameterraum, der für Bayesianer wichtiger ist, ist bezeichnenderweise Invarianz der stärkere Begriff, während auf dem Stichprobenraum, mit dem die frequentistische Statistik primär arbeitet, Suffizienz stärker ist. Die oben dargestellte historische Entwicklung erklärt sofort, warum heute Suffizienz unumstritten ist, während ein systematisches Studium von Invarianzargumenten und erst recht eine Interpretation der formalen Invarianzeneigenschaften in den letzten Jahrzehnten vernachlässigt wurden. (Siehe auch S. 166.) Bemerkenswerterweise konnte Basu jedoch vielen frequentistischen Ad-hoc-Verfahren dadurch eine logische Rechtfertigung geben, dass er sie in einen geeigneten Bayesschen Rahmen stellte. Wallace (2005: 32) wischt “Non-Bayesian Inference” sogar mit den Sätzen vom Tisch: Note that the considerations of bias and variance apply only to a particular para2 meterization of the model family. For instance in the above example, while σ ˆU B is an unbiased estimate of σ 2 , σ ˆU B is not an unbiased estimate of σ.341 Also, the few 339

Siehe insbesondere Barnard (1971: 414), Good (1971b: 415) und Berger (1985) Siehe de Cooman und Miranda (2007: 67), die bei solchen “belief models” feinsinnig zwischen “[. . .] weak invariance (representing symmetry of beliefs) and strong invariance (modeling beliefs of symmetry)” unterscheiden. 341 Genau dasselbe Argument findet sich bezeichnenderweise schon bei Fisher (1973: 146ff), siehe auch die Fußnote S. 368. 340

532

5 Synthese

model families which admit of Minimum Variance Unbiased estimators have such estimators for only one parameterization. Thus, the usefulness of these considerations is quite limited.

Diese missliche Tatsache war schon sehr früh aufgefallen, siehe insbesondere die Anmerkungen von Stegmüller und Hacking (S. 157) beim Schätzproblem. Auch die Bayessche Lösung des Schätzproblems kritisiert Wallace (2005: 39, 54) vor allem wegen fehlender Invarianzeigenschaften. Auf der zuletzt genannten Seite schreibt er beispielsweise: “The Bayesian approach [. . .] offers no general method of selecting a ‘best’ estimate which is not tied to a particular parameterization of the model family.” Ähnlich äußern sich Balasubramanian (2005) und Hutter (2007).342 Letzterer motiviert damit den in einem sehr allgemeinen Sinn invarianten universal prior für eine Parametrisierung θ, nämlich 1/2K(θ) , wobei K(·) die Komplexität ist.343 Ganz allgemein fällt immer wieder auf, dass hinter der Ebene der üblichen statistischen Rechtfertigung einer Vorgehensweise eine tiefere „invariante“ Begründungsebene liegt. Zuweilen wird jene explizit ausgeführt, wie bei Matching Verfahren,344 in Bayesschen Argumentationsmustern, im experimentellen Design (Pukelsheim 1993) oder von Autoren mit fachwissenschaftlichem Hintergrund.345 Heckman (2005: 138) sagt z. B.: “Rubin’s STUVA346 is a version of an invariance assumption developed in econometrics some 40-50 years ago [. . .]” Ibd., S. 48, schreibt er “ ‘Deep structural’ parameters [. . .] are invariant to policy modifications [. . .]” und S. 46 heißt es unter dem Titel Structure as Invariance: A basic definition of a system of structural relationships is that it is a system of equations invariant to a class of modifications or interventions.

Je allgemeiner die Fragestellungen werden, d.h., je mehr man sich vom Kontextwissen, spezifischen Rahmenbedingungen und deren Charakteristika entfernt, desto dominierender werden Invarianzüberlegungen.347 Nachdem Rodríguez (2005) ein neues, noch komplexeres Kriterium (CIC) zur Auswahl eines Modells vorgeschlagen und untersucht hat, schreibt er am Ende seines Artikels, S. 87: It is natural to decompose AIC, BIC and CIC as the sum of two terms. The term providing the fit of the data to the model (common to all three criteria) plus the rest. That rest is obviously a penalty on the complexity of the model. In retrospect, it is to be expected that the complexity of a model M should involve some (or all?) of its geometric and topological invariants like: dimension, volume and curvature, as CIC does. But we need to keep in mind that CIC, like AIC and BIC, is only an 342

Siehe S. 477 und 261

343

Man vergleiche dies auch mit S. 467f. Siehe Rubin und Thomas (1992)

344 345 346 347

Etwa Jeffreys, Jaynes, Heckman und Pearl Siehe S. 450

Man beachte jedoch S. 161, d.h., man missachte nicht relevante Spezifika, wie die konkret verwendete Skala.

5.6 Invarianzen, Symmetrien und Symmetriebrüche

533

approximation. It would be much better to be able to show that useful models spring from the optimization of a global topological quantity, like the total (or mean?) curvature of M . In fact, we know that this is precisely the case in classical physics.348 (Meine Hervorhebung)

Symmetrien und Symmetriebrüche Man unterschätze auch nicht die Bedeutung von Invarianzargumenten in der orthodoxen Statistik. Neben „direkten“ Symmetrieüberlegungen349 ist dort der wichtigste Gesichtspunkt, was on the long run passiert. In einem Gedankenexperiment wird das zur Diskussion stehende Verfahren also unter völlig vergleichbaren Bedingungen häufig oder sogar beliebig oft wiederholt. Die Symmetrie steckt hier in den (hypothetisch) festgehaltenen, identischen Randbedingungen, welche nicht nur immer gleich, sondern gerade auch so präzise sind, dass Wahrscheinlichichkeitsaussagen möglich sind, was unmittelbar zu den Grenzwertsätzen der Stochastik führt. Unser heutiges Bild der Statistik wird dem entsprechend von Zufallsexperimenten und -prozessen dominiert. Gerade die klassischen Zufallsexperimente sind nichts anderes als idealtypische Situationen, die sich durch außerordentlich große Transparenz und Einfachhheit auszeichnen. Es sind die Symmetrien dieser idealen Modelle, welche die Gesetze ermöglichen, da ihre Regelmäßigkeit zu unzweideutigen logischen Wahrscheinlichkeiten führen, aus denen sich allgemeingültige stochastische Gesetze herleiten lassen. Letztlich basieren alle bedeutenden stochastischen Gesetze auf der Wiederholung weniger, immer gleicher Elemente, was auf einer eher philosophischvagen Ebene auch „erklärt“, weshalb es überhaupt Gesetze des (eigentlich regellosen) Zufalls gibt. Die Regelmäßigkeit kommt nicht daher, dass man im Einzelfall sagen könnte, was sich ereignet, die Gesetze für Zufallsvariablen rühren daher, dass man immer wieder dasselbe (bzw. ganz ähnliches) tut. Auch andere wichtige Begriffe der Wahrscheinlichkeitstheorie gründen sich auf Symmetrien. Vergleichbarkeit bzw. Austauschbarkeit hatten wir schon erwähnt. Sie bedeutet die (empirische, also näherungsweise) Gleichheit bzgl. aller wesentlichen Faktoren. Unabhängigkeit geht noch weiter: Hier sind die zugehörigen Zufallsvariablen stochastisch völlig ununterscheidbar. Selbstverständlich sind auch wichtige Eigenschaften von Verteilung (geometrische Symmetrien, unendliche Teilbarkeit), Graphen und Bäumen (Wiederholung derselben Grundbausteine) als „Selbstähnlichkeiten“ oder eben Symmetrien begreifbar. Die wohl tiefliegendste Bedeutung von Symmetrien in der Statistik haben wir über die enge Beziehung der Stochastik zur Komplexitätstheorie und der Universalität der binären Codierung aufgedeckt. Die Reduktion aller Überlegungen auf das Studium binärer Zeichenketten offenbart, dass sich die ge348

Siehe auch schon S. 477.

349

Siehe z. B. Marden (2000: 1317) und die ebendort genannten Bezüge.

534

5 Synthese

fundenen Gesetzmäßigkeiten letztlich aus der hochgradigen Symmetrie eben jener Situation herleiten. Es ist die Universalität der binären Codierung (verbunden mit der universellen Verarbeitung von Information, also dem universellen Computer) welche alles auf einer abstrakten Ebene vergleichbar macht. So kommt man in eine perfekt symmetrische und zugleich einfache Situation, die äußerst bemerkenswerte mathematische Eigenschaften haben muss. Selbst der Wahrscheinlichkeitsbegriff wird letztlich auf Symmetrieüberlegungen gegründet: Bei der logischen Wahrscheinlichkeit liegt es am Aufbau der Situation (Bsp.: Würfel), nicht minder bei der universellen Wahrscheinlichkeit. Bei Häufigkeiten geht jede Beobachtung mit demselben Gewicht ein (Bsp.: 3 von 8 Personen besitzen eine Eigenschaft), was auch in der klassischen Definition von Wahrscheinlichkeit als „(Anzahl der) Günstigen / (Anzahl der) Möglichen“ zum Ausdruck kommt. Beim Indifferenzprinzip argumentiert man völlig analog, d.h. jede der ins Auge gefassten Möglichkeiten dieselbe „Chance“ zugeordnet bekommt. Dies ist auch so bei der empirischen Verteilungsfunktion und Permutationsverfahren, wenn jede tatsächlich gemachte Beobachtung (a posteriori) dasselbe Gewicht erhält. (Deterministisches) Chaos ist oft nicht von Zufall zu unterscheiden, weil die Situation lediglich erlaubt, aufgrund von Symmetrieüberlegungen eine Wahrscheinlichkeitsverteilung anzugeben.350 Wahrscheinlichkeit als subjektiver Überzeugungsgrad entzieht sich nur scheinbar dem Symmetrieargument, denn es sind gerade die kohärenten Randbedingungen, die grundlegenden Axiome von Rationalität, welche den Begriff hier festlegen. Die Coxschen Axiome (siehe S. 252) lassen sich zum Beispiel so lesen, dass sie zum einen alle Aussagen x und y gleich behandeln und zum anderen die zugehörigen Überzeugungsgrade vergleichbar machen. In einer konkreten Situation determinieren dann diese (symmetrischen Rand-)Bedingungen konsistenten Verhaltens, welche numerischen Werte die Wahrscheinlichkeiten annehmen müssen. Schließlich verflüchtigt sich das „Metaphysische“ an der Propensity-Interpretation der Wahrscheinlichkeit unmittelbar, wenn man das in sich unbestimmte Objekt als Urne mit (bis auf die Farbe) identischen Kugeln interpretiert, wie wir es S. 484 getan haben. Ganz allgemein rücken Invarianz- und Symmetrieüberlegungen die Statistik näher an die Physik, der nach wie vor konzeptionell führenden Wissenschaft, was auch den durchaus erwünschten Nebeneffekt hat, sie wieder mehr als statistical science - und eben nicht Technik oder Mathematik zu begreifen. Erfolgreiche physikalische Überlegungen lassen sich zuweilen direkt auf die Statistik übertragen. Das physikalische Konzept des Phasenübergangs beschreibt zum Beispiel, wann sich das Verhalten eines Systems qualitativ verändert.351 Im Zusammenhang mit der besten Art der Modellselektion schreibt Balasubramanian (1997: 363): “Phase transitions arise from a competition between entropy and energy, which, in the present context, is a competition between simplicity and accuracy.” Genau diese Frage stellt 350

Dies mag an unserer mangelhaften Information liegen oder aber, eine genauere Beschreibung ist prinzipiell nicht möglich, siehe S. 514. 351

Klassisches Beispiel: Eis - Wasser - Wasserdampf, also schmelzen und verdampfen.

5.6 Invarianzen, Symmetrien und Symmetriebrüche

535

sich auch die Sensitivitätsanalyse bzw. die robuste Statistik, welche ebenfalls herausfinden will, wie stark sich Bedingungen verändern dürfen, bis eine Lösung qualitativ anders wird. (Bezeichnenderweise spricht man vom breakdown point einer Statistik.) Greenland (1990), führt nach dem S. 174 gebrachten Zitat aus: One response to the last problem352 is to conduct a sensitivity analysis, in which the analysis models (and hence the assumptions) are systematically varied to identify those findings (if any) that are relatively unaffected by model choice (Leamer (1978, 1985)). Many investigators already employ an informal sensitivity analysis, insofar as they apply a variety of analytical techniques to their data to identify findings that emerge under every technique. (Hervorhebung im Original.)

Ganz im Sinne einer Invarianzüberlegung fährt er fort: “This ‘serial’ method of evaluating findings should be contrasted to the potentially biases ‘parallel’ approach, in which a finding is considered ‘real’ if it emerges from just one of many techniques.” Bislang wird Robustheit im Wesentlich als wünschenswert angesehen. Wir hatten jedoch schon festgestellt, dass Robustheit nicht wünschenswert ist, wenn sie mit der Verschwendung von Informationen einher geht, das Verfahren also einfach nur grob ist (siehe S. 336). Hier zeigt sich pointiert, dass das Abschneiden einer Methode immer auch von der speziellen Situation abhängt. Genausowenig wie irgendein Verfahren das Verhalten chaotischer System längerfristig zuverlässig vorhersagen kann, genausowenig ist es möglich, in der Nähe eines Phasenwechsels zuverlässig zu agieren. Kleine Änderungen in den Daten oder Randbedingungen werden dann zwangsläufig zu großen Unterschieden in den Ergebnissen jeglicher Methode führen. Es ist deshalb interessant zu fragen, wie weit vorliegende Daten von einem Phasenwechsel entfernt liegen, wie sehr sie sich also ändern müssten, um eine wesentliche Änderung in der Inferenz zu bewirken.353 Wie bedeutsam einschlägige Symmetriebetrachtungen in der Physik sind, stellt schon Wigner (1949: 522) heraus: [Einsteins] papers on special relativity also mark the reversal of a trend: until then, the principles of invariance were derived from the laws of motion [. . .] It is now natural for us to try to derive the laws of nature and to test their validity by means of the laws of invariance, rather than to derive the laws of invariance from what we believe to be the laws of nature.

Feynman (2007: 118) geht sogar bis auf Poincaré zurück354 und Weinberg (1992: 158f), zitiert nach Nozick (2001: 81f), ergänzt: 352

Elaborierter Modelle, die auf vielen, schwer zu rechtfertigenden Annahmen basieren Dies wäre eine bedeutsame Verallgemeinerung der Forschungsrichtung, die mit der robusten Statistik und dem file drawer problem (Rosenthal 1979) begann. (Wie viele Studien mit gegensätzlichem Ergebnis müssten in der Schublade verschwunden sein, damit jene eine bisherige Schlussfolgerung umkehren könnten?) Ganz allgemein ist es von Interesse, mit einem Datensatz x, immer auch dessen Umgebung Uε (x), also ähnliche Datensätzen, zu betrachten, und zu studieren, wie sich ein Verfahren bzw. Ergebnis dort verhält. 353

354

Zudem widmet er Symmetrien und den zu diesen gehörigen Erhaltungssätzen mehrere Kapitel seines Buches.

536

5 Synthese

It seems that in the 1930’s it was simply not good form to write papers based on symmetry principles. What was good form was to write papers about nuclear forces [. . .] Symmetry principles were regarded as mathematical tricks; the real business of physicists was to work out the dynamical details of the forces we observe. We feel different today. If experimenters were to discover some new particles [. . .] the mail would instantly be filled with hundreds of preprints of theoretical articles speculating about the sort of symmetry that underlies this family structure, and, if a new kind of force were discovered, we would all start speculating about the symmetry that dictates the existence of that force.355

Das einfachste Beispiel eines Symmetriebruchs stellt bezeichnenderweise wieder das Bit bzw. der Münzwurf dar: Vor dem Wurf bzw. vor der Festlegung des Bits ist die Situation perfekt symmetrisch. Es gibt zwei Möglichkeiten und keine ist vor der anderen ausgezeichnet. Mit dem ersten Wurf bzw. der Belegung des Bits muss sich das System für eine Richtung entscheiden. Statt ausgewogen zwischen zwei Optionen zu balancieren wird es zur maximal möglichen Asymmetrie gezwungen: Eine der Optionen wird zur Realität, während die andere keine Rolle spielt. Betrachtet man nun das Ensemble von mehr und mehr Würfen (n groß) so setzt sich die anfängliche Symmetrie wieder durch, denn fast alle Folgen x1 , . . . , xn enthalten in etwa dieselbe Anzahl beider möglichen Zeichen, im dem Sinne dass die relative Häufigkeit der „1“ gegen 1/2 konvergiert. Der Symmetriebruch „glättet“ sich nach und nach aus. Es sind die vermeintlichen Gesetze des Zufalls, die diese Annäherung an den ursprünglichen Zustand der Symmetrie - vor dem ersten Wurf - beschreiben, d. h., sie geben an, mit welcher Geschwindigkeit die durch das endliche n erzwungene Asymmetrie „überwunden“ wird. Jedoch ist die zugehörige Interpretation kombinatorischer Natur:356 Die Gesetze zählen einfach nur aus, wie sich die Pfade x1 , . . . , xn auf den Raum aller möglichen Zustände, von (0, . . . , 0) bis (1, . . . , 1) verteilen. Erst im (idealisierten) asymptotischen Fall unendlich vieler Würfe ist alles wieder im Gleichgewicht, also genau gleich der Situation vor dem ersten Wurf. Beide sind perfekt symmetrisch, bevorzugen also keine der beiden Möglichkeiten. In diesem Sinne verflüchtigt sich die Symmetriebrechung der einzelnen Realisierung im kollektiven Verhalten aller möglichen Folgen x1 , x2 , . . . Die Informationstheorie sieht dies genauso; die meisten (langen) Zeichenketten besitzen (fast) maximale Komplexität, sind also auch hochgradig symmetrisch und nennen deshalb viele „schöne“, also einfachen Regeln folgende Eigenschaften ihr eigen.357 355

Die beiden genannten Autoren sind keine Ausnahme. Zahlreiche bedeutende Autoren haben zur Diskussion beigetragen, etwa Post (1971), Nagel (1979), Weyl (1983), van Fraassen (1990) und Suppes (2001). Für einen aktuellen Überblick siehe Debs und Redhead (2007). 356

Das S. 455 gebrachte Zitat “Information theory must precede probability theory, and not be based on it” Kolmogorovs hat, wie schon S. 465 erwähnt, den bemerkenswerten Nachsatz: “By the very essence of this discipline, the foundations of information theory have a finite combinatorial character.” 357 Insbesondere genügen sie stochastischen Gesetzen und allen „effektiven“ Tests auf Zufälligkeit. Für eine kurze Zusammenfassung siehe Cover und Thomas (2006: Abschnitt 14.5; 479) sowie Li und Vitányi (2008: 56).

5.6 Invarianzen, Symmetrien und Symmetriebrüche

537

Die endlichen Folgen lassen sich als Approximationen der unendlichen auffassen, welche umso besser ausfällt, je größer die Anzahl n der möglichen Zustände (X1 , . . . , Xn ), also die Komplexität des Systems ist. Man beachte jedoch, dass für jedes endliche n die Konstellation weniger symmetrisch ist als im asymptotischen Fall. Während in der asymptotischen Situation fast alle Folgen x1 , x2 , . . . genau zur Hälfte aus einem der beiden Symbole bestehen,358 gilt dies für x1 , . . . , xn nur näherungsweise. Zugespitzt formuliert: Endlichkeit ist eine restriktive Randbedingung, welche Symmetriebrüche erzwingt - perfekte Symmetrie gibt es nur im Unendlichen. Durch das Mehr an Symmetrie im Unendlichen ergibt sich dort die dichotome Einteilung in zufällig versus nicht-zufällig, während man im Endlichen n-fach gestufte Grade der Komplexität unterscheiden muss (siehe S. 488). Diesem Weg konsequent folgend sind die wichtigsten Themen der heutigen theoretischen Physik “Laws, Symmetry, and Symmetry Breaking: Invariance, Conservation Principles, and Objectivity”.359 Das zentrale philosophische Ergebnis lässt sich in der Gleichung objectivity = invariance zusammenfassen. Jene erläutert Nozick (2001: 75ff) ganz ähnlich wie wir es in Abschnitt 1.4 getan haben: There are three strands to our ordinary notion of an objective fact or truth. First, an objective fact is accessible from different angles. Access to it can be repeated by the same sense (sight, touch, etc.) at different times; it can be repeated by different senses of the same observer; and also by different observers. Different laboratories can replicate the phenomenon [. . .] The second mark of an objective truth, related to the first, is that there is or can be intersubjective agreement about it. And the third feature concerns independence. If p is an objective truth, then it holds independently of people’s beliefs, desires, hopes, and observations or measurements that p.

Zur Verdeutlichung stellt er auch das Gegenteil dar: What can be experienced only at one instant by one sense modality of one observer is indistinguishable from random noise and does not (securely) count as an objective fact.

Schließlich betont er, dass Invarianz die übergeordnete Idee ist: However, there is a fourth and more fundamental characteristic of objective truth that I want to investigate here. An objective fact is invariant under various transformations. It is this invariance that constitutes something as an objective truth, and it underlies and explains the first three features (to the extent that they hold). 358

Und auch irgendeine andere Eigenschaft entweder haben oder nicht, was als „Null-EinsGesetz“ bezeichnet wird 359 Siehe (Earman 2004), van Fraassen (1990), für eine umfassende Darstellung Talal und Redhead (2007).

Kapitel 6

Integrative Wissenschaftstheorie

Man, being the servant and interpreter of nature, can do and understand so much and so much only as he has observed in fact or in thought of the course of nature: beyond this he neither knows anything nor can do anything. (Bacon 1620: Buch 2, Aphorismus 4, letzter Satz)

Wir kommen nun der Aufforderung Kempthornes (S. 247) nach und erweitern den unteren Teil des Forschungszirkels zu einer kompletten Wissenschaftstheorie. Der Umgang mit Daten wird so zum Herzstück quantitativer und oft mit größeren Unsicherheiten behafteter empirischer Wissenschaft, während sich der gesamte Zirkel (Abschnitt 5.2) als „Rad der Erkenntnis“ der empirischen Wissenschaften verstehen lässt. Dempster (1990: 262) formuliert wie folgt: “Statisticians participate directly and indirectly in scientific developments in many fields where statistical methodology is applied, so are well placed to develop a philosophy of science, including statistical science, that accords with the realities of practice.”

6.1 Der Forschungszirkel II [. . .] None but a fool or madman will ever pretend to dispute the authority of experience [. . .] (Hume 1748: Kapitel IV, Teil II)

Der Forschungszirkel1 funktioniert, indem, ausgehend von empirischer Erfahrung, “bottom up” induktive Verallgemeinerungen vorgenommen werden, welche sich zunächst zu einzelnen Hypothesen und dann zusammenhängenden Theorien verdichten. Letztere wiederum leiten uns “top down” bei der Suche nach Neuem, das heißt bei der Erhebung und anschließenden Bewertung neuer Daten, origineller Experimente usw.: 1

Siehe Abschnitt 5.2

U. Saint-Mont, Statistik im Forschungsprozess, DOI 10.1007/978-3-7908-2723-1_6, © Springer-Verlag Berlin Heidelberg 2011

539

540

6 Integrative Wissenschaftstheorie

Setzungen Hypothesen  Substanzielle Generalisierung

Formale Ableitung  Theorem

Numerisches Resultat

Operationalisierung 

 Formale Argumente Daten

Daten

Die Bewegung im Forschungszirkel ist kein Selbstzweck. Sie verfolgt das Ziel, systematisch Informationen über die die Realität zu gewinnen, d. h., die Realität besser zu verstehen. So gesehen ist er ein Werkzeug, das die dicken Bretter der Wirklichkeit bearbeitet oder sogar eine aufwändige Maschine, die sich durch das harte Gestein der Fakten wühlt. Es verblüfft dabei nicht, dass Experimenten eine so große Bedeutung zukommt, stellen sie doch gezielte Fragen an die Natur dar. Wie ein Handwerker, der mit großem Geschick das richtige Werkzeug an der passenden Stelle ansetzt, muss auch ein empirisch arbeitender Wissenschaftler darauf bedacht sein, seine Methoden sorgfältig auszuwählen und durch die Wahl einer aussichtsreichen Stelle voll zur Entfaltung kommen zu lassen. Mehr noch: Wie ein Chirurg muss auch er viele Methoden erst entwickeln, um in entlegeneren Bereichen erfolgreich operieren zu können. Hat man dergestalt Erfahrungen gesammelt, wird man versuchen, sie in eine logische widerspruchsfreie Form zu bringen. Wesentliche Begriffe und Zusammenhänge zeichnen sich mit der Zeit ab, die die Fakten vernetzen und auseinander herleiten. Im Laufe der Zeit wächst so ein Beziehungsgeflecht aus Begriffen und Erfahrungstatsachen. Wissen häuft sich an und wird tradiert. Und je mehr organisiertes Wissen vorhanden ist, umso gezielter kann man wiederum von der Theorie in die Erfahrung gehen, Vorhersagen prüfen und die Qualität der Daten steigern, z. B. indem man die Präzision von Messungen erhöht. In diesem Kreislauf sind alle Abschnitte wichtig. Man darf keinen Aspekt vernachlässigen oder überbetonen, ohne dass dies zum Nachteil des Ganzen wäre. Der einzige ausgezeichnete Punkt der Unternehmung ist „ganz unten“, wo der Kontakt mit der Realität hergestellt wird. Ohne ihn als Fundament und als Richter über unsere konzeptionellen Vorstellungen gäbe es keine moderne, empirische Wissenschaft und erst recht keinen zügigen Fortschritt, den wir fast als selbstverständlich hinnehmen. Genau deswegen ist Wissenschaft auch wahrheitsfähig und unterscheidet sich ganz entscheidend von allen anderen Glaubenssystemen: Ohne valide, reliable Daten gibt es auch keine präzisen und nützlichen Theorien. Zusammengefasst heißt das: 1. Der Archimedische Punkt jeder empirischen Forschung sind die Daten, also der gewollte, systematisch gesuchte Kontakt mit der empirischen

6.1 Der Forschungszirkel II

2.

3.

4.

5.

541

Erfahrung. Vernachlässigt man ihn, so löst sich bildlich gesprochen der Forschungszirkel aus seiner Verankerung. Die so gewonnenen Erfahrungen müssen einen entscheidenden Einfluss auf das Geschehen ausüben. Insbesondere verändern sie Einstellungen und motivieren zur Theoriebildung. Die große kreative Leistung in der Wissenschaft besteht in der Zusammenfassung vieler Einzelresultate zu einem oder wenigen in sich stimmigen Modell(en) bzw., noch etwas abstrakter, Theorie(n). Mithilfe dieser allgemeinen Konzepte lassen sich gezielt neue interessante Fragestellungen ableiten, Hypothesen generieren und aussichtsreiche Untersuchungen formulieren. Damit ist man wieder bei den Daten, dem Fußpunkt aller Wissenschaft angelangt.

Es ist letztlich die Realität, die sich in den Daten abbildet, auf denen alles beruht, wo überraschende Entdeckungen gemacht werden, und wo sich schließlich auch das Schicksal von Theorien entscheidet. Die Motti dieses Abschnitts und Kapitels formulieren diese Einsichten prägnant.

6.1.1 Induktion und Deduktion Wir glauben, dass sich Galilei durch eine ausgewogene Kombination von induktiver und deduktiver Methode auszeichnete und dass dies gerade der Schlüssel zu seiner bahnbrechenden Forschertätigkeit war. Schmutzer und Schütz (1989: 94)

Wir betonen nochmals ausdrücklich, dass sich im Forschungszirkel induktive und deduktive Methoden harmonisch ergänzen. Tukey (1986b: 228) beschreibt eindrucksvoll, warum sowohl deduktiv-konfirmatorische als auch induktiv-explorative Analysen unabdingbar sind: “[I recommend] a combined policy, where an analysis is planned before seeing the data (preferably before gathering it) but the actual analysis in not confined to that which was planned in advance. Is this really the best way to proceed? What are the pros and cons? Some would hold, indeed, that there is something unethical about allowing the data to guide its own analysis. Some of these would once have been (and some still are) purely mathematical statisticians, who sought exactness of probability statements and who saw no way to save this exactness if the mode of analysis was not prechosen. Others must have been urged on by feelings for which I have no ready analysis.2 The discomfort of the ‘purely mathematical’ statisticians revolved mainly, in my judgement, around problems of multiple comparisons and complex experiments.” Mit Techniken wie 2

Möglicherweise spielt Tukey damit auf die von uns häufig angetroffene und besprochene deduktive Grundhaltung an.

542

6 Integrative Wissenschaftstheorie

der α-Adjustierung konnten diese Probleme mathematisch überzeugend überwunden werden. Gleichwohl, “In the meantime, however, the principle that it is wrong for the data to guide its analysis has become an emotional commitment for too many. Even though its main reason for being has disappeared, we may expect this view to be clung to.” Unmittelbar im Anschluss wechselt Tukey auf die induktive Seite: “On the other side of the picture, it is even easier to argue that not letting the data guide its own analysis is unethical . . . not just statistically unethical, but scientifically unethical. If the data is really trying to tell us something, should we stop our ears to the answer, just because we didn’t think of the question in advance? Clearly not if we are seeking knowledge. We cannot afford to seek knowledge at the price of maintaining no contact at all with the reality of the likely effects of random fluctuations, but since present-day statistical techniques (and even more those of the near future) allow us to combine increasing degrees of data-guidance of analysis with reasonable control of exactness of probability statement, we dare not bind ourselves from the data-guidance in the conduct of our analyses.” Dies vertieft er in Tukey (1986d: 806): “[. . .] exploratory data analysis is an attitude, a state of flexibility, a willingness to look for those things that we believe are not there, as well as for those we believe might be there.” Zudem: “It is not enough to look for what we anticipate. The greatest gains from data come from surprises.” (Tukey 1973b: 793) Viele Autoren betonen an dieser Stelle auch die Analogie zur akribischen Analyse von Spuren bei der Aufdeckung von Kriminalfällen. Gerade dort können Vorurteile schnell in die Irre führen. Leamer (1983: 40) zitiert sogar ausdrücklich Sherlock Holmes: “It is a capital mistake to theorize before you have all the evidence. It biases the judgements.” Wirklich erfolgreiche Forschung kombiniert beide Erkenntnisrichtungen situationsadäquat und führt keine Glaubenskriege für die eine und gegen die andere Seite. Das heißt kurz und bündig: “Data analysis is like doing experiments” (Tukey und Wilk 1966: 552). Sie fahren fort: “The general purposes of conducting experiments and analyzing data match, point by point.” Es folgt eine lange Liste von (deduktiven wie induktiven) Analogien, insbesondere mit den Elementen description, discovery, confirmation, generation of ideas, die sie mit dem Satz beenden (ibd., S. 553): In summary, data analysis, like experimentation, must be considered as an openended, highly interactive, iterative process, whose actual steps are selected segments of a stubbily branching treelike pattern of possible actions.3

Ein schönes Beispiel liefern neue zugelassene Medikamente, also das Ergebnis erfolgreicher Pharmakologie. Zum einen werden mithilfe von physikalischchemischen Modellen aussichtsreiche Substanzen gezielt synthetisiert und 3

Wir verweisen auch nochmals auf Tukey (1980a) und Box (1990a: 390): “ [. . .] the proper study of the statistician is scientific method [. . .] an understanding of the process of investigation involves such things as the roles of induction as well as deduction, the nature of scientific learning, the importance of subject matter knowledge [. . .]”

6.1 Der Forschungszirkel II

543

dann systematisch auf ihre Wirksamkeit getestet. Diesem hypothesengeleiteten Vorgehen steht die routinemäßige Durchmusterung neuer, und oft in völlig anderem Zusammenhang hergestellter Stoffe auf ihre pharmakologische Wirkung hin dar. Beidesmal ist man offen für Überraschungen, kann es doch immer unerwartete Wirkungen aber auch Nebenwirkungen geben. Der Erfolg ergibt sich aus der situationsadäquaten Kombination beider Erkenntnisrichtungen, und es wäre töricht, aus prinzipiellen Gründen eine der beiden Richtungen auszuzeichnen oder zu ächten.4

6.1.2 Die historische Entwicklung von Wissenschaften So fängt denn alle menschliche Erkenntnis mit Anschauungen an, geht von da zu Begriffen und endigt mit Ideen. (Kant 1781: 649)

Die bisherigen Ausführungen in diesem Kapitel könnten den Eindruck entstehen lassen, der Forschungszirkel sei von Anfang an komplett oder er funktioniere nur, wenn er vollständig ist. Betrachtet man die historische Entwicklung von Wissenschaften, so erkennt man unschwer, dass dem nicht so sein kann. Vielmehr muss die Entwicklung bei der Empirie beginnen, und mit einer Wissenschaft wächst auch der zu ihr gehörige Forschungsprozess.

Von der Praxis zur Theorie - und zurück Jegliche empirische Theorie beginnt mit Fakten und wenigen, eher punktuellen Einsichten. Wie im Fall der Medizin ist im Vorfeld oft ein mehr oder minder ausgeprägter Erfahrungsschatz vorhanden. Wissenschaft beginnt, wenn dieser systematisch und kritisch überprüft und erweitert wird, wobei die Empirie das entscheidende Votum abgibt. Genau an dieser Stelle unterscheidet sie sich fundamental von Pseudowissenschaft, die nur vorgibt, so zu verfahren. Nun betonen viele Wissenschaftler, dass der induktive Teil von Erkenntnis der wichtigere ist. Woher kommt diese Einschätzung? Auf der Suche nach empirischem Wissen muss man ohne brauchbare Theorie natürlich bei den Fakten beginnen - wo sonst?5 Daraus folgt sofort, dass wir in all jenen Fel4

Der bedeutende Pharmakologe Born (2004) kommentiert deshalb äußerst kritisch, dass das blinde Ausprobieren überhand nimmt: „Fast scheint es, daß Methoden, die systematisch auf einem tieferen Verständnis von Krankheiten aufbauen, immer unbeliebter werden. Wenn blinde Technologie in einem solchen Ausmaß an die Stelle inhaltlichen Verstehens tritt, muß etwas Wertvolles verloren gehen.“ Hinzu kommt, dass eine „zufällig erzeugte“ chemische Verbindung nur in den seltensten Fällen eine hilfreiche Wirkung entfalten wird. Jedes natürlich vorkommende Molekül hat hingegen eine lange Evolution durchlaufen, d. h. es hat sich in einer langen, intensiven Auseinandersetzung mit seiner Umgebung bewährt. 5

Wir schließen uns also der langen Tradition der Metaphysikkritik an. Quelle aller unserer Information über die Realität ist die empirische Erfahrung.

544

6 Integrative Wissenschaftstheorie

dern, in denen eine umfangreichere Theorie fehlt bzw. kaum vorhanden ist, zuallererst einmal aus unserem unmittelbaren Erfahrungsschatz schöpfen. Induktion steht am Anfang jeder Wissenschaft, nur auf diesem Weg lässt sich aus isolierten Fakten ein zusammenhängendes Konzept zimmern. Die Tatsache, dass in den Wirtschafts- und Sozialwissenschaften de facto vor allem induktiv gearbeitet wird, auch wenn nur einige Mutige wie Leamer (1978, 1983) dies explizit zugeben mögen, zeigt, wie gering unser tatsächliches Wissen in jenen Bereichen ist. Befindet sich ein Feld noch in seiner induktiven Phase, so konzentriert sich anschaulich gesprochen konzentriert die Forschungsarbeit auf den rechten Teil des Forschungszirkels. Mit fortschreitender Einsicht kommt man jedoch auch zu stärkeren Modellen. Jene stützen sich auf mehr Daten, sind in der Lage größere Klassen von Phänomenen zu berücksichtigen, und auch die Vorhersagen werden besser. Das heißt, zum rein induktiven Aufstieg gesellt sich ein theoretischer Teil einer Wissenschaft, verbunden mit zuweilen möglichen deduktiven Ableitungen. Natürlich kann man auch schon zuvor - die traditionelle Statistik lässt grüßen - kontrollierte Experimente durchführen, welche zuverlässige Daten liefern. Allein, da der theoretische Überbau fehlt, der die Ideen kanalisiert und die Fragen leitet, ist es schwer, gute, informative Experimente überhaupt zu formulieren. Technisch formuliert: So reliabel eine Messung auch immer sein mag, ohne Hintergrundwissen ist es zumeist um die Validität eher schlecht bestellt. Erst bei einer weiter entwickelten Wissenschaft schließt sich der Kreis. Induktive und deduktive Methoden haben ihren Platz, die Theorie ist nicht mehr trivial. Langsam verdrängen zudem Experimente „zufällige“ interessante Beobachtungen als empirische Basis, und gezielte Experimente gehen mit weitreichenden Interpretationen einher. Mit der höheren Präzision und den „tieferen“ Begründungen geht zudem ein Drang zur Formalisierung einher, das heißt, die Bedeutung mathematischer Verfahren und logisch-exakter Argumentationen nimmt zu. Die Aktivitäten im Forschungszirkel verlagern sich also, wieder bildlich gesprochen, nach oben und nach links, und das Rad der Erkenntnis kommt in Schwung. Einige typische Entwicklungslinien - ohne Anspruch auf Vollständigkeit - sind: 1. Aus speziellen und isolierten Ansätzen werden umfassendere Theorien. Ad-hoc-Ansätze treten in den Hintergrund, während methodisches Vorgehen und von Theorien motivierte oder geleitete Strategien an Bedeutung gewinnen. 2. Wissenschaft ist insofern eine Methode der sukzessiven Approximation, als dass die Modelle aus einer (erklärenden) Struktur sowie Zufallskomponenten bestehen, wobei unter der letzteren Rubrik auch alles gesammelt wird, was man noch nicht versteht. Im Laufe der Zeit lässt sich mehr und mehr des nicht erklärten „Zufalls“ als nicht-triviale Struktur auflösen. In diesem Sinne werden die Modelle feiner und besser, Wissen sammelt sich an.

6.1 Der Forschungszirkel II

545

3. Wie bei einer Bibliothek, deren Detailtiefe immer mehr zunimmt, benötigt man, allein schon, um den Zusammenhalt zu wahren, einen mitwachsenden hierarchischen Überbau. Tatsächlich ist der Zusammenhang sogar noch weit enger. Beginnend bei der Physik bauen die Wissenschaft aufeinander auf, ohne dass man (bislang und womöglich auch prinzipiell) die Gesetzmäßigkeiten einer Größenordnung aus der jeweils darunterliegenden herleiten könnte. 4. Subjektive Erwägungen kommt immer eine zentrale Bedeutung zu, da Wissenschaftler die bewussten Akteure sind. Ihre persönlichen Maßstäbe sind jedoch nicht willkürlich, da sie von den Fakten und den herrschenden Theorien als „Randbedingungen“ kanalisiert und beeinflusst werden. Je mehr Theorie und Methoden entstehen, desto geringer muss dem entsprechend der Anteil subjektiver Einschätzungen werden.6 5. Es schälen sich allgemeine Prinzipien heraus, die allen empirischen Wissenschaften gemeinsam sind. Dabei handelt es sich nicht nur um prinzipiell-philosophische Haltungen, wie die Priorität der Empirie, die Bedeutung von Experimenten, das Gebot der systematischen Überprüfung (insbesondere Replikation) von Ergebnissen, die Suche nach tieferliegenden Begründungen, etwa den Mechanismen, die wirksam sind usw. Vielmehr ist auch hier der Zusammenhang enger: Gesetzmäßigkeiten eines Bereichs lassen sich auf strukturähnliche Abschnitte substanziell völlig verschiedener Gebiete übertragen. Mathematische Formalismen, die für ein Problem entwickelt wurden, eigenen sich zuweilen an ganz anderer Stelle, Mess-, Skalen-, Invarianz- und Symmetrieüberlegungen finden sich in allen Wissenschaften usw. Wie beim Individuum so wird auch beim kulturellen Projekt wissenschaftlicher Forschung in einem gewissen Sinne der Wissenserwerb immer einfacher, je mehr man bereits weiß. Das liegt daran, dass man bei neuen Problemen nicht mehr „bei Null“ anfangen muss, sondern sich am inhaltlichen und methodischen Wissen entwickelter Felder orientieren kann. Wissenschaft ist jenseits der Konkurrenz der Individuen ein symbiotisches und im Wesentlichen kumulatives Unterfangen. Abstrakte mathematische Modelle lassen sich oft ganz verschieden interpretieren und damit auch in ganz verschiedenen Bedeutungszusammenhängen anwenden, experimentelle Methoden der einen Wissenschaft lassen sich auch auf einem anderen Feld - möglicherweise geeignet adaptiert - verwenden. Besonders häufig und naheliegend ist, dass konkrete substanzielle Erkenntnisse unmittelbar eine Wirkung in einem angrenzenden Feld entfalten. Die Medizin kommt vor allem deswegen zur Zeit so schnell voran, weil sie systematisch biologisches Wissen nutzt und moderne Methoden (Analyse- und bildgebende Verfahren) anwendet. Borrowing strength ist in jeglicher Hinsicht ein Erfolgsrezept auf den verschlungenen Pfaden, die zum 6

Standardmethoden und etablierte Theorien können jedoch nie das Denken ersetzen, auch wenn z. B. ein Arzt heute seine Diagnose mit weit objektiveren Mitteln begründen kann als noch vor 50 oder 100 Jahren.

546

6 Integrative Wissenschaftstheorie

wissenschaftlichem Erfolg führen, Isolation hingegen ist der erste Schritt auf dem geraden, mühelosen Weg in die Geschichtsbücher und Archive.7 Andererseits werden wie auch beim Individuum die zu lösenden Probleme tendenziell immer schwerer. Kommt man in der Grundschule noch mit wenigen Tricks schnell ans Ziel, so ist dem später nicht mehr so. Konnte ein Naturwissenschaftler vor wenigen Jahrhunderten mit wenig Aufwand eine wichtige neue Entdeckung machen, so wird dies heute immer schwerer. Je komplexer die Methoden werden, je aufwändiger der Forschungsprozess wird - auch weil die leicht zu erschließenden Minen erschöpft sind -, desto problematischer wird es, voranzukommen. Bislang wirft eine Investition in den Erkenntnisgewinn zwar immer noch große Erträge ab, doch könnte sich dies auf längere Sicht gesehen durchaus ändern. (Man denke an die pharmazeutische Industrie.) Der Forschungszirkel einer sich entwickelnden Wissenschaft gleicht einem sich schnell drehenden Rad systematischer Informationsgewinnung und Verarbeitung: 1. „Unten“ werden tiefere, also schwerer zu erreichende Schichten der Realität erreicht, als am Anfang. Wir beobachten nicht mehr mit dem bloßen Auge, sondern mit Mikroskopen, Teleskopen und einer Vielzahl weiterer, hochdiffiziler Instrumente. 2. Der Weg „rechts“ von den Daten zur Theorie wird immer länger. Kann man wenige Daten noch mit einfachen Verfahren und per Hand auswerten, so braucht man bei den heute üblichen Umfängen der Datensätze Hochleistungscomputer und fortschrittliche Verfahren aller Art. 3. Die Theorie „oben“ ist weit größer und umfangreicher als am Anfang, insbesondere auch mit Theorien benachbarter Gebiete vernetzt. Es kommt heute weniger auf die kleine Ad-hoc-Erklärung an, als auf den substanziellen Beitrag zum großen Gesamtgebäude der Wissenschaft. Nicht zuletzt sind gute Theorien präzise Theorien, d.h. die Mathematisierung schreitet auch hier immer mehr voran. 4. Der Weg „links“ wird ebenfalls länger. Aus einer abstrakten Grundkonzeption gut interpretierbare Fakten, also einen aussagekräftigen Theorietest, abzuleiten, fällt weit schwerer als im Fall beobachtungsnaher Begriffe. 7

Die Isolation eines Gebiets geht meist mit einer ausgeprägten Binnensicht seiner Vertreter einher. Jene arbeiten weit weniger problemorientiert, setzen sich also systematisch Anstößen von außen aus, als dass sie eine bestimmte Grundkonzeption verfeinern. Das gilt im Prinzip, wenn auch in unterschiedlichem Ausmaß, für die Psychoanalyse, die Systemtheorie und die Philosophie genauso wie für die Messtheorie und die mathematische Statistik. Wirklich erfolgreiche, tonangebende Felder entwickeln sich nicht zuletzt aufgrund ihres starken Praxiskontakts rasant, die Ingenieurwissenschaften und die Informatik sind hierfür nur zwei Beispiele von vielen.

6.1 Der Forschungszirkel II

547

Theoriegeleitete Wissenschaften Eine entwickelte Wissenschaft verfügt schließlich über eine ausgedehnte, oft sogar ziemlich einheitliche Theorie. Sie ist präzise und auch deshalb zumeist mathematisch formuliert. Aus ihr werden konkrete Hypothesen und experimentelle Fragestellung abgeleitet. Das heißt, der deduktive Weg der Erkenntnis beginnt wichtiger zu werden als der induktive, zumal gezielte Experimente unspezifische Beobachtungen als empirische Basis weitgehend verdrängt haben. Selbstverständlich benötigt man für die Interpretation der Fakten nach wie vor mehr als nur ein logisch-deduktives Verständnis, aber die große Freiheit des induktiven Anfangs ist dahin, da alle Beobachtungen im Wesentlichen in den Kontext anerkannter Prinzipien und Ideen eingeordnet werden. Hiervon stark abweichende Deutungen gelten schnell als exotisch oder sogar völlig unplausibel. Kurzum: Eine reife Wissenschaft wird deduktiv betrieben. (Für einschlägige, charakteristische Zitate Duhems und Liebigs siehe Heidelberger (2007: 160f).) Je mehr sich die Theorie entwickelt, desto länger muss zudem mit deren Studium zugebracht werden. Konnte man in den Anfängen eine Idee noch intuitiv in ein paar Sätzen erläutern und reichten ein paar Indizien zu ihrer Stützung aus, so verkleiden sich nun konzeptionelle Einfälle in aller Regel im Gewand einer speziellen und höchst komplexen Mathematik, die auch nur noch mit aufwändigen Experimenten getestet werden können. Zuweilen hat man den Eindruck, Mathematik sei wichtiger als fachwissenschaftliche Intuition, da alles, was sich nicht mathematisch formalisieren lässt, auch bei weitem nicht so ernst genommen wird, wie ein mathematisch präzisiertes Argument. Innerhalb der Modelle lässt sich zudem hervorragend simulieren, so dass Experimente nur noch dann eingesetzt werden, wenn man sich über die Genauigkeit der Simulation im Unklaren ist. Im Extremfall kann man sogar auf die Idee kommen, den Fakten bzw. die Realität nur die Rolle eines einsilbigen Ja-Nein-Antwortgebers auf eine zuvor gestellte Frage zuzugestehen. Typischerweise wächst mit der Theorie „oben“ auch die Menge der durch sie erklärbaren Daten „unten“. Es wäre also falsch anzunehmen, Daten und Theorie seien unabhängig, die Menge der zu erklärenden Fakten wäre fest oder die Güte einer Theorie sei unabhängig von den Daten. Die deduktiven und induktiven Zusammenhänge sorgen dafür, dass beide Bereiche interagieren. Da die Daten das Fundament darstellen, kann bzw. muss sich eine umfängliche Theorie auf viele, oft höchst verschiedenartige Daten stützen. Wächst die Präzision der Messung, so wird dies auch von der Theorie nachvollzogen werden. Natürlich determiniert die Theorie nicht, wie das Ergebnis einer Messung ausfällt, wohl aber wird ein Experiment in einer entwickelten Wissenschaft theoriegeleitet aufgebaut und interpretiert. Trotz aller Interaktion kann sich der Anwendungsbereich so ausdehnen, dass die fundamentalen konzeptionellen Zusammenhänge nicht mehr tragen, man die ganze Theorie also aufgrund der praktischen Erfahrung prinzipiell umarbeiten muss. In der Physik kam es dabei sogar vor, dass sich die Theorie

548

6 Integrative Wissenschaftstheorie

mit dem Vorstoß in sehr große und sehr kleine Dimensionen aufspaltete. Nun ist dies zwar im Sinne einer konzeptionellen Einheit nicht erfreulich, aber durchaus nicht anders zu erwarten, wenn man den Daten sowie der Passung von Theorie(n) zu Daten die Priorität einräumt. Lieber zwei Theorien, die in ihrem jeweiligen Bereich sehr gut funktionieren, als eine Theorie, die weder mit der einen noch der anderen Situation überzeugend zurechtkommt. Etwas allgemeiner gesprochen können sich verschiedene Theorien auf jeweils eigenständige Daten, also gewisse Fakten stützen, die sie bevorzugt erklären. So kann es zu mehr oder minder widerstreitenden Schulen kommen - entweder weil die zugehörigen Theorien noch nicht in der Lage sind, alle Fakten zu integrieren, oder aber, weil sie dazu nicht mehr in der Lage sind.8 Aufgrund des induktiven Schritts von den Daten zur Theorie legen darüber hinaus irgendwelche Daten nie die Struktur einer Theorie fest. Das heißt auch, dass Modelle mit völlig verschiedener innerer Struktur dieselben Daten gleich gut approximieren und erklären können. Mehr noch, Umbrüche von einer bestimmten Weise der Erklärung zu einer völlig andersgearteten können sich - zumindest im Prinzip - jederzeit ereignen. Dem üblichen, auf Kuhn zurückgehenden Sprachgebrauch folgend, wird dies als eine „wissenschaftliche Revolution“ und die sukzessive Erweiterung sowie Vertiefung eines Modells als (evolutionäre) „Normalwissenschaft“ bezeichnet. In manchen „ jungen“ Wissenschaften ist deren Lebensdauer so gering, dass „Revolutionen“ an der Tagesordnung sind, während die stetige, evolutionäre Weiterentwicklung eher die Ausnahme ist. Die Details dieser Theorieentwicklung sind höchst interessant, wurden in den letzten Jahrzehnten intensiv untersucht, und waren, wie in fast jedem Lehrbuch der Wissenschaftstheorie ausführlich beschrieben, Gegenstand ausgedehnter Kontroversen. Es hieße eine Geschichte der analytischen Wissenschaftstheorie schreiben, wollte man auf alle dabei zu Tage geförderten Aspekte eingehen. Für weitere Ausführungen zur Wissenschafts- und insbesondere Theoriedynamik verweisen wir auf Bartels und Stöckler (2007: Leitthema I), Carrier (2006: Kapitel 5), die Beiträge von Carrier, Hoyningen-Huene und Moulines in Hubig (1997), Saint-Mont (2000: 2. Teil) sowie Gillies (1993) und Ladyman (2002). Wie der Forschungszirkel unschwer zeigt, kann die Theoriedynamik nur ein Aspekt des gesamten Forschungsprozesses sein, dazu mehr ab Abschnitt 6.2.1. Der Vollständigkeit halber sei noch erwähnt, dass es auch an der Spitze des Forschungszirkels einen (kleinen) Konflikt gibt, nämlich wie die grundlegenden Setzungen zu wählen sind. Der von Hilbert begründete Formalismus in der Philosophie der Mathematik9 betont nicht zuletzt die Beliebigkeit der Axiome und erst recht der verwendeten Begriffe. Hilbert (1944: 17f) schreibt: „Wenn sich die willkürlich gesetzten Axiome nicht einander widersprechen mit 8

Es sind sogar mehrere Wechsel zwischen einheitlicher Theorie und einer Reihe von Schulen denkbar. 9

Siehe z. B. Hilbert und Bernays (1968), Mancosu (1997: Teil III) und Ewald (2005: Kapitel 24).

6.1 Der Forschungszirkel II

549

sämtlichen Folgen, so sind sie wahr, existieren die durch die Axiome definirten (sic) Dinge [. . .] Ja, es ist doch selbstverständlich eine Theorie nur ein Fachwerk oder Schema von Begriffen nebst ihren nothwendigen Beziehungen zu einander, und die Grundelemente können in beliebiger Weise gedacht werden. Wenn ich unter meinen Punkten irgendwelche Systeme von Dingen, z. B. das System: Liebe, Gesetz, Schornsteinfeger. . ., denke und dann nur meine sämmtlichen (sic) Axiome als Beziehungen zwischen disen Dingen annehme, so gelten meinen Sätze, z. B. der Pythagoras auch von diesen Dingen [. . .].“ (Meine Hervorhebungen.) Für die meisten Physiker, auch Einstein (1953), erwachsen die Axiome jedoch aus einer Abstraktion der Realität. Das kommt auch in Hilbert (1899: 1) klar zum Ausdruck, wo er zuallererst einmal auf die Anschauung verweist. Genauer gesagt beginnt er expressis verbis mit dem (Kant 1781) entlehnten Motto dieses Abschnitts und sagt wenige Zeilen später explizit: „Die Aufstellung der Axiome der Geometrie und die Erforschung ihres Zusammenhanges [. . .] läuft auf die logische Analyse unserer räumlichen Anschauung hinaus.“

6.1.3 Funktionsfähigkeit und Ertrag des Forschungszirkels Das Rad ist die Basis von Mobilität, aber auch die Grundvoraussetzung zahlloser mechanischer Gegenstände von der Uhr bis zum Aufzug.10

Alles zu seiner Zeit Es ist wichtig festzuhalten, dass sich, wie wir gerade entwickelt haben, mit dem Fortschritt einer Wissenschaft auch deren erfolgversprechendste Forschungsstrategie wandelt. Die relative Bedeutung der einzelnen Komponenten verschiebt sich. Es ist völlig natürlich und gesund, wenn viele Physiker mit hochgradig mathematischen Werkzeugen an formalen Modellen feilen. Eine ausgedehnte, etablierte Theorie bedarf umfangreicher Wartungs- und Weiterentwicklungsarbeiten. Anders in einer weniger entwickelten Wissenschaft, etwa der Soziologie. Dort ist es völlig unangemessen, vorwiegend zu theoretisieren, was ohne ebenso umfangreiche, solide empirische Basis nahezu zwangsläufig in die Spekulation führen muss. Ebenso unangemessen ist es, bei einer wenig belastbaren Theorie ausgedehnte Formalismen zu pflegen und strenge, möglichst deduktive Ableitungen von Hypothesen zu fordern. Derartige unnötige Fingerübungen degenerieren schnell zu Ritualen und lassen eine Wissenschaft schlimmstenfalls steril werden, wofür, wie wir gezeigt ha10

Auszug aus der Hightech-Strategie der Bundesregierung. Siehe www.hightech-strategie.de/top100/patent/33/start/rad.php (Aufruf am 17. 09. 2009)

550

6 Integrative Wissenschaftstheorie

ben, die angewandte Statistik ein (un)schönes Beispiel ist. Viel wichtiger sind hier aussagekräftige Experimente und nichttriviale Verallgemeinerungen, die über das Alltagsverständnis hinausgehen. Es nützt auch wenig, sich in weniger entwickelten Wissenschaften auf eine spezielle Wissenschaftstheorie zu berufen. Zu lösen sind zuallererst einmal fachwissenschaftliche Probleme, nicht Probleme philosophischer Art. Wie wenig ist die Psychologie mit Spekulation (Psychoanalyse), positivistischem Dogma (Behaviorismus), deduktiven Methoden (mathematische Psychologie) und weichen Daten (Befragungen, Tests) vorangekommen, und wie schnell entwickelt sie sich zur Zeit mit aussagekräftigen Daten (bildgebende Verfahren) und biologisch-physiologischen Modellen! Eine Theorie wird nur ein wenig besser, dass sie sich auf eine angemessen philosophische Grundlage berufen kann, weit mehr gewinnt sie, wenn sie sich mit praxisrelevanten Themen auseinandersetzt und bei der Lösung konkreter Probleme hilft. Vollends irreführend ist es schließlich, sich auf die Strategie einer entwickelten Wissenschaft zu berufen, die im Forschungsprozess notwendigerweise andere Akzente setzen muss. Poppers Forderung nach einer durchgehend deduktiven Methodik für alle Wissenschaften wird so für die Wirtschafts- und Sozialwissenschaften zum verführerischen Gesang der Lorelei, der in größerem Maßstab entwicklungshemmend wirkt. Am Beispiel der Psychophysik haben wir in Kapitel 2 gezeigt, wie fruchtlos dies ist. Wie schon Tukey richtig bemerkte, ist es viel lehrreicher zu sehen, wie die heute etablierten Wissenschaften tatsächlich errichtet wurden, als mithilfe der Retrospektive zu normativen Vorgaben zu kommen.

Der Ertrag Wissenschaft ist erfolgreich. Sie macht Entdeckungen, vertieft unser Verständnis und sorgt für einen unablässigen Strom nicht-trivialer technischer Anwendungen. Ihre fast unübersehbaren, historisch beispiellosen Errungenschaften werden in der einschlägigen Literatur ausführlich gefeiert, weshalb es sich wohl erübrigt, abermals auf ihre tiefsinnigsten Theorien und verblüffendsten Verwendungsmöglichkeiten einzugehen. Jede historische Darstellung zeigt, dass im Regelfall Probleme sogar gelöst und zentrale Fragen endgültig beantwortet werden (Wilson 2000, Bryson 2005). Es gibt keine konkreten Gründe mehr, am Heliozentrischen System, der Evolutionstheorie, dem Periodensystem der Elemente oder den genetischen Mechanismen der Vererbung zu zweifeln. Schon vor Karl K. Pearson (1892) wurde dieser kumulative Aspekt von Wissenschaft deutlich gesehen. Eine moderne Formulierung findet sich bei (Stove 2000: 21): Much more is known now than was known fifty years ago, and much more was known then than in 1580. So there has been a great accumulation or growth of knowledge in the last four hundred years.

6.1 Der Forschungszirkel II

551

Daran ist zweierlei bemerkenswert: Erstens, dass die Wissenschaft scheinbar selbstverständlich Fort-Schritte macht, also nicht, wie so viele andere Projekte, auf der Stelle tritt. Unsere Antwort darauf haben wir mit dem Forschungszirkel gegeben. Zweitens, dass man die offensichtliche Tatsache des Wissenszuwachses heutzutage ausdrücklich betonen muss! Der Grund ist, dass die aktuelle Wissenschaftstheorie in ihren soziologischen, antirealistischen und postmodernen Spielarten außerordentlich skeptisch ist und gerade den Fortschrittsgedanken gerne attackiert (Volland 2007). Eine ausführlichere Antwort muss sich im Detail mit den aktuellen wissenschaftstheoretischen Schulen auseinandersetzen, weshalb wir sie auf die nächsten Abschnitte verschieben. Aufgrund der empirischen Erfahrung sind wir weit optimistischer und gehen sogleich daran, konstruktive Ergebnisse langer, konkreter wissenschaftlicher Arbeit auf der philosophischen Ebene aufzuzählen: • Realistische Interpretationen. Ein Ad-hoc-Verfahren geht oft mit einer neuen Messmethode einher. Insofern empfiehlt sich zunächst eine operationale Definition, die die Abhängigkeit des Gemessenen von der Methode in den Vordergrund stellt. Liefern verschiedenartige Vorgehensweisen jedoch ähnliche Ergebnisse, so greifen Invarianzüberlegungen und es wird mehr und mehr offensichtlich, was auf die spezielle Methodik zurückgeht und was allen Ergebnissen gemeinsam ist, sich also auf die Realität attribuieren lässt. Standardbeispiele sind viele „aus Verzweiflung“ bzw. mathematischer Notwendigkeit eingeführte Größen (Plancksches Wirkungsquantum, Antimaterie, kosmologische Konstante), die im Verlauf der Entwicklung nicht mehr wichen. Lässt sich eine Größe mit anderen Theorieteilen vernetzen, so erscheint es erst recht angemessen, realistischere Interpretationen zu verteidigen. • Sukzessiv stärke Interpretationen innerhalb des Realismus. Wie wir schon (S. 176) erwähnt haben, gibt es verschieden starke Versionen des Realismus. Interpretiert man an einem statistischen Modell lediglich die wesentliche Struktur realistisch (Bsp.: Wenige Faktoren sind zu beachten, die approximativ linear zusammenhängen), so ist ein solcher Strukturrealismus offenkundig weniger weitreichend als ein detaillierter Entitätenrealismus, der die einzelnen Faktoren identifiziert und ihre Zusammenhänge quantifiziert (Bsp.: Nur Geschlecht und Alter haben einen Einfluss auf den Krankheitsverlauf, und zwar gemäß der Formel . . .) Noch weitergehend ist die Idee vom „wahren Modell“, welches alle relevanten Faktoren samt ihren wechselseitigen Abhängigkeiten erfasst. Bei einem solchen Modell (Bsp.: Periodensystem der chemischen Elemente) können alle Komponenten des Modells realistisch interpretiert werden, so dass man von einem „vollständigen Realismus“ sprechen könnte. • Objektivität. Jene erwächst aus subjektiven Anfängen durch experimentelle Vorkehrungen (z. B. Standardisierung von Messungen), in Form von intersubjektiver Übereinstimmung (Konsens), intersubjektiven Kontexten (insbesondere Mathematik), und durch Invarianz bei Perspektivwech-

552

6 Integrative Wissenschaftstheorie

sel. Wissenschaft ist nicht per se objektiv. Es sind ihre Methoden und Maßstäbe, welche zu (annähernd) objektiven Resultaten führen. Kurz gesagt: Objektivität muss man sich erarbeiten. Ein Standardbeispiel ist die Interpretation von Wahrscheinlichkeiten entlang der Entwicklung: Vage subjektive Einschätzung, Präzisierung durch Wettverhalten, konsistentes Kalkül, Verknüpfung mit beobachtbaren Häufigkeiten, logische Wahrscheinlichkeit in einem realistischen Modell. Ein anderes Beispiel ist die Kausalität als eine deterministische Struktur, die sich hinter vielen Zufallseinflüssen verbirgt. Auch einen kausalen Zusammenhang bekommt man nicht geschenkt, sondern er ist das Endergebnis viele Studien (die insbesondere Alternativerklärungen überzeugend ausschließen). • Gesetze. Das Endergebnis sind allgemeine Theorien und allgemein gültige Gesetze mit hoher Erklärungs- und Prognosekraft. Ihrer überzeugenden, fundierten Kombination von Realismus und Objektivität verdanken sie ihre herausgehobene Stellung.11 Jene macht sie besonders attraktiv, doch entsprechend schwer kommt man auch an sie heran. Viele Autoren sprechen sogar, wie Jeffreys (1973: 12), von einer sukzessiven Approximation (im Sinne immer besserer Modellpassung) an die Realität: “Scientific progress never achieves finality; it is a method of successive approximation.”

Pathologien Die Umkehrung des gerade Gesagten ist: Es ist einfach und es gibt viele Möglichkeiten, die obigen Ziele zu verfehlen. Ein Übermaß an Spekulation, mangelnde Bemühungen, das subjektive Moment einzudämmen oder auch nur die Lust an der Debatte - ohne ausreichende Würdigung der Fakten -, genügen, das Endergebnis zu schwächen. Man kann kaum hoffen, auf ein Naturgesetz zu stoßen, wenn man nicht gewillt ist, der Natur zuzuhören. Und da wir alle gerne hätten, dass die Welt so ist, wie wir sie uns wünschen, sollten wir uns sogleich mit einer ziemlich plumpen und zugleich äußerst effektiven Art, Wissenschaft zu unterminieren, vertraut machen. Jene besteht in der schlichten Missachtung von Daten, deren Manipulation, bis hin zur Erfindung „gewünschter“ Fakten. Jüngere Untersuchungen12 belegen leider, dass es sich hierbei nicht um eine Randerscheinung im modernen Wissenschaftsbetrieb handelt. Doch schon weit vor betrügerischen Machenschaften beginnt die systematische Schwächung des Realitätsbezugs. In einem Bericht an das New England Journal of Medicine hieß es schon 1987, zitiert nach Judson (2004: 39): Replication, once an important element in science, is no longer an effective deterrent to fraud because the modern biomedical research system is structured to prevent 11 12

Siehe z. B. Hüttemann (2007) Siehe z. B. Fischer (2004), Judson (2004), Sackett und Oxman (2003)

6.1 Der Forschungszirkel II

553

replication - not to ensure it [. . .] Academic credit [. . .] tends to be given only for new findings.13

Auch die Skepsis an kontrollierten klinischen Studien wird erheblich verstärkt durch die Tatsache, dass “They are expensive, decentralized, difficult to supervise, and effectively impossible to replicate [. . .] In short, large clinical trials invite sloppiness and cheating” (Judson 2004: 296). Das Modell des Forschungszirkels erlaubt darüber hinaus, konkrete Pathologien zu identifizieren. Einige typische Beispiele: 1. Fehlt die empirische Bodenhaftung, so hebt die Theorie ab, wird vage und neigt zum Dogmatismus. Die Stringtheorie(n) der aktuellen theoretischen Physik sind hierfür gute Beispiele, werden sie doch seit Jahrzehnten intensiv mathematisch erforscht, ohne dass sich bislang prüfbare Aussagen ergeben hätten. Stattdessen versteigen sich ihre Vertreter in immer wildere Spekulationen (Smolin 2006, Woit 2006, Lüst 2009). Laughlin (2007: 174) findet hierfür die Worte: „Wie überall ist auch in der Wissenschaft eine gesunde Dosis experimenteller Wirklichkeit das beste Gegengift gegen die Krankheit Mythologie.“ Ibd., S. 176 verschärft er dies zu: „Ideologien [verhindern] Entdeckungen. Wir alle sehen die Welt eher so, wie wir sie gern hätten, und nicht so, wie sie eigentlich ist, weil das in unserer Natur liegt.“ 14 Misst man der Theorie zu viel Bedeutung bei, so verwechselt man zudem schnell das Modell mit der Realität. Tatsächlich verlässt man aber auch mit der schwierigsten, weil allgemeinsten Mathematik nie die theoretische Arena und übersieht leicht, dass die anderen Teile des Zirkels mindestens genauso wichtig sind. 2. Legt man hingegen zuviel Gewicht auf das empirische Moment, so neigt man zu pragmatischen Black-Box-Ansätzen ohne tieferen Erklärungswert. Wie der Ingenieur, der sich immer irgendwie zu helfen weiß, kommt man zwar meist ganz gut zurecht. Es fehlt aber das spekulative Element und auch die Erklärungs- und Prognosekraft einer einheitlichen Theorie. 3. Fehlt die induktive Verallgemeinerung, so verheddert man sich im Chaos der Phänomene. Es fehlen allgemeine Prinzipien, die die Beobachtungen ordnen. Die großen Heroen der Wissenschaft, deren Namen man auch noch Jahrhunderte später kennt, haben allesamt in einer herkulischen Anstrengung eine Vielzahl von Phänomene in eine belastbare allgemeine Konzeption eingeordnet. Lehnt man die Induktion aus prinzipiellen Gründen sogar völlig ab, so bricht man bildlich gesprochen ein wesentliches Teil aus dem Forschungszirkel. Zurück bleibt eine verkrüppelte, auf dem Bein 13

Fast gleichlautend beschreibt Feynman (2005b: 456f) die Situation in der Psychologie vor über 60 Jahren. Siehe auch Rosenthal (1990). 14

Er ergänzt noch (ibd., S. 248): „Ein Leitsymptom für ideologisches Denken ist die Erklärung, die nichts impliziert und nicht getestet werden kann. Ich bezeichne solche logischen Sackgassen als Antitheorien, weil sie sich genau gegenteilig auswirken wie richtige Theorien: Sie lassen das Denken zum Stillstand kommen, statt es anzuregen.“

554

6 Integrative Wissenschaftstheorie

der Deduktion hinkende Wissenschaft. So wichtig die Deduktion und die zielgerichete Ableitung aussagekräftiger Experimente auch sein mögen ihre messerscharfen Zähne vermögen nur wirklich zuzubeißen, wenn sie fest im Gesamtkreislauf verankert sind. 4. Akzentuiert man andererseits die Rolle der Induktion zu sehr, so übersieht man die logische Kraft der Deduktion, die große Bedeutung einer wegweisenden Theorie, und die Möglichkeiten gezielter Experimente. Man sammelt überreichlich Material, ohne je daraus ein Haus zu bauen.

6.2 Wissenschaftstheorie im Forschungszirkel Philosophy which [. . .] detaches itself from science and from the problems which scientific progress continually raises, thus depriving itself of the only possible source of nourishment, and condemning itself to sterility and fossilization in the monotonous repetition of sentences which become more and more empty. De Finetti (2006: 71), zitiert nach Gillies (2009: 251)

Der Kern moderner Wissenschaft ist erfolgsorientierte Forschung. Ein Modell hierfür ist der Forschungszirkel. Um diesen dreht sich im wahrsten Sinne des Wortes auch die Wissenschaftstheorie, strebt sich doch nach einem vertieften, allgemeinen Verständnis ihres Untersuchungsgegenstands. Ab diesem Abschnitt wenden wir deshalb den Forschungszirkel auf die Wissenschaftstheorie an. Dabei stoßen wir bemerkenswerterweise sogleich auf die vier gerade erläutert Pathologien „oben, unten, links und rechts“:

6.2.1 Unwuchten I believe that there is no filling in for the blank in ‘Scientific progress consists in that is both pithy and adequate. (Earman 1992: 183)

’

Theorielastigkeit Betrachtet man die etablierte Wissenschaftstheorie, so stehen seit fast einem Jahrhundert Theorien im Mittelpunkt. Heidelberger (2007: 155) schreibt: „Bei der entscheidenden Rolle, die [1890] dem Experiment bei der Erzeugung von Wissen zugesprochen wird, muss es verwundern, dass sich seit dieser Zeit in der Wissenschaftsphilosophie eine deutlich andere Auffassung [. . .] durchsetzte und insgesamt das Interesse am Experiment stark abgenommen hat. Mit der Umdeutung des Experiments in der philosophischen Diskussion und seiner Vernachlässigung in ihrem Gefolge verlagerte sich der Schwerpunkt auf den Begriff der Theorie und ihre Funktion.“ Bartels und Stöckler (2007: 7) er-

6.2 Wissenschaftstheorie im Forschungszirkel

555

gänzen: „Wissenschaftstheorie ist zwar im Kern heute noch immer, was sie in ihren Anfängen in der ersten Hälfte des 20. Jahrhunderts gewesen ist, nämlich logische und semantische Analyse der Struktur wissenschaftlicher Theorien. Seit den späten 1950er Jahren hat sich die Wissenschaftstheorie aber dem Thema der Theoriendynamik, des Wandels des wissenschaftlichen Wissens geöffnet [. . .]“ (Hervorhebung im Original.) Theorien sind natürlich ein wichtiger Aspekt funktionierender Forschung und wir brauchen alle ihre Vorzüge nicht noch einmal zu betonen. Übertreibt man jedoch ihre Rolle, so sieht man Forschung nicht primär nur deduktivtheoriegetrieben, was für sich genommen schon eine Übertreibung wäre, sondern darüber hinaus sogar Beobachtungen als theoriegeladen an. Wie viel Aufwand ist im Laufe der Zeit in das Projekt investiert worden, diesen Begriff zu elaborieren! Wie stark sind Beobachtungen von Theorien abhängig, inwiefern determinieren Theorien, was beobachtet wird, wie weit liegt die Interpretation eines Ergebnisses durch den theoretischen Rahmen fest usw.15 Da im Forschungszirkel Theorie und Empirie wie Henne und Ei sind, sollte es nicht verblüffen, dass man alles aus der Perspektive der Theorie betrachten kann, womit aber zwangsläufig das Experiment zum Anhängsel von Theorien verkümmert. Schließlich kommt man zum Regress des Experimentators16 , dem Beobachtungen gar keine neue Information mehr erschließen, womit man das Projekt empirischer Wissenschaft (mit dem Primat der Fakten!), ad absurdum geführt hat.

Heraushebung des Experiments Seit den 1980er Jahren hat der von Hacking (1983) begründete „Neue Experimentalismus“, welcher die Bedeutung und die Eigendynamik der empirischen Erfahrung und insbesondere des Experiments hervorhebt, immens an Bedeutung gewonnen. Historisch gesehen lässt er sich als Reaktion auf die theorielastigen Jahrzehnte zuvor verstehen. Schon Feigl (1970b: 8) schreibt: “Philosophers of science (and I am not excluding myself) have very understandably been fascinated by, and have focused their primary attention upon, the theories. But theories come and go, whereas most empirical laws seem here to stay!” (Hervorhebung im Original.) Liest man nun jedoch die Arbeiten des Neuen Experimentalismus,17 so stellt man fest, dass sich auch hier wieder im Lauf der Zeit die Einseitigkeit verstärkt. War es zu Beginn mehr als gerechtfertigt, das Diktat der Theorie 15

Für eine Kritik siehe Sokal und Bricmont (1998: 65ff), Nagel (2004: Teil III), Hacking (1996: 309ff) und Chalmers (2006: 158f): „Die Herstellung kontrollierter experimenteller Effekte und deren Würdigung sind ohne komplexe Theorien möglich.“ 16

Siehe Collins (1985: Kapitel 4), Chalmers (1999: Abschnitt 5.5), und Carrier (2006: 81ff). 17 Siehe z. B. die von Heidelberger (2007), Chalmers (2006: Kapitel 13) und Carrier (1997) genannte Literatur.

556

6 Integrative Wissenschaftstheorie

abzuschütteln und den Daten bzw. der empirischen Fundierung wieder zu ihrem angestammten Recht zu verhelfen, so ist die natürliche Entwicklung textorientierter Argumentation, dem empirischen Part eine immer größere Rolle zuzuweisen, bis schließlich die Theorie und alle anderen Aktivitäten im Forschungsprozess zum Anhängsel des Experiments verkümmern. Chalmers (2006: 167) schreibt: „Einige der Neuen Experimentalisten scheinen eine Trennungslinie zwischen gut belegter experimenteller Erkenntnis einerseits und Theorien andererseits ziehen zu wollen [. . .] Einige haben diese Sichtweise so weit getrieben, dass nur noch experimentelle Gesetze als Möglichkeit gelten, überprüfbare Aussagen über die Welt zu machen. Theorien werden als etwas angesehen, das eine gewisse organisatorische und heuristische Rolle spielt [. . .]“ Heidelberger (1998, 2007) entwickelt sogar eine „Wissenschaftsphilosophie des wissenschaftlichen Instruments“.

Deduktivismus Wie wir schon argumentiert haben, kann sich mit Blick auf die entwickelten Wissenschaften, insbesondere die Physik, leicht ein einseitiges Bild wissenschaftlicher Aktivität einstellen. Jenes wird typischerweise theorielastig und deduktiv geprägt sein: Nachdem Popper (1935) in seinen jungen Jahren die Deduktion aufs Schild gehoben hatte, wuchs mit dessen persönlicher Reputation auch die Bedeutung seiner Wissenschaftstheorie gleichmäßig an. Unter Naturwissenschaftlern ist der Falsifikationismus weit verbreitet. Da die Physik zurecht als führend gilt und viele andere Wissenschaften sie explizit als Vorbild betrachten (S. 290), hat Popper auch dort viele Anhänger. Hinzu kommt, dass andere Wissenschaftstheoretiker nicht nur unbekannter sind, sondern oft auch Konzeptionen vertreten, die Praktikern noch weit unplausibler erscheinen. Um das heute in übergroßem Maß vorhandene Vertrauen in die Deduktion zu schwächen, sei hier nur angemerkt, dass auch der Weg vom Allgemeinen zum Speziellen nicht so überzeugend ist, wie man zunächst vermuten könnte. Zwar ist es in der Philosophie der Mathematik gerade Mode, auch logischdeduktive mathematische Beweisverfahren in Zweifel zu ziehen, doch muss man gar nicht so weit gehen: 1. Es gibt keine Garantie, dass ein aus einer Theorie mit streng logischen Mitteln abgeleitetes Resultat auch tatsächlich auf die Realität passt. Nicht nur Merkur hält sich nicht an Newtons Gesetze. 2. Die Ableitung ist, auch wenn es das Hempel-Oppenheim-Schema und Figuren der klassischen Logik suggerieren wollen, in aller Regel nur selten streng-deduktiv. Zumeist muss man Vereinfachungen vornehmen, approximieren und besitzt darüber hinaus Interpretationsspielräume. Selbst die beste Theorie determiniert nicht ihre Operationalisierung im Experiment, was auch Hempel (1988) betont.

6.2 Wissenschaftstheorie im Forschungszirkel

557

3. Allein schon aufgrund der Messungenauigkeit, aber auch, weil jede Theoretisierung eine Idealisierung ist, die nur gewisse Aspekte berücksichtigt, ist die Passung einer Theorie zu den Daten nie exakt. Es wäre oftmals vermessen zu sagen, wir hätten wirklich alles Relevante erfasst, geschweige denn, wir könnten das Geschehen perfekt vorhersagen. (Dieser Illusion mögen wir uns gleichwohl gerne hingeben!) Die Deduktion nimmt einen wichtigen Platz im Forschungszirkel ein. Ohne ihre Hilfe käme die Wissenschaft im Allgemeinen genauso wenig voran wie die Physik ohne Mathematik. Problematisch ist, wenn sie die induktive Seite des Zirkels diskriminiert. Die Auswirkungen einer solchen philosophischen Einseitigkeit auf die Statistik haben wir besichtigt, und sie war beileibe nicht die einzige Wissenschaft, welche sich unter das deduktive Joch beugte. Man wird mit einer solchen Grundeinstellung gerade den weniger gut entwickelten Wissenschaften kaum gerecht (S. 549ff), und andererseits fällt die Philosophie dem Perfektionismus anheim. Stove (2000: 177) führt dies aus: Deductivism [. . .] is a variety of perfectionism: it is an ‘only the best will do’ thesis. And, at least in very many domains, perfectionism is especially apt to produce performance which is actually further from perfection than the average for that domain.

Ibd. folgen zahlreiche Beispiele aus Politik und Ethik, doch ist die Mathematik wohl das beste Beispiel, die nur den logisch korrekten Beweis akzeptiert.18 Verfährt man auf diese Weise mit den empirischen Wissenschaften, insbesondere wenn Hume den Schluss von der Vergangenheit auf die Zukunft kritisiert, so heißt das folgendes: Sei P die Aussage, dass alle Flammen in der Vergangenheit heiß gewesen sind und Q die Aussage, dass morgen beobachtete Flammen heiß sein werden. Dann sagt Hume (zitiert nach Stove (2000: 189)): [. . .] a man who infers Q from P, or from P conjoined with any other observation statement, ‘is not guilty of a tautology’; that given P, and any other observational premise, ‘the consequence’ [Q] seems nowise necessary; that, whatever our experience has been, ‘a change in the course of nature. . .’ is not absolutely impossible [. . .] This, and nothing else in the world, is what Hume finds to object to my inductive inference from P to Q [. . .] But this is a necessary truth. And therefore to demand, just on this account, that I should lower my degree of belief in the hotness of tomorrow’s flames is mere frivolity. (Hervorhebungen im Original.)

Mit Blick auf die zentrale These des Falsifikationismus, dass alles Wissen hypothetisch sei, fährt er fort: “If I have [. . .] a positive degree of belief in some scientific theory, what can Popper urge against me? [. . .] nothing at all, in the end, except this: that despite all the actual or possible empirical evidence in its favour; the theory might be false. But this is nothing but a harmless necessary truth; and to take it as a reason for not believing scientific theories is simply a frivolous species of irrationality [. . .] Yet it is this proposition, 18

Bevor Missverständnisse entstehen: Für die Mathematik, aber auch nur die Mathematik, hat sich diese Haltung als sehr fruchtbar erwiesen.

558

6 Integrative Wissenschaftstheorie

that any scientific theory, despite all the possible evidence for it, might be false, [. . .] which may be said to be recent irrationalist philosophy of science.” (Hervorhebungen im Original.)19 Ein Vergleich mit der Erkenntnistheorie bietet sich an. Dort entspricht der perfektionistischen Position der Solipsismus. D.h., es besteht die Möglichkeit, dass alle unsere Vorstellungen nur Einbildungen sind, weil uns etwa ein Descartscher Dämon in die Irre führt oder wir in der modernen Version ein „Gehirn im Tank“ sind, dessen Sensorik von außen kontrolliert wird. Während jedoch in der Erkenntnistheorie solche extremen Positionen nicht ernsthaft vertreten werden, sind sie in der Wissenschaftstheorie an der Tagesordnung. Ständig wird dort die Vorläufigkeit und Unsicherheit unseres Wissens betont, sind relativierende Bemerkungen und Zweifel die Regel.

Überbetonung der Induktion Bleibt die Induktion. Wir haben mehrfach ihre eminente Bedeutung deutlich gemacht und ein philosophisch unvoreingenommener Beobachter hätte sich angesichts der statistischen und wissenschaftlichen Praxis womöglich uneingeschränkt Bacon bzw. der Tradition des britischen Empirismus angeschlossen. Auch die klassische Definition der Information (S. 457) wird gerne so gelesen, dass man am meisten lernt, wenn das „Überraschungsmoment“ am größten ist. Es sind die seltenen Ereignisse, jene, mit denen wir nicht rechnen, die uns voranbringen. Es ist also nicht wirklich der von Popper und vielen Physikern (etwa Jeffreys und Jaynes) betonte Misserfolg bzw. das Fehlschlagen einer Erwartung - insbesondere nach einer strengen deduktiven Ableitung - entscheidend, sondern je weniger wir auf einen Misserfolg bzw. Erfolg aufgrund unseres Vorwissens eingestellt waren. Es ist die „kognitive Dissonanz“ - wir stutzen - die uns dazu motiviert, das entsprechende Phänomen genauer unter die Lupe zu nehmen. Läuft hingegen alles so, wie zu erwarten war, so haben wir keinen Anlass, unsere „passenden“ Vorstellungen zu modifizieren. Mit einer hervorragenden Theorie sind sehr wenige Beobachtungen vereinbar, weshalb eine Diskrepanz dort schnell auffällt. Niemand wird deshalb die Meteorologie in Frage stellen, wenn das Wetter (mal wieder) anders war, als vorhergesagt, wohl aber die Physik, wenn Wasser bergauf fließt. Eine natürliche Formalisierung solcher Überlegungen ist der Bayessche Mechanismus, der Vorwissen und Daten zum nachträglichen Informationsstand verrechnet. Diese Sicht der Dinge automatisiert den induktiven Schritt, indem sie alle Information probabilistisch erfasst und dann mit den zugehörigen Formeln verrechnet. Heraus kommt eine induktive Logik à la Carnap, die die Wahrscheinlichkeitstheorie zur Wissenschaftstheorie und die Bayesschen 19

Vgl. unser Ausführung zur „abstrakten“ und „konkreten“ Bedrohung der Validität, S. 436. Analog hierzu ist ein prinzipieller „philosophischer“ Zweifel schwach und eine konkrete Kritik stark.

6.2 Wissenschaftstheorie im Forschungszirkel

559

Formel zum Kern einer eigenständigen philosophischen Position werden lässt. Der Bayesianismus erblickt ganz allgemein im induktiven Schritt und speziell im Bayesschen Mechanismus den Kern aller Wissenschaft. Howson und Urbach (2006: 10, 91) schreiben: [. . .] scientific reasoning is reasoning in accordance with the calculus of probabilities [. . .] Bayesian principles provide a unified scientific method.”

Da für Bayesianer zudem Wahrscheinlichkeiten subjektive Überzeugungen sind, die aufgrund von Daten „geupdated“ werden, kann man auf diese Weise schlüssig erklären, wie Theorien von Wissenschaftlern bewertet werden und (bei eindeutiger Befundlage) Meinungen zu konvergieren vermögen. Der Übergang von Daten zu allgemeinen Einschätzungen wird so zumindest eines Teils seiner subjektiven Willkür beraubt, und zwar genau in dem Maße, in dem Wissenschaftler rational - und damit im Einklang mit der subjektiven Bayesianischen Theorie - ihre Meinungen anpassen. Leider verführt diese Betonung subjektiver Ansichten jedoch gerne dazu, den wissenschaftlichen Diskussionen und der Konsensbildung eine ausschlaggebende Rolle im Forschungsprozess zuzuschreiben. Im Gegensatz zur Politik ist Wissenschaft jedoch nicht nur konsens- sondern weit mehr noch wahrheitsfähig (im Sinne der herausragenden Bedeutung der Empirie für alle Theorien). Untersuchungen wie Zickfeld et al. (2007), wo ein fachwissenschaftliches Problem mittels einer Expertenbefragung beantwortet werden soll, werden deshalb eher irritiert zur Kenntnis genommen.20 Erst recht mutet die Suche nach einer Vereinheitlichung des induktiven Schrittes angesichts dessen prinzipieller Nicht-Formalisierbarkeit eher kontraproduktiv an. Ein konkretes Resultat ist immer in ganz verschiedene Richtungen verallgemeinerbar, je nachdem, von welchen Spezifika man abstrahiert. Also ist die Suche nach einer einheitlichen Theorie wissenschaftlichen Schließens von vorneherein zum Scheitern verurteilt.

Fazit Wie man es auch dreht und wendet: Sobald man die Rolle der Theorie, der Deduktion oder irgendeiner anderen Komponente des Forschungszirkels zu sehr ausbaut, läuft das Rad der Erkenntnis nicht mehr rund. Es weist genau an der bevorzugten Stelle eine Unwucht auf, die dem tatsächlichen Lauf von Forschung nicht gerecht wird. Je mehr Nuancen man an einer Stelle herausarbeitet, und genau das ist das Ziel vieler „Schulen“, desto mehr läuft man Gefahr, das Gesamtbild aus den Augen zu verlieren, und man entfernt sich schnell von einer believable philosophy of science (Diaconis 1998: 804). So nachvollziehbar und wertvoll z. B. alle „induktiven“ Ideen für sich betrachtet und erst recht zusammengenommen - als induktive Perspektive - sind; lässt man nur sie gelten, hat das ganze Unternehmen Schlagseite. (Hinzu kommt, 20

Siehe z. B. Schmitt (2007).

560

6 Integrative Wissenschaftstheorie

dass in der heutigen, hochspezialisierten akademischen Welt viel häufiger ausladende Monographie über eine Facette eines Themas anzutreffen sind also ausgewogene Gesamtdarstellungen.) Es sollte deshalb klar sein, wie unsere generelle Einschätzung vieler heute beliebter und energisch vertretener Lehrmeinungen ausfällt: Wir können die meisten von ihnen würdigen, weil sie typischerweise einen und zuweilen auch einige Teile des Forschungszirkels intensiv beleuchten. Wir wenden uns andererseits entschieden dagegen - was bei verbalen Positionen in einer Welt kompetitiver, vor allem theoretischer Diskussion leicht passiert - dass sie zur Einseitigkeit tendieren, sich verhärten oder sogar dogmatisch bekämpfen.

6.2.2 Philosophische Orientierung Prächtig habt ihr gebaut. Du lieber Himmel! Wie treibt man, Nun er so königlich wohnet, den Irrtum heraus! Schiller (1987: 307), „Die Systeme“

Ein Teilgebiet der Philosophie Die aktuelle Wissenschaftstheorie bemüht sich dem Eindruck entgegenzuwirken, sie sei nicht, wie viele Gebiete im Verlauf der Philosophiegeschichte, abgehoben und ihrem Gegenstandsbereich entrückt. Sie sieht sich gerne an der Schnittstelle zwischen Wissenschaft und Philosophie, zugleich empirisch orientiert als auch reflektierend. Carrier (2007: 43f) führt dies wie folgt aus: Die Wissenschaftsphilosophie hat sich im Verlauf des 20. Jahrhunderts etabliert; sie ist fester Bestandteil der theoretischen Philosophie geworden [. . .] Entsprechend hat sich die Wissenschaftsphilosophie professionalisiert. Bis weit ins 20. Jahrhundert hinein stammten wesentliche Beiträge zur Wissenschaftsphilosophie von aktiven Wissenschaftlern [. . .] Das hat sich geändert - ähnlich wie in der wissenschaftsreflexiven Schwesterdisziplin der Wissenschaftsgeschichte. Selbst naturphilosophische Fragen werden heute weitgehend von entsprechend spezialisierten Wissenschaftsphilosophen behandelt. Ebenso ist in der Methodenlehre die Innenperspektive des aktiven Teilnehmers der Außenperspektive des distanzierten Beobachters gewichen. Durch eine derartige Professionalisierung wird eine Eindringtiefe der Wissenschaftsreflexion erreicht, die aus der gleichsam nebenberuflichen Perspektive des aktiven Wissenschaftlers nicht zu gewinnen ist.

Verblüffend daran ist, dass die historische Entwicklung vieler Wissenschaften genau anders herum verlief. Es ist allgemein bekannt, dass eine ganze Reihe, wenn nicht sogar die meisten empirischen Wissenschaften ihr Dasein zwar im Schoß der Philosophie begannen, sich dann jedoch konsequent aus ihr heraus entwickelten. Zwei berühmte Beispiele sind die Physik im 17. und die Psychologie im 19. Jahrhundert. Schriebe man eine Erfolgsgeschichte der

6.2 Wissenschaftstheorie im Forschungszirkel

561

Philosophie, so stünde eben jene Fruchtbarkeit, kontinuierlich neue Disziplinen hervorzubringen, zumindest in der Neuzeit an erster Stelle. Die Distanzierung von der „Mutter Philosophie“ geschah gerade in dem Maße, in dem die theoretisch-philosophische Reflexion und auch Spekulation durch empirische Erfahrung, also konkrete Forschung auf dem jeweiligen Feld sowie dem Nachdenken über die Bedeutung der so gewonnenen Resultate, ersetzt wurde. Good (1988: 407) schreibt prägnant “[. . .] philosophical topics, when sufficiently well developed, tend to move into other disciplines” und am Beispiel der Kausalität veranschaulicht Pearl (2000a: xiii) den Wandel: In the last decade [. . .] causality has undergone a major transformation: from a concept shrouded in mystery into a mathematical object with well-defined semantics and well-founded logic. Paradoxes and controversies have been resolved, slippery concepts have been explicated, and practical problems relying on causal information that long were regarded as either metaphysical or unmanageable can now be solved using elementary mathematics. Put simply, causality has been mathematized.

Im Fall der Wissenschaftstheorie sollte man dem entsprechend erwarten, dass einer ersten Phase vorwiegend theoretischer Spekulation und prinzipieller Diskussionen eine zweite, ausgeprägt empirische gefolgt sein sollte. Dies war jedoch gerade nicht der Fall. Sieht man von (Teilen der) Wissenschaftssoziologie und -Geschichte und der dezidiert empirisch orientierten Wissenschaftsforschung einmal ab, so ist die Wissenschaftstheorie bis heute ein ausgesprochen nicht-empirisches Unterfangen geblieben.21 Statt sich aus der Philosophie heraus zu entwickeln, ist die Wissenschaftstheorie tatsächlich „fester Bestandteil der theoretischen Philosophie geworden“ und dies obwohl sich schon die großen Gründer im Umfeld des Wiener Kreises ausdrücklich als Wissenschaftler und Philosophen verstanden (Verein Ernst Mach 1929: 9).

Wissenschaftstheorie statt -forschung Die Wissenschaftstheorie leidet gewissermaßen an einer doppelten Theorielastigkeit. Nicht nur sind wissenschaftliche Theorien ihr Hauptarbeitsfeld, darüber hinaus ist ihre gesamte Ausrichtung, ihre Grundhaltung, philosophisch. Selbst ein herausragender Autor wie Hacking (1983), der sich mit dem Neuen Experimentalismus entschieden für die Emanzipation des Experiments ausspricht,22 distanziert sich kurze Zeit später von der Empirie: It has been too little noted of late how much of a science, once in place, stays with us, modified but not refuted, reworked but persistent, seldom acknowledged but taken for granted [. . .] My explanation of this stability is that when the laboratory sciences 21

Etwa zählt die gesellschaft für analytische philosophie ca. 900 Mitglieder und ist damit „neben der Deutschen Gesellschaft für Philosophie die zweite große philosophische Vereinigung in Deutschland“(gesellschaft für analytische philosophie 2009). Die Gesellschaft für Wissenschaftsforschung hat hingegen gerade einmal um die zwanzig ordentliche Mitglieder (Gesellschaft für Wissenschaftsforschung 2009). 22

Hacking (1983: 250): “Experimentation has a life of its own.”

562

6 Integrative Wissenschaftstheorie

are practicable at all, they tend to produce a sort of self-vindicating structure that keeps them stable [. . .] The theories of the laboratory sciences are not directly compared to ‘the world’; they persist because they are true to phenomena produced or even created by apparatus in the laboratory and are measured by instruments that we have engineered.23 (Hacking 1992: 29f)

Damit baut er einen Gedanken von Kuhn (1962: 26) aus, der sagt:24 “There are seldom many areas in which [even] a scientific theory. . .can be directly compared with nature.” Das schmale, brüchige empirische Fundament einiger weniger, vorwiegend historisch und soziologisch geprägter Studien reicht bei weitem nicht aus, um die sich darüber erhebenden ausladenden Ideengebäude der aktuellen Wissenschaftstheorie zu stützen. So sind alle Symptome der Theorielastigkeit (siehe auch S. 552ff) an der Tagesordnung:

Mangelnde Problemorientierung Gutes wissenschaftliches Arbeiten heißt, sich intensiv mit einem Gebiet auseinander zu setzen. Das heißt, der Blick ist zunächst einmal auf den Boden der Tatsachen gerichtet. Jene gilt es intensiv zu studieren und zu verstehen. Die Wissenschaftstheorie zeichnet sich hingegen durch eine übermäßige Konzentration auf prinzipielle Probleme aus - sei es die Induktion, das Wesen von Gesetzen, Kausalität, Realismus versus Antirealismus usw. Das führt zu Diskussionen, die zuweilen völlig an den realen Problemen vorbeigehen. So spielt das viel diskutierte philosophische Problem, nach welchen Kriterien man aus im Prinzip unendlich vielen möglichen Theorien die am besten geeignete auswählen sollte, bei der induktiven Auswahl von Modellen keine Rolle. Man verweist allenfalls auf das Prinzip einer möglichst sparsamen bzw. einfachen Begründung (parsimony, Ockhams razor) und arbeitet dann am konkreten Problem weiter. In der Praxis steht man nicht vor einer Vielzahl von in etwa gleich guten Theorien, so dass einem die Wahl der besten schwer fiele. Das eigentliche Problem ist, wie Jeffreys (siehe S. 205) völlig richtig betont, darin, überhaupt auch nur eine einzige einigermaßen umfassende und zugleich brauchbare Theorie zu finden.25 Genauso wenig ist das vieldiskutierte „Überladensein“ der Daten mit theoretischen Vorstellungen ein echtes Problem, sondern gerade das Gegenteil, also ein zu Wenig an Wissen bzw. eine zu geringe Strukturierung der Situation, gerade in den weniger entwickelten, „ jungen“ Wissenschaften. Man beachte auch, welche Probleme Philosophen im Zusammenhang mit dem Induktionsproblem diskutieren (Abschnitt 4.7), und wie wenig diese zu kon23

Man vergleiche das mit Feynman (2007: 181, 192)! Zitiert nach Sullivan (2006: 60), der sich auf die 2. englische Ausgabe von Kuhns Hauptwerk (1970) bezieht 25 Fast gleichlautend äußern sich Bricmont und Sokal (2004). 24

6.2 Wissenschaftstheorie im Forschungszirkel

563

struktiven Lösungen beitragen. Jaynes (2003: 279) kritisiert den Verlust der Problemorientierung explizit: Carnap was seeking the general inductive rule (i.e., the rule which, given the record of past results, one can make the best possible prediction of future ones). But he suffered from one of the standard occupational diseases of philosophers; his exposition wanders off into abstract symbolic logic without ever considering a specific real example.

Auch Stegmüllers Strukturalismus ist von dieser Gefahr bedroht (Balzer et al. 1987, Balzer 1997). Dabei forderte schon Reichenbach (1968: 139) von seinen Kollegen nicht nur konkrete Beispiele, sondern zugleich auch eine klare, einfache Sprache ein.

Mangelnde fachwissenschaftliche Kompetenz Philosophische Gedankenflüge werden schnell irrelevant, wenn das einschlägige fachwissenschaftliche Wissen fehlt. Diese Kritik ist besonders schwerwiegend bei stark mathematisierten Gebieten, wie der Statistik. Kempthorne (1971: 485) schrieb schon vor fast 40 Jahren: “It is quite fantastic to me how individuals can try to develop theories of science and knowledge without doing science, like someone who works on the foundations of mathematics without actually doing any mathematics.” Und Weinberg (1995: 84) ergänzt ganz altmodisch: We learn about the philosophy of science by doing science, not the other way around.

Zumindest bei den Grundlagen der Statistik können wir dem voll und ganz zustimmen, denn selbst das aus philosophischer Perspektive führende Buch von Mayo (1996) kommt kaum über eine Wiederholung klassischer frequentistischer Argumente hinaus. In weiten Teilen liest es sich sogar wie eine historische Aufarbeitung der in den Jahrzehnten zuvor geführten Debatte,26 wobei ganz entscheidende Beiträge von Lindley, Berger und Lecam fehlen. Autoren wie Basu, Box, Rubin, Royall und Tukey, um nur einige zu nennen, die im Verlauf unserer Argumentation ganz entscheidend waren, fehlen im Literaturverzeichnis sogar vollständig. Auch Verweise zur Informationstheorie sucht man eher vergebens. Wie kann man ein halbes Buch über induktivstatistische Erklärungsmuster der letzten vier Jahrzehnte schreiben (Salmon 1989) und dabei R. A. Fisher nicht erwähnen? Selbst in einem aus philosophischer Perspektive geschriebenen Grundlagenwerk zur Wahrscheinlichkeit wie Gillies (2000) wird die algorithmische Zufälligkeit nicht behandelt, vielmehr endet die dorthin führende Entwicklung mit Church (1940).27 26

Insbesondere stützt sie sich auf Godambe and Sprott (1971) und Harper and Hooker (1976) aus der Blütezeit des Frequentismus. 27

Siehe hierzu auch schon S. 493ff.

564

6 Integrative Wissenschaftstheorie

In der Folge verfehlen einschlägige Arbeiten zumeist zielsicher den eigentlichen Gehalt naturwissenschaftlich-technischer Beiträge und werden von Fachwissenschaftlern allenfalls als randständige Ergänzung der eigentlichen, substanziellen Entwicklung wahrgenommen. Nachdem Sullivan (1998) zwei solche Arbeiten (über Statistik und Strömungslehre) seziert bzw. demontiert hat, fasst er zusammen (S. 91): “[The authors] both made the same complex of mistakes: They did not sufficiently analyze the details of the mathematical arguments that all scientists - regardless of their position on particular scientific questions - would agree are of central importance. Having failed to understand what was really at issue, [they] cast about for social explanation.” Wie lückenhaft das Wissen und Verständnis namhafter Herausgeber und Autoren ist, demonstrierte der Physiker A. Sokal (1996), in der besten Tradition kritisch-empirischer Überprüfung, anhand eines einfachen Experiments. Er reichte einen Beitrag mit dem bemerkenswerten Titel “Transgressing the Boundaries: Toward a Transformative Hermeneutics of Quantum Gravity” zur Publikation in einer der bedeutendsten einschlägigen Zeitschriften (social text), ein. Diese Parodie bestand aus einer Aneinanderreihung sofort zu erkennender fachlicher Fehler, ergänzt um unzählige Zitate postmoderner „Autoritäten“, verbunden mit einer „progressiven“, naturwissenschaftskritischen Haltung.28 Die Blamage bestand nicht nur darin, dass die Parodie publiziert wurde; sie wuchs sich zum Skandal aufgrund der überaus unsachlichen Reaktion einschlägiger Kreise aus, die auch vor persönlichen Attacken nicht zurückschreckten. Spätestens seitdem ist klar, dass es sich bei dem ganzen Unternehmen postmoderner Wissenschaftstheorie um ein “house built on sand” (Koertge 1998) handelt.

Inflation der Positionen und Diskussionen Ohne den disziplinierenden Einfluss der Empirie, insbesondere ein möglichst großes Verständnis dessen, was die Einzelwissenschaften bewegt und der(en) Methodik, schießt die Spekulation ins Kraut. Wie bei jedem Gebiet, das sich von seinen empirischen Wurzeln entfernt, vervielfachen sich auch in der Wissenschaftstheorie die vertretenen Meinungen. Dies einfach deshalb, weil das selektive Element der Fakten fehlt bzw. wenig beachtet wird. Die Tragödie der Naturwissenschaften, also der Tod einer schönen Hypothese aufgrund einer hässlichen Tatsache, findet nicht statt. Wer z. B. gehofft hatte, Sokals Parodie hätte dem gröbsten Unfug ein Ende bereitet, irrt: “Science Studies29 was not seriously damaged by the Sokal hoax [. . .]” (Godfrey-Smith 2003: 147). 28

Siehe Sokal (1998), Sokal und Bricmont (1998: Anhänge A-C) und Lingua Franca (2000) für eine ausführliche Diskussion. Viel Material enthält auch die regelmäßig aktualisierte Homepage Sokals, siehe www.physics.nyu.edu/faculty/sokal/ 29

Für eine genauere Begriffsbestimmung siehe Koertge (1998: 3ff) und Windschuttle (2000: 12ff).

6.2 Wissenschaftstheorie im Forschungszirkel

565

Eine Auffächerung von Meinungen, eine Vielzahl von Ansätzen sind hier kein Zeichen für eine lebhafte, fruchtbare Diskussion, als vielmehr ein Indiz dafür, dass die Bodenhaftung verloren gegangen ist. Reichenbach (1968: 142) zitiert als klassisches Beispiel den Idealismus: Die älteren Systeme drückten den Stand der Wissenschaft ihrer Zeit aus und gaben Pseudo-Antworten, wo noch keine besseren Antworten möglich waren. Aber die Systeme des 19. Jahrhunderts sind [. . .] das Werk von Männern, die die philosophischen Ergebnisse der Wissenschaft ihrer Zeit völlig außer acht ließen und unter dem Namen Philosophie naive Systeme von billigen Verallgemeinerungen and Analogien entwickelten.

Ein aktuelles Beispiel ist die ausufernde Realismusdebatte. In fast jeder Einführung in die Wissenschaftstheorie werden etliche Seiten der Darstellung äußerst zahlreicher antirealistischer Positionen gewidmet.30 Die meisten empirisch arbeitenden Wissenschaftler vertreten hingegen einen ziemlich starken Wissenschaftsrealismus.31 Das heißt, sie sind von der einfachen und starken Idee überzeugt, dass erfolgreiche Wissenschaften die tatsächliche vorhandenen Strukturen approximieren. Diese Wahrheitsnähe ist eine schlichte, überzeugende Erklärung der beobachteten Fakten und wird in der philosophischen Diskussion auch gerne als „No-Miracles-Argument“ zitiert;32 denn wäre es nicht das größte Wunder aller Zeiten, wenn wissenschaftliche Theorien einerseits nicht wahrheitsnah und anderseits zugleich permanent überwältigend erfolgreich wären? Gardner (1996b: 480) fasst es zusammen: Why has science been so fantastically successful? There is simple, obvious answer that a child can understand [. . .] It is successful because human brains have learned more than birds about the structure of the world - yes, a world ‘out there’, independent of you and me and our cultural biases.

Anstatt nun derartige wohlfundierte fast schon zu offensichtliche Positionen zu stützen, scheint das Hauptaugenmerk derzeit darauf zu liegen, auch die vernünftigsten Standpunkte mit allerlei konkreten und abstrakten Argumenten anzugreifen. Bezweifelt werden u. a.: Fortschritt, realistische Interpretationen, paradigmenunabhängige Beobachtungen, die rationale Wahl zwischen verschiedenen Erklärungsalternativen, die Trennung zwischen Beobachtbarem und Nicht-Beobachtbarem, die grundlegende Unterscheidung zwischen analytischen und synthetischen Aussagen, der Sonderstatus der Mathematik, der Zusammenhang zwischen permanentem Erfolg und Wahrheitsnähe, die Existenz einer vom Beobachter unabhängigen Welt. . . 30

Siehe z. B. Ladyman (2002: Teil II), Godfrey-Smith (2003: Kapitel 7, 8, 9) Russ (2004: Kapitel 2), Schülein und Reitze (2002: Kapitel 7, 8), Okasha (2002: Kapitel 4), Rosenberg (2005: Kapitel 5), Chalmers (2006: Kapitel 15), Greenough (2006), Groff (2008), Lipton (2004: Kapitel II) 31

Siehe etwa Bricmont und Sokal (2004), Weinberg (1998), Gardner (1996) und GodfreySmith (2003: Kapitel 12, 15), Howson (2000: Kapitel 3), Bartels (2007) 32 Siehe fast alle gerade genannten Werke, z. B. Ladyman (2002: 244ff), Okasha (2002: 62ff), Russ (2004: Abschnitt 2.3).

566

6 Integrative Wissenschaftstheorie

Von besonderer Bedeutung ist ein Verweis auf das Induktionsproblem und zwar in Form des „Unterbestimmtheitsarguments“. Jenes besagt, dass die Fakten alleine - und seien sie noch so zahlreich-, unterbestimmt sind. D.h., es gibt im Prinzip immer eine ganze Reihe von Theorie, die die Daten gleich gut erklären.33 Wie also können wir glauben, dass auch nur eine (der vielen möglichen) Theorien der Wahrheit nahe kommt? Diese zwar richtige aber zugleich reichlich abstrakte Kritik gilt als stärkste Erwiderung auf das „NoMiracles-Argument“. Denkt man genauer nach, so erkennt man, dass der Forschungszirkel diesen Einwand entschärft: Gibt es tatsächlich mehrere, von einander verschiedene Theorien, die alle zurzeit bekannten Fakten gleich gut erklären, so ist zu erwarten, dass sich Situationen konstruieren lassen, in denen sich die Vorhersagen der Theorien unterscheiden. Kurz gesagt: Es sollte sich dann ein Experimentum crucis konstruieren lassen, das die substanziellen Unterschiede zwischen den Theorien nutzt, um zu voneinander abweichenden Prognosen zu kommen. Die dadurch gewonnene, neue Information erlaubt dann sehr wohl, rational zwischen mehreren Kandidaten zu entscheiden. Es wäre gleichwohl zumindest prinzipiell möglich, dass die so aufeinanderfolgenden Theorien einen sehr verschiedenenartigen inneren Aufbau haben. Ein Paradigma löste gewissermaßen das andere ab, und anstatt aufeinander aufzubauen wären einander ablösende Grundüberzeugungen inkommensurabel. Kuhns Paradebeispiele solcher Umbrüche stammen aus der Geschichte der Physik. Auch die folgende Passage aus Feynman (2007: 206) lässt sich in diesem Sinn interpretieren: [. . .] die Philosophie oder die Ideen hinter einer Theorie [können sich] bereits durch winzig kleine Änderungen an dieser Theorie enorm verändern [. . .] Beispielsweise stimmten Newtons Vorstellungen von Raum und Zeit mit den Experimenten sehr gut überein. Dennoch war, um die wahrhaft winzige Korrektur der Merkurbahn anzubringen, eine enorme Änderung im Kern der Theorie erforderlich. Der Grund liegt gerade in der Einfachheit und Vollkommenheit der Newtonschen Gesetze [. . .] Bei der Formulierung eines neuen Gesetzes kann man nicht an etwas Vollendetem einfach ein bißchen herumpfuschen; man muß selbst etwas Vollendetes schaffen. Kein Wunder also, daß zwischen der Newtonschen und der Einsteinschen Gravitationstheorie enorme philosophische Unterschiede bestehen. (Meine Hervorhebung)

Weinberg (1998), ein weiterer Physiknobelpreisträger, antwortet Kuhn explizit und kommt zu einer anderen Schlussfolgerung: It is important to keep straight what does and what does not change in scientific revolutions, a distinction that is not made in Kuhn (1962). There is a ‘hard’ part of modern physical theories (‘hard’ meaning not difficult, but durable, like bones in paleontology or potsherds in archeology) that usually consists of the equations themselves, together with some understandings about what the symbols mean operationally and about the sorts of phenomena to which they apply. Then there is a ‘soft’ part; it is the vision of reality that we use to explain to ourselves why the equations work. The soft part does change; we no longer believe in Maxwell’s ether, and we know that there is more to nature than Newton’s particles and forces [. . .] I can’t see any sense in which the increase in scope and accuracy of the hard parts of our theories is not a cumulative approach to truth. 33

Für Details siehe wiederum die gerade genannte Literatur, siehe auch S. 500.

6.2 Wissenschaftstheorie im Forschungszirkel

567

Man muss ins Detail gehen, um zu klären, welcher der beiden Standpunkte eher den historischen Fakten entspricht. Dabei stellt sich zunächst heraus, dass beobachtungsnahe Gesetze außerordentlich änderungsresistent sind. Sind auf einer abstrakteren Ebene doch Modifikationen erforderlich, so bauen sukzessive Theorien in aller Regel aufeinander auf und passen - per konstrukionem - besser zu den zu erklärenden Fakten. Muss man schließlich doch einmal den Erklärungszusammenhang auf einer datenfernen Ebene neu strukturieren, so überdauern immer noch die meisten wesentlichen Zusammenhänge, selbst im Fall einer „wissenschaftlichen Revolution“. Zum Beispiel waren die großen Erhaltungssätze der klassischen Physik mit den neuen physikalischen Theorien kompatibel, ließen sich also im neuen Rahmen begründen.34 Auch Poppers Deduktivismus (s.o.) und seine Hypothesen als „freie Schöpfungen des menschlichen Geistes“ treffen nur scheinbar den Kern der Sache. Ganz anders als er rekonstruiert Post (1971) mit großem technischem Sachverstand die vielen kleinen, zumeist induktiven Schritte von der klassischen zur modernen Physik. Schaut man genau genug hin, so gleicht die tatsächliche historische Entwicklung weit mehr einem tastenden Suchen, einer „konservativen Induktion“ (Post) bzw. einer „rationalen Heuristik“ (Fischer 1983), nicht zuletzt geleitet von der Invarianzidee, als einem von allem Alten völlig losgelösten „genialen Geistesblitz.“ (Siehe auch die Bemerkungen von Neumanns und Arnolds ab S. 46.) Insgesamt stellt sich heraus, dass selbst die größten wissenschaftlichen Revolutionen nur oberflächlich betrachtet der Idee kumulativen Fortschritts widersprechen. Weit typischer ist, dass interessante neue Phänomene hinzukommen, als dass fundamentale Einsichten eingeschränkt oder sogar vollkommen revidiert werden müssten. Unser Verständnis hat sich kontinuierlich vertieft, auch wenn es ab und zu (selten!) konzeptionelle Umbrüche gibt. Kritik ist deshalb erfolgreicher, wenn sie auf die Existenz einzelner, theoretischer Entitäten zielt, die im Laufe der Entwicklung tatsächlich aufgegeben werden mussten (z. B. Äther, Phlogiston). Jedoch muss man noch nicht einmal auf Weinberg verweisen, um zu sehen, dass es auch an dieser Stelle weit häufiger zu einer sukzessiven Erhärtung theoretisch gut begründeter Entitäten kam, als dass „Geisterteilchen“ 35 wieder aufgegeben werden mussten. (Für weitere Beispiele siehe S. 551.) Die Kritik wirkt auch deswegen etwas gesucht, weil kaum jemand eine neu und möglicherweise ad hoc eingeführte Größe sofort weitreichend - also realistisch statt instrumentalistisch - interpretieren wird, und manche, später wieder aufgegebene Vorstellung, gar nicht so weit von der Wahrheit entfernt war.36 34 35

Für viele weitere Details siehe Hacking (1983).

Der Physiker Pauli über Neutrinos Beim Verbrennen entweicht zwar kein Phlogistion, das brennende Material reagiert aber mit dem Luftsauerstoff, was zu einer Anlagerung von Substanz führen kann. Die Idee einer chemischen Reaktion, an der zwei Stoffe beteiligt sind, erfassen also beide Theorien. 36

568

6 Integrative Wissenschaftstheorie

Wie im Fall des Induktionsproblems erweisen sich also auch hier die meisten prinzipiellen Einwände bei einem genauen Studium der Situation als eher oberflächlich, zuweilen sogar künstlich. Es wäre deshalb eher ermüdend als hilfreich, viele weitere Einzelkritiken im Detail zu besprechen, weshalb wir für zusätzliche Beispiele lediglich auf Bricmont und Sokal (2004) verweisen.

Vernachlässigung von Logik und Mathematik Der Lackmustest für die eingenommene Position der meisten Beiträge ist deren Einstellung zu mathematischen Methoden. Werden jene gar nicht oder allenfalls am Rande erwähnt, so kann man nahezu sicher sein, dass der Autor später eine dezidiert antirealistische Position vertreten wird. Die nachfolgende Tabelle möge dies verdeutlichen. Dieses Ergebnis ist nicht weiter verwunderlich, benötigt man doch ein gewisses mathematisches Verständnis, um zum ersten tiefer in die heute führenden Wissenschaften einzudringen; zum zweiten die ganze Kraft des quantitativen Ansatzes zu erfassen (siehe Kapitel 1) und zum dritten diszipliniert zu argumentieren. Wie die Tabelle zeigt, entwickelt sich so bei den zuerst genannten Autoren - wie Jahrzehnte zuvor bei Reichenbach, Menger, Kraft, Schlick oder Hahn - eine nachvollziehbare, realistische Theorie der Wissenschaften, bei letzteren verdrängen vage, wenig strukturierte Gedanken logisch-quantitative Überlegungen: [. . .] science as we know it: apportioned into disciplines, apparently arbitrarily grown up; governing different sets of properties at different levels of abstraction; pockets of great precision; large parcels of qualitative maxims resisting precise formulation; erratic overlaps; here and there, once in a while, corners that line up; but mostly ragged edges; and always the cover of law just loosely attached to the jumbled world of material things. (Cartwright 1999: 1)

Globalkritik Ohne hinreichende fachwissenschaftliche Kenntnisse kann philosophische Kritik nur die empirischen Wissenschaft in ihrer Gesamtheit auf den Prüfstand stellen. Das lässt sie schnell fundamental werden und wesentliche(!) Details übersehen. Der heute tonangebende Relativismus stellt - folgerichtig - nahezu alle Aspekte und damit auch Erfolge der modernen Wissenschaften in Frage. Stove (2000) hat sich die Mühe gemacht, sowohl die dabei verwendete Hauptstrategie - sich von der Realität zu distanzieren - als auch gewisse Nebenstrategien - insbesondere die Rolle von Mathematik und Logik klein zu reden - in klassischen Texten von Popper, Lakatos, Kuhn und Feyerabend aufzuspüren und zusammenzutragen.

Cartwright (1983, 1999)

How the Laws of Physics Lie

Mathematische Methoden Verweis bzw. Bewertung Gardner, Sokal,. . . intensiv, sehr positiv Godfrey-Smith (2003: 11, 231) [. . .] mathematical tools are not quite as [. . .] essential to science as Galileo thought. van Fraassen (1980, 1990) ausführlich, detailliert Russ (2004) umfangreicher Logik-Anhang Rosenberg (2005) eher sporadisch Okasha (2002) oberflächlich Chalmers (2006: 21) Nicht einmal unsere so geschätzten Chalmers (1999: 197) Maßstäbe der Logik sind universell Kellert et al. (2006) Kein Registereintrag zu „Mathematik“ Ladyman (2002: xi) I have also avoided using any mathematics. Schülein und Reitze (2002: 212) randständig

Autor

Wissenschaftsrealismus The idea that [. . .] all science is concerned with [. . .] the description of patterns in experience has finally been (mostly) abandoned. Konstruktiver Empirismus Kritischer Rationalismus unentschieden keine [. . .] es gibt nicht den allgemeinen wissenschaftlichen Ansatz und die allgemeine wissenschaftliche Methode Scientific Pluralism [. . .] if my readers are left puzzled where previously they were comfortable then I will be satisfied. Bestimmte Formen von Gesellschaft haben zu bestimmten Formen von Erkenntnis geführt. The Dappled World

Philosophische Position

6.2 Wissenschaftstheorie im Forschungszirkel 569

570

6 Integrative Wissenschaftstheorie

Er beginnt mit der „Neutralisierung von Erfolgsbegriffen,“ insbesondere Fortschritt. Kuhns Paradigmenwechsel lassen sich z. B. so lesen, dass das Wachstum von Wissenschaft nicht kumulativ ist, sondern immer wieder Teile verloren gehen. (Wäre dies im großen Stil der Fall, so käme man womöglich wirklich nicht vom Fleck, sondern ersetze immer nur ein Erklärungsmuster durch ein anderes.) Lakatos verwendet ganz einfach und sehr häufig Anführungszeichen, um starke Begriffe wie Beweis, Widerlegung, Erklärung, Wissen, Entdeckung, Wahrheit, Fehler, Tatsachen usw. abzuschwächen. Da Logik allgemeinverbindlich ist, besteht eine weitere Strategie darin, sie von einem nicht allgemeinverbindlichen Kontext abhängig zu machen. Man sagt also zum Beispiel nicht „A impliziert B“, sondern: „Nach unserem heutigen Verständnis ist B eine Folge von A.“ Gerade Kuhn lässt sich mehr noch als Popper als Ausgangspunkt einer irrationalen Bewegung verstehen; insbesondere, weil er gemäßigt-realistische neben ziemlich radikal-spekulative Ansichten stellte. [. . .] Tim Maudlin has eloquently pointed out [that there are] two Kuhns - a moderate Kuhn and his immoderate brother - jostling elbows throughout the pages of The Structure of Scientific Revolutions. The moderate Kuhn admits that the scientific debates of the past were settled correctly, but emphasizes that the evidence available at the time was weaker than is generally thought and that non-scientific considerations played a role [. . .] By contrast, the immoderate Kuhn - who became, perhaps unvoluntarily, one of the founding fathers of contemporary relativism - thinks that changes of paradigm are due principally to non-empirical factors and that, once accepted, they condition our perception of the world to such an extent that they can only be confirmed by subsequent experiment. (Sokal und Bricmont (1998: 75), Hervorhebungen im Original.)

Zuweilen ist es, wie bei der Duhem-Quine-These, auch so, dass der erste Anstoß von einem Wissenschaftler ausging. Jener macht in moderatem Ton auf ein nicht bzw. ein bislang zu wenig beachtetes Phänomen aufmerksam: „Ein physikalisches Experiment kann niemals zur Verwerfung einer isolierten Hypothese, sondern immer nur zu der einer ganzen theoretischen Gruppe, führen“ (Duhem 1998: 243), woraus er im nächsten Kapitel den Schluss zieht (ibd., S. 249): „Das experimentum crucis ist in der Physik unmöglich.“ Im weiteren Verlauf wird die Idee dann von Philosophen aufgegriffen und zu einer prinzipiellen Kritik verschärft - wobei diese aber mehr und mehr ihre empirische Bodenhaftung und Plausibilität verliert. So wird aus Duhems eher eng umrissenen „Gruppe“ von Hypothesen bei Quine (1980: 42f) die gesamte theoretische Wissenschaft: The totality of our so-called knowledge or beliefs, from the most casual matters of geography and history to the profoundest laws of atomic physics or even of pure mathematics and logic, is man-made fabric which impinges on experience only along the edges [. . .] A conflict with experience at the periphery occasions readjustments in the interior of the field [. . .] But the total field is so underdetermined by its boundary conditions, experience, that there is much latitude of choice as to what statements to reëvaluate in the light of any single contradictory experience. No particular experiences are linked with any particular statements in the interior of

6.2 Wissenschaftstheorie im Forschungszirkel

571

the field, except indirectly through considerations of equilibrium affecting the field a whole.

Es ist eine Sache, zu bemerken, wie schwer es bei einem komplexen Netz von Zusammenhängen fällt, die Ursache für das Scheitern eines Experiments aufzuspüren, oder aber auch, eine einzelne „isolierte“ Hypothese zu testen. Daraus jedoch zu folgern, empirische Erfahrung bringe einen kaum weiter, da man es im Wesentlichen mit einer holistischen Gesamtwissenschaft zu tun habe, ist eine kategorisch-pessimistische Haltung, die entsprechend wenig ernst zu nehmen ist.37 Ebenso ist es eine Sache, zu schreiben: „Ein physikalisches Experiment ist nicht einfach die Beobachtung einer Erscheinung, es ist außerdem die theoretische Interpretation desselben.“ (Duhem 1998: 188), bedeutet dies doch nur, dass das Experiment nicht für sich alleine steht, sondern in einen Kontext eingebettet ist. Wie unpräzise und generalisierend ist es hingegen zu behaupten, dass jede Beobachtung „theoriegeladen“ sei, was wohl einer der Eckpfeiler moderner Wissenschaftstheorie ist. Auch der Satz, dass kein Weg mit Notwendigkeit von der Beobachtung zur Theorie führt (Popper), ist angesichts des Induktionsproblems trivial. Doch sind deshalb alle Hypothesen zwangsläufig freie Schöpfungen des menschlichen Geistes? Nicht ganz selten beschleicht einen der Verdacht, dass konstruktivistische Ideen jeglicher Herkunft und Spielart auch deshalb in Mode sein könnten, weil sie den jeweiligen Autoren viele Freiheiten lassen. Das erleichtert natürlich die Entwicklung von Thesen, doch je mehr diese Freiheit genutzt wird, desto weniger muss die jeweilige Ansicht (per konstruktionem) mit der Realität gemein haben. Anders gesagt: Konstruktivismus wird leicht zum Eskapismus.38

Rhetorik statt rationaler Argumente Je geringer die Bodenhaftung, desto bedeutsamer wird schließlich die Rhetorik. Und je unplausibler die vertretenen Thesen, desto mehr müssen die Argumentationsmuster subtil oder die verbalen Attacken heftig werden. Entscheidet man sich für die radikale Strategie, vieles oder sogar (fast) alles zu bezweifeln, so kann man relativ offen schließlich sogar augenfällige Tatsachen in Frage stellen. Mit dem Wahlspruch anything goes spielt (Feyerabend 2007) frei heraus und ziemlich unbeeindruckt von Fakten und Logik die Rolle 37

Siehe hierzu auch die Diskussion in Sokal und Bricmont (1998: 65ff, 69ff) und Schleichert (1966: 114), der ausdrücklich sagt: „Es ist bei derart weitreichenden allgemeinen Behauptungen stets vorteilhaft, zuallererst nach den praktischen Fällen zu fragen, auf welche erstere anwendbar sind. Hier sind freilich Duhems Angaben spärlich.“ 38 Eskapismus bzw. die Errichtung von Luftschlössern ist kein Privileg von Geisteswissenschaftlern! Die aktuelle Finanzkrise lehrt, dass auch Bankiers und Finanzmathematiker mit ihren Mitteln (Aktien, Derivaten, Derivaten von Derivaten usw.) in der Lage sind, beeindruckende Kartenhäuser zu errichten, die, je länger sie Bestand haben, umso dramatischer zusammenbrechen. Realitätsverlust hat viele Gesichter, Spekulation ist eines davon, und die unausweichliche Desillusionierung ist immer schmerzhaft.

572

6 Integrative Wissenschaftstheorie

des enfant terrible der Wissenschaftstheorie. Man wünschte, Ausbrüche wie “Today science prevails not because of its comparative merits but because the show has been rigged in its favor” (Feyerabend 1978: 102) wären rhetorische Ausrutscher der 1970er Jahre geblieben. Tatsächlich haben sich daraus aber viele Spielarten des Relativismus entwickelt. Es ist wenig verwunderlich, dass diese wenig Ertrag abwerfen, wenn noch nicht einmal ein Unterschied zwischen Wissenschaft und allen anderen Projekten der Erkenntnisgewinnung gemacht wird. Viele auf Kuhn folgende Autoren, sind dessen subtileren Strategie gefolgt. Das heißt, auch ihre Beiträge lassen sowohl eine moderate als auch eine weit radikalere Lesart zu. Selbst Feyerabend kann man - zurückhaltend - so verstehen, dass er lediglich gegen das deduktive Korsett aufbegehrt, dessen normative Vorgaben der Wissenschaft und ihrer Entwicklung nicht gerecht werden (deduktiv-nomologisches-Modell, Falsifikation). Nach dem ausführlichen Studium zahlreicher solcher Fälle stellen Sokal und Bricmont (1998: 189) jedoch fest: We have seen in this book numerous ambiguous texts that can be interpreted in two ways: as an assertion that is true but relatively banal, or as one that is radical but manifestly false. And we cannot help thinking that, in many cases, these ambiguities are deliberate. Indeed, they offer a great advantage in intellectual battles: the radical interpretation can serve to attract relatively inexperienced listeners or readers; and if the absurdity of this version is exposed, the author can always defend himself by claiming to have been misunderstood, and retreat to the innocuous interpretation.

Wozu hat die Ambivalenz geführt? Boghossian (1998: 31) konstatiert einen “[. . .] collapse in standards of scholarship and intellectual responsibility that vast sectors of the humanities and social sciences are currently afflicted with.” Eine ähnliche Reaktion war schon auf Snow (1959) zu beobachten. Auf letztere sich direkt beziehend schreiben Sokal und Bricmont (1998: 277): “One significant change has take place since C.P. Snow’s time: while humanists intellectuals’ ignorance about (for example) mass and acceleration remains substantially unchanged, nowadays a minority of humanist intellectuals feel entitled to pontificate on these subjects in spite of their ignorance [. . .]”

Der Ursprung der Krise Im Fall der Statistik hatten wir gesehen, dass die historische Entwicklung vieles zu erklären vermag. Es ist deshalb sinnvoll, nach dem Ausgangspunkt der obigen pathologischen Entwicklung zu suchen. Stove (2000), insbesondere Kapitel 3 und S. 100ff, holt hierzu weit aus. Gemäß seiner überzeugenden Analyse geht der scientific irrationalism39 . unserer Tage auf den dominanten Einfluss von Humes Skeptizismus bei den bedeutendsten wissenschaftstheoretischen Autoren des letzten Jahrhunderts zurück. Kurz gesagt wuchsen 39

Noch genauer als diese Bezeichnung Stoves wäre wohl wissenschaftstheoretischer Irrationalismus

6.2 Wissenschaftstheorie im Forschungszirkel

573

sich Humes abstrakte philosophische Zweifel bei Popper, Kuhn, Lakatos und Feyerabend erst zu einem deduktionistischen Perfektionismus, dann zu einem historisch untermauerten Subjektivismus und schließlich in unseren Tagen zu postmoderner Beliebigkeit samt selbstzerstörerischem Irrationalismus aus. Die skeptische Philosophie Humes wurde im 19. Jahrhundert kaum beachtet. Der Erfolg und die Stabilität naturwissenschaftlicher Theorien war zu jener Zeit so groß, dass philosophische Zweifel nur ganz prinzipiell-theoretischer Natur waren, und ihnen keine praktische Bedeutung beigemessen wurde. Das änderte sich mit dem radikalen Umschwung von Newton zu Einstein und der Quantenmechanik. Das imposante Gebäude der Physik stürzte nach zeitgenössischer Ansicht innerhalb weniger Jahre ein und musste dann auf völlig anderen Grundlagen neu errichtet worden. Parallel dazu ereigneten sich auch in der Mathematik erhebliche Umbrüche, die schließlich in den 1930er Jahren zu Gödels fundamentalen Resultaten führten. Ein solcher gewaltiger Umbruch konnte nicht unkommentiert bleiben. Naturwissenschaftler und die Philosophen im Umfeld des Wiener Kreises versuchten ihn und die weit reichenden Implikationen der neuen Theorien zu verstehen. Damit initiierten sie die moderne Wissenschaftstheorie. Nie hatte jene eine größere Chance, sich von der Philosophie zu lösen als in der ersten Hälfte des 20. Jahrhunderts. Reichenbach (1968: 223f) spricht explizit von einer neuen, wissenschaftlichen Philosophie, die schon im 19. Jahrhundert ihren Anfang nahm und von Mathematikern, Physikern, Biologen und Psychologen begründet wurde. Insbesondere der Einfluss E. Machs war immens. Danach heißt es: „[. . .] Der Philosoph, der sich mit der Analyse der Naturwissenschaften beschäftigt, ist das Ergebnis dieser Entwicklung.“ Auch Schlick (1986: 78) schreibt überdeutlich: Der Philosoph, der nicht in leere Spekulation verfallen will, muß auch die gelehrte Verfahrensweise beherrschen, der Wissenschaftler, der das Außerordentliche leisten will, muß zugleich die Fähigkeiten des philosophischen Instinktes besitzen.

Doch mit der englischen Übersetzung von Poppers „Logik der Forschung“ 1959 und Kuhn (1962) dominierten ab den 1960er Jahren prinzipielle Diskussionen und die oben beschriebene, sich der eigentlichen Wissenschaft entfremdende Entwicklung setzte ein.

6.2.3 Wissenschaftssoziologie The displacement of the idea that facts and evidence matter by the idea that everything boils down to subjective interests and perspectives is [among] the most prominent and pernicious manifestation of anti-intellectualism in our time. (Laudan 1990)

Nirgendwo hat sich der Umschwung klarer vollzogen als in der Wissenschaftssoziologie. Für die klassische Soziologie war Wissenschaft ein soziales

574

6 Integrative Wissenschaftstheorie

System, dessen Regeln es zu erforschen galt. Merton (1942) weist dabei auf den besonderen Ethos der Wissenschaft hin und arbeitet insbesondere deren Prinzipien des Kommunitarismus, Universalismus, Uneigennützigkeit und des (organisierten) Skeptizismus heraus. Das heißt, wissenschaftliche Ergebnisse sind Gemeingut, ihre Bewertung erfolgt unabhängig von den Eigenschaften des Verfassers, die Haupttriebfedern wissenschaftlichen Fortschritts sind Wahrheitssuche sowie andere „edle Motive“, und Wissenschaft ist skeptisch. Dieses Bild mag uns heute etwas blauäugig-idealisierend erscheinen, Merton selbst ergänzte es jedoch später um ganz konkrete, empirisch zu beobachtende Effekte. Der Matthäus-Effekt (Merton 1968) besagt, dass dem der hat, noch mehr gegeben wird.40 Das heißt, bekanntere Autoren werden erst recht zitiert und erscheinen dadurch noch bedeutsamer als sie es alleine aufgrund ihrer wissenschaftlichen Leistung sein sollten, während für unbekanntere Autoren genau das Gegenteil gilt. Auch der Begriff der selbsterfüllenden Prophezeiung stammt von ihm (Merton 1948).41 Dieser klassischen Wissenschaftssoziologie lag Fundamentalkritik an der Leistungsfähigkeit empirischer Wissenschaft völlig fern. Merton (1942: 5f), liest sich hingegen geradezu wie eine Kurzbeschreibung der Akkumulationstheorie: The institutional goal of science is taken to be the extension of certified knowledge. The technical methods employed toward this end provide the relevant definition of knowledge: empirically confirmed and logically consistent statements of regularities (which are, in effect, predictions).

Das “strong programme” der Wissenschaftssoziologie (Bloor 1976) hat dies vollkommen geändert. Zitate wie „Das Buch der Natur wird in der Kultur geschrieben, und während wir glauben, es nur zu lesen, verändern wir bereits den Text. So gleichen sich alle Bilder, die der Konstruktivismus verwendet: Immer erweist sich das Gefundene als das Erfundene; immer treffen wir nur auf die eigenen Spuren, die wir vermehren, während wir sie verfolgen.“ (Jensen 1999) könnten heute in beliebiger Anzahl repliziert werden. Die Grundidee ist immer, dass Wissenschaft gemacht, also von uns maßgeblich konstruiert wird. Insbesondere Autoren der Postmoderne postulieren subjektive, geschlechtsspezifische, nationale und viele andere Momente, die in der Wissenschaft eine große Rolle spielen sollen.42 Soziologen sind hingegen, wie nicht anders zu erwarten, davon überzeugt, dass soziale Faktoren besonders wichtige Faktoren in der Wissenschaftsentwicklung sind. Gemäß dem strong programme sind sie sogar wichtiger als rationale Argumente und sogar der Einfluss der Empirie. Sokal (2008: 4) zitiert einige Vertreter dieser Auffassung:43 40

Engl.: success breeds success. Augenzwinkernd erweitert Stigler (1999: 277) diese Überlegungen zu “No scientific discovery is named after its original discoverer.” 42 Für einen prägnanten Überblick siehe Koertge (1998: 3ff), detaillierte Kritiken einzelner Autoren finden sich in Sokal und Bricmont (1998). 41

43

Alle Hervorhebungen in den Originalen

6.2 Wissenschaftstheorie im Forschungszirkel

575

Gergen (1988: 37): “[T]he validity of theoretical propositions in the sciences is in no way affected by factual evidence.” Collins (1981: 3): “[The] natural world has a small or non-existent role in the construction of scientific knowledge.” Latour (1987: 99ff, 258): “Since the settlement of a controversy is the cause of Nature’s representation, not the consequence, we can never use the outcome - Nature - to explain how and why a controversy has been settled.” Aronowitz (1988: 204): “Science legitimates itself by linking its discoveries with power, a connection which determines (not merely influences) what counts as reliable knowledge [. . .]” Hayles (1992: 31f): “Despite their names, conservation laws are not inevitable facts of nature but constructions that foreground some experiences and marginalize others.”

Anstatt diese Ideen mit wenigen Worten, etwa “I am among those who have found the claims of the strong program absurd: an example of a deconstruction gone mad.” (Kuhn 1992: 110) abzutun oder auf die historische Entwicklung zu verweisen, die ihr Zustandekommen zumindest plausibel macht, gehen wir auf sie aus zweierlei Gründen genauer ein: Zum einen ist die Organisation von Wissenschaft und Forschung ein interessantes Phänomen, das eine nähere Beleuchtung verdient; zum anderen stellt der soziologische Herausforderung einen Testfall für unser Modell des Forschungszirkels dar.

Forschungsorganisation Soziologische und kulturelle Aspekte sind wie psychologische und somatische Dispositionen Beispiele externer Faktoren. Wir teilen die Ansicht der aktuellen Wissenschaftstheorie, dass sie bei der Karriere von Personen wie auch Ideen eine große Rolle spielen.44 Man denke nur an das Mittelalter, das wissenschaftlich weitgehend unproduktiv blieb oder Galileis große Nachfolger, die fern des päpstlichen Zugriffs wirkten. Während die Europäer in der Neuzeit die Weltmeere befuhren und mit einer Vielzahl von Anregungen die Wissenschaften revolutionierten (siehe z. B. Nield (2008) für das wenig bekannte Beispiel der Geologie) blieben die chinesischen Dschunken in ihren Häfen und die fernöstliche Gelehrsamkeit stagnierte (Marks 2006). In neuerer Zeit trug die weitsichtige preußische Wissenschaftspolitik gewiss zum Erblühen von Göttingen, Berlin und anderen Universitätsstädten bei, während die nationalsozialistische Politik genau den gegenteiligen Effekt hatte. Organisatorisch gesehen gleicht der Forschungszirkel unserer Zeit weit mehr dem riesigen, scharfkantigen Schaufelrad moderner Tagebau-Bagger, die im großen Stil schürfen, als der Spitzhacke des Bergmanns der frühen Neuzeit.45 Und auch wenn nach wie vor der einzelne Forscher mit seiner Kreativität, seinem Verständnis und seiner Meinung der entscheidende Faktor ist, so geht es ihm doch wie Medizinern schon vor längerer Zeit. Die 44

Siehe z. B. die vielen historischen Fallbeispiele in Bryson (2005).

45

Siehe z. B. Halfmann und Schützenmeister (2009) zur Klimaforschung.

576

6 Integrative Wissenschaftstheorie

Arbeit an aussichtsreichen Entwicklunglinen kanalisiert sich in langfristigen, teuren Projekten und großen Teams. So ist der typische, forschende Vertreter seiner Zunft heute nicht mehr der Hausarzt in der eigenen Praxis (oder der Handwerker in seiner kleinen Werkstatt), sondern der Organisator klinischer Studien an einem akademischen Lehrkrankenhaus, von den Gruppenleitern an Großforschungseinrichtungen ganz zu schweigen. Dem entsprechend gehören auch der alleine vor sich hinarbeitende Privatgelehrte und der eigensinnige, zerstreute Professor mehr und mehr der Vergangenheit an. Von Ausnahmefällen abgesehen sind sie ebenso wenig konkurrenzfähig wie der kleine Familienbetrieb gegenüber dem multinationalen Konzern. Um zu bestehen, müssen sie sich einem Verbund anschließen oder aber sie werden von Forschern neuen Typs, insbesondere eng in Hierarchien eingebundene Mitarbeiter von Großforschungsprojekten, abgelöst. Im schlimmsten Fall verhindern externe Faktoren also, dass eine Einsicht überhaupt zustande kommt oder eine Entdeckung gemacht wird; bestenfalls ist das Klima wissenschaftsfreundlich und befördert Innovationen. Doch selbst dann sind Wissenschaftler auch nur Menschen, und trotz aller Suche nach der Wahrheit wäre es falsch, der Wissenschaft und ihren Adepten eine bessere Moral als der Allgemeinheit zu unterstellen (Merton 1942). Vielmehr sind in diesem sehr kompetitiven Umfeld, wo es um (große) Ehre, (viel) Geld, (einige) Macht und (längerfristigen) Einfluss geht, einschlägige soziale Prozesse zu erwarten, die, wie in Wirtschaft und Politik, bis hin zu kriminellen Machenschaften reichen (Judson 2004). Lesenswerte, einschlägige Studien sind z. B. Knorr-Cetina (1984), Chalmers (1999: Kapitel 7 und 8), Weingart (2003) und Carrier (2006: Kapitel 6) sowie die dort genannte Literatur.46 Fischer (2004: 100) fasst ganz nüchtern zusammen: Schädlicher als der kleine Gauner, der sich Publikationen oder Drittmittel durch Lügen erschwindelt, ja sogar schädlicher als der Schurke, der sich durch gefälschte Daten Hunderttausende an Drittmitteln erschleicht, sind innovationshemmende soziale Strukturen der Wissenschaft, die Bildung von Oligarchien und Gefälligkeitsnetzwerken, die zur unsichtbaren Fehlverteilung von Forschungsmitteln in großem Maßstab und zur Ausgrenzung hochinnovativer Wissenschaftler und unkonventioneller junger Talente führen. Nicht der manifeste Betrug einzelner schädigt die Wissenschaft am stärksten, sondern die mehr oder weniger subtile Interessenpolitik ihrer Standesvertreter, die sich insbesondere in Fehlfunktionen des Peer-Review System bemerkbar macht [. . .]47

Die Organisation von Wissenschaft, ihrer Strukturen und Prozesse, ist also alles andere als unwesentlich. Werden einem Feld die notwendigen finanziellen Mittel entzogen, wandert es ab oder verwaist. Wird die Unterstützung nur wenigen Großprojekten gewährt, verkümmert die Forschung in ihrer Breite, vernachlässigt man die Grundlagenforschung, so verdorren auf längere Sicht auch die Anwendungen. Schon ohne den Einfluss externer Faktoren ist es ziemlich schwierig, eine erfolgsorientierte Wissenschaftspolitik zu betreiben, 46

Jungen Lesern, die es nach ganz oben schaffen wollen, sei Hargittai (2002) empfohlen.

47

Siehe hierzu insbesondere Judson (2004) und Fröhlich (2001).

6.3 Konstruktive Antworten

577

also aussichtsreich erscheinende Felder und Methoden gezielt zu fördern, mit ihnen sind Fehlentwicklungen eher die Regel als die Ausnahme. Das heutige System unterstützt primär Projekte mit klarer Erfolgsaussicht oder großer Praxisrelevanz. Typische Beispiele sind die Klima- und Energiesowie die Krebs- und Genomforschung. Deren Projekt-Strukturen verfestigen sich zu intellektuelle Traditionen aber auch Institutionen, die eher ihre Pfründe verteidigen, als dass sie ausgetretene Wege wieder verlassen oder sich sogar selbst in Frage stellen würden. Alleingänge, abwegige Ideen, exotische Themen und verwegene Versuche sind nicht wirklich vorgesehen. Da zudem innerhalb kurzer Zeit Erfolge erwartet werden, ist Muse, die Einsichten erst reifen lässt, eine Mangelware. An ihre Stelle treten Kurzatmigkeit und fehlende Sorgfalt (publish or perish), und nicht ganz unerwartet bringt die hektische Betriebsamkeit einen regelmäßigen, jedoch, trotz aller Konkurrenz, häufig nur mittelmäßigen Output hervor. Es ist paradox: Anstatt ein kreatives Umfeld zu schaffen und Freiräume zu fördern, die am ehesten eine ergebnisoffene, „echte“ Forschung beflügeln und dann auch, wie die Geschichte lehrt, am häufigsten zu wegweisenden Resultaten führen bzw. Durchbrüche zumindest wahrscheinlicher machen, beschneiden wir überall die sogar von der Verfassung garantierte Freiheit von Forschung und Lehre und versuchen mit Planung, Evaluation und Bürokratie Fortschritt zu erzwingen.

6.3 Konstruktive Antworten [. . .] the advancement of knowledge by scientific research is measured by the increase of power which it gives to other men to overcome their difficulties, theoretical or practical.48 R. A. Fisher (1940) in Bennett (1990: 343)

Wenn es so leicht ist, zahlreiche externe Faktoren aufzuzählen, die offenkundig einen großen Einfluss auf den Fortschritt der Wissenschaft haben, warum spielen sie dann gleichwohl im Forschungszirkel keine Rolle? Dies erfordert eine Begründung.

6.3.1 Ahistorische Wissenschaft Prüfet aber alles, und das Gute behaltet. Paulus im 1. Brief an die Thessalonicher 5, 21

Ein ganz entscheidender Grund, warum externe Faktoren keine wesentliche Rolle spielen, ist, dass der Zirkel die innere Logik des Forschungsprozes48

Vgl. Bacon (1597: 308): „Nam et ipsa scientia potestas est.“ Zumeist wiedergegeben als: „Wissen ist Macht!“

578

6 Integrative Wissenschaftstheorie

ses beschreibt: Allgemeines Gesetz - Deduktion - spezielle Fakten - Induktion usw. Anzunehmen, dieser zyklische Ablauf sei ein realistisches Modell von Forschung, heißt mit anderen Worten, den von uns beschriebenen wissenschaftsinternen Faktoren Priorität einzuräumen. Es ist, kurz gesagt, die wissenschaftliche Methode, es sind die allgemein anerkannten Prinzipien (guten) wissenschaftlichen Arbeitens, welche historisch und erst recht systematisch gesehen eine weit beeindruckendere Spur hinterlassen, als die eher vergänglichen sozialen, institutionellen und erst recht personenbezogenen Randbedingungen. Erfolgreiche Wissenschaft folgt zuallererst ihr(em) eigenen Pfad, weshalb auch gilt: The unity of all science consists alone in its method, not in its material. (K. Pearson 1892: 12)

Entscheidend für diese Methode ist, dass Theorien und Verfahren gemäß ihres empirischen Erfolges selektiert werden. Was nicht funktioniert, wird aufgegeben, was sich bewährt, beibehalten. Genau dies ist, nicht nur nach (Feynman 2005b), deren einfacher, methodischer Kern. Die darüber hinaus in Abschnitt 1.1 erläuterten, weiteren internen Faktoren - insbesondere logischer, mathematischer und quantitativer Natur -, erweisen sich, wie auch die folgenden Kapitel gezeigt haben, als maßgeblicher für den Nutzen und den Erfolg eines Ansatzes als die Meinung der Fachwelt (zumindest auf längere Sicht). Ohne diese grundsätzliche Haltung und wirkungsvollen Hilfsmittel käme die Wissenschaft ebenso wenig voran wie viele andere Projekte. Diese eher allgemeinen Aussagen können sofort präzisiert werden, etwa mit der Forderung nach logisch stimmigen, plausible Argumentationen; der Replikation vermeintlicher Ergebnisse; der eminente Bedeutung des Experiments, dem ausgeprägten Hang zu quantitativen Betrachtungen und mathematischen Modellen; der systematische Prüfung von Vorhersagen und Voraussetzungen; dem Drang, herauszufinden, wie etwas funktioniert; einer durchgängig konstruktiv-kritische Haltung usw. Das heißt, das jeweils systematisch untersuchte Forschungsfeld und stringente Argumentationen prägen alle wirklich empirisch arbeitenden Wissenschaften am meisten, sie machen deren Fakten „hart“ und Theorien „stark“. Ihre Konstruktionen sind stabil, weil sie auf einem festen Fundament stehen und stringente Mathematik ihren Zusammenhalt garantiert.49 Was sich im Forschungsprozess, etwa in Form von Methoden und Theorien, niederschlägt, hat sich maßgeblich aufgrund seiner eigenen Meriten durchsetzt. Gewiss, eine gute Idee kann vergessen werden, weil sie niemand beachtet oder sie sogar noch nicht einmal publiziert wird. Doch eine konstruktive Idee, die empirisch 49

Um im Bild zu bleiben könnte man an dieser Stelle schreiben, dass die Katen der Postmoderne auf Sand gebaut und der verbale Mörtel - selbst wenn es sich um gut verankerte Zitate und handwerklich hervorragende rhetorische Ausschmückungen handelt - kaum etwas gegen den Sturm der Skepsis auszurichten vermag.

6.3 Konstruktive Antworten

579

überzeugt und konzeptionell fruchtbar ist, wird nicht aufgeben werden, sie wird Teil einer lebendigen Tradition. Der Forschungszirkel ist damit eine Posteriori-Sicht: Man erkennt im Nachhinein, oft erst viele Jahre später, was wirklich wichtig war, was zum Erfolg maßgeblich beigetragen hat. Die mehr oder minder präzise umrissene Norm(en) der „wissenschaftlichen Methode“ sind sich aus dem Erfolg ergebende Handlungsanweisungen. Die Methode ist, wie auch ein Blick auf den Forschungszirkel sofort zeigt, im Wesentlichen ahistorisch, nicht kontingent, und damit wider den herrschenden Zeitgeist. Der Grund ist einfach: Der Fußpunkt, auf dem alles aufbaut und an dem sich jede Theorie messen lassen muss, ist die empirische Erfahrung. Im „Moment der Wahrheit“, wenn unsere Vorstellungen auf die Praxis treffen, mit der Empirie kollidieren, helfen einer Theorie die ganzen externen Faktoren nichts. Egal, wer sie vorgeschlagen hat, egal, wie die soziologischen und psychologischen Randbedingungen sind - sie muss alleine die empirische Prüfung bestehen. Die Priori-Sicht wird hingegen viel mehr von individuellen und gruppendynamischen Vorgängen geprägt: Wer hat eine Idee vorgeschlagen, welcher Tradition entstammt eine neue Methode, welche Gruppe ist kompetent, was soll man unterstützen? Alle diese externen Faktoren, die unzähligen Entscheidungen im Umfeld, sind wichtig. Bestenfalls machen sie, wie etwa die Liste der Institutionen zeigt, welche immer wieder Nobelpreisträger hervorbringen, den Erfolg wahrscheinlicher. Garantieren können sie den Erfolg gleichwohl nie. Zudem treten sie zurück, werden gleichsam zur historischen Randnotiz, sobald ein echter Fortschritt erzielt worden ist. Beim Heliozentrischen System, Newtons Mechanik, dem Periodensystem der Elemente, Darwins Evolutionstheorie, der Quantenphysik und Einsteins Relativitätstheorien - kurzum, erfolgreichen wissenschaftlichen Leistungen - interessieren nachträglich deren Anwendbarkeit und ihr innerer Aufbau. In welchem Kontext sie entstanden sind und wer wann welchen Beitrag geleistet hat, ist im Vergleich dazu nicht mehr wichtig. In diesem Sinn unterscheiden auch wir, wie Reichenbach (1968: 340f), strikt zwischen dem Entdeckungs- und dem Begründungszusammenhang. Unser Entdeckungszusammenhang ist jedoch weit umfassender als der von Reichenbach (ibd.) geschilderte psychologische Vorgang: „Der Entdeckungsakt selbst ist logischer Analyse unzugänglich; es gibt keine logischen Regeln, auf deren Grundlage eine Entdeckungsmaschine gebaut werden könnte, die die schöpferische Funktion des Genies übernehmen würde.“ 50 Wir betonen zudem ausdrücklich, dass es sich lohnt, die tatsächliche historische Entwicklung zu studieren. Solche Studien sollten sogar einen wesentlichen Teil jeder 50

Es sei hinzugefügt, dass auch der Rechtfertigungszusammenhang bei Reichenbach weit über die Deduktion hinausgeht. Ibd. schreibt er: „Die induktive Schlußweise kommt [im] Rechtfertigungsanspruch zur Geltung, denn der Wissenschaftler will nicht nur behaupten, daß die Tatsachen aus seiner Theorie ableitbar sind, sondern auch, daß die Tatsachen seine Theorie wahrscheinlich machen und man die Theorie darum zur Vorhersage zukünftiger Ereignisse verwenden darf.“

580

6 Integrative Wissenschaftstheorie

empirisch basierten Wissenschaftstheorie ausmachen, zumal wenn sie fortschrittsfördernde Faktoren isoliert, sich also angeben lässt, welches Umfeld wissenschaftlichen Ertrag begünstigt. Daraus ergibt sich unseres Erachtens jedoch nicht, dass der Gang der wissenschaftlichen Forschung maßgeblich von äußeren Faktoren bestimmt wird. Da ihre „innere Logik“ weit wichtiger ist, werfen groß angelegte Forschungsprogramme mit fest umrissenen Zielvorstellungen regelmäßig weniger Ertrag ab als erhofft. Und weil andererseits für traditionelle, solide Grundlagenforschung wenig Geld bereitgestellt wird,51 ist es gelebte Praxis, in einschlägigen Anträgen die aktuellen “buzz words” wie Atom, Mond (vor 1969), Nano, Bio, systemisch oder nachhaltig zu verwenden, um dann mit den so eingeworbenen Mitteln genau die Forschung zu betreiben, die man für aussichtsreich hält. So formuliert die Forschungsbürokratie regelmäßig großartige Strategien, die tatsächlich an ganz anderer Stelle zu Erfolgen führen als geplant.52 Erst recht ist der wissenschaftliche Ertrag selbst, also der Gehalt von Theorien, die Schlagkraft von Verfahren und die Stimmigkeit deduktiver wie induktiver Schlussfolgerungen von speziellen historischen Randbedingungen nicht wesentlich abhängig. Ganz im Gegenteil: Die „zeitlose“, nicht-kontingente Methodik der Wissenschaft ermöglicht Ergebnisse, deren Gültigkeit überhaupt nicht von äußeren Faktoren abhängig ist. Sie ist sogar dazu in Lage, Menschen der unterschiedlichsten Kulturkreise und Epochen konstruktiv zusammenarbeiten zu lassen. Alle sind durch denselben „empirisch-logischen Vernunftprozess“ verbunden, welcher seit Jahrhunderten die einheitliche methodische Klammer aller aufgeklärten und zugleich ahistorischen Wissenschaften ist.53 Zugleich ist die Geisteshaltung der neuzeitlichen Wissenschaftler zur dominierenden, evidenzbasiert-rationalen Weltsicht im Allgemeinen geworden:54 It is because of this general philosophical lesson, far more than any specific discoveries, that the natural sciences have had such a profound effect on human culture since the time of Galileo and Francis Bacon. 51

So wurde z. B. die „Normalförderung“ der Deutschen Forschungsgemeinschaft über Jahre hinweg durch alle möglichen Sonderprogramme völlig ausgedörrt. 52

Schlimmstenfalls wird aus politischen Gründen jahrzehntelang für Dinge Geld ausgegeben, von denen sich die Fachleute längst verabschiedet haben. Das wichtigste Beispiel hierfür ist die bemannte Raumfahrt, siehe www.dpg-physik.de/veroeffentlichung/stellungnahmen/mem_raum_1990.html. 53 Ein beeindruckendes Beispiel: Mitten im ersten Weltkrieg schreibt der französische Physiker (Gley 1916): „[. . .] il ne peut y avoir une verité allemande, anglaise, italienne ou japonaise pas plus qu’une française. Et parler de science allemande, anglaise ou française, c’est énoncer une proposition contradictoire à l’idée même de sciene.“ Man vergleiche das nur mit Hardy and Bryman (2004: Kapitel 6, 30). 54 Siehe Sokal (2008: 19)

6.3 Konstruktive Antworten

581

6.3.2 Konstruktiv-kritisch oder stagnierend [. . .] once cognitive considerations are demoted from their central role in evaluating theories, then social, political and psychological considerations can move to center stage. (Sokal 2006: Kapitel 5)

Mit der gerade beschriebenen konstruktiv-kritischen Grundeinstellung darf man wohl am ehesten hoffen, Fortschritte zu erzielen. Die empirische Erfahrung, also die historische Entwicklung, bestätigt dies eindrucksvoll, hat doch die empirisch-experimentelle und zugleich quantitativ-logische Unternehmung, die vor etwa 400 Jahren begann, in der gesamten Neuzeit zu einer permanenten, äußerst schnell voranschreitenden Wissensvermehrung geführt (S. 551f). Zugleich haben sich die Wissenschaften untereinander vernetzt, bauen aufeinander auf und regen sich wechselseitig an. Es ist weit mehr so, dass der „Baum der Erkenntnis“ kräftig wächst und reichlich Früchte trägt, als dass Äste abbrechen, morsch würden, oder sich das Wachstum auch nur verlangsamen würde. Bis zum Aufkommen des modernen Relativismus, der alles in Frage stellt, war dies auch die herrschende Meinung in der Wissenschaftstheorie. Man sollte deshalb die Blickrichtung umkehren: Woran liegt es, wenn sich kein Fortschritt einstellt? Die Beweislast liegt bei den ertragsarmen Ansätzen, nicht bei den permanent Erfolgreichen! Einige Antworten haben wir (insbesondere S. 552ff) schon gegeben. Unwuchten im Forschungsprozess, insbesondere die Überbetonung der Theorie, führen schnell zum Ertragsrückgang. Noch problematischer ist es, wenn der vom Forschungszirkel vorgegebene Pfad verlassen wird. Selektiert man Ideen nicht nach deren empirischem Erfolg, sondern nach irgendwelchen anderen, untergeordneten Kriterien und distanziert man sich von logisch korrekten Argumenten, so verlässt man zugleich auch den Boden der Rationalität. Lehren, die dezidert kontingent sind, deren Methoden und Ergebnisse also erheblich von sozialen, politischen und subjektiven Faktoren abhängen, unterliegen, mit anderen Worten, weit mehr dem Zeitgeist und Modeströmungen. Wenn man die eigene Forschung nicht an der Sache und dem möglichen Erkenntnisgewinn, sondern an sekundären, zumeist äußeren Kriterien, wie Ranglisten, Impact-Faktoren, ministeriellen Programmen und dem „Mainstream“ ausrichtet, braucht man sich nicht zu wundern, wenn der Ertrag gering bleibt (Kieser 2010). In einem Satz: Schlechte Wissenschaft ist tatsächlich soziologisch und psychologisch erklärbar!55 Es genügt die Orientierung an Texten und Autoritäten, das heißt, eine eher referierende, kommentierende, literarisch-geisteswissenschaftliche Methodik, dass sich dieser Effekt einstellt. Wenn Text auf Text aufbaut, vervielfältigt sich die Sekundärliteratur in dem Maße, in dem man das eigentliche Problem aus den Augen verliert.56 Und je weniger man auf substanzielle neue Beiträge 55

Siehe z. B. Chalmers (1999: Abschnitt 6.5).

56

Zur Hermeneutik gehört der gleichnamige Zirkel.

582

6 Integrative Wissenschaftstheorie

achtet, ja vielleicht noch nicht einmal mehr daran glaubt, dass sie möglich sind,57 desto mehr wird die Eigendynamik der Diskussion entscheidend. Es entstehen Bibliotheken, randvoll gefüllt mit schwer verständlichen Werken zu tiefsinnigen Fragestellungen, welche für uns zunächst beeindruckender sind als ein einziger schmaler Band. Doch lehrt uns nicht die Komplexitätstheorie, dass eine Beschreibung umso einsichtsreicher ist, je kürzer sie ausfällt? Lieber ein kleines Büchlein, das ein Phänomen wirklich erklärt, als 1000 Folianten, die dazu trotz ihres überwältigenden Umfangs nicht in der Lage sind. Eine umfangreiche Literatur muss nicht zwangsläufig gehaltvoll sein, und eine Vielzahl von Expertenmeinungen kann andeuten, dass wir nicht wirklich etwas von einem Thema verstehen. Ganz im Gegenteil: Viele Worte verdecken die wenigen, echten Erkenntnisse; und Autoritäten ermutigen auch nur selten dazu, frische, originelle Ideen zu äußern. Genauso wie das Urteil über einen bedeutenden Künstler ständigen Schwankungen unterliegt, wechseln dann im Lauf der Zeit auch die Ansichten über Lehrmeinungen, Schulen und selbst Koryphäen der Wissenschaft. Entsprechend fragil sind deren (vermeintliche) Einsichten und Errungenschaften (S. 7). Sie werden leicht von den sich wandelnden intellektuellen Strömungen angegriffen und fortgespült. Wie sagte schon de Clapiers vor mehr als zwei Jahrhunderten:58 „Auch die Philosophie unterliegt der Mode, wie Kleidung, Musik und Architektur.“ Schlimmstenfalls hat man es nur noch mit hochgradig politisierten Ansichten, Rhetorik und Polemik zu tun, und historische Zufälligkeiten entscheiden, wer gerade die Oberhand behält.59 Es gibt darüber hinaus noch weitere, prinzipiellere Gründe:

6.3.3 Die skeptische Grundhaltung Kritisieren allein schadet jedem belebenden Fortschritt wie er auch zuschlagen mag. (Peter Handke zugeschrieben)60

Kritik, die nichts baut Cum grano salis sind Philosophen Zweifler, häufig große Zweifler, oft sogar prinzipielle Zweifler. Auf jeden Fall würde sich kein professioneller Philosoph vorwerfen lassen, unkritisch oder gar naiv zu sein. Wilson (2000: 279f) fügt 57

Ist in der Philosophie nicht ohnehin alles schon einmal gesagt worden? Und hat nicht Wittgenstein selbst alle philosophischen Probleme für Scheinprobleme gehalten? 58

Zitiert nach Durant und Durant (1985: Bd. 14, 108) Die Frage sei erlaubt, ob dies allen Ernstes erstrebenswert sein soll. Ist es nicht weit lohnender, nach einem bleibenden Ertrag Ausschau zu halten? Siehe S. 550ff. 60 Siehe www.zitate-online.de 59

6.3 Konstruktive Antworten

583

hinzu: „Die Massivität der technischen Probleme, vor denen [manche Wissenschaften] stehen, ist, ich gestehe es bereitwillig zu, außerordentlich entmutigend. Einige Wissenschaftsphilosophen haben bereits resigniert die Hände gehoben und erklärt, daß [viele Gebiete] einfach zu komplex seien, als daß sie mit unseren heutigen geistigen Mitteln durchschritten werden könnten, und es sei durchaus möglich, daß sie für immer außerhalb unserer Reichweite liegen [Sie seufzen:] Hoffnungslos, hoffnungslos! Aber genau das erwarten wir ja von den Philosophen. Schließlich ist es ihre klassische Aufgabe, die Grenzen der Wissenschaft im großen Zusammenhang zu definieren [. . .]“ 61 Dempster (1990: 263) ergänzt: Disputing the validity of colleagues’ positions is a fundamental mode of discourse among professional philosophers. Scientific disputes can also be sharp, but there is a greater sense that science works towards a consensus on achievable progress. Perhaps it is better to run with scientists turned philosophers, or philosophers whose inspiration derived from accurate descriptions of scientific thought and method.

Dieser Meinung schließen wir uns an. Kritik ist wichtig, aber sie baut für sich alleine genommen nichts. Stellt man immer wieder alles in Zweifel, so kommt man zu keiner zusammenhängenden Position, und dominieren sogar prinzipielle Vorbehalte, so gelangt man höchstens zu einer Sammlung kurioser Gegenbeispiele. (Möglicherweise ergänzt um verwegene Spekulationen.) Es ist deshalb sehr bedauerlich, dass die gerade beschriebene radikal-kritische Haltung charakteristisch für die zeitgenössische Philosophie ist (siehe hierzu auch Stove (2000: 185)). Viele Bücher sind wohl auch deshalb geradezu chaotisch: Eine Vielzahl von Positionen wird angerissen, es folgen überaus ausführliche Kritiken, Repliken und Erwiderungen. Fragt der verwirrte Leser am Ende nach der Quintessenz des Ganzen wird er selten ein klares Bekenntnis zu einer Position finden, weit häufiger wird er mit Eklektizismus abgespeist und gar nicht so selten versteckt sich der Autor hinter Kritik an allen referierten Argumenten. Nicht zuletzt schwächt übertriebene Skepsis auch den Realitätsbezug. Man traut schließlich auch den offenkundigsten Fakten, bestens fundierten Argumenten und (fast) zwingenden Schlüssen nicht mehr. Die von uns in Abschnitt 4.7 diskutierten Paradoxa der Induktion sind typische Beispiele hierfür. Anstatt wie Mill im 19. Jahrhundert konstruktive Vorschläge zu unterbreiten, wann - und warum! - ein induktiver Schluss gerechtfertigt erscheint oder wie die Statistik diese Ideen formal auszuarbeiten, erschöpft sich die philosophische Diskussion heute in eher unscharfen verbalen, das prinzipielle Problem wieder und wieder betonenden Argumenten. Efron (2001) sagt dazu: The philosophers usually say that statistics is impossible. They say that you can’t learn from experience. They can always think of counterexamples. But we live in a world where the examples outnumber the counterexamples by quite a bit.

Zudem lassen sich viele der genannten Paradoxien, etwa das Lotterie- und das Rabenparadoxon, mit statistischen Standardargumenten auflösen, oder 61

Hervorhebung im Original

584

6 Integrative Wissenschaftstheorie

es hilft eine konstruktive Begriffsbildung (Austauschbarkeit). Bemerkenswerterweise wird das wichtigste, nach Simpson benannte Paradoxon, das zu einer erheblichen Erweiterung statistischer Argumente Anlass gab, in der philosophischen Diskussion (zumindest des Induktionsproblems) kaum erwähnt. Und Solomonoffs allgemeine Lösung scheint den Philosophen völlig entgangen zu sein. Antinomien und Paradoxien62 werden in der Fachwissenschaft deshalb geschätzt, weil sie schlaglichtartig eine schwache Stelle beleuchten, und insbesondere logische Mängel schmerzlich bewusst manchen. Sie dienen, ähnlich den Sammlungen von offenen Problemen oder bislang unerklärlicher Sachverhalte, dazu, die Grenzen des aktuellen Wissens und Könnens abzustecken. Zumindest implizit sind sie mit der Aufforderung verbunden, eine konstruktive Lösung zu finden, also unsere Fähigkeiten so zu erweitern, dass das Paradoxon eine einleuchtende Begründung findet bzw. eine offene Frage schlüssig beantwortet werden kann. Mit den Worten von Wilson (2000: 280): Der philosophische Stachel ist nötig, um uns zur Vorsicht zu gemahnen. Doch wir sollten immer das Gegenmittel ‘Selbstvertrauen’ parat haben, damit er keine tödliche Wirkung auf uns ausüben kann. Wären frühere Generationen dem Unbekannten derart nachdenklich und demütig begegnet, so wäre unser Wissen über das Universum im sechzehnten Jahrhundert stehengeblieben. (Im Original steht der letzte Satz am Anfang.)

Das Verführerische an der kritisch-skeptischen Haltung ist, dass sie, weit mehr noch als das Verstecken einzelner, wichtiger Annahmen (siehe S. 451) mit einem erheblichen strategischen Vorteil verbunden ist. Man ist zunächst einmal nicht naiv (wie vermeintlich viele andere), was einem das Gefühl der tieferen Einsicht geben kann. Es ist sodann weit einfacher, ja bequemer, gegen etwas zu argumentieren, als eine plausible, in sich widerspruchsfreie, einigermaßen umfassende Haltung zu verteidigen. Dieser Vorteil der Opposition gegenüber der Regierung zeigt sich darin, dass erstere in Wortgefechten leichter die Oberhand behält.63

Zweifelnde Statistik Wie die Entwicklung der Statistik zeigt, zahlen sich aber alle taktischen Vorteile nicht aus! Ganz im Gegenteil: Über die Jahrzehnte hinweg ist die Statistik mit ihrer skeptisch-kritischen Grundeinstellung ins Hintertreffen geraten. Basu (1980) zeigt ganz konkret, welche Folgen Ignoranz und Arroganz haben. Hand und Everitt (1987) dokumentieren das gespannte Verhältnis zwischen 62

Für eine lesenswerte Sammlung, neben den schon genannten Beispielen, siehe v.a. Vollmer (1993: Kapitel 3) 63 Und wie leicht lässt es sich erst als Journalist kommentieren, wenn man selbst nie die Richtung vorgeben muss oder für seine Haltungen zur Rechenschaft gezogen wird.

6.3 Konstruktive Antworten

585

Medizinern und Statistikern aus der Sicht der letzteren.64 Schrieben wir eine Satire, so könnten wir mit diesem und verwandtem Material zahllose Monologe der folgenden Art gestalten: Ihre Erhebung entspricht nicht den von uns definierten Standards? Tja, da haben Sie wohl Pech gehabt! Sie wollen in den Daten etwas entdeckt haben, an das niemand vorher gedacht hat? Machen Sie sich mal nichts vor, mein Lieber! Sie glauben tatsächlich, dass man Daten trauen darf, ihnen die Zahlen etwas über die Welt verraten? Oh je, wie leicht können Daten lügen und einen in die Irre führen! Wie - Sie wollen aus einer konkreten Untersuchung ganz allgemeine Schlüsse ziehen? Dann lesen Sie doch erst einmal die umfangreiche, gelehrte Literatur über das Induktionsproblem. . . Die Ablehnung einer nichtssagenden Nullhypothese ist weit charakteristischer für die heutige Statistik als die Suche nach einem konkreten Einflussfaktor oder die Modellierung eines kausalen Zusammenhangs. Sie ist in die Defensive geraten, weil sie sich nicht im gleichen Maße wie früher den praktischen Problemen stellt und konstruktive Antworten auf drängende Fragen sucht. Anstatt dem Wissenschaftler und dem Datenanalysten zu helfen, weil sie ihre Hauptaufgabe darin erblickt, diesen nichttriviale Methoden und wirkungsvolle analytische Werkzeuge an die Hand zu geben, schlüpft sie häufig in die Rolle des Zweiflers. Dies drückt sich nicht zuletzt auch auf der menschlichen Ebene aus: I do though, wonder a little about how closely related mathematical and statistical abilities are. Does a statistician need slightly more of a touch of reality than a mathematician? In my day, anyone going from mathematics to statistics was considered a mathematical failure - or vice-versa” (Bodmer 1987: 191).

Und auch noch zwischen angewandten und theoretischen Statistikern wird auf dieselbe Weise differenziert: “However, I do hope that those, such as myself, who became embedded in a subject of application, although trained as statisticians, are not forgotten, and so lost to statistics” (Bodmer (1987: 190), meine Hervorhebung). Learning to bear the quantitative man’s burden65 (Tukey 1986b) bedeutet nicht zuletzt, sich solcher destruktiver Kritik zu stellen und sie mit konstruktiven, belastbaren Lösungsvorschlägen zu beantworten. Diese Grundeinstellung ließe sich kurz mit “sharing the quantitative man’s burden” umschreiben, und auf der vorletzten Seite seiner gesammelten Werke würdigt Tukey (1986f: 1015) diese Klasse von Statistikern: Our pride should be greatest when what we can do is largest compared with what can be done without us - without regard to how simple or complex are the ideas we use to do things better. 64

Eine humorvolle Erwiderung ist Sackett und Oxman (2003). Jaynes (2003) setzt sich ganz allgemein für selbstbewusste Fachwissenschaftler ein, die zumindest in Standardsituationen ihre eigenen Statistiker sein können. Warum auch nicht? Niemand konsultiert bei alltäglichen Berechnungen einen Mathematiker! 65 Siehe auch S. 305 und 416

586

6 Integrative Wissenschaftstheorie

Die Statistik ist wie alle Wissenschaften dort am stärksten, wo sie über explizite Modelle und stringente Argumente für eine gewisse Vorgehensweise verfügt. Entwickle konkrete Zuweisungsmodelle, um spezifische Selektionseffekte zu erfassen. Erstelle kausale Graphen, um den Einfluss potenziell wichtiger Faktoren abzuschätzen. Ist dies nicht überzeugend, dann randomisiere, um Dich gegen alle, insbesondere auch unbekannte Störfaktoren abzusichern. Plane Deine Auswertungen im Vorfeld der Datenerhebung und halte den Fehler 1. Art fest, um Dir nicht selbst etwas vorzumachen. Erhebe gezielt für eine Fragestellung relevante Daten, statt mit irgendwelchen leicht verfügbaren Beobachtungsdaten zu arbeiten. Formalisiere substanzielles Vorwissen um zu einer präzisen Schlussfolgerung zu kommen, sei jedoch vorsichtig, wenn es sich beim vermeintlichen Wissen v.a. um subjektive Mutmaßungen handelt. Mache deine Voraussetzungen und Methoden explizit, um die konstruktive Diskussion zu erleichtern. Achte auf Validität und Reliabilität. Repliziere deine Experimente wo immer möglich. Arbeite quantitativ, nicht qualitativ usw. Alle diese mehr oder minder präzisen Ratschläge, von denen sich viele formalisieren lassen, nutzen die Kritik konstruktiv. Die prinzipielle Einsicht, dass morgen im Prinzip alles anders sein könnte, hilft nämlich wenig weiter; viel besser ist es, konkrete Bedingungen angeben zu können, wann eine Idee funktioniert, unter welchen Bedingungen ein allgemeines Gesetz gilt. Die empfohlenen Maßnahmen lassen sich als Verteidigungsstrategien gegen potenzielle Gefahrenquellen und entsprechend fundierte Einwände begreifen, doch weit mehr noch spricht der immense Erfolg der empirischen Wissenschaften für sie. Immer dann, wenn aus der negativen Kritik im Positiven eine verstärkte Theorie hervorgeht, war die Kritik nützlich, im besten Sinne kritischkonstruktiv. Wir haben jedoch im letzten Abschnitt die beiden Adjektive bewusst vertauscht, um deutlich zu machen, dass das konstruktive Element wichtiger ist als das kritische. Bei allen Vorbehalten gegenüber unseren Methoden, Theorien und unserem praktischen Können - es ist allemal besser, diesen Fundus zu erweitern, ihm zuweilen sogar eher naiv zu vertrauen, als immerfort dessen Grenzen und prinzipielle Vorläufigkeit zu betonen oder gar über eine vermeintlich soziobiologisch verankerte „Fortschrittsillusion“ (Volland 2007) zu räsonieren. Wie sollte man anders eine gehaltvolle Wissenschaft aufbauen? Humes Aphorismus von den Spinnen, Ameisen und Bienen ist auch heute noch gültig.66 Bei Licht betrachtet ist der objektiv erzielte Fortschritt, also die Wissensakkumulation der letzten Jahrhunderte, sogar äußerst beeindruckend. Es gibt deshalb auch keinen konkreten Grund, die Leistungsfähigkeit der konstruktiv-kritischen wissenschaftlichen Methode zu bezweifeln. 66

„Rationalisten [gleichen] Spinnen, die aus ihrer eigenen Substanz Spinnweben fabrizieren, und die älteren Empiristen Ameisen, die Material sammeln, ohne es ordnen zu können; aber die modernen Empiristen, meint er, seien wie Bienen, die ihr Material sammeln und verdauen, indem sie von ihrer eigenen Substanz etwas dazutun“ (Reichenbach 1968: 176).

6.3 Konstruktive Antworten

587

Kommen von Seiten der Statistik keine konstruktiven Vorschläge, so geht es ihr wie der Philosophie. Sie wird eher ignoriert als geschätzt, eher misstrauisch beäugt, denn als Verbündeter betrachtet. Zudem ist es Naturwissenschaftlern und Ingenieuren nicht fremd, benötigte Mathematik, also auch Statistik, bei Bedarf selbst zu entwickeln. Das gilt auch für die Philosophie: Je weniger sich jene mit den echten Problemen empirischer Wissenschaft auseinander setzt, desto mehr wird aus der praktischen Erfahrung eine angemessene Grundhaltung (induktiv) erwachsen, die ihre Stärke aus eben ihren Wurzeln zieht. In beiden Fällen sind die Vorschläge der empirischen Wissenschaftler dann weit konkreter und optimistischer als jene der Fach-Statistiker oder -Philosophen. Prominente Beispiele sind der Umgang mit nichtexperimentellen Daten, induktiven Schritten, der Wahrheits- und der Fortschrittsbegriff sowie der Wissenschaftsrealismus. Die antirealistische Diskussion bleibt, obwohl ausufernd, fast immer vag-prinzipiell. Ebenso ist die statistische Kritik häufig wenig konkret; es wird lediglich auf mögliche Störfaktoren und potenzielle Gefahren hingewiesen. Erfolge sind hingegen immer konkret: Eine Hypothese bestätigt sich im experimentellen Test, eine Methode funktioniert, ein induktiver Schritt gelingt, und auch die konstruktiv-kritische Grundhaltung insgesamt leistet das Erhoffte.

6.3.4 Ertragsorientierung All this is wormwood to scientists like myself, who think the task of science is to bring us closer and closer to objective truth. But Kuhn’s conclusions are delicious to those who take a more skeptical view of the pretensions of science. If scientific theories can only be judged within the context of a particular paradigm, then in this respect the scientific theories of any one paradigm are not privileged over other ways of looking at the world, such as shamanism or astrology or creationism. If the transition from one paradigm to another cannot be judged by any external standard, then perhaps it is culture rather than nature that dictates the content of scientific theories. Weinberg (1998)

Dem von Carrier (2007: 43f), siehe S. 560, vorgetragene Argument für den status quo oder sogar den weiteren Ausbau der philosophischen Komponente der Wissenschaftstheorie können wir uns also nicht anschließen. „Durch eine derartige [philosophische] Professionalisierung wird eine Eindringtiefe der Wissenschaftsreflexion erreicht, die aus der gleichsam nebenberuflichen Perspektive des aktiven Wissenschaftlers nicht zu gewinnen ist“ gleicht vielmehr einem Rezept zur Verschärfung der Krise. Wir betonen das genaue Gegenteil: Ohne eine einschlägige fachwissenschaftliche Ausbildung ist die Eindringtiefe „professioneller“ Philosophen in die jeweiligen Gebiete so gering, dass kaum mit bedeutsamen Einsichten zu rechnen ist. Der Normalfall ist vielmehr, dass die philosophische Reflexion oh-

588

6 Integrative Wissenschaftstheorie

ne ein hinreichend tiefes Verständnis wissenschaftlicher Arbeit(en) den ausgeführten Pathologien anheim fällt. Mit dieser Einschätzung stehen wir nicht alleine. Etwa lautet die nahezu gleichlautende Diagnose von Laubichler (2008) bzgl. der Wissenschaftsgeschichte: Heute analysieren Wissenschaftshistoriker die Entwicklung der Wissenschaften unter kultur-, sozial- und literaturwissenschaftlichen, kunsthistorischen oder philosophischen Perspektiven [. . .] Diese Betonung der mannigfaltigen Bezüge, in die Wissenschaft eingebettet ist, führte im Gegenzug dazu, dass die Rekonstruktion der inneren Logik der Wissenschaften vernachlässigt wurde. Dazu trägt auch ein Mangel an wissenschaftlicher Kompetenz unter jüngeren Wissenschaftshistorikern bei, deren Ausbildung in Wissenschaftsgeschichte oder verwandten geisteswissenschaftlichen Fächern nicht mehr jene interdisziplinäre Doppelkompetenz (in Natur- und Geisteswissenschaft) in den Vordergrund stellt, die jedoch die Voraussetzung für einen produktiven Dialog mit den Naturwissenschaften ist.67

Carriers Argument lässt sich auch als selbstimmunisierende Schutzbehauptung interpretieren. Es gesteht nur jenem das Recht zu, in die wissenschaftstheoretische Diskussion einzugreifen, der eine entsprechend fundierte literarische Ausbildung hat. Man vergleiche das mit Chomsky (1979: 6f):68 Compare mathematics and the political sciences - it’s quite striking. In mathematics, in physics, people are concerned with what you say, not with your certification. But in order to speak about social reality, you must have the proper credentials, particularly if you depart from the accepted framework of thinking. Generally speaking, it seems fair to say that the richer the intellectual substance of a field, the less there is a concern for credentials, and the greater is the concern for content. [Mathematicians] want to know whether I am right or wrong, whether the subject is interesting or not, whether better approaches are possible - the discussion deal[s] with the subject, not with my right to discuss it.69

Eine ähnliche Ansicht vertrat auch Feynman (2005b: 410), als er bei einem feierlichen Anlass nach seinem Fachgebiet gefragt wurde. Auf die bedauernde Reaktion des Fragestellers, man könne sich über Physik nicht unterhalten, da (fast) niemand etwas davon verstünde, erwiderte er, es sei gerade umgekehrt: „Wir können uns deshalb nicht über Physik unterhalten, weil jemand etwas davon versteht. Es sind die Dinge, von denen niemand etwas versteht, über die wir diskutieren können.“ 70 67

Zur Verbesserung der Situation schlägt er dann vor: „Eine mögliche Lösung dieses Problems besteht darin, wissenschaftshistorische Abteilungen oder Lehrstühle innerhalb naturwissenschaftlicher Institute einzurichten. Dieses Modell wurde mit großem Erfolg an einigen amerikanischen Universitäten eingeführt. Der enge Kontakt mit Naturwissenschaftlern ermöglicht nicht nur einen kontinuierlichen interdisziplinären Dialog; durch Einbindung der Wissenschaftshistoriker in die naturwissenschaftliche Lehre ergeben sich auch vielfältige Möglichkeiten, neuen Generationen von Wissenschaftlern ein besseres Verständnis der historischen, konzeptuellen wie auch der sozialen Voraussetzungen ihrer Fächer zu vermitteln.“ 68 Zitiert nach Sokal und Bricmont (1998: 12), meine Hervorhebung. 69

Am Rande sei erwähnt, dass auch Martin Gardner, der über Jahrzehnte eine legendäre mathematische Kolumne im Scientific American verantwortete, mathematischer Autodidakt und studierter Philosoph ist. 70

Hervorhebungen im Original. Für eine nahe verwandte Bemerkung siehe S. 582.

6.4 Adaptive Statistik

589

Entscheidend ist der Ertrag. Warum dieser seit einiger Zeit in der Wissenschaftstheorie ausbleibt, haben wir erläutert. Benötigt werden stattdessen eigenständige science studies, bestehend aus Wissenschaftstheorie und Wissenschaftsforschung. Das heißt zuallererst, dass der theoretisch-philosophische Überbau auf dem festen Fundament fachwissenschaftlicher Fakten zu errichten ist, weshalb schon Reichenbach (1951) den treffenden Ausdruck wissenschaftliche Philosophie verwendete. In dieser Tradition stehend schreibt Fischer (1995: 254), Hervorhebung im Original: Die Wissenschaftstheorie muss sich von der Illusion verabschieden, die Standards der Wissenschaftlichkeit normieren zu können. Sie ist einfach die Wissenschaft von der Wissenschaft - in all ihren Facetten und Dimensionen - nicht mehr und nicht weniger. Ihre Aufgabe ist Aufklärung über Wissenschaft, über die Bedingungen ihres Funktionierens, ihrer Stagnation, Degeneration und Progression. Aber auch über ihre verschiedenen Komponenten und Ebenen und das prekäre Zusammenspiel ihrer logischen, semantischen, psychischen, sozialen, politischen und ökonomischen Aspekte.

Aus der Beschreibung historisch erfolgreicher Beispiele erwächst dann ganz von allein ein Maßstab „guter“ Wissenschaft, also - empirisch fundierter - Normen, welche den Fortschritt der Wissenschaft befördern und nicht hemmen. Ein solches Projekt kann jedoch wie bei allen empirischen Wissenschaften nur gelingen, wenn die Komponenten des Forschungszirkels in einem angemessenen Verhältnis stehen. Angesichts des geringen Alters der Wissenschaftsforschung empfiehlt sich zur Zeit eine dezidiert induktive Ausrichtung, also akribische Studien darüber, wie Wissenschaft funktioniert, der reale Wissenschaftsbetrieb organisiert ist und es zu Erkenntniszuwachs kommt. Vor allem aber darf man die empirische Komponente, d. h. die Methoden und Ergebnisse der Einzelwissenschaften, nicht vernachlässigen. Dann ist auch zu erwarten, dass die fachwissenschaftlich fruchtbare Diskussion bislang originär philosophischer Themen, etwa der Induktion oder der Kausalität, die philosophische Diskussion auf ein anderes Niveau heben wird.

6.4 Adaptive Statistik Die Natur, der Gegenstand der Naturwissenschaft, umfasst die unabhängig vom Wirken des Geistes hervorgebrachte Wirklichkeit. Alles, dem der Mensch wirkend sein Gepräge aufgedrückt hat, bildet den Gegenstand der Geisteswissenschaften. (Dilthey 1910: 72f)

Der letzte Abschnitt sollte bei aller Kritik nicht den Eindruck hinterlassen, die aktuelle Wissenschaftstheorie sei gänzlich unfruchtbar. Wir begrüßen ausdrücklich die fundierte und konstruktive Argumentation vieler zeitgenössischer Wissenschaftstheoretiker, etwa in Laudan (1981a, 1981b, 1990, 1996),

590

6 Integrative Wissenschaftstheorie

Donovan et al. (1992), Mayo (1996), Koertge (1998), Ladyman (2002), Carrier (2006), oder Bartels und Stöckler (2007). Die vom Wiener Kreis, Reichenbach, Carnap, Popper, Kuhn, Lakatos und anderen eingeführten Begriffe und Ideen strukturieren noch heute die Diskussion.71 Selbst die postmoderne Relativierung, die Betonung außerwissenschaftlicher Faktoren und der Rolle des Individuums sind - in Maßen - zweckdienlich. Wir wollen deshalb im folgenden den Faden der Kooperation aufnehmen und exemplarisch zeigen, wie der Grundgedanke einer eher spekulativen Theorie in der angewandten Statistik verwendet werden kann. Nicht ganz unähnlich der Popularität des strong programme in der englischsprachigen Welt erfreut sich im deutschsprachigen Raum die Systemtheorie (Luhmann 1998, 2006, 2009) einer ähnlich großen Beliebtheit.72 Grundlegend für die Systemtheorie ist die Unterscheidung zwischen nomologischer und autopoietischer Realität. Nomologische Realität ist (innerhalb gewisser Grenzen) regelmäßig, deshalb lassen sich auf dieser Basis sogenannte denotative Theorien entwickeln, die im Wesentlichen unabhängig vom Beobachter sind. Aufbauend auf einem konstanten Fundament beschreiben sie ihren empirischen Bereich. Dies ist im Fall der autopoietischen Realität, welche sich ständig verändert und in die der Beobachter aktiv gestaltend eingreifen kann, völlig anders. Anstatt eines stabilen Fundaments hat man es dort mit einem variablen und (durch willentliche Handlungen zumindest teilweise) veränderbaren Untergrund zu tun. Alles was dort möglich ist, sind sogenannte konnotative Theorien.73 71

Gemäß einer Auswertung von Rose (2004: Abschnitt 4.1) ist Kuhn nach Popper der am zweithäufigsten zitierte Philosoph in den Naturwissenschaften. 72

Aus der sehr umfangreichen Literatur heben wir nur Simon (2007), Willke (2006), Baecker (2005), Berghaus (2004) und von Foerster (2003) hervor. 73

Womöglich darf hier ein Hinweis auf die Quantenmechanik nicht fehlen. Auch dort bestimmt der Beobachter ja durch die Art seiner Frage über die Antwort mit. Zudem sind die Quantentheorien durch und durch wahrscheinlichkeitstheoretisch. Die von uns gegebenen Antworten (siehe S. 514), wann probabilistische Argumente unausweichlich werden, lassen sich hier neu bewerten und ergänzen. Fall 1, also die zu grobe Beobachtung bzw. Messung, scheidet aufgrund von Heisenbergs Unschärferelation aus. Fall 2, d.h. eine unendlich bzw. äußerst fein strukturierte Realität, wird von den Stringtheorien und anderen Ansätzen, die in noch kleineren Abmessungen und weiteren Dimensionen nach bislang nicht gefundenen Strukturen suchen, verfolgt. Nach Jahrzehnten solcher aufwändiger, jedoch ziemlich fruchtloser Bemühungen, klingt heute die Idee, dass es die feineren Strukturen gar nicht gibt, man also möglicherweise nach etwas sucht, das gar nicht vorhanden ist, immer überzeugender, was Fall 3 (keine Struktur ⇔ echte, absolute Zufälligkeit) entspricht. Die Autopoiesis eröffnet eine weitere Möglichkeit: Durch die Messung zwingt man das System zu einer Entscheidung, einer eindeutigen Antwort bzw. einem Symmetriebruch. Das erinnert sehr an ein Bit, das auf einen Wert festgelegt bzw. eine Münze, die zu einer Realisierung gezwungen wird, obwohl weder Bit noch Münze „als solche“ auf eine der beiden Möglichkeiten festgelegt sind. In genau diesem Sinne erzeugt die Beobachtung erst eine Information, die ohne Messung gar nicht vorhanden wäre. Dies hört sich exotischer an als es ist: Psychologen kämpfen bei der Einstellungsmessung tagtäglich mit demselben Problem, wenn sie Personen zu klaren Aussagen über Sachverhalte zwingen, über die die Probanden ohne Nachfrage gar keine fixierte Meinung hatten.

6.4 Adaptive Statistik

591

Diese Idee ist fast schon selbstevident: Nur bei einem festen archimedischen Punkt, bei einer vom Beobachter unabhängigen Realität, hat man die Chance, allgemeingültige Gesetzmäßigkeiten ähnlich jenen in den Naturwissenschaften zu formulieren. Sobald der Beobachter das Beobachtete jedoch wesentlich beeinflusst, ist es um die Existenz allgemein gültiger Gesetze schlecht bestellt. Es genügt, dass die Perspektive, also die Art der Betrachtung eine wesentlichere Rolle spielt, um aus uneingeschränkt gültigen Regeln (bestenfalls) nützliche Idealisierungen der tatsächlich weit komplexeren Verhältnisse werden zu lassen. Im Extremfall hat man es sogar mit einer Autopoiesis, also einer gemeinsamen Entwicklung von beobachtetem System und Beobachter zu tun - die Biologie spricht hier auch von Koevolution - und Regeln gelten bestenfalls eine gewisse Zeit lang. Wir wollen nicht beurteilen, inwieweit dieser Gesichtspunkt auf die Soziologie zutrifft, für die diese Idee wohl primär entwickelt worden ist. Traditionellerweise (d.h. gemäß Ockhams Ökonomieprinzip des Denkens) wäre es methodisch zunächst angebracht, zu erforschen, wie weit man mit einem möglichst einfachen - also nomologischen - Ansatz kommt und erst dann, wenn dieser sich nachweislich nicht bewährt hat, zu einem komplexeren Ansatz (etwa der Autopoiesis) überzugehen. Merton (1968) plädiert nicht als einziger gegen hochgradig abstrakte und empirisch kaum zu prüfende grand theories und spricht sich stattdessen für middle range theories aus, die Theoriebildung mit empirischer Fundierung verbinden. Auch andere Wissenschaften starten zunächst mit approximativen, zuweilen außerordentlich groben, aber gleichwohl denotativen Theorien, um sie später zu verfeinern. Durch das Basispostulat einer autopoietischen Realität versperrt die Systemtheorie der Soziologie diesen Weg, noch bevor er ernsthaft betreten worden ist.

Statistik und beobachtetes System Für unser Thema wichtiger ist, dass die Idee einer Adaptation des untersuchten Systems an die beobachtende Statistik von großer Bedeutung ist. Ein zentraler Zweck der angewandten Statistik ist selbstredend die Erfassung realer Verhältnisse. Zum Beispiel dient das ausgedehnte Berichtswesen der Wirtschafts- und Sozialstatistik dazu, den Zustand der Wirtschaft und die materiellen Verhältnisse der Gesellschaft zu beschreiben. Auch die Epidemiologie „lebt“ von umfangreichen und möglichst flächendeckenden Fallsammlungen, man denke nur an einschlägige Krankheitsregister, in denen möglichst alle Krankheitsfälle festgehalten werden sollen. Dabei ergibt sich nun immer wieder die folgende, wenig erfreuliche Entwicklung: 1. Über das zu untersuchende System liegen keine systematischen Daten vor. Beispiel: Anekdotische Berichte über die Zustände in Krankenhäusern vor dem 19. Jahrhundert.

592

6 Integrative Wissenschaftstheorie

2. Einige wenige, zentrale Statistiken sollen zumindest ganz wesentliche Eigenschaften des Systems abdecken, etwa Anzahl der Patienten, Behandlungserfolg und -Dauer, Kosten usw. 3. Auswertern fällt auf, dass die Daten zu wenig detailliert sind. Sitzen sie wie bei der Wirtschafts- und Sozialstatistik, aber auch dem Gesundheitswesen, am legislativen Hebel, so setzen sie durch, dass die Erhebungen umfangreicher und insbesondere auch detaillierter werden. Beispiel: Es werden Richtlinien für die Pflege von Krankenakten erlassen. Die statistische Berichtspflicht der Krankenhäuser wird ausgebaut. 4. Die „Professionalisierung“ der Datenerhebung wird zur Bürokratisierung. Immer mehr Ressourcen und insbesondere Arbeitszeit muss auf das Führen der Statistik verwendet werden, so dass die eigentliche Arbeit - der Dienst am Patienten - zuweilen zu kurz kommt. 5. Die Erhebung von Daten wird als lästige Pflicht, Kontrolle und Gängelung empfunden. Das gilt insbesondere dann, wenn mithilfe der „objektiven“ Daten das jeweilige System, etwa das Gesundheitswesen, gesteuert wird und an eine „erfolgreiche Statistik“ Gratifikationen gebunden sind. 6. Im schlimmsten Fall führt die „gute gemeinte“ Statistik zu einer Planerfüllungsmentalität. Es kommt primär darauf an, in der Statistik, d.h. bezüglich der von ihr erfassten Größen, gut dazustehen. Was die Statistik nicht erfasst, ist auch nicht relevant. Durch diesen Blick auf die äußere Kontrolle tritt die eigentliche Arbeit noch weiter in den Hintergrund. Und selbstverständlich wird die unliebsame, aber omnipräsente „Kontroll-Statistik“ wo immer es geht um-, zuweilen auch hintergangen. 7. Die beobachtende Statistik und das Feld, welches untersucht werden soll, befinden sich also in einem Wettlauf. Die Daten werden so zwar immer umfangreicher, aber zugleich auch immer weniger aussagekräftig. Je näher die Statistik ihrem Untersuchungsobjekt kommen will, umso entschlossener versucht jenes, sich zu entziehen. 8. Das System mitsamt seinem Beobachter kommen schließlich in einer kontraproduktiven Sackgasse an. Die „Statistik“ verschlingt einen (immer) größeren Teil der Ressourcen ohne dass dem noch ein entsprechender Nutzen gegenüberstünde. 9. Es ist in dieser Situation eine Illusion zu glauben, immer noch mehr Daten würden das Problem schon lösen. Vielmehr hat die unglücksselige Kombination aus Informationsbedürfnis und Kontrolle das Gesamtsystem, etwa das Gesundheitswesen und seine Statistik, auf dem Wege einer völlig folgerichtigen Entwicklung in die Irre geführt. Nahezu die gesamte Statistik geht von festen und informativen Daten aus. Beim Hypothesentesten treffen fest-gehaltene Daten auf eine fixierte Hypothese, neuerdings werden flexible Modelle an gegebene Daten angepasst (siehe S. 476). Auch die klassische Datenerhebung schließt nur gewisse „Störfaktoren“ aus. Hier zeigt sich nun aber, dass Daten im Allgemeinen alles andere als stabil oder verlässlich sein müssen. Vielmehr versucht sich das gesamte

6.4 Adaptive Statistik

593

beobachtete (soziale) System aktiv einer aussagekräftigen Beschreibung und damit auch Steuerung zu entziehen! Das am Beispiel des Gesundheitswesens demonstrierte Problem ist alltäglich, und ebenso die beschriebene Entwicklung. Folgerichtig leidet nicht nur das Gesundheitswesen unter einer überbordenden „Datenerhebungsbürokratie“. Vielmehr sind die ausgeführten Konsequenzen bei jedem System zu erwarten, dass sich an einen kontrollierenden „aversiven“ Beobachter adaptiert. Statt Koevolution sprechen nicht nur Evolutionsbiologen in solchen Fällen von einem Rüstungswettlauf.74 Es ist hier von zentraler Bedeutung, die Wechselwirkungen zwischen System und Beobachter im Auge zu behalten. So zu tun, als gäbe es keine gegenseitige Beeinflussung und der „objektive“ Zustand des zu beobachtenden Systems sei einfach durch eine entsprechend detaillierte Datenerhebung zu erfassen, ist eine gefährliche Illusion, die zu obiger Fehlentwicklung führt. Man muss beide Komponenten und ihre wechselseitige Abhängigkeit im Blick haben, damit nicht das Gesamtsystem aus den Fugen gerät und man einer „Computopia“-Illusion erliegt. Von der Lippe (1996: Kapitel 8; 261-265), beschreibt diese prägnant: „Mit ‚Computopia‘ soll die Idee bezeichnet werden, daß Politik und Planung umso besser sind, je umfassender die Lage- und Erfolgsbeurteilung mit statistischen Daten gesichert ist.“ Diese Idee führt folgerichtig zu einem „unendlichen Datenbedarf“ verbunden mit der „überzogenen Erwartung, Problemen mit mehr statistischen Daten beizukommen, v. a. bei Politikern und deren wissenschaftlichen Beratern: Ist ein politischer ‚Handlungsbedarf‘ erkannt, so wird als erstes nach mehr statistischen Daten gerufen, und wenn man einige Jahre später auf diese Forderungen an die Statistik zurückblickt, so wird die Dringlichkeit und Größe des Datenbedarfs, die Planungseuphorie und die Liebe zum statistischen Detail nicht selten geradezu grotesk.“

Je mehr Daten gesammelt wurden, je größer der betriebene Aufwand war, desto mehr möchte man dann auch aus ihnen herausholen. Es ist also nur nahe liegend, die Rohdaten fast genauso perfektionistisch zu aggregieren, sich etwa auf die Suche nach der „endgültigen, alles umfassenden Gesamtrechnung“ der Volkswirtschaft zu machen, die alles zu einem einzigen, riesigen, in sich stimmigen Gesamtbild vereinigt. Ähnlich veranlagt ist, wer die gesamte, komplexe Entwicklung in einer einzigen Zahl abbilden will. Mit grausamem Realismus schreibt er ibd.: Es gibt nie eine Grenze der statistischen Perfektionierung, wenn sich nur die (oft gar nicht hinterfragte) Nachfrage nach Daten hinreichend Gehör verschafft, was immer dann der Fall ist, wenn etwas ‚von oben‘ geordnet und überwacht werden soll. In der ehemaligen DDR gab es bis zuletzt nicht wenige, die glaubten, mit etwas mehr Daten und einem etwas größeren zentralen Rechner hätte man den Kapitalismus besiegen können. Dem gleichen, hier ‚Computopia‘ genannten Glauben begegnet man aber auch in ‚westlichen‘ Bürokratien, z. B. in supranationalen Organisationen oder in den Wissenschaftsministerien. Manchmal sind mehr Verordnungen, mehr Gremien, mehr Erhebungen und höhere Ausgaben der einzige Erfolg der Regelungsbemühungen. 74

Siehe z. B. Saint-Mont (2002) und die dort genannte Literatur.

594

6 Integrative Wissenschaftstheorie

Offensichtlich besteht die eigentliche Aufgabe darin, ein Gesamtsystem zu konzipieren, dass sowohl das interessierende beobachtete System möglichst ungestört „seiner Arbeit nachgehen lässt“, als auch zugleich übergeordnete Informations- und Steuerungsbedürfnisse befriedigt.75 Folgende ineinander verzahnte Möglichkeiten bieten sich an: 1. Automatisierung. Je mehr Vorgänge standardisiert erfasst und automatisiert verarbeitet werden, desto weniger Verwaltungsaufwand fällt auf der individuellen Ebene an. 2. Richtige Granularität bzw. Detaillierungstiefe. Daten sollten nur so detailliert wie für einen bestimmten Zweck notwendig, erfasst werden. Ähnlich wie bei einem Bild gibt es typischerweise eine optimale Granularität. Zu grobe Daten enthalten kaum Information, während die Details hochdifferenzierter Daten kaum genutzt werden bzw. wenig aussagekräftig sind (zufällige Schwankungen). 3. Nutzen versus Kosten: Wer mehr Daten will, muss den dadurch entstehenden Nutzen belegen. Dieser ist gegen den zusätzlichen Aufwand abzuwiegen. (Der Aufwand wächst hingegen ins Unermessliche, wenn die auswertenden Stellen beliebige Datenwünsche anmelden können, welche die Erheber der Daten erfüllen müssen.) 4. Rechte und Pflichten. Wer die Pflicht hat, Daten bereitzustellen, sollte auch das Recht haben, sie auszuwerten, oder aber zumindest die (unter anderem) auf seinen Daten beruhenden Auswertungen einzusehen und zu beurteilen. In Anlehnung an den Grundsatz “no taxation without representation” könnte man dies no information without participation nennen. 5. Je mehr die Interessen von Beobachter und beobachtetem System divergieren, desto schwieriger wird es, zuverlässige Daten zu bekommen. Spätestens wenn der Zweck der Datenerhebung primär der Überwachung des Systems und nicht mehr dessen Beschreibung dient, scheitert der kooperative Ansatz. Das heißt, dann werden Kontrollen und Sanktionsmechanismen unvermeidlich, für die sich schon lange das Prinzip der Verhältnismäßigkeit eingebürgert hat. Die letzten Stichpunkte sollten ein funktionsfähiges Gesamtsystem skizzieren. In dessen Mittelpunkt steht die Aufgabenerfüllung des untersuchten System. Von der Lippe (1996: 261) schreibt dazu: „Ohne Leistungsanreize und Funktionsfähigkeit der Leistungsträger erhalten die Planer nicht die zutreffenden, sondern durch Interessen verfälschte Informationen.“ Auch an dieser Stelle beginnt die Quantifizierung. Mit dem aus den Niederlanden stammenden Standardkostenmodell (Merk et al. 2005) werden schon in mehreren europäischen Ländern die durch staatliche Informationspflichten verursachten bürokratischen Aufwände abgeschätzt. Entscheidend ist, den (unstillbaren) Datenhunger durch Verweis auf die zusätzlichen Ausgaben in Schach zu halten, so dass insgesamt ein mit einem kleinen “Overhead” steuerbarer Bereich 75

Ärzte und Pflegekräfte sollten sich primär um ihre Patienten kümmern, nicht um Statistik! Andererseits müssen die finanziellen Mittel gezielt eingesetzt werden.

6.5 Schlussbemerkung

595

entsteht. Dieses Leitbild gilt es immer im Auge zu behalten, wenn sich die Wechselwirkungen zwischen einem Beobachter - hier oft auch ein Kontrolleur - und dem jeweiligen zu beobachtenden System nicht wie im einfachen nomologischen Fall vernachlässigen lassen.76 Da die Realität(en) bei der Erfassung adaptiver Systeme komplexer sind als im einfachen nomologischen Fall, ist es auch weit schwerer, ein solches Gesamtsystem zu steuern. Andererseits eröffnen sich aber auch größere Gestaltungsspielräume. Denn nicht eherne Naturgesetze diktieren das Geschehen, sondern wir bestimmen - zumindest in Maßen - über die Regeln und Abläufe mit. Dass man auch in solchen Situationen, also ohne einen „festen archimedischen Punkt“, sinnvoll handeln kann, beweisen seit Jahrtausenden funktionierende Bürokratien. Nicht nur die Steuerverwaltung adaptiert sich immer wieder aufs Neue an die von ihr betreuten Bürger (und umgekehrt). Letztlich lernen alle Systemteilnehmer voneinander und stellen sich auf die jeweiligen Bedingungen ein. Sind wir Akteure des Systems, so liegt es anders gesagt - zumindest teilweise - auch in unserer Verantwortung, die Situation nicht noch komplizierter zu machen als sie es ohnehin schon ist. Weit mehr als eine nur vag-optimistische Zukunftsvision hiervon ist „Infotopia“ (Sunstein 2009). Mit Blick auf die Systemtheorie erweist sich einmal mehr die empirische Bodenhaftung als entscheidend. Was bringt es z. B., Wissenschaftstheorie als Beobachtung einer höheren Stufe zu verstehen?77 Statt mittels Beobachtern diverser Stufen dieser Basis schnell zu entfliehen, wäre es ganz im Gegenteil weit fruchtbarer, sie vermehrt auf konkrete Situationen anzuwenden, also systematisch stark rückgekoppelte Systeme zu studieren. Dort würden ihre Möglichkeiten und Grenzen auch weit schneller deutlich werden als im luftigen Raum akademischer Diskussionen.

6.5 Schlussbemerkung Philosophers recognize the importance of techniques and technicians should reciprocate. (Good 1988: 395)

Die große Bedeutung der Wissenschaftstheorie für die Statistik besteht darin, dass sie letzterer einen Rahmen gibt, der weit über konkrete mathematische Methoden hinausreicht. Dieser Rahmen sorgt für Halt „ jenseits der Mathematik“, hilft, deren argumentative Enge zu überwinden und motiviert 76

Beispielsweise sollte in einem gut organisierten Krankenhaus die meiste Zeit auf die Patienten verwendet werden und nicht auf Formulare. Dabei hilft eine gut sortierte Dokumentation (elektronischen Krankenakte), der benötigte Daten automatisiert entnommen werden können. 77 Beobachtung 1. Stufe = Naives Beobachten; Beobachtung 2. Stufe = Wissenschaftliches, reflektiertes Beobachten; Beobachtung 3. Stufe = Wissenschaftstheorie, also die Beobachtung der Beobachtung 2. Stufe.

596

6 Integrative Wissenschaftstheorie

bestenfalls dazu, häufig zunächst sehr vage Überlegungen in konkrete Anwendungen und Formalismen zu überführen. Good (1971a: 375) schreibt dazu: “If statistics seems too constrained, a good field for looking for new ideas is the philosophy of science.” Die nicht-mathematische Diskussion, falls sie nicht gerade allzu prinzipiell-wissenschaftstheoretisch ist, ist nicht nur als Quelle der Inspiration erbaulich, darüber hinaus enthält sie Ideen, deren Präzisierung, gerade im Rahmen der Statistik, lohnen. Die noch größere Bedeutung der Statistik für die Wissenschaftstheorie besteht darin, dass sie letzterer ein Gerüst gibt, das viel stärker ist als verbale Argumente und an Texten orientierte Diskussionen. Dieses Gerüst sorgt für Halt „ jenseits der Sprache“, hilft, deren argumentative Weite zu überwinden und motiviert bestenfalls dazu, allgemeine Überlegungen auf konkrete, praxisrelevante Beispiele zu gründen. Die statistisch-mathematische Diskussion, falls sie nicht gerade allzu technisch oder ins Detail vertieft ist, ist nicht nur als Quelle der Inspiration erbaulich, darüber hinaus enthält sie praktische bewährte Erfahrungen, deren Verallgemeinerung, gerade im Rahmen einer empiristischen Philosophie, lohnen. Wir haben mehrfach gezeigt, dass die gemeinsame mathematische Sprache in der Lage ist, Brücken zu bauen, auch wenn die Interpretation eines formalen Ergebnisses sehr unterschiedlich sein mag. Greift man jedoch primär auf die natürliche Sprache zurück, so münden selbst ausgewogene Erörterungen der vertretenen Positionen leicht in verbalen Auseinandersetzungen, Dogmen, Extrema und unfruchtbarer Einseitigkeit. Man vergleiche z. B. Howson und Urbach (2006) sowie Mayo (1996) auf der einen Seite und Li und Vitányi (2008), Pearl (2000a, 2009a) sowie Sokal und Bricmont (1998) auf der anderen. Popper (1946) betont, dass es zwar viele geschlossene, jedoch nur eine offene Gesellschaft gibt. In Anspielung hierauf lässt sich argumentieren, dass es zwar viele einseitige und noch mehr dem Empirischen entrückte Auffassungen von Wissenschaft gibt, jedoch nur eine (theoretische wie angewandte) wissenschaftliche Philosophie. Jene begreift die empirische Basis als Ausgangspunkt wie auch Schlussstein des ganzen Erkenntnis gewinnenden Unternehmens. Messen und messbar machen beschreibt wie kein zweiter Satz den archimedischen Punkt aller empirischen Wissenschaft. Seine Umsetzung führt fast zwangsläufig zur Entwicklung, die empirische Erfahrung - Daten - immer zuverlässiger (valider, reliabler, präziser) zu machen, was einer Aufforderung zur Quantifizierung gleichkommt. Verbindet man letztere mit dem Streben nach logischer Widerspruchsfreiheit, so führt dies zwangsläufig zur durchgängigen Mathematisierung des Wissens.78 Entschlossen auf die Empirie zuzu78

Wir erinnern an Laughlin (2007: 35): „[. . .] In der Physik unterscheiden korrekte Wahrnehmungen sich insofern von irrigen, als Erstere klarer werden, wenn man die Genauigkeit des Experiments verbessert. Diese simple Vorstellung bringt das Denken der Physiker auf den Punkt und erklärt, warum sie stets so besessen von Mathematik und Zahlen sind: Durch Präzision wird das Falsche sichtbar.“ Und Francis Bacon fährt im Novum Organum, zitiert nach Velleman (1997: 324), fort: “[. . .] Truth will emerge more readily from error than from confusion [. . .]”

6.5 Schlussbemerkung

597

gehen, problemorientiert zu arbeiten, vage Phänomene mittels durchdachter Experimente dingfest zu machen und zu quantifizieren, genau das ist das Erfolgsrezept der Naturwissenschaften. Es ist jedoch in jedem empirischen Feld - also nicht nur in den Naturwissenschaften - anwendbar. Zudem ist es ahistorisch in dem Sinne, dass das soziale Umfeld, die Psychologie und erst recht die Physiologie der Wissenschaftler nebensächlich sind. Es hat seit der frühen Neuzeit den Forschungszirkel in Schwung versetzt, die Organisation der Information zu umfassenderen Theorien befördert und deren Prüfung in einschlägigen Experimenten ermöglicht. Das Ergebnis hiervon sind auf der theoretischen Seite hochgradig nichttriviale Einsichten und auf der praktischen Seite eine höchst komplexe Technik, mit der wir die Welt um uns maßgeblich gestalten. Im Gegensatz zur zweifelnden Philosophie, die sich nur allzu oft systematisch von der empirischen Basis entfernt und „Ismen“ in großer Anzahl pflegt, zielt erfolgreiche Wissenschaft darauf ab, den empirischen Einfluss zu maximieren. Sie stellt sich den Fakten, auch wenn das oft weh tut und errichtet sodann auf deren solidem Fundament beeindruckende Konstruktionen. Diese Entwicklung des Wissens war in den letzten Jahrhunderten im Wesentlichen kumulativ, und sie lässt sich am einfachsten als eine sukzessive Annäherung an eine von uns weitgehend unabhängige, strukturierte Welt verstehen. So ist die grundlegende Unterscheidung im Erkenntniszirkel nicht die zwischen „links“ und „rechts“, also zwischen einer eher deduktiven und induktiven Grundhaltung, auch wenn darüber am meisten Literatur existiert. Die weit bedeutendere Differenzierung ist jene zwischen „oben“ und „unten“, also zwischen direkter empirischer Erfahrung und deren Sublimierung in Form allgemeiner Theorien. Nur wenn dabei der Kontakt mit der Wirklichkeit nicht verloren geht, hat man „richtig“ abstrahiert. Die jeweiligen Grundausrichtungen könnten aktuell gegensätzlicher kaum sein, doch der Lackmustest für allgemeine Entwürfe besteht immer in ihrem Verhältnis zur Logik, der Verwendung quantitativ-formaler Methoden und der Anwendbarkeit ihrer Argumente. Während erfolgreiche empirische Wissenschaften hierauf den größten Wert legen, auf die Realität zugehen, sich ihr immer besser annähern wollen, systematisch den Kontakt mir ihr suchen, um ihr neue Einsichten abzuringen, haben diese Faktoren in der Wissenschaftstheorie spätestens seit den 1970er Jahren mehr und mehr an Bedeutung verloren. Um es ganz deutlich zu sagen: Stringente Logik, die gemeinsame Sprache der Mathematik sowie das Primat der Empirie erleichtern Fachwissenschaftlern wie Statistikern den Konsens und führen zu allgemein akzeptierten Vorstellungen. Ohne eine solche Basis tendieren theoretische Texte zum leichtfüßigen Diskurs oder zum engstirnigen Dogma fern der Realität: The Sokal ‘experiment’ vividly illustrates what can easily happen to a field that repudiates all received scholarship, in which ‘text’ is more important than ‘fact’ and the political inspiration for a claim becomes the overriding evaluative criterion. (Koertge 1998: 4)

598

6 Integrative Wissenschaftstheorie

Konstruiert man eine Skala von wegweisend über kompetent, hilfreich, bemüht, fraglich bis hin zu unseriös, so haben wir dargelegt, wo wir die besprochenen akademischen Entwicklungen einordnen. Von links nach rechts: Moderne, fachwissenschaftlich getriebene Ansätze (z. B. Informationstheorie, kausale Netze), Wissenschaftsforschung, Bayessche und MainstreamStatistik, Wissenschaftstheorie, Systemtheorie, Science studies. Die so gezogene Bilanz kann man am entscheidenden Kriterium des empirischen Erfolgs festmachen: Während es bei den zuerst genannten Ansätzen wenig Ursache zur Kritik gibt, fällt die Bilanz bei der traditionsverhafteten Statistik schon gemischter aus. In der noch weit mehr textorientierten Wissenschaftstheorie erodieren hingegen selbst die Lehrmeinungen (einst) führender Autoren wie Popper, Kuhn und Lakatos, so dass sie heute eher gespalten und desorientiert wirkt. Die „Gemäßigten“, oft Schüler der vormals tonangebenden Schulen, verwalten deren bröckelndes Erbe, während „Radikale“ die Akzente setzen und die Wissenschaftstheorie in die Erstarrung des Dogmatismus oder die erregten Auseinandersetzung politischer Debatten zu führen drohen. Zumindest ist es ein hoffnungsvolles Zeichen, dass zur Zeit nicht mehr die Revolution ihre Kinder frisst, also sich derjenige durchsetzt, der immer noch radikalere Ansichten vertritt, sondern exponierte Positionen zurückgenommen werden. So wurde aus “Any statement can be held true come what may [. . .]” und “The unit of empirical significance is the whole of science” (Quine 1980: 43, 42) ein moderates “empirical content is shared by the statements of science in clusters [. . .] Practically the relevant cluster is indeed never the whole of science [. . .]” (Quine 1980: viii).79 Wer, wie Latour und Woolgar (1979), den Grundriss eines Labors nimmt, ihn mit mail, telephone, animals, chemicals, energy (als Input), physiology, chemistry (als Verarbeitungsschritte) sowie ARTICLES (als Output) beschriftet, dessen Verständnis von Forschung kommt Cargo-Kult-Wissenschaft80 verdächtig nahe. Daraus wird in Latour (2004: 227), Hervorhebung im Original: While we spent years trying to detect the real prejudices hidden behind the appearance of objective statements, do we now have to reveal the real objective and inconvertible facts hidden behind the illusion of prejudices? And yet entire Ph.D. programs are still running to make sure that good American kids are learning the hard way that facts are made up, that there is no such things as a natural, unmediated, unbiased access to truth, that we are always prisoners of language, that we always speak from a particular standpoint, and so on, while dangerous extremists are using the very same argument of social construction to destroy hard-won evidence that could save lives. Was I wrong to participate in the invention of this field known as science studies? Is it enough to say that we did not really mean what we meant?81 79

Siehe auch Bricmont und Sokal (2004: 8).

80

Worsley (1968) und Feynman (2005b: 448ff). Charakteristisch ist, dass die äußere Form stimmt bzw. perfekt imitiert wird, aber die Substanz, die Idee des Ganzen, fehlt. 81

Siehe auch Godfrey-Smith (2003: 132f): “Laboratory life was a huge success. To many it seemed like a breath of fresh air, a book that exuded wit and imagination [. . .] Latour also inspired a different style in sociology of science, a style that might be described as

6.5 Schlussbemerkung

599

Der Statistik droht mittelfristig vor allem die Stagnation. Nur wenn sie sich nicht in vermeintlich sichere mathematische Gefilde zurückzieht, kann sie zusammen mit anderen Wissenschaften wachsen und ihrer herausgehobenen Rolle im Erkenntnisprozess gerecht werden. Alle führenden Statistiker strebten immer eine eigenständige, selbstbewusste Wissenschaft an, einflussreich positioniert zwischen philosophisch-prinzipiellen Überlegungen, mathematischer Methodik und vor allem empirischen Fragestellungen. Deshalb ist meine feste Überzeugung, dass die Zukunft der Statistik wenig von ihren eleganten mathematischen Werkzeugen, etwas mehr von einer Synthese zwischen den konkurrierenden „philosophischen“ Schulen, erheblich mehr von ihrem Verhältnis zur Informationsidee (insbesondere „Fishers und Kolmogorovs Erbe“), am allermeisten aber von der aktiven Auseinandersetzung mit aktuellen Problemstellungen und Lösungsansätzen abhängt. In Abwandlung von Efrons Ausspruch (S. 183) heißt das: If Statistics continues in ignorance of important contemporary developments, scholars of all fields will - time and again - be forced to invent it themselves. Diese Entwicklung hat schon eingesetzt und wird sich solange fortsetzen, bis die „deduktive Unwucht“ im Forschungszirkel wieder ausgeglichen ist. Die Krise der Wissenschaftstheorie ist wesentlich tiefer gehend, da das Problem dort nicht in einer Unwucht, sondern in der Abkehr vom Forschungszirkel besteht. Der Streit der Schulen hat nicht über das Studium der Fakten zu einer Annäherung geführt. Stattdessen haben sich die Meinungen aufgeschaukelt und den Realitätsbezug über die Jahrzehnte so sehr geschwächt, dass mittlerweile die Auflösung als eigenständige Disziplin auf der Agenda steht. Weit mehr noch als im Fall der Statistik ist hier eine Emanzipation von wortgewaltigen Autoritäten und verführerischen Paradigmen überfällig. Nur wenn die Theorie mit intensiver Forschung unterfüttert wird, schon das Studium tief in die Fachwissenschaften einführt und das Hauptaugenmerk darauf liegt, die so entstehenden Ideen argumentativ zu untermauern; kurz, wenn es zu einer dezidierten Hinwendung zur Empirie kommt, kann die Wissenschaftstheorie hoffen, nicht vollends dem Pluralismus der Ansichten (Kellert et al. 2006) oder gar der Beliebigkeit der Spekulation zu erliegen: Es gibt keine Ontologie, kein selbstständiges Reich einer philosophischen Erkenntnis, die den Vortritt vor Wissenschaft hat [. . .] Die Arbeit des Philosophen [besteht] im Wesentlichen darin, Ordnung zu schaffen [. . .] Die nüchterne Bemühung um die Wahrheit hat nicht den Glanz künstlerischer Schöpfungen; sie hat aber den Vorzug, daß sie den Weg zur allgemeinen Zustimmung ebnet und Ergebnisse sicherstellt, die zu guter Letzt Kontroversen und Angriffen entzogen sein werden. (Reichenbach 1947: 463f) elusive, self-conscious, and literary.” (Hervorhebungen im Original) und Feynman (2005b: 453): „Wir wissen aus Erfahrung, daß die Wahrheit am Ende herauskommt. Andere Leute werden [. . .] herausfinden, ob Sie recht hatten oder nicht [. . .] obwohl Sie zeitweise Ruhm ernten und Begeisterung auslösen mögen, werden Sie keinen guten Ruf als Wissenschaftler gewinnen [. . .] es ist diese Art von Integrität, dieses wachsame Bemühen, sich selbst nichts vorzumachen, woran es vielen Forschungen der Cargo-Kult-Wissenschaft in hohem Maße mangelt.“

600

6 Integrative Wissenschaftstheorie

Lassen wir zwei Universalgelehrten (Durant und Durant 1985: Bd. 14, 343) das letzte Wort: Ihre größte Auswirkung hatte die Wissenschaft [des 18. Jahrhunderts] natürlich auf die Philosophie, denn die Philosophie, die Suche nach Weisheit, muß sich auf die Wissenschaft und ihre Erkenntnis stützen.

Literatur

Adams, E.W.; Fagot, R.F.; and Robinson, R.E. (1965). A Theory of Appropriate Statistics. Psychometrika 30, 99-127. Akaike, H. (1973). Information Theory and an Extension of the Maximum Likelihood Principle. In: Petrov, B.N.; and Csàki, F. (Hrsg.) Second International Symposium on Information Theory Akademiai Kiàdo, Budapest. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 610-624). Akaike, H. (1974). A New Look at the Statistical Model Identification. IEEE Transactions on Automatic Control 19(6), 716–723. Akaike, H. (1981). Modern Development of Statistical Methods. In: Eykhoff, P. (Hrsg.) Trends and Progress in System Identification. Pergamon Press, Oxford, 169-184. Albert, M. (1992). Die Falsifikation statistischer Hypothesen. J. for General Philosophy of Science 23(1), 1-32. Albrecht, H. (2005). Kritik der reinen Norm. Klinische Forschung hilft vor allem Standardpatienten. DIE ZEIT Nr. 2/2005. Aldrich, J. (2000). Fisher’s ‘Inverse Probability’ of 1930. International Statistical Review 68(2), 155-172. Altman, D.G. (1985). Comparability of Randomised Groups. The Statistician 34, 125-136. Altman, D.G. (1998). Covariate imbalance, adjustment for. In: Armitage, P.; and Colton, T. (Hrsg.) Encyclopedia of Biostatistics. Wiley, Chichester, 1000-1005. Anderson, N.H. (1961). Scales and Statistics: Parametric and Non-Parametric. Psychological Bulletin 58, 305-316. Anderson, P.W. (1972). More is Different. Broken Symmetry and the Nature of the Hierarchical Structure of Science. Science 177(4047), 393-396. Andrieu, C.; Freitas, N. de; Doucet, A.; and Jordan, M.I. (2003). An Introduction to MCMC for Machine Learning. Machine Learning 50, 5-43. Angluin, D.; and Smith, C.H. (1983). Inductive Inference: Theory and Methods. Comput. Surveys 15(3), 237—269. Antoniou, G. (1997). Nonmonotonic Reasoning. MIT Press, Cambridge, Mass. Apgar, V. (1953). A Proposal for a New Method of Evaluation of the Newborn Infant. Current Researches in Anesthesia and Analgesia 32, 260-267. Arbuthnot, J. (1710). An Argument for Divine Providence, taken from the Constant Regularity Observ’d in the Births of Both Sexes. Phil. Trans. R. Soc. 27, 186-190. Ariely, D.; Gneezy, U.; Loewenstein, G.; and Mazar, N. (2009). Large Stakes and Big Mistakes. The Review of Economic Studies 76, 451-469. Aristoteles (o. J.) Organon, S. 351. Zitiert nach: Digitale Bibliothek, Band 2: Philosophie, S. 3124. (Vgl. Aristioteles 1. Analytik, S. 142 der Übersetzung von J. H. von Kirchmann (1877).) Felix Meiner, Leipzig: Philosophische Bibliothek, Bd. 10.

U. Saint-Mont, Statistik im Forschungsprozess, DOI 10.1007/978-3-7908-2723-1, © Springer-Verlag Berlin Heidelberg 2011

601

602

Literatur

Aronowitz, S. (1988). Science as Power. Discourse and Ideology in Modern Society. Univ. of Minnesota Press, Minneapolis, MN. Austin, P.C. (2008). A Critical Appraisal of Propensity-Score Matching in the Medical Literature between 1996 and 2003. Statistics in Medicine 27, 2037-2049. The Australian Lung Foundation (2007). Website, Aufruf am 11. 01. 2008. Siehe www.copdx.org.au/guidelines/a_evidence_levels.asp Bachelier, L. (1900). Théorie de la Speculation. Ann. Sci. Ecole Norm. Sup. 17(3), 21-86. Backhaus, K.; Erichson, B.; Plinke, W. und Weiber, R. (2003). Multivariate Analysemethoden. Eine anwendungsorientierte Einführung. (10. Aufl.) Springer, Berlin. Bacon, F. (1597). Meditationes sacrae. Zitiert nach der “New Edition in ten volumes” (1826). G. Woodfall, London, vol. X. Bacon, F. (1620). Novum Organon. Zitiert nach der englischen Übersetzung The new organon or true directions concerning the interpretation of nature von Spedding J.; Ellis, R.L. und Heath, D.D. The Works VIII Taggard and Thompson, Boston (1863). Siehe www.constitution.org/bacon/nov_org.htm Baecker, D. (Hrsg., 2005). Schlüsselwerke der Systemtheorie. Verlag für Sozialwissenschaften, Wiesbaden. Baeyer, H.C. v. (2005). Information. The New Language of Science. Harvard University Press, Cambridge, MA. Bailey, R.A. (1982). Randomization, Constrained. In: Johnson, N. L,; and Kotz, S. (Hrsg.) Encyclopedia of Statistical Sciences Wiley, New York. (Neuauflage 2006.) Baird, D.; Scerri, E.; and McIntyre, L. (2006). Philosophy of Chemistry. Synthesis of a New Discipline. Springer, Netherlands: Boston Studies in the Philosophy of Science. Bakan, D. (1970). The Test of Significance in Psychological Research. Kapitel 25 in Morrison und Henkel (1970), 231-251. Balasubramanian, V. (1997). Statistical Inference, Occam’s Razor, and Statistical Mechanics on the Space of Probability Distributions. Neural Computation 9, 349-368. Balasubramanian, V. (2005). MDL, Bayesian Inference, and the Geometry of the Space of Probability Distributions. Kapitel 3 in: Grünwald et al. (2005), 81-98. Balzer, W.; Moulines, C.U.; and Sneed, J.D. (1987). An Architectonic for Science. Reidel, Dordrecht. Balzer, W. (1996). Theoretical Terms: Recent Developments. In: Balzer, W.; and Moulines C.U. (Hrsg.): Structuralist Theory of Science. De Gruyter, Berlin. Balzer, W. (1997). Die Wissenschaft und ihre Methoden. Grundsätze der Wissenschaftstheorie. Alber, Freiburg. Bamberg, G. (1972). Statistische Entscheidungstheorie. Physica Verlag, Würzburg. Barnard, G.A. (1949). Statistical Inference. (Mit Diskussion) J. of the Royal Statistical Society, Ser. B 11, 115-149. Barnard, G.A. (1958). Thomas Bayes - A Biographical Note. Einführung zum Wiederabdruck von Bayes (1763) in Biometrika 45(3 & 4), 293-297. Barnard, G.A. (1968). Computers, Statistics, and Politics. In: Watts, D.G. (Hrsg.) The Future of Statistics. Academic Press, New York, 39-43. Barnard, G.A. (1971). Diskussionsbeitrag zu Villegas (1971) in Godambe and Sprott (1971), 414. Barnard, G.A. (1993). Diskussionsbeitrag zu Draper et al. (1993). J. Royal Stat. Soc. A 56(1), 31-32. Barnard, G.A. (1996a). Diskussionsbeitrag zu Hand (1996). J. of the Royal Statistical Society, Ser. A 159, 480. Barnard, G.A. (1996b). Fragments of a Statistical Autobiography. Student 1, 257-268. Barnett, V. (1999). Comparative Statistical Inference. (3. Aufl.) Wiley, New York. 1. Aufl. 1973. Barron, A.; Rissanen, J.; and Yu, B. (1998). The Minimum Description Length Principle in Coding and Modeling. IEEE Transactions on Information Theory 44, 2743-2760.

Literatur

603

Bartels, A. (2007). Wissenschaftlicher Realismus. Kapitel 9 in Bartels und Stöckler (2007), 199-222. Bartels, A. und Stöckler, M. (Hrsg., 2007). Wissenschaftstheorie: Ein Studienbuch. Mentis, Paderborn. Bartlett, M.S. (1990). Chance or Chaos? (Mit Diskussion) J. of the Royal Statistical Society, Ser. A 153(3), 321-347. Basu, D. (1964). Recovery of Ancillary Information. Sankhya 21, 247-256. Zitiert nach Ghosh (1988), Chapter I, 1-19. Basu, D. (1969). Sufficiency and Invariance. In: Bose, R.C. et al. (Hrsg.) Essays in Probability and Statistics. University of North Carolina, Chapel Hill, NC, 61-84. Zitiert nach Ghosh (1988), Chapter VIII, 142/143-160. Basu, D. (1971). On the Logical Foundations of Survey Sampling. In: Ghosh (1988), Chapter XII, 201-233, und Chapter XIII “Discussions”, 234-244. Basiert auf “An Essay on the Logical Foundations of Survey Sampling, Part I” (mit Diskussion) in: Godambe and Sprott (1971), 203-242. Basu, D. (1979). A Discussion on the Fisher Exact Test. Kommentar zu Berkron, J. (1979). In Dispraise of the Exact Test. J. Statistical Planning and Inference, 3, 189-192. Zitiert nach Ghosh (1988), Chapter XVIII, 321-324. Basu, D. (1980). Randomization Analysis of Experimental Data: the Fisher Randomization Test. J. of the American Statistical Association 75, 575-595. Basu, K. (2007). Das Urlauberdilemma. Spektrum der Wissenschaft 8, 82-88. Bayarri, M.J. (1995). Diskussionsbeitrag zu Cox (1995). Test 4(2), 228-233. Bayarri, M.J.; and Berger, J.O. (2004). The Interplay of Bayesian and Frequentist Analysis. Statistical Science 19(1), 58-80. Bayarri, M.J.; and DeGroot, M.H. (1990). Selection Models and Selection Mechanisms. In: Zellner, A. und Kadane, J.B. (Hrsg.) Bayes and Likelihood Methods in Statistics and Econometrics. Essays in Honor of George A. Barnard. North-Holland Publishing Company, Amsterdam: Studies in Bayesian Econometrics Vol. 7, 211-228. Bayes, T. (1763). An Essay towards Solving a Problem in the Doctrine of Chances. Phil. Trans. Roy. Soc. 53, 370-418. Wiederabgedruckt in Biometrika (1958) 45(3 & 4), 298-315. Bellman, R. (1961). Adaptive Control Processes: A Guided Tour. Princeton University Press. Bender, R. (2005). Number Needed to Treat (NNT). In: Armitage, P.; and Coltron, T. (Hrsg.) Wiley, Chichester: Encyclopedia of Biostatistics Vol. 6, 3752-3761. (2. Aufl.) Bennett, J.H. (1990). Statistical Inference and Analysis. Selected Correspondence of R.A. Fisher. Clarendon Press, Oxford. Beran, R. (2001). The Role Of Experimental Statistics. In: Saleh, A. K. Mohammed E. (Hrsg.) Data Analysis from Statistical Foundations. A Festschrift in Honour of the 75th Birthday of D.A.S. Fraser. Nova Science Publishers, New York, 257-274. Beran, R. (2008). Kommentar zu Davies (2008). J. of the Korean Statistical Society 37, 217-219. Berger, A. (2001). Chaos and Chance. An Introduction to Stochastic Aspects of Dynamics. De Gruyter, Berlin. Berger, J.O. (1985). Statistical Decision Theory and Bayesian Analysis. (2. Aufl.) Springer, New York: Springer Series in Statistics. 1. Aufl. 1980. Berger, J.O. (1988). Kommentar zu Good (1988). Statistical Science 3(4), 403-404. Berger, J.O. (2000). Bayesian Analysis: A Look at Today and Thoughts on Tomorrow. Journal of the American Statistical Association 95, 1269-1276. Berger, V. (2005a). Selection Bias and Covariate Imbalances in Randomized Clinical Trials. Wiley, New York. Berger, V. (2005b). Quantifying the Magnitude of Baseline Covariate Imbalances Resulting from Selection Bias in Randomized Clinical Trials. (Mit Diskussion). Biometrical Journal 47(2), 119-139.

604

Literatur

Berger, J.O.; and Berry, D.A. (1988). Statistical Analysis and the Illusion of Objectivity. American Scientist 76, 159-165. Berger, J.O.; and Sellke, T. (1987). Testing a Point Null Hypothesis: The Irreconcilability of P Values and Evidence. J. of the American Statistical Association 82, 112-122. Berger, J.O.; and Wolpert, R.L. (1988). The Likelihood Principle. (2. Aufl.) Institute of Mathematical Statistics, Hayward, CA: IMS Lecture Notes. Berger, V.; and Weinstein, S. (2004). Ensuring the Comparability of Comparision Groups: Is Randomization Enough? Controlled Clinical Trials 25, 515-524. Berghaus, M. (2004). Luhmann leicht gemacht. Eine Einführung in die Systemtheorie. (2. Aufl.) UTB, Stuttgart. Berk, R.A.; and Freedman, D.A. (2010). Statistical Assumptions as Empirical Commitmens. Kapitel 2 in Freedman (2010), 23-43. Berkeley, G. (2005). A Treatise Concerning the Principles of Human Knowledge. Cosimo, New York. Erstausgabe 1710. Siehe http://philosophy.eserver.org/berkeley.html Berkovitz, J.; Frigg, R.; and Kronz, F. (2006). The Ergodic Hierarchy, Randomness and Hamiltonian Chaos. Studies in History and Philsophy of Modern Physics 37, 661-691. Berkson, J. (1938). Some Difficulties of Interpretation Encountered in the Application of the Chi-Square Test. J. of the American Stat. Association 33, 526-542. Berkson, J. (1942). Tests of Significance Considered as Evidence. J. of the American Stat. Association 37, 325-335. Bernardo, J.M.; Berger, J.O.; Dawid, A.P.; and Smith, A.F.M. (1999, Hrsg.) Bayesian Statistics 6. Oxford University Press, Oxford. Bernoulli, J. (1713). Ars Conjectandi. Thurnisiorum, Basel. Wiederabgedruckt in: Die Werke von Jacob Bernoulli, Band 3, Birkhaeuser, Basel (1975). Bernstein, P.L. (1996). Against the Gods. The Remarkable Story of Risk. Wiley, New York. Bertero, M. (1986). Regularization Methods for Linear Inverse Problems. In: Talenti, G. (Hrsg.) Inverse Problems. Lecture Notes in Mathematics 1225, 52-112. Springer, Berlin. Berthold, M.R.; and Hand, D.J. (Hrsg., 2003). Intelligent Data Analysis. (2. Aufl.) Springer, Berlin. Beutelspacher, A. (2008). „In Mathe war ich immer schlecht. . .“ (4. Aufl.) Springer, Berlin. Birnbaum, A. (1962). On the Foundations of Statistical Inference. J. of the American Statistical Association 57, 269-306. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 478-518). Bishop, C.M. (1995). Neural Networks for Pattern Recognition. (Seitdem ständig nachgedruckt.) Oxford University Press, Oxford. Bishop, C.M. (2006). Pattern Recognition and Machine Learning. Springer, New York. Bjørnstad, J.F. (1996). On the Generalization of the Likelihood Function and the Likelihood Principle. J. of the American Statistical Association 91, 791-806. Blackwell, D.; and Girshik, M.A. (1979). Theory of Games and Statistical Decisions. Dover, New York. Blackwell, D.; and L.J. Hodges, Jr. (1957). Design for the Control of Selection Bias. Annals of Mathematical Statistics 28, 449-460. Blasius, J. (2001). Korrespondenzanalyse. Oldenbourg, München. Blau, P.M.; and Duncan, O.D. (1967). The American Occupational Structure. Wiley, New York. Bloor, D. (1976). Knowledge and Social Imagery. Routledge & Kegan Paul, London. Bodendorf, F. (2006). Daten- und Wissensmanagement. (2. Aufl.) Springer, Berlin. Bodmer, W. (1987). Kommentar zu Durbin (1987), J. of the Royal Stat. Soc. A 150(3), 190-191. Boghossian, P.A. (1998). What the Sokal Hoax Ought to Teach Us. In: Koertge (1998), Kapitel 2, 23-31. Boole, G. (1854). An Investigation of the Laws of Thought. Macmillan, London. Boorstin, D.J. (1983). The Discoverers. Random House, New York.

Literatur

605

Boring, E.G. (1919). Mathematical vs. Scientific Significance. Psychological Bulletin 16(10), 335-338. Boring, E.G. (1953). The Nature and History of Experimental Control. The American Journal of Psychology 67(4), 573-589. Born, G. (2004). Zum Nachdenken zwingen. Die Wissenskluft wächst gefährlich. Frankfurter Allgemeine Zeitung, Nr. 143 vom 23.06.2004, Seite N2. Bortz, J. (1999). Statistik für Human- Und Sozialwissenschaftler. (5. Aufl.) Springer, Berlin. Bortz, J. (2004). Statistik für Human- Und Sozialwissenschaftler. (6. Aufl.) Springer, Berlin. Bortz, J. und Döring, N. (1995). Forschungsmethoden und Evaluation. (2. Aufl.) Springer, Berlin. Box, G.E.P. (1962). Kommentar zu Birnbaum (1962). Journal of the American Statistical Association 57, 311-312. Box, G.E.P. (1976). Science and Statistics. Journal of the American Statistical Association 71, 791-799. Box, G.E.P. (1990a). Kommentar zu Roberts (1990). Statistical Science 5, 390-391. Box, G.E.P. (1990b). Kommentar zu Shafer (1990b). Statistical Science 5, 448-449. Box, G.E.P.; and Cox, D.R. (1964). An Analysis of Transformations. J. of the Royal Statistical Society, Ser. B 26, 211-252. Box, G.E.P.; Hartley, H.O.; Kempthorne, O. und Tukey, J.W. (1968). The Future of Departments of Statistics. (Mit Diskussion). In: Watts, D.G. (Hrsg.) The Future of Statistics. Academic Press, New York, 103-137. Box, G.E.P.; Hunter, J.S.; and Hunter, W.G. (2005). Statistics for Experimenters. Design, Innovation, and Discovery. (2. Aufl.) Wiley, New York. 1. Aufl. 1978. Briand, L.; El Emam, K.; and Morasca, S. (1996). On the Application of Measurement Theory in Software Engineering. Empirical Software Engineering 1(1), 61-88. Bricmont, J.; and Sokal, A.D. (2004). Defense of a Modest Scientific Realism. In: Carrier, M.; Roggenhofer, J.; Küppers, G. und Blanchard, P. (Hrsg.) Springer, Berlin, 17-45. Bridgman, P.W. (1927). The Logic of Modern Physics. Macmillan, New York. Brillinger, D.R. (2002a). John W. Tukey: His Life and Professional Contributions. The Annals of Statistics 30(6), 1535-1575.82 Brillinger, D.R. (2002b). John Wilder Tukey (1915-2000). Notices of the AMS 49(2), 193201. Brillinger, D.R.; Fernholz, L.T.; and Morgenthaler, S. (Hrsg., 1997). The Practice of Data Analysis. Essays in Honor of John W. Tukey. Princeton University Press. Brillinger, D.R.; Jones; L.V.; and Tukey, J.W. (1978). The Role of Statistics in Weather Resources Management. Report of the Statistical Task Force to the Weather Modification Advisory Board. Government Printing Office, Washington D. C. Brillinger, D.R.; and Tukey, J.W. (1984). Spectrum Analysis in the Presence of Noise: Some Issues and Examples. In: Brillinger, D.R. (Hrsg.) The collected works of John Tukey, Bd II. Wadsworth, Monterey, CA, 1001-1141. Broer, H.W. (2004). KAM theory: The legacy of Kolmogorov’s 1954 paper. Bull. Amer. Math. Soc. 41, 507-521. Brooks, R. (1991). Intelligence Without Reason. Proceedings of 12th Int. Joint Conf. On Artificial Intelligence, Sydney, Australia, August 1991, 569-595. Brown, L.D. (2000). An Essay on Statistical Decision Theory. J. of the American Statistical Association 95, 1277-1281. Bruss, F.T. (2007). Der Wyatt-Earp-Effekt oder die betörende Macht kleiner Wahrscheinlichkeiten. Spektrum der Wissenschaft. 3, 110-112. Bourbaki, N. (1950). The Architecture of Mathematics. American Mathematical Monthly 57, 221-232. 82

Diese Ausgabe der “Annals” wurde dem Andenken J. W. Tukeys gewidmet.

606

Literatur

Bower B. (1997). Null Science. Psychology’s Statistical Status Quo Draws Fire. Science News 151, 356-357. Breiman L. (2001). Statistical Modeling: The Two Culutures. Statistical Science 16(3), 199-231. Breiman L.; Friedman, J.; Stone, C.J.; and Olshen, R.A. (1984). Classification and Regression Trees. Chapman & Hall / CRC, Boca Raton, Florida. Brennan, R.L. (2001). Generalizability Theory. Springer, New York. Bryant, P.B.; and Cordero-Braña, O.I. (2000). Model Selection Using the Minimum Description Length Principle. J. of the American Statistical Association 54(4), 257-268. Bryman, A.; and Cramer, C. (2004). Constructing Variables. Kapitel 2 in Hardy and Bryman (2004), 17-34. Bryson, B. (2005). Eine kurze Geschichte von fast allem. (10. Aufl.) Goldmann (Taschenbuch), München. Buckingham, E. (1914). On Physically Similar Systems; Illustrations of the Use of Dimensional Equations. Phys. Rev. 4, 345-376. Buckland, S.T.; Burnham, K.P.; and Augustin, N.H. (1997). Model Selection: An Integral Part of Inference. Biometrics 53, 603-618. Buehler, R.J. (1971). Measuring Information and Uncertainty. (Mit Diskussion). In: Godambe and Sprott (1971), 330-341. Buja, A. (2006). Kommentar zu Mallows (2006). Technometrics 48(3), 327-330. Büning, H. (1991). Robuste und adaptive Tests. De Gruyter, Berlin. Burgin, M. (2005). Super-Recursive Algorithms. Springer, New York: Monographs in Computer Science. Burke, D.J. (1953). Additive Scales and Statistics. Psychological Review 60, 73-75. Burnham, K.P.; and Anderson, D.R. (2002). Model Selection and Multimodel-Inference. A Practical Information-Theoretic Approach. (2. Aufl.) Springer, New York. 1. Aufl. 1998. Burnham, K.P.; and Anderson, D.R. (2004). Multimodel Inference: Understanding AIC and BIC in Model Selection. Sociological Methods Research 33, 261-304. Calude, C.S. (2002). Information and Randomness. An Algorithmic Perspective. (2. Aufl.) Texts in Theoretical Computer Science: Springer, Berlin. Campbell, N.R. (1920). Physics, The Elements. Cambridge University Press, Cambridge. Campbell, N.R. (1928). An Account of the Principles of Measurement and Calculation. Longmans, Green, London. Camilli, G. (1990). The Test of Homogeneity for 2×2 Contingency Tables: A Review of and Some Personal Opinions on the Controversy. Psychological Bulletin 108(1), 135-145. Candes, E.; and Tao, T. (2007). The Dantzig Selector: Statistical Estimation when p is Much Larger than n. (Mit Diskussion.) The Annals of Statistics 35(6), 2313-2404. Carlin, B.P.; and Lois, T.A. (2000). Bayes and Empirical Bayes Methods for Data Analysis. (2. Aufl.) Chapman & Hall/CRC, Boca Raton, FL. 1. Auflage 1996. Carnap, R. (1962). Logical Foundations of Probability. (2. Aufl.) University of Chicago Press, Chicago. Carnap, R. (1963). Probability and Inductive Logic. In: Schilpp, P.A. (Hrsg.) The Philosophy of Rudolf Carnap. Cambridge University Press, London, 71-76. Carnap, R. (1982). Einführung in die Philosophie der Naturwissenschaften. (2. Aufl.) Ullstein Materialien, Frankfurt a. M. und Berlin. Carrier, M. (1997). Die Dynamik des Experiments: Neuer Experimentalismus und Theorienwandel. In: Hubig (1997), 411-421. Carrier, M. (2006). Wissenschaftstheorie zur Einführung. Junius, Hamburg. Carrier, M. (2007). Wege der Wissenschaftstheorie im 20. Jahrhundert. Kapitel 1 in Bartels und Stöckler (2007), 15-44. Cartwright, N. (1983). How the Laws of Physics Lie. Oxford University Press, Oxford. Cartwright, N. (1999). The Dappled World. A Study of the Boundaries of Science. Cambridge University Press, Cambridge.

Literatur

607

Cartwright, N. (2007). Hunting Causes and Using Them. Approaches in Philosophy and Econcomics. Cambridge University Press, Cambridge. Casella, G. (1992). Conditional Inference from Confidence Sets. In: Ghosh und Pathak (1992), 1-12. Casella, G; and Berger, R.L. (2002). Statistical Inference. (2. Aufl.) Duxbury, Pacific Grove, CA. Chalmers, A.F. (1999). Grenzen der Wissenschaft. Springer, Berlin. Chalmers, A.F. (2006). Wege der Wissenschaft. Einführung in die Wissenschaftstheorie (6. Aufl.) Springer. Charpentier, E.; Lesne, A.; and Nikolski, N. (2007). Kolmogorov’s Heritage in Mathematics. Springer, Berlin. Chatfield, C. (1995). Model Uncertainty, Data Mining and Statistical Inference. J. of the Royal Statistical Society A 158(3), 419-466. Chatfield, C. (2002). Confessions of a Pragmatic Statistician. The Statistician 51(1), 1-20. Chatterjee, S.; and Yilmaz, M.R. (1992). Chaos, Fractals, and Statistics. Statistical Science 7(1), 49-68. Chen, C.; Härdle, W.; and Unwin, A. (Hrsg., 2008). Handbook of Data Visualization. Springer, Berlin: Springer Handbooks of Computational Statistics. Chernoff, H. (1959). Sequential Design of Experiments. Ann. Math. Stat. 29, 755-770. Wiederabgedruckt in Kotz und Johnson (1993), 345-360. Chernoff, H. (1986). Kommentar zu Efron (1986). The American Statistician 40(1), 5. Chernoff, H; and Moses, L.E. (1959). Elementary Decision Theory. Wiley, New York. Wiederabdruck 2006. Chomsky, N. (1979). Language and Responsibility. Pantheon, New York. Chow, S.L. (1997). Précis of Statistical Significance; Rationale, Validity, and Utility. (Mit Diskussion) Behavioral and Brain Sciences 21, 169-239. Chow, Y.S.; and Teicher, H. (1997). Probability Theory. Independence, Interchangeability, Martingales. Springer, New York: Springer Texts in Statistics. Church, A. (1940). On the Concept of a Random Sequence. Bulletin of the American Mathematical Society 46, 130-135. Cifarelli, D.M.; and Regazzini, E. (1996). De Finetti’s Contributions to Probability and Statistics. Statistical Science 11(4), 253-282. Claeskens, G.; and Hjort, N.L. (2003). The Focused Information Criterion. (Mit Diskussion) J. of the American Statistical Association. 98, 900-945. Claeskens, G.; and Hjort, N.L. (2008). Model Selection and Model Averaging. Cambridge University Press, Cambridge: Cambridge Series in Statistical and Probabilistic Mathematics. Cliff, N. (1992). Abstract Measurement Theory and the Revolution that Never Happened. Psychological Science 3(3), 186-190. Cochran, W.G. (1965). The Planning of Observational Studies of Human Populations. (Mit Diskussion) J. of the Royal Statistical Society, Ser. A 128, 134-155. Cochran, W.G. (1972). Observational Studies. In: Bancroft, T. A. (Hrsg.) Statistical Papers in Honor of George W. Snedecor. Iowa State University Press, Ames, IA. Cochran, W.G.; and Rubin, D.B. (1973). Controlling Bias in Observational Studies: A Review. In: Rubin (2006), 30-57. Cohen, J. (1983). The Cost of Dichotomization. Applied Psychological Measurement 7, 249-253. Cohen, J. (1988). Statistical Power Analysis for the Social Sciences. (2. Aufl.) Erlbaum, Hillsdale, NJ. 1. Aufl. 1969. Cohen, J. (1990). Things I have Learned (so far). American Psychologist 45(12), 13041312. Cohen, J. (1994). The Earth is Round (p > .05). American Psychologist 49(12), 997-1003. Wiederabgedruckt in Harlow et al. (1997).

608

Literatur

Cohen, L. J. (1989). An Introduction to the Philosophy of Induction and Probability. Clarendon Press, Oxford. Cohen, P.; Cohen, J.; Aiken, L.S.; and West, S.G. (1999). The Problem of Units and the Circumstance for POMP. Multivariate Behavioral Research 34(3), 315-346. Collingwood, R.G. (1942). The New Leviathan. Clarendon Press, Oxford. Collins, H. (1981). Stages in the Empirical Program of Relativism. Social Studies of Science. 11, 3-10. Collins, H. (1985). Changing Order. Sage, London. Cooman, G. de; and Miranda, E. (2007). Symmetry of models verus Models of symmetry. In: Harper und Wheeler (2007), 67-149. Cooper, H. und Hedges, L.V. (Hrsg., 1994). The Handbook of Research Synthesis. Russell Sage Foundation, New York. Cormen, T.H.; Leiseron, C.E.; Rivest, R.R.; and Stein, C. (2009). Introduction to Algorithms. (3. Aufl.) The MIT Press, Cambridge, MA. 1. Aufl. 1990. Cornfield, J. (1966). Sequential Trials, Sequential Analysis and the Likelihood Principle. American Statistician 20(2), 18-23. Cornfield, J.; and Tukey, J.W. (1956). Average Values of Mean Squares in Factorials. Annals of Mathematical Statistics 27, 907-949. Courant, R. und Robbins, H. (2001). Was ist Mathematik? (5. Aufl.) Springer, Berlin. 1. englische Aufl. 1941, 1. deutsche Aufl. 1962. Cover, T.M.; and Thomas, J.A. (2006). Elements of Information Theory. (2. Aufl.) Wiley, New York. 1. Aufl. 1991. Cox, D.R. (1958). Some Problems Connected with Statistical Inference. Annals of Mathematical Statistics 29, 357-372. Cox, D.R. (1977). The Role of Significance Tests. Scand. J. of Statistics 4, 49-70. Cox, D.R. (1978). Foundations of Statistical Inference: The Case for Eclectism. (Mit Diskussion) Austr. J. of Statistics 20, 43-59. Cox, D.R. (1986). Some General Aspects of the Theory of Statistics. International Statistical Review 54(2), 117-126. Cox, D.R. (1990). Role of Models in Statistical Analysis. Statistical Science 5(2), 169-174. Cox, D.R. (1995). The Relation between Theory and Application in Statistics. (Mit Diskussion) Test 4(2), 207-261. Cox, D.R. (2000). Kommentar zu Lindley (2000). The Statistician 49(3), 321-324. Cox, D.R. (2001). Kommentar zu Breiman (2001). Statistical Science 16(3), 216-218. Cox, D.R. (2006). Principles of Statistical Inference. Cambridge University Press, New York. Cox, D.R.; and Wermuth, N. (1996). Multivariate Dependencies. Models, Snalysis and Interpretation. Chapman & Hall / CRC, Boca Rato, FL. Cox, E. (2005). Fuzzy Modeling and Genetic Algorithms for Data Mining and Exploration. Morgan Kaufmann Publishers, Amsterdam. Cox, G. (1957). Statistical Frontiers. J. of the American Statistical Organization 52, 1-10. Wiederabgedruckt mit Kommentaren von Barnard, Good, Lindley, Mosteller und Sen in Kotz und Johnson (1993), xxv-xli. Cox, N.J. (1996). Diskussionsbeitrag zu Hand (1996). J. of the Royal Statistical Society, Ser. A 159, 480-481. Cox, R.T. (1946). Probability, Frequency, and Reasonable Expectation. American J. of Physics 14, 1-13. Cronbach, L.J. (1951). Coefficient Alpha and the Internal Structure of Tests. Psychometika 16(3), 297-334. Cronbach, L.J.; Gleser, G.C.; Harinder Nanda, A.N.; and Rajaratnam, N. (1972). The Dependability of Behavioral Measurements: Theory of Generalizability for Scores and Profiles. Wiley, New York. Cronbach, L.J.; Rajaratnam, N.; and Gleser, G.C. (1963). Theory of Generalizability: a Liberalization of Reliability Theory. Brit. J. Stat. Psych. 16, 137-163.

Literatur

609

Dahms, H.-J. (1994). Positivismusstreit: Die Auseinandersetzungen der Frankfurter Schule mit dem logischen Positivismus, dem amerikanischen Pragmatismus und dem kritischen Rationalismus. (3. Aufl.) Suhrkamp, Frankfurt a. M. Dalal, S.R.; Fowlkes, E.B.; and Hoadley, B. (1989). Risk Analysis of the Space Shuttle: Pre-Challenger Prediction of Failure. J. of the American Statistical Association 84, 945-957. Dale, A.I. (1999). A History of Inverse Probability. (2. Aufl.) Springer, New York. Dantzig, D. van (1957). Statisitcal Priesthood (Savage on Personal Probabilities). Statistica Neerlandica 2, 1-16. Dar, R.; Serlin, R.C.; and Omer, H. (1994). Misuse of Statistical Tests in Three Decades of Psychotherapy Research. J. of Consulting and Clinical Psychology 62(1), 75-82. Darnbeck, H. (2009). Erderwärmung. Einfach-Modell soll kurzfristige Klimaprognose verbessern Spiegel Online, 5. 9. 2009. Siehe www.spiegel.de/wissenschaft/natur/0,1518,646688,00.html National Research Council: David, E.E., Jr. et al. (1984). Renewing U.S. Mathematics: Critical Resources for the Future. National Academy Press, Washington, D.C. Siehe auch Science 224(4654), 1189. Bekannt als The David Report. Davies, P.L. (1995). Data Features. Statistica Neerlandica 49(2), 185-245. Davies, P.L. (2008). Approximating Data. (Mit Diskussion) J. of the Korean Statistical Society 37, 191-240. Davies, P.L.; Kovac, A.; and Meise, M. (2009). Conficence Regions, Regularization and NonParametric Regression. Preprint. Siehe www.maths.bris.ac.uk/∼maxak/tr13-07.pdf. Ohne den S. 181 zitierten Satz erschienen in: Non-Parametric Regression, Conficence Regions and Regularization. Annals of Statistics 37B, 2597-2625. Davison, A.C.; and Hinkley, D.V. (1997). Bootstrap Methods and their Application. Cambridge University Press, Cambridge. Dawid, A.P. (1979). Conditional Independence in Statistical Theory. (Mit Diskussion) J. Royal Stat. Soc., Vol. B 41, 1-31. Dawid, A.P. (1984). Present Position and Potential Developments: Some Personal Views, Statistical Theory, the Prequential Approach. (Mit Diskussion) J. Royal Stat. Soc., Vol. A 147, 278-292. Dawid, A.P. (1990). Kommentar zu Bartlett (1990). J. of the Royal Statistical Society, Ser. A 153(3), 339-340. Dawid, A.P. (1991). Fisherian Inference in Likelihood and Prequential Frames of Reference. (Mit Diskussion) J. Royal Stat. Soc., Vol. B 53, 79-109. Dawid, A.P. (1992). Prequential Analysis, Stochastic Complexity and Bayesian Inference. In: Bernardo, J.M.; Berger, J.; Dawid, A.P.; and Smith, A.F.M. (Hrsg.) Oxford University Press, Oxford: Bayesian Statistics 4, 109-125. Dawid, A.P. (2000a). Causal Inference Without Counterfactuals. Journal of the American Statistical Association 95, 407-448. Dawid, A.P. (2000b). Kommentar zu Lindley (2000). The Statistician 49(3), 325-326. Dawid, A.P. (2003). Causal Inference using Influence Diagrams: the Problem of Partial Compliance. Kapitel 2 in Green et al. (2003), 45-65. Dawid, A.P.; Stone, M.; and Zidek, J.V. (1973). Marginalization Paradoxes in Bayesian and Structural Inference. (Mit Diskussion) J. Royal Stat. Soc., Vol. B 35, 189-233. Dawid, A.P.; and Vovk, V.G. (1999). Prequential Probability: Principles and Properties. Bernoulli 5(1), 125-162. Debs, T.A.; and Redhead, M.L.G. (2007). Objectivity, Invariance, and Convention: Symmetry in Physical Science. Harvard University Press. Deck, T. (2006). Der Itô-Kalkül: Einführung und Anwendungen. Springer, Berlin. DeCode genetics. Homepage: http://www.decode.com/ Deming, W.E. (1940). Discussion of Professor Hotelling’s Paper. Kommentar zu Hotelling (1940). Ann. of Math. Statistis 11, 470-471.

610

Literatur

Dempster, A.P. (1968). A Generalization of Bayesian Inference. J. of the Royal Statistical Society, Ser. B 30(2), 205-232. Wiederabgedruckt als Kapitel 4 in Yager et al. (2008), 73-104. Dempster, A.P. (1983). Purpose and Limitations of Data Analysis. In: Box, E.E. P.; Leonard, T.; and Wu, C.-F. (Hrsg.) Scientific Inference, Data Analysis, and Robustness. Academic Press, New York. Dempster, A.P. (1990). Causality and Statistics. J. of Statistical Planning and Inference 25, 261-278. Dempster, A.P. (1998). Logicist Statistics I. Models and Modeling. Statistical Science 13, 248-276. Dempster, A.P. (2008). Logicist Statistics II. Inference. Kapitel 30 in Yager et al. (2008), 761-785. Dempster, A.P.; Laird. N.M.; and Rubin, D.B. (1977). Maximum-Likelihood from Incomplete Data via the EM Algorithm. Journal of the Royal Statistical Society, Ser. B 39(1), 1-38. Diaconis, P. (1998). A Place for Philosophy? The Rise of Modeling in Statistical Science. Quarterly of Applied Mathematics 56(4), 797-806. Diaconis, P. (2006). Theories of Data Analysis: From Magical Thinking Through Classical Statistics. Kapitel 1 (S. 1-36) in: Hoaglin, D.C.; Mosteller, F.; and Tukey, J.W. (Hrsg., 2006). Exploring Data Tables, Trends, and Shapes. (2. Aufl.) Wiley, New York. 1. Aufl. 1985. Diaconis, P; and Mosteller, F. (1989). Methods of Studying Coincidences. J of the American Statistical Association 84, 853-861. Dickey, J. (1973). Kommentar zu Dawid et al. (1973). J. of the Royal Stat. Soc., Ser. B 35, 219-221. Dilthey, W. (1910). Der Aufbau der geschichtlichen Welt in den Geisteswissenschaften. Zitiert nach: Lessing, H. U. (Hrsg.) Philosophische Hermeneutik. Alber, Freiburg. Dingle, H. (1950). A Theory of Measurement. British J. Phil. Science 1, 5-26. Donoho, D.L.; Johnstone, I.M.; Jeffrey, C.H.; and Stern, A.S. (1992). Maximum Entropy and the Nearly Black Object. J. R. Stat. Soc., Ser. B 54(1), 41-81. Donoho, D.L. (2000). High-dimensional Data Analysis: the Curses and Blessings of Dimensionality. Preprint: Dept. of Statistics, Stanford University. Siehe auch wwwstat.stanford.edu/donoho/lectures.html. Donovan, A.; Laudan, A.; and Laudan, L. (1992). (Hrsg.) Scrutinizing Science: Empirical Studies of Scientific Change. Johns Hopkins University Press, Baltimore. Doob, H.L. (1953). Stochastic Processes. Wiley, New York: Series in Probability and Mathematical Statistics. Dowe, D.L.; Gardner, S.; and Oppy, G. (2007). Bayes not Bust! Why Simplicity is No Problem for Bayesians. Brit. J. Phil. Sci. 58(4), 709-754. Dowe, D.L.; and Wallace, C.S. (1997). Resolving the Neyman-Scott Problem by Minimum Message Length. Computing Science and Statistics 28, 614-618. (Proceedings: “28. Symposium on the Interface”, Sydney (1996).) Draper, D.; Hodges, J.S.; Leamer, E.E.; Morris, C.N.; and Rubin, D.B. (1987). A Research Agenda for Assessment and Propagation of model uncertainty. Report N-2683-RC. Rand Corporation, Santa Monica, CA. Draper, D.; Hodges, J.S.; Mallows, C.L.; and Pregibon, D. (1993). Exchangeability and Data Analysis. J. Royal Stat. Soc. A 56(1), 9-37. Dubois, D.; and Prade, H. (1986). A Set-Theoretic View of Belief Functions: Logical Operations and Approximations by Fuzzy Sets. International J. of General Systems 12, 193-226. Wiederabgedruckt als Kapitel 14 in Yager et al. (2008), 375-410. Duhem, P. (1998). Ziel und Struktur der physikalischen Theorien. Meiner, Hamburg. 1. französische Aufl. 1904. Duncan, O.D. (1984). Notes on Social Measurement. Historical and Critical. Russell Sage Foundation, New York.

Literatur

611

Durant, W. und Durant, A. (1985). Kulturgeschichte der Menschheit. (18 Bde.) Naumann & Göbel, Köln. Durbin, J. (1987). Statistics and Statistical Science. (Mit Diskussion) J. of the Royal Stat. Soc. A 150(3), 177-191. Dyson, F. (2008). John A. Wheeler, Physicist Who Coined the Term ‘Black Hole,’ Is Dead at 96. Nachruf in der New York Times, 14. April 2008. Earman, J. (1992). Bayes or Bust? A Critical Examination of Bayesian Confirmation Theory. The MIT Press, Cambridge, Mass. Earman, J. (2004). Laws, Symmetry, and Symmetry breaking; Invariance, Conservation Principles, and Objectivity. Philosophy of Science 71, 1227-1241. Edgington, E.S. (1995). Randomization Tests. (3. Aufl.) Reihe: Statistics, Textbooks and Monographs 147. Marcel Dekker, New York. Edwards, A.W.F. (1972). Likelihood. Johns Hopkins University Press, Baltimore, MD. Edwards, A.W.F. (1992). Likelihood. (2. Aufl.) Johns Hopkins University Press, Baltimore, MD. 1. Aufl. 1972. Edwards, W.; Lindman, H.; and Savage, L.J. (1963). Bayesian Statistical Inference for Psychological Research. Psychological Review 70, 193-242. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 531-578). Eerola, M. (1994). Probabilistic Causality in Longitudinal Studies. Springer, New York: Lecture Notes in Statistics, No. 92. Efron, B. (1978). Controversies in the Foundations of Statistics. American Math. Monthly 85(4), 232-246. Efron, B. (1979). Bootstrap Methods: Another Look at the Jackknife. Annals of Statistics 7, 1-26. Wiederabgedruckt in Kotz und Johnson (1993: Bd. II, 569-294). Efron, B. (1986). Why isn’t Everyone a Bayesian? The American Statistician 40(1), 1-5. Efron, B. (1990). Kommentar zu Shafer (1990b). Statistical Science 5(4), 450. Efron, B. (1993). Introduction to James und Stein (1961). In: Kotz und Johnson (1993: Bd. I, 437-442). Efron, B. (1998). R. A. Fisher in the 21st Century. (Mit Diskussion) Statistical Science 13(2), 95-122. Efron, B. (2001). Statistics is the Science of Information Gathering, Especially when the Information arrives in Little Pieces instead of Big Ones. Interview with Bradley Efron. Business Science Center, Irwin/McGraw-Hill Student Learning Aids. www.mhhe.com/business/opsci/bstat/efron.mhtml Efron, B. (2003). Robbins, Empirical Bayes and Microarrays. Annals of Statistics 31, 366378. Efron, B. (2005). Modern Science and the Bayesian-Frequentist Controversy. Technical Report No. 2005-19B/233. Dept. of Statistics, Stanford University. Siehe www-stat.stanford.edu/∼ckirby/brad/.../2005NEWModernScience.pdf (Aufruf am 16. 09. 2009.) Efron, B. (2006). Kommentar zu Mallows (2006). Technometrics 48(3), 330-332. Efron, B.; and Gous, A. (2001). Scales of Evidence for Model Selection: Fisher versus Jeffreys. In: Lahiri, P. (Hrsg.) IMS Lecture Notes 38 über Model Selection, 210-256. Efron, B.; and Morris, C. (1977). Stein’s Paradox in Statistics. Scientific American 236(5), 119-127. Efron, B.; and Tibshirani, R.J. (1991). Statistical Analysis in the Computer Age. Science 253, 390-395. Efron, B.; and Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall. Ehrenberg, A.S.C.; and Bound, J.A. (1993). Kommentar zu Draper et al. (1993). J. Royal Stat. Soc. A 56(1), 30-31. Einstein, A. (1952). Brief an M. Solovine vom 7. Mai. Einstein Archive, Database Record 21-283.00. Siehe auch von Baeyer (2005), 136-138.

612

Literatur

Einstein, A. (1953). Brief an J. S. Switzer vom 23. April. Einstein Archive, Database Record 61-381.00. Einstein, A. (1993). Mein Weltbild. (25. Aufl.) Ullstein, Frankfurt a. M. 1. Aufl. 1921. Ellis, S.P. (1993). Kommentar zu Draper et al. (1993). J. Royal Stat. Soc. A 56(1), 33. Elston, D.A.; and Glasbey, C.A. (1990). Kommentar zu Bartlett (1990). J. of the Royal Statistical Society, Ser. A 153(3), 340-341. Estes, W.K. (1975). Some Targets for Mathematical Psychology. J. of Mathematical Psychology 12, 263-282. Evett, I.W. (2000). Kommentar zu Lindley (2000). The Statistician 49(3), 332-333. Ewald, W. (2005). From Kant to Hilbert. A Sourcebook on the Foundations of Mathematics (Bd. 2). Oxford Univ. Press, Oxford. Fahrmeir, L; Hamerle, A. und Tutz, G. (1996). Multivariate statistische Verfahren. (2. Aufl.) De Gruyter, Berlin. Falk, R. (1998). Replication - a Step in the Right Direction. Kommentar zu Sohn (1998). Theory & Psychology 8(3), 313-321. Falmagne, J.-C. (1985). Elements of Psychophysical Theory. Oxford University Press, Oxford. Fayyad, U.; Piatetsky-Shapiro, G.; and Smyth, P. (1996). From Data Mining to Knowledge Discovery in Databases. Artificial Intelligence Magazine, Herbstausgabe, 37-54. Feder, M. (1986). Maximum Entropy as a Special Case of the Minimum Description Length Criterion. IEEE Transactions on Information Theory 32(6), 847-849. Feigl, H. (1970a). The “Orthodox” View of Theories: Remarks in Defense as well as Critique. In: Radner, M.; and Winokur, S. (Hrsg.) Minnesota Studies in the Philosophy of Science: Analyses of Theories and Methods of Physics and Psychology, Vol. IV, 3-16. Feigl, H. (1970b). Beyond Peaceful Coexistence. In: Stuewer, R.H. (Hrsg.) Minnesota Studies in the Philosophy of Science: Historical and Philosophical Perspectives of Science, Vol. V, 3-11. Feiner, A. (2005). Einführung in das Induktionsproblem. Humes induktive Skepsis und moderne Antworten. Der Andere Verlag, Lübeck und Marburg. Feller, W. (1968). An Introduction to Probability Theory and its Applications. Band 1. (3. Aufl.) Wiley, New York. 1. Aufl. 1950. Feller, W. (1971). An Introduction to Probability Theory and its Applications. Band 2. (2. Aufl.) Wiley, New York. 1. Aufl. 1966. Ferguson, A.; Myers, C.S.; Bartlett, R.J.; Banister, H.; Bartlett, F.C.; Brown, W.; Campbell, N.R.; Craik, K.J.W.; Drever, J.; Guild, J.; Houstoun, R.A.; Irwin, J.O.; Kaye, G.W.C.; Philpott, S.J.F.; Richardson, L.F.; Shaxby, J.H.; Smith, T.; Thouless, R.H.; and Tucker, W.S. (1940). Quantitative Estimates of Sensory Events: Final Report of the Committee appointed to consider and report upon the Possibility of Quantitative Estimates of Sensory Events. Advancement of Science 1, 331-349. Ferguson, T.S. (1967). Mathematical Statistics: A Decision Theoretic Approach. Academic Press, New York. Fetzer, J.H. (Hrsg., 2001). The Philosophy of Carl G. Hempel. Studies in Science, Explanation, and Rationality. Oxford University Press, New York. Feyerabend, P. (1978). Science in a Free Society. New Left Books, London. Feyerabend, P. (2007). Wider den Methodenzwang. (10. Aufl.) Suhrkamp, Frankfurt a. M. 1. Aufl. 1970. Feynman, R.P. (2003). Sechs physikalische Fingerübungen. Piper, München. Feynman, R.P. (2005a). Absolut vernünftige Abweichungen vom ausgetretenen Pfad. Briefe eines Lebens. Piper, München. Feynman, R.P. (2005b). Sie belieben wohl zu scherzen, Mr. Feynman! Abenteuer eines neugierigen Physikers. Piper, München. Feynman, R.P. (2007). Vom Wesen physikalischer Gesetze (8. Aufl.) Piper.

Literatur

613

Fidler, F.; Thomason, N.; Cumming, G.; Finch, S.; and Leeman, J. (2004). Editors Can Lead Researchers to Confidence Intervals, but Can’t Make Them Think. Statistical Reform Lessons From Medicine. Psychological Science 15(2), 119-126. Fienberg, S.E. (1985). Comments on and Reactions to Freedman, Statistics and the Scientific Method. In: Mason und Fienberg (1985), 371-384. Fine, T.L. (1973). Theories of Probability - an Examination of Foundations. Academic Press, New York. Finetti, B. de (1937). La Prévision: ses Lois Logiques, ses Sources Sujectives. Ann. Inst. H. Poincaré 7, 1-68. Englische Übersetzung durch H. E. Kyburg Jr. wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 134-174). Finetti, B. de (1969). Un mathematico e l’economia. Giuffrè, Mailand. Finetti, B. de (1974a). Theory of Probability. (2 Bände.) Wiley, London. Englische Übersetzung seines 1970 publizierten italienischen Werks. Finetti, B. de (1974b). Bayesianism: Its Unifying Role for Both the Foundations and Applications of Statistics. International Statistical Review 42, 117-130. Finetti, B. de (1980). Probability: Beware of Falsifications! In: Kyburg, H.E. Jr.; and Smokler, H.E. (Hrsg.) Studies in Subjective Probability (2. Aufl.) Krieger, New York, 193-224. Zuerst in italienischer Sprache erschienen in Scientia (1976), Jahrgang LLX, Vol. 111, Hefte 5-8. Finetti, B. de (1995). The Logic of Probability. Philosophical Studies 77, 181-190. Finetti, B. de (2006). L’invenzione della verità. Cortina, Mailand. Zuvor unveröffentlichtes Manuskript aus dem Jahr 1934. Fischer, G. (2005). Lineare Algebra. Eine Einführung für Studienanfänger. (15. Aufl.) vieweg, Braunschweig. Fischer, G.H. (1974). Einführung in die Theorie psychologischer Tests. Grundlagen und Anwendungen. Huber, Bern. Fischer, K. (1983). Rationale Heuristik. Die Funktion der Kritik im „Context of Discovery“. Zeitschrift für allgemeine Wissenschaftstheorie XIV(2), 234-272. Fischer, K. (1995). Braucht die Wissenschaft eine Theorie? Journal for General Philosophy of Science 26, 227-257. Fischer, K. (2004). Spielräume wissenschaftlichen Handelns - Die Grauzone der Wissenschaftspraxis. In: Freiheit und Verantwortung in Forschung, Lehre und Studium. Die ethische Dimension der Wissenschaft. 34. Bildungspolitischen Forum, 27. Februar 2004 in Berlin, 41-110. Fisher, R.A. (1922). On the Mathematical Foundations of Theoratical Statistics. Philosophical Transactions of the Royal Society of London, Ser. A 222, 309-368. Zitiert nach Kotz und Johnson (1993: Bd. I, 11-44). Fisher, R.A. (1925). Theory of Statistical Estimation. Proceedings of the Cambridge Philos. Soc. 22, 200-225. Fisher, R.A. (1929). The Statistical Method in Psychical Research. Proceedings of the Society for Psychical Research 39, 189-192. Fisher, R.A. (1930). Inverse Probability. Proceedings of the Cambridge Philos. Soc. 26, 528-535. Fisher, R.A. (1935). The Logic of Inductive Inference. Journal of the Royal Statistical Society 98, 39-54. Fisher, R.A. (1936a). Tests of Significance Applied to Haldon’s Data on Partial Sex Linkage. Annaly of Eugenics 7, 87-104. Fisher, R.A. (1936b). “The Co-efficient of Racial Likeness” and the Future of Craniometry. J. of the Royal Anthropological Institute 66, 57-63. Fisher, R.A. (1955). Statistical Methods and Scientific Induction. J. of the Royal Stat. Soc., Ser. B 17(1), 69-78. Fisher, R.A. (1958). Cigarettes, Cancer and Statistics. Centennial Review 2, 151-166. Fisher, R.A. (1959). Smoking: the Cancer Controversy. Oliver and Boyd, Edinburgh.

614

Literatur

Fisher, R.A. (1966). The Design of Experiments. (8. Aufl.) Hafner Publishing Company, New York. 1. Aufl. 1935, 4. Aufl. 1947. Fisher, R.A. (1970). Statistical Methods for Research Workers. (14. Aufl.) Macmillan, New York. 1. Aufl. 1925. Fisher, R.A. (1973). Statistical Methods and Scientific Inference. (3. Aufl.) Hafner Publishing Company, New York. 1. Aufl. 1956, 2. Aufl. 1959. Fisher Box, J. (1978). R. A. Fisher: The Life of a Scientist. Wiley, New York. Fitelson, B. (2005). Inductive Logic. In: Pfeifer, J.; and Sarkar, S. (Hrsg.) The Philosophy of Science. An Encyclopedia. Routledge, Oxford. Foerster, H. von (2003). Understanding Systems: Conversations on Epistemology and Ethics. Springer: IFSR International Series on Systems Science and Engineering, Vol. 17. Foster, D.P.; and George, E.I. (1994). The Risk Inflation Criterion for Multiple Regression. The Annals of Statistics 22(4), 1947-1975. Fraassen, B. van (1980). The scientific Image. Oxford University Press, Oxford. Fraassen, B. van (1990). Laws and Symmetry. Oxford University Press, Oxford. Frankfurter Allgemeine Zeitung (2009). Artikelserie zur Volkswirtschaftslehre: Plickert, P. (20.1.) Gefangen in der Formelwelt; Hüther, M. (21.3.) Ordnungsökonomik fasziniert noch heute; Ritschl, A. (21.3.) Ordnungsökonomik war ein Sonderweg; Bachmann, R. und Uhlig, H. (29.3.) Die Welt ist nicht schwarz oder weiß; Nienhaus, L. und Siedenbiedel, C. (5.4.) Die Ökonomen in der Sinnkrise; Braunberger, G. (7.4.) In Krisen gehen auch Doktrinen unter; Vanberg, V. (13.4.) Die Ökonomik ist keine zweite Physik; 83 Professoren der Volkswirtschaftslehre (Aufruf vom 5.5.) Rettet die Wirtschaftspolitik an den Universitäten! ; Gehrig, T.P. (11.5.) Schadet es, wenn Ökonomen rechnen können? ; Plickert, P. (13.5.) Ökonomik in der Vertrauenskrise; Aus dem Moore, N. und Schmidt, C.M. (22.5.) Quo vadis, Ökonomik? ; Mussler, W. (16.6.) Die Lehren der Anderen; Sinn, H.-W. (22.6.) Der richtige Dreiklang der VWL; Nienhaus, L. (24.8.) Dreißig nutzlose Jahre; Interview mit Robert Shiller (30.8.) Die nächsten fünf Jahre werden enttäuschend. F.A.Z. Electronic Media GmbH, Frankfurt a. M. Fraser, D.A.S. (1961). The Fiducial Method and Invariance. Biometrika 48(3), 261-280. Fraser, D.A.S. (1968). The Structure of Inference. Wiley, New York. Fraser, D.A.S. (1976). Probability and Statistics: Theory and Applications. Duxberry, North Scituate. Fraser, D.A.S. (1996). Some Remarks on Pivotal Models and the Fiducial Argument in Relation to Structural Models. International Statistical Review 64, 231-235. Fraser, D.A.S. (2004). Ancillaries and Conditional Inference. (Mit Diskussion) Statistical Science 19, 332-369. Freedman, D.A. (1981). Some Pitfalls in Large Econometic Models. J. of Business 54, 479-500. Freedman, D.A. (1985a). Statistics and the Scientific Method. Mason und Fienberg (1985), 343-366. Freedman, D.A. (1985b). A Rejoinder of Fienberg’s Comments. Mason und Fienberg (1985), 385-390. Freedman, D.A. (1987a). As Others See Us: A Case Study in Path Analysis. J. of Educational Statistics 12(2), 101-128. Freedman, D.A. (1987b). A Rejoinder on Models, Metaphors, and Fables. J. of Educational Statistics 12(2), 206-223. Freedman, D.A. (1991). Statistical Models and Shoe Leather. Sociological Methodology 21, 291-313. Freedman, D.A. (1997). From Association to Causation via Regression. Adv. Appl. Math. 18, 59-110. Freedman, D.A. (2005). Statistical Models: Theory and Practice. Cambridge University Press, New York.

Literatur

615

Freedman, D.A. (2006). Statistical Models for Causation. What Inferential Leverage do they Provide? Evaluation Review 30(6), 691-713. Freedman, D.A. (2008a). Randomization does not Justify Logistic Regression. Statistical Science 23 (2008), 237-249. Freedman, D.A. (2008b). On Regression Adjustments to Experimental Data. Advances in Applied Mathematics 40, 180-193. Freedman, D.A. (2010). Statistical Models and Causal Inference. A Dialogue with the Social Sciences. Posthum herausgegeben und mit einer Einleitung (S. i-xvi) versehen von Collier, D.; Sekhon, J.S.; and Stark, P.B. Cambridge University Press, New York. Friedman, J.H. (1997). Data Mining and Statistics: What’s the Connection? Keynote Address at the 29th Symposium on the Interface of Computing Science and Statistics. Siehe http://amscampus.cib.unibo.it/archive/00001163/ und http://wwwstat.stanford.edu/∼jhf/ Friedman, J.H. (2001). The Role of Statistics in the Data Revolution? International Statistical Review 69(1), 5-10. Friedman, M. (1953). Essays in Positive Economics. University of Chicago Press, Chicago. Fröhlich, G. (2003). Anonyme Kritik: Peer Review auf dem Prüfstand der Wissenschaftsforschung. medizin - bibliothek - information 3(2), 33-39. Gács, P.; Tromp, J.T.; and Vitányi, P.M.B. (2001). Algorithmic Statistics. IEEE Transactions on Information Theory 47(6), 2443-2463. Gaito, J. (1980). Measurement Scales and Statistics: Resurgence of an Old Misconception. Psychological Bulletin 87(3), 564-567. Galavotti, M.C. (Hrsg., 2009). Bruno de Finetti. Radical Probabilist. College Publications, London: Texts in Philosophy 8. Galilei, G. (1612). Brief an Federico Cesi in Rom. In: Favaro, A. (Hrsg.) Galileo Galilei: Le Opere, Edizione nazionale, Florenz (1890-1909). Siehe http://www.liberliber.it/ biblioteca/g/galilei/, Dokument „Le opere. Volume XI. Carteggio 1611-1613“, 285. Galilei, G. (1623). Il Saggiatore (Goldwäger). In: Favaro, A. (Hrsg.) Galileo Galilei: Le Opere, Edizione nazionale, Florenz (1890-1909). Siehe http:// www.liberliber.it/ biblioteca/g/galilei/, Dokument „Saggiatore (Il)“, 16-17. Galilei, G. (1632). Dialog über die beiden hauptsächlichsten Weltsysteme, das ptolemäische und das kopernikanische. (Zweiter Tag.) In: Mudry, A. (Hrsg.) Galileo Galilei: Schriften, Briefe, Dokumente, Band I, Verlag C. H. Beck, München (1987), 204ff. Galton, F. (1889). Natural Inheritance. Macmillan, London. Gangl, M. und DiPrete, T.A. (2004). Kausalanalyse durch Matchingverfahren. Discussion Papers of DIW Berlin No. 401. Siehe www.diw.de/documents/publikationen/73/41226/dp401.pdf Gardner, M. (1996). The Night is Large; Collected Essays, 1938-1995. St. Martin’s Griffin, New York. Gardner, M. (1996a). The Popperism of Sir Karl. Kapitel 41 in Gardner (1996), 488-490. Gardner, M. (1996b). Why I am not a Pragmatist. Kapitel 39 in Gardner (1996), 464-480. Gardner, M. (2001). A Skeptical Look at Karl Popper. Skeptical Inquirer, 25(4), 13-14, 72. Gardner P.L. (1975). Scales and Statistics. Review of Educational Research 45(1), 43-57. Gasarch, W.; and Smith, C.H. (1997). A Survey of Inductive Inference with an Emphasis on Queries. In: Sorbi, A. (Hrsg.) Complexity, Logic, and Recursion Theory. Dekker, New York: Lecture Notes in Pure and Appl. Math. 187, 225-260. Geisser, S.; Hodges, J.S.; and Press, J. (Hrsg., 1990). Bayesian and Likelihood Methods in Statistics and Econometrics. Essays in Honor of George A. Barnard. North-Holland Publishing Company, Amsterdam: Studies in Bayesian Econometrics and Statistics, Bd. 7. Gell-Mann, M. (1999). Pulling Diamonds from the Clay. In: Denning, P.J. (Hrsg.) Talking Back to the Machine: Computers and Human Aspiration. Springer, New York, 155-165.

616

Literatur

Gelman, A; Carlin, J.B.; Stern, H.S.; and Rubin, D.B. (2004). Bayesian Data Analysis. CRC Press, Boca Raton, FL. Gelman, A; and Hill, J. (2007). Applied Regression and Multilevel/Hierarchical Models. Cambridge University Press, Cambridge. Gergen, K.J. (1988). Feminist Critique of Science and the Challenge of Social Epistemology. In: McCanney Gergen, M. (Hrsg.) Feminist Thought and the Structure of Knowledge. New York Univ. Press, New York, 27-48. Gerhardt, M. und Schuster, H. (1995). Das digitale Universum. Zelluläre Automaten als Modelle der Natur. Vieweg Verlag, Braunschweig. Reihe „Facetten“. gesellschaft für analytische philosophie (2009). Website, Aufruf am 13. 8. 2009. Siehe www.gap-im-netz.de/ Gesellschaft für Wissenschaftsforschung e. V. (2009). Website, Aufruf am 13. 8. 2009. Siehe www.wissenschaftsforschung.de/ Ghosh, J.K. (Hrsg., 1988). Statistical Information and Likelihood. A Collection of Critical Essays by Dr. D. Basu. Springer, New York: Lecture Notes in Statistics. Ghosh, M.; and Pathak, P.K. (Hrsg., 1992). Current Issues in Statistical Inference: Essays in Honor of D. Basu. Institute of Mathematical Statistics: Lecture Notes - Monograph Series. Gigerenzer, G. (1993). From Metaphysics to Psychophysics and Statistics. Behavioral and Brain Sciences 16(1), 139-140. Gigerenzer, G. (2004). Mindless Statistics. The Journal of Socio-Economics 33, 587-606. Gigerenzer, G.; Gaissmaier, W.; Kurz-Milcke, E.; Schwartz, L.M. und Woloshin, S. (2008). Helping Doctors and Patients make Sense of Health Statistics. Psychological Science in the Public Interest 8(2), 53-96. Gigerenzer, G.; Krauss, S. und Vitouch, O. (2004). The Null Ritual. What You Always Wanted to Know About Significance Testing but Were Afraid to Ask. Kapitel 21 in Kaplan (2004), 391-408. Gillies, D. (1993). Philosophy of Science in the Twentieth Century. Blackwell, Oxford. Gillies, D. (2000). Philosophical Theories of Probability. Routledge, London. Gillies, D. (2009). On Bruno de Finetti’s L’invenzione de la verità. In: Galavotti (2009), 249-257. Gilmour, S. G. (1995). Kommentar zu Chatfield (1995). J. of the Royal Statistical Society A 158(3), 450. Glass, G.V. (1976). Primary, Secondary and Meta-Analysis of Research. Educational Researcher 5, 3–8. Gley, E. (1916). Les Allemands et la Science. In: Pettit, G. et Leudet, M. (Hrsg.) F. Alcan, Paris, 181. Glymour, C. (1983). Social Science and Social Physics. Behavioral Science 28(2), 126-134. Glymour, C. (1998). What Went Wrong? Reflections on Science by Observation and the Bell Curve. Phil. of Science 65(1, 1-32. Glymour, C.; Madigan, D.; Pregibon, D.; and Smyth, P. (1996). Statistical Inference and Data Mining. Communications of the ACM 39(11), 35-41. Glymour, C.; Madigan, D.; Pregibon, D.; and Smyth, P. (1997). Statistical Lessons for Data Mining. Data Mining and Knowledge Discovery 1, 11-28. Glymour, C.; Scheines, R.; Spirtes, P.; and Kelly, K. (1987). Discovering Causal Structure. Artificial Intelligence, Philosophy of Science, and Statistical Modeling. Academic Press, San Diego. Glynn, R.J.; Laird, N.M.; and Rubin, D.B. (1986). Selection Modeling versus Mixture Modeling with Noningnorable Nonresponse. (Mit Diskussion). In: Wainer (1986), 115148. Godambe, V.P.; and Sprott, D.A. (Hrsg., 1971). Foundations of Statistical Inference. Proceedings of the Symposium on the Foundations of Statistical Inference held at the Department of Statistics, University of Waterloo, Ontario, Canada, from March 31 to April 9, 1970. Holt, Rinehart and Winston of Canada, Limited; Toronto, Montreal.

Literatur

617

Godfrey-Smith, P. (2003). Theory and Reality. The University of Chicago Press, Chicago and London: Science and its Conceptual Foundations. Good, I.J. (1950). Probability and the Weighing of Evidence. Charles Griffin, London. Good, I.J. (1967). The White Shoe is a Red Herring. Brit. J. Phil. Sci. 17, 322. Good, I.J. (1971a). Kommentar zu Rubin (1971) in Godambe and Sprott (1971), 375. Good, I.J. (1971b). Kommentar zu Villegas (1971) in Godambe and Sprott (1971), 415. Good, I.J. (1976). The Bayesian Influence, or how to Sweep Subjectivism under the Carpet. In: Harper and Hooker (1976), 125-174. Good, I.J. (1983a). Good Thinking. The Foundations of Probability and Statistics. University of Minnesota Press, Mineapolis, MN. Good, I.J. (1983b). The Philosophy of Explanatory Data Analysis. Philosophy of science 50, 283-295. Good, I.J. (1988). The Interface between Statistics and Philosophy of Science. (Mit Diskussion) Statistical science 3(4), 386-412. Good, P.I. (2000). Permutation Tests. (2. Aufl.) Springer. Good, P.I. (2001). Resampling Methods: a Practical Guide to Data Analysis. (2. Aufl.) Birkhauser. Goodman, N. (1990). Fact, Fiction, and Forecast. (4. Aufl.) Harvard Univ. Press, Cambridge, MA. Erstausgabe 1955. Goodman, S.N. (1992). A Comment on Replication, P-values, and Evidence. Statistics in Medicine 11, 875-879. Goodman, S.N. (1993). P-Values, Hypothesis Tests, and Likelihood: Implications for Epidemiology of a Neglected Historical Debate. American J. of Epidemiology 137(5), 485-495. Goodman, S.N. (1999a). Toward Evidence-Based Medical Statistics. 1: The p Value Fallacy. Annals Intern Med. 130, 995-1004. Goodman, S.N. (1999b). Toward Evidence-Based Medical Statistics. 2: The Bayes Factor. Annals Intern Med. 130, 1005-1013. Goodman, S.N.; and Royall, R. (1988). Evidence and Scientific Research. American J. of Public Health 78(12), 1568-1574. Gorski, P.S. (2004). The Poverty of Deductivism: A Constructive Realist Model of Sociological Explanation. Sociological Methodology 34, 1-34. Gosset, W. S.; Pseudonym “Student” (1908). The Probable Error of a Mean. Biometrika 6(1), 1-25. Wiederabgedruckt in Kotz und Johnson (1993: Bd. II, 33-58). Gosset, W.S.; Pseudonym “Student” (1931). The Lanarkshire Milk Experiment. Biometrika 23, 398-406. Gøtzsche, P.C.; Kassirer, J.P.; Woolley, K.L., Wager, E., Jacobs, A.; Gertel, A.; and Hamilton, C. (2009). What Should Be Done To Tackle Ghostwriting in the Medical Literature?. PLoS Med 6(2): e1000023. doi:10.1371/journal.pmed.1000023 Grace, J.B. (2006). Structural Equation Modeling and Natural Systems. Cambridge University Press, Cambridge. Green, P.J.; Hjort, N.L.; and Richardson, S. (2003). Highly Structured Stochastic Systems. Oxford Univ. Press, Oxford: Oxford Statistical Science Series 27. Greenacre, M.J. (1984). Theory and Applications of Correspondence Analysis. Academic Press, London. Greenland, S. (1990). Randomization, Statistics, and Causal Inference. Epidemiology 1(6), 421-429. Greenland, S. (1998a). Probability Logic and Probabilistic Induction. Epidemiology 9(3), 322-332. Greenland, S. (1998b). Induction versus Popper: Substance versus Semantics. Internatin J. of Epidemiology 27, 543-548. Greenland, S.; and Brumback, B. (2002). An Overview of Relations among Causal Modelling Methods. International J. of Epidemiology 31(5), 1030-1037.

618

Literatur

Greenland, S.; Pearl, J.; and Robins, J.M. (1999). Causal Diagrams for Epidemiologic Research. Epidemiology 10(1), 37-48. Greenland, S.; and Robins, J.M. (1986). Identifiability, Exchangeability, and Epidemiologic Confounding. Int. J. Epidemiology 15, 412-418. Greeno, J.G. (1970). Evaluation of Statistical Hypotheses using Information Transmitted. Phil. of Science 37, 279-294. Greenough, P. and Lynch, M.P. (Hrsg., 2006). Truth and Realism. Oxford University Press, Oxford. Groff, R. (2008). Revitalizing Causality: Realism About Causality in Philosophy and Social Science. Routledge Grundy, P.M.; and Healy, M.J.R. (1950). Restricted Randomization and Quasi-Latin Squares. J. R. Statist. Soc., Ser. B 12, 286-291. Grünwald, P.D. (2005). Introducing to the Minimum Description Length Principle. In: Grünwald et al. (2005), 3-21. Grünwald, P.D. (2007). The Minimum Description Length Principle. MIT Press. Grünwald, P.D.; and Dawid, A.P. (2004). Game Theory, Maximum Entropy, Minimum Discrepancy, and Robust Bayesian Decision Theory. Annals of Statistics 32, 1367-1433. Grünwald, P.D.; Myung, I.J.; and Pitt, M. (Hrsg., 2005). Advances in Minimum Description Length: Theory and Applications. MIT Press. Guilford, J.P. (1967). The Nature of Human Intelligence. McGraw-Hill, New York. Gullikson, H. (1950). Theory of Mental Tests. Wiley, New York. Guttman, L. (1945). A Basis for Analyzing Test-Retest Reliability. Psychometica 10, 255282. Guttman, L. (1985). The Illogic of Statistical Inference for Cumulative Science. Applied stochastic models and data analysis 1, 3-9. Hacking, I. (1965). Logic of Statistical Inference. Cambridge University Press, Cambridge. Hacking, I. (1980). The Theory of Inference: Neyman, Peirce and Braithwaite. In: Mellor, D.H. (Hrsg.) Science, Belief and Behaviour: Essays in Honor of R. B. Braithwaite Cambridge University Press, Cambridge, 141-160. Hacking, I. (1983). Representing and Intervening: Introductory Topics in the Philosophy of Natural Science. Cambridge University Press, Cambridge. Hacking, I. (1988). Telepathy: Origins of Randomization in Experimental Design. ISIS 79, 427-451. Hacking, I. (1992). The Self-Vindication of the Laboratory Sciences. In: Pickering, A. (Hrsg.) Science as Practice and Culture. The University of Chicago, Chicago and London, 29-64. Hacking, I. (1996). Einführung in die Philosophie der Naturwissenschaften. Reclam, Stuttgart. Hacking, I. (2001). An Introduction to Probabilty Theory and Inductive Logic. Cambridge University Press, Cambridge. Hahn, R.W.; and Tetlock, P.C. (Hrsg., 2006). Information Markets. A New Way of Making Decisions. The AEI Press, Washington D.C. Hájek, A. (2007). Interpretations of Probability, The Stanford Encyclopedia of Philosophy (Winter 2007 Edition), Edward N. Zalta (Hrsg.) Siehe http://plato.stanford.edu/ archives/win2007/entries/probability-interpret Hájek, A. (2008). Probability - A Philosophical Overview. In: Gould, B.; and Simons, R.A. (Hrsg.) Proof & and Other Dilemmas: Mathematics and Philosophy. The Mathematical Association of America, Washington D.C.: Spectrum Series. Hájek, A.; and Hall, N. (2002). Induction and Probability. Kapitel 8 in: Machamer, P.; and Silberstein, M. (Hrsg.) The Blackwell Guide to the Philosophy of Science. Blackwell, Malden, Mass., 149-172. Halfmann, J. und Schützenmeister, F. (2009). Organisationen der Forschung. Der Fall der Atmosphärenwissenschaft. Verlag für Sozialwissenschaften, Wiesbaden.

Literatur

619

Halpern, J.Y.; and Pearl, J. (2005) Causes and Explanations: A Structural-Model Approach. Part I: Causes. Part II: Explanations. Brit. J. Phil. Sci. 56, 843-887 und 889911. Hampel, F.R. (1996). On the Philosophical Foundations of Statistics: Bridges to Huber’s Work, and Recent Results. In: Rieder, H. (Hrsg.) Robust Statistics, Data Analysis, and Computer Intensive Methods. In Honor of Peter Huber’s 60th Birthday. Springer, Berlin, 185-196. Hampel, F.R. (2003). The Proper Fiducial Argument. Research Report 114. Seminar für Statistik der Eidgenössischen Technischen Hochschule (ETH) Zürich. Siehe http://ecollection.ethbib.ethz.ch/eserv/eth:26403/eth-26403-01.pdf Hampel, F.R. (2005). The Proper Fiducial Argument. Electronic Notes in Discrete Mathematics 21, 297-300. Hampel, F.R.; Rousseeuw; P.J.; Ronchetti, E.M.; and Stahel, W.A. (1986). Robust Statistics. The Approach Based on Influence Functions. Wiley, New York. Han, J.; and Kamber, M. (2006). Data Mining. Conecpts and Techniques. (2. Aufl.) Morgan Kaufmann Publishers (Academic Press, San Francisco. 1. Aufl. 2001. Hand, D.J. (1994) Deconstructing Statistical Questions. J. of the Royal Statistical Society, Ser. A 157, 317-356. Hand, D.J. (1995). Kommentar zu Chatfield (1995). J. of the Royal Statistical Society A 158(3), 448. Hand, D.J. (1996). Statistics and the Theory of Measurement. J. of the Royal Statistical Society, Ser. A 159, 445-492. Hand, D.J. (1998a). Breaking Misconceptions - Statistics and its Relationship to Mathematics. The Statistician 47(2), 245-250. Hand, D.J. (1998b). Data Mining: Statistics and More? The American Statistician 52(2), 112-118. Hand, D.J. (1999). Why Data Mining is more than Statistics Writ Large. Bulletin of the ISI 99, 433-436. Hand, D.J. (2001a). Commentary on Arnold Goodman’s Remarks about KDD-2001. KDNuggets News 1:15 Item 6. Siehe www.kdnuggets.com/news/2001/n25/6i.html Hand, D.J. (2007). Information Generation. How Data Rule our World. Oneworld Publications, Oxford. Hand, D.J.; and Everitt, B. (1987). The Statistical Consultant in Action. Cambridge University Press, Cambridge. Hand, D.J.; Mannila, H.; and Smyth, P. (2001b) Principles of Data Mining. The MIT Press, Cambridge, MA. Hand, D.J.; and Vinciotti, V. (2003). Local versus Global Models for Classification Problems: Fitting Models where it Matters. The American Statistician 57(2), 124-131. Hannan, E.J.; and Quinn, B.G. (1979). The Determination of the Order of an Autoregression. J. R. Statist. Soc. B 41, 190-195. Hansen, M.H.; and Yu, B. (2001). Model Selection and the Principle of Minimum Description Length. J. of the American Statistical Association 96, 746-774. Hanson, A.J.; and Fu, P.C. (2005). Applications of MDL, to Selected Families of Models. Kapitel 5 in: Grünwald et al. (2005), 125-150. Härdle, W.; Müller, M.; Sperlich, S.; and Werwatz, A. (2004). Nonparametric and Semiparametric Models. Springer: Springer Series in Statistics. Hardy, M.; and Bryman, A. (Hrsg., 2004). Handbook of Data Analysis. Sage, London. Hargittai, I. (2002). The Road to Stockholm: Nobel Prizes, Science, and Scientists. Oxford University Press, Oxford. Harlow, L.L.; Mulaik, S.A.; and Steiger, J.H. (Hrsg., 1997). What if there were no Significance Tests? Erlbaum, London. Harper, W.L. and Hooker, C.A. (Hrsg.) Foundations of Probability Theory, Statistical Inference, and Statistical Theories of Sciene. Reidel, Dordrecht.

620

Literatur

Harper, W.; and Wheeler, G. (Hrsg., 2007). Probability and Inference. Essays in Honor of Henry E. Kyburg, Jr. College Publications, London: Texts in Philosophy, Vol. 2. Hastie, T.; Tibshirani, R.; and Friedman, J. (2001). The Elements of Statistical Learning. Data Mining, Inference, and Prediction. Springer: Springer Series in Statistics. Hartigan, J.A. (1993). Kommentar zu Draper et al. (1993). J. Royal Stat. Soc. A 56(1), 34-35. Hartung, J.; Elpelt, B.; und Klösener, K.-H. (2009). Statistik. Lehr- und Handbuch der angewandten Statistik. (15. Aufl.) Oldenbourg. Hawthorne, J. (2005), Inductive Logic. In: Zalta, E.N. (Hrsg.) Stanford Encyclopedia of Philosophy. Hayles, N.K. (1992). Gender Encoding in Fluid Mechanics. Masculine Channels and Feminine Flows. Differences. A Journal of Feminist Cultural Studies 4(2), 16-44. Healy, M.J.R. (1984). Prospects for the Future. Where has Statistics Failed? J. R. Statist. Soc. A 147(2), 368-374. Healy, M.J.R. (2000). Kommentar zu Lindley (2000). The Statistician 49(3), 321. Heckman, J.J. (2005). The Scientific Model of Causality. (Mit einem Kommentar von Sobel, 99-133) Sociological Methodology 35, 1-162. Heckman, J.J.; and Robb, R. (1986). Alternative Methods for Evaluating the Impact of Intervention. In: Wainer (1986), 63-107. Hedges, L.V.; and Olkin, I. (1985). Statistical Methods for Meta-Analysis. Academic Press, Orlando. Heidelberger, M. (1998). Die Erweiterung der Wirklichkeit im Experiment. In: Heidelberger, M.; und Steinle, F. (Hrsg.) Experimental Essays - Versuche zu Experiment Nomos, Baden-Baden. Heidelberger, M. (2007). Das Experiment in den Wissenschaften. Kapitel 7 in Bartels und Stöckler (2007), 155-176. Held, L. (2008). Methoden der statistischen Inferenz. Likelihood und Bayes. Spektrum Akademischer Verlag, Heidelberg. Helmholtz, H. von (1887). Zählen und Messen, erkenntnistheoretisch betrachtet. In: Philosophische Aufsätze, Eduard Zeller zu seinem fünfzigjährigen Doktorjubiläum gewidmet. Fues, Leipzig, 17-52. Wiederaufgelegt 1971 von Hörz, H. und Wollgast, S. (Hrsg.) Akademie-Verlag, Berlin, 301-335, und 1998 von Springer, Wien: Schriften zur Erkenntnistheorie. Hempel, C.G. (1945). Studies in the Logic of Confirmation. Mind 54, 1-26. Hempel, C.G. (1963). Explanation and Prediction by Covering Laws. In: Baumrin, B. (Hrsg.) Philosophy of Science: The Delaware Seminar 1 (1961-62). Interscience Publishers, New York. Wiederabgedruckt in Fetzer (2001: Abschnitt 5), 69-86. Hempel, C.G. (1965). Aspects of Scientific Explanation (and other essays). Free Press, New York. Hempel, C.G. (1988). Limits of a Deductive Construal of the Function of Scientific Theories. In: Ullmann-Margalit, E. (Hrsg.) Science in Reflection, The Israel Colloquium 3 Kluwer Academic Publishers, Dordrecht, 1-15. Wiederabgedruckt in Fetzer (2001: Abschnitt 12), 237-249. Hempel, C.G.; and Oppenheim, P. (1948). Studies in the Logic of Explanation. Philosophy of Science 15, 135-175. Hennig, C. (2002). Confronting Data Analysis with Contructivist Philosophy. In: Jajuga, K.; Sokolowskij, A. und Bock, H.-H. (Hrsg.) Classification, Clustering, and Data Analysis, Springer, Berlin, 235-244. Hennig, C. (2003). How Wrong Models Become Useful - and Correct Models Become Dangerous. In: Schader, M.; Gaul, W. und Vichi, M. (Hrsg.) Between Data Science and Applied Data Analysis, 235-243. Hennig, C. (2007). Falsification of Propensity Models by Statistical Tests and the Goodness-of-Fit Paradox. Philosophia Mathematica 15, 166-192. Heuser, H. (1989). Gewöhnliche Differentialgleichungen. Teubner Verlag, Stuttgart.

Literatur

621

Hilbert, D. (1899). Grundlagen der Geometrie. In: Hilbert, D.; Wiechert, E. (Hrsg.) Festschrift zur Feier der Enthüllung des Gauss-Weber-Denkmals in Göttingen. (Faksimile) BiblioBazaar (BiblioLife Bookstore), Charleston, SC. Hilbert, D. (1930). Zitiert nach Vinnikov, V. (1999). We shall know: Hilbert’s Apology. Mathematical Intelligencer. 21, 42-46. Hilbert, D. (1944). Unbekannte Briefe Frege’s über die Grundlagen der Geometrie und Antwortbrief Hilbert’s an Frege. In: Sitzungsberichte der Heidelberger Akademie der Wissenschaften, Mathematisch- Naturwissenschaftliche Klasse, 2. Abhandlung Kommissionsverlag der Weiß’schen Universitätsbuchhandlung Heidelberg, Heidelberg, Jahrgänge 1941-1944. Hilbert, D.; und Bernays, P. (1968). Grundlagen der Mathematik I. Springer, Berlin. Hill, A.B. (1965). The Environment and Disease: Association or Causation? Proceedings of the Royal Society of Medicine, London 58(5), 295–300. Hill, B.M. (1990). A Theory of Bayesian Data Analysis. In: Geisser et al. (1990), 49-73. Hill, J.R. (1990). A General Framework for Model-Based Statistics. Biometrika 77(1), 115-126. Hjort, N.L.; Holmes, C.; Müller, P.; and Walker, S.G. (Hrsg., 2010). Bayesian Nonparametrics. Cambridge University Press, Cambridge: Cambridge Series in Statistical and Probabilistic Mathematics. Ho, D.E.; Imai, K.; King, G.; and Stuart, E.A. (2007). Matching as Nonparametric Preprocessing for Reducing Model Dependence in Parametric Causal Inference. Political Analysis 15, 199-236. Hodges, J.S. (1987). Uncertainty, Policy Analysis and Statistics. Statistical Science 2, 259291. Hodges, J.S. (1990). Can / May Bayesians Do Pure Tests of Significance? In: Geisser et al. (1990), 75-90. Hodges, J.S. (1996). Statistical Practice as Argumentation: A Sketch of a Theory of Applied Statistics. In: Lee, J.C.; Johnson, W.O.; und Zellner, A. (Hrsg.) Modeling and Prediction. Essays in Honor of Seymour Geisser. Springer, New York, 19-45. Hölder, O. (1901). Die Axiome der Quantität und die Lehre vom Maß. Berichte über die Verhandlungen der königlich sächsischen Gesellschaft der Wissenschaften zu Leipzig, mathematisch-physikalische Classe. 53, 1-64. Leipzig. Holland, P.W. (1986) Statistics and Causal Inference. (Mit Diskussion) J. of the American Statistical Association 81, 945-970. Hotelling, H. (1940). The Teaching of Statistics. Ann. of Math. Statistis 11, 457-470. Wiederabgedruckt 1988 in: Statistical Science 3, 63-71. Hotelling, H.; Bartky, W.; Deming, W.E.; and Friedman, M. (1948). The Teaching of Statistics. A Report of the Institue of Mathematical Statistics Committee on the Teaching of Statistics. Ann. of Math. Statistis 19, 95-115. Hothorn, T.; Hornik, K.; van de Wiel, M.A.; and Zeileis, A. (2006). A Lego System for Conditional Inference. The American Statistician 60(3), 257-263. Howson, C. (2000). Hume’s Problem. Induction and the Justification of Belief. The Clarendon Press (Oxford University Press), Oxford. Howson, C. (2008). De Finetti, Countable Additivity, Consistency and Coherence. The British Journal for the Philosophy of Science 59, 1-23. Howson, C. (2009). Logic and Finite Additivity: Mutual Supporters in Bruno de Finetti’s Probability Theory. In: Galavotti (2009), 41-58. Howson, C.; and Urbach, P. (2006). Scientific Reasoning. The Bayesian Approach. (3. Aufl.) Open Court, Chicago and La Salle, IL. 1. Aufl. 1985. Hoyningen-Huene, P. (1997). Einleitung [zu Kapitel X, Theoriendynamik]. In: Hubig (1997), 395-396. Hubbard, R.; and Bayarri, M.J. (2003). Confusion Over Measures of Evidence (p’s) Versus Errors (α’s) in Classical Statistical Testing. (Mit Diskussion) The American Statistician 57(3), 171-182.

622

Literatur

Hubbard, R.; and Lindsay, R.M. (2008). Why P Values are Not a Usefule Measure of Evidence in Statistical Significance Testing. Theory & Psychology 18(1), 69-88. Hubbard, R.; and Ryan, P.A. (2000). The Historical Growth of Statistical Testing in Psychology - and its Future Prospects. Educational and Psychological Measurement 60(5), 661-681. Hubble, E.P. (1929). A Relation between Distance and Radial Velocity among ExtraGalactic Nebulae. Proc. Natl. Acad. Sci. 15, 168–173. Huber, P.J. (1981) Robust Statistics. Wiley. Huber, P.J. (1997) Speculations on the Path of Statistics. In: Brillinger et al. (1997), 175191. Huber, P.J. (2006). Kommentar zu Mallows (2006). Technometrics 48(3), 332-334. Hubig, C. (Hrsg., 1997). Cognitio humana - Dynamik des Wissens und der Werte. XVII. Deutscher Kongreß für Philosophie. Leipzig, 23.-27. September 1996. Vorträge und Kolloquien. Akademie Verlag, Berlin. Hudec, M. (o. J.). Data Mining - Ein neues Paradigma der angewandten Statistik. Manuskript, Universität Wien. Siehe www.statistik.tuwien.ac.at/oezstat/ ausg021/papers/hudec.doc (Aufruf am 14. 12. 2008). Hume, D. (2000). A Treatise of Human Nature. Norton, D.F. & M.J. (Hrsg.) Oxford University Press, Oxford. Erstausgabe 1739. Hume, D. (2008). An Enquiry Concerning Human Understanding. Oxford University Press, New York. Erstausgabe 1748. Hüttemann, A. (2007). Naturgesetze. Kapitel 6 in Bartels und Stöckler (2007). Hutter, M. (2007). On Universal Prediction and Bayesian Confirmation. Theoretical Computer Science, 384, 33-48. Huxley, T.H. (1893-94). Biogenesis and Abiogenesis. In: Collected Essays (Bd. 8, 1893-4). Das Zitat fiel bei seiner Ansprache als Präsident der British Association im Jahr 1870. Ietto-Gillies, G. (2009). Why de Finetti’s Critique of Economics is Today more Relevant than Ever. In: Galavotti (2009), 153-185. Imbens, G.W.; and Rubin, D.B. (1995). Kommentar zu Pearl (1995). Biometrika, 82(4), 694-695. Inman, H.F. (1994). Karl Pearson and R. A. Fisher on Statistical Tests: A 1935 Exchange from Nature. The American Statistician, 48(1), 2-11. Jadad, A.R.; and Enkin, M.W. (2007). Randomized Controlled Trials. (2. Aufl.) BMJ Books (Blackwell Publishing), Malden, MA. 1. Aufl. ohne den zweitgenannten Autor 1998. James, W.; and Stein, C. (1961). Estimation with Quadratic Loss. Proceedings of the Fourth Berkeley Symposium on Mathematical Statistics and Probability; University of Berkeley Press, Berkeley, CA 1, 311-319. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 443-460). Jamshidian, M. (2004). Strategies for Analysis of Incomplete Data. Kapitel 5 in Hardy and Bryman (2004), 113-130. Janssen, A.; und Pauls, T. (2003). How Do Bootstrap and Permutation Tests Work? The Annals of Statistics 31(3), 768-806. Jaynes, E.T. (1957). Information Theory and Statistical Mechanics I, II. Physical Review, 106, 620-630 und 108, 171-190. Jaynes, E.T. (1968). Prior Probabilities. IEEE Transactions on Systems Science and Cybernetics, SSC-4, 227-241. Jaynes, E.T. (1976). Confidence Intervals vs Bayesian Intervals. (Mit einem Kommentar von O. Kempthorne) in: Harper and Hooker (1976), 175-257. Jaynes, E.T. (2003). Probability Theory. The Logic of Science. Posthum herausgegeben von Bretthorst, G. L. Cambridge University Press, Cambridge. Jeffrey, R. (2004). Subjective Probability: the Real Thing. Cambridge University Press, Cambridge. Jeffreys, H. (1939). Theory of Probability. Clarendon Press, Oxford.

Literatur

623

Jeffreys, H. (1961). Theory of Probability. (3. Aufl.) Clarendon Press, Oxford. Jeffreys, H. (1946). An Invariant form for the Prior Probability in Estimation Problems. Proceedings of the Royal Society of London, Ser. A 186, 453-461. Jeffreys, H. (1955). The Present Position in Probability Theory. Brit. J. of Philosophy of Science V, 257-289. Jeffreys, H. (1973). Scientific Inference. (3. Aufl.) Cambridge University Press, Cambridge. Jeffreys, H. (1980). Some General Points in Probability Theory. Kapitel 29 in: Zellner, A. und Kadane, J.B. (Hrsg.) Bayesian Analysis in Econometrics and Statistics. Essays in Honor of Harold Jeffreys. North-Holland Publishing Company, Amsterdam: Studies in Bayesian Econometrics, Bd. 1. Jensen, S. (1999). Erkenntnis - Konstruktivismus - Systemtheorie. Einführung in die Philosophie der konstruktivistischen Wissenschaft. Westdeutscher Verlag, Opladen. Joe, H. (1989). Relative Entropy Measures of Multivariate Dependence. J. of the American Statistical Association 84, 157-164. Johnson, N.L.; Kemp, A.W.; and Samuels, S. (2005). Univariate Discrete Distributions. (3. Aufl.) Wiley. Johnson, N.L.; Kotz, S.; and Balakrishnan, N. (1994). Continuous Univariate Distributions, Bd. 1. (2. Aufl.) Wiley. Johnson, N.L.; Kotz, S.; and Balakrishnan, N. (1995). Continuous Univariate Distributions, Bd. 2. (2. Aufl.) Wiley. Johnstone, D.J. (1986). Tests of Significance in Theory and Practice. The Statistician 35(5), 491-504. Johnstone, D.J. (1987a). Tests of Significance Following R. A. Fisher. Brit J. Phil. Sci. 38, 481-499. Johnstone, D.J. (1987b). On the Interpretation of Hypothesis Tests following Neyman and Pearson. In: Viertl, R. (Hrsg.) Probability and Bayesian Statistics, 267-277. Plenum Press, New York. Johnstone, D.J. (1988). Hypothesis Tests and Confidence Intervals in the Single Case. British J. for the Philosophy of Science 39, 353-360. Jones, L.V. (Hrsg., 1986). The collected works of J. W. Tukey, Bd. III: “Philosophy and Principles of Data Analysis: 1949-1964.” Chapman & Hall, London. Jones, L.V. (Hrsg., 1986). The collected works of J. W. Tukey, Bd. IV: “Philosophy and Principles of Data Analysis: 1965-1986.” Chapman & Hall, London. Jöreskog, K.G. (1971). Simultaneous Factor Analysis in Several Populations. Psychometrika 36(4), 409-426. Judson, H.F. (2004). The Great Betrayal. Fraud in Science. Harcourt, Inc., Orlando, FL. Juhos, B. und Schleichert, H. (1963). Die erkenntnislogischen Grundlagen der klassischen Physik. Duncker & Humblot, Berlin: Erfahrung und Denken, Bd. 12. Kadane, J.B.; and Seidenfeld, T. (1990). Randomization in a Bayesian Perspective. Journal of Statistical Planning and Inference 25, 329-345. Kahneman, D. and Tversky, A. (1979). Prospect Theory: An Analysis of Decision under Risk. Econometrica XLVII, 263-291. Kalbfleisch, J.G.; and Sprott, D.A. (1976). On Tests of Significance. In: Harper and Hooker (1976), 259-272. Kamalah, A. und Reichenbach, M. (Hrsg., 1977). Hans Reichenbach. Gesammelte Werke in 9 Bänden. Bd. 1: Der Aufstieg der wissenschaftlichen Philosophie. Vieweg, Braunschweig. Kang Fu, V.; Winship, C.; and Mare, R.D. (2004). Sample Selection Bias Models. Kapitel 18 in Hardy and Bryman (2004), 409-430. Kant, I. (1781). Kritik der reinen Vernunft. Felix Meiner Verlag, Hamburg: Philosophische Bibliothek (1990). Kant, I. (1786). Metaphysische Anfangsgründe der Naturwissenschaften. Zitiert nach Band 9 in: Wilhelm Weischedel (Hrsg., 1977). Kant. Werke in zwölf Bänden. Suhrkamp, Frankfurt a. M.

624

Literatur

Kaplan, D. (Hrsg., 2004). The SAGE Handbook of Quantitative Methodology for the Social Sciences. Sage Publications, Thousand Oaks, CA. Kass, R.E. and Raftery, A.E. (1995). Bayes Factors. J. of the American Statistical Association 90, 773-795. Kass, R.E. and Wasserman, L. (1996). The Selection of Prior Distributions by Formal Rules. J. of the American Statistical Association 91(435), 1343-1370. Katz, M. (1981). Łukasiewicz Logic and the Foundations of Measurement. Studia Logica 15(3), 209-225. Keiding, N. (1994). Kommentar zu Spiegelhalter et al. (1994). J. of the Royal Statistical Society, Ser. A 157 (3), 395. Keiding, N. (1995). Kommentar zu Cox (1995). Test 4(2), 241-242. Kellert, S.H.; Longino, H.E.; and Waters, C.H. (Hrsg., 2006). Scientific Pluralism. University of Minnesota Press, Minneapolis, MN: Minnesota Studies in the Philosophy of Science XIX. Kelvin, Lord bzw. Thomson, W. (1891). Popular Lectures and Addresses, Bd. 1. Macmillan, London. Kemeny, J.G. (1953). The Use of Simplicity in Induction. The Philosophical Review 62, 391-408. Kempthorne, O. (1955). The Randomization Theory of Experimental Inference. J. of the American Stat. Assoc. 50, 946-967. Kempthorne, O. (1971). Probability Theory, Statistics and the Knowledge Business. In: Godambe and Sprott (1971), 471-499. Kempthorne, O. (1979). The Design and Analysis of Experiments. Robert E. Krieger, New York. Kempthorne, O. (1980). Kommentar zu Basu (1980). J. of the American Statistical Association 75, 584-587. Kempthorne, O. (1992). Intervention Experiments, Randomization and Inference. In: Ghosh und Pathak (1992), 13-31. Key, J.T.; Pericchi, L.R.; and Smith, A.F.M. (1999). Bayesian Model Choice: What and Why? (Mit Diskussion) In: Bernardo et al. (1999), 343-370. Keynes, J.M. (1921). A Treatise on Probability. Macmillan, London. Khrennikov, A. (2009). Interpretations of Probability. (2. Aufl.) De Gruyter, New York. Kiefer, J. (1977). Conditional Confidence Statements and Confidence Estimators. (Mit Diskussion) J. of the American Statistical Association 72, 789-827. Kieser, A. (2010). Die Tonnenideologie der Forschung. Faz.Net Feuilleton vom 11.6.2010. Siehe www.faz.net. Kim, S.-H.; and Cohen, A.S. (1995). On the Behrens-Fisher Problem: A Review. Vortrag, gehalten auf der Jahrestagung der American Psychometric Society. Siehe http://eric.ed.gov/ERICDocs/data/ericdocs2/content_storage_01/0000000b/80/ 25/e5/02.pdf Kimball, A.W. (1957). Errors of the Third Kind in Statistical Consulting. Journal of the American Statistical Association 52, 133-142. Kirk, R.E. (1996). Practical Significance: A Concept whose Time has Come. Educational and Psychological Measurement 56, 746-759. Kish, L. (1987). Statistical Design for Research Wiley, Hoboken, NJ. Wiederabgedruckt in der Wiley Classic Library, Edition 2004. Kladroba, A. (2001). Was ist neu am Data Mining? - Einige Anmerkungen zur ‚neuen‘ Datenanalyse aus Sicht der Statistik. Allgemeines Statistisches Archiv 85, 455-462. Klärner, H. (2003). Der Schluß auf die beste Erklärung. De Gruyter, Berlin: Ideen & Argumente. Klein, I. (1994) Mögliche Skalentypen, invariante Relationen und wissenschaftliche Gesetze. Vandenhoeck & Ruprecht, Göttingen. Kleinert, A. (1988). „Messen, was messbar ist.“ Über ein angebliches Galilei-Zitat. Berichte zur Wissenschaftsgeschichte 11, 253-255.

Literatur

625

Kline, M. (1980). Mathematics. The Loss of Certainty. Oxford University Press, Oxford. Knight, F. (1921). Risk, Uncertainty, and Profit. Houghton Mifflin, New York. Knorr-Cetina, K. (1984). Die Fabrikation von Erkenntnis - Zur Anthropologie der Naturwissenschaft. Suhrkamp, Frankfurt a. M. Knuth, D.E. (1999). The Art of Computer Programming. Bd. 1: Fundamental Algorithms, Bd. 2: Seminumerical Algorithms, Bd. 3: Sorting and Searching. (Gebundene Ausgabe) Addison-Wesley Longman, Amsterdam. Koch, S. (1992). Psychology’s Bridgman vs Bridgman’s Bridgman. An Essay in Reconstruction. Theory & Psychology 2(3), 261-290. Köchy, K. und Schiemann, G. (Hrsg., 2006). Natur im Labor. Philosophia naturalis 43(1). Koertge, N. (Hrsg., 1998). A House built on Sand. Exposing Postmodernist Myths about Science. Oxford University Press, Oxford. Köhler, P. (Hrsg., 2008). Die schönsten Zitate der Politiker. 1000 Weisheiten für Reden, E-Mails, Gästebuch, zum Vergnügen und zur Erkenntnis .Humboldt Verlags GmbH, Baden-Baden. Kolmogorov, A.N. (1933). Grundbegriffe der Wahrscheinlichkeitsrechnung. Springer, Berlin. Kolmogorov, A.N. (1954). The general theory of dynamical systems and classical mechanics. Proceedings of the International Congress of Mathematicians, Amsterdam, Niederlande 1, 315-333. North Holland, Amsterdam (1957). Englische Übersetzung in: Abraham, R.H. (1967). Foundations of Mechanics, Appendix D, 263-279. Benjamin, New York. Kolmogorov, A.N.; and Uspenskii, V.A. (1997). Algorithms and Randomness. Theory Probab. Appl. 32(3), 389-412. Konstantopoulos, S.; and Hedges, L.V. (2004). Meta-Analysis. Kapitel 15 in Kaplan (2004), 281-297. Koopmans, T. (1949). Identification Problems in Economic Model Construction. Econometrica 46, 125-144. Kotz, S.; and Johnson, N.L. (1993). Breakthroughs in Statistics. Bd. I: Foundations and Basic Theory. Bd. II: Methodology and Distribution. Spinger, New York.83 Krämer, W. (2004). Statistik: Vom Geburtshelfer zum Bremser der Erkenntnis in den Sozialwissenschaften? Kölner Zeitschrift für Soziologie und Sozialpsychologie. Sonderheft 44/2004, 51-60. Krantz, D.H. (1991). From Indices to Mappings: The Representational Approach to Measurement. Kaptiel 1 in: Brown, D.R.; and Smith, J.E.K. (Hrsg.) Frontiers of Mathematical Psychology. Essays in Honor of Clyde Coombs. Springer, Berlin. Krantz, D.H. (1999). The Null Hypothesis Testing Controversy in Psychology. J. of the American Statistical Association 44, 1372-1381. Krantz, D.H.; Luce, R.D.; Suppes, P.; and Tversky, A. (1971). Foundations of Measurement, Bd. 1. Academic Press, New York, London, San Diego. Krauth, J. (1988). Distribution-free Statisics. An Application-oriented Approach. Huston, J.P. (Hrsg.) Elsevier, Amsterdam: Techniques in the Behavioral and Neural Sciences, Bd. 2. Krauth, J. (2000). Experimental Design. A Handbook and Dictionary for Medical and Behavioral Research. Huston, J.P. (Hrsg.) Elsevier, Amsterdam: Techniques in the Behavioral and Neural Sciences, Bd. 14. Krengel, U. (1973). Mathematische Statistik. Vorlesungsausarbeitung WS 73/74. Universität Göttingen. Krengel, U. (1988). Einführung in die Wahrscheinlichkeitstheorie und Statistik. vieweg, Braunschweig. Kries, J. von (1886). Die Principien der Wahrscheinlichkeitsrechnung. Eine logische Untersuchung. Freiburg. 83

Die S. 1 zitierte Seite des Vorworts findet sich in beiden Bänden

626

Literatur

Krueger, J. (2001). Null Hypothesis Significance Testing. On the Survival of a Flawed Method. American Psychologist 56(1), 16-26. Kruskal, W.H. (1958). Ordinal Measures of Association. Journal of the American Statistical Association 53, 814-861. Kruskal, W.H. (1988). Miracles and Statistics: The Casual Assumption of Independence. Journal of the American Statistical Association 83, 929-940. Kühn, R. und Stamatescu, I.-O. (2007). Learning with Incomplete Information and the Mathematical Structure Behind it. Biological Cybernetics 97(1), 99-112. Kuhn, T.S. (1962 / 1996). The Structure of Scientific Revolution. (1. Aufl.) University of Chicago Press, Chicago, IL. 3. engl. Aufl. 1996. Deutsche Übersetzung: Die Struktur wissenschaftlicher Revolutionen. (19. Aufl.) Suhrkamp, Frankfurt a. M. (2002). Kuhn, T.S. (1992). The Trouble with the Historical Philosophy of Science. In: Kuhn, T.S.; Conant, J; and Haugeland, J. (Hrsg., 2000). The Road since Structure. Philosophical Essays, 1970-1993, with an Autobiographical Interview. University of Chicago Press, Chicago, IL. Kullback, S. (1959). Information Theory and Statistics. Wiley, New York. Kullback, S.; and Leibler, R.A. (1951). On Information and Sufficiency. Annals of Mathematical Statistics 22(1), 79-86. Kullback, S. (1987). The Kullback-Leibler distance (Letter to the Editor). The American Statistician 41(4), 340-341. Kumar, V.; Steinbach, M.; and Tan, P.-N. (2005). Introduction to Data Mining. Addison Wesley. Kyburg, H.E. (1961). Probability and the Logic of Rational Belief. Wesleyan University Press, Middletown, CT. Kyburg, H.E. (1974). The Logical Foundations of Statistical Inference. D, Reidel, Dordrecht. Lad, F. (1996). Operational Subjective Statistical Methods. Wiley, New York. Ladyman, J. (2002). Understanding Philosophy of Science. Routledge, London. Lakatos, I. (1974). Falsifikation und die Methodologie wissenschaftlicher Forschungsprogramme. In: Lakatos, I. und Musgrave, A. (Hrsg.) Kritik und Erkenntnisfortschritt. vieweg, Braunschweig, 89-190. Lang, C. (2005). Theoretische und empirische Aspekte der Prognose wichtiger makroökonomischer Größen. Cuvillier Verlag, Göttingen. Lange, K. (2009). Behavioral Finance. Warum Aktienkurse dem Zufall gehorchen. Spiegel Online, 4. Juli 2009. Siehe www.spiegel.de/wirtschaft/0,1518,634170,00.html Laplace, P.-S. (1812). Théorie Analytique des Probabilités. Courcier Imprimeur, Paris. Latour, B. (1987). Science in Action. How to Follow Scientists and Engineers through Society. Harvard Univ. Press, Cambridge, MA. Latour, B. (2004). Why has Critique run out of Steam? From Matters of Fact to Matters of Concern. Critical Inquiry 30, 225-248. Latour, B.; and Woolgar, S. (1979). Laboratory Life. The Construction of Scientific Facts. Sage Publication, Beverly Hills, CA. Laubichler, M. (2008). Wissenschaftsgeschichte. Doppelkompetenzen gefragt. Faz.Net Wissen vom 28.8.2008. Siehe www.faz.net. Laudan, L. (1981a). Progress and Its Problems: Towards a Theory of Scientific Growth. Univ. of California Press, Berkeley, CA. Laudan, L. (1981b). The Pseudo-Science of Science? Phil. Soc. Sci. 11, 173-198. Laudan, L. (1990). Science and Relativism. Some Key Controversies in the Philosophy of Science. University of Chicago Press, Chicago. Laudan, L. (1996). Beyond Positivism and Relativism: Theory, Method, and Evidence: Theory, Method and Evidence. Westview Press, Boulder, CO. Laughlin, R.B. (2007). Abschied von der Weltformel. Piper, München. Lauritzen, S.L. (1996). Graphical Models. Oxford University Press, Oxford.

Literatur

627

Lauritzen, S.L. (2001). Causal Inference from Graphical Models. Kapitel 2 (S. 63-107) in: Barndorff-Nielsen, O.E.; and Klüppelberg C. (Hrsg.) Complex Stochastic Systems. Chapman & Hall, London. Lauth, B. und Sareiter, J. (2005). Wissenschaftliche Erkenntnis. Eine ideengeschichtliche Einführung in die Wissenschaftstheorie. mentis, Paderborn. Lawson, T. (1989). Realism and Instrumentalism in the Development of Econometrics. Oxford Economic Papers 41, 236-258. Lazarsfeld, P. F.; and Henry, N.W. (1968). Latent Structure Analysis. Houghton & Mifflin, Boston, MA. Leamer, E.E. (1978). Specification Searches. Ad hoc Inference with Nonexperimental Data. Wiley, New York. Leamer, E.E. (1983). Let’s Take the Con out of Econometrics. The American Economic Review 73(1), 133-160. Leamer, E.E. (1985). Sensitivity Analyses would Help. American Economic Review 75, 308-313. Lean, J.L.; and Rind, D.H. (2009). How will Earth’s Surface Temperature change in Future Decades? Geophys. Res. Lett. 36, L15708. Lecam, L. (1977). A Note on Metastatistics or ‘an Essay toward Stating a Problem in the Doctrine of Chances.’ Synthese 36, 133-160. Lecam, L. (1988). Discussion by Professor Lucien LeCam. In: Berger und Wolpert (1988), 182-185.2. Lee, K.L.; McNeer, J.F.; Starmer, C.F.; Harris, P.J.; and Rosati, R.A. (1980). Clinical Judgement and Statistics. Lessons from a Simulated Randomized Trial in Coronary Artery Disease. Circulation 61, 508-515. Lee, Y.J. (1999). Biostatistics and Clinical Trial: a View. J. of Statistical Planning and Inference 78, 349-367. Lehmann, E.L. (1990). Model Specification: The Views of Fisher and Neyman, and later Developments. Statistical Science 5(2), 160-168. Lehmann, E.L. (1993). Introduction to Neyman und Pearson (1933). In: Kotz und Johnson (1993), 67-72. Lehmann, E.L.; and Casella, G. (1997). Theory of Point Estimation. (2. Aufl.) Springer. 1. Aufl. ohne den zweitgenannten Autor 1983 bei Wiley, New York. Lehmann, E.L.; and Scholz, F.W. (1992). Ancillarity. In: Ghosh und Pathak (1992), 32-51. Lenz, H.J. (1994) Kommentar zu Hand (1994). Deconstructing Statistical Questions. J. of the Royal Statistical Society, Ser. A 157, 341-342. Lesaffre, E. (2000) Kommentar zu Senn (2000). The Statistician 49(2), 169. Lewis, D. (1973a) Causation. J. of Philosophy 70, 556-567. Lewis, D. (1973b) Counterfactuals. Harvard University Press, Cambridge, MA. Li, M.; and Vitányi, P. (1997). An Introcudtion to Kolmogorov Complexity and its Applications. (2. Aufl.) Springer, New York. Li, M.; and Vitányi, P. (2008), im Buchhandel verfügbar 2009. An Introduction to Kolmogorov Complexity and its Applications. (3. Aufl.) Springer, New York. 1. Aufl. 1993. Lieberson, S. (1985). Making it Count: The Improvement of Social Research and Theory. Berkeley University Press, Berkeley, CA. Lienert, G.A. und Raatz, U. (1998). Testaufbau und Testanalyse. (6. Aufl.) Beltz PVU, Weinheim. Lindley, D.V. (1956). On a Measure of the Information Provided by an Experiment. The Annals of Mathematical Statistics 27, 986-1005. Lindley, D.V. (1975). The Future of Statistics - A Bayesian 21st Century. Supp. Adv. Appl. Prob. 7, 106-115. Lindley, D.V. (1982a). Scoring Rules and the Inevitability of Probability. International Statistical Review 50, 1-26.

628

Literatur

Lindley, D.V. (1982b). The Role of Randomization in Inference. In: Asquith,P.D.; and Nickles, T. (Hrsg.) PSA 1982. Proceedings of the 1982 biennial meeting of the philosophy of science association, Bd. 2 „Symposia“. Philosophy of Science Association, East Lansing, MI, 431-446. Lindley, D.V. (1995). Kommentar zu Cox (1995). Test 4(2), 242-245. Lindley, D.V. (1999a). Kommentar zu Lindsey (1999). The Statistician 48(1), 33. Lindley, D.V. (1999b). Kommentar (S. 75) zu Bayarri, M.J.; and Berger, J.O. “Quantifying Surprise in the Data.” In: Bernardo et al. (1999), 53-82. Lindley, D.V. (1999b). Kommentar (S. 122-125) zu Bernardo, J.M. “Nested Hypothesis Testing: The BRC Criterion.” In: Bernardo et al. (1999), 101-130. Lindley, D.V. (2000a). On Functional Models for Predicting the Effect of Actions. E-Mail vom 10. Juni 2000. Siehe http://bayes.cs.ucla.edu/BOOK-2K/lindley1.html. Lindley, D.V. (2000b). Philosophy of Statistics. (Mit Diskussion) The Statistician 49(3), 293-337. Lindley, D.V. (2002). Letter to the Editor. Teaching Statistics 24(1), 22-23. Lindley, D.V.; and Novick, M.R. (1981). The Role of Exchangeability in Inference. Annals of Statistics 9, 45-58. Lindsey, J.K. (1999). Some Statistical Heresies. The Statistician 48(1), 1-40. Lingua Franca, the Editors of. (2000). The Sokal Hoax. The Sham that Shook the Academy University of Nebraska Press, Lincoln, NE, and London. Lippe, P. von der (1996). Wirtschaftsstatistik. (5. Aufl.) UTB. Lipton, P. (2004). Inference to the Best Explanation. (2. Aufl.) Routledge, London. Little, R.J.A.; and Rubin, D.B. (2002). Statistical Analysis with Missing Data. (2. Aufl.) Wiley, New York. 1. Aufl. 1987. Liu, L.; and Yager, R.R. (2008). Classic Works of the Dempster-Shafer Theory of Belief Functions. An Introduction. Kapitel 1 in Yager et al. (2008). Locke, J. (1690). An Essay Concerning Human Understanding. T. Basset & E. Mory, London. Google Print erschließt die 13. Aufl. von 1849. Longford, N.T. (1993). Random Coefficient Models. Clarendon Press, Oxford. Longford, N.T. (1999). Selection Bias and Treatment Heterogeneity in Clinical Trials. Statist. Med. 18, 1467-1474. Longford, N.T. (2000). Kommentar zu Senn (2000). The Statistician 49(2), 169-170. Lord, F.M. (1953). On the Statistical Treatment of Football Numbers. The American Psychologist 8, 750-751. Lord, F.M.; and Novick, M.R. (1968). Statistical Theories of Mental Test Scores. AddisonWesley, Reading, MA. Lorenz, E.N. (1963). Deterministic Nonperiodic Flow. Journal of the Atmospheric Sciences 20(2), 130-141. Lorenzen, D.H. (2003). Der rasende Kosmos - Dunkle Energie, die mysteriöse Supermacht im All. [Das Zitat im Text stammt von B. Leibundgut.] Welt der Physik. Siehe www.weltderphysik.de/de/1106.php. (Letzte Aktualisierung 4.11.2003; Aufruf am 5. 6. 2008.) Lorenzen, P. (2000). Lehrbuch der konstruktiven Wissenschaftstheorie. Metzler, Stuttgart. Lorscheid, P. (2009). Statistik-Ausbildung im wirtschaftswissenschaftlichen BachelorStudium: Eine kommentierte Bestandsaufnahme an deutschen Universitäten. Wirtschafts- und Sozialstatistisches Archiv 3(4), 285-298. Luce, R. (1959). On the Possible Psychophysical Laws. Psychological Review 66, 81-95. Luce, R. (2000). Utility of Games and Losses. Measurement-Theoretical and Experimental Approaches. Lawrence Erlbaum Associates, Mahwah, NJ & London. Luce, R.D.; Krantz, D.H.; Suppes, P.; and Tversky, A. (1990). Foundations of Measurement, Bd. 3. Academic Press, New York, London, San Diego. Luce, R. und Tukey, J.W. (1964). Simultaneous Conjoint Measurement: a New Type of Fundamental Measurement. J. of Mathematical Psychology 1, 1-27. Wiederabgedruckt als Kapitel 10 (S. 485-516) in Jones (1986a).

Literatur

629

Luhmann, N. (1998). Die Gesellschaft der Gesellschaft, 2 Bde. (6. Aufl.) Suhrkamp, Frankfurt a. M. Luhmann, N. (2006). Soziale Systeme: Grundriß einer allgemeinen Theorie. Suhrkamp, Frankfurt a. M. 1. Aufl. 1984. Luhmann, N. (2009). Einführung in die Systemtheorie. (4. Aufl., hrsg. von D. Baecker) Carl-Auer Verlag, Heidelberg. Lüst, D. (2009). Ist die Stringtheorie noch eine Wissenschaft? Spektrum der Wissenschaft 5, 34-39. Lyre, H. (2004). Lokale Symmetrien und Wirklichkeit. mentis, Paderborn. MacCallum, R.C.; Zhang, S.; Preacher, K.J.; and Rucker, D.D. (2002). On the Practice of Dichotomization of Quantitative Variables. Psychological Methods 7(1), 19-40. MacKay, D.J.C. (2005) Information Theory, Inference, and Learning Algorithms. (Version 7.2 vom 28.05.2005, 4th printing) Cambridge University Press, Cambridge. Malkiel, B.G. (2008). A Random Walk Down Wall Street. Norton, New York. Mallows, C.L. (1973). Some Comments on Cp . Technometrics 15, 661-675. Mallows, C.L. (1998). The Zeroth Problem. (1997 Fisher Memorial Lecture.) The American Statistician 52, 1-9. Mallows, C.L. (2006). Tukey’s Paper after 40 Years. (Mit Diskussion) Technometrics 48(3), 319-336. Mallows, C.L.; and Tukey, J.W. (1982). An Overview of Techniques of Data Analysis, Emphasizing Its Exploratory Aspects. In: De Oliviera, T. et al. (Hrsg.) Some Recent Advances in Statistics. Academic Press, Inc., New York, 84-136. Zitiert nach Kapitel 27 (S. 891-967) in Jones (1986b). Mallows, C.L.; and Walley, P. (1981). A Theory of Data Analysis? Proc. Bus. Econ. Statist. Sec. of the American Statistical Association, Washington, D. C., 8-14. Mancosu, P. (1997). From Brouwer to Hilbert. The Debate on the Foundations of Mathematics in the 1920s. Oxford Univ. Press, Oxford. Mandel, J. (1964). The Statistical Analysis of Experimental Data. Dover, New York. Manski, C.F. (1999). Identification Problems in the Social Sciences. Harvard Univ. Press, Cambridge, MA. Manski, C.F. (2003). Partial Identification of Probability Distributions. Springer, Berlin. Manski, C.F. (2008). Identification for Prediction and Decision. Harvard Univ. Press, Cambridge, MA. Mantel, J.; and Pepys, J. (2006). Asthma amongst Tristan da Cunha Islanders. Clinical & Experimental Allergy 4(2), 161-170. Mantzavinos, C. (Hrsg., 2009). Philosophy of the Social Sciences. Philosophical Theory and Scientific Practice. Cambridge Univ. Press., Cambridge. Marden, J.I. (2000). Hypothesis Testing: From p Values to Bayes Factors 95, 1316-1320. Marks, R.B. (2006). Die Ursprünge der modernen Welt. Eine globale Weltgeschichte. Theiss, Stuttgart. Marrow, A.J. (2002). Kurt Lewin. Leben und Werk. Beltz Verlag, Weinheim. Maronna, R.; Marting, D.; and Yohai, V. (2006). Robust Statistics. Theory and Methods. Wiley. Marshall, A.W.; Meza, J.C.; and Olkin, I. (2001). Can Data Recognize Its Parent Distribution? J. Comp. Grap. Stat. 10(3), 555-580. Martin, G. (1984). Munchausen’s Statistical Grid, which makes all Trials Significant. The Lancet 324, 1457. Martin-Löf, P. (1966). The Definition of Random Sequences. Information and Control 9, 602-619. Martin-Löf, P. (1974). The Notion of Redundancy and its use as a Qualitative Measure of the Discrepancy between a Statistical Hypothesis and a Set of Observational Data. Scand. Journal of Stat. 1, 3-18. Marx, K. (1972a). Zur Kritik der Politischen Ökonomie. In: Marx-Engels-Werke, Bd. 13. Dietz Verlag, Berlin.

630

Literatur

Marx, K. (1972b). Lohn, Preis und Profit. Vortrag, gehalten auf den Sitzungen der 1. Internationale am 20. und 27. Juni 1865. In: Marx-Engels-Werke, Bd. 16. Dietz Verlag, Berlin. Mason, W.M.; and Fienberg, S.E. (Hrsg., 1985). Cohort Analysis in Social Research. Beyond the Identification Problem. Springer, New York. √ Mattner, L. (2009). One optional observation inflates α by 100/ n per cent. Metrika DOI: 10.1007/s00184-009-0264-1. Maxwell, J.C. (1850). Letter to Lewis Campbell. Abgedruckt in: Campbell, L., und Garrett, W. (1881). The Life of James Clerk Maxwell. Macmillan. Mayo, D.G. (1996). Error and the Growth of Experimental Knowledge. The University of Chicago Press, Chicago, IL. McCullagh, P.; and Nelder, J.A. (1990). Generalized Linear Models. (2. Aufl.) Chapman and Hall, London: Monographs on Statistics and Applied Probability 37. Siehe auch Kotz und Johnson (1993: Bd. II, 543-564). McPherson, G. (1989). The Scientist’s View of Statistics - a Neglected Area. J. of the Royal Stat. Society 152, 221-240. Meehl, P.E. (1967). Theory-Testing in Psychology and Physiscs: a Methodological Paradox. Philosophy of science 34, 103-115. Wiederabgedruckt in Morrison und Henkel (1970), 252-266. Meehl, P.E. (1978). Theoretical Risks and Tabular Asterisks: Sir Karl, Sir Ronald, and the Slow Progress of Soft Psychology. J. of Consulting and Clinical Psychology 46, 806-834. Meehl, P.E. (1990). Apraising and Amending Theories: The Strategy of Lakatosian Defence and Two Principles that Warrant it. Psychological Inquiry 1(2), 108-141. Meehl, P.E. (1997). The Problem is Epistemology, not Statistics: Replace Confidence Intervals and Quantify Accuracy of Risky numerical Predictions. In: Harlow et al. (1997), 393-425. Meehl, P.E.; and Waller, N.G. (2002). The Path Analysis Controversy: a New Statistical Approach to Strong Appraisal of Verisimilitude. (Mit Diskussion) Psychological Methods 7(3), 283-300. Meek, C.; and Glymour, C. (1994). Conditioning and Intervening. Brit. J. Phil Sci. 45, 1001-1021. Menger, K. (1955). Calculus. A Modern Approach. Ginn, IL. (Wiederaufgelegt 2007, Dover Publ.) Menger, K. (1960). A Counterpart to Occam’s Razor in Pure and Applied Mathematics Ontological Uses. Synthese 12, 415-428. Menges, G. (1982). Die Statistik. Zwölf Stationen des statistischen Arbeitens. Gabler, Wiesbaden. Merk, R.; Klippstein, G.; Kreibohm, H.; Busch, H.W.; Kauther, H. und Zülka, J. (2005). Bürokratieabbau und Bürokratiekostenmessung in der Bundesrepublik Deutschland – Strategien und Modelle unter besonderer Berücksichtigung ausländischer Erfahrungen. Fachhochschule des Mittelstandes, Bielefeld. Merton, R.K. (1942). The Normative Structure of Science. J. of Legal and political sociology 1, 115-126. Wiederabgedruckt in Merton (1973): The Sociology of Science, Univ. of Chicago Press, Chicago, IL, 267-278. Zitiert nach dem erneuten Abdruck als Kapitel 1 (S. 3-16) in Merton (1982): Social Research and the practicing professions. Abt Books, Cambridge (MA). Hrsg. und mit einem Vorwort versehen von Rosenblatt, A. und Gieryn, T.F. Merton, R.K. (1948). The Self-Fulfilling Prophecy. The Antioch Review 8, 193-210. Merton, R.K. (1968). The Matthew Effect in Science. Science 159, 59–63. Merton, R.K. (1983). Auf den Schultern von Riesen. Suhrkamp, Frankfurt a. M. Michell, J. (1986). Measurement Scales and Statistics: A Clash of Paradigms. Psychological Bulletin 100, 398-407. Michell, J. (1997). Quantitative Sciene and the Definition of Measurement in Psychology. British J. of Psychology 88, 355-383.

Literatur

631

Michell, J. (1999). Measurement in Psychology. A Critical History of a Methodological Concept. Cambridge University Press, Cambridge. Michell, J. (2000). Normal Science, Pathological Science and Psychometrics. Theory & Psychology 10(5), 639-667. Michell, J. (2002). Steven’s Theory of Scales of Measurement and Its Place in Modern Psychology. Australien J. of Psychology 54(2), 99-104. Michell, J. (2003a). Epistemology of Measurement: the Relevance of its History for Quantification in the Social Sciences. Social Science Information 42 (4), 515-534. Michell, J. (2003b). The Quantitative Imperative: Positivism, Naive Realism and the Place of Quantitative Methods in Psychology. (Mit Diskussion) Theory & Psychology 13(1), 5-31. Michell, J. (2004). Item Response Models, Patholgical Science and the Shape of Error: Reply to Borsboom and Mellenbergh. Theory & Psychology 14 (1), 121-129. Michell, J. (2005). The Logic of Measurement: A Realist Overview. Measurement 38 (4), 285-294. Mill, J.S. (1843). A System of Logic, Ratiocinative and Inductive. London. Zitiert nach der Ausgabe von Harper & Brothers, New York, 1859. Miller, A.J. (1995). Kommentar zu Chatfield (1995). J. of the Royal Statistical Society A 158(3), 460. Miller, D. (2006). Out Of Error: Further Essays On Critical Rationalism. Ashgate Publishing, Hants, UK. Miller, I; and Miller, M. (1994). Statistical Methods for Quality: With Applications to Engineering and Management. Prentice Hall, Upper Saddle River, NJ. Minkler, J. (Hrsg., 2000). Logic-Based Artificial Intelligence. Springer. Mirowski, P. (1989). More Heat than Light. Economics as Social Physics, Physics as Nature’s Economics. Cambridge University Press, Cambridge. Mises, R. von (1919). Wahrscheinlichkeit, Statistik und Wahrheit. (4. Aufl. 1972) Springer, Wien. Moonesinghe, R.; Khoury, M.J.; and Janssens, A.C.J.W. (2007). Most Published Research Findings Are False — But a Little Replication Goes a Long Way. PLoS Medicine 4(2), 218-221. Moore, D.S. (1990). Kommentar zu Shafer (1990b). Statistical Science 5(4), 454-456. Morgan, A. de (1838). An Essay on Probabilites, and on Their Application to Life Contingencies and Insurance Offices. Longman, London. Morgan, S.L.; and Winship, C. (2007) Counterfactuals and Causal Inference. Cambridge University Press, Cambridge. Morrison, D.E. and Henkel, R.E. (Hrsg., 1970). The Significance Test Controversy Aldine Publishing Company, Chicago, IL. Mosteller, F.; and Tukey, J.W. (1986). Data Analysis, Including Statistics. Kapitel 15 (S. 601-720) in Jones (1986b). Moulines, C.U. (1997). Zur Typologie wissenschaftlicher Entwicklung nach strukturalisitischer Deutung. In: Hubig (1997), 397-410. Mühlhölzer, F. (1996). Symmetry and Invariance. In: Balzer, W., Moulines, C.U. (Hrsg.) Structuralist Theory of Science. De Gruyter, Berlin. Muir, H. (2007). Lightning Balls created in the Lab. New Scientist 2586, 12. Müller, P.H. (Hrsg., 1991). Wahrscheinlichkeitsrechnung und Mathematische Statisitik. Lexikon der Stochastik. (5. Aufl.) Akademie Verlag, Berlin. Murphy, J.J. (2006). Technische Analyse der Finanzmärkte. FinanzBuch Verlag, München. Murphy, S.A.; and van der Vaart, A.W. (2000). On Profile Likelihood. J. of the American Statistical Association 95, 449-465. Musgrave, A. (1981). Unreal Assumptions in Economic Theory: The F Twist Untwisted. Kyklos 34(3), 377-387. Nagel, E. (1979). The Structure of Science: Problems in the Logic of Scientific Explanation (2. Aufl.) Hackett Publishing Company, Indianapolis, IN.

632

Literatur

Nagel, E. (1982). Teleology Revisited and Other Essays in the Philosophy and History of Science. Columbia University Press, New York. Nagel, T. (2004). Concealment and Exposure & Other Essays. Oxford University Press, Oxford. Narens, L. (1985). Abstract measurement theory. MIT Press, London. Narens, L. (2002). Theories of Meaningfulness. Lawrence Erlbaum Associates, London. Nelder, J.A. (1994). The Statistics of Linear Models: Back to Basics. Statistics and Computing 4, 221-234. Nelder, J.A. (1999). Statistics for the Millenium. (Mit Diskussion.) The Statistician 48(2), 257-269. Nelson, R.B. (2006). An Introduction to Copulas. 2. (Aufl.) Springer, Berlin: Springer Series in Statistics. Nester, M.R. (1996). An Applied Statistician’s Creed. Appl. Statist. 45(4), 401-410. Neumann, J. von (1947). The Mathematician. In: Heywood, R. B. (Hrsg.) The Works of the Mind. University of Chicago Press, Chicago, 180-196. Neumann, J. von; and Morgenstern, O. (1944). Theory of Games and Economic Behaviour. Princeton University Press, Princeton, NJ. Newton, I. (1687). Philosophiae Naturalis Principia Mathematica. London. Neyman, J. (1923). Sur les applications de la thar des probabilities aux experiences agaricales: Essay des principles. In Teilen 1990 wiederabgedruckt als On the Application of Probability Theory to Agricultural Experiments. Essay on Principles, Section 9, in: Statistical Science 5, 465-480. Neyman, J. (1934). On the Two Different Aspects or the Representative Method. J. of the Royal Statistical Society 47, 558-625. Neyman, J. (1950). First Course in Probability and Statistics. Henry Holt and Company, New York. Neyman, J. (1952). Lectures and Conferences on Mathematical Statistics and Probability. (2. Aufl.) US Department of Agriculture, Washington D.C. Neyman, J. (1955). The Problem of Inductive Inference. Communications on Pure and Applied Mathematics VIII, 13-46. Neyman, J. (1957). Current Problems of Mathematical Statistics. In: Proc. Internat. Congress Mathematicians (Amsterdam, 1954) 1, 349–370. Noordhoff & North-Holland. Neyman, J. (1961). The Silver Jubilee of My Dispute with Fisher, Journal of the Operations Research Society of Japan, 3, 145-154. Neyman, J. (1967). A Selection of Early Statistcal Papers of J. Neyman. University of Berkeley Press, Berkeley, CA. Neyman, J. (1977). Frequentist Probability and Frequentist Statistics. Synthese 36, 97-131. Neyman, J.; and Pearson, E.S. (1933). On the Problem of the Most Efficient Tests of Statistical Hypotheses. Philosoph. Trans. Royal Soc. London A 231, 289-337. Zitiert nach Kotz und Johnson (1993), 73-108. Neyman, J.; and Scott, E.L. (1948). Consistent Estimates based on Partially Consistent Observations. Econometrika 16, 1-32. Nickerson, R.S. (2000). Null Hypothesis Significance Testing: A Review of an Old and Continuing Controversy. Psychological Methods 5(2), 241-301. Niederée, R. (1994). There is More to Measurement than just Measurement: Measurement Theory, Symmetry and Substantive Theorizing. J. of Math. Psych. 38, 527-594. Nield, T. (2008). Superkontinent. Das geheime Leben unseres Planeten: Eine abenteuerliche Reise durch die Erdgeschichte. Antje Kunstmann Verlag, München. Nikouline, M.; and Solev, V. (2007). Kolmogorov’s ε-entropy and the Problem of Statistical Estimation. Kapitel 6 in Charpentier et al. (2007), 109-137. Nikulin, M.S. (2002). Neyman Structure. In: Hazewinkel, M. (Hrsg.) Encyclopedia of Mathematics. Springer. Siehe http://eom.springer.de/N/n066610.htm Noether, E. (1918). Invariante Variationsprobleme. Nachrichten v. d. Gesell. der Wiss. zu Göttingen, 235-257.

Literatur

633

Novick, M.R. (1994). The Axioms and Principle Results of Classical Test Theory. J. of Math. Psych. 3, 1-18. Nozick, R. (2001). Invariances: The Structure of the Objective World. Belnap Press, Cambridge MA. Numagami, T. (1998). The Infeasibility of Invariant Laws in Management Studies: A Reflective Dialogue in Defense of Case Studies. Organization Science 9(2), 2-15. Nye, M.J. (1972). Molecular Reality: A Perspective on the Scientific Work of Jean Perrin. Watson Publ. Int. O’Hagan, A. (1995). Kommentar zu Chatfield (1995). J. of the Royal Statistical Society A 158(3), 460. Oakes, M. (1986). Statistical Inference: A Commentary for the Social and Behavioral Sciences. Wiley, New York. Okasha, S. (2002). Philosophy of Science. A very Short Introduction. Oxford University Press, Oxford. Olson, D.L.; and Delen, D. (2008). Advanced Data Mining Techniques. Springer. Ornstein, D.S. (1989). Ergodic Theory, Randomness, and “Chaos”. Science 243, 182-187. Ornstein, D.S.; and Weiss, B. (1991). Statistical Properties of Chaotic Systems. Bull. American Math. Soc. (New Series) 24, 11-116. Osherson, D.N., Smith, E.E., Wilkie, O., Lopez, A.; and Shafir, E. (1990). Category-Based Induction. Psychological Review 97, 185-200. Ottenbacher, K.J. (1996). The Power of Replications and Replications of Power. The American Statistician 50(3), 271-275. Oxford Centre for Evidence-based Medicine. Levels of Evicence (March 2009). Website, Aufruf am 07. 09. 2009. Siehe www.cebm.net/index.aspx?o=1025 Pagels, H.R. (1985). Perfect Symmetry. The Search for the Beginning of Time. Simon and Schuster, New York. Parzen, E. (o. J.) Data Mining, Statistical Methods Mining and History of Statistics. Preprint: Department of Statistics, Texas A & M Univ. Siehe www.stat.tamu.edu/ ftp/pub/eparzen/future.pdf und www.stat.tamu.edu/people/faculty/eparzen.html/ Pascal, B. (2000). Oeuvres complètes (2 Bde.) Gallimard, Paris: Bibliothèques de la Pléiade. Pawitan, Y. (2001). In all Likelihood: Statistical Modelling and Inference Using Likelihood. Clarendon Press, Oxford. Pearl, J. (1995). Causal Diagrams for Empirical Research. (Mit Diskussion) Biometrika 82(4), 669-710. Pearl, J. (2000a). Causality. Models, Reasoning and Inference. Cambridge University Press. Pearl, J. (2000b). Kommentar zu Dawid (2000). Journal of the American Statistical Association 95, 428-431. Pearl, J. (2009a). Causality. Models, Reasoning and Inference. (2. Aufl.) Cambridge University Press. Pearl, J. (2009b). Causal Inference in Statistics: An Overview. Statistics Surveys 3, 96-146. Pearson, E.S. (1938). Student as Statistician. Biometrika 30, 210-250. Pearson, E.S. (1955). Statistical Concepts and their Relation to Reality. J. of the Royal Statistical Society, Ser. B 17(2), 204-207. Pearson, E.S. (1962). Some Thoughts on Statistical Inference. Ann. Math. Stat. 33(2), 394-403. Wiederabgedruckt in: The selected papers of E. S. Pearson (1966). Cambridge University Press, Cambridge. Pearson, K. (1892). The Grammar of Science. Walter Scott, London. Revidierte Auflagen 1900 und 1911. Pearson, K. (1935). Statistical Tests. Letter to Nature 136, 550. Pearson, K.; Lee, A.; and Bramley-Moore, L. (1899). Genetic (Reproductive) Selection: Inheritance of Fertility in Man. Phil. Trans. fo the Royal Society, Ser. A 73, 534-539.

634

Literatur

Peirce, C.S. (1878). The Probability of Induction. Popular Science Montly. Wiederabgedruckt in: Newman, J.R. (Hrsg., 1956) The World of Mathematics 2. Simon and Schuster, New York, 1341-1354. Penston, J. (2003). Fiction and Fantasy in Medical Research. The Large-Scale Randomised Trial. The London Press, London. Perrin, J. (1990). Atoms. Ox Bow Press, Woodbridge, CT. Petersohn, H. (2005). Data Mining. Verfahren, Prozesse, Anwendungsarchitektur. Oldenbourg. Peto, R.; Pike, M.C.; Armitage, P.; Breslow, N.E.; Cox, D.R.; Howard, S.V.; Mantel, N.; McPherson, K.; Peto, J.; and Smith, P.G. (1976). Design and Analysis of Randomized Clinical Trials requiring prolonged Oberservation of each Patient, I: Introduction and Design. British J. of Cancer 34, 585-612. Pfanzagl, J. (1968). Theory of Measurement. Physica Verlag, Würzburg. Pitman, E.J.G. (1957). Statistics and Science. J. of the American Statistical Association 52, 322-330. Planck, M. (1913). Rektoratsrede vom 15.10.1913. In: Kretzschmar, H. (1967). Max Planck als Philosoph. E. Reinhardt Verlag, München, Basel. Plickert, P. (2008). Konjunkturprognosen sind besser als ein Münzwurf. Herdentrieb der Ökonomen. Faz.Net, 25. Juli 2008. Pocock, S.J.; and Simon, R. (1975). Sequential Treatment Assignment with Balancing for Prognostic Factors in the Controlled Clinical Trial. Biometrics 31, 103-115. Pogue, J.; and Yusuf, S. (1998). Overcoming the Limitations of Current Meta-Analysis of Randomised Controlled Trials. The Lancet 351, 47-52. Pöppe, C. (2007) Was ist wirklich rational? Spektrum der Wissenschaft 11, 98-103. Popper, K.R. (1935). Logik der Forschung. Mohr Siebeck, Tübingen. Popper, K.R. (1946). The Open Society and Its Enemies. Routledge, London. Popper, K.R. (1959). The Propensity Interpretation of Probability, British Journal of the Philosophy of Science 10, 25-42. Popper, K.R. (1974). Objektive Erkenntnis. (2. Aufl.) Hoffmann und Campe, Hamburg. Popper, K.R.; and Miller, D.W. (1983). A Proof of the Impossibility of Inductive Probability. Nature 302, 687-688. Post, H.R. (1971). Correspondence, Invariance and Heuristics: In Praise of Conservative Induction. Studies in history and philosophy of science 2(3), 213-255. Pratt, J.W. (1976). A Discussion of the Question: of what use are Tests of Hypotheses and Tests of Significance? Comm. in Statistics - Theory and Methods 5(8), 779-787. Pratt, J.W.; and Schlaifer, R. (1984). On the Nature and Discovery of Structure. J. of the American Statistical Association 79, 9-33. Pratt, J.W.; and Schlaifer, R. (1988). On the Nature and Discovery of Law. J. of Econometrics 39, 23-52. Prechter, R.; und Frost, A.J. (2003). Das Elliott-Wellen-Prinzip. Schlüssel für Gewinne am Markt: Der Schlüssel zu einem besseren Börsenverständnis. FinanzBuch Verlag, München. Pukelsheim, F. (1993). Optimal Design of Experiments. Wiley, New York. Quenouille, M.H. (1949). Approximate Tests of Correlation in Time Series. J. of the Royal Statistical Society, Ser. B, 11, 18-44. Quine, W.V.O. (1980). From a Logical Point of View. Taschenbuchausgabe der 2. Aufl. 1961 mit einem zusätzlichen Vorwort. Harvard University Press, Cambridge, MA. Ramamoorthi, R.V.; and Ghosh, J.K. (2003). Bayesian Nonparametrics. Springer, Berlin: Springer Series in Statistics. Ramsey, F.P. (1926). Truth and Probability. In: Ramsey (1931), The Foundations of Mathematics and other Logical Essays, ch. VII (S. 156-198), hrsg. von Braithwaithe, R.B. Kegan, Paul, Trench, Trubner & Co., London. Rand, K.L.; and Ilard, S.S. (2005). Toward a Consilient Science of Psychology. J. of Clinical Psychology 61(1), 7-20.

Literatur

635

Rao, C.R. (1945). Information and Accuracy in the Estimation of Parameters. Bull. Calcutta Math. Soc. 37, 81-91. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 235-248). Rao, C.R. (1992). R. A. Fisher: The Founder of Modern Statistics. Statistical Science 7, 34-48. Rao, C.R. (1995). Was ist Zufall? Statistik und Wahrheit. Prentice Hall, NJ. Rao, C.R. (2001). Linear Statistical Inference and its Applications. (2. Aufl.) Wiley Interscience. 1. Aufl. 1965. Rasch, D.; Herrendörfer, G. und Bock, J. (1978). Verfahrensbibliothek: Versuchsplanung und Auswertung. Deutscher Landwirtschaftsverlag, Berlin. Reichenbach, H. (1947). Rationalismus und Empirismus: Eine Untersuchung der Wurzeln philosophischen Irrtums. Vortrag, gehalten am 30. Dezember 1947. Zitiert nach: Kamalah und Reichenbach (1977), 451-465. Reichenbach, H. (1949). The Theory of Probability. An Inquiry into the Logical and Mathematical Foundations of the Calculus of Probabilities. (2. Aufl.) University of California Press, Berkeley, CA. Reichenbach, H. (1951). The Rise of Scientific Philosophy. University of California Press, Berkeley, CA. Reichenbach, H. (1956). The Direction of Time. University of California Press, Berkeley, CA. Reichenbach, H. (1968). Der Aufstieg der wissenschaftlichen Philosophie. (2. Aufl.) Vieweg, Braunschweig. 1. deutsche Aufl. 1953. Zitiert nach: Kamalah und Reichenbach (1977), 85-450. (In der 2. deutschen Auflage entspricht dies den Seiten 5-370.) Reid, C. (1982). Neyman - From Life. Springer, New York. Reid, N. (1995). The Roles of Conditioning in Inference. Statistical Science 10(2), 138-199. Rennie, D.; and Flanagin, A. (1992). Publication Bias - The Triumph of Hope over Experience. Journal of the American Medical Association 267, 411-412. Rényi, A. (1972). Dialoge über Mathematik. VEB Deutscher Verlag der Wissenschaften, Berlin. Resnick, S.I. (2002). Adventures in Stochastic Processes. (2. Aufl.) Birkhäuser, Boston. Rissanen, J. (1983). A Universal Prior for Integers and Estimation by Minimum Desription Length. Annals of Statistics 11(2), 416-431. Rissanen, J. (1989). Stochastic Complexity in Statistical Inquiry. World Scientific, Singapore: Series in Computer Science 15. Rissanen, J. (2007). Information and Complexity in Statistical Modelling. Springer, New York. Robbins, H. (1956). An Empirical Bayes Approach to Statistics. In: Proceedings of the Third Berkeley Symposium on Mathematical Statistics 1, 157-163. University of California Press, Berkeley, CA. Wiederabgedruckt in Kotz und Johnson (1993: Bd. I, 388-394). Robbins, H. (1975). Wither Mathematical Statistics? Suppl. Adv. Appl. Prob. 7, 116-121. Robert, C.P. (2007). The Bayesian Choice. From Decision-Theoretic Foundations to Computational Implementation. (2. Aufl.) Springer, Berlin. Robert, C.P.; and Casella, G. (2004). Monte Carlo Statistical Methods. (2. Aufl.) Springer, Berlin. Roberts, H.V. (1990). Applications in Business and Economic Statistics: Some Personal Views. Statistical Science 5, 372-390. Robins, J.M.; and Greenland, S. (2000). Kommentar zu Dawid (2000). Journal of the American Statistical Association 95, 431-435. Rodríguez, C. (2005) The ABC of model selection: AIC, BIC and the New CIC. In: Knuth, K. (Hrsg.) Bayesian Inference and Maximum Etnropy in Science and Engineering: 25th international Workshop at San José, California. August 7-12, 2005. AIP Conference Proceedings 803, 80-87. Rose, U. (2004). Thomas S. Kuhn: Verständnis und Mißverständnis. Zur Geschichte seiner Rezeption. Dissertation, Universität Göttingen.

636

Literatur

Rosenbaum, P.R. (1995). Kommentar zu Pearl (1995). Biometrika, 82(4), 698-699. Rosenbaum, P.R. (2002). Observational Studies. (2. Aufl.) Springer, New York: Springer Series in Statistics. 1. Aufl. 1995. Rosenbaum, P.R.; and Rubin, D.B. (1983). The Central Role of the Propensity Score in Observational Studies for Causal Effects. Biometika, 70(1), 41-55. Rosenbaum, P.R.; and Rubin, D.B. (1985). Constructing a Control Group Using Multivariate Matched Sampling Methods that Incorporate the Propensity Score. The American Statistician, 39, 33-38. Rosenberg, A. (2005). Philosophy of Science. A Contemporary Introduction. (2. Aufl.) Routledge, New York. 1. Aufl. 2000. Rosenberger, W.F.; and Lachin, J.M. (2002). Randomization in Clinical Trials. Theory and Practice. Wiley, New York: Wiley Series in Probability and Statistics. Rosenthal, R. (1966). Experimenter Effects in Behavioral Research. Appleton, New York. Rosenthal, R. (1978). Combining Results of Independent Studies. Psychological Bulletin 85, 185-193. Rosenthal, R. (1979). The ‘File Drawer Problem’ and Tolerance for Null Results. Psychological Bulletin 86, 638-641. Rosenthal, R. (1981). Pavlov’s Mice, Pfungst’s Horse, and Pygmalion’s PONS: some Models for the Study of Interpersonal Expectancy Effects. Annals of the New York Academy of Science 364, 182-198. Rosenthal, R. (1990). Replication in Behavioral Research. In: Neulep, J. W. (Hrsg.) Handbook of Replication Research in the Behavioral and Social Sciences. Sage Publ., Newbury Park, CA, 1-30. Rosenthal, R.; and Jacobson, L. (1992). Pygmalion in the Classroom. Irvington, New York. Rosnow, R.L.; and Rosenthal, R. (1989). Statistical Procedures and the Justification of Knowledge in Psychological Science. American Psychologist 44, 1276-1284 Rost, J. (2004). Lehrbuch Testtheorie - Testkonstruktion. (2. Aufl.) Huber, Bern. Rothman, K.J. (Hrsg., 1988). Causal Inference. Epidemiology Resources Inc., Chestnut Hill, MA. Rothman, K.J. (2008). No Adjustments Are Needed for Multiple Comparisons. Epidemiology 1(1), 43-46. Rothman, K.J.; Greenland, S.; and Lash, T.L. (2008). Modern Epidemiology. (3. Aufl.) Lippincott Williams & Wilkins. Rott, H. (1998). Making up One’s Mind: Foundations, Coherence, Nonmonotinicity. Oxford. Royall, R.M. (1986). The Effect of Sample Size on the Meaning of Significance Tests. American Statistician 40(4), 313-315. Royall, R.M. (1991). Ethics and Statistics in Randomized Clinical Trials. (Mit Diskussion) Statistical Science 6(1), 52-88. Royall, R.M. (1997). Statistical Evidence. A Likelihood Paradigm. Chapman & Hall, London. Royall, R.M. (2000). On the Probability of Observing Misleading Statistical Evidence. (Mit Diskussion) J. of the American Statistical Association 95, 760-780. Rubin, D.B. (1978). Bayesian Inference for Causal Effects: The Role of Randomization. Annals of Statistics 6, 34-58. Rubin, D.B. (1990). Comment: Neyman (1923) and Causal Inference in Experiments and Observational Studies. Statistical Science 5(4), 472-480. Rubin, D.B. (1991). Practical Implications of Modes of Statistical Inference for Causal Effects and the Critical Role of the Assignment Mechanism. Biometrics 4, 1213-1234. Zitiert nach Kapitel 24 in Rubin (2006), 402-425. Rubin, D.B. (1993). The Future of Statistics. Statistics and Computing 3, 204. Rubin, D.B. (2004). Multiple Imputation for Nonresponse in Surveys. Nachdruck in der Wiley Classics Library, New York. 1. Aufl. 1987. Rubin, D.B. (2006). Matched Sampling for Causal Effects. Cambridge University Press, Cambridge.

Literatur

637

Rubin, D.B.; and Thomas, N. (1992). Affinely Invariant Matching Methods with Ellipsoidal Distributions. The Annals of Statistics 20, 1079-1093. Wiederabgedruckt als Kapitel 15 in Rubin (2006), 235-248. Rubin, H. (1971). Occam’s Razor needs New Blades. (Mit Diskussion) In: Godambe and Sprott (1971), 372-377. Ruelle, D. (1992). Zufall und Chaos. Springer Verlag, Berlin, Heidelberg. Ruppert, D.; Wand, M.P.; and Carroll, R.J. (2003). Semiparametric Regression. Cambridge University Press, Cambridge. Ruspini, E. (1987). Epistemic Logics, Probability, and the Calculus of Evidence. Proceedings of the 10th International Joint Conference on Artifical Intelligence IJCAI) Elsevier, 924-931. Wiederabgedruckt als Kapitel 17 in Yager et al. (2008), 435-448. Russ, H.G. (2004). Wissenschaftstheorie, Erkenntnistheorie und die Suche nach Wahrheit. Kohlhammer, Stuttgart. Russell, B. (1897). On the Relation of Number and Quantity. Mind 6, 346-341. Russell, B. (1903). Principles of Mathematics. Cambridge University Press, Cambridge. Russell, B. (1913). On the Notion of Cause. Proceedings of the Aristotelian Society (New Series) 13, 1-26. Rust, J. (1997). Using Randomization to Break the Curse of Dimensionality. Econometrica 65(3), 487-516. Sackett, D.L.; and Oxman, A.D. (2003). HARLOT plc: An Amalgamation of the World’s two oldest Professions. British Medical Journal 327, 1442-1445. Saint-Mont, U. (2000). Kontexte als Modelle der Welt. Subjektive Erkenntnis- und Wissenschaftstheorie. Duncker & Humblot, Berlin: Erfahrung und Denken, Bd. 85. Saint-Mont, U. (2002). Das Spiel der Interessen. Peter Lang, Europäischer Verlag der Wissenschaften, Frankfurt a. M.: Koinon, Sozialwissenschaftliche interdisziplinäre Studien, Bd. 6. Saint-Mont, U. (2009). Statistik im Forschungszirkel. Information, Induktion und Invarianz. Habilitationsschrift, Universität Trier. Saint-Mont, U. (2010). Randomization Does not Help Much. Eingereicht. Salmon, W.C. (1989). Four Decades of Scientific Explanation. University of Minnesota Press, Minnesota, MN. Salsburg, D.S. (1973). Sufficiency and the Waste of Information. The American Statistician 27(4), 152-154. Salsburg, D.S. (1985). The Religion of Statistics as practiced in Medical Journals. The American Statistician 39(3), 220-223. Samuelson, P.A. (1963). Comments on Ernest Nagel’s ‘Assumptions in Economic Theory’. American Economic Review (May). Wiederabgedruckt in: Stiglitz, J. E. (Hrsg., 1966). The Collected Scientific Papers of Paul A. Samuelson. MIT Press, Cambridge, MA 2(129), 1772-1778. Sarstedt, M. (2006). Sample- and Segment-Size Specific Model Selection in Mixture Regession Analysis. A Monte Carlo Simulation Study. Discussion Paper No. 1252. Münchener Wirtschaftswissenschaftliche Beiträge (BWL). Siehe http://epub.ub.unimuenchen.de/1252/ Satelli, A.; Tarantola, S.; Campolongo, F.; and Ratto, M. (2004). Sensitivity Analysis in Practice: A Guide to Assessing Scientific Models. Wiley, Hoboken. Savage, C.W. und Ehrlich, P. (1992). Philosophical and Foundational Issues in Measurement Theory. Lawrence Erlbaum, Hillsdale, NJ. Savage, L.J.H. (1954). The Foundations of Statistics. Wiley, New York. Savage, L.J.H. (1961). The Subjective Basis of Statistical Practice. Technical Report, Department of Statistics, University of Michigan, Ann Arbor, MI. Savage, L.J.H. (1972). The Foundations of Statistics. (2. Aufl.) Dover, New York. 1. Aufl. 1954. Savage, L.J.H. (1976). On Rereading R. A. Fisher. (Mit Diskussion) Annals of Statistics 4, 441-500.

638

Literatur

Sawilowsky, S.S. (2002). Fermat, Schubert, Einstein, and Behrens–Fisher: The Probable Difference Between Two Means When σ12 = σ22 . Journal of Modern Applied Statistical Methods, 1(2), 461-472. Scargle, J.D. (2000). Publication Bias: The “File-Drawer” Problem in Scientific Inference. J. of Scientific Exploration 14(1), 91-106. Scheines, R.; Spirtes, P.; Glymour, C.; Meek, C.; and Richardson, T. (1998). The TETRAD Project: Constraint Based Aids to Causal Model Specification und Reply to Comments. Multivariate Behavioral Research 33(1), 65-117 und 165-180. Schirach, F. von (2009). Verbrechen. (9. Aufl.) Springer, Wien. Schiller, F. (1987). Sämtliche Werke, Band I. (8. Aufl.) Wissenschaftliche Buchgesellschaft, Darmstadt. Schilling, R. (2005). Measures, Integrals and Martingales. Cambridge University Press, Cambridge. Schleichert, H. (1966). Elemente der physikalischen Semantik. Oldenbourg, Wien und München. Schlick, M. (1979). Allgemeine Erkenntnislehre. Suhrkamp, Frankfurt a. M. Wiederabdruck der 2. Aufl., erschienen im Verlag J. Springer, Berlin (1925). Schlick, M. (1986). Die Probleme der Philosophie in ihrem Zusammenhang. Vorlesung aus dem Wintersemester 1933/34. (Mulder, H.; Kox, A.J. und Hegelsmann, R., Hrsg.) Suhrkamp, Frankfurt a. M. Schlittgen, R; und Streitberg, B.H.J. (2001). Zeitreihenanalyse. (9. Aufl.) Oldenbourg, München. Schmidt, F. (1992). What Do Data Really Mean? Research Findings, Meta-Analysis, and Cumulative Knowledge in Psychology. American Psychologist 47, 1173-1181. Schmidt, F. (1996). Statistical Signifcance Testing and Cumulative Knowledge in Psychology: Implications for Training of Researchers. Psychological Methods 1(2), 115-129. Schmitt, S. (2007). Golfstrom. Böses Bauchgefühl des Forscher-Orakels. Spiegel Online, 2. 7. 2007. Siehe www.spiegel.de/wissenschaft/natur/0,1518,491943,00.html Schmutzer, E.; und Schütz, W. (1989). Galileo Galilei. (6. Aufl.) Teubner, Leipzig. Schönemann, P.H. (1994). Measurement: The Reasonable Ineffectiveness of Mathematics in the Social Sciences. In: Borg, I.; and Mohler, P. (Hrsg.) Trends and Perspectives in Empirical Social Research De Gruyter, Berlin, 149-160. Schülein, J.A.; und Reitze, S. (2002). Wissenschaftstheorie für Einsteiger. WUV Facultas, Wien. Schurz, G. (2006). Einführung in die Wissenschaftstheorie. Wissenschaftliche Buchgesellschaft, Darmstadt. Schurz, G. (2007). Wissenschaftliche Erklärungen. Kapitel 3 in Bartels und Stöckler (2007), 69-88. Schwarz, G. (1978). Estimating the Dimension of a Model. Annals of Statistics 6(2), 461464. Sedlmeier, P. (1996). Jenseits des Signifikanztest-Rituals: Ergänzungen und Alternativen. Methods of Psychological Research Online 1(4), 41-63. Sedlmeier, P.; and Gigerenzer, G. (1989). Do Studies of Statistical Power have an Effect on the Power of Studies? Psychological Bulletin 105(2), 309-316. Sedlmeier, P. und Renkewitz, F. (2008). Forschungsmethoden und Statistik in der Psychologie. Pearson Studium, München. Seidenfeld, T. (1979). Philosophical Problems of Statistical Inference. Learning from R. A. Fisher. D. Reidel, Dordrecht. Seidenfeld, T. (1986). Entropy and Uncertainty. Philosophy of Science 53, 467-491. Sellke, T.; Bayarri, M.J.; and Berger, J.O. (2001). Calibration of P -values for Testing Precise Null Hypotheses. The American Statistician 55, 62-71. Selvin, H; and Stuart, A. (1966). Data Dredging procedures in Survey Analysis. The American Statistician 20(3), 20-23. Senn, S. (1991). Falsification and Clincal Trials. Statistics in Medicine 10, 1679-1692.

Literatur

639

Senn, S. (1994). Fisher’s Game with the Devil. Statistics in Medicine 13, 217-230. Senn, S. (2000). Consensus and Controversy in Pharmaceutical Statistics. (Mit Diskussion) The Statistician 49(2), 135-176. Senn, S. (2003). Bayesian, Likelihood, and Frequentist Approaches to Statistics. A Comparison of Methods. Applied Clinical Trials 12(8), 35-38. Shadish, W.R., Cook, T.D., and Campbell, D.T. (2002). Experimental and QuasiExperimental Designs for Generalized Causal Inference. Houghton Mifflin Company. Shafer, G. (1976). A Mathematical Theory of Evidence. Princeton University Press, Princeton, NJ. Shafer, G. (1978). Non-Additive Probabilities in the Work of Bernoulli and Lambert. Archive for History of Exact Sciences 19, 309-370. Wiederabgedruckt als Kapitel 6 in Yager et al. (2008), 177-182. Shafer, G. (1990a). Perspectives on the Theory and Practice of Belief Functions. J. of Approximate Reasoning 4, 323-362. Shafer, G. (1990b). The Unity and Diversity of Probability. (Mit Diskussion) Statistical Science 5(4), 435-462. Shafer, G. (1996). The Art of Causal Conjecture. The MIT Press, Cambridge, MA. Shafer, G.; and Tversky, A. (1985). Languages and Designs for Probability Judgement. Cognitive Science Society 9, 309-339. Wiederabgedruckt als Kapitel 13 in Yager et al. (2008), 345-374. Shafer, G.; and Vovk, V. (2001). Probability and Finance. It’s only a Game! Wiley, New York: Wiley Series in Probability and Statistics. Shahar, E. (1997). A Popperian Perspective of the Term ‘Evidence-Based’ Medicine. Journal of Evaluation in Clinical Practice 3(2), 109-116. Shamir, O.; Sabato, S.; and Tishby, N. (2008). Learning and Generalization with the Information Bottleneck. Proceedings of the 10th International Symposium on AI and Mathematics (ISAIM 2008). Siehe www.cs.huji.ac.il/labs/learning/Papers/ IBM_list.html Shannon, C.E. (1948). A Mathematical Theory of Communication. The Bell System Technical Journal 27, 379-423 und 623-656. Shao, J.; and Tu, D. (1995). The Jackknife and Bootstrap. Springer: Springer Series in Statistics. Shapiro, S. (1997). Philosophy of Mathematics. Structure and Ontology. Oxford University Press, Oxford. Shapiro, S. (2005). The Oxford Handbook of Philosophy of Mathematics and Logic. Oxford University Press, Oxford. Shen, X.; and Ye, J. (2002). Adaptive Model Selection. J. of the American Statistical Association 97, 210-221. Shenoy, P.P.; and Shafer, G. (1990). Axioms for Probability and Belief-Function Propagation. In: Schachter, R.D.; Levitt, T.; Lemmer, J.F.; and Kanal, L.N. (Hrsg.) Uncertainty in Artificial Intelligence 4, 169-198. Wiederabgedruckt als Kapitel 20 in Yager et al. (2008), 499-528. Sheyinn, O.B. (1977). Early History of the Theory of Probability. Archive for History of Exact Sciences 17(3), 201-259. Shiller, R.J. (2005). Irrational Exuberance. (2. Aufl.) Princeton University Press, Princeton. Shipley, B. (2000). Cause and Correlation in Biology. A User’s Guide to Path Analysis, Structural Equations and Causal Inference. Cambridge University Press, Cambridge. Simon, F.B. (2007). Einführung in Systemtheorie und Konstruktivismus. (3. Aufl.) CarlAuer Verlag, Heidelberg. Simpson, E.H. (1951). The Interpretation of Interaction in Contingency Tables. J. of the Royal Statistical Society, Ser. B 13, 238-241. Sinkkonen, J. (2002). What is the Curse of Dimensionality? Teil 2 von 7 des Dokuments comp.ai.neural-nets FAQ. (comp.ai.neural-nets ist eine Usenet Newsgroup.) Siehe www.faqs.org/faqs/ai-faq/neural-nets/part2/section-13.html

640

Literatur

Smets, P. (1993). Belief Functions: The Disjunctive Rule of Combination and the Generalized Bayesian Theorem. International Journal of Approximate Reasoning 9, 1-35. Wiederabgedruckt als Kapitel 25 in Yager et al. (2008), 633-664. Smith, R. (2003). Medical Journals and Pharmaceutical Companies: Uneasy Bedfellows. British Medical Journal 326, 1202–1205. Smith, R. (2005). Medical Journals are an Extension of the Marketing Arm of Pharmaceutical Companies. PLoS Med 2(5), e138. doi:10.1371/journal.pmed.0020138 Smolin, L. (2006). The Trouble with Physics — The Rise of String Theory, the Fall of a Science, and What Comes Next. Penguin Books, London. Snow, C. P. (1959). The two Cultures. Cambridge University Press, Cambridge. Zitiert nach der Canto-edition (1993). Sobel, M.E. (1995). Causal Inference in the Social and Behavioral Sciences. In: Arminger, G.; Clogg, C.C.; and Sobel, M.E. (Hrsg.) Handbook of Statistical Modeling for the Social and Behavioral Sciences. Plenum, New York, 1-38. Sobel, M.E. (2005). Kommentar zu Heckman (2005). Sociological Methodology 35, 99-133. Sober, E. (2004). The Contest between Parsimony and Likelihood. Syst. Biol. 53(4), 644653. Sohn, D. (1998). Statistical Significance and Replication: Why the Former does not Pressage the Latter. (Mit Diskussion) Theory & Psychology 8(3), 291-334. Sokal, A.D. (1996). Transgressing the Boundaries: Toward a Transformative Hermeneutics of Quantum Gravity. Social text 46 & 47, 217-252. Sokal, A.D. (1998). What the Social text Affair does and does not Prove. Beitrag 1 in: Koertge (1998), 9-22. Sokal, A.D. (2006). Pseudoscience and Postmodernism: Antagonists or Fellow-Travelers? In: Fagan, G.G. (Hrsg.) Archaeological Fantasies: How Pseudoarchaeology Misrepresents the Past and Misleads the Public. Routledge, London, 286-361. Sokal, A.D. (2008). What is Science and Why Should We Care? Vortrag, gehalten am 27.02.2008. Siehe www.physics.nyu.edu/faculty/sokal/ Sokal, A.D.; and Bricmont, J. (1998). Fashionable Nonsense. Postmodern Intellectuals’ Abuse of Science. Picador, New York. Solomonoff, R. (1964). A Formal Theory of Inductive Inference, Parts I and II. Information and Control 7, 1-22, 224-254. Solow, R.M. (1956). A Contribution to the Theory of Economic Growth. Quarterly Journal of Economics 70(1), 65-94. Soofi, E.S. (1994). Capturing the Intangible Concept of Information. J. of the American Statistical Association 89, 1243-1254. Soofi, E.S. (2000). Principal Information Theoretic Approaches. J. of the American Statistical Association 95, 1349-1353. Speed, T. (2006). Terence’s Stuff: Bayes Forever. IMS Bulletin, 7. Spiegelhalter, D.J.; Best, N.G.; Carlin, B.P.; and van der Linde, A. (2002). Bayesian Measures of Complexity and Fit. (Mit Diskussion) J. of the Royal Statistical Society, Ser. B 64(4), 583-639. Spielhalter, D.J.; Freedman, L.S.; and Parmar, M.K.B. (1994). Bayesian Approaches to Randomized Trials. (Mit Diskussion) J. of the Royal Statistical Society, Ser. A 157 (3), 357-416. Spielman, S. (1973). A Refutation of the Neyman-Pearson Theory of Testing. Brit. J. for the Philosophy of Science 24, 201-222. Spielman, S. (1974). The Logic of Tests of Significance. Phil. of Science 41(3), 211-226. Spirtes, P.; Glymour, C.; and Scheines, R. (2000). Causation, Prediction, and Search. (2. Aufl.) The MIT Press, Cambridge, MA. Spirtes, P.; Scheines, R.; Glymour, C.; Richardson, T.; and Meek, C. (2004). Causal Inference. Kapitel 24 in Kaplan (2004), 447-477.

Literatur

641

Spohn, W. (1988). Ordinal Conditional Functions. A Dynamic Theory of Epistemic States. In: Harper, W.L.; and Skyrms, B. (Hrsg.) Causation in Decision, Belief Change, and Statistics, Vol. II. Springer, Berlin, 105-134. Spohn, W. (1990). Direct and Indirect Causes. Topoi 9, 125-145. Sprent, P. (1998). Satistics and Mathematics - Trouble at the Interface? The Statistician 47(2), 239-244. Stalker, D. (1992). Grue!: The New Riddle of Induction. Open Court, Chicago, IL. Stanford Encyclopedia of Philosophy. Artikel über „John Locke“, Version vom 5. 5. 2007. Siehe http://plato.stanford.edu/entries/locke/ Starkman, G.D. und Schwarz, D.J. (2005). Missklänge im Universum. Spektrum der Wissenschaft. 12, 30-37. Stegmüller, W. (1973). Probleme und Resultate der Wissenschaftstheorie und Analytischen Philosophie, Band IV: Personelle und statistische Wahrscheinlichkeit; zweiter Halbband (Teil III): Die logischen Grundlagen des statistischen Schließens. Springer, Berlin. Stegmüller, W. (1979). The Structuralist View of Theories: A Possible Analogue of the Bourbaki Programme in Physical Science. Springer. Stegmüller, W. (1986). Theorie und Erfahrung, zweiter Halbband: Theorienstrukturen und Theoriendynamik (1973, zweite überarbeitete Aufl. 1985); dritter Teilband: Die Entwicklung des neuen Strukturalismus seit 1973. Springer, Berlin. Steiger, J.H. (1990). Structural Model Evaluation and Modification: An Interval Estimation Approach. Multivariate Behavioral Research 25, 173-180. Stein, C. (1956). Inadmissibility of the Usual Estimator for the Mean of a Multivariate Normal Distribution. Proceedings of the Third Berkeley Smposium on Mathematical Statistics and Probability; University of Berkeley Press, Berkeley, CA 1, 197-206. Steingart, G. (2008). Vorwahlkampf. Der Selbstverrat der US-Medien. Spiegel Online, 13. 5. 2008. Siehe www.spiegel.de/politik/ausland/0,1518,552874,00.html Steinwart, I.; and Christmann, A. (2008). Support Vector Machines. Springer. Stevens, S.S. (1935). The Operational Definition of Psychological Terms. Psychological Review (42), 517-527. Stevens, S.S. (1936a). Psychology: the Propaedeutic Science. Philosophy of Science (3), 90-103. Stevens, S.S. (1936b). A scale for the Measurement of a Psychological Magnitude: Loudness. Psychological Review (43), 405-416. Stevens, S.S. (1946). On the Theory of Scales of Measurement. Science (103), 677-680. Stevens, S.S. (1951). Mathematics, Measurement and Psychophysics. In: Stevens, S.S. (Hrsg.) Handbook of Experimental Psychology. Wiley, New York, 1-49. Stevens, S.S. (1968). Measurement, Statistics, and the Schemapiric View. Science 161, 849-856. Steyer, R. und Eid, M. (1993). Messen und Testen. Springer, Berlin. Stigler, S.M. (1986). The History of Statistics. The Measurement of Uncertainty before 1900. The Belknap Press of Harvard University Press, Cambridge, MA. Stigler, S.M. (1999). Statistics on the Table. The History of Statistical Concepts and Methods. Harvard University Press, Cambridge, MA. Stöltzner, M. und Uebel, T. (Hrsg., 2006). Wiener Kreis. Texte zur wissenschaftlichen Weltauffassung von Rudolf Carnap, Otto Neurath, Moritz Schlick, Philipp Frank, Hans Hahn, Karl Menger, Edgar Ziesel und Gustav Bergmann. Felix Meiner Verlag, Hamburg. Stone, M. (1977). An Asymptotic Equivalence of Choice of Model by Cross-Validation and Akaike’s Criterion. J. of the Royal Statistical Society, Ser. B 39, 44-47. Stone, R. (1993). The Assumptions on which Causal Inferences rest. J. of the Royal Statistical Society, Ser. B 55(2), 455-466. Störig, H. (1987). Kleine Weltgeschichte der Philosophie. Fischer Taschenbuch Verlag, Frankfurt a. M.

642

Literatur

Stove, D. (2000). Scientific Irrationalism. Origins of a Postmodern Cult. Transaction Publishers, New Brunswick. Zunächst publiziert unter dem Titel “Anything Goes: Origins of the Cult of Scientific Irrationalism”, Macleay Press, 1998. Strevens, M. (1998). Inferring Probabilities from Symmetries. Noûs 32(2), 231-246. Studený, M. (2005). Probabilistic Conditional Independence Structures. Springer, New York: Information Science and Statistics. Sullivan, P.A. (1998). An Engineer dissects two Case Studies. Hayles on Fluid Mechanics and MacKenzie on Statistics. In: Koertge (1998), Kapitel 5, 71-98. Sullivan, P.R. (2006). Are Current Philosophical Theories of Consciousness Useful for Neuroscientists? Behavior and Philosophy 34, 59-70. Sunstein, C.R. (2009). Infotopia. Suhrkamp, Frankfurt a.M. Suppes, P. (1982). Arguments for Randomizing. In: Asquith,P.D.; and Nickles, T. (Hrsg.) PSA 1982. Proceedings of the 1982 Biennial Meeting of the Philosophy of Science Association, Bd. 2 „Symposia“. Philosophy of Science Association, East Lansing, MI, 464-475. Suppes, P. (1988). Kommentar zu Good (1988). Statistical Science 3(4), 398-400. Suppes, P. (2001). Representation and Invariance of Scientific Structures: Problems of Representation and Invariance (CSLI Lecture Notes). Center for Study of Language & Information. Suppes, P. (2009). Some Philosophical Reflections on de Finetti’s Thought. In: Galavotti (2009), 19-39. Suppes, P.; Krantz, D.H.; Luce, R.D.; and Tversky, A. (1989). Foundations of Measurement, Bd. 2. Academic Press, New York, London, San Diego. Suppes, P.; and Zinnes, J.L. (1968). Basic Measurement Theory. In: Luce R.D.; Bush R.R.; and Galanter, E. (Hrsg.) Handbook of Psychology, Bd. 1. Wiley, New York. Sutcliffe, J.P. (1965). A Probabilistic Model for Errors of Classification, I. General Considerations. Psychometrika. 30, 73-96. Swamy, P. (1971). Statistical Inference in Random Coefficient Regression Models Springer, Berlin. Talal, A.D.; and Redhead, M.L.G. (2007). Objectivity, Invariance, and Convention: Symmetry in Physical Science. Harvard University Press, Cambridge, MA. Tarski, A. (1986). Der Wahrheitsbegriff in den formalisierten Sprachen. In: Berka, K.; und Kreiser, L. (Hrsg.) Logik-Texte. Kommentierte Auswahl zur Geschichte der modernen Logik. (4. Aufl.) Akademie-Verlag, Berlin. Taves, D.R. (1974). Minimization: A new Method of Assigning Patients to Treatment and Control Groups. Clinical Pharmacology and Therapeutics 15(5), 443-453. Thorndike, E.L. (1918). The Nature, Purposes, and General Methods of Measurements of Educational Products. In: Wipple, G. M. (Hrsg.) Seventeenth Yearbook of the National Society for the Study of Education 2, 16-24. Public School Publishing, Bloomington, IL. Thorndike, E.L. (Hrsg., 1947). Research Problems and Techniques (Report No. 3). US Printing Office, Washington D.C. Tibshirani, R. (1996). Regression Shrinkage and Selection via the Lasso. J. Royal. Statist. Soc. B 58(1), 267-288. Siehe auch www-stat.stanford.edu/∼tibs/lasso.html Titz, S. (2005). Wie wird der nächste Sommer? Spektrum der Wissenschaft 8, 48-52. Todhunter, I. (1865). A History of the Mathematical Theory of Probability from the Time of Pascal to that of Laplace. Cambridge Univ. Press. Wiederabgedruckt: Chelsea, 1949 und 1965. Tonelli, M.R. (1998). The Philosophical Limits of Evidence-based Medicine. Academic Medicine 73(12), 1234-1240. Topsøe, F. (2007). Information Theory at the Service of Science. In: Csiszár, I; Katona, G. O. H.; and Tardos, G. (Hrsg.) Entropy, Search, Complexity. Springer: János Bolyai Mathematical Society 16, 179-208.

Literatur

643

Townsend, J.T. and Ashby, F.G. (1984). Measurement Scales and Statistics: The Misconception Misconceived. Psychological Bulletin. 96, 394-401. Tufte, E.R. (2001). The Visual Display of Quantitative Information. (2. Aufl.) Graphics Press, Cheshire, CT. 1. Aufl. 1985. Tukey, J.W. (1951). Standard Methods of Analyzing Data. Proceedings Compuatation Seminar der International Business Machines Corporation (IBM) in Armonk, New York, 706-731. Zitiert nach Kapitel 2 (S. 15-63) in Jones (1986a). Tukey, J.W. (1954). Unsolved Problems of Experimental Statistics. J. of the American Statistical Association 49, 706-731. Zitiert nach Kapitel 4 (S. 77-105) in Jones (1986a). Tukey, J.W. (1957). On the Comparative Anatomy of Transformations. Annals of Mathematical Statistics 28, 987-992. Tukey, J.W. (1958). Bias and Confidence in not-quite large Samples. Annals of Mathematical Statistics 29, 614. Tukey, J.W. (1960a). Where do we go from here? J. of the American Statistical Association 52, 80-91. Zitiert nach Kapitel 5 (S. 107-126) in Jones (1986a). Tukey, J.W. (1960b). Conclusions vs. Decisions. Technometrics 2, 423-433. Zitiert nach Kapitel 6 (S. 127-142) in Jones (1986a). Tukey, J.W. (1961). Statistical and Quantitative Methodology. In: Trends in Social Science. Ray, D.P. (Hrsg.) Philosophical Library, Inc., New York, 84-136. Zitiert nach Kapitel 7 (S. 143-181) in Jones (1986a). Tukey, J.W. (1962). The Future of Data Analysis. Annals of Mathematical Statistics 33, 1-67. Zitiert nach Kapitel 9 (S. 391-484) in Jones (1986a). Wiederabgedruckt in Kotz und Johnson (1993: Bd. II, 408-452). Tukey, J.W. (1967). A Statistician’s Comment. In: Kent, A.; Taulbee, E.; Belzer, J; and Goldstein, G.D. (Hrsg.) Electronic Handling of Information: Testing & Evaluation Thompson Book Company, Washington D.C., 41-47. Zitiert nach Kapitel 13 (S. 579585) in Jones (1986b). Tukey, J.W. (1969). Analyzing Data: Sanctification or Detective Work? American Psychologist 24, 83-91. Zitiert nach Kapitel 16 (S. 721-740) in Jones (1986b). Tukey, J.W. (1972). Data Analysis, Computation and Mathematics. Quarterly of Applied Mathematics 30, 51-65. Zitiert nach Kapitel 18 (S. 754-775) in Jones (1986b). Tukey, J.W. (1973a). Comment. Proceedings of the First Canadian Conference in Applied Statistics “Statistics ’71 Canada”, 96-104. Zitiert nach Kapitel 19 (S. 777-791) in Jones (1986b). Tukey, J.W. (1973b). Exploratory Data Analysis as Part of a Larger Whole. Proceedings of the Eighteenth Conference on the Design of Experiments in Army Research Development and Testing, Part 1. The Army Mathematics Steering Committee. Zitiert nach Kapitel 20 (S. 793-804) in Jones (1986b). Tukey, J.W. (1977). Exploratory Data Analysis. Addison-Wesley: Behavioral Science; Quantitative Methods. Tukey, J.W. (1980a). We need both Exploratory and Confirmatory. The American Statistician 34, 23-25. Zitiert nach Kapitel 22 (S. 811-817) in Jones (1986b). Tukey, J.W. (1980b). Methodological Comments focused on Opportunities. In: Monge, P.R.; and Cappella, J. (Hrsg.) Multivariate Techniques in Communication Research. Academic Press, New York, 489-528. Zitiert nach Kapitel 23 (S. 819-867) in Jones (1986b). Tukey, J.W. (1982). Discussion. Auszug aus The Role of Statistical Graduate Training in: Rustagi, J.S.; and Wolfe, D.A. (Hrsg.) Teaching of Statistics and Statistical Consulting. Academic Press, New York, 379-389. Zitiert nach Kapitel 26 (S. 881-889) in Jones (1986b). Tukey, J.W. (1984). Data Analysis: History and Prospects. In: David, H. A.; and David, H.T. (Hrsg.) Statistics: An Appraisal. Iowa State University Press, Ames, IA. Zitiert nach Kapitel 29 (S. 985-1001) in Jones (1986b).

644

Literatur

Tukey, J.W. (1986a). Foreword to the Philosophy Volumes. In: Jones (1986a) und Jones (1986b), xxxix-xliv. Tukey, J.W. (1986b). Data Analysis and Behavioral Science or Learning to Bear the Quantitative Man’s Burden by Shunning Badmandments. Kapitel 8 (S. 187-390) in Jones (1986a). Zuvor unveröffentlichtes Manuskript aus dem Jahr 1961. Tukey, J.W. (1986c). What have Statisticians been Forgetting? Kapitel 14 (S. 587-599) in Jones (1986b). Zuvor unveröffentlichtes Manuskript aus dem Jahr 1967. Tukey, J.W. (1986d). Comment. Kapitel 21 (S. 805-809) in Jones (1986b). Tukey, J.W. (1986e). Do Derivations come from Heaven? Kapitel 25 (S. 875-880) in Jones (1986b). Zuvor unveröffentlichtes Manuskript aus dem Jahr 1981. Tukey, J.W. (1986f). Sunset Salvo. The American Statistician 40, 72-76 (ebenfalls 1986). Zitiert nach Kapitel 30 (S. 1003-1016) in Jones (1986b). Tukey, J.W. (1986g). Diskussionsbeiträge zu Heckman und Robb (1986) in Wainer (1986), 58-62 und 108-110. Tukey, J.W. (1988). Lags in Statistical Technology. In: Carter, C.S.; Dwividi, T.D.; Fellegi, I.P.; Fraser, D.A.S.; McGregor, J.P.; and Sprott, D.A. (Hrsg.) Proceedings of the First Canadian Conference in Applied Statistics, 96-104. Tukey, J.W. (1991). The Philosophy of Multiple Comparisons. Statistical Science 6(1), 100-116. Tukey, J.W. (1997). More Honest Foundations for Data Analysis. J. of Statistical Planning and Inference 57, 21-28. Tukey, J.W.; and Wilk, M.B. (1966). Data Analysis and Statistics: an Expository Overview. AFIPS Converence Proceedings 29 der 1966 Falls Joints Computer Conference. Zitiert nach Kapitel 12 (S. 549-578) in Jones (1986b). Turing, A. (1936). On Computable Numbers, With an Application to the Entscheidungsproblem. Proceedings of the London Mathematical Society 42(2), 230-265. Tversky, A.; and Kahneman, D. (1971). Belief in the Law of Small Numbers. Psychological Bulletin 76, 105-110. Twain, M. (2006). Zitiert nach: Gore, A.; An Inconvenient Truth. Rodale, New York, 20-21. Ullman, J.B.; and Bentler, P.M. (2004). Structural Equation Modeling. Kapitel 19 in Hardy and Bryman (2004), 431-458. Unwin, A; Theus, M.; and Hofmann, H. (2006). Graphics of Large Data Sets. Visualizing a Million. Springer, New York. Upshur, R.E.G. (2001). The Ethics of Alpha: Reflections on Statistics, Evidence and Values in Medicine. Theoretical Medicine 22, 565-576. Urbach, P. (1985). Randomization and the Design of Experiments. Philosophy of Science 52, 256-273. U.S. Department of Health, Education, and Welfare. Smoking and Health: Report of the Advisory Committee to the Surgeon General of the Public Health Service. Public Health Service Publication No. 1103, Washington D.C. Valley, J.W. (2006). Urerde - Sauna oder Gluthölle? Spektrum der Wissenschaft. 5, 70-81. Vansteelandt, S.; Goetghebeur, E.; Kenward, M.G.; and Mohlenberghs, G. (2006). Ignorance and Uncertainty Regions as Inferential Tools in a Sensitivity Analysis. Statistica Sinica 16, 953-979. Vella, F. (1998). Estimating Models with Sample Selection Bias: A Survey. The Journal of Human Ressources 33(1), 127-169. Velleman, P.F. (1996). Diskussionsbeitrag zu Hand (1996). J. of the Royal Statistical Society, Ser. A 159, 486. Velleman, P.F. (1997). The Philosophical Past and the Digital Future of Data Analysis: 375 years of Philosophical Guidance for Software Design on the Occasion of John W. Tukey’s 80th Birthday. In: Brillinger et al. (1997), 317-337. Velleman, P.F.; and Wilkinson, L. (1993). Nominal, Ordinal, Interval, and Ratio Typologies Are Misleading. The American Statistician 47(1), 65-72. Venn, J. (1888). The Logic of Chance. (3. Aufl.) Macmillan, London. 1. Aufl. 1866.

Literatur

645

Verein Ernst Mach (Hrsg., 1929). Wissenschaftliche Weltauffassung. Der Wiener Kreis. Artur Wolf Verlag, Wien. Zitiert nach: Stöltzner und Uebel (2006: Abschnitt 1.1), 329. Vietl, R. (2002). On the Future of Data Analysis. Austrian J. of Statistics 31(2 & 3), 241-244. Villegas, C. (1971). On Haar Priors. (Mit Diskussion) in: Godambe and Sprott (1971), 409-416. Vinci, L. da (o. J.) Zitiert nach http://de.wikiquote.org/wiki/Leonardo_da_Vinci. Version vom 6.2.07, 11:48 Uhr. Vitányi, P. (2007). Algorithmic Chaos and the Incompressibility Method. Kapitel 15 in Charpentier et al. (2007), 301-317. Volland, E. (2007). Die Fortschrittsillusion. Spektrum der Wissenschaft 4, 108-113. Vollmer, G. (1993). Wissenschaftstheorie im Einsatz. Hirzel, Stuttgart. Vollmer, G. (1994). Evolutionäre Erkenntnistheorie. Hirzel, Stuttgart. Vollmer, G. (1995a). Auf der Suche nach der Ordnung. Beiträge zu einem naturalistischen Welt- und Menschenbild. Hirzel, Stuttgart. Vollmer, G. (1995b). Biophilosophie. Reclam, Ditzingen. Vollmer, G. (2003). Was können wir wissen? Band 1. Die Natur der Erkenntnis. Beiträge zur Evolutionären Erkenntnistheorie. (3. Aufl.) Hirzel, Stuttgart. Vovk, V. (2001). Competitive On-line Statistics. Int. Stat. Review 69(2), 213-248. Wainer, H. (Hrsg., 1986). Drawing Inferences from Self-Selected Samples. Springer, New York. Wald, A. (1947). Sequential Analysis. Wiley, New York. Wald, A. (1950). Statistical Decision Functions. Wiley, New York. Wallace, C.S. (2005). Statistical and Inductive Inference by Minimum Message Length. Springer, New York. Serie: Information Science and Statistics. Walley, P. (1991). Statistical Reasoning with Imprecise Probabilities. Chapman and Hall, London. Wang, C. (1993). Sense and Nonsense of Statistical Inference. Controversy, Misuse and Subtlety. Marcel Dekker, New York. Wappis, J. und Jung, B. (2006). Taschenbuch Null-Fehler-Management. Umsetzung von Six Sigma. Hanser, München. Weakliem, D.L. (1999). A Critique of the Bayesian Information Criterion for Model Selection. Sociological Methods & Research 27(3), 359-397. Wechsler, D. (1956). Die Messung der Intelligenz Erwachsener. Huber, Bern. Weed, D.L. (1986). On the Logic of Causal Inference. American J. of Epidemiology 123(6), 965-979. Wegman, E.J. (1988). On Randomness, Determinism and Computability. J. of Statistical Planning and Inference 20, 279-294. Weichselberger, K. (2001). Elementare Grundbegriffe einer allgemeineren Wahrscheinlichkeitsrechnung I. Intervallwahrscheinlichkeit als umfassendes Konzept. Physica-Verlag, Heidelberg. Weinberg, S. (1992). Dreams of a Final Theory. Pantheon Books, New York. Weinberg, S. (1995). The Methods of Science . . . and those by which we live. In: Facing Up. Science and its Cultural Adversaries. Harvard University Press, Cambridge and London, 83-92. Weinberg, S. (1998). The Revolution That Didn’t Happen. New York Review of Books XLV, No. 15. Siehe www.cs.utexas.edu/users/vl/notes/weinberg.html Weingart, P. (2003). Wissenschaftssoziologie. transcript, Bielefeld. Werndl, C. (2009). What are the New Implications of Chaos for Unpredictability? Brit. J. Phil. Sci. 60, 195-220. Weyl, H. (1983). Symmetry. Princeton University Press, Princeton, NJ. 1. Aufl. 1952. Wheeler, G. (2007). A Review of the Lottery Paradox. In: Harper und Wheeler (2007), 1-31.

646

Literatur

Wigner, E. (1949). Invariance in Physical Theory. Proceedings of the American Philosophical Society 93(7), 521-526. Wigner, E. (1960). The Unreasonable Effectiveness of Mathematics in the Natural Sciences. Communications in Pure and Applied Mathematics 13(1), 1-14. Wikipedia (2008a). Stichwort „Induktion (Denken)“, Version vom 13. 3. 2008. Siehe de.wikipedia.org/wiki/Induktion_(Denken). Wikipedia (2008b). Stichwort “Stepwise Regression”, Version vom 7. 2. 2008. Siehe http://en.wikipedia.org/wiki/Stepwise_regression Wikipedia (2009). Stichwort “Imprecise Probability”, Version vom 27. 3. 2009. Siehe http://en.wikipedia.org/wiki/Imprecise_probability Wilkinson, L. (1996). Diskussionsbeitrag zu Hand (1996). J. of the Royal Statistical Society, Ser. A 159, 486-487. Wilkinson, L. and Task Force on Statistical Inference (1999). Statistical Methods in Psychology Journals: Guidelines and Explanations. American Psychologist 54(8), 594-604. Williams, M.-A.; and Rott, H. (2001). Frontiers in Belief Revision. Springer: Applied Logic Series 22. Williamson, J. (2007). Motivating Objective Bayesianism: From Empirical Constraints to Objective Probabilities. In: Harper und Wheeler (2007), 151-179. Willke, H. (2006). Systemtheorie: Systemtheorie 1. Grundlagen: Eine Einführung in die Grundprobleme der Theorie sozialer Systeme. (7. Aufl.) UTB, Stuttgart. Wilson, E.O. (2000). Die Einheit des Wissens. Goldmann, München. Windschuttle, K. (2000). Vorwort zu Stove (2000), 1-18. Winship, C.; and Sobel, M. (2004). Causal Inference in Sociological Studies. Kapitel 21 in Hardy and Bryman (2004), 481-503. Wirtz, R. (2007). Wozu braucht der Ingenieur, Techniker oder Architekt Mathematik? Siehe http://rowicus.ch/Wir/Scripts/GrundlagenMathematik.html (Aufruf am 25. 09. 2009). Witten, I.H.; and Frank, E. (2005). Data Mining. Practical Machine Learning Tools and Techniques. (2. Aufl.) Elsevier, Amsterdam. Woit, P. (2006). Not Even Wrong. The Failure of String Theory and the Continuing Challenge to Unify the Laws of Physics. Vintage Books (Bertelsmann media worldwide). Wonderwall (2003). What does it mean? Lied und Album. Wea (Warner). Woodward, J. (2003). Scientific Explanation. In: Edward N. Zalta (Hrsg.) The Stanford Encyclopedia of Philosophy (Summer 2003 Edition). Siehe http://plato.stanford.edu/ archives/sum2003/entries/scientific-explanation/ Worrall, J. (2007). Why There’s No Cause to Randomize. Brit. J. Phil. Sci. 58, 451-488. Worsley, P. (1968). The Trumpet Shall Sound: A Study of ‘Cargo Cults’ in Melanesia. (2. Aufl.) Schocken, New York. Wright, S. (1921). Correlation and Causation. J. of Agricultural Research 20, 557-585. Yager, R. (1983). Entropy and Specificity in ‘A Mathematical Theory of Evidence.’ International Journal of General Systems 9(4), 249-260. Wiederabgedruckt als Kapitel 11 in Yager et al. (2008), 291-310. Yager, R.R.; Liu, L. (Hrsg.); Dempster, A.P.; and Shafer, G. (beratende Hrsg., 2008). Classic Works of the Dempster-Shafer Theory of Belief Functions. Springer, Berlin. Yamada, S.; and Morimoto, H. (1992). Sufficiency. In: Ghosh und Pathak (1992), 86-98. Yates, F. (1984). Tests of Significance for 2×2 Contingeny Tables. J. of the Royal Statistical Society, Ser. A 147(3), 426-463. Ye, J. (1998). On Measuring and Correcting the Effects of Data Mining and Model Selection. J. of the American Statistical Association 93, 120-131. Yen, J. (1990). Generalizing the Dempster-Shafer Theory to Fuzzy Sets. IEEE Transactions on Systems, Men, and Cybernetics 20(3), 559-570. Wiederabgedruckt als Kapitel 21 in Yager et al. (2008), 529-554. Young, G.A. (1994). Bootstrap: More than a Stab in the Dark? (Mit Diskussion) Statistical Science 9(3), 382-415.

Literatur

647

Young, N.S., Ioannidis J.P.A.; and Al-Ubaydli, O. (2008). Why Current Publication Practices May Distort Science. PLoS Medicine 5(10), 1418-1422. Zaffalon, M. und Miranda, E. (2009). Conservative Inference Rule for Uncertain Reasoning under Incompleteness. J. of Artificial Intelligence Research 34, 757-821. Zahar, E. (2007). Why Science needs Metaphysics. A Plea for Structural Realism. Open Court, Chicago, IL. Zickfeld, K.; Levermann, A.; Morgan, M.G.; Kuhlbrodt, T.; Rahmstorf, S.; and Keith, D.W. (2007). Expert Judgements on the Response of the Atlantic Meridional Overturning Circulation to Climate Change. Climatic Change 82(3-4), 235-265. Zimmermann, D.W. (1975). Two Concepts of ‘True Score’ in Test Theory. Psychological Reports 36, 795-805. Zimmermann, M. (1995). Wahrheit und Wissen in der Mathematik. Das Benacerrafsche Dilemma. transparent verlag H. & E. Preuß, Berlin. Zurek, W.H. (1989). Alogrithmic Randomness and Physical Entropy. Physical Review A 40(8), 4731-4751. Zweig, S. (1977). Joseph Fouché. Bildnis eines politischen Menschen. Fischer, Frankfurt a. M.

Personenregister

Achilles xii, 348 Adams, E.W. 35, 47 Aiken, L.S. 161, 164 Akaike, H. 378, 431, 473 Al-Ubaydli, O. 112 Albert, M. 84, 87, 95 Albrecht, H. 246 Aldrich, J. 392 Altman, D.G. 229-232 Anderson, D.R. 115, 182, 377-380, 431 Anderson, N.H. 33 Anderson, P.W. 21 Andrieu, C. 145 Angluin, D. 210 Antoniou, G. 421 Apgar, V. 37 Arbuthnot, J. 86 Ariely, D. 175 Aristoteles 54, 59f, 358, 385 Armitage, P. 87 Arnold, V.I. 47, 567 Aronowitz, S. 575 Ashby, F.G. 41 Augustin, N.H. 380 Austin, P.C. 229 The Australian Lung Foundation 244 Bachelier, L. 185 Backhaus, K. 69f, 136 Bacon, F. 3, 60, 217, 223, 313, 351, 539, 558, 577, 580, 596 Baecker, D., 590 Baeyer, H.C. von 440, 482 Bailey, R.A. 232 Baird, D. 2 Bakan, D. 87 Baker 358

Balakrishnan, N. 126 Balasubramanian, V. 385, 477, 532, 534 Balzer, W. 22, 50, 167f, 563 Bamberg, G. 110 Banister, H. 53, 612 Barnard, G.A. 45, 124, 156, 224, 233, 264, 267f, 337, 392, 394, 406, 456, 531 Barnett, V. 4, 247, 264, 266, 269, 372, 394-396, 408, 455 Barron, A. 475 Bartels, A. 177, 548, 554, 565, 590 Bartky, W. 93 Bartlett, F.C. 53, 612 Bartlett, M.S. 512 Bartlett, R.J. 53, 612 Basu, D. 125, 233, 235-238, 243, 368f, 403-405, 419, 455, 499, 502, 525, 531, 563, 584 Basu, K. 175 Baumbach, G. xiii Bayarri, M.J. 94, 116, 118, 120, 257, 276, 394, 400 Bayes, T. 264, 309 Bellman, R. 417 Bender, R. 94 Bennett, J.H. 101, 118, 324, 358, 368, 392, 398, 416, 425, 456, 497, 524, 577 Bentler, P.M. 429 Beran, R. 528 Berger, A. 515 Berger, J.O. 98f, 102, 153, 158, 166, 252, 257, 259, 267, 308, 394, 407, 409, 419, 422, 426, 525, 531 Berger, R.L. 141, 153, 166, 364 Berger, V. 222, 225, 229-233, 246, 401, 448 Berghaus, M. 590 Berk, R.A. 384

649

650 Berkeley, G. 41, 206 Berkovitz, J. 517 Berkson, J. 87, 102 Bernays, P. 548 Bernoulli, J. 262 Bernstein, P. L. 255 Bertero, M. 139 Berry, D.A. 407 Berthold, M.R. 298 Best, N.G. 380 Beutelspacher, A. 47 Birnbaum, A. 10, 266 Bishop, C.M. 181, 307, 417 Bjørnstad, J.F. 267f, 396 Blackwell, D. 110, 400 Blanck, A. xiii Blasius, J. 136 Blau, P.M. 286 Bloor, D. 574 Bock, J. 132 Bodendorf, F. 445 Bodmer, W. 280, 585 Boghossian, P.A. 572 Bohr, N. 190 Boole, G. 156, 264, 494 Boorstin, D.J. 264 Boring, E.G. 223f Born, G. 543 Bortz, J. 40, 69, 72, 108, 132, 134, 136, 162, 361 Bound, J.A. 200 Bourbaki, N. 213 Bower, B. 93 Box, G.E.P. 4, 78, 124, 158, 172, 179f, 189, 226, 229, 239, 279f, 295, 298, 303-307, 314, 357, 361-364, 385, 387, 396, 404, 413, 419, 480, 542, 563 Bramley-Moore, L. 321 Breiman, L. 145, 280, 301, 417, 451, 480 Brennan, R.L. 173 Breslow, N.E. 87 Briand, L. 40 Bricmont, J. 275, 325, 340, 344, 555, 562-574, 588, 596, 598 Bridgman, P.W. 50-52, 65 Brillinger, D.R. 240, 296, 337, 413 Broer, H.W. 528 Brooks, R. 371 Brown, L.D. 110, 116 Brown, W. 53, 612 Brumback, B. 447 Bruss, F.T. 112, 185 Bryant, P.B. 373, 474, 476, 527 Bryman, A. 162, 580

Personenregister Bryson, B. 110, 527, 550, 575 Buckingham, E. 36 Buckland, S.T. 380 Buehler, R.J. 419 Buja, A. 9 Büning, H. 373 Burgin, M. 210 Burke, D.J. 71 Burnham, K.P. 115, 182, 377-380, 431 Busch, H.W. 594 Calude, C.S. 462, 465, 488, 499 Camilli, G. 372 Campbell, D.T. 134, 277, 311, 333, 442, 525 Campbell, N.R. 52f, 60, 358, 612 Campolongo, F. 338 Candes, E. 418, 479 Carroll, R.J. 133 Cordero-Braña, O.I. 373, 474, 476, 527 Carlin, B.P. 256, 380, 394, 419, 527 Carlin, J.B. 75, 91, 224, 257, 419, 427, 444, 449, 527 Carnap, R. 8, 155-159, 199, 248, 250, 253, 259, 421, 480, 494, 558, 563, 590 Carrier, M. 548, 555, 560, 576, 587, 590 Cartwright, N. 197, 428, 437, 448, 569 Casella, G. 99, 108, 141, 145, 153, 166, 172, 364, 366, 373, 392f, 399, 404f, 419 Chalmers, A.F. 3, 325, 555f, 565, 569, 576, 581 Chatfield, C. 115, 124, 174, 179, 293, 308, 313 Chatterjee, S. 499 Chen, C. 300 Chernoff, H. 116, 393, 406, 490 Chomsky, N. 588 Chow, S.L. 95 Chow, Y.S. 144, 525 Christmann, A. 418 Church, A. 494, 563 Churchill, W. 190 Cifarelli, D.M. 212, 315 Claeskens, G. 380f, 519 Clapiers, L. Marquis de Vauvenargues 582 Cliff, N. 44, 61 Cochran, W.G. 163, 221, 436, 442 Cohen, A.S. 425 Cohen, J. 41, 95, 102, 161, 164, 173 Cohen, L.J. 196-199, 248, 317, 319 Cohen, P. 161, 164 Collingwood, R.G. 10, 163 Collins, H. 555, 575 Cook, T.D. 134, 277, 311, 333, 442, 525

Personenregister Cooman, G. de 531 Cooper, H. 103, 271 Cormen, T.H. 301 Cornfield, J. 87, 112, 240, 310-312, 340, 367f, 476 Courant, R. 11, 409 Cover, T.M. 210, 378, 458-466, 477, 487, 489, 496, 536 Cox, D.R. 87, 105, 120, 124, 158, 161, 173, 249, 261, 270, 272, 277-281, 309, 355, 364, 394, 402, 408f, 411, 445 Cox, G. 413 Cox, E. 307 Cox, N.J. 38, 40 Cox, R.T. 251f, 534 Craik, K.J.W. 53, 612 Cramer, C. 162 Cronbach, L.J. 66, 170, 172, 240, 243, 310, 334 Cumming, J. 94 Dahms, H.-J. 4 Dalal, S.R. 401 Dale, A.I. 139 Dalton, J. 286 Dantzig, D. van 410, 419 Dar, R. 111 Darnbeck, H. 282 David, E.E. Jr. 8 Davies, P.L. 181, 243 Davison, A.C. 242 Dawid, A.P. 9, 124, 284, 301, 437, 439, 443, 451, 455, 479, 507, 525, 527 Debs, T.A. 536 Deck, T. 525 DeGroot, M.H. 400 Delen, D. 302, 307 Deming, W.E. 93, 314, 337 Dempster, A.P. 145, 167, 176, 178, 190, 192, 262, 271, 281, 291, 421, 539, 583 Diaconis, P. 14, 164, 173, 183, 209f, 225, 274, 280, 294, 302, 305, 313, 322, 383, 470, 514, 559 Dickey, J. 255 Dilthey, W. 589 Dingle, H. 50 Dingler, H. 57 DiPrete, T.A. 400 Donoho, D.L. 418, 503 Donovan, A. 590 Döring, N. 72, 162, 361 Doob, H.L. 525 Doucet, A. 145 Dowe, D.L. 461, 473, 480, 519

651 Draper, D. 174, 200, 223, 308, 360 Drever, J. 53, 612 Dubois, D. 421 Duhem, P. 547, 570f Duncan, O.D. 23, 28, 30, 41-47, 60, 65, 255, 286 Durant, A. und W. 457, 582, 600 Durbin, J. 411 Dyson, F. 294 Earman, J. 198, 253, 321, 419, 493, 537, 554 Eddington, A.S. 286, 291 Edgington, E.S. 238-241, 424, 530 Edwards, A.W.F. 105, 267, 400, 531 Eerola, M. 431 Efron, B. 4, 73, 87, 120, 140-144, 152, 182, 242, 258, 270, 306, 359, 381, 382, 392, 394, 397-402, 404-409, 424f, 456, 477, 521, 583, 599 Ehrenberg, A.S.C. 200 Ehrlich, P. 53 Eid, M. 48, 69, 71, 155 Einstein, A. 7, 19, 58, 61, 188, 200, 272, 385, 535, 549, 566, 573, 579 El Emam, K. 40 Ellis, S.P. 371 Elpelt, B. 41 Elston, D.A. 499, 513 Enkin, M.W. 246 Epimenides xii Erichson, B. 69f, 136 Everitt, B. 359, 584 Evett, I.W. 412 Ewald, W. 548 Fagot, R.F. 35, 47 Fahrmeir, L. 132f, 136, 146 Falk, R. 14, 384 Falmagne, J.-C. 42 Fayyad, U. 307 Feder, M. 477 Feigl, H. 52, 481, 555 Feiner, A. 335 Feller, W. 112 Ferguson, A. 53, 612 Ferguson, T.S. 110 Feyerabend, P. 568-573 Feynman, R.P. 2, 5, 8, 20, 46, 56f, 110, 112, 224, 280, 332, 340, 411, 535, 553, 562, 566, 578, 588, 598 Fetzer, J.H. 198, 249, 324 Fidler, F. 94 Fienberg, S.E. 285-293

652 Finch, S. 94 Fine, T.L. 212 Finetti, B. de 31, 119, 212, 224, 248f, 253, 254, 315, 407, 419, 423, 453, 494, 510, 525, 529, 554 Fischer, G. 135 Fischer, G.H. 80, 168 Fischer, K. xiii, 344, 493, 567, 589 Fisher, R.A. 10, 12, 73, 77, 83-85, 87-97, 99-102, 104-110, 116, 118-126, 130f, 134, 140, 154, 184, 205, 217, 221, 223, 226-230, 233-236, 241, 245, 247, 250, 258, 265f, 303-312, 324, 327f, 333f, 355-359, 363f, 368-373, 384, 390-394, 398, 402-405, 410, 413, 416, 418, 424-427, 442, 452-456, 461, 469-471, 475-478, 497, 502, 518, 521-531, 563, 577, 599 Fisher Box, J. 140 Fitelson, B. 199 Flanagin, A. 112 Foerster, H. von 590 Foster, D.P. 380 Fowlkes, E.B. 401 Fraasen, B. van 177, 283, 536f, 569 Frank, E. 307 Fraser, D.A.S. 130, 373, 392 Freedman, D.A. 132f, 210, 231, 242f, 284-293, 305, 339, 384, 396, 434, 437-441, 451, 519f Freedman, L.S. 266 Freitas, N. de 145 Friedman, J.H. 145, 183, 303, 306f, 411, 417 Friedman, M. 93, 286 Frigg, R. 517 Fröhlich, G. 576 Frost, A.J. 186 Fu, P.C. 477 Gács, P. 467, 469 Gaissmaier, W. 271 Gaito, J. 72 Galilei, G. 3, 7, 18, 31, 42, 49, 56, 62, 255, 524, 541, 569, 575, 580 Galton, F. 123, 130 Gangl, M. 400 Gardner, M. 108, 344, 494, 565, 569, 588 Gardner, P.L. 74f Gardner, S. 461, 473, 480, 519 Gasarch, W. 210 Gauß, C.F. 359, 373 Gay-Lussac, J.L. 286 Gell-Mann, M. 300

Personenregister Gelman, A. 75, 91, 133, 224, 257, 419, 427, 444, 449, 527 George, E.I. 380 Gergen, K.J. 575 Gerhardt, M. 215 Gertel, A. 246 Ghosh, J.K. 369, 401, 403, 405, 455, 477 Ghosh, M. 369, 405 Giere, R. 106 Gigerenzer, G. 92-94, 121, 261, 271, 415, 520 Gillies, D. 354, 483, 493, 548, 554, 563 Gilmour, S.G. 360 Girshik, M.A. 110 Glasbey, C.A. 499, 513 Glass, G.V. 103 Gleser, G.C. 66, 170, 172, 240, 310, 334 Gley, E. 580 Glymour, C. 147, 183, 282f, 286, 290-293, 304-307, 323, 341, 356, 387, 429f, 434, 437, 525 Glynn, R.J. 450 Gneedzy, U. 175 Godambe, V.P. 410, 419, 563 Gödel, K. 210, 464, 573 Godfrey-Smith, P. 195, 354, 564, 569, 598 Goetghebeur, E. 338 Gómez-Tutor, J. xiii Good, I.J. 74, 85, 105, 124, 199, 249, 301, 313, 317, 378, 408, 410, 419, 424, 498, 504, 531, 561, 595 Good, P.I. 242 Goodman, N. 197f, 321, 346, 529 Goodman, S.N. 92, 95, 98, 102, 107f, 115, 123, 199, 257, 283, 329 Gorski, P.S. 362 Gosset, W.S. 100, 106, 123, 131, 237, 359, 373, 446, 497, 531 Gøtzsche, P.C. 246 Gould, S.J. 362 Gous, A. 87, 521 Grace, J.B. 429 Green, P.J. 141 Greenacre, M.J. 136 Greenland, S. 103, 111, 174, 217, 229, 253, 335, 337, 361f, 423f, 435, 440, 446-449, 468, 535 Greeno, J.G. 519 Greenough, P. 176, 565 Groff, R. 565 Grundy, P.M. 232 Grünwald, P.D. 346, 380, 458-461, 473, 475, 526 Guild, J. 53, 612

Personenregister Guilford, J.P. 18 Gullikson, H. 168 Guttman, L. 15, 114, 168, 271, 415 Hacking, I. 105, 119, 154, 157, 176, 198, 226, 235, 493, 532, 555, 562, 567 Hahn, H. 568 Hahn, R.W. 527 Hájek, A. 478, 483, 494 Halfmann, J. 575 Hall, N. 478, 494 Halpern, J.Y. 429 Hamerle, A. 132f, 136, 146 Hamilton, C. 246 Hampel, F.R. 75, 337, 392, 421, 498 Han, J. 307 Hand, D.J. 9, 39, 50f, 62-67, 179, 190, 280, 290, 299, 301, 303f, 307, 356-359, 385, 411, 417, 584 Handke, P. 582 Hannan, E.J. 380 Hansen, M.H. 370, 474f Hanson, A.J. 477 Härdle, W. 127, 300, 417 Hardy, M. 580 Hargittai, I. 576 Harinder Nanda, A.N. 66, 170, 172, 240, 310, 334 Harlow, L.L. 94f Harper, W.L. 410, 563 Harris, P.J. 229 Hartigan, J.A. 200 Hartley, H.O. 4 Hartung, J. 41 Hastie, T. 307, 411, 417 Hawthorne, J. 199, 483 Hayles, N.K. 575 Healy, M.J.R. v, 10, 232 Heckman, J.J. 425, 429, 447-455, 532 Hedges, L.V. 103, 271 Heidelberger, M. 547, 554, 556 Heisenberg, W. von 189, 590 Held, L. 128 Hellhammer, D. xiii Helmholtz, H. von 60 Hempel, C. G. 107, 316-323, 346, 353f, 556 Henkel, R.E. 94 Hennig, C. 177, 494 Henry, N.W. 136, 148 Herrendörfer, G. 132 Hertz, H.R. 286 Heuser, H. 197, 274 Hilbert, D. 8, 47, 214, 273, 276, 548 Hill, A.B. 435

653 Hill, B.M. 406 Hill, J. 133, 394 Hinkley, D.V. 242 Hjort, N.L. 141, 380f, 477, 519 Ho, D.E. 445, 454 Hoadley, B. 401 Hodges, J.S. 100, 174, 200, 223, 271, 308, 360 Hodges, L.J. Jr. 400 Hofmann, H. 201, 300 Hölder, O. 60 Holland, P.W. 437, 440f, 454 Holmes, C. 477 Holmes, S. 542 Hooker, C.A. 410, 563 Hornik, K. 242 Hotelling, H. 93, 355 Hothorn, T. 242 Houstoun, R. 53, 612 Howard, S.V. 87 Howson, C. 21, 212, 233, 253, 409, 419, 493, 559, 565, 596 Hoyningen-Huene, P. 548 Hubbard, R. 94, 102, 116, 118, 120 Hubble, E.P. 214 Huber, P.J. 75, 146, 295, 302, 305-308, 358, 360, 413, 490 Hubig, C. 548 Hudec, M. 77, 301 Hume, D. 21, 59, 195-200, 208, 215, 223, 340, 343-348, 360, 441, 447, 457, 479, 481, 529, 539, 557, 573, 586 Hunter, J.S. und W.G. 78, 172, 179f, 189, 226, 229, 239, 279, 295, 303f, 314, 363, 385, 387f, 404, 413, 480 Hüttemann, A. 552 Hutter, M. 261, 479f, 526f, 532 Huxley, T.H. 199, 476 Ietto-Gillies, G. 286, 290, 453 Ilard, S.S. 416 Imai, K. 445, 454 Imbens, G.W. 449 Inman, H.F. 279 Ioannidis, J.P.A. 112 Irwin, J.O. 53, 612 Jacobs, A. 246 Jacobson, L. 225 Jadad, A.R. 246 James, T. 118, 416 James, W. 405 Jamshidian, M. 208 Janssen, A. 239

654 Janssens, A.C.J.W. 112 Jaynes, E.T. 45f, 56, 61, 93, 99, 105, 112, 116, 159, 166, 184, 187, 201, 235, 248, 251, 257, 266, 268, 284, 307, 317, 320, 337, 344, 368, 397, 405, 408, 412, 416, 419f, 425, 428, 446, 453, 456, 462, 469, 484, 494, 497, 499, 502, 519, 523, 532, 558, 563, 585 Jeffrey, C.H. 503 Jeffrey, R. 420, 493, 531 Jeffreys, H. 59, 85, 87, 99, 151, 154, 160, 205, 212, 217, 235, 248, 259, 268, 343-345, 388, 398, 413, 419, 423, 425, 477, 523, 532, 552, 558, 562 Jensen, S. 574 Joe, H. 518 Johnson, N.L. 1, 126, 456 Johnstone, D.J. 87, 89, 102, 105-108, 118f, 223, 404 Johnstone, I.M. 503 Jones; L.V. 116, 240, 295 Jordan, M.I. 145 Jöreskog, K.G. 136 Judson, H.F. 14, 246, 552, 576 Juhos, B. 4, 36, 385 Jung, B. 139 Kadane, J.B. 246, 266, 493 Kahnemann, D. 94, 175 Kalbfleisch, J.G. 372 Kamber, M. 307 Kang Fu, V. Kant, I. 7, 57, 543, 549 Kass, R.E. 98, 257-259 Kassirer, J.P. 246 Katz, M. 43 Kauther, H. 594 Kaye, G.W.C. 53, 612 Keiding, N. 114, 415 Keith, D.W. 559 Kellert, S.H. 569, 599 Kelly, K. 282f, 286, 341, 387 Kelvin, L. (Thomson, W.) 6, 60 Kemeny, J.G. 478 Kemp, A.W. 126 Kempthorne, O. 4, 232, 247, 342, 441, 539, 563 Kenward, M.G. 338 Kepler, J. 463 Key, J.T. 179 Keynes, J.M. 156 Khoury, M.J. 112 Khrennikov, A. 526 Kiefer, J. 403

Personenregister Kieser, A. 581 Kim, S.-H. 425 Kimball, A.W. 273 King, G. 445, 454 Kirk, R.E. 94 Kish, J.F. 197 Kish, L. 264, 312 Kladroba, A. 304 Klärner, H. 251 Klein, F. 21 Klein, I. 44, 49 Kleinert, A. 3 Kline, M. 7, 13, 46 Klippstein, G. 594 Klösener, K.-H. 41 Knight, F. 454 Knorr-Cetina, K. 576 Knuth, D. 301 Koch, S. 50 Köchy, K. 198 Koertge, N. 564, 574, 590, 597 Köhler, P. 396 Kolmogorov, A.N. 211, 422, 431, 462-468 475, 480, 482, 487, 489, 494, 498-500, 508, 520, 525, 528, 536, 599 Konstantopoulos, S. 103 Koopmans, T. 454 Kotz, S. 1, 126, 456 Kovac, A. 181 Kraft, V. 568 Krämer, W. 357 Krantz, D.H. 23, 40, 42, 44, 62, 71, 95 Krauss, S. 93, 415 Krauth, J. 69, 226 Kreibohm, H. 594 Krengel, U. 108f, 127, 159, 166, 273, 321, 366 Krieger, G. xiii Kries, J. von 156 Kronz, F. 517 Krueger, J. 84, 95 Kruskal, W.H. 297, 303, 502 Kuhlbrodt, T. 559 Kühn, R. 501 Kuhn, T.S. 3, 180, 548, 562, 566, 568-575, 587, 590, 598 Kullback, S. 176, 378, 458, 462, 477, 519 Kumar, V. 307 Kurz-Milcke, W. 271 Kyburg, H.E. 106, 118, 319f, 346 Lachin, J.M. 231-234, 240, 435 Lad, F. 255 Ladyman, J. 61, 411, 548, 565, 569, 590

Personenregister Laird, N.M. 145, 450 Lakatos, I. 40, 568, 573, 590, 598 Lang, C. 475 Lange, K. 186 Laplace, P.-S. Marquis de 99, 248, 257, 262, 264, 268, 310, 412, 438, 494 Lash, T.L. 103, 335, 361f, 448 Latour, B. 575, 598 Laubichler, M. 588 Laudan, A. 590 Laudan, L. 573, 589 Laughlin, R.B. 21, 189, 314, 331, 553, 596 Lauritzen, S.L. 147, 429 Lauth, B. 35, 353, 385 Lawson, T. 171 Lazarsfeld, P.E. 136, 148 Leamer, E.E. 174, 356, 361, 535, 542, 544 Lean, J.L. 282 Lecam, L. 252, 264, 268, 358, 563 Lee, A. 321 Lee, K.L. 229 Lee, Y.J. 113 Leeman, J. 94 Lehmann, E.L. 89, 99, 166, 172, 279-281, 364-366, 373, 393, 476 Leibler, R.A. 176, 378, 458, 462, 477 Leibniz, G.W. xii, 215, 349 Leiseron, C.E. 301 Lenz, H.J. 304 Lesaffre, E. 521 Levermann, A. 559 Lewin, K. 331, 481 Lewis, D. 448 Li, M. 109, 125, 461f, 466, 469, 474-482, 487-500, 507, 513, 518f, 536, 596 Lieberson, S. 4 Lienert, G.A. 148 Linde, A. van der 380 Lindley, D. V. 105, 114, 124, 173, 183, 223, 235, 242, 248, 253, 283, 322, 336, 359, 372, 397, 408-410, 419f, 519, 563 Lindman, H. 400 Lindsay, R.M. 94, 102f Lindsey, J.K. 155, 176-181, 293 Lippe, P. von der 272, 358, 470, 593f Lipton, P. 251, 565 Little, R.J.A. 208 Liu, L. 421 Locke, J. 196, 206 Loewenstein, G. 175 Lois, T.A. 256, 394, 419, 527 Longford, N.T. 134, 521 Longino, H.E. 569, 599 Lopez, A. 204

655 Lorscheid, P. 357 Lord, F.M. 36, 69, 73, 148, 168, 309, 423 Lorenz, E.N. 514 Lorenzen, D.H. 294 Lorenzen, P. 57 Luce, R.D. 23, 35-44, 54, 62, 68, 71, 76 Luhmann, N. 277, 590 Lüst, D. 553 Lynch, M.P. 176, 565 Lyre, H. 176 MacCallum, R.C. 41 Mach, E. 573 MacKay, D.J.C. 139, 253, 419, 458, 523 Madigan, D. 183, 304, 307, 356, 429 Malkiel, B.G. 185 Mallows, C.L. 70, 94, 175, 200, 223, 271, 273, 308, 314, 355-363, 375, 385, 452 Mannila, H. 307, 411 Mancosu, P. 548 Mandel, J. 164 Manski, C.F. 100, 338, 445-448, 455 Mantel, J. 246 Mantel, N. 87 Mantzavinos, C. 2 Marcuse, H. 58 Marden, J.I. 95, 533 Marks, R.B. 575 Maronna, R. 75 Marotzke, J. 282 Marrow, A.J. 331 Marshall, A.W. 499 Martin, G. 324 Martin-Löf, P. 508, 519 Marting, D. 75 Marx, K. 3, 171 Mattner, L. 111 Mayo, D.G. 105, 387, 401, 563, 590, 596 Maxwell, J.C. 177, 248, 273, 566 Mazar, N. 175 McCullagh, P. 133 McIntyre, L. 2 McNeer, J.F. 229 McPherson, G. 87, 266 McPherson, K. 87 Meehl, P.E. 91-95, 101, 106, 162, 249, 416, 429 Meek, C. 184, 306, 429 Meise, M. 181 Mendel, J.G. 291 Menger, K. 23, 376, 568 Menges, G. 5, 299, 313 Merk, R. 594 Merton, R.K. 139, 574-576, 591

656 Meza, J.C. 499 Michell, J. 6f, 42, 52-54, 60, 62, 66, 71 Mill, J.S. 199, 217-224, 231, 237-240, 251, 277, 333, 335, 390, 432, 446, 530, 583 Miller, A.J. 360 Miller, D. 345 Miller, H. 423 Miller, I. und M. 455 Millikan, R.A. 291 Minkler, J. 421 Miranda, E. 420, 531 Mirowski, P. 290 Mises, R. von 261, 489, 508 Molenberghs, G. 338 Moonesinghe, R. 112 Moore, D.S. 76 Morasca, S. 40 Morgan, A. de 264 Morgan, S.L. 132, 284, 429, 432, 434, 437, 438, 441, 449, 454, 519 Morgan, M.G. 559 Morimoto, H. 166, 360 Morris, C. 405 Morris, C.N. 174 Morrison, D.E. 94 Moses, L.E. 116, 490 Mosteller, F. 302, 364, 391, 395 Moulines, C.U. 548, 563 Mühlhölzer, F. 21 Muir, H. 15 Mulaik, S.A. 95 Müller, M. 127, 417 Müller, P. 477 Müller, P.H. 82, 108, 130, 132, 134 Murphy, J.J. 186 Murphy, S.A. 475 Musgrave, A. 286 Myers, C.S. 53, 612 Nagel, E. 344, 536, 555 Naisbett, J. 77 Narens, L. 25, 27, 40, 42-49, 62, 71 Nelder, J.A. 112, 129, 133, 337, 385, 414f Nelson R.B. 145 Nester, M.R. 95 Neumann, J. von 46, 61f, 180, 525, 567 Newton, I. xii, 6f, 20, 161, 182, 196, 275, 286, 293, 353, 452, 556, 566, 573, 579 Neyman, J. 89-101, 104-111, 116-122, 187, 236, 261, 271f, 279, 306, 310, 328, 355, 359, 363, 367, 387, 392, 395, 397, 402-409, 412f, 419, 423-426, 441, 451, 472, 475, 524, 526 Nickerson, R.S. 85, 88, 95, 102

Personenregister Niederée, R. 48 Nield, T. 575 Nikouline, M. 475 Nikulin, M.S. 404 Noether, E. 20 Novick, M.R. 148, 168, 322 Nozick, R. 535, 537 Numagami, T. 152 Nye, M.J. 17 O’Hagan, A. 360 Oakes, M. 95, 102, 112, 264, 483, 531 Okasha, S. 565, 569 Olkin, I. 103, 499 Olshen, R.A. 145 Olson, D.L. 302, 307 Omer, H. 111 Oppenheim, P. 353 Oppy, G. 461, 473, 480, 519 Ornstein, D.S. 499, 513 Osherson, D.N. 204 Ottenbacher, K.J. 102 Pagels, H.R. 1 Parmar, M.K.B. 266 Parzen, E. 358 Pascal, B. 255 Pasteur, L. 415 Pathak, P.K. 369, 405 Pauls, T. 239 Paulus (Apostel) 577 Pawitan, Y. 97, 100, 128, 165f, 378, 381 Pearl, J. 125, 223f, 309, 323, 407, 429-440, 447-449, 454f, 494, 524, 530, 532, 561, 596 Pearl, R. 197 Pearson, E.S. 89-101, 104-111, 117-122, 187, 201, 236, 261, 306, 328, 363, 367, 395, 397, 402-412, 475, 524, 526 Pearson, K. 119, 123f, 248, 279, 321, 358f, 440, 509, 550, 578 Peirce, C.S. 105, 119, 199, 574 Penston, J. 520 Perrin, J. 17, 21, 68 Pepys, J. 246 Pericchi, L.R. 179 Petersohn, H. 307 Peto, J. 87 Peto, R. 87 Pfanzagl, J. 24, 26, 32-40, 42-46, 71 Philpott, S.J.F. 53, 612 Piatetsky-Shapiro, G. 307 Pike, M.C. 87 Pitman, E.J.G. 392

Personenregister Planck, M. 37, 188, 388, 551 Plickert, P. 190 Plinke, W. 69f, 136 Pocock, S.J. 225, 234 Pogue, J. 114 Pöppe, C. 175 Popper, K.R. 1, 49, 83, 93, 107f, 115-120, 181, 183, 199, 201, 307, 326, 343-345, 352, 354, 361, 386, 415, 440, 464, 483f, 494, 550, 556f, 567-573, 590, 596, 598 Post, H.R. 116, 536, 567 Prade, H. 421 Pratt, J.W. 105, 118, 173, 218 Preacher, K.J. 41 Prechter, R. 186 Pregibon, D. 183, 200, 223, 304, 307f, 356, 360, 429 Pukelsheim, F. 532 Quenouille, M.H. 242, 382 Quetelet, L.A.J. 169 Quine, W.V.O. 78, 570, 598 Quinn, B.G. 380 Raatz, U. 148 Raftery, A.E. 98 Rahmstorf, S. 559 Rahnenführer, J. xiii Rajaratnam, N. 66, 170, 172, 240, 310, 334 Ramamoorthi, R.V. 477 Ramsey, F.P. 248, 252-255 Rand, K.L. 416 Rao, C.R. 140, 180, 369, 456, 470 Rasch, D. 132 Ratto, M. 338 Redhead, M.L.G. 536f Reed, L.J. 197 Regazzini, E. 212, 315 Reichenbach, H. 77, 116, 120, 198f, 250, 261, 324, 342, 405, 426, 437, 563, 565, 568, 573, 579, 586, 589f, 599 Reid, C. 426 Reid, N. 125, 405 Reitze, S. 277, 565, 569 Renkewitz, F. 103 Rennie, D. 112 Rényi, A. 8 Resnick, S.I. 144 Richardson, L.F. 53, 612 Richardson, S. 141 Richardson, T. 306, 429 Rind, D.H. 282

657 Rissanen, J. 91, 200, 210, 271, 278, 284, 337, 409, 460-466, 469f, 473-482, 496, 513, 518-520 Rivest, R.R. 301 Robb, R. 448, 450, 452 Robbins, H. 11, 361, 394, 409, 413 Robert, C.P. 141, 145, 172, 392, 419 Robins, J.M. 424, 435, 448f Robinson, R.E. 35, 47 Rodríguez, C. 477, 532 Ronchetti, E.M. 498 Rosati, R.A. 229 Rose, U. 590 Rosenbaum, P.R. 226, 230, 234, 311, 437, 442-448, 455 Rosenberg, A. 565, 569 Rosenberger, W.F. 231-234, 240, 435 Rosenthal, R. 88, 103, 112, 187, 225, 355, 535, 553 Rosling, H. 300 Rosnow, R.L. 88, 355 Rost, J. 148 Rothman, K.J. 103, 111, 335, 361f, 440, 448 Rott, H. 421 Rousseeuw, P.J. 498 Royall, R. 87f, 97-108, 112f, 120, 199, 268, 272, 317, 368, 393, 395, 414, 416, 509, 563 Rubin, D.B. 75, 91, 145, 163, 174, 208, 224, 234, 257, 357, 407, 419, 427, 436, 441-455, 527, 532, 563 Rucker, D.D. 41 Ruelle, D. 275 Ruppert, D. 133 Ruspini, E. 421 Russ, H.G. 565, 569 Russell, B. 66, 217, 440, 491 Rust, J. 418 Rutherford, E. 316 Ryan, P.A. 94 Sabato, S. 466 Sackett, D.L. 246, 552 Saint-Mont, U. xi, 2, 12, 228, 275, 548, 593 Salmon, W.C. 108, 323f, 434, 563 Salsburg, D.S. 114, 415, 418, 506, 520 Samuels, S. 126 Samuelson, P.A. 286 Sareiter, J. 35, 353, 385 Sarstedt, M. 475 Satelli, A. 338 Savage, C.W. 53

658 Savage, L.J.H. 10, 140, 173, 212, 254, 308, 392, 400, 419 Sawilowsky, S.S. 425 Scargle, J.D. 112 Scerri, E. 2 Scheines, R. 147, 184, 282f, 286, 306, 323, 341, 387, 429f, 525 Schiemann, G. 198 Schiller, F. 19, 560 Schilling, R. 144, 525 Schirach, F. von 480 Schlaifer, R. 173, 218 Schleichert, H. 4, 28, 36, 385, 571 Schlick, M. 52, 196, 250, 345, 568, 573 Schlittgen, R. 475 Schmidt, F.L. 103 Schmitt, S. 559 Schmutzer, E. 4, 18, 541 Scholz, F.W. 166, 373 Schönemann, P.H. 44, 47 Schülein, J.A. 277, 565, 569 Schurz, G. 59, 323, 353 Schuster, H. 215 Schütz, W. 4, 18, 541 Schützenmeister, F. 575 Schwarz, D.J. 101 Schwarz, G. 380 Schwartz, L.M. 271 Scott, E.L. 472 Sedlmeier, P. 92f, 103, 415 Seidenfeld, T. 119, 140, 156, 246, 261, 266, 493 Sellke, T. 98, 257 Selvin, H. 356 Senn, S. 107, 110, 225f, 247, 264, 521 Serlin, R.C. 111 Shadish, W.R. 134, 277, 311, 333, 442, 525 Shafer, G. 421, 431, 494, 508, 522-526 Shafir, E. 204 Shahar, E. 107, 415 Shakespeare, W. 59 Shamir, O. 466 Shannon, C.E. 12, 257, 413, 440, 457, 462, 468 Shao, J. 382 Shapiro, S. 214 Shaxby, J.H. 53, 612 Shen, X. 380 Shenoy, P.P. 421 Sheynin, O.B. 6 Shiller, R.J. 185 Shipley, B. 429 Simon, F.B. 590 Simon, R. 225, 234

Personenregister Simpson, E.H. 321 Sinkkonen, J. 418 Smets, P. 421 Smith, A.F.M. 179 Smith, C.H. 210 Smith, E.E. 204 Smith, P.G. 87 Smith, R. 246 Smith, T. 53, 612 Smolin, L. 553 Smyth, P. 183, 304, 307, 356, 411, 429 Sneed, J.D. 563 Snow, C.P. 572 Sobel, M.E. 428, 437, 440-444, 449-451, 455 Sober, E. 376 Sohn, D. 102 Sokal, A.D. 275, 325, 340, 344, 408, 555, 562-574, 581, 588, 596f Solev, V. 475 Solomonoff, R. 210, 462, 480, 494, 584 Solow, R.M. 284 Soofi, E.S. 261, 519 Speed, T. 393 Sperlich, S. 127, 417 Spiegelhalter, D.J. 266, 380 Spielman, S. 85, 92, 100 Spirtes, P. 147, 184, 282f, 286, 306, 323, 341, 387, 429f, 525 Spohn, W. 421, 431 Sprent, P. 357 Sprott, D.A. 372, 410, 419, 563 Stahel, W.A. 498 Stalker, D. 197 Stamatescu, I.-O. 501 Starkman, G.D. 101 Starmer, C.F. 229 Stegmüller, W. 2, 21, 154-159, 532, 563 Steiger, J.H. 95, 384 Stein, C. (Informatiker) 301 Stein, C. (Statistiker) 405, 473 Steinbach, M. 307 Steingart, G. 267 Steinwart, I. 418 Stern, A.S. 503 Stern, H.S. 75, 91, 224, 257, 419, 427, 444, 449, 527 Stevens, S.S. 14, 23, 27ff, 36, 38, 42, 47-54, 60, 62, 68-74, 274 Steyer, R. 48, 69, 71, 155 Stigler, S.M. 130, 149, 169, 203, 310, 358, 574 Stöckler, M. 548, 554, 590 Stöltzner, M. 353 Stone, C.J. 145

Personenregister Stone, M. 381 Stone, R. 435, 444 Störig, H.J. 2 Stove, D. 345, 434, 550, 557, 568, 572, 583 Streitberg, B.H.J. 475 Strevens, M. 484 Stuart, A. 356 Stuart, E.A. 445, 454 “Student”, siehe Gosset, W.S. Studený, M. 429 Sullivan, P.A. 564 Sullivan, P.R. 562 Suppes, P. 23, 27, 31, 40, 42, 44, 62, 71, 249, 401, 498-499, 507, 536 Sutcliffe, J.P. 168 Swamy, P. 134 Talal, A.D. 537 Tan, P.-N. 307 Tao, T. 418, 479 Tarantola, S. 338 Tarski, A. 408 Taves, D.R. 225 Tetlock, P.C. 527 Tschuprow 358 Teicher, H. 144, 525 Theus, M. 201, 300 Thomas, J.A. 210, 378, 458-466, 477, 487, 489, 496, 536 Thomas, N. 532 Thomas, N.P. xiii Thomason, N. 94 Thomson, W., siehe Kelvin, L. Thorndike, E.L. 8, 172 Thouless, R.H. 53, 612 Tibshirani, R.J. 4, 73, 133, 141-144, 152, 182, 242, 307, 381f, 411, 417 Tishby, N. 466 Titz, S. 282 Todhunter, I. 310 Tonelli, M.R. 327 Topsøe, F. 525 Townsend, J.T. 41 Tromp, J.T. 467, 469 Tu, D. 382 Tucker, W.S. 53, 612 Tufte, E.R. 300 Tukey, J.W. 4, 7f, 31, 40f, 49, 54-56, 60f, 70, 76f, 93, 102, 106, 111, 116, 149, 158-163, 178, 195, 232, 240, 242, 269, 287-300, 303-313, 335, 337, 340, 343, 351, 356-369, 382, 385, 399, 411-418, 425, 434, 440, 450-452, 456, 469, 541f, 550, 563, 585

659 Turing, A. 13 Tutz, G. 132, 136, 146 Tversky, A. 23, 40, 42, 44, 62, 71, 94, 175, 421 Twain, M. 57, 190 Uebel, T. 353 Ullman, J.B. 429 Unwin, A. 201, 300 Upshur, R.E.G. 88, 355 Urbach, P. 230, 233, 409, 419, 493, 559, 596 Uspenskii, V.A. 488f, 499, 507 Vaart, A.W. van der 475 Valentin, K. 190 Valley, J.W. 101 Vansteelandt, S. 338 Vella, F. 448 Velleman, P.F. 38-42, 49, 68, 313, 596 Venn, J. 156, 264, 412, 494 Verein Ernst Mach 196, 561 Vietl, R. 306 Vinci, L. da 7 Vinciotti, V. 280 Vitányi, P.M.B. 109, 125, 461f, 466-469, 474-482, 487-500, 507, 513, 518f, 536, 596 Vitouch, O. 93, 415 Volland, E. 551, 586 Vollmer, G. 2, 10, 51, 346, 584 Vovk, V.G. 469, 479, 494, 508, 522-527 Wager, E. 246 Wald, A. 107-110, 116, 306, 359, 406 Walker, S.G. 477 Wallace, C.S. 210, 380, 419, 471, 473, 477, 480, 518, 532 Waller, N.G. 429 Walley, P. 273, 355, 421 Wand, M.P. 133 Wang, C. 244, 265, 409 Wappis, J. 139 Wasserman, L. 257-259 Waters, C.H. 569, 599 Weakliem, D.L. 475 Wechsler, D. 170 Weed, D.L. 385 Wegman, E.J. 498 Weiber, R. 69f, 136 Weichselberger, K. 421 Weinberg, S. 290, 535, 563-567, 587 Weingart, P. 576 Weinstein, S. 229 Weiss, B. 499

660 Weldon 358 Wermuth, N. 279, 281 Werndl, C. 512 Werwatz, A. 127, 417 West, S.G. 161, 164 Weyl, H. 536 Wheeler, G. 320 Wiel, M.A. van de 242 Wigner, E. 6, 275, 535 Wilk, M.B. 542 Wilkie, O. 204 Wilkinson, L. 38-42, 49, 68, 94, 271 Williams, M.-A. 421 Williamson, J. 520 Willke, H. 590 Wilson, E.O. 416, 452, 550, 582, 584 Windschuttle, K. 564 Winship, C. 132, 284, 429, 432, 434, 437-444, 449, 455, 519 Wirtz, R. 7 Witten, I.H. 307 Wittgenstein, L. 582 Woit, P. 332, 553 Woloshin, S. 271 Wolpert, R.L. 267, 419 Wonderwall 160 Woodward, J. 354 Woolgar, S. 598 Woolley, K.L. 246

Personenregister Worrall, J. 415 Worsley, P. 598 Wright, S. 429 Yager, R.R. 421 Yamada, S. 166, 360 Yates, F. 372 Ye, J. 380f Yeats, W.B. 23 Yen, J. 421 Yilmaz, M.R. 499 Yohai, V. 75 Young, G.A. 243 Young, N.S. 112 Yu, B. 370, 474f Yusuf, S. 114 Zabarella, J. 4 Zaffalon, M. 420 Zahar, E. 176 Zeileis, A. 242 Zhang, S. 41 Zickfeld, K. 559 Zimmermann, D.W. 168 Zimmermann, M. 13, 214 Zülka, J. 594 Zurek, W.H. 497, 503, 515 Zweig, S. 529

Sachregister

α-Adjustierung 111ff, 383, 476, 541 α-Postulat 87 Abduktion: s. Schluss auf die beste Erklärung Abstraktion 386, 436, 549, 566, 587: s. auch Idealisierung, Generalisierung, Induktion, Mathematisierung Ad hoc, “Adhocery” 188f, 190ff, 232, 242, 367ff, 409, 412, 420, 425, 450f, 478, 481, 488, 518f, 522f, 531, 544, 546, 551, 567 adaptiv 370-380, 383, 475 Adäquationsproblem: s. Operationalisierung Adelaide (Australien) 140 Adjustierung 118, 230f, 383, 435, 446 Aggregationsebene: s. Referenzklasse ahistorisch 577ff, 597 AIC 378ff, 518: s. auch Informationskriterien Akkumulationstheorie 332, 416, 544f, 550, 567, 574, 581, 586, 597 Algorithmisch zufällig: s. Zufall Algorithmus 143, 145, 219, 271, 300ff, 313, 371, 410, 417, 431, 463, 467, 471, 482, 508, 522 Alternativerklärung 162, 222, 229-232, 238-241, 311, 333, 341, 442, 469, 552: s. auch Experimentelles Design, Validität, Vergleichbarkeit Analysis: s. Differential- und Integralrechnung ancillary: s. Statistik (Funktion der Daten) ANCOVA: s. Kovarianzanalyse Anfangsbedingungen: s. Kontext, Bedingen, Voraussetzungen Annahmen: s. Voraussetzungen

Annals of Mathematical Statistics 426, 524 ANOVA: s. Varianzanalyse Anschauung 12, 146, 149, 188, 276, 297, 300, 303, 388, 433, 466, 543, 549 Antirealismus 276, 327, 451, 551, 565, 568ff, 587 APGAR-Test 37ff Approximation 40f, 68, 150f, 164, 167f, 180f, 206f, 220, 278, 286, 329, 341, 377, 418, 481, 498, 503f, 511, 537, 544, 552, 556, 565 Arbeit 171 Archimedischer Punkt 37, 248, 388, 540, 591, 595f, 599: s. auch Daten, Forschungszirkel ARR: s. Risikoreduktion Artificial Intelligence: s. Künstliche Intelligenz Assignment (Mechanism) Astrologie 15 Astronomie 294, 302, 305 Attraktor 516 Ausreißer 38, 297, 366, 382, 417 Austauschbarkeit 223ff, 229, 239, 315ff, 529, 533, 584 Automatisierung 74, 121, 190, 210, 259, 302f, 313, 339, 375, 417, 420, 558, 594f: s. auch Informationstechnik autopoietisch 590 Autorität 244f, 519, 564, 581f, 599: s. auch Dogmatismus Average Man 169 Avogadrosche Zahl 17, 20 Axiom, Axiomensystem 6f, 31, 44, 47, 49, 56, 58, 61, 80, 196, 211f, 252f, 320, 353, 410, 422, 485, 534, 548:

661

662

Sachregister s. auch Konvention, Mathematik, Messtheorie

Badmandment (Tukey) 41, 356, 369 Balancierung: 90, 225f, 229ff, 233, 234, 240, 311, 401, 446: s. auch Baseline Imbalance, Randomisierung Balancing Score 443 Baseline Imbalance 222, 225, 229ff, 447, 498: s. auch Vergleichbarkeit Bayes-Faktor 98f, 257 Bayessches Theorem 253ff, 263ff, 470 Bayessche Statistik: s. Statistik (Bayessche) Bedeutsamkeit 31ff, 35ff, 45ff, 154, 168, 468: s. auch Statistik (Funktion der Daten), Transformation (zulässig) Bedingen, bedingte Inferenz 79, 125, 128, 223, 231, 265f, 322f, 371ff, 388, 399, 402-405, 408, 410, 420, 430, 433, 437, 443f, 455, 474, 505, 531 Bedingtheitsprinzip 267f, 505 Begründungszusammenhang: s. Entdeckungszusammenhang Behaviorismus 52, 283, 439, 550 Behrens-Fisher-Problem 425, 473, 523 Belief Functions: s. Dempster-ShaferTheorie Belief Revision 421: s. auch Statistik (Bayessche) Berechenbarkeit 13, 210, 464, 471, 482, 488, 498, 500, 506: s. auch Algorithmus Bernoulli-Strömung 513 Bestimmtheitsmaß 133 Beobachtungsdaten: s. Daten, Experiment (Quasi-) Berkeley Symposium on Mathematical Statistics 426 Betrug 552, 576 Bewegung: s. Geschwindigkeit Bezugssystem 18ff, 530: s. auch Perspektive Bias 162f, 367f, 425, 500, 531: s. auch Schätzung Publication 112 BIC 380f, 475, 494, 518f, 532: s. auch Informationskriterien Binomialkoeffizient 127 Biologie 17, 141, 222, 270, 412, 438, 545, 591 Bit 413, 460, 465-470, 489-495, 499, 519, 536, 590 Black Box 7, 146, 280, 285, 301, 438f, 451, 553 Bootstrap 141ff, 242, 382, 416, 451 Borrowing Strength 276, 313, 545

Brain Drain 306, 414 Breakdown Point 535 Brückenmetapher (Cornfield und Tukey) 310ff: s. auch Induktion Bürokratie 116, 416, 577, 580, 592-595 Buzz Words 580 CDA: s. Datenanalyse, konfirmatorische Chaos, Chaostheorie 213, 482, 488, 499, 508, 512-517, 534f Chemie 2, 17, 180, 204, 222, 303, 567 Clinical Trial (Randomized Controlled Trial, RCT): s. Klinische Studie Clusteranalyse 138, 363, 508 Cochrane Review 355: s. auch Metaanalyse Code, Codierung: s. Kodierung Computational Statistics 141ff, 301 Computeralgebra 143 Computopia (von der Lippe) 593 Conditionality Principle: s. Bedingtheitsprinzip Conjoint Measurement 76 counterfactual 285, 399, 431, 441-451, 453, 529 Cox-Axiome 252 Cox-Jaynes-Argument 251 Cult of the Single Study 414, 439, 521: s. auch Daten Curse of Dimensionality 417f: s. auch Dimensionsreduktion Data Dredging 115, 305, 324, 356, 375, 393, 416, 423 Data Mining 124, 183f, 275, 300-314, 334, 351, 370, 383, 389, 417, 422f, 427, 504, 521, 527 Data Snooping: s. Data Dredging Daten 4, 242, 256, 267, 269, 271, 288, 295, 298, 300ff, 322, 328ff, 335f, 348, 362ff, 370, 386f, 406, 422-427, 438, 450, 452, 462ff, 468, 476, 496, 499, 507f, 524f, 539ff, 544f, 547, 578, 586, 591ff, 596: s. auch Stichprobe, Population fehlende 207f, 417, 441 isoliert betrachtet, “let the data speak for themselves” 267, 310, 335, 389-392, 414-416, 423, 438, 521: s. auch Likelihoodprinzip Datenanalyse 70, 73, 114ff, 122, 124, 148ff, 184, 199, 245, 291ff, 294, 299, 302, 305, 338, 352, 356, 359f, 362f, 371, 373, 375ff, 377ff, 381, 387, 417, 423f, 490, 504-512, 525, 527, 542

Sachregister explorative (EDA) 293-298, 301, 309, 334, 351f, 356, 362f, 387, 389, 504, 527, 542 intelligente (IDA) 298ff, 332, 351, 387, 542 konfirmatorische (CDA) 295, 352, 362, 387 Datenbeschaffung, Datenerhebung: s. Experimentelles Design, Perspektive (Priori-), Kontext Datenkompression: s. komprimieren David-Report 8 DDR 593 DeCode genetics 246 Deduktion 54-61, 84, 96, 106ff, 116, 121, 124, 142, 195, 199, 216f, 222, 269, 272, 283, 307, 314, 335f, 341, 351-363, 365, 381f, 384ff, 410, 424, 433, 469, 485, 491, 500, 528, 540-543, 547, 549f, 554ff, 579, 597, 599 Deduktiv-induktives Schema, 58-60, 117ff, 121, 272, 307, 332, 355-357, 385, 492: s. auch Forschungszirkel Deduktiv-nomologisches Modell: 108, 352-354, 556, 572 Deduktivismus 106, 116, 361f, 415, 480, 556ff, 567: s. auch Deduktion, Falsifikation, Deduktiv-nomologischesModell Demarkationsproblem 172ff Dempster-Shafer-Theorie 421f, 527 denotativ: s. Systemtheorie Descartscher Dämon 558 Desillusionierung 571 deterministisch 19, 43, 84, 95, 151, 212ff, 333, 377, 429, 433, 440, 492, 499, 507, 513ff, 517 Deutsche Forschungsgemeinschaft 580 Deutsche Physikalische Gesellschaft 580 Dichotomisierung 41, 231, 371 Differential- und Integralrechnung 78, 214, 493, 526 Dimensionsreduktion 363, 445, 509 disjunkt 24, 211, 486 Diskretisierung 215, 469, 473, 491, 493 Diskriminanzanalyse 136, 138, 363, 509 Diskriminationsfähigkeit 470, 475, 478 Do-Calculus 436 Dogmatismus 40, 80, 115, 230, 245, 293, 361, 393, 409, 414ff, 428, 439, 519, 550, 553, 560, 596ff Duhem-Quine-These 570 Dutch Book 253, 420

663 ECMO 415 EDA: s. Datenanalyse (explorative) Einsicht: s. Fortschritt, Wissenschaft Effekt 114, 131, 218ff, 230 File Drawer 112, 535 Größe 94, 103 Matthäus- 574 okkulter 15 Placebo- 182 Pygmalion- 225 Reihenfolge- 241, 316 Schmetterlings- 514 Versuchsleiter- 182, 225, 400 Effizienz 41, 140, 175, 204, 225, 256, 456, 459, 524: s. auch Verlustfunktion Einfachheit 148, 280, 327, 376f, 431, 463, 478, 481, 534, 562, 566: s. auch Komplexität, Occam’s Razor Einheit, statistische 131 Eklektizismus 92, 296, 300, 394, 411, 449, 583 Elicitation 98, 255 Elliott-Wellen 186 Empirical Bayes 394: s. auch Statistik Empirie: s. Daten, Forschungszirkel, Passung, Methoden, Realität, Wissenschaft Empirismus 3, 177-181, 196, 198f, 248, 314, 336, 439, 449, 558, 569, 586, 596 Energie 534 Entdeckungszusammenhang: 328, 574, 579f Entitätenrealismus 176f, 551: s. auch Realismus Entropie 257, 259f, 457, 460-462, 475ff, 487, 490, 495, 503, 513, 534 relative 176, 378, 458, 462, 477 Entscheidungstheorie 99, 110f, 114, 116, 121f, 157, 270, 285, 355, 366, 393, 418, 423, 438, 470, 490, 525ff Epidemiologie 94, 190, 223ff, 355, 424, 435, 447, 468, 504, 591 Erfahrung: s. Lernen Erfindung 331, 550 Erfolg: s. Fortschritt, Passung Ergodizität, ergodisch 516f Erhaltungssatz 19f, 535, 567, 575: s. auch Symmetrie Erkenntnistheorie 9ff, 558 evolutionäre 12 Humes Zweifel 21 projektive 10ff, 13 Erklärungskraft 182, 279, 288, 376, 480f, 570: s. auch Passung, Modell

664 Erwartungswert 127, 129ff, 168f, 460, 462, 469, 501, 505, 512, 516 Eskapismus 571 Ethik, Ethos 2, 557, 574, 576 Evidenz 44, 54, 85-89, 97-109, 112f, 116-125, 148, 178, 184-188, 191, 194, 197, 199, 239, 240, 244, 247, 252, 254, 257, 265-267, 283, 309, 317-320, 327, 335, 342f, 355, 359, 361, 365, 368, 371, 378, 386, 392-395, 408, 411, 415f, 420, 423, 426, 433, 483, 521, 542, 557, 570, 573, 575, 598 Theorie der 421 Evidenzbasierte Medizin: s. Medizin Evolution, Evolutionstheorie 47, 182, 341f, 371, 506, 543, 548, 550, 579, 591, 593 Experiment Feld- 305 Gedanken- 104, 184, 236f, 275, 396, 533 Quasi- 192, 225, 229, 231, 234, 264f, 304f, 311, 407, 442, 448, 468, 504 statistisches 83, 94, 97f, 104-107, 113f, 117, 119, 122, 151, 192, 217, 224-239, 244-247, 251, 254, 265, 269, 288, 291-294, 305, 309-311, 316, 322, 333, 358, 361, 363, 402, 407, 414-416, 422, 426, 430, 441-447, 455, 493, 504, 528, 544: s. auch Experimentelles Design wissenschaftliches 3, 5, 7, 14-16, 22, 50, 67, 94, 105, 113, 115, 124, 176, 184, 189, 190, 197, 205, 221-223, 227-231, 234-237, 241-246, 256, 261, 264-267, 275, 276, 290, 294, 305-312, 327, 331, 342, 381, 384, 386, 390, 396, 416, 433, 435, 439, 479, 539-547, 550, 553-566, 578, 581, 596, 597 Experimentelles Design 70, 110, 113f, 119, 131, 193, 217ff, 232, 245, 269, 278, 305, 307, 311, 323, 333, 336, 342, 351, 363, 381, 390, 395, 402, 409, 423, 427-432, 434, 442, 450, 469, 502, 520f, 525, 527, 530, 532, 586, 592 Experimentum crucis 327, 448, 566, 570 Explorative Datenanalyse (EDA): s. Datenanalyse Extrapolation 196, 207-212, 250, 332, 360, 479: s. auch Prognose, Induktionsproblem Facettentheorie(n) 18, 66, 68, 170, 173 Faktorenanalyse 136, 363, 509 Fallibilismus, Falsifikation, Falsifizierbarkeit, Falsifikationismus 43, 49, 91,

Sachregister 108, 183, 326, 343ff, 351, 386, 440, 556f, 572 Fehlende Daten: s. Daten Fehler, Fehlertheorie: s. Approximation, Hauptsatz der angewandten Statistik, Idealisierung, Messung, Modell, Zufall, Falsifikation, Unschärfe, Wahrheit, Passung Ferguson-Komitee 53, 612 Fiduzialargument 140, 392, 425, 469, 497 File Drawer Effect: s. Effekt Formalisierung 159, 268, 270, 365, 393, 428f, 440, 448, 495, 522f, 525, 529, 544, 549, 559, 586: s. auch Mathematisierung Formalismus (Hilbert) 47, 214, 548 Forschung 3, 9, 50, 54ff, 67, 106ff, 235, 280, 288ff, 328, 345, 351ff, 361, 384ff, 415, 422, 456, 520, 539-554, 575ff, 580, 589, 599 Freiheit der 577 Forschungsorganisation 575ff Forschungszirkel xi, 332, 384-396, 410, 422f, 452ff, 456, 476, 528, 539-554, 554ff, 559, 575f, 577ff, 581f, 589, 597ff Fortschritt 1, 10, 16, 40, 55, 64, 67f, 71, 77, 93, 124, 145, 151, 165, 171, 189, 281, 285, 288-291, 307, 339, 343, 345, 358, 411, 416, 431, 439, 452, 540, 550-554, 570, 577, 581-583, 589 akkumulativer: s. Akkumulationstheorie Fortschrittsillusion 551, 586 Fraktal 514, 517 Framingham-Studie 468: s. auch Epidemiologie Frankfurter Allgemeine Zeitung (FAZ) 453 Frequentist statistics: s. Statistik (orthodoxe), Wahrscheinichkeit (Häufigkeitsinterpretation) Full Probability Modelling 420, 448, 486: s. auch Modell, Modellierung Fundamentalwert 170 Fuzzy-Mengen 304, 421 gapminder 300 Gehirn im Tank 558 Genauigkeit: s. Präzision Generalisierung 16, 125ff, 148, 162, 193ff, 204, 241, 251, 282, 311f, 329, 334, 425, 504, 523, 553: s. auch Induktion Geologie 575 Geometrie 4, 7, 11, 57, 61, 214, 276, 327, 478, 517, 532, 549 Geschichte 396

Sachregister Geschwindigkeit 18, 20, 27, 63f, 159f Gesellschaft: s. Soziologie gesellschaft für analytische philosophie 561 Gesellschaft f. Wissenschaftsforschung 561 Gesetz, Gesetzmäßigkeit xii, 8, 20, 36, 44, 50, 56, 59, 152, 154, 160f, 182, 184, 188, 191, 195-197, 200, 202, 205, 207, 209, 213-216, 250, 271-275, 282, 289f, 311, 325, 329, 339, 343-346, 349, 353, 385, 412, 432, 446, 452f, 463f, 488, 492, 496, 500, 502, 512-515, 521, 533-537, 545, 552, 555f, 566, 569-570, 574-578, 586, 591, 595: s. auch Struktur Null-Eins- 537 Gesetz der großen Zahlen 82, 120, 130, 211f, 316, 516 Gesetzesschaffende Maschine: s. “nomological machine” Glaube 540 Glaubwürdigkeitsintervall 339, 397f, 497: s. auch Konfidenzintervall Glücksspiel 80, 182, 255 Gödelsche Sätze 210, 464f, 573: s. auch Berechenbarkeit Graphentheorie 146f, 429ff, 455, 522, 533 Gruppentheorie: s. Invarianz Halteproblem: s. Gödelsche Sätze, Berechenbarkeit Hassloch in der Pfalz 203 Hauptkomponentenanalyse 136 Hauptsatz der angewandten Statistik bzw. Datenmodellierung 148ff, 151, 172, 178, 206, 296f, 329ff, 377, 426, 451, 468ff, 472, 474, 500, 504ff, 529 Hauptsatz der Mathematischen Statistik 82f, 374 Heliozentrisches System 550, 579 Hempel-Oppenheim-Schema: s. Deduktivnomologisches Modell Hermeneutik: s. Wissenschaften (Geistes-) Hintergrundwissen: s. Kontext Holismus 570 Homo oeconomicus 175, 252, 453 Homöopathie 15 HQ 380: s. auch Informationskriterien Human Genome Project 302 Hypothese 317f, 319f, 343, 345, 354, 361, 385, 401, 470, 476, 506, 521, 540f, 570, 585, 592: s. auch Tests IBE (inference to the best explanation): s. Schluss auf die beste Erklärung

665 IDA: s. Datenanalyse Idealisierung 45, 186, 252, 273, 281, 286, 288, 331, 370, 400, 504, 533, 556, 574, 591 Idealismus 283, 565 Identifikation 454 identifizierbar: s. konfundiert 12, 65 Ideologie 419, 422, 428, 553: s. auch Dogmatismus Ignorierbarkeit 443f, 450, 454 IID: s. Zufallsvariable Immunisierung 40, 588 Imprecise Probability: s. Wahrscheinlichkeit Imputation 208 Incompressibility Method 489 Indifferenzprinzip 99, 156, 257-259, 419, 461, 467, 491, 534 Induktion xi, 54-61, 67, 83, 85, 92, 96, 124f, 151, Kapitel 4 (195-349), 351, 355, 362-364, 381f, 384ff, 427, 429, 433, 441, 456, 463f, 469, 471, 489, 491, 500, 509, 518, 527f, 540-544, 558f, 579, 589, 597 eliminative 96, 219, 250, 341, 435, 554 enumerative 250, 277, 329, 341, 482 instanzenbasierte 204f konservative 116, 567 Induktionsprinzip 195, 198, 210, 248, 250, 325, 340-348 Induktionsproblem 59f, 83, 117, 148, 182, 195-200, 325-349, 464ff, 478, 562, 566, 568, 571, 579, 583 Hume 59, 196-200, 340, 343-348, 454, 479, 481, 529, 557, 586 Neyman (induktives Verhalten) 117-121 Induktionstheorie (Solomonoff) 480f, 494 induktiv-statistisch 323ff, 563 Induktive Logik 199, 247-251, 333, 340, 356, 523, 558, 563 Induktive Lücke 85, 200f, 205, 207, 209, 212, 217, 220, 228, 241, 249-251, 254, 273, 275f, 289, 296, 312, 314f, 327f, 339-343, 346ff, 360, 386, 499, 502, 557 Induktive Orientierung 293-299: s. auch Empirismus Induktiver Sprung: s. Induktive Lücke Induktives Verhalten: s. Induktionsproblem (Neyman) Informatik, Informationstechnik 141-143, 181f, 290, 300f, 308, 359, 361, 371, 420, 445, 456, 467, 528, 546 Information xi, 4, 13, 31f, 35f, 41, 69, 71, 77, 80, 91, 94, 102, 113-115, 118,

666 122ff, 140f, 152, 156, 163ff, 185, 191f, 201, 206, 210f, 223, 241, 243, 245, 249, 252-259, 261, 263, 265, 267, 269, 271f, 278, 283, 297, 299f, 302, 305f, 315, 318f, 322ff, 332, 336f, 342-346, 366, 372f, 377, 379, 388, 391f, 394, 396, 398f, 403-406, 414, 421-424, 426, 429, 434, 438, 468f, 484f, 490, 501, 507, 511, 514, 520, 527f, 534f, 540, 543, 555, 558, 561, 566, 590, 592, 594, 597: s. auch Vorwissen, Informations. . . Fisher- 456, 461, 470, 478 Informationsfusion 302 Informationskriterien 377ff, 383, 494, 532 Informationsmarkt 527 Informationsparadigma 455-528 Informationstheorie 13, 124, 142, 301, 359, 419, 421, 440, 456-471, 482, 492, 496, 512, 518ff, 522f, 526ff, 536, 563, 598 Informationsungleichung 458 Informationsverlust 225, 368, 378, 466, 490, 508, 512 innovativ 10, 183, 202, 306, 362, 448, 576f Instrumentalismus 50ff, 179ff, 186, 188, 283, 285, 567 Integrität 599 Intelligente Datenanalyse (IDA): s. Datenanalyse Intelligenz 17, 52, 66, 68, 170, 173, 398 künstliche 421 Interessen 3, 246, 576, 593ff Internalisierung 288 International Statistical Institute (ISI) 426 Interpolation 207f, 212, 279, 332, 375 intersubjektiv 2, 6, 13, 35, 98, 255, 336, 394, 408, 486, 537, 551: s. auch objektiv Intervention 113, 222, 227, 304, 429-436, 447f, 453, 520, 525, 527, 532 Invarianz xi, 19-22, 35, 43, 48f, 51, 61, 65f, 75, 97, 99, 152-161, 164-166, 258ff, 314f, 354, 369, 392, 425, 435, 477, 505, 518, 520, 524, 528-537, 551, 567 irrational, Irrationalismus 410, 426, 557, 565, 570-575 Isolation 46f, 415f, 438, 528, 546 Jackknife 242, 382 James-Stein-Phänomen: s. Schätzung Journalismus 267, 584 KAM-Theorie (Kolmogorov, Arnold, Moser) 528

Sachregister Kartenspiel 512 Kausale Netze, Kausalität 124, 147, 184, 192f, 217ff, 221, 226, 234, 238, 245, 251, 285, 304, 306, 311, 322, 333f, 359, 390, 407, 421, 427-441, 448-455, 520, 522, 524, 527, 552, 561, 585, 589, 598 Keplersche Herausforderung 463 KISS-Prinzip 125 Klassifikation 137f, 363 Kleinste-Quadrate-Schätzung: s. Schätzung Klima, Klimaforschung: s. Meteorologie Klinische Studie 107, 113f, 174, 183, 221, 225, 227, 229, 231, 245f, 274, 406, 414f, 425, 520f, 553, 576 Kodierung 458-461, 474, 489, 492, 534 Kohärenz: s. Konsistenz Kollektiv (von Mises) 262, 508 Kolmogorov Axiomensystem 211f, 422, 431, 528 Entropie 475 Komplexität 462-468, 480f, 498, 500, 506f, 528 Strukturfunktion 465 Suffiziente Statistik 466 Kombinatorik 233, 465, 536 Komplexität 233f, 305, 376, 418, 462ff, 478, 487ff, 498f, 513, 519, 527f, 532f, 536f, 582f: s. auch Einfachheit Kompression: s. komprimieren komprimieren, komprimierbar 233, 388, 463ff, 471ff, 474, 476, 479f, 487, 489, 495, 501f, 504ff, 508-510, 526 Konfidenzintervall 94, 265, 397ff, 425f, 446, 478, 497f, 518 Konfirmatorische Datenanalyse (CDA): s. Datenanalyse konfundiert 12, 65, 223, 225, 229, 424, 433, 436, 444, 447, 455, 498 Konklave 495 konnotativ 590 Konsens, Konsensfindung 36, 255, 305, 313, 408-411, 422, 485f, 551, 559f, 597 Konservatismus 111, 115, 183f, 187, 246, 303ff, 307, 358ff, 383, 415 Konsistenz 49, 248, 252-254, 262, 272, 319f, 353, 380, 391, 408, 411, 420f, 426, 435, 439, 471, 475, 480, 518, 521, 523, 531, 540, 552, 596 konstruktiv-kritisch 578, 581f, 586 Konstruktivismus 50, 57, 570f, 574f, 598 Kontext 12, 50, 172, 191-193, 210, 242, 272, 279f, 286, 294, 299, 308-314, 322, 326f, 331-336, 342, 351, 357, 374, 377,

Sachregister 386, 390, 395, 401, 403ff, 413, 418, 423, 427, 433-438, 447f, 450, 462, 469, 486, 491, 503, 512, 520ff, 532, 537, 542, 544, 547, 551, 562, 570f, 579 Kontingenztafel 371ff, 474 kontrafaktisch: s. counterfactual Kontrollfunktion 448, 450 Konvention 80, 88, 167, 212, 259: s. auch Protophysik Konvergenz (von Meinungen): s. Konsensfindung Korrelation 134ff, 137, 146f, 161, 192, 282, 304, 334, 363, 434ff, 441ff Korrelationsanalyse, kanonische 134ff, 363 Korrespondenzanalyse 136, 509 Kovarianzanalyse 134 Kraft 536 kreativ 59, 303, 386, 541, 575, 577 Kreuzvalidierung 380-384, 529 Kriterium: s. Variable (abhängige) Kritik 7, 40, 94, 100, 184, 186, 210, 219, 244, 260, 290, 293, 306f, 339, 344, 414, 437, 440ff, 451ff, 567ff, 581-586 Kryptographie 508 Kugelblitz 15 Kullback-Leibler-Abstand (Entropie): s. Entropie (relative) Künstliche Intelligenz 124, 304, 307, 341, 421

Lady-tasting-tea 241f, 308f latent 136ff, 145ff, 152, 282f, 396, 398, 405, 407, 429ff, 439, 501ff, 506 Latente Strukturanalyse 136 Law of Decreasing Credibility (Manski) 338f: s. auch Sensitivitätsanalyse Law of Insufficient Reason: s. Indifferenzprinzip Leading Situation (Tukey) 296f, 502 Leap of Faith: s. Induktive Lücke Leave-One-Out-Methode 382f Lernen (insbes. aus Erfahrung) 77, 122ff, 196, 278, 295, 301, 334, 337f, 402, 428, 468, 474, 485, 501f, 518, 539f, 542, 558, 565, 583f Let the data speak for themselves: s. Daten Levels of Evidence 244 Likelihood-Funktion 90, 96, 99, 123, 128, 265f, 317, 389, 394, 509, 524 Likelihood-Prinzip 266ff, 389, 395f, 400, 402f, 406, 423, 427, 468 Likelihood-Schule: s. Statistik

667 Linearität 27ff, 36, 127, 129-135, 138f, 158, 176, 259, 367f, 375, 429, 502, 506, 508, 520 Lingua Franca 564 LISREL 136ff, 146ff: s. auch Pfaddiagramm Logik 2, 5, 84, 210, 248ff, 252, 320, 335, 411, 425, 463f, 471, 531, 568ff, 578f, 584, 596f: s. auch Konsistenz Long Run 104f, 115, 118, 120, 203, 397, 399, 402, 425, 441, 483, 497, 533 Luftfahrt 290 Machine Learning 124, 184, 210f, 299, 307 Macht 56, 235, 431, 481, 575, 577 MANOVA 136 Marketing 202f Markov. . . 144f, 298, 499, 502 Martingal 144, 298, 418, 502, 525 Masse 19, 51, 224, 572 Maßstab, universeller 3, 470, 489, 519, 533, 569 Maßtheorie 491, 525f Matching 444, 446, 451, 532 Mathematik xi-xiii, 3, 13, 42f, 46f, 49, 55-62, 72ff, 76, 195f, 199, 227, 253f, 287, 339f, 342, 348, 351, 353ff, 359, 366ff, 415, 422, 470f, 485, 493, 528, 545, 547, 552f, 557, 568ff, 573, 585, 588, 596f angewandte 5-8, 64, 77, 114f, 117, 143, 153, 158, 271f, 293, 355, 358ff, 370, 431f, 453, 492, 523, 546, 557, 564, 566ff, 578, 595ff Finanz- 143, 170f, 185, 289, 571 Philosophie der 1, 47, 214, 548, 556 Mathematische Statistik: s. Statistik Mathematisierung 42ff, 59-62, 238ff, 268, 328, 390, 428, 546, 561, 563, 596: s. auch Formalisierung, Methoden (quantitative) Mathematistry (Box) 357f Matthäus-Effekt: s. Effekt MaxEnt (Prinzip der maximalen Entropie): s. Entropie Maximale Bestimmtheit 323: s. auch Referenzklasse Maximum Likelihood: s. Schätzung MDL: s. Minimum Description Length Mechanik 20, 275 Mechanismus 11, 145, 178, 192, 207, 209, 277-280, 297, 301, 314, 407, 432, 434, 440, 443, 447, 451, 469, 499, 500, 520, 522, 545, 578 Median 33ff, 38, 141, 243, 365

668 Medizin 93, 209, 226f, 290, 325, 329, 359, 361, 364, 543, 545, 575, 584: s. auch Statistik (medizinische) evidenzbasierte 227, 244, 313, 415 Messtheorie 23-76, 151f, 259, 274, 313, 354, 422, 425, 505, 530, 546 operationale 50-54, 167ff repräsentationale 23-25, 50, 53f, 66, 167ff Messung 3f, 13, 23ff, 53f, 60, 65-68, 92, 151f, 154, 160-164, 292, 331, 511, 551, 590, 596 Äquivalenz 25ff, 62ff, 154-160, 164, 354 Fehler 43, 68, 129, 172ff, 178, 206f, 365, 376, 484, 491, 500, 505-508, 511 fundamentale 47, 70, 314 Temperatur 25, 27, 30, 35, 40, 67, 70f, 252 Metaanalyse 102f, 122, 355, 527 Metaphysik 2, 285, 441, 543, 561 Meteorologie 145, 150, 174, 204, 282, 302, 514, 558, 575f Methode(n) 3, 299, 305 empirische: s. Daten, Experiment, Forschungszirkel graphische: s. Anschauung qualitative 31f, 337, 390, 586: s. auch robust quantitative 3ff, 31f, 123, 203, 205, 208, 232, 245, 251, 287, 291, 293, 307f, 344, 453, 485, 539, 568, 578, 585f, 594, 596: s. auch Präzision wissenschaftliche 14, 114-118, 121, 151, 213, 224, 235ff, 270, 272, 291, 362, 550, 569, 574, 578ff Metrik 378, 458 Mills Induktionsstrategien 217-224, 231, 237, 239, 240, 251, 277, 333, 390, 432, 446, 530 Minimax 175 Minimierung 225, 234 Minimum Description Length (MDL) 380, 473-478, 481, 500, 519, 527: s. auch Informationskriterien Minimum Message Length (MML) 380, 471ff, 477, 494, 519, 527: s. auch Informationskriterien Minimum Variance Unbiased Estimator (MVUE): s. Schätzung Mischung, mischen 147, 249, 267, 272, 364, 366, 370, 401, 410, 449, 512, 517, 528 Missing Values: s. Daten (fehlende) Mittel (Mittelung) 505, 516

Sachregister arithmetisches 32-38, 40, 63, 70, 127, 141, 156, 163, 168ff, 364, 366, 379, 382, 401, 516: s. auch Erwartungswert geometrisches 34 getrimmtes 38 Hodges-Lehmann- 366 Mittelalter 575 MML: s. Minimum Message Length Mode: s. Zeitgeist Modell, Modellierung 109ff, 121, 126f, 129-150, 153, 172-194, 204, 207, 212ff, 217ff, 231, 244, 254, 271-293, 301, 314, 327-332, 334, 340, 348, 351f, 360, 364, 371, 377-381, 396, 407, 420, 429ff, 439f, 446, 449ff, 453, 469, 471, 474-476, 479, 506ff, 518, 520, 522, 527, 535, 541, 544, 585, 592: s. auch Struktur Auswahl 375ff, 381f, 387, 470, 509, 562 deskriptive 278ff, 285f Entwicklung 278-283, 387, 509, 529 Interpretation 176-189, 370, 485, 511 (Miss-)Spezifikation 172f, 174ff, 191, 194 Passung: s. Passung realistische 278ff, 285f Standardkosten- 594 Modellklasse 176, 193, 374, 378, 476, 506-511 Modus 33 Modus tollens 83, 96, 250, 326, 344 Moral: s. Ethik Multidimensionale Skalierung 137f, 363, 509: s. auch Dimensionsreduktion Multimodel Inference 182 Münzwurf 79, 184f, 407, 484f, 490f, 495, 499f, 507, 513, 536: s. auch Zufallsexperiment, Randomisierung, Verteilung Muse 577 Muster: s. Struktur Mustererkennung 184, 302ff, 422, 463, 474, 506, 509 Naturgesetz: s. Gesetz Naturwissenschaften: s. Wissenschaften Nearly Black Object 503 Neuer Experimentalismus 555f, 561 Neuronale Netze 145, 181, 183, 303, 307, 381, 509 Neutrino 567 Neuzeit 54, 209, 214, 314, 527, 561, 575f, 581, 597 Neyman-Scott-Problem 472 nichtlinear: s. Linearität, Chaos

Sachregister No Free Lunch 243 No-Miracles-Argument 221, 565 Noether-Theorem 20 Nomological Machine (Cartwright) 197f Normalverteilung: s. Verteilung normativ 35, 39, 56-58, 68, 71, 116, 167, 288, 344, 353f, 410, 422, 572, 579, 589f Nullhypothese: s. Hypothese, Tests Nulltes Problem (Mallows) 175, 452 Number Needed to Treat (NNT) 94 objektiv, Objektivität 10, 13-15, 99, 104, 107, 113, 120, 125, 165, 212, 247, 261, 263, 322, 328, 367, 383, 395, 407ff, 414, 426, 486, 525, 537, 545, 552f, 586, 592f Occam’s Razor 175, 376, 467, 480, 482, 491, 591: s. auch Einfachheit Odds 156f, 264, 486 Okkulter Effekt: s. Effekt Ökonomieprinzip des Denkens: s. “Occam’s Razor” Ökonometrie 133, 145, 171, 173, 182, 270, 289, 291, 400, 422, 448, 450f, 591, 593: s. auch Wissenschaften OLS (Ordinary Least Squares): s. Schätzung Ontologie 2, 78, 177, 181, 189, 599 Operationalisierung 108, 161, 164, 272, 327f, 368, 385, 390, 395, 428, 431, 433, 456, 485, 515, 540, 556 Operationalismus 18, 50, 52ff, 62, 65f, 70, 163-164, 167f, 171, 177, 439, 451: s. auch Instrumentalismus Operatorgleichungen 138f Optimierung 118, 139, 148f, 158, 259, 260, 269, 281, 294, 366-369, 376f, 383, 510 Overelaboration 173f Overfitting 148, 182ff, 304, 376f, 383, 472f, 500, 511 Oxford Centre for Evidence-based Medicine 244 p  n-Probleme 418 P-Wert 85-89, 102f, 107, 114, 119, 122, 140, 257, 383, 408, 476, 529, 531 Paradigmenwechsel: s. Wissenschaftliche Revolution Paradoxon 348f, 583f Achilles (Schildkröte) xii, 348 Bertrand 159, 166, 319 Epimenides (Lügner) xii

669 GRUE- (Goodman) 197ff, 315ff, 321, 478, 529 Hempel (Raben) 93, 316ff, 321, 583 Hume: s. Induktionsproblem Kyburg (Lotterie) 319f, 583 Partitionierung 158, 258, 261, 475 Simpson 315, 321ff, 403, 405, 429, 434ff, 455, 584 Stoppregel 401 Wein-Wasser- 156ff, 259f Parameter, Parametrisierung 19, 79, 97, 125-128, 132, 134, 137f, 140, 144-149, 154, 158, 162, 166, 170, 174, 176, 181, 188, 206, 256-261, 266-269, 276, 279f, 286, 368, 374-379, 389, 397, 404f, 407, 413, 445, 450-454, 468-479, 497, 501f, 508, 518, 524, 531f Parameterraum 266-269, 428, 461, 475, 524, 531 Parapsychologie 15 Parsimony: s. Einfachheit Passung 96, 178f, 209, 271ff, 276-278, 286, 294, 330f, 353, 357, 376f, 381, 511, 552f, 556, 578-581, 598 Peer-Review-System 576 Perfektionismus 557, 573 Periodensystem der chemischen Elemente 550f, 579 Permutation 315 Permutierbarkeit: s. Austauschbarkeit, Vergleichbarkeit Perspektive 9, 19, 65-68, 297, 335, 339, 364ff, 370, 380, 393-399, 400ff, 411, 414, 513, 559, 591, 598f Posteriori- 266, 269, 388, 399, 401, 406, 430, 446, 498, 579 Priori- 269, 368, 397ff, 430, 450, 452, 525, 579 Wechsel der 15ff, 19ff, 150, 218ff, 242, 496ff, 516f, 530, 552, 559 Pfaddiagramm 146, 149, 289, 291, 429: s. auch Kausale Netze Pharmakologie 143, 209, 246, 542f, 546: s. auch Klinische Studie, Medizin Phasenübergang 534f Philosophie xii, 2, 409, 412, 439f, 482, 491, 528, 546, 554, 560-573, 583f, 587f, 595ff, 599f wissenschaftliche 560f, 563, 573, 589, 596 Phlogiston 177, 567 Physik 6ff, 16ff, 47, 56, 58, 60f, 180, 184f, 188f, 202, 209, 213, 222, 294, 302, 312, 314, 331, 345, 358, 362, 379, 384, 386, 411f, 416, 422, 446, 452, 475,

670 485, 492, 522, 529, 534f, 537, 545, 547, 549f, 556-558, 566f, 569, 573, 588, 596 Placeboeffekt: s. Effekt Pluralismus 564f, 569, 599 Politische Arithmetik 5 Population 169, 201ff, 205, 240, 242ff, 250, 340, 384, 453, 474, 497, 521 Positivismus 52, 177ff, 283, 438f, 514, 550 Positivismusstreit 4 postmodern 564ff, 573f, 590 Potential Outcome: s. counterfactual Prädiktor: s. Variable (unabhängige) Präfix-Code: s. Kodierung pragmatisch 67, 125, 145, 151, 166, 177, 181, 288f, 308, 337, 411f, 425, 439, 553 Prämisse: s. Voraussetzungen Präzision 5, 40, 45, 50, 53, 56, 68, 188, 217, 221, 278, 285, 287, 319f, 326, 331, 337, 358, 367, 433, 453, 526, 534, 544, 547f, 552, 578, 596f: s. auch Reliabilität, Mathematisierung, Methode prequential (Dawid) 479, 527 Principle of Insufficient Reason: s. Indifferenzprinzip Probabilistic Causality (Reichenbach) 437 Problem of the Nile (Fisher) 405, 473, 477 Prognose 5, 56, 145, 150f, 179, 188, 190, 196, 203, 208-211, 221, 254, 274-281, 289, 301, 316, 331, 334, 343, 345, 349, 375, 386, 432, 442, 479-481, 499, 507, 511ff, 517, 522, 526, 540, 544, 552f, 566, 574, 578f Programm (Informatik) 463ff Projektion 11, 13, 51: s. auch Transformation Projektive Geometrie: s. Projektion Propensity (Popper): s. Wahrscheinlichkeit Propensity Score 425, 442-448, 450, 454 Prospect Theory 175 Protophysik 57f Prozess: s. Mechanismus stochastischer: s. Zufallsvariable Psychoanalyse 283, 416, 546, 550 Psychologie 17, 161, 170, 182, 289, 329, 361ff, 386, 416, 421, 553, 597 Psychometrie 52ff, 171, 398, 590: s. auch Intelligenz Psychophysik 42, 52ff, 261, 550 Ptolemäisches System 174, 280, 305, 438: s. auch Black Box Publication Bias: s. Bias

Sachregister Publish or Perish 577 Pygmalion-Effekt: s. Effekt Quantentheorie 189, 215, 275, 484, 492, 526, 573, 579, 590 Quietismus 411 Rad 549: s. auch Forschungszirkel radikal 212, 252, 413, 570-573, 583, 598 Randbedingung: s. Kontext, Bedingen, Voraussetzungen Randomisierung 100, 140, 203, 226-234, 234ff, 244ff, 263, 266, 401, 406, 413, 427, 430, 441, 443, 448, 451-455, 498, 520f, 530, 586 eingeschränkte 232ff rational 175, 252f, 319f, 421, 426, 581 Rationale Heuristik 567 Rationalismus 116, 196, 198f, 586 kritischer 107, 181: s. auch Fallibilismus Raumfahrt 290, 580 RCT: s. Klinische Studie Realisierung: s. Zufallsvariable Realismus 11, 65f, 168ff, 172, 176-189, 276, 451, 551f, 567ff, 570: s. auch Invarianz Debatte 21, 565f naiver 43 Realität 10ff, 23ff, 78ff: s. auch Daten, Forschungszirkel, Induktiver Sprung, Information, Invarianz, Modellierung, Passung, Prognose, Realismus Realitätsverlust 552, 561f, 564-571, 574f, 583, 595f, 599: s. auch Spekulation Rechtfertigungszusammenhang: s. Begründungszusammenhang Referenzklasse 204f, 250, 322-325, 329, 404ff, 437, 455, 521: s. auch Bedingte Inferenz Referenzmenge: s. Referenzklasse Regelmäßigkeit: s. Gesetz, Struktur, komprimierbar Regress des Experimentators 555 Regression, Regressionsanalyse 132-134, 137, 161, 215ff, 220, 231, 270, 288ff, 333, 363, 375f, 413, 434, 445, 479, 506, 508, 518 Reihenfolgeeffekt: s. Effekt Relation 23 bedeutsam 31ff Relativ empirischer 24, 30, 36, 43f, 48 numerischer 24 Relativismus 568ff, 572, 581 Relativitätsprinzip 18: s. auch Invarianz

Sachregister Relativitätstheorie(n) 19, 21, 57f, 294, 579 Reliabilität 120, 152, 162-164, 174, 176, 188, 243, 269, 328, 367, 511, 529, 544, 586, 592, 596 Repeated Sampling: s. Replikation Replikation 14f, 22, 64, 94, 102, 104f, 113, 120, 152, 163, 189, 236, 241, 243, 246, 251, 264, 326, 331, 336, 342, 360, 381, 384f, 396f, 399, 402, 407, 433, 435, 485f, 493, 497, 517, 521, 530, 545, 552, 570, 578, 586 Repräsentant 204, 497f Repräsentativität 201ff, 240, 245, 250, 263, 326, 327ff, 333, 384, 503 Resampling 141f, 242-244, 265, 383 Revolution: s. Wissenschaftliche Revolution, Evolution, Theorie Risikoreduktion 94 Ritual 93, 114, 170, 291, 329, 415, 549 robust 38, 75, 81, 91, 100f, 186, 256, 273, 287ff, 298, 336ff, 370, 373, 503, 535f: s. auch sensitiv Royal Statistical Society 10, 441 RRR: s. Risikoreduktion Rubin Causal Model 454 Rückkopplung 595

σ-Additivität 211, 227, 422 σ-Algebra 525, 531 Sampling: s. Stichprobe, Experimentelles Design, Statistik (orthodoxe) Schätzung 99, 127ff, 140, 154ff, 316, 367, 403, 425, 454, 470, 474, 518f, 524, 532 adaptive 374ff erwartungstreue (unbiased) 158, 162f, 270, 367f, 425, 531 James-Stein-Phänomen 405, 473, 477 Kaplan-Meier- 374 Kleinste-Quadrate- 133, 479 Maximum-Likelihood- 127ff, 145, 165, 378, 413, 472-475, 518 Minimum Variance Unbiased Estimator (MVUE) 141, 367, 532 Plug-In- 144f, 374 Science Citation Index 9 Science Studies 564, 589, 598 Scientific American 588 Schluss auf die beste Erklärung 128, 251, 341, 480 Schmetterlingseffekt: s. Effekt Scoring 145, 253 Selbsterfüllende Prophezeiung 225, 574

671 Selektion 12, 112, 185, 224f, 245, 400ff, 427, 446-450, 455, 504, 518, 521, 527, 586: s. auch Bias, Zuweisungsmechanismus sensitiv 91, 122, 208, 256, 284, 287, 336ff, 366, 369, 513, 535: s. auch robust, Effizienz Sensitivitätsanalyse 338f, 513, 535f Signifikanz 94, 114, 468: s. auch Tests Simulation 98, 142, 150, 183, 231, 242f, 276, 282, 289, 338, 364f, 370f, 381f, 420, 429, 493, 547 Skala 24ff, 154ff, 598 Absolut- 30, 166, 260, 368 Hierarchie 27ff, 33f, 41ff, 71 Intervall- 29f, 34-38, 40, 69f, 152, 368 Niveau 27, 30, 33-39, 41, 72, 74 Nominal- 28, 33-35, 38, 40f, 48, 87 Ordinal- 28, 30, 34-38, 40, 69f, 81, 152 Verhältnis- 30, 35f Skepsis: s. Kritik Skeptizismus (Hume) 572 Social Physics 289f, 362 Society for Imprecise Probability (SIPTA) 421 Sokal Hoax 564f Solipsismus 558 Sozialwissenschaften: s. Wissenschaften Soziologie 4, 289, 362, 549, 569, 572ff, 588, 590ff, 597: s. auch Wissenschaftssoziologie Spektralanalyse 296 Spekulation 3, 185, 189, 193, 334f, 342, 351, 400, 549, 552f, 561, 564, 570-573, 583, 590, 599 Spieltheorie 110, 175, 261, 459, 522, 525ff Splitting, Split-Half-Methode 360, 381f Sprache 598 formale 5, 421, 524 Stabilität xii, 182, 336, 351, 530, 555, 561, 573, 578, 592 Stable Unit Value Treatment Assumption (STUVA) 450, 532 Standardisierung 241, 311, 418 Stationarität 144, 296, 298 Statistical Science: s. Statistik (Fachgebiet) Statistik (Fachgebiet) 8ff, 263, 316, 326, 425, 452ff, 518-528, 550, 557, 563, 572, 583-586, 595-599 adaptive 299, 589-594 asymptotische 82f, 206, 502, 533, 536f Bayessche 98f, 107, 120, 173, 212, 247-271, 333, 355, 391ff, 396, 399f, 405f, 408ff, 413f, 418-422, 426f, 429f, 437, 453, 461, 468, 471, 474, 477, 481,

672 484, 493, 499, 505, 518, 521, 523, 526f, 531ff, 558, 598 Definition 4, 116, 124, 130, 303, 308, 490, 522 deskriptive 297ff, 309, 365, 388, 504 explorative: s. Datenanalyse Geschichte 5f, 92ff, 106-121, 123f, 178, 247f, 269f, 293f, 300, 303-307, 354-364, 410-422, 424, 439ff, 517-528, 572 Grundlagen 124f, 419f Kochbuch- 93, 298, 369 Likelihood-Schule 266ff, 389, 393-396, 505 mathematische 82, 124f, 183, 294, 299, 306f, 313, 354-359, 365, 410, 416, 425, 470, 490, 528, 541, 546, 598 medizinische 94, 156, 191, 225, 247, 270, 288, 302, 359f, 415, 422, 584: s. auch Medizin Name 6 nicht-parametrische 69, 81, 126, 143, 176, 431, 477 nicht-stochastische 467, 469, 481 orthodoxe 73, 87, 110f, 115, 119ff, 124, 143, 166, 183f, 186f, 191f, 201, 228, 236, 245-247, 255, 261-270, 298, 300, 303-306, 310, 334, 337, 355, 358f, 375, 383, 391, 393-399, 402, 406ff, 414-422, 424ff, 430, 434, 440, 446f, 456, 468, 474, 477, 505, 518, 527f, 531f, 563, 598 parametrische 69, 72, 75, 125-128, 144, 503, 505, 523f sequentielle 406f, 521 Universitäts- 5 Statistik (Funktion der Daten) 364, 404f (nicht) bedeutsam, (nicht) skalenabhängig, (un)zulässig 32-35, 38, 40, 63, 68, 71, 164 Hilfs- (ancillary) 166, 372f, 403ff: s. auch Suffizienz robuste: s. robust suffiziente: s. Suffizienz Stichprobe 106, 201ff, 240, 265, 269, 340, 384, 453, 469, 497 Zufalls- 203f, 224, 240f, 243, 263, 333, 424, 527 Stichprobenraum 107, 119ff, 201ff, 236, 245, 265, 269, 398-408, 414, 424, 428, 431, 441, 444, 448, 474, 497, 513, 523f, 529, 531 Stochastik: s. Wahrscheinlichkeitstheorie

Sachregister Stochastische Gesetze: s. Wahrscheinlichkeitstheorie, Gesetz Stringtheorie 553, 590 Strong Programme (Bloor) 574f Struktur 23, 43ff, 58, 149f, 164, 173, 178, 184, 189f, 206, 213f, 276-278, 281, 294, 301, 303, 327-332, 345, 352, 363, 371f, 376f, 390f, 424-427, 431, 464f, 469, 478, 487, 500-515, 518, 525, 528, 532, 544, 562, 565, 569, 590 latente: s. latent Strukturalismus 21, 213f, 563 Strukturgleichungsmodell: 429, 441, 448ff: s. auch LISREL, Pfaddiagramm Strukturrealismus 176f, 551: s. auch Realismus Subjektivität 10f, 107, 120, 122, 190, 232, 254f, 261ff, 407ff, 419ff, 440, 510, 545, 573f, 586, 590 subjektunabhängig 12f: s. auch objektiv Substanzieller Zusammenhang: s. Kontext Success Words (Stove) 570 Suffizienz 140, 166, 243, 360, 369, 398, 403ff, 407, 413, 435, 466, 474, 497, 505, 525, 531 Suffizienzprinzip 266f Support Vector Machine (SVM) 418 Sure-Thing Principle (Pearl) 436 Symmetrie 20, 34, 67, 164, 224, 354, 484f, 529: s. auch Invarianz Symmetriebruch 529-537, 590 Systemtheorie 546, 590ff, 598 Technik 7, 26, 125, 150, 181, 277, 331, 420, 534, 595, 597 Tests, statistische Testtheorie 83-106, 183, 270, 292, 327ff, 355, 362f, 375, 388, 401, 403, 425, 475f, 488, 519, 536: s. auch Hypothese adaptive 371ff Alternativhypothese 89f, 108 Bayessche 98f, 317 bedingte 371ff, 402ff Fehler 1., 2. und 3. Art 89f, 96, 104f, 111, 174f, 187, 273, 401, 425, 586 Fehlerkontrolle 104f, 111ff, 119, 355 hybride 92-95 Hypothesen- (Neyman und Pearson) 89-92, 97, 108, 114, 117, 328, 363, 367f, 371, 409, 474f, 482 Likelihood- 95-98, 103, 123, 250, 317f, 327 Niveau 89f, 355, 409

Sachregister Nullhypothese 86, 89f, 93, 101, 108, 112, 232, 238, 257 Permutations- 242, 534 psychologische 148, 168 Power 89-92, 120 Randomisierungs- 235ff, 241, 245, 451, 530 Replikation 101-106, 236 Ritual 93, 114, 415 Signifikanz- (Fisher) 83-89, 123, 140, 250, 309, 327, 363, 371, 476 Student t- 373 Vierfelder- 371 Theorie 316, 323, 331, 481, 540-549, 553, 566f, 571, 578f, 586ff, 590f, 597f: s. auch Modell Dynamik, Entwicklung 543-548, 555: s. auch Forschungszirkel theoriegeladen 391, 555, 562, 571 theoriegeleitet 547ff: s. auch Deduktivnomologisches Modell, Deduktion theorielastig 554ff, 561f Toolkit Statistician 411f Transformation 51, 87, 160, 164, 258ff, 267, 354, 368, 530 Skalen- 26-34, 43, 48, 83ff, 157f zulässig 11, 28, 32ff, 43, 49, 68-72, 75, 164 Turing-Maschine 210, 463, 480 typisch 488f, 496f, 500, 503, 509, 516 überadaptiert: s. overfitting Überlebenszeit 374 Umfeld: s. Kontext Unabhängigkeit: s. Zufallsvariable, Variable unbestimmt 483ff, 490f Underfitting: s. “Overfitting” Universalrechenautomat: s. TuringMaschine Unschärfe 484, 493, 513: s. auch Fehler Unschärferelation (Heisenberg) 590 Unterbestimmtheit 148, 194, 213, 276, 326, 566, 570 Unwissen 59, 99, 116, 118, 174f, 248f, 254-258, 268, 308, 320, 395, 428, 431, 461, 467, 484, 490, 493 Urlauberdilemma 175 U.S. Department of Health, Education, and Welfare 184, 435 Valencia International Meetings on Bayesian Statistics 419

673 Validität 162-165, 167, 174-176, 188, 206, 243, 245, 269, 328, 367, 384, 388, 436, 523, 529, 544, 586, 592, 596 externe 152, 162, 238f, 277, 333, 453, 521: s. auch Generalisierung interne 162, 238f, 312, 453, 521 Variable abhängige 133ff latente: s. latent unabhängige 133ff, 473 Variabilität 130ff, 149, 151, 173f, 202, 204f, 230, 242f, 256, 263, 308, 330f, 364, 376f, 415, 485, 490, 493, 507, 510f, 514 Varianz 69, 127, 129, 133, 138, 158, 365, 367f, 373, 487, 501, 505, 531 Varianzanalyse 72, 110f, 130ff, 270, 310, 363, 423, 427, 508, 520 Variation: s. Variabilität Veil of Perception (Locke) 206 Veranschaulichung: s. Anschauung Verein Ernst Mach 196, 561 Verfahren: s. Algorithmus, Methode Vergleichbarkeit 113, 223-225, 227-232, 234, 237-241, 244f, 251, 263, 326, 401, 418, 424, 441, 446f, 489, 530f: s. auch Austauschbarkeit Verlustfunktion 366f, 377 Verständnis: s. Wissenschaft, Theorie, Fortschritt Versuchsleitereffekt: s. Effekt Versuchsplanung: s. Experimentelles Design Verteilung (einer Zufallsvariablen) 79f, 128, 143, 268, 298, 326, 399, 457ff, 484, 490, 496, 501, 516f, 520, 527, 533: s. auch Wahrscheinlichkeit Bernoulli- 79, 407, 495f, 513: s. auch Münzwurf Binomial- 372, 407 Gleich- 85f, 99, 156, 257-260, 268, 393, 460f, 496 Normal- 72, 87, 126-132, 138f, 176, 369, 373, 397f, 401f, 407, 460, 501-503, 512, 520, 523 Poisson- 126, 166 Posteriori- 107, 254, 518 Priori- 107, 254ff, 258ff, 264f, 269, 392, 395f, 408, 414, 430, 461, 469, 474, 481 universelle 461, 534 Verteilungsfamilie 471, 473-477, 502: s. auch Statistik (parametrische) Verteilungsfunktion (einer Zufallsvariablen) 80f, 496

674 empirische 81, 374, 534 Voraussage: s. Prognose Voraussetzungen 7, 40, 43, 57f, 69f, 72ff, 81, 99f, 126, 129, 140, 174, 208, 219ff, 238, 250f, 268, 271, 274-278, 284-289, 291f, 294ff, 327f, 336ff, 346ff, 351, 355, 365-370, 385, 389, 393, 396, 409, 433, 437ff, 446f, 449ff, 491, 502ff, 506, 520, 523, 528, 535, 540, 578, 584, 586 Vorwissen 87, 104, 176, 204, 220, 235, 238, 246, 254-258, 260, 268, 269, 309, 312, 325, 334, 337, 388, 392, 395, 397, 413-415, 418f, 425f, 430f, 453, 472, 497, 504, 524, 558, 586 Vorhersage: s. Prognose Vorhersagbarkeit: s. Chaos Wahrer Wert 154, 167-171, 177, 365, 367, 501 Wahrheit 19, 149, 165, 178ff, 248, 276, 331, 335, 339, 344, 351, 384, 408, 475, 537, 540, 559, 565f, 570, 587, 596, 598 Wahrnehmung: s. Anschauung, Erkenntnistheorie Wahrscheinlichkeit 205, 247ff, 263, 269, 471, 482-494, 498, 510, 520, 526, 534, 552, 563, 590: s. auch Verteilung Häufigkeitsinterpretation 104, 120f, 212, 227, 261f, 397, 407f, 412, 426, 483ff, 488, 507, 534: s. auch “long run” Informationsinterpretation 485-494 Intervall- 420 logische Interpretation 483, 534 physikalische Interpretation 249, 261 Posteriori- 98, 104, 123, 255, 319 Priori- 98, 104, 156, 265, 319 Propensity-Interpretation 483ff, 494, 507, 514, 534 strukturelle 392 subjektive Interpretation (Überzeugungsgrad) 123, 248ff, 252, 254f, 262f, 320f, 407, 474, 483ff, 534, 559 ungenaue (imprecise probability) 420 universelle 467ff, 495 Wahrscheinlichkeitstheorie 77-83, 124, 130, 211f, 248ff, 314-325, 362, 392f, 418, 421, 429-433, 438, 447, 455, 462, 470, 474, 486ff, 495ff, 504, 512, 522-528, 533, 558, 590 Wellenlänge 159 Wette 253-255, 485, 525 Wetter: s. Meteorologie Widerspruchsfreiheit: s. Konsistenz

Sachregister Wiener Kreis 52, 181, 283, 353, 439, 561, 568, 573, 590 Wikipedia 125, 217, 334, 340, 375, 421 Wirtschaftswissenschaften: s. Wissenschaften Wissenschaften Cargo-Kult- 598f empirische 2ff, 12ff, 56f, 123, 143, 153, 165, 205, 307, 328, 330, 339, 345, 351, 358ff, 386, 414f, 428, 434, 452ff, 481, 494, 528, 534, 539-555, 557, 560, 568, 572-580, 587, 589, 595ff, 600 Geistes- 571f, 581, 588f Ingenieur- 7, 214, 276, 546, 553, 587 kumulative: s. Fortschritt Natur- 93, 122, 224, 235, 246, 289-294, 580, 588f, 597 Pseudo- 543 Sozial- 93, 162, 182, 283, 288-294, 325, 330, 345, 362ff, 434, 453, 544, 588 Wirtschafts- 175, 252, 289, 293, 361, 363f, 452f, 524, 544, 550: s. auch Ökonometrie Wissenschaftliche Methode: s. Methode Wissenschaftliche Revolution (Kuhn) 548, 566f, 570, 587, 598f: s. auch Perspektive Wissenschaftsforschung 3, 8ff, 561, 589f, 598 Wissenschaftsgeschichte 560f, 572, 581f, 588 Wissenschaftspolitik 575-577 Wissenschaftsrealismus, Wissenschaftlicher Realismus 176ff, 186, 565, 569, 580, 587: s. auch Realismus Wissenschaftssoziologie 561f, 564, 573-577, 598 Wissenschaftstheorie 2f, 8ff, 124, 247, 326, 354, 359, 361, 391, 416, 421, 428, 479f, 493ff, 539-599: s. auch Philosophie Geschichte 2ff, 554ff, 560f, 572f Zeitgeist 556, 571, 579-582 Zeitreihe 143, 150, 509 Zensierte Daten: s. Daten (fehlende) Zufall, zufällig 149-151, 203, 323, 330, 484, 487f, 498f, 504-512, 515, 517, 519, 527, 533ff, 590 algorithmisch 462, 465ff, 471, 487, 494, 499, 506ff, 563 Zufallsauswahl, Zufallsstichprobe: s. Stichprobe, Randomisierung

Sachregister Zufallsexperiment 78, 80, 261, 399, 407, 455, 484f, 490-492, 496, 512, 514, 533 Zufallsvariable 78ff, 326, 459, 474, 490, 496, 516f, 524 unabhängige 79, 323, 399, 495, 498, 502, 533 unabhängige und identisch verteilte (IID) 78-83, 125, 129f, 143f, 152, 163, 168, 206, 315, 365, 389, 397, 400, 403f, 489, 496-501, 506

675 und Realisierung 78ff, 233f, 403, 446f, 492, 495-501, 516, 536 Zufallszahlengenerator 499, 508 Zuweisungsmechanismus 233, 396, 400, 407, 444ff: s. auch Randomisierung Zweifel: s. Kritik Zwillingsstudie 17, 204, 222, 237, 246, 444, 446