Regressionsrechner

So funktioniert der Regressionsrechner

Der Regressionsrechner findet die Gerade, die am besten zu Ihren Daten passt. Der erste Kasten berechnet die lineare Regression aus zwei Wertereihen: Achsenabschnitt a und Steigung b der Gleichung y = a + b · x, den Korrelationskoeffizienten r, das Bestimmtheitsmaß R², den Standardfehler, den t-Test der Steigung und eine Tabelle der Residuen, also der Abweichungen jedes Punkts von der Geraden. Der zweite Kasten macht eine Prognose für einen neuen x-Wert, mit 95-Prozent-Prognoseintervall für einen Einzelwert und Konfidenzintervall für den Mittelwert, und warnt, wenn der x-Wert außerhalb der Daten liegt. Der dritte Kasten behandelt Zeitreihen: Werte je Jahr oder Monat eintragen, und der Rechner bestimmt den Trend je Periode, schreibt ihn drei Perioden fort und nennt die mittlere Wachstumsrate.

Merksatz: Die Regressionsgerade minimiert die Summe der quadrierten Abstände und geht immer durch den Punkt aus den beiden Mittelwerten. Eselsbrücke für R²: Der Anteil der Streuung, den die Gerade erklärt; 0,77 heißt 77 Prozent erklärt, 23 Prozent Rest.

Drei Beispiele:

• x = 1 bis 6, y = 2, 4, 5, 4, 5, 7: Gerade y = 1,8 + 0,7714 · x, r = 0,8783, R² = 0,7714, die Steigung ist mit p = 0,0213 signifikant. Für x = 8 lautet die Prognose 7,9714 mit Prognoseintervall 4,254 bis 11,6888, eine Extrapolation über den Datenbereich 1 bis 6 hinaus.
• x = 10, 20, …, 70 und y = 21, 39, 62, 78, 102, 118, 141: y = 0,4286 + 1,9929 · x, R² = 0,9983, fast perfekt linear; Prognose für x = 85: 169,8214. Körpergröße 160 bis 190 gegen Gewicht 55 bis 85: y = -104,4643 + 0,9929 · x, R² = 0,9866.
• Zeitreihe 120, 132, 128, 145, 151, 160, 158, 172 ab 2019: Trend +7,0952 je Jahr, R² = 0,945, Prognose 2027: 177,6786, mittlere Wachstumsrate 5,28 Prozent je Jahr. Die fallende Reihe 4,2 bis 2,9 ab 2020 hat den Trend -0,2143 je Jahr und die Prognose 2,7429 für 2027.

Formeln: b = Σ(x - x̄)(y - ȳ) / Σ(x - x̄)², a = ȳ - b · x̄, R² = 1 - Σ Residuen² / Σ(y - ȳ)², Prognoseintervall ŷ ± t · s · √(1 + 1/n + (x₀ - x̄)² / Σ(x - x̄)²). Nur den Zusammenhang ohne Gerade misst der Korrelationsrechner, die Signifikanz der Steigung erklärt der p-Wert-Rechner, und die Gerade durch genau zwei Punkte der Steigungsrechner.

Wissenswertes zum Thema

Lineare Regression: Die Gerade der kleinsten Quadrate

Liegen Messpunkte ungefähr auf einer Linie, sucht die lineare Regression die Gerade, die am wenigsten daneben liegt. Das Kriterium ist die Methode der kleinsten Quadrate: Die Summe der quadrierten senkrechten Abstände aller Punkte von der Geraden soll minimal sein. Quadriert wird, damit sich positive und negative Abweichungen nicht aufheben und große Ausreißer stärker zählen. Die Lösung hat geschlossene Formeln: Die Steigung b ist die Kovarianz von x und y geteilt durch die Varianz von x, der Achsenabschnitt a folgt aus der Bedingung, dass die Gerade durch den Schwerpunkt (x̄ | ȳ) geht. Im Beispiel mit sechs Punkten ergibt das y = 1,8 + 0,7714 · x: Pro Einheit x steigt y im Mittel um 0,77. Wie gut die Gerade passt, sagt das Bestimmtheitsmaß R², das Quadrat des Korrelationskoeffizienten; es gibt den Anteil der Streuung von y an, der durch x erklärt wird, 77 Prozent im ersten Beispiel, 99,8 Prozent im zweiten. Die Residuen, die Abweichungen der Punkte von der Geraden, sollten zufällig um null streuen; zeigen sie ein Muster, etwa erst positiv, dann negativ, dann wieder positiv, ist der Zusammenhang gekrümmt und eine Gerade das falsche Modell. Der Standardfehler der Schätzung gibt an, wie weit die Punkte typischerweise von der Geraden entfernt liegen, und der t-Test der Steigung prüft, ob b überhaupt von null verschieden ist: p = 0,0213 im ersten Beispiel heißt, der Zusammenhang ist auf dem 5-Prozent-Niveau signifikant.

Prognose und die Gefahr der Extrapolation

Der eigentliche Zweck einer Regression ist die Prognose: y für ein x vorhersagen, das nicht gemessen wurde. Einsetzen in die Gleichung genügt dafür, aber die Frage ist, wie sicher die Vorhersage ist. Zwei Intervalle beantworten das. Das Konfidenzintervall für den Mittelwert sagt, wo der durchschnittliche y-Wert bei diesem x liegt, das Prognoseintervall für einen Einzelwert, wo eine einzelne neue Beobachtung landet; das zweite ist breiter, weil zur Unsicherheit der Geraden die Streuung der Einzelwerte kommt. Beide werden umso breiter, je weiter x₀ vom Mittelwert der Daten entfernt liegt, das ist der Term (x₀ - x̄)² in der Formel. Daraus folgt die wichtigste Warnung: Extrapolation, die Prognose außerhalb des beobachteten Bereichs, beruht auf der Annahme, dass die Gerade dort weitergeht. Für x = 8 bei Daten von 1 bis 6 mag das stimmen, für x = 50 sicher nicht; Wachstum knickt ab, Preise haben Grenzen, und kein Mensch wird 3 Meter groß, nur weil die Gerade aus Größe und Gewicht es nahelegt. Der Rechner markiert jede Extrapolation. Für Prognosen innerhalb des Bereichs, die Interpolation, ist die Regression dagegen das verlässlichste einfache Werkzeug, das es gibt.

Trend in Zeitreihen

Ein Sonderfall der Regression ist die Trendberechnung: Die x-Werte sind die Perioden 1, 2, 3 und so weiter, die y-Werte Umsätze, Besucherzahlen, Temperaturen oder Kosten. Die Steigung b ist dann der Trend je Periode, im Beispiel plus 7,1 je Jahr, und die Gerade lässt sich fortschreiben: 2027 wären es 177,7, 2029 schon 191,9. Das Bestimmtheitsmaß sagt, wie verlässlich der Trend ist; bei R² = 0,945 erklärt er die Entwicklung gut, bei 0,5 überwiegen die Schwankungen. Der lineare Trend unterstellt gleiche absolute Zuwächse; wachsen Werte prozentual, passt eine Exponentialkurve besser, und dafür nennt der Rechner die geometrische Wachstumsrate, im Beispiel 5,28 Prozent je Jahr. Zwei Fallen: Saisonale Daten, etwa Monatsumsätze mit Weihnachtsgeschäft, zeigen ohne Bereinigung keinen sauberen Trend, deshalb vorher auf Jahre zusammenfassen oder gleiche Monate vergleichen. Und Strukturbrüche, etwa ein Preissprung oder eine Pandemie, machen den Trend über die Bruchstelle hinweg bedeutungslos; dann getrennt rechnen. Für Haushalt und Betrieb ist die Fortschreibung trotzdem ein guter erster Anhalt, etwa für die Stromkosten der nächsten Jahre oder den Umsatz des nächsten Quartals.

Ein Stück Geschichte

Die Methode der kleinsten Quadrate hat zwei Väter und einen Prioritätsstreit. Adrien-Marie Legendre veröffentlichte sie 1805 zur Bahnbestimmung von Kometen, Carl Friedrich Gauß beanspruchte, sie seit 1795 zu benutzen, und hatte sie 1801 bei der Wiederauffindung des Zwergplaneten Ceres angewandt; in seiner "Theoria motus" von 1809 lieferte er die wahrscheinlichkeitstheoretische Begründung über die Normalverteilung. Der Begriff Regression stammt von Francis Galton, der 1886 die Körpergröße von Eltern und Kindern verglich und feststellte, dass Kinder sehr großer Eltern zwar groß, aber im Mittel kleiner als ihre Eltern sind, eine "Regression zur Mitte"; sein Schüler Karl Pearson entwickelte daraus 1896 den Korrelationskoeffizienten. George Udny Yule übertrug die Regression 1897 auf die Sozialwissenschaften, Ronald Fisher ergänzte in den 1920er-Jahren die Signifikanztests für die Koeffizienten. Mit dem Computer wurde die multiple Regression mit vielen Einflussgrößen zum Alltagswerkzeug der Ökonometrie, Medizin und Marktforschung, und die lineare Regression ist bis heute das erste Modell, das jeder Kurs über maschinelles Lernen lehrt: Ein neuronales Netz ohne versteckte Schicht ist nichts anderes.

Praktische Tipps

Zeichnen Sie die Punkte, bevor Sie rechnen, oder lesen Sie die Residuentabelle; Ausreißer und Krümmungen sieht man, bevor R² sie verrät. Trauen Sie Prognosen nur innerhalb des Datenbereichs, und berichten Sie das Intervall, nicht nur den Punktwert. Prüfen Sie den p-Wert der Steigung bei kleinen Stichproben; bei fünf Punkten kann R² = 0,7 noch Zufall sein. Rechnen Sie Zeitreihen mit Saison auf Jahre um und bei Strukturbrüchen getrennt. Nutzen Sie die Wachstumsrate statt des linearen Trends, wenn Werte prozentual wachsen, etwa bei Umsätzen oder Preisen. Und bedenken Sie: Regression zeigt Zusammenhang, nicht Ursache; dass Eisverkauf und Badeunfälle korrelieren, liegt am Sommer. Mittelwerte und Streuung der Reihen liefern der Durchschnittsrechner und der Standardabweichungsrechner; die Zinseszinsformel hinter der Wachstumsrate zeigt der Zinseszinsrechner.