רגרסיה מרובה (Multiple Regression)
רגרסיה מרובה היא הרחבה של הרגרסיה הליניארית הפשוטה למצב שבו מנבאים משתנה תלוי אחד באמצעות כמה משתני ניבוי בו-זמנית. היא מאפשרת לחוקר לשאול לא רק אילו משתנים מנבאים את התוצאה, אלא גם מה תרומתו הייחודית של כל אחד מהם מעבר לתרומת האחרים.
תוכן עניינים
- מה זה רגרסיה מרובה
- מתי משתמשים ברגרסיה מרובה
- איך מבצעים רגרסיה מרובה ב-SPSS, שלב אחר שלב
- איך קוראים את התוצאות
- איך מדווחים על התוצאות לפי APA
מה זה רגרסיה מרובה
ברגרסיה ליניארית פשוטה יש משתנה מנבא אחד, והמודל מתאר קו ישר. ברגרסיה מרובה יש כמה מנבאים, והמודל מתאר משטח במרחב רב-ממדי. משוואת המודל היא:
\[ Y = b_0 + b_1X_1 + b_2X_2 + \dots + b_kX_k + \varepsilon \]
כאשר \(b_0\) הוא החותך, כלומר הערך החזוי כאשר כל המנבאים שווים לאפס, ו-\(b_1\) עד \(b_k\) הם מקדמי הרגרסיה. כל מקדם מבטא בכמה יחידות משתנה המשתנה התלוי כאשר המנבא המתאים עולה ביחידה אחת, בהינתן שכל שאר המנבאים נשארים קבועים.
הביטוי "בהינתן שכל שאר המנבאים נשארים קבועים" הוא לב העניין. מקדם ברגרסיה מרובה אינו מבטא את הקשר הגולמי בין המנבא למשתנה התלוי, אלא את הקשר הייחודי שלו לאחר שנוכה ממנו כל מה שהוא חולק עם שאר המנבאים. משתנה שיש לו מתאם גבוה עם המשתנה התלוי עשוי בהחלט לקבל מקדם שאינו מובהק, אם המתאם הזה כבר מוסבר על ידי מנבא אחר.
המודל מפיק שני סוגים של מקדמים. המקדם הלא מתוקנן, המסומן B, נמצא ביחידות המקוריות של המשתנים ומתאים לפרשנות מעשית. המקדם המתוקנן, המסומן בטא, נמצא ביחידות של סטיות תקן ומאפשר להשוות בין המנבאים ולדעת מי מהם חזק יותר. מדד ההסבר הכולל של המודל הוא R בריבוע, המבטא איזה אחוז מהשונות במשתנה התלוי מוסבר על ידי כל המנבאים יחד.
מתי משתמשים ברגרסיה מרובה
התנאי הבסיסי הוא משתנה תלוי אחד רציף, ושניים או יותר משתני ניבוי. משתני הניבוי יכולים להיות רציפים, ואף קטגוריאליים אם הומרו למשתני דמה. שלוש מטרות עיקריות:
ניבוי
כאשר המטרה היא לחזות ערך עתידי או לא ידוע. למשל, ניבוי הצלחה בלימודים על סמך ציון פסיכומטרי, ציון בגרות ומדד מוטיבציה. כאן פחות מעניין מי המשתנה החשוב ביותר, ויותר מעניין כמה מדויקת התחזית הכוללת. הרחבה על סוגיה זו תמצאו בערך תוקף ניבוי.
הסבר ובחינת תרומה ייחודית
כאשר המטרה היא להבין אילו גורמים תורמים לתופעה. למשל, בדיקה האם עומס בעבודה מנבא שחיקה מעבר לתמיכה חברתית ולוותק. כאן המקדמים המתוקננים ורמות המובהקות שלהם הם התוצאה המרכזית.
פיקוח על משתנים מפריעים
כאשר רוצים לבדוק קשר בין שני משתנים תוך נטרול השפעתם של אחרים. הכנסת המשתנים המפריעים למודל מנטרלת אותם, בדומה לרעיון של ניתוח שונות משותף.
הנחות היסוד
- קשר ליניארי בין כל מנבא למשתנה התלוי. נבדק בתרשימי פיזור ובגרף השאריות.
- אי-תלות של השאריות. נבדק במדד דרבין-ווטסון, שערך תקין שלו נע סביב 2.
- הומוסקדסטיות, כלומר פיזור אחיד של השאריות לאורך כל טווח הערכים החזויים. נבדק בגרף השאריות המתוקננות מול הערכים החזויים, שאמור להיראות כענן חסר צורה.
- נורמליות של השאריות. נבדק בהיסטוגרמה או בגרף P-P.
- היעדר רב-קוליניאריות. המנבאים לא אמורים להיות מתואמים ביניהם ברמה גבוהה מדי. נבדק במדד VIF, שערך תקין שלו קטן מ-5, ובמדד Tolerance, שערך תקין שלו גדול מ-0.2.
- מדגם מספיק. כלל אצבע מקובל הוא חמישה עשר עד עשרים נבדקים לכל מנבא, או לחלופין הנוסחה של 50 ועוד 8 כפול מספר המנבאים.
הכנת משתנים קטגוריאליים
משתנה קטגוריאלי אינו יכול להיכנס לרגרסיה כמות שהוא, אלא אם הוא דיכוטומי. משתנה בעל שלוש קטגוריות מומר לשני משתני דמה, משתנה בעל ארבע קטגוריות לשלושה, וכן הלאה. קטגוריה אחת נבחרת כקבוצת ייחוס ואינה מקבלת משתנה משלה, וכל מקדם מתפרש ביחס אליה. ב-SPSS אפשר ליצור משתני דמה באמצעות Transform ואז Recode into Different Variables, או בפקודת סינטקס פשוטה.
איך מבצעים רגרסיה מרובה ב-SPSS, שלב אחר שלב
- בחרו Analyze, ואז Regression, ואז Linear.
- העבירו את המשתנה התלוי לתיבה Dependent.
- העבירו את כל משתני הניבוי לתיבה Independent(s).
- בתפריט Method השאירו את Enter. שיטה זו מכניסה את כל המנבאים בבת אחת ומתאימה לרוב המחקרים בעלי בסיס תיאורטי. השיטות Stepwise ו-Forward בוחרות מנבאים לפי קריטריון סטטיסטי בלבד, והספרות המתודולוגית ממליצה להימנע מהן במחקר מסביר.
- לחצו על Statistics. סמנו Estimates, Confidence intervals, Model fit, R squared change, Descriptives, Part and partial correlations, Collinearity diagnostics ו-Durbin-Watson. לחצו Continue.
- לחצו על Plots. העבירו את ZRESID לציר Y ואת ZPRED לציר X, וסמנו Histogram ו-Normal probability plot. לחצו Continue.
- לחצו על Save וסמנו Cook's ו-Leverage values תחת Distances, כדי לאתר תצפיות משפיעות במיוחד.
- לחצו OK.
סינטקס
REGRESSION /DESCRIPTIVES MEAN STDDEV CORR SIG N /MISSING LISTWISE /STATISTICS COEFF OUTS CI(95) R ANOVA COLLIN TOL ZPP CHANGE /CRITERIA=PIN(.05) POUT(.10) /NOORIGIN /DEPENDENT Burnout /METHOD=ENTER Workload Support Tenure /SCATTERPLOT=(*ZRESID ,*ZPRED) /RESIDUALS DURBIN HISTOGRAM(ZRESID) NORMPROB(ZRESID) /SAVE COOK LEVER.
איך קוראים את התוצאות
טבלת סיכום המודל
| Model | R | R Square | Adjusted R Square | Std. Error | Durbin-Watson |
|---|---|---|---|---|---|
| 1 | .612 | .375 | .361 | 0.684 | 1.94 |
R בריבוע של 0.375 פירושו שהמודל מסביר 37.5 אחוזים מהשונות במשתנה התלוי. העמודה החשובה יותר בדיווח היא Adjusted R Square, המתקנת את הערך כלפי מטה בהתאם למספר המנבאים ולגודל המדגם. ככל שהפער בין שני הערכים גדול יותר, כך המודל עמוס מדי במנבאים ביחס למדגם. מדד דרבין-ווטסון קרוב ל-2, ולכן הנחת אי-התלות מתקיימת.
טבלת ANOVA
| Model | Sum of Squares | df | Mean Square | F | Sig. |
|---|---|---|---|---|---|
| Regression | 38.42 | 3 | 12.81 | 27.38 | <.001 |
| Residual | 64.11 | 137 | 0.47 | ||
| Total | 102.53 | 140 |
הטבלה בודקת האם המודל כמכלול מנבא טוב יותר מניחוש הממוצע. תוצאה מובהקת היא תנאי מקדים, אך אינה מספיקה: היא אינה אומרת שכל מנבא תורם.
טבלת המקדמים
זוהי הטבלה המרכזית.
| Predictor | B | SE | Beta | t | Sig. | 95% CI | Tolerance | VIF |
|---|---|---|---|---|---|---|---|---|
| (Constant) | 2.41 | 0.38 | 6.34 | <.001 | [1.66, 3.16] | |||
| Workload | 0.42 | 0.08 | .41 | 5.25 | <.001 | [0.26, 0.58] | .81 | 1.23 |
| Support | -0.31 | 0.09 | -.28 | -3.44 | <.001 | [-0.49, -0.13] | .76 | 1.32 |
| Tenure | 0.02 | 0.03 | .05 | 0.67 | .504 | [-0.04, 0.08] | .91 | 1.10 |
קוראים אותה שורה אחר שורה. עומס העבודה הוא מנבא חיובי מובהק: כל עלייה של יחידה בעומס מנבאת עלייה של 0.42 יחידות בשחיקה. התמיכה היא מנבא שלילי מובהק, כלומר תמיכה גבוהה קשורה לשחיקה נמוכה. הוותק אינו מנבא מובהק, שכן ערך המובהקות שלו 0.504 והרווח בר הסמך שלו כולל את האפס. השוואה בין ערכי הבטא מלמדת שעומס העבודה הוא המנבא החזק ביותר. ערכי VIF כולם נמוכים מ-2, ולכן אין בעיית רב-קוליניאריות.
כך נראה מודל שאינו מובהק כלל:
| Model | R Square | F | df | Sig. |
|---|---|---|---|---|
| 1 | .031 | 1.46 | 3, 137 | .228 |
המודל מסביר שלושה אחוזים בלבד מהשונות והתוצאה אינה מובהקת. במקרה כזה אין לפרש מקדמים בודדים, גם אם אחד מהם במקרה יצא מובהק.
סימני אזהרה שכדאי לשים לב אליהם
- ערך VIF גבוה מ-5. שני מנבאים או יותר חופפים זה לזה. שקלו לאחד אותם או להסיר אחד מהם.
- מקדם שסימנו הפוך מהמתאם הגולמי. תופעה זו, המכונה לעתים דיכוי, אינה בהכרח שגיאה, אך היא מחייבת בדיקה זהירה של הקשרים בין המנבאים.
- ערך Cook's Distance גדול מ-1. תצפית בודדת משפיעה על המודל השפעה בלתי סבירה.
איך מדווחים על התוצאות לפי APA
הדיווח כולל תמיד את מובהקות המודל, את R בריבוע ואת טבלת המקדמים המלאה. חשוב לדווח גם על מנבאים שלא נמצאו מובהקים.
נוסח לדוגמה, מודל מובהק
"לבחינת ניבוי רמת השחיקה נערכה רגרסיה ליניארית מרובה בשיטת Enter, ובה שולבו עומס העבודה, התמיכה החברתית והוותק. בדיקות מקדימות העלו כי הנחות הליניאריות, ההומוסקדסטיות ואי-הרב-קוליניאריות מתקיימות (VIF מרבי = 1.32). המודל נמצא מובהק והסביר 37.5% מהשונות ברמת השחיקה, F(3, 137) = 27.38, p < .001, R² = .38, R²adj = .36. עומס העבודה נמצא מנבא חיובי מובהק, B = 0.42, SE = 0.08, β = .41, t(137) = 5.25, p < .001, וכן התמיכה החברתית נמצאה מנבא שלילי מובהק, B = -0.31, SE = 0.09, β = -.28, t(137) = -3.44, p < .001. הוותק לא נמצא מנבא מובהק, B = 0.02, β = .05, t(137) = 0.67, p = .504."
נוסח לדוגמה, מודל שאינו מובהק
"המודל כולו לא נמצא מובהק, F(3, 137) = 1.46, p = .228, R² = .03, ולפיכך לא נבחנו המקדמים הפרטניים."
טבלה לדוגמה
טבלה 1: מקדמי רגרסיה לניבוי רמת השחיקה
| מנבא | B | SE | β | t | p | רווח בר סמך 95% ל-B |
|---|---|---|---|---|---|---|
| קבוע | 2.41 | 0.38 | 6.34 | <.001 | [1.66, 3.16] | |
| עומס עבודה | 0.42 | 0.08 | .41 | 5.25 | <.001 | [0.26, 0.58] |
| תמיכה חברתית | -0.31 | 0.09 | -.28 | -3.44 | <.001 | [-0.49, -0.13] |
| ותק | 0.02 | 0.03 | .05 | 0.67 | .504 | [-0.04, 0.08] |
הערה מתחת לטבלה: "N = 141. R² = .38, R²adj = .36, F(3, 137) = 27.38, p < .001."
להכנסת מנבאים בשלבים ראו רגרסיה היררכית, ולמשתנה תלוי דיכוטומי ראו רגרסיה לוגיסטית.
כשיש מנבא יחיד אפשר לחשב את המודל במהירות בעזרת מחשבון רגרסיה לינארית פשוטה אונליין וחינם.