אומד עקיב

קובץ:Consistency of estimator.svg

סדרה של משתנים מקריים { ...,T ₁, T ₂, T ₃} המתכנסת בהסתברות לערך של θ המתאים להתפלגות הנתונים (כאן 4=θ) היא אומד עקיב עבור θ: המשתנים המקריים מתרכזים יותר ויותר ליד הערך הנכון של הפרמטר θ. עם זאת, שימו לב, שכל אחד מהמשתנים המקריים המתוארים בגרף הוא אומד מוטה ל- θ.

בסטטיסטיקה, אומד הוא כלל לחישוב אומדנים מתוך תצפיות, עבור הערך של פרמטר <math>\theta</math> המאפיין את התפלגות התצפיות. אומד עקיב הוא בעל תכונה שכאשר כמות הנתונים המשמשת לחישוב האומד גדלה ושואפת לאינסוף, האומד מייצר סדרת משתנים מקריים המתכנסת בהסתברות לערך של הפרמטר <math>\theta</math> המאפיין את התפלגות התצפיות. המשמעות היא שהתפלגויות המשתנים המקריים המתקבלים מתרכזות יותר ויותר ליד הערך הרצוי של הפרמטר הנאמד. כלומר, לכל <math>\epsilon>0</math> נתון, שההסתברות לכך שהמרחק בין המשתנים המקריים בסדרה לבין הערך הנכון של <math>\theta</math> יהיה גדול מ-<math>\epsilon</math>, שואפת ל-0.

נניח שנתונה משפחה של התפלגויות עם פרמטר <math>\theta</math>, כך שלכל התפלגות במשפחה מתאים ערך מסוים של <math>\theta</math>. נניח שנתון מדגם מקרי מתוך אחת ההתפלגויות השייכות למשפחה ועבור התפלגות של המדגם מתקיים <math>\theta=\theta_0</math>. אומד של <math>\theta</math> הוא פונקציה של המדגם מקרי, המוגדרת למדגמים בכל גודל n ותפקידו לאמוד את <math>\theta_0</math>. עקיבות של אומד היא תכונה שמאפיינת את האומד כאשר גודל המדגם <math>n</math> שואף לאינסוף. אם ניתן להראות מתמטית שלכל התפלגות מהמשפחה, בהינתן מדגם מקרי מההתפלגות, סדרת המשתנים המקריים שהאומד מגדיר מתכנסת בהסתברות לערך של θ המתאים להתפלגות שממנה לקוח המדגם, אז האומד נקרא אומד עקיב ל-θ; אחרת, אם ניתן להראות שעבור התפלגות מסוימת במשפחה הסדרה איננה מתכנסת כלל או מתכנסת לערך לא נכון, אז האומד אינו אומד עקיב ל-θ.

עקיבות כפי שהוגדרה כאן מכונה לפעמים עקיבות חלשה. כאשר אנו מחליפים התכנסות בהסתברות בהתכנסות כמעט בוודאות, אומרים שלאומד יש עקיבות חזקה.

באופן פורמלי בהינתן משפחת התפלגויות <math>\mathcal{F}(\theta)</math>, אם לכל ערך <math>\theta_0</math> אפשרי של <math>\theta</math> וסדרה של משתנים מקריים בלתי תלויים ושווי התפלגות <math>X_1,X_2,...\in \mathcal{F}(\theta_0)</math>, האומד <math>T_n(X_1,X_2,...,X_n)</math> מתכנס בהסתברות ל- <math>\theta_0</math>: כלומר <math>

 ,\underset{n\to\infty}{\operatorname{plim}}\;T_n = \theta_0
</math> או באופן שקול, אם לכל ε > 0, <math>
 ,\lim_{n\to\infty}\Pr\big(|T_n-\theta_0 | > \varepsilon\big) = 0
</math> אז <math>
 T_n
</math> הוא אומד של <math>\theta</math> בעל עקיבות חלשה.

לאומד <math>

 T_n
</math> של פרמטר <math>\theta</math> יש עקיבות חזקה, אם לכל ערך <math>\theta_0</math>  אפשרי של <math>\theta</math> וסדרה של משתנים מקריים בלתי תלויים ושווי התפלגות <math>X_1,X_2,...\in \mathcal{F}(\theta_0)</math>,  <math>
 T_n
</math> מתכנס בהסתברות 1 ל-<math>\theta_0</math>. כלומר, <math>
 .\Pr\left(\lim_{n\to\infty}T_n = \theta_0\right) = 1
</math>

דוגמאות

ממוצע מדגם של משתנה מקרי נורמלי

נניח שנתון מדגם מקרי של משתנים מקריים בלתי תלויים ושווי התפלגות מהתפלגות נורמלית <math>X_1,X_2,...\sim N(\mu,\sigma^2)</math>. כדי לאמוד את <math>\mu</math> על סמך <math>n</math> המשתנים המקריים הראשונים ניתן להשתמש כאומד בממוצע המדגם: <math>T_n=\frac{X_1+X_2+...+X_n}{n}</math>. אומד זה מגדיר סדרה של משתנים מקריים, משתנה לכל <math>n</math>.

מתכונות ההתפלגות הנורמלית, נובע כי <math>T_n</math> מתפלג התפלגות נורמלית, עם תוחלת <math>\mu</math> ושונות <math>\frac{\sigma^2}{n}</math>. בנוסף לכך, מתכונות ההתפלגות הנורמלית נובע כי ל- <math style="vertical-align:-.3em">\frac { \sqrt{n}(T_n-\mu) }{\sigma}</math> יש התפלגות נורמלית סטנדרטית. לכן, לכל <math>\epsilon>0</math> כאשר <math>n</math> שואף לאינסוף,

<math>

 .\Pr\!\left[\,|T_n-\mu|\geq\varepsilon\,\right] = 
 \Pr\!\left[ \frac{\sqrt{n}\,\big|T_n-\mu\big|}{\sigma} \geq 
 \frac{\sqrt{n}\varepsilon}{\sigma} \right] = 
 2\left(1-\Phi\left(\frac{\sqrt{n}\,\varepsilon}{\sigma}\right)\right) \to 0
</math>

לכן, הסדרה <math>T_n</math> של ממוצעי המדגם מהווה אומד עקיב לתוחלת <math>\mu</math> (<math>\Phi</math> היא ההתפלגות המצטברת של ההתפלגות הנורמלית סטנדרטית).