פונקציית הניקוד

בסטטיסטיקה, פונקציית הניקוד (באנגלית: ‏<phonos ipa="" lang="he" text="<span dir="auto">Score function</span>" wikibase="no entity" file="">Score function</phonos>‏^Ⓘ‏) של פרמטר <math>\theta</math> היא הגרדיאנט של לוג פונקציית הנראות <math>\mathcal{L}(\theta; X)</math> בכיוון של הפרמטר. הפונקציה מציינת עד כמה רגישה פונקציית הנראות לשינויים ב-<math>\theta</math>.

פונקציית הנראות ממלאת תפקיד חשוב במספר היבטים של הסקה סטטיסטית, כגון:

• מציאת סטטיסטי מבחן בעל עוצמה מקסימלית מקומית
• הערכת גודל השגיאה של אומד נראות מקסימלית
• מציאת רווחי סמך
• הוכחה של חסם קרמר–ראו

פונקציית הניקוד ממלאת גם תפקיד חשוב בסטטיסטיקה חישובית , שכן היא יכולה לקחת חלק בחישוב של אומדי נראות מקסימלית.

הגדרה

הערך של פונקציית הניקוד (או בקיצור: "הניקוד") הוא הגרדיאנט (וקטור של נגזרות חלקיות), בהתייחס לפרמטר מסוים <math>\theta</math>, של הלוגריתם (בדרך כלל הלוגריתם הטבעי) של פונקציית הנראות. אם התצפית היא <math>X</math> והנראות שלה היא <math>\mathcal{L}(\theta; X)</math>, אז הניקוד <math>V</math> ניתן לחישוב לפי כלל השרשרת באופן הבא:

<math>V \equiv V(\theta, X)=\frac{\partial}{\partial\theta} \log \mathcal{L}(\theta;X)=\frac{1}{\mathcal{L}(\theta;X)} \frac{\partial \mathcal{L}(\theta;X)}{\partial\theta}</math>

לכן הניקוד <math>V</math> מציין את הרגישות של <math>\mathcal{L}(\theta; X)</math> (הנגזרת כשהיא מנורמלת על ידי ערך הפונקציה). <math>V</math> היא פונקציה גם של התצפית <math>X</math> אך גם של הפרמטר <math>\theta</math>, לכן זהו לא סטטיסטי. אף על פי כן ניתן להשתמש בו ביישומים מסוימים, על ידי חישוב ערך הפונקציה עבור ערך <math>\theta</math> ספציפי (כמו ערך ה-<math>\theta</math> של השערת האפס, או אומד הנראות המקסימלית של <math>\theta</math>), והתוצאות של חישובים אלו הן סטטיסטים.

תכונות

תוחלת

תחת תנאי רגולריות מסוימים, התוחלת של פונקציית הניקוד <math>V</math> בהתייחס לתצפית <math>x</math>, בהינתן הפרמטר האמיתי <math>\theta</math>, כלומר <math>\mathbb{E}(V\mid\theta)</math>, שווה ל-0. על מנת לראות זאת נכתוב מחדש את פונקציית הנראות <math>\mathcal{L}</math> כפונקציית צפיפות: <math>\mathcal{L}(\theta; x) = f(x; \theta)</math>, ואז:

<math>\begin{align}

\mathbb{E}(V\mid\theta) & =\int_{-\infty}^{+\infty} \frac{\partial}{\partial\theta} (\log \mathcal{L}(\theta;X)) f(x; \theta) \,dx \\ & =\int_{-\infty}^{+\infty} \frac{\partial}{\partial\theta} (\log f(\theta;X)) f(x; \theta) \, dx \\ & =\int_{-\infty}^{+\infty} \left(\frac{1}{f(x; \theta)}\cdot\frac{\partial f(x; \theta)}{\partial \theta}\right) f(x; \theta)\, dx \\ & =\int_{-\infty}^{+\infty} \frac{\partial f(x; \theta)}{\partial \theta} \, dx \end{align}</math>

אם תנאי גזירות מסוימים מתקיימים, אינטגרל זה שווה:

<math>\frac{\partial}{\partial\theta} \int_{-\infty}^{+\infty} f(x; \theta) \, dx= \frac{\partial}{\partial\theta}1 = 0</math>

מכיוון שהתוחלת של פונקציית הניקוד היא 0 כאמור לעיל, אם נדגום פעם אחר פעם מהתפלגות מסוימת, ובכל פעם נחשב את הניקוד, אז ממוצע ערכי הניקוד ישאף ל-0 כשמספר הדגימות ישאף לאינסוף.

שונות

קובץ:Postscript-viewer-blue.svg ערך מורחב – האינפורמציה של פישר

השונות של פונקציית הניקוד ידועה בשם האינפורמציה של פישר, ומסומנת <math>\mathcal{I}(\theta)</math>. מכיוון שהתוחלת של פונקציית הניקוד היא 0, ניתן לנסח את השונות בצורה הבאה:

<math>

\mathcal{I}(\theta) = \mathbb{E} \left\{\left.

\left[
\frac{\partial}{\partial\theta} \log \mathcal{L}(\theta;X)
\right]^2

\right|\theta\right\} = \mathbb{E} \left\{\left.

\left[
\frac{\frac{\partial}{\partial\theta} \mathcal{L}(\theta;X)}{\mathcal{L}(\theta;X)}
\right]^2

\right|\theta\right\} </math>

האינפורמציה של פישר כפי שהוגדרה לעיל, איננה פונקציה של תצפית מסוימת, אלא רק של הפרמטר <math>\theta</math>, שכן המשתנה המקרי <math>X</math> מתקזז בנוסחה. מושג זה של אינפורמציה שימושי כשמבצעים השוואה בין שתי שיטות תצפית מתהליך סטוכסטי כלשהו.

קישורים חיצוניים

• פונקציית הניקוד, באתר MathWorld (באנגלית)