הסתברות/מבוא/המודל ההסתברותי

כשאנו אומרים שלמטבע הוגן הסתברות ${\tfrac {1}{2}}$ לתוצאת "עץ" בהטלה, למה בעצם כוונתנו? אינטואיטיבית, ברור לנו שאם המטבע הוגן, בערך ${\tfrac {1}{2}}$ מההטלות יצאו כך. זו הגדרה מובנת אינטואיטיבית, אך היא אינה מדויקת במיוחד. בפרק זה נגדיר הסתברויות בצורה מדויקת יותר, ובמהלך הספר נראה את הקשר בין ההגדרות המקובלות היום לבין הגדרה אינטואיטיבית זו.

מושגים בסיסיים

כדי להגדיר את מושג ההסתברות, יש להגדיר מספר מושגים נלווים.

מרחב מדגם

הגדרה: מרחב מדגם בניסוי כלשהוא, מרחב המדגם הוא אוסף כל התוצאות האפשריות. לרוב נסמן את מרחב המדגם ב־$\Omega$.

דוגמאות:

1. אם מטילים קוביה, אז מרחב המדגם הוא $\Omega =\{1,2,3,4,5,6\}$ – אלו התוצאות האפשריות.
2. אם מטילים מטבע, אז מרחב המדגם הוא הקבוצה המורכבת מ"עץ" ו"פאלי".
3. אם מבקשים לנחש מספר שלם כלשהוא, אז מרחב המדגם $\mathbb {Z} =\{\dots ,-1,0,1,2,\dots \}$ הוא אינסופי (ובר מניה).
4. אם מבקשים לנחש שבר בין 0 ל־1, אז גם כן מרחב המדגם אינסופי.

מאורע

אינטואיטיבית, מאורע הוא משהו שאפשר לשייך לו הסתברות כלשהיא.

הגדרה: מאורע בניסוי כלשהו, מאורע הוא תת־קבוצה של מרחב המדגם. ההגדרה המדויקת שונה במעט, בצורה שלא תבוא לידי ביטוי בספר זה. מאורע הוא למעשה אבר של סיגמא־אלגברה על $\Omega$. לרוב נסמן מאורע באות גדולה, נניח $A$. נשים לב כי $A\subseteq \Omega$.

לדוגמא, אם הניסוי הוא זריקת קוביה, אפשר לדבר על המאורעות הבאים, שכ"א מהם תת־קבוצה של $\Omega =\{1,2,3,4,5,6\}$:

1. המאורע בו התוצאה היא 1 – תת־הקבוצה $\{1\}$
2. המאורע בו התוצאה היא 2 או 3 – תת־הקבוצה $\{2,3\}$
3. המאורע בו התוצאה היא זוגית – תת־הקבוצה $\{2,4,6\}$
4. המאורע בו אין תוצאה – תת־הקבוצה $\varnothing$

אם הניסוי הוא בחירת מספר בין 0 ל־1, אז אפשר לדבר על המאורעות הבאים, שכ"א מהם תת־קבוצה של $\{x:0\leq x\leq 1\}$:

1. המאורע בו התוצאה היא שליש: ${\bigl \{}{\tfrac {1}{3}}{\bigr \}}$
2. המאורע בו התוצאה קטנה מחצי: ${\bigl \{}x:0\leq x\leq {\tfrac {1}{2}}{\bigr \}}$

מצד שני, אי־אפשר לדבר על מאורע בו התוצאה גדולה מ־2, מפני שמדובר בקבוצה שאיננה תת־קבוצה של מרחב המדגם.

מאורעות זרים

הגדרה: מאורעות זרים מאורעות זרים הם מאורעות שחיתוכם ריק – אין להם אף תוצאה משותפת.

לדוגמא, אם הניסוי הוא זריקת קוביה:

1. המאורעות: התוצאה היא 1, והתוצאה היא 2, הם זרים, מפני ש: $\{1\}\cap \{2\}=\varnothing$
2. המאורעות: התוצאה היא 1, והתוצאה היא אי־זוגית, אינם זרים, מפני ש: $\{1\}\cap \{1,3,5\}=\{1\}$

הסתברות

בעזרת המושגים שהוגדרו עד כה, מגדירים את פונקציית ההסתברות.

הגדרה

בגישה המודרנית, מגדירים הסתברות כפונקציה המשייכת מספר בין 0 ל־1 לכל מאורע, כך שהפונקציה מקיימת תנאים מסוימים.

הגדרה: אקסיומות ההסתברות הסתברות היא פונקציה $\mathbb {P}$ ממרחב המאורעות ל־$[0,1]$ המקיימת את התכונות הבאות: ההסתברות של מרחב המדגם שווה 1, או $\mathbb {P} (\Omega )=1$ – מפני שאנו מצפים שלניסוי ישנה תוצאה כלשהיא. לכל מאורע הסתברות אי־שלילית $\forall A\subseteq \Omega :0\leq \mathbb {P} (A)\leq 1$ אדיטיביות: עבור כל שני מאורעות זרים, הסתברות איחודם היא סכום הסתברויותיהן $\forall A,B\subseteq \Omega ,\ A\cap B=\varnothing \quad \implies \quad \mathbb {P} (A\cup B)=\mathbb {P} (A)+\mathbb {P} (B)$ ההגדרה המדויקת שונה במעט, בנקודות שלא יבואו לידי ביטוי בספר זה: כאמור, קבוצת המאורעות – תת־הקבוצות של $\Omega$ עליהן מוגדרת ההסתברות – צריכה להיות סיגמא־אלגברה. תכונת האדיטיביות צריכה להתקיים עבור כל קבוצה בת מניה של מאורעות זרים: אם $A_{1},A_{2},A_{3},\ldots ,$ הם מאורעות זרים, אז $\mathbb {P} \left(\bigcup _{k}A_{k}\right)=\sum _{k}\mathbb {P} (A_{k})$

דוגמאות וקביעת פונקציית ההסתברות

נשים לב שהגדרת ההסתברות איננה אומרת לנו מה הסתברות ארועים שונים, אלא האם קביעת ערכי הסתברות לארועים שונים נחשבת פונקציית הסתברות תקינה. (תורת ההסתברות בעצמה, למעשה, אינה עוסקת בעצמה בקביעת הסתברויות למאורעות.)

להלן דוגמא לפונקציית הסתברות.

דוגמה: נמשיך בדוגמא שמקודם על הטלת קוביה. נזכור שמרחב המדגם הוא $\Omega =\{1,2,3,4,5,6\}$. נגדיר את פונקציית ההסתברות: $\mathbb {P} (A)={\frac {|A|}{|\Omega |}}={\frac {|A|}{6}}$, כלומר הסיכוי למאורע המורכב ממספר תוצאות בסיסיות, הוא מספר התוצאות הבסיסיות חלקי 6. נראה שהאקסיומות אכן מתקיימות: $|\Omega |=6$, אז $\mathbb {P} (\Omega )={\frac {|\Omega |}{|\Omega |}}=1$. עבור כל מאורע $A$ מתקיים $0\leq \mathbb {P} (A)={\frac {|A|}{6}}\leq 1$. עבור כל שני מאורעות זרים $A,B$ מתקיים $|A\cup B|=|A|+|B|$, ולכן $\mathbb {P} (|A\cup B|)={\frac {|A\cup B|}{6}}={\frac {|A|}{6}}+{\frac {|B|}{6}}=\mathbb {P} (|A|)+\mathbb {P} (|B|)$

להלן עוד דוגמא לפונקציית הסתברות.

דוגמה: שוב בניסוי הטלת הקוביה, נניח פונקציית הסתברות שעבור כל מאורע $A$ נותנת את ההסתברות $\mathbb {P} (A)={\begin{cases}1&:1\in A\\0&:1\notin A\end{cases}}$. גם כאן אפשר לראות שהאקסיומות מתקיימות: $1\in \Omega$, אז $\mathbb {P} (\Omega )=1$. לכל מאורע $A$, או ש־$1\in A$ או שלא. במקרה הראשון ההסתברות שווה ל־1, ובמקרה השני 0. שני המספרים נמצאים בין 0 ל־1 (כולל). לכל שני מאורעות זרים $A,B$ יש 3 אפשרויות: $1\in A,1\in B,1\notin A,B$. מבדיקה על כ"א מהאפשרויות $\mathbb {P} (|A\cup B|)=\mathbb {P} (|A|)+\mathbb {P} (|B|)$

ראינו שתי פונקציות הסתברות תקינות עבור זריקת קוביה: הראשונה עבור קוביה הוגנת, השניה עבור קוביה מוטה לתוצאה 1. להלן דוגמא להסתברות לא־תקינה.

דוגמה: בניסוי הטלת הקוביה, נגדיר את פונקציית ההסתברות: $\mathbb {P} (A)={\tfrac {1}{6}}$ לכל מאורע בו $|A|=1$, וכן $\mathbb {P} (\{2,3\})={\frac {1}{2}}$. קל לראות כי האדיטיביות מופרת.

משלוש הדוגמאות האחרונות קל לראות את החוקיות הבאה.

משפט: הגדרת הסתברות ע"י הסתברויות תוצאות בסיסיות נניח שנגדיר את $\mathbb {P} (A)$, עבור כל תוצאה בסיסית (כלומר לכל מאורע בעל גודל $|A|=1$) בצורה כלשהיא, ונגדיר בעקיפין הסתברות כל מאורע $B$ על־פי סכום הסתברויות התוצאות הבסיסיות המרכיבות אותו, כלומר: $\forall B\subseteq \Omega \quad \mathbb {P} (B)=\sum _{A\subseteq B,|A|=1}\mathbb {P} (A)$ . אז ההסתברות תהיה תקינה אם ורק אם: $\forall A\subseteq \Omega ,|A|=1:0\leq \mathbb {P} (A)\leq 1$ $\sum _{A\subseteq \Omega ,|A|=1}\mathbb {P} (A)=1$

ישנה פונקציית הסתברות נפוצה מאד שאפשר להגדיר בצורה זו.

הגדרה: בחירה מקרית, קבוצת מדגם סימטרית עבור ניסוי בעל מספר תוצאות סופי, אפשר להגדיר פונקציית הסתברות המייצגת בחירה מקרית או קבוצת מדגם סימטרית, ע"י קביעת הסיכוי של כל תוצאה בסיסית כ־${\tfrac {1}{|\Omega |}}$.

לדוגמא, בניסוי הטלת מטבע, קבוצת מדגם סימטרית תאמר שהסיכוי ל"עץ" הוא הסיכוי ל"פאלי", וכ"א מהם הוא 0.5.

תכונות

על-ידי שימוש חוזר באקסיומת ההסתברות השלישית, נוכל לקבל את המשפט הבא:

משפט: איחוד מאורעות $A_{k}$ זרים: $\mathbb {P} \left(\bigcup _{k=1}^{n}A_{k}\right)=\sum _{k=1}^{n}\mathbb {P} (A_{k})$

כשמדובר במאורעות שאינם בהכרח זרים, המצב מסובך מעט יותר. (בהמשך, מומלץ להעזר בתרשים בצד שמאל.)

ראשית, קל לראות כי מתקיים המשפט הבא:

משפט: איחוד מאורעות לא בהכרח זרים לכל שני מאורעות $A,B$ מתקיים $\mathbb {P} (A\cup B)=\mathbb {P} (A)+\mathbb {P} (B)-\mathbb {P} (A\cap B)$

הוכחה: נתבונן במאורעות $A\setminus B,\ B\setminus A,\ A\cap B$. לפי ההגדרה, הם זרים. לכן, לפי האקסיומה השלישית, $${\begin{matrix}\mathbb {P} (A)=\mathbb {P} {\bigl (}(A\setminus B)\cup (A\cap B){\bigr )}=\mathbb {P} (A\setminus B)+\mathbb {P} (A\cap B)\\{\mathbb {P}}(B)=\mathbb {P} (B\setminus A)+\mathbb {P} (A\cap B)\\{\mathbb {P}}(A)+\mathbb {P} (B)-\mathbb {P} (A\cap B)=\mathbb {P} (A\setminus B)+\mathbb {P} (B\setminus A)+\mathbb {P} (A\cap B)\end{matrix}}$$ היות ששלושת המאורעות האחרונים זרים, סכום ההסתברויות שלהן הוא בדיוק הסתברות איחודן, דהיינו $\mathbb {P} (A\cup B)$.

אם מחברים למשפט ”איחוד מאורעות לא בהכרח זרים” את האקסיומה השניה, נקבל את התוצאה הבאה:

משפט: הסתברות איחוד שני מאורעות אינה יותר גדולה מסכום הסתברויותיהן $\mathbb {P} (A\cup B)\leq \mathbb {P} (A)+\mathbb {P} (B)$.

אפשר להכליל את משפט:איחוד מאורעות לא בהכרח זרים, למשפט הבא:

משפט: עקרון ההכלה וההפרדה (לשלושה מאורעות) $\mathbb {P} (A\cup B\cup C)=\mathbb {P} (A)+\mathbb {P} (B)+\mathbb {P} (C)-{\Big [}\mathbb {P} (A\cap B)+\mathbb {P} (B\cap C)+\mathbb {P} (A\cap C){\Big ]}+\mathbb {P} (A\cap B\cap C)$

הגרסה הכללית של משפט זה היא עקרון ההכלה וההפרדה.

כמו כן, אפשר להכליל את משפט: הסתברות איחוד שני מאורעות אינה יותר גדולה מסכום הסתברויותיהן, למשפט הבא:

משפט: הסתברות איחוד מאורעות אינה יותר גדולה מסכום הסתברויותיהן $\mathbb {P} \left(\bigcup _{k=1}^{n}A_{k}\right)\leq \sum _{k=1}^{n}\mathbb {P} (A_{k})$

תרגיל : ודא שהנך יכול להוכיח את המשפטים הבאים.

משפט: הסתברות מאורע חלקי $A\subseteq B\ \implies \ \mathbb {P} (A)\leq \mathbb {P} (B)$

משפט: הסתברות מאורע משלים לכל מאורע $A$ ומשלימו $A^{c}=\Omega \setminus A$, נקבל תכונת המשלים: $\mathbb {P} (A^{c})=1-\mathbb {P} (A)$

קישורים חיצוניים

ערך בוויקיפדיה: מאורע (הסתברות)

ערך בוויקיפדיה: מרחב הסתברות

ערך בוויקיפדיה: אקסיומות ההסתברות

ערך בוויקיפדיה: עקרון ההכלה וההפרדה

הפרק הקודם: מבוא

המודל ההסתברותי תרגילים

הפרק הבא: אי תלות בין מאורעות