הסתברות לאבדון
פעולות נוספות
P(doom) (קיצור של Probability of doom, "הסתברות לאבדון") הוא מונח בתחום בטיחות הבינה המלאכותית המתייחס להסתברות לתוצאות קטסטרופליות קיומיות (או "אבדון") כתוצאה מבינה מלאכותית[1][2] . התוצאות המדויקות הנדונות משתנות מתחזית אחת לאחרת, אך באופן כללי הן מרמזות על הסיכון הקיומי מבינה מלאכותית כללית[3]
המונח, שמקורו בבדיחה פנימית בקרב חוקרי בינה מלאכותית, זכה לבולטות בשנת 2023 לאחר השקת GPT-4, כאשר דמויות בעלות פרופיל גבוה כמו ג'פרי הינטון[4] ויושוע בנג'יו[5] החלו להזהיר מפני הסיכונים של בינה מלאכותית[6] בסקר משנת 2023, חוקרי בינה מלאכותית התבקשו להעריך את ההסתברות שהתקדמויות עתידיות בבינה מלאכותית עלולות להוביל להכחדת האנושות או לפגיעה חמורה ודומה באופן קבוע במהלך 100 השנים הקרובות. הערך הממוצע מהתשובות היה 14.4%, עם ערך חציוני של 5%[7]
תחזיות אישיות של דמויות בולטות עריכה
דמויות בולטות בתעשיית הטכנולוגיה ובחקר הבינה המלאכותית הציגו תחזיות שונות לגבי P(doom). אליעזר יודקובסקי, מייסד מכון המחקר למודיעין מכונות, הציג את התחזית הפסימית ביותר עם הערכה של מעל 95% לאבדון. ג'פרי הינטון, החתן פרס נובל לפיזיקה 2024 והמכונה "אבי הבינה המלאכותית", העריך את ההסתברות במעל 50%. יושוע בנג'יו, המדען הממוחשב וחתן פרס נובל, העריך את ההסתברות ב-50%. מנגד, דמויות אחרות כמו יאן לקון, המדען הראשי לבינה מלאכותית במטא, העריך את ההסתברות בפחות מ-0.01%, ואילו מארק אנדרסן, איש העסקים האמריקני, העריך אותה ב-0%. בין השניים נמצאים אילון מאסק (10-30%), שיין לג מגוגל דיפמיינד (5-50%), ודריו אמודיי מאנתרופיק (10-25%).
ביקורת עריכה
התעוררה מחלוקת מסוימת לגבי התועלת של P(doom) כמונח, בין השאר בשל חוסר הבהירות לגבי האם תחזית נתונה מותנית בקיומה של בינה מלאכותית כללית, המסגרת הזמנית, והמשמעות המדויקת של "אבדון".
בתרבות הפופולרית עריכה
- בשנת 2024, להקת הרוק האוסטרלית King Gizzard & the Lizard Wizard השיקה את הלייבל החדש שלה, p(doom) Records.
ראו גם עריכה
- סיכון קיומי מבינה מלאכותית כללית
- הצהרה על סכנת הכחדה של בינה מלאכותית
- יישור בינה מלאכותית
- השתלטות על בינה מלאכותית
- בטיחות בינה מלאכותית
הערות שוליים עריכה
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).תבנית:Br Citing:תבנית:Brשגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
_artificial_intelligence_icon.png){kind=link}