סינגולריות טכנולוגית
פעולות נוספות
הסינגולריות הטכנולוגית (באנגלית: Technological singularity) היא נקודת זמן היפותטית בעתיד שבה ההתפתחות הטכנולוגית תאיץ אל מעבר ליכולת השליטה וההבנה של בני האדם, ותוביל לשינויים בלתי הפיכים ובלתי צפויים בציוויליזציה האנושית.[1]
על פי הגרסה הפופולרית ביותר של השערה זו, המבוססת על מודל "פיצוץ האינטליגנציה" של אירווינג ג'ון גוד משנת 1965, סוכן תבוני הניתן לשדרוג עלול להיכנס למעגל משוב חיובי של מחזורי שיפור עצמי. כל דור של אינטליגנציה כזו יופיע מהר יותר מקודמו, מה שיגרום לעלייה אקספוננציאלית שתוביל בסופו של דבר ליצירת אינטליגנציית-על עוצמתית, העולה לאין שיעור על האינטליגנציה האנושית.[2]
מדענים והוגים רבים, בהם סטיבן הוקינג וניק בוסטרום, הביעו דאגה כי אינטליגנציית-על מלאכותית עלולה להוביל להכחדת האנושות.[3] מנגד, חוקרים ואנשי טכנולוגיה בולטים כגון סטיבן פינקר, פול אלן וגורדון מור חולקים על עצם הסבירות להתרחשותה של סינגולריות כזו, וטוענים כי התפתחות הבינה המלאכותית צפויה להיתקל בחסמים פיזיקליים, כלכליים וחישוביים, ולהגיע לנקודת רוויה (תפוקה שולית פוחתת).[4]
התפתחות המושג עריכה
הרעיון לפיו מכונות יוכלו בתיאוריה להפגין התנהגות תבונית השקולה לזו של אדם הוצג לראשונה על ידי אלן טיורינג במאמרו המפורסם משנת 1950, "מכונות חישוב ואינטליגנציה". עם זאת, הראשון שהשתמש במונח "סינגולריות" (Singularity) בהקשר של קדמה טכנולוגית היה המתמטיקאי ג'ון פון נוימן. בשנת 1958 דיווח המתמטיקאי סטניסלב אולם על שיחה שקיים עם פון נוימן, אשר נסובה על "ההתקדמות המואצת של הטכנולוגיה... הנותנת תחושה של התקרבות לסינגולריות מהותית כלשהי בהיסטוריה של הגזע האנושי, שמעבר לה העניינים האנושיים, כפי שאנו מכירים אותם, לא יוכלו להימשך".[5]
בשנת 1965 הציג המתמטיקאי אירווינג ג'ון גוד את המושג "פיצוץ אינטליגנציה" (Intelligence explosion). הוא טען כי מכונה שתעלה על בני האדם תוכל לתכנן מכונות טובות אף יותר, וכי "המכונה האולטרה-אינטליגנטית הראשונה תהיה ההמצאה האחרונה שהאדם יצטרך אי פעם להמציא".[2]
המושג "סינגולריות טכנולוגית" זכה לפופולריות רבה בזכות מתמטיקאי וסופר המדע בדיוני ורנור וינג'. במאמרו משנת 1993, "הסינגולריות הטכנולוגית המתקרבת", טען וינג' כי המעבר לאינטליגנציה על-אנושית יהווה מעין "חור שחור" היסטורי שלא ניתן לראות מעבר לו, וכי התפתחות זו תסמן את קץ העידן האנושי.[6]
מי שהביא את המושג לתודעת הציבור הרחב במאה ה-21 היה העתידן ריי קורצווייל, בספרו "הסינגולריות מתקרבת" (2005). קורצווייל הציג את "חוק התשואות המאיצות" (Law of Accelerating Returns), הכללה של חוק מור, שלפיו קצב השינוי הטכנולוגי גדל באופן מעריכי (אקספוננציאלי), ויאפשר מיזוג מלא בין האדם למכונה.[7]
מנגנונים עיקריים עריכה
שיפור עצמי רקורסיבי (Recursive Self-Improvement) עריכה
הבסיס לסינגולריות הטכנולוגית הוא תהליך של "שיפור עצמי רקורסיבי". תוכנת בינה מלאכותית אשר מסוגלת להבין את המבנה של עצמה, עשויה לכתוב קוד טוב ומהיר יותר עבור עצמה ("Seed AI"). לאחר שתשדרג את עצמה, הגרסה החדשה והחכמה יותר תוכל לבצע את השדרוג הבא מהר וטוב עוד יותר. מחזורים חוזרים ונשנים אלו עשויים להוביל לשינוי איכותי עצום בפרק זמן קצר, תהליך המכונה לעיתים "המראה קשה" (Hard takeoff).[8]
מהירות מול אלגוריתמיקה עריכה
קיימים שני גורמים נפרדים שעשויים להוביל לסינגולריות: שיפור בחומרה ושיפור בתוכנה.
- סינגולריות של מהירות: מצב שבו אלגוריתמים דמויי-אדם פועלים על חומרה מהירה פי מיליונים ממוח אנושי. במצב כזה, שנה סובייקטיבית של חשיבה עשויה לחלוף ב-30 שניות פיזיות בלבד.[9]
- סינגולריות של אלגוריתמים: שיפור איכותי בתוכנה, המאפשר לסוכן מלאכותי לפתור בעיות מורכבות שהמוח האנושי כלל אינו מסוגל לתפוס.
תחזיות מועד התרחשות עריכה
מומחים ועתידנים חלוקים באשר לשאלה האם ומתי תתרחש הסינגולריות:
- ריי קורצווייל חזה בספרו ב-2005 כי בינה מלאכותית ברמה אנושית תושג סביב שנת 2029, וכי הסינגולריות עצמה תתרחש בשנת 2045.[7]
- הנס מורבק חזה ב-1998 כי בינה ברמה אנושית תושג עד שנת 2040, ואינטליגנציה על-אנושית עד שנת 2050.[10]
- בסקרים עדכניים של מומחים וחוקרי בינה מלאכותית, חציון התחזיות להשגת בינה מלאכותית כללית (AGI) – הנחשבת לשלב מקדים לסינגולריות – עומד על בין 2040 ל-2050.[11]
סבירות וביקורת עריכה
חוקרים ואנשי אקדמיה רבים מטילים ספק ברעיון הסינגולריות ומבקרים את ההנחות העומדות בבסיסו.
הבלשן וחוקר הקוגניציה סטיבן פינקר טען כי "אין אף סיבה להאמין בסינגולריות מתקרבת", וציין כי "כוח עיבוד גולמי אינו אבקת קסמים שפותרת את כל הבעיות". פינקר משווה את הסינגולריות לפנטזיות עתידניות מהעבר, כמו מכוניות מעופפות, שלא התממשו מעולם על אף שהיו פופולריות בספרות המדע הבדיוני.[4]
פול אלן, שותף-מייסד של מיקרוסופט, הציע את תזת "בלם המורכבות" (Complexity Brake). לדבריו, ככל שהמדע מתקדם בהבנת האינטליגנציה, כך נדרש מאמץ הולך וגדל כדי להשיג את ההתקדמות הבאה. אלן טוען שחוק התפוקה השולית הפוחתת יחול גם על התפתחות הבינה המלאכותית, וימנע את ההאצה האינסופית שמנבאים תומכי הסינגולריות.[12]
מדענים אחרים, דוגמת גורדון מור (שעל שמו קרוי חוק מור) וג'רון לנייר, טוענים שישנם חסמים פיזיקליים וטכנולוגיים ברורים, כגון הצטברות חום והגבלות על מזעור טרנזיסטורים, שיעצרו את הגידול המעריכי בכוח המחשוב. הכלכלן רוברט גורדון הצביע על כך שהצמיחה הכלכלית המדידה הואטה למעשה מאז 1970, וטוען כי הנתונים הכלכליים אינם מראים שום סימן לסינגולריות מתקרבת.
סיכונים והשלכות עריכה
| שגיאה: התמונה שגויה או שאינה קיימת. |
ראו גם – בטיחות בינה מלאכותית, אינטליגנציית-על: נתיבים, סכנות, אסטרטגיות |
מבקרי הסינגולריות ותומכיה מסכימים כי אם היא תתרחש, השלכותיה יהיו דרמטיות. הפיזיקאי סטיבן הוקינג הזהיר ב-2014 כי "הצלחה ביצירת בינה מלאכותית תהיה האירוע הגדול ביותר בתולדות האנושות. למרבה הצער, היא עלולה להיות גם האחרון, אלא אם נלמד כיצד להימנע מהסיכונים".[13]
סכנה מרכזית הנובעת מהסינגולריות היא בעיית התיאום (AI Alignment) – הקושי להבטיח שהמטרות שתציב לעצמה ישות עם אינטליגנציית-על יהיו תואמות לערכים ולצרכים של בני האדם. מערכת שתיווצר בתהליך מהיר של המראה קשה (Hard takeoff) לא תותיר לבני האדם חלון זמן לתקן שגיאות בתכנות הערכי שלה, והיא עשויה לקבל החלטות שיסכנו את הקיום האנושי, גם אם לא מתוך כוונת זדון אלא בניסיון לייעל תהליכים (בדומה לניסוי המחשבה על יצירת מהדקי הנייר של ניק בוסטרום).
התפתחות מודלי השפה הגדולים (LLMs) החל משנת 2022 הפכה את הדיון התאורטי למוחשי. בשנת 2023, מנהיגי תעשיית הבינה המלאכותית (בהם מנכ"לי החברות OpenAI ו-Anthropic) פרסמו הצהרה פומבית המכירה בכך שסיכוני הבינה המלאכותית עלולים להיות קיומיים ודומים בדרגתם לסכנות ממגפות או ממלחמה גרעינית.[14]
ראו גם עריכה
לקריאה נוספת עריכה
- ריי קורצווייל, הסינגולריות מתקרבת: כאשר האנושות מתעלה על הביולוגיה, תרגום: עמנואל לוטם, הוצאת כנרת, זמורה-ביתן, 2012.
- מקס טגמרק, חיים 3.0: להיות אדם בעידן הבינה המלאכותית, הוצאת מטר, 2019.
- יובל נח הררי, ההיסטוריה של המחר, הוצאת דביר, 2015.
- Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.
קישורים חיצוניים עריכה
הערות שוליים עריכה
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ 1 2 שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ 1 2 שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ 1 2 שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ שגיאת לואה ביחידה יחידה:Citation/CS1/Configuration בשורה 1739<includeonly></includeonly>: attempt to index field '?' (a nil value).
- ^ אתר למנויים בלבד חנן שטיינהרט, סכנת הבינה המלאכותית: בני אדם ממהרים לחשוב שהם מבינים אותה, באתר גלובס, 27 בספטמבר 2025
