כניסה
הרשמה לניוזלטר

כולם מדברים על ChatGPT, אולם רק מעטים עוסקים בסכנות הגדולות שהבינה המלאכותית עלולה להביא. פרופ’ ניק בוסטרום מאוניברסיטת אוקספורד מסביר בריאיון מה עלול לקרות בעתיד וכיצד ניתן להתכונן לזה

איל לוינטר | 8 במרץ 2023 | מדע וטכנולוגיה | 18 דק׳

“ברגע שתפותח בינה מלאכותית סופר-אינטליגנטית היא תוכל למנוע מאיתנו להחליף אותה או לשנות את העדפותיה. לא רבים חושבים על הסכנה”

למוח האנושי יש יכולות מיוחדות שאין למוחן של חיות", מסביר פרופ' ניק בוסטרום (Bostrom) מאוניברסיטת אוקספורד, מומחה לבינה מלאכותית החוקר את השלכותיה ואת הסיכונים שלה כבר יותר משני עשורים. "ומכיוון שיש לנו מוח חכם יותר מזה של החיות, אנו נהנים ממעמד דומיננטי בפלנטה הזו. מדובר ביתרון שהוביל אותנו לפתח שפה, טכנולוגיה וארגונים חברתיים מורכבים, ועם הזמן להגביר זאת, שכן כל דור בנה את ההישגים שלו על אלו של קודמיו.

"אבל אם יום אחד בני האדם יבנו כאן אינטליגנציית-על שהחוכמה שלה תעלה על אלו של מוחות אנושיים, הגלגל עלול להתהפך. כפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין האנושי יהיה תלוי בפעולות של אינטליגנציית העל הזו. אפשר לנסות לשלוט בפעולות האינטליגנציה הזו, אבל מדובר במשימה שנראית די קשה. ברגע שתפותח אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה או לשנות את העדפותיה. ברגע שזה יקרה – גורלנו ייחרץ".

הרקע לשיחה שלי עם פרופ' בוסטרום, המנהל את מרכז המחקר של אוניברסיטת אוקספורד ל"עתיד האנושות" (Future of Humanity Institute) בו מועסקים, בין היתר, צוותים העוסקים ב"בטיחות הבינה המלאכותית", הוא המהפכה שמחוללת בימים אלה ChatGPT, מערכת הבינה המלאכותית של חברת OpenAI. מהפכה שכבר כונתה "מהפכה המשתווה למהפכת הדפוס של גוטנברג".

David Fisher/Fisher Studios Ltd/CC 4.0 International

שתפו: