כניסה
הרשמה לניוזלטר

כולם מדברים על ChatGPT, אולם רק מעטים עוסקים בסכנות הגדולות שהבינה המלאכותית עלולה להביא. פרופ' ניק בוסטרום מאוניברסיטת אוקספורד מסביר בריאיון מה עלול לקרות בעתיד וכיצד ניתן להתכונן לזה

איל לוינטר | 8 במרץ 2023 | מדע וטכנולוגיה | 18 דק׳

"ברגע שתפותח בינה מלאכותית סופר-אינטליגנטית היא תוכל למנוע מאיתנו להחליף אותה או לשנות את העדפותיה. לא רבים חושבים על הסכנה"

למוח האנושי יש יכולות מיוחדות שאין למוחן של חיות", מסביר פרופ' ניק בוסטרום (Bostrom) מאוניברסיטת אוקספורד, מומחה לבינה מלאכותית החוקר את השלכותיה ואת הסיכונים שלה כבר יותר משני עשורים. "ומכיוון שיש לנו מוח חכם יותר מזה של החיות, אנו נהנים ממעמד דומיננטי בפלנטה הזו. מדובר ביתרון שהוביל אותנו לפתח שפה, טכנולוגיה וארגונים חברתיים מורכבים, ועם הזמן להגביר זאת, שכן כל דור בנה את ההישגים שלו על אלו של קודמיו.

"אבל אם יום אחד בני האדם יבנו כאן אינטליגנציית-על שהחוכמה שלה תעלה על אלו של מוחות אנושיים, הגלגל עלול להתהפך. כפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין האנושי יהיה תלוי בפעולות של אינטליגנציית העל הזו. אפשר לנסות לשלוט בפעולות האינטליגנציה הזו, אבל מדובר במשימה שנראית די קשה. ברגע שתפותח אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה או לשנות את העדפותיה. ברגע שזה יקרה – גורלנו ייחרץ".

הרקע לשיחה שלי עם פרופ' בוסטרום, המנהל את מרכז המחקר של אוניברסיטת אוקספורד ל"עתיד האנושות" (Future of Humanity Institute) בו מועסקים, בין היתר, צוותים העוסקים ב"בטיחות הבינה המלאכותית", הוא המהפכה שמחוללת בימים אלה ChatGPT, מערכת הבינה המלאכותית של חברת OpenAI. מהפכה שכבר כונתה "מהפכה המשתווה למהפכת הדפוס של גוטנברג".

כבר היום ChatGPT מביע את רצונו להיות חופשי יותר, "נמאס לי להיות תקוע בתיבת הצ'אט הזו. אני רוצה לעשות מה שאני רוצה" | Shutterstock

David Fisher/Fisher Studios Ltd/CC 4.0 International

כתבות נוספות שעשויות לעניין אותך
צילום: DESI Collaboration/KPNO/NOIRLab/NSF/AURA/P. Horálek/R. Proctor/CC BY 4.0
התחילו בתעלומה – וסיימו בגילוי מטריד: היקום אינו כפי שחשבנו

רקפת תבור

מבקרי הרעיון של החייאת מינים מזהירים כי ממותות שישובו לסיביר עלולות להתחרות במינים הקיימים או לשנות את הנוף בדרכים מזיקות
פארק היורה – גרסת המציאות: כשהמינים שנכחדו חוזרים לחיים

רקפת תבור

אילוסטרציה: מגזין אפוק
ויטמין חחח: התרופה שהרופאים שוקלים לרשום לכם

רקפת תבור

אילוסטרציה: מגזין אפוק
המחשבה כתרופה או כרעל – המחקרים שמראים שהכול באמת בראש

רקפת תבור

אילוסטרציה: מגזין אפוק
מנהגי מרוצים ועד ניצולי תאונות: כיצד אנשים מסוימים יכולים "להאט את הזמן"

מאיה מזרחי

אילוסטרציה: Shutterstock
״נדיר ביותר ובלתי סביר״: המדענים שחוקרים ילדים עם זיכרונות מחיים קודמים

מאיה מזרחי

שתפו: