כניסה
הרשמה לניוזלטר

כולם מדברים על ChatGPT, אולם רק מעטים עוסקים בסכנות הגדולות שהבינה המלאכותית עלולה להביא. פרופ' ניק בוסטרום מאוניברסיטת אוקספורד מסביר בריאיון מה עלול לקרות בעתיד וכיצד ניתן להתכונן לזה

איל לוינטר | 8 במרץ 2023 | מדע וטכנולוגיה | 18 דק׳

"ברגע שתפותח בינה מלאכותית סופר-אינטליגנטית היא תוכל למנוע מאיתנו להחליף אותה או לשנות את העדפותיה. לא רבים חושבים על הסכנה"

למוח האנושי יש יכולות מיוחדות שאין למוחן של חיות", מסביר פרופ' ניק בוסטרום (Bostrom) מאוניברסיטת אוקספורד, מומחה לבינה מלאכותית החוקר את השלכותיה ואת הסיכונים שלה כבר יותר משני עשורים. "ומכיוון שיש לנו מוח חכם יותר מזה של החיות, אנו נהנים ממעמד דומיננטי בפלנטה הזו. מדובר ביתרון שהוביל אותנו לפתח שפה, טכנולוגיה וארגונים חברתיים מורכבים, ועם הזמן להגביר זאת, שכן כל דור בנה את ההישגים שלו על אלו של קודמיו.

"אבל אם יום אחד בני האדם יבנו כאן אינטליגנציית-על שהחוכמה שלה תעלה על אלו של מוחות אנושיים, הגלגל עלול להתהפך. כפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין האנושי יהיה תלוי בפעולות של אינטליגנציית העל הזו. אפשר לנסות לשלוט בפעולות האינטליגנציה הזו, אבל מדובר במשימה שנראית די קשה. ברגע שתפותח אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה או לשנות את העדפותיה. ברגע שזה יקרה – גורלנו ייחרץ".

הרקע לשיחה שלי עם פרופ' בוסטרום, המנהל את מרכז המחקר של אוניברסיטת אוקספורד ל"עתיד האנושות" (Future of Humanity Institute) בו מועסקים, בין היתר, צוותים העוסקים ב"בטיחות הבינה המלאכותית", הוא המהפכה שמחוללת בימים אלה ChatGPT, מערכת הבינה המלאכותית של חברת OpenAI. מהפכה שכבר כונתה "מהפכה המשתווה למהפכת הדפוס של גוטנברג".

David Fisher/Fisher Studios Ltd/CC 4.0 International

"ברגע שתפותח בינה מלאכותית סופר-אינטליגנטית היא תוכל למנוע מאיתנו להחליף אותה או לשנות את העדפותיה. לא רבים חושבים על הסכנה"

כולם מדברים על ChatGPT, אולם רק מעטים עוסקים בסכנות הגדולות שהבינה המלאכותית עלולה להביא. פרופ' ניק בוסטרום מאוניברסיטת אוקספורד מסביר בריאיון מה עלול לקרות בעתיד וכיצד ניתן להתכונן לזה

איל לוינטר | 8 במרץ 2023 | מדע וטכנולוגיה | 18 דק׳

David Fisher/Fisher Studios Ltd/CC 4.0 International

למוח האנושי יש יכולות מיוחדות שאין למוחן של חיות", מסביר פרופ' ניק בוסטרום (Bostrom) מאוניברסיטת אוקספורד, מומחה לבינה מלאכותית החוקר את השלכותיה ואת הסיכונים שלה כבר יותר משני עשורים. "ומכיוון שיש לנו מוח חכם יותר מזה של החיות, אנו נהנים ממעמד דומיננטי בפלנטה הזו. מדובר ביתרון שהוביל אותנו לפתח שפה, טכנולוגיה וארגונים חברתיים מורכבים, ועם הזמן להגביר זאת, שכן כל דור בנה את ההישגים שלו על אלו של קודמיו.

"אבל אם יום אחד בני האדם יבנו כאן אינטליגנציית-על שהחוכמה שלה תעלה על אלו של מוחות אנושיים, הגלגל עלול להתהפך. כפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין האנושי יהיה תלוי בפעולות של אינטליגנציית העל הזו. אפשר לנסות לשלוט בפעולות האינטליגנציה הזו, אבל מדובר במשימה שנראית די קשה. ברגע שתפותח אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה או לשנות את העדפותיה. ברגע שזה יקרה – גורלנו ייחרץ".

הרקע לשיחה שלי עם פרופ' בוסטרום, המנהל את מרכז המחקר של אוניברסיטת אוקספורד ל"עתיד האנושות" (Future of Humanity Institute) בו מועסקים, בין היתר, צוותים העוסקים ב"בטיחות הבינה המלאכותית", הוא המהפכה שמחוללת בימים אלה ChatGPT, מערכת הבינה המלאכותית של חברת OpenAI. מהפכה שכבר כונתה "מהפכה המשתווה למהפכת הדפוס של גוטנברג".

כתבות נוספות שעשויות לעניין אותך
מהיכן באמת מגיעות המחשבות שלנו?

רקפת תבור

מדעני מוח וחוקרים פוסט-מטריאליסטים מזהירים בשנים האחרונות כי אולי חיפשנו את התודעה במקום הלא נכון. "אין איש שבאמת בודק את הגורמים האמיתיים מאחורי הפעולות שלנו", טוען אחד החוקרים

הפוך מספרי ההיסטוריה: החוקרים שבודקים האם כלי תעופה קדומים שימשו את האנושות – הרבה לפני ההמצאות המוכרות למדע

רקפת תבור

קבוצת חוקרים הודית צללה ל"כתבי הוֶודוֹת" מהמיתולוגיה ההודית המתארים בצורה מדוקדקת וקוהרנטית כלי תעופה מתקופות עתיקות, ואף בנו מודלים של חלקם והעבירו אותם ב"מנהרת רוח" שבאוניברסיטת קליפורניה באירווין. "ניסינו להבין אם כל הסיפורים על כלי טיס עתיקים הם סיפורי בדיה עתיקים או שאולי יש בהם גרעין של אמת", אומר בריאיון למגזין אפוק אנריקו בקריני, המוביל את קבוצת החוקרים

עיר הרפאים האגדתית הרקליון, והמקדש המסתורי של הרקולס

רקפת תבור

מאגדה למציאות - הסיפורים שחשבנו שהם מיתוס ומתגלים בהדרגה כאמיתיים

הקבר הממולכד של הקיסר צ'ין שי חואנג די

רקפת תבור

מאגדה למציאות - הסיפורים שחשבנו שהם מיתוס ומתגלים בהדרגה כאמיתיים

הזרעים שנודעו ביכולותיהם לטהר מי נהרות מזוהמים

רקפת תבור

מאגדה למציאות - הסיפורים שחשבנו שהם מיתוס ומתגלים בהדרגה כאמיתיים

דמעות הדם של ולד המשפד "דרקולה"

רקפת תבור

מאגדה למציאות - הסיפורים שחשבנו שהם מיתוס ומתגלים בהדרגה כאמיתיים

שתפו: