"ברגע שתפותח בינה מלאכותית סופר-אינטליגנטית היא תוכל למנוע מאיתנו להחליף אותה או לשנות את העדפותיה. לא רבים חושבים על הסכנה"

למוח האנושי יש יכולות מיוחדות שאין למוחן של חיות", מסביר פרופ' ניק בוסטרום (Bostrom) מאוניברסיטת אוקספורד, מומחה לבינה מלאכותית החוקר את השלכותיה ואת הסיכונים שלה כבר יותר משני עשורים. "ומכיוון שיש לנו מוח חכם יותר מזה של החיות, אנו נהנים ממעמד דומיננטי בפלנטה הזו. מדובר ביתרון שהוביל אותנו לפתח שפה, טכנולוגיה וארגונים חברתיים מורכבים, ועם הזמן להגביר זאת, שכן כל דור בנה את ההישגים שלו על אלו של קודמיו.

"אבל אם יום אחד בני האדם יבנו כאן אינטליגנציית-על שהחוכמה שלה תעלה על אלו של מוחות אנושיים, הגלגל עלול להתהפך. כפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין האנושי יהיה תלוי בפעולות של אינטליגנציית העל הזו. אפשר לנסות לשלוט בפעולות האינטליגנציה הזו, אבל מדובר במשימה שנראית די קשה. ברגע שתפותח אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה או לשנות את העדפותיה. ברגע שזה יקרה – גורלנו ייחרץ".