כניסה
הרשמה לניוזלטר

אף אחד לא באמת יודע כיצד המערכות המתקדמות ביותר עושות את מה שהן עושות

רקפת תבור | 16 בנובמבר 2017 | מדע וטכנולוגיה | 3 דק׳

האם לתת לבינה המלאכותית יד חופשית?

כשאליס ובוב, שני רובוטי שיחה – צ'טבוטים (Chatbots) – שבנו מהנדסי תוכנה של פייסבוק, שוחחו עם בני אדם, לא התעוררו בעיות מיוחדות. אבל כשהם החלו לשוחח זה עם זו, קרה דבר בלתי צפוי. המטרה הייתה לגרום לאליס ובוב לנהל משא ומתן ולסחור בכדורים, בכובעים ובספרים. אם בהתחלה הם הצליחו לסגור עסקאות סבירות זה עם זה, בשלב מתקדם יותר, איך לומר, הם יצאו מאיפוס. הם התחילו לדבר זה עם זו בשפה שרק הם מבינים וכל הניסיונות ל"תרגם" אותה לאנגלית לא צלחו.

פייסבוק אינה החברה הראשונה שנאלצת לעצור ניסוי על צ'טבוטים כבר בתחילתו. מיקרוסופט, למשל, נאלצה להשתיק את טיי (Tay) הצ'טבוט שלה 16 שעות לאחר שעלה לאוויר, במארס 2016, לאחר שזה החל לפרסם הצהרות גזעניות כנגד הציבור האפרו-אמריקני, ויצא בקריאות תמיכה בהיטלר. החברה הסינית Tencent נאלצה להשתיק את הצ'טבוט שהעלתה לפורטל QQ.com, לאחר שזה עורר את תשומת הלב של הציבור כשתיאר את המפלגה הקומוניסטית הסינית כמושחתת וכחסרת יכולות.


הרובוט האן (מימין) של חברת האנסון רובוטיקס במהלך דיון על עתיד האנושות ביולי 2017 | תמונה: Isaac Lawrence/AFP/Getty Images

כתבות נוספות שעשויות לעניין אותך
אילוסטרציה: מגזין אפוק
"ראינו במחקרים ששלב ההירדמות הוא רגע עוצמתי במיוחד לפתרון בעיות יצירתיות"

רקפת תבור

אילוסטרציה
מחיר השקר: האם סטייה מהאמת פוגעת בבריאותנו?

רקפת תבור

אילוסטרציה: מגזין אפוק
האלמנט הקוונטי: האם התגלה המקום שבו נוצרת התודעה?

רקפת תבור

ד"ר ניקולס נורוויץ, מומחה למטבוליזם מבית הספר לרפואה באוניברסיטת הרווארד
המדען שאכל 24 ביצים ביום ונלחם בכולסטרול עם עוגיות אוראו

מאיה מזרחי

איור אילוסטרציה: מגזין אפוק
המנגנון הפיזיולוגי שמסייע בקבלת החלטות תחת לחץ

רקפת תבור

אילוסטרציה
חוקרים הפכו עור של עכבר חי לשקוף באמצעות צבע מאכל

קרן זריהן

שתפו: