הרשמה לניוזלטר

אף אחד לא באמת יודע כיצד המערכות המתקדמות ביותר עושות את מה שהן עושות

רקפת תבור | 16 בנובמבר 2017 | מדע וטכנולוגיה | 3 דק׳

האם לתת לבינה המלאכותית יד חופשית?

כשאליס ובוב, שני רובוטי שיחה – צ'טבוטים (Chatbots) – שבנו מהנדסי תוכנה של פייסבוק, שוחחו עם בני אדם, לא התעוררו בעיות מיוחדות. אבל כשהם החלו לשוחח זה עם זו, קרה דבר בלתי צפוי. המטרה הייתה לגרום לאליס ובוב לנהל משא ומתן ולסחור בכדורים, בכובעים ובספרים. אם בהתחלה הם הצליחו לסגור עסקאות סבירות זה עם זה, בשלב מתקדם יותר, איך לומר, הם יצאו מאיפוס. הם התחילו לדבר זה עם זו בשפה שרק הם מבינים וכל הניסיונות ל"תרגם" אותה לאנגלית לא צלחו.

פייסבוק אינה החברה הראשונה שנאלצת לעצור ניסוי על צ'טבוטים כבר בתחילתו. מיקרוסופט, למשל, נאלצה להשתיק את טיי (Tay) הצ'טבוט שלה 16 שעות לאחר שעלה לאוויר, במארס 2016, לאחר שזה החל לפרסם הצהרות גזעניות כנגד הציבור האפרו-אמריקני, ויצא בקריאות תמיכה בהיטלר. החברה הסינית Tencent נאלצה להשתיק את הצ'טבוט שהעלתה לפורטל QQ.com, לאחר שזה עורר את תשומת הלב של הציבור כשתיאר את המפלגה הקומוניסטית הסינית כמושחתת וכחסרת יכולות.

שתפו את הכתבה:


הרובוט האן (מימין) של חברת האנסון רובוטיקס במהלך דיון על עתיד האנושות ביולי 2017 | תמונה: Isaac Lawrence/AFP/Getty Images

כתבות נוספות שעשויות לעניין אותך
מרפא העסקים: היזם שמגלה בעיות על פי הפירמידה של מאסלו

מאיה מזרחי

שתי החברות הראשונות שהקים מייק מיכאלוביץ', יזם וסופר אמריקני, נחלו הצלחה רבה ונמדדו בשווי...

7 כישורים מדעיים שיסייעו לכם להיות מנהיגים טובים יותר

דינה גורדון, יערה ארגוב

1. אסטרטגיית ה"כן" הקטן אחת האסטרטגיות שמשתמש בה נשיא ארה"ב דונלד טראמפ מול דיקטטור צפון...

כיצד נגטיביות שולטת בכל היבט בחיינו ואיך ניתן לשלוט בה בחזרה

דינה גורדון

רוי באומייסטר (Baumeister) היה סטודנט מחקר צעיר לפסיכולוגיה באוניברסיטת...

מהארכיון: אפקט הנוצבו: האם קריאה על המגפה יכולה לגרום לנו נזק?

רקפת תבור, דינה גורדון

"עדיין אין לנו נתונים ספציפיים האם הדיווחים בתקשורת על הווירוס שמקורו...

מדריך השדה לאסטרטגיות ולטקטיקות מנהיגות של קצין ב”אריות הים”

מאיה מזרחי

שיעור א' - תתנתק המחלקה של ג'וקו וילינק (Jocko Willink), בחור צעיר שהצטרף...

הקלות הבלתי נסבלת של ההפלה

מאיה מזרחי

איש אינו יכול לשים עצמו במקומם של הורים המתבשרים, רגע לאחר שהביאו ילד לעולם, כי ילדם נולד עם מום או שהוא (או היא) לוקה במחלה...

האנשים שחיים כמו סוקרטס

מאיה מזרחי

בשעת ערב מוקדמת מקס מקסוול נכנס לבר מקומי במערב ארה"ב. הוא עולה לבמה, מחזיק במיקרופון ומתבונן בקהל. כמה מהאורחים כבר שיכורים,...

האם לשמחה, לאהבה ולמחלות כמו סרטן ופרקינסון יש ריח?

רקפת תבור

שמתם לב ששמחה יכולה להיות לפעמים מדבקת? תחשבו למשל מה קורה כשכל המשפחה יושבת לארוחה ביחד...

שתפו: