אף אחד לא באמת יודע כיצד המערכות המתקדמות ביותר עושות את מה שהן עושות
רקפת תבור | 16 בנובמבר 2017 | מדע וטכנולוגיה | 3 דק׳
האם לתת לבינה המלאכותית יד חופשית?
כשאליס ובוב, שני רובוטי שיחה – צ'טבוטים (Chatbots) – שבנו מהנדסי תוכנה של פייסבוק, שוחחו עם בני אדם, לא התעוררו בעיות מיוחדות. אבל כשהם החלו לשוחח זה עם זו, קרה דבר בלתי צפוי. המטרה הייתה לגרום לאליס ובוב לנהל משא ומתן ולסחור בכדורים, בכובעים ובספרים. אם בהתחלה הם הצליחו לסגור עסקאות סבירות זה עם זה, בשלב מתקדם יותר, איך לומר, הם יצאו מאיפוס. הם התחילו לדבר זה עם זו בשפה שרק הם מבינים וכל הניסיונות ל"תרגם" אותה לאנגלית לא צלחו.
פייסבוק אינה החברה הראשונה שנאלצת לעצור ניסוי על צ'טבוטים כבר בתחילתו. מיקרוסופט, למשל, נאלצה להשתיק את טיי (Tay) הצ'טבוט שלה 16 שעות לאחר שעלה לאוויר, במארס 2016, לאחר שזה החל לפרסם הצהרות גזעניות כנגד הציבור האפרו-אמריקני, ויצא בקריאות תמיכה בהיטלר. החברה הסינית Tencent נאלצה להשתיק את הצ'טבוט שהעלתה לפורטל QQ.com, לאחר שזה עורר את תשומת הלב של הציבור כשתיאר את המפלגה הקומוניסטית הסינית כמושחתת וכחסרת יכולות.
רוצה לקרוא עוד?
להמשך קריאה הירשמו או התחברו
