1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…
מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"
1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית.
2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו.
3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים.
4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".
5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו".
6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי".
7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.
8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים).
9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".
10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.
צילום: Justin Sullivan/Getty Images
עוד כתבות של צוות אפוק
-
1.
קצרים
טייסים אוקראינים מתאמנים בארה"ב. המטרה, בין היתר: להעריך כמה זמן ייקח להם ללמוד להטיס F-16
-
2.
קצרים
בלון הריגול הסיני היה בעל יכולת "סיגינט"
-
3.
קצרים
האנטר ביידן מודה לראשונה שהמחשב הנייד הידוע לשמצה הוא שלו
-
4.
קצרים
"הסכר נפרץ": המערב הסכים לראשונה להעביר טנקים לאוקראינה. מה המשמעות בטווח הארוך?
-
5.
קצרים
האיחוד האירופי הטיל סנקציות חדשות על איראן, אך סירב לקבוע שמשמרות המהפכה זה ארגון טרור. מדוע?
עוד כתבות בקצרים
-
המל"ט האמריקני שהופל לים: הפנטגון פרסם סרטון של רגע הפגיעה בו
צוות מגזין אפוק
-
הרגולטור האמריקני באזהרה לטיקטוק: אם האפליקציה לא תיפרד מחברת האם הסינית שלה – הוא עשוי לאסור על שימוש בה בארה"ב
צוות מגזין אפוק
-
מדוע החליטה רוסיה להפיל מל"ט אמריקני מעל הים השחור?
צוות מגזין אפוק
-
שי ג'ין-פינג וזלנסקי מתכננים לשוחח בווידאו, לראשונה מאז תחילת המלחמה. מה המטרה? פרשנות
צוות מגזין אפוק
-
האינטרסים שמאחורי ההסכם בין סעודיה לאיראן. פרשנות
איל לוינטר
מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"
1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…
צילום: Justin Sullivan/Getty Images
1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית.
2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו.
3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים.
4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".
5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו".
6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי".
7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.
8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים).
9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".
10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.