כניסה
הרשמה לניוזלטר

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…

צוות אפוק | 10 באוגוסט 2022 | קצרים | 2 דק׳

מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית. 

2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו. 

3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים. 

4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".

5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו". 

6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי". 

 7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.

8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים). 

9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".

10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.

צילום: Justin Sullivan/Getty Images

מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…

צוות אפוק | 10 באוגוסט 2022 | קצרים | 2 דק׳

צילום: Justin Sullivan/Getty Images

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית. 

2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו. 

3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים. 

4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".

5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו". 

6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי". 

 7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.

8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים). 

9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".

10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.

כתבות נוספות שעשויות לעניין אותך
המל"ט האמריקני שהופל לים: הפנטגון פרסם סרטון של רגע הפגיעה בו

צוות מגזין אפוק

בווידאו ששוחרר על ידי צבא ארה"ב נראה מטוס סוחוי (Su-27) מתקרב למל"ט ריגול אמריקני (MQ-9) שטס מעל הים השחור,...

הרגולטור האמריקני באזהרה לטיקטוק: אם האפליקציה לא תיפרד מחברת האם הסינית שלה – הוא עשוי לאסור על שימוש בה בארה"ב

צוות מגזין אפוק

הרגולטור האמריקני על השקעות זרות באמריקה (CFIUS) הוציא...

מדוע החליטה רוסיה להפיל מל"ט אמריקני מעל הים השחור?

צוות מגזין אפוק

צבא ארה"ב הודיע אתמול כי מטוס קרב רוסי התנגש במל"ט אמריקני במרחב הבין-לאומי מעל הים השחור וגרם לו להתרסק. "שני...

שי ג'ין-פינג וזלנסקי מתכננים לשוחח בווידאו, לראשונה מאז תחילת המלחמה. מה המטרה? פרשנות

צוות מגזין אפוק

נשיא סין, שי ג'ין-פינג, ומנהיג אוקראינה וולודימיר זלנסקי מתכננים לשוחח בווידאו, במה...

האינטרסים שמאחורי ההסכם בין סעודיה לאיראן. פרשנות

איל לוינטר

ב-10 במארס הסכימו סעודיה ואיראן לשחזר את היחסים הדיפלומטיים ביניהן במסגרת הסכם שנחתם בבייג'ינג, סין. על פי אירנ"א,...

ראש ה-CDC לשעבר: סביר יותר להניח שנגיף הקורונה הגיע ממעבדה בסין, מאשר ממקור טבעי

צוות מגזין אפוק

על פי העדויות הזמינות כיום, טוען ד"ר רוברט רדפילד, לשעבר מנהל המרכזים האמריקנים לבקרת מחלות...

טיפולים לשינוי מין אצל ילדים בישראל – האם הם מחריפים את מצבם הבריאותי?

חדשות NTD ישראל

"שמעתי הרבה מאוד עדויות, שברגע שמטפלים בסימפטומים הפסיכולוגיים האלה, אז הדיספוריה המגדרית...

טייסים אוקראינים מתאמנים בארה"ב. המטרה, בין היתר: להעריך כמה זמן ייקח להם ללמוד להטיס F-16

צוות אפוק

שני טייסים אוקראינים הגיעו לארה"ב כדי להתאמן על סימולטור טיסה שישפר את כישורי הטיסה...

שתפו: