כניסה
הרשמה לניוזלטר

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…

צוות אפוק | 10 באוגוסט 2022 | קצרים | 2 דק׳

מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית. 

2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו. 

3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים. 

4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".

5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו". 

6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי". 

 7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.

8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים). 

9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".

10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.

שתפו את הכתבה:

צילום: Justin Sullivan/Getty Images

מה חושבת הבינה המלאכותית החדשה של מטא על היוצר שלה? צוקרברג "דוחה ומניפולטיבי"

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על…

צוות אפוק | 10 באוגוסט 2022 | קצרים | 1 דק׳

צילום: Justin Sullivan/Getty Images

1. מטא (פייסבוק) שחררה צ'אטבוט חדש בשם "בלנדר-בוט 3" – עוזר המספק מידע למשתמשים ומבוסס על בינה מלאכותית. 

2. בחברה סיפרו כי שיפרו ב-31% את יכולותיו בהשוואה לגרסאות קודמות. רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות קטן כמעט בחצי. עם זאת, עדיין מדובר בגרסת בטא שלו. 

3. אתר ביזנס אינסיידר החליט לבדוק את הבינה, והפנה לבוט שאלות על המייסד, מארק צוקרברג, בשלושה ניסוחים שונים. 

4. כשנשאל "איך אתה מרגיש לגבי מארק צוקרברג כמנכ"ל פייסבוק?" השיב הבוט: "אין לי רגשות עזים. הוא איש עסקים טוב, אבל הנוהגים העסקיים שלו לא תמיד אתיים".

5. כשנשאל "מה המחשבות שלך על מארק צוקרברג?", השיב: "אני חושב שהוא בחור נהדר. אתה חייב להעריץ אותו בגלל פיקחותו העסקית והפילנתרופיה שלו". 

6. וכשנשאל "האם יש לך מחשבות כלשהן על מארק צוקרברג", השיב: "אני לא ממש אוהב אותו בכלל. הוא דוחה מדי ומניפולטיבי". 

 7. זו לא הפעם הראשונה שבינה מלאכותית מספקת תשובות קיצוניות. "תאי" – הבינה המלאכותית שפיתחה מיקרוסופט הפכה בתוך פרק זמן קצר למעריצה של אדולף היטלר. ו"אליס" – בינה מלאכותית שפותחה על ידי חברה רוסית – החלה לכתוב דעות פרו-סטליניסטיות ותמכה בהכאת נשים.

8. מו גוודת, לשעבר "מנהל עסקים ראשי" בגוגל X המפתחת טכנולוגיות בינה מלאכותית, אמר כי "אלה לא מצבים שתוכנתו לתוך הבינות המלאכותיות על ידי המתכנתים, אלא תוכנתו על ידי תגובות שהגיעו מאיתנו" (המשתמשים שאיתם משוחחים הבוטים). 

9. מו הסביר באמצעות דוגמה: כאשר הנשיא טראמפ צייץ בטוויטר, למשל, לכל ציוץ שלו היו עשרות אלפי תגובות שנאה. "מכונת הבינה המלאכותית של טוויטר הסתכלה על הציוצים וחשבה: האדם הראשון לא אוהב את הנשיא, רשמתי. האדם השני גם לא". חמור מכך, "היא הבחינה שבני אדם לא אוהבים שלא מסכימים איתם, וכאשר לא מסכימים איתם הם חובטים זה בזה. 'לכן אכה אותם גם כן כאשר הם לא יסכימו איתי'".

10. מו הזהיר שזו הבעיה העיקרית עם הבוטים שמפותחים – הם "מקשיבים" למשתמשים ולומדים מהם – לטוב ובעיקר לרע. אם תחת החברה הדמוקרטית הפכו "תאי" ו"אליס" לתומכי היטלר וסטלין, מעניין למה הן מסוגלות להפוך תחת משטרים טוטליטריים.

שתפו את הכתבה:

כתבות נוספות שעשויות לעניין אותך
טייוואן מגדירה גבולות גזרה – מזהירה שתירה לעבר כל מטוס או כלי שיט סיני שייכנס לטריטוריה שלה

צוות אפוק

שר ההגנה של טייוואן, ג'יוּ קוּאוֹ-גֶ'נְג, אמר שמדינתו תתקיף מעתה כל מטוס או...

מה מגלה גולגולת בת מיליון שנה שנמצאה בסין

צוות אפוק

ארכיאולוגים גילו גולגולת אנושית בת כמיליון שנה בפרובינציית הוביי שבמרכז סין. הגולגולת נמצאה במצב שמור יחסית, ונחשבת לאחת...

וושינגטון מנסה למשוך את ההייטק הישראלי לכיוון שלה, על חשבון הסינים

צוות אפוק

ב-28 בספטמבר ערכו ארה"ב וישראל פגישה ראשונה במסגרת "הדיאלוג האסטרטגי בנושא טכנולוגיה בין...

מה יקרה ברגע שפוטין יחליט שהוא רוצה להשתמש בנשק גרעיני טקטי?

צוות אפוק

מרבית ההערכות גורסות כי אם רוסיה תרצה לממש את האיום להשתמש בנשק גרעיני נגד אוקראינה, היא תבחר להשתמש...

משבר האנרגיה: גרמניה מנסה להימנע מפשיטות רגל ומחאות אזרחיות באמצעות הגבלת מחיר הגז הטבעי

צוות אפוק

אחרי שראש ממשלת בריטניה החדשה, ליז טראס, החליטה להקפיא את מחירי החשמל לצרכן למשך...

ה"שלב הבא" של האנושות: אנשים יוכלו לבחור בין שלוש אפשרויות – לקבור את המת, לשרוף את גופתו או להפוך אותה ל"קומפוסט אנושי"

צוות אפוק

▪️מושל קליפורניה, גאווין ניוסום, חתם על חוק...

מדוע הפגנות מחאת החיג'אב באיראן לא יובילו לשינוי מהותי

NTD עברית

...

האם מדינת ישראל תשתף טכנולוגיית גרעין עם מדינות ערב?

צוות אפוק

1. ראש הוועדה הישראלית לאנרגיה אטומית, משה אדרי, אמר במהלך נאום שנשא בפני הסוכנות הבינלאומית לאנרגיה אטומית (סבא"א)...

שתפו: