הרשמה לניוזלטר

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים…

פיטר סוואב | 9 ביוני 2020 | דעות | 4 דק׳

כיצד נכנס אלגוריתם צנזורה סיני ליוטיוב?

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים (לא משנה איזה סרטון) שמופיעים בהם ביטויים מסוימים בסינית. אילו ביטויים? כאלו המשמשים לבקר את המפלגה הקומוניסטית הסינית (המק”ס). בכל פעם שכתבתי את “הביטוי האסור” בתגובות, נמחקה התגובה שלי בתוך שניות ספורות עד 20 שניות לכל היותר – דבר המרמז שאלגוריתם אוטומטי מוחק זאת.

אחד הביטויים שרשמתי כתגובה לסרטון, לא משנה בכלל איזה סרטון, הוא 共匪 (גונג-פֵיי בסינית) שמשמעותו “שודדים קומוניסטים”. ביטוי נוסף הוא 五毛 (וו-מָאוֹ בסינית) שמשמעותו “חמישים סנט” – ביטוי המתאר את צבא הטרולים האינטרנטי שהמשטר הסיני מפעיל כדי להפיץ את התעמולה שלו ברשת. לפי דיווחים, הטרולים הסינים מקבלים חמישים סנט עבור כל תגובה שהם רושמים, המציגה באור חיובי את המשטר. כאמור, לא משנה מאיזה חשבון יוטיוב כתבתי את זה, זה נמחק מיד.

ניסויים נוספים שערכתי הראו שיוטיוב אינה מוחקת ביטויים דומים שרושמים באנגלית ואפילו לא קללות. יוטיוב מאפשרת לקלל חופשי. אבל לכתוב “שודדים קומוניסטים” בסינית (共匪)? זה לא.

פניתי לאחד הדוברים של גוגל בארה”ב (הבעלים של יוטיוב). בתגובה הוא ביקש שאשלח לו עדויות למחיקות. כמובן סיפקתי לו את העדויות, כולל לינקים לסרטוני יוטיוב שבהן נמחקו התגובות ואפילו סרטוני וידאו המנציחים את הרגע שבו נמחקת התגובה בזמן אמת. הדובר לא חזר אליי, אבל גורם אחר בחברה, שביקש לא להזדהות בשמו, אמר לי כי גוגל אינה מכירה בכלל באופציה של מחיקה אוטומטית של תגובות. זה לא קיים אצלה. עם זאת, ידוע שיוטיוב יכולה לצנזר או למחוק תוכן, כולל תגובות, כאשר אלה אינם מתאימים למדיניות הקהילה שלה. האם מדיניות הקהילה של יוטיוב כוללת מילים בסינית? לא. למעשה היא לא כוללת רשימת מילים כלל. וכדי שיוטיוב תמחק תגובה שאינה תואמת למדיניות הקהילה שלה – משתמש כלשהו צריך להתלונן על התגובה ואז אדם ביוטיוב צריך לבדוק אותה.

בעקבות הבדיקה שביצעתי פורסם מאמר על הנושא באתר החדשות הטכנולוגיות The Verge ובאתר החדשות Business Insider ובהמשך באתר הגארדיאן ובאתרים נוספים. דובר גוגל אמר לאתרים כי הנושא בבדיקה.

בסוף מאי החלטתי לבדוק זאת שוב. הקלדתי את הביטויים, והפלא ופלא, הצנזורה המביכה ביוטיוב לפתע הופסקה. אבל השאלה הגדולה נותרה בלתי פתורה – כיצד הצליח אלגוריתם צנזורה סיני להשתחל לקוד של יוטיוב ולמחוק ביטויים בסינית המבקרים את המפלגה הקומוניסטית הסינית בתוך 20 שניות לכל היותר?

לשאלה הזו אין כרגע תשובה, אבל להלן מספר רמזים העשויים להאיר מעט על התעלומה:

1. מאז יוני 2018 גוגל משתפת פעולה עם גוף מחקר מוביל בנושא בינה מלאכותית באוניברסיטת צינג-חואה, שהיא מוסד אקדמי יוקרתי בסין. הגוף נקרא Tsinghua University Institute for Artificial Intelligence (TUIFAI) והוא מבצע מחקר בנושא בינה מלאכותית גם עבור צבא סין.

2. מאז יולי 2018 גוגל משתפת פעולה גם עם מעבדה לבינה מלאכותית באוניברסיטת פודן (Fudan) הנמצאת בשנגחאי.

3. באותה שנה הופנו חיצי ביקורת נגד גוגל לאחר שהתגלה כי היא פיתחה בחשאי אפליקציית חיפוש מצונזרת עבור השוק הסיני, כחלק מפרויקט שכונה “Dragonfly”. לפי מידע פנימי שהודלף לאתר The Intercept, האפליקציה תוכננה כדי לקשר בין היסטוריית החיפושים של המשתמש ובין מספר הטלפון הנייד שלו – דבר היכול בקלות לאפשר למשטר הסיני לטרגט אנשים. עורכי דין, פעילי זכויות אדם ואפילו עובדים בגוגל דיברו נגד הפרויקט, שככל הנראה הוקפא מאז.

4. ביולי 2019 נאם המשקיע המיליארדר פיטר תיל בוועידת הקונסרבטיבים הלאומית בוושינגטון. תיל, שבין שלל עיסוקיו גם יושב בחבר המנהלים של פייסבוק (בדירקטוריון), אמר כי צריך לחקור את גוגל על “החלטתה הבוגדנית לעבוד עם הצבא הסיני” (גוגל דחתה את הטענות שהיא עובדת עם צבא סין). בריאיון לרשת פוקס ניוז רמז תיל כי פרויקט הבינה המלאכותית של גוגל DeepMind היה נתון להשפעות זרות. “משרד הביטחון הסיני ככל הנראה הסתנן לגוגל. אני חושב שהנהלת גוגל קיבלה מעין החלטה לאפשר לתוכנה (DeepMind) לצאת (להימכר, פ”ס) מהדלת הקדמית או לחילופין לאפשר להם לגנוב אותה מהדלת האחורית”.

5. למעשה הרבה קודם לכן, בין 2006 ל-2010, הריצה גוגל גרסה מצונזרת של מנוע החיפוש שלה בסין. היא עזבה את המדינה רק לאחר שלטענתה הופעלו נגדה מתקפות סייבר מתוך סין.

6. המפלגה הקומוניסטית הסינית מפעילה את מערכת הצנזורה על האינטרנט המתקדמת בעולם. היא גם מעסיקה עשרות אלפי אנשים שמוחקים ידנית תוכן וכותבים תגובות חיוביות או שליליות על פי הנחיות המשטר.

7. מנכ”ל גוגל סונדאר פיצ’אי אמר כי החברה השקיעה בסין במשך שנים רבות והיא מתכננת להמשיך לעשות זאת.

כל זה, כמובן, מידע כללי בלבד היכול לשמש קצה חוט להמשך חקירה. כך שהתעלומה נותרה, בינתיים, בלתי פתורה. 


פיטר סוואב כותב בעיתון אפוק טיימס בניו יורק

שתפו את הכתבה:

כיצד נכנס אלגוריתם צנזורה סיני ליוטיוב?

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים…

פיטר סוואב | 9 ביוני 2020 | דעות | 3 דק׳

תמונה: shutterstock

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים (לא משנה איזה סרטון) שמופיעים בהם ביטויים מסוימים בסינית. אילו ביטויים? כאלו המשמשים לבקר את המפלגה הקומוניסטית הסינית (המק”ס). בכל פעם שכתבתי את “הביטוי האסור” בתגובות, נמחקה התגובה שלי בתוך שניות ספורות עד 20 שניות לכל היותר – דבר המרמז שאלגוריתם אוטומטי מוחק זאת.

אחד הביטויים שרשמתי כתגובה לסרטון, לא משנה בכלל איזה סרטון, הוא 共匪 (גונג-פֵיי בסינית) שמשמעותו “שודדים קומוניסטים”. ביטוי נוסף הוא 五毛 (וו-מָאוֹ בסינית) שמשמעותו “חמישים סנט” – ביטוי המתאר את צבא הטרולים האינטרנטי שהמשטר הסיני מפעיל כדי להפיץ את התעמולה שלו ברשת. לפי דיווחים, הטרולים הסינים מקבלים חמישים סנט עבור כל תגובה שהם רושמים, המציגה באור חיובי את המשטר. כאמור, לא משנה מאיזה חשבון יוטיוב כתבתי את זה, זה נמחק מיד.

ניסויים נוספים שערכתי הראו שיוטיוב אינה מוחקת ביטויים דומים שרושמים באנגלית ואפילו לא קללות. יוטיוב מאפשרת לקלל חופשי. אבל לכתוב “שודדים קומוניסטים” בסינית (共匪)? זה לא.

פניתי לאחד הדוברים של גוגל בארה”ב (הבעלים של יוטיוב). בתגובה הוא ביקש שאשלח לו עדויות למחיקות. כמובן סיפקתי לו את העדויות, כולל לינקים לסרטוני יוטיוב שבהן נמחקו התגובות ואפילו סרטוני וידאו המנציחים את הרגע שבו נמחקת התגובה בזמן אמת. הדובר לא חזר אליי, אבל גורם אחר בחברה, שביקש לא להזדהות בשמו, אמר לי כי גוגל אינה מכירה בכלל באופציה של מחיקה אוטומטית של תגובות. זה לא קיים אצלה. עם זאת, ידוע שיוטיוב יכולה לצנזר או למחוק תוכן, כולל תגובות, כאשר אלה אינם מתאימים למדיניות הקהילה שלה. האם מדיניות הקהילה של יוטיוב כוללת מילים בסינית? לא. למעשה היא לא כוללת רשימת מילים כלל. וכדי שיוטיוב תמחק תגובה שאינה תואמת למדיניות הקהילה שלה – משתמש כלשהו צריך להתלונן על התגובה ואז אדם ביוטיוב צריך לבדוק אותה.

בעקבות הבדיקה שביצעתי פורסם מאמר על הנושא באתר החדשות הטכנולוגיות The Verge ובאתר החדשות Business Insider ובהמשך באתר הגארדיאן ובאתרים נוספים. דובר גוגל אמר לאתרים כי הנושא בבדיקה.

בסוף מאי החלטתי לבדוק זאת שוב. הקלדתי את הביטויים, והפלא ופלא, הצנזורה המביכה ביוטיוב לפתע הופסקה. אבל השאלה הגדולה נותרה בלתי פתורה – כיצד הצליח אלגוריתם צנזורה סיני להשתחל לקוד של יוטיוב ולמחוק ביטויים בסינית המבקרים את המפלגה הקומוניסטית הסינית בתוך 20 שניות לכל היותר?

לשאלה הזו אין כרגע תשובה, אבל להלן מספר רמזים העשויים להאיר מעט על התעלומה:

1. מאז יוני 2018 גוגל משתפת פעולה עם גוף מחקר מוביל בנושא בינה מלאכותית באוניברסיטת צינג-חואה, שהיא מוסד אקדמי יוקרתי בסין. הגוף נקרא Tsinghua University Institute for Artificial Intelligence (TUIFAI) והוא מבצע מחקר בנושא בינה מלאכותית גם עבור צבא סין.

2. מאז יולי 2018 גוגל משתפת פעולה גם עם מעבדה לבינה מלאכותית באוניברסיטת פודן (Fudan) הנמצאת בשנגחאי.

3. באותה שנה הופנו חיצי ביקורת נגד גוגל לאחר שהתגלה כי היא פיתחה בחשאי אפליקציית חיפוש מצונזרת עבור השוק הסיני, כחלק מפרויקט שכונה “Dragonfly”. לפי מידע פנימי שהודלף לאתר The Intercept, האפליקציה תוכננה כדי לקשר בין היסטוריית החיפושים של המשתמש ובין מספר הטלפון הנייד שלו – דבר היכול בקלות לאפשר למשטר הסיני לטרגט אנשים. עורכי דין, פעילי זכויות אדם ואפילו עובדים בגוגל דיברו נגד הפרויקט, שככל הנראה הוקפא מאז.

4. ביולי 2019 נאם המשקיע המיליארדר פיטר תיל בוועידת הקונסרבטיבים הלאומית בוושינגטון. תיל, שבין שלל עיסוקיו גם יושב בחבר המנהלים של פייסבוק (בדירקטוריון), אמר כי צריך לחקור את גוגל על “החלטתה הבוגדנית לעבוד עם הצבא הסיני” (גוגל דחתה את הטענות שהיא עובדת עם צבא סין). בריאיון לרשת פוקס ניוז רמז תיל כי פרויקט הבינה המלאכותית של גוגל DeepMind היה נתון להשפעות זרות. “משרד הביטחון הסיני ככל הנראה הסתנן לגוגל. אני חושב שהנהלת גוגל קיבלה מעין החלטה לאפשר לתוכנה (DeepMind) לצאת (להימכר, פ”ס) מהדלת הקדמית או לחילופין לאפשר להם לגנוב אותה מהדלת האחורית”.

5. למעשה הרבה קודם לכן, בין 2006 ל-2010, הריצה גוגל גרסה מצונזרת של מנוע החיפוש שלה בסין. היא עזבה את המדינה רק לאחר שלטענתה הופעלו נגדה מתקפות סייבר מתוך סין.

6. המפלגה הקומוניסטית הסינית מפעילה את מערכת הצנזורה על האינטרנט המתקדמת בעולם. היא גם מעסיקה עשרות אלפי אנשים שמוחקים ידנית תוכן וכותבים תגובות חיוביות או שליליות על פי הנחיות המשטר.

7. מנכ”ל גוגל סונדאר פיצ’אי אמר כי החברה השקיעה בסין במשך שנים רבות והיא מתכננת להמשיך לעשות זאת.

כל זה, כמובן, מידע כללי בלבד היכול לשמש קצה חוט להמשך חקירה. כך שהתעלומה נותרה, בינתיים, בלתי פתורה. 


פיטר סוואב כותב בעיתון אפוק טיימס בניו יורק

שתפו את הכתבה:

כתבות נוספות שעשויות לעניין אותך
למה לקרוא ספרות קלאסית? ג’יין אוסטין מסבירה

מאיה מזרחי

ויליאם דרסיוויץ בן ה-26 היה צעיר טיפוסי וטיפש כבני גילו כשפגש לראשונה את האישה ששינתה את חייו. העובדה שהיא הלכה...

צעד גדול לשוורצנגר, צעד קטן למוסר

ווסלי ג'יי סמית

בשנת 1994 נודע כי לא רחוק היום בו המדע המודרני ימצא דרך להכניס גבר להיריון. הרחם, שהיה מאפיין נשי ייחודי לאורך כל ההיסטוריה,...

למרות הלחץ הפוליטי – שחררו את הילדים שלנו מהמהפכה

איל לוינטר

בסוף מאי השנה הונחה על שולחן הכנסת הצעת חוק לקיום "סדנאות הכשרה" לשוויון מגדרי בגיל הרך (גיל גן). מטרתו המוצהרת של...

כולנו עומדים למות, אבל האם ממשבר האקלים?

עידן לוי

מהו האיום הגדול ביותר על האנושות? מלחמה גרעינית? פגיעת אסטרואיד? מגפה קטלנית? אם הייתם שואלים אדם מהרחוב, בייחוד אם הוא צעיר,...

איך להיות קשה כמו יהלום וגמיש כמו קנה סוף

ד"ר משה רט

דמיינו לעצמכם את האיש או האישה הכי חיוביים שאתם יכולים: אדם מלא באופטימיות, שמחת חיים ואהבת הבריות, תמיד מאיר פנים ומחייך,...

מדינת ישראל צריכה ללמוד מהצרפתים ולעצור את הטבח בשפה העברית

מאיה מזרחי

אומרים ש"עברית שפה קשה", אבל אנשים שאומרים את זה כנראה לא למדו מעולם צרפתית. בצרפתית לא רק שיש הרבה יותר...

מדוע גברים אוהבים לצפות בסרטים על רוצחים שכירים?

מארק ג'קסון

כאשר שוורצנגר אמר "אני אחזור" (I’ll be back) בסרט הראשון בסדרת "שליחות קטלנית", שיצא לאקרנים ב-1984, הוא לא התלוצץ. הוא חזר...

למה לא כל אחד יכול להיות משורר

ג'יימס סייל

המדינאי הבריטי לורד צ'סטרפילד אמר פעם: "אני בטוח מאוד שכל אדם בעל הבנה ממוצעת עשוי, באמצעות תרבות, תשומת לב ועבודה קשה, להפוך לכל אשר...

שתפו: