הרשמה לניוזלטר

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים…

פיטר סוואב | 9 ביוני 2020 | דעות | 4 דק׳

כיצד נכנס אלגוריתם צנזורה סיני ליוטיוב?

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים (לא משנה איזה סרטון) שמופיעים בהם ביטויים מסוימים בסינית. אילו ביטויים? כאלו המשמשים לבקר את המפלגה הקומוניסטית הסינית (המק”ס). בכל פעם שכתבתי את “הביטוי האסור” בתגובות, נמחקה התגובה שלי בתוך שניות ספורות עד 20 שניות לכל היותר – דבר המרמז שאלגוריתם אוטומטי מוחק זאת.

אחד הביטויים שרשמתי כתגובה לסרטון, לא משנה בכלל איזה סרטון, הוא 共匪 (גונג-פֵיי בסינית) שמשמעותו “שודדים קומוניסטים”. ביטוי נוסף הוא 五毛 (וו-מָאוֹ בסינית) שמשמעותו “חמישים סנט” – ביטוי המתאר את צבא הטרולים האינטרנטי שהמשטר הסיני מפעיל כדי להפיץ את התעמולה שלו ברשת. לפי דיווחים, הטרולים הסינים מקבלים חמישים סנט עבור כל תגובה שהם רושמים, המציגה באור חיובי את המשטר. כאמור, לא משנה מאיזה חשבון יוטיוב כתבתי את זה, זה נמחק מיד.

ניסויים נוספים שערכתי הראו שיוטיוב אינה מוחקת ביטויים דומים שרושמים באנגלית ואפילו לא קללות. יוטיוב מאפשרת לקלל חופשי. אבל לכתוב “שודדים קומוניסטים” בסינית (共匪)? זה לא.

פניתי לאחד הדוברים של גוגל בארה”ב (הבעלים של יוטיוב). בתגובה הוא ביקש שאשלח לו עדויות למחיקות. כמובן סיפקתי לו את העדויות, כולל לינקים לסרטוני יוטיוב שבהן נמחקו התגובות ואפילו סרטוני וידאו המנציחים את הרגע שבו נמחקת התגובה בזמן אמת. הדובר לא חזר אליי, אבל גורם אחר בחברה, שביקש לא להזדהות בשמו, אמר לי כי גוגל אינה מכירה בכלל באופציה של מחיקה אוטומטית של תגובות. זה לא קיים אצלה. עם זאת, ידוע שיוטיוב יכולה לצנזר או למחוק תוכן, כולל תגובות, כאשר אלה אינם מתאימים למדיניות הקהילה שלה. האם מדיניות הקהילה של יוטיוב כוללת מילים בסינית? לא. למעשה היא לא כוללת רשימת מילים כלל. וכדי שיוטיוב תמחק תגובה שאינה תואמת למדיניות הקהילה שלה – משתמש כלשהו צריך להתלונן על התגובה ואז אדם ביוטיוב צריך לבדוק אותה.

בעקבות הבדיקה שביצעתי פורסם מאמר על הנושא באתר החדשות הטכנולוגיות The Verge ובאתר החדשות Business Insider ובהמשך באתר הגארדיאן ובאתרים נוספים. דובר גוגל אמר לאתרים כי הנושא בבדיקה.

בסוף מאי החלטתי לבדוק זאת שוב. הקלדתי את הביטויים, והפלא ופלא, הצנזורה המביכה ביוטיוב לפתע הופסקה. אבל השאלה הגדולה נותרה בלתי פתורה – כיצד הצליח אלגוריתם צנזורה סיני להשתחל לקוד של יוטיוב ולמחוק ביטויים בסינית המבקרים את המפלגה הקומוניסטית הסינית בתוך 20 שניות לכל היותר?

לשאלה הזו אין כרגע תשובה, אבל להלן מספר רמזים העשויים להאיר מעט על התעלומה:

1. מאז יוני 2018 גוגל משתפת פעולה עם גוף מחקר מוביל בנושא בינה מלאכותית באוניברסיטת צינג-חואה, שהיא מוסד אקדמי יוקרתי בסין. הגוף נקרא Tsinghua University Institute for Artificial Intelligence (TUIFAI) והוא מבצע מחקר בנושא בינה מלאכותית גם עבור צבא סין.

2. מאז יולי 2018 גוגל משתפת פעולה גם עם מעבדה לבינה מלאכותית באוניברסיטת פודן (Fudan) הנמצאת בשנגחאי.

3. באותה שנה הופנו חיצי ביקורת נגד גוגל לאחר שהתגלה כי היא פיתחה בחשאי אפליקציית חיפוש מצונזרת עבור השוק הסיני, כחלק מפרויקט שכונה “Dragonfly”. לפי מידע פנימי שהודלף לאתר The Intercept, האפליקציה תוכננה כדי לקשר בין היסטוריית החיפושים של המשתמש ובין מספר הטלפון הנייד שלו – דבר היכול בקלות לאפשר למשטר הסיני לטרגט אנשים. עורכי דין, פעילי זכויות אדם ואפילו עובדים בגוגל דיברו נגד הפרויקט, שככל הנראה הוקפא מאז.

4. ביולי 2019 נאם המשקיע המיליארדר פיטר תיל בוועידת הקונסרבטיבים הלאומית בוושינגטון. תיל, שבין שלל עיסוקיו גם יושב בחבר המנהלים של פייסבוק (בדירקטוריון), אמר כי צריך לחקור את גוגל על “החלטתה הבוגדנית לעבוד עם הצבא הסיני” (גוגל דחתה את הטענות שהיא עובדת עם צבא סין). בריאיון לרשת פוקס ניוז רמז תיל כי פרויקט הבינה המלאכותית של גוגל DeepMind היה נתון להשפעות זרות. “משרד הביטחון הסיני ככל הנראה הסתנן לגוגל. אני חושב שהנהלת גוגל קיבלה מעין החלטה לאפשר לתוכנה (DeepMind) לצאת (להימכר, פ”ס) מהדלת הקדמית או לחילופין לאפשר להם לגנוב אותה מהדלת האחורית”.

5. למעשה הרבה קודם לכן, בין 2006 ל-2010, הריצה גוגל גרסה מצונזרת של מנוע החיפוש שלה בסין. היא עזבה את המדינה רק לאחר שלטענתה הופעלו נגדה מתקפות סייבר מתוך סין.

6. המפלגה הקומוניסטית הסינית מפעילה את מערכת הצנזורה על האינטרנט המתקדמת בעולם. היא גם מעסיקה עשרות אלפי אנשים שמוחקים ידנית תוכן וכותבים תגובות חיוביות או שליליות על פי הנחיות המשטר.

7. מנכ”ל גוגל סונדאר פיצ’אי אמר כי החברה השקיעה בסין במשך שנים רבות והיא מתכננת להמשיך לעשות זאת.

כל זה, כמובן, מידע כללי בלבד היכול לשמש קצה חוט להמשך חקירה. כך שהתעלומה נותרה, בינתיים, בלתי פתורה. 


פיטר סוואב כותב בעיתון אפוק טיימס בניו יורק

שתפו את הכתבה:

כתבות נוספות שעשויות לעניין אותך
נשימה: המדע החדש של האמנות העתיקה שאבדה

רקפת תבור

ג'יימס נסטור, עיתונאי וסופר המתמקד בנושאים מדעיים, עבר לפני מספר שנים תקופה מאתגרת. במשך שנתיים וחצי לקה...

על אנושיים: המדע שחושף כיצד מדיטציה משנה את המחשבה והגוף

רקפת תבור

בבוקר סתווי אחד ב-2002 נחתה בשדה התעופה האזורי של מחוז דיין בוויסקונסין שבארה"ב טיסה שהגיעה...

הגולאג הדיגיטלי של גוגל

דינה גורדון

מייקל רקטנוואלד (Rectenwald) הורחק לסמסטר שלם ממשרתו כפרופסור בפקולטה למדעי הרוח והחברה באוניברסיטת ניו יורק. הסיבה להרחקה הייתה...

מבט מבפנים על השתלטות סין על הוליווד

יאן יקיאלק

הוליווד היא מפעל החלומות של אמריקה ושל העולם כולו. היא מעצבת את הדמיון שלנו, יוצרת קרקע משותפת לדיון על העבר...

הכוח המסתורי שאומר לכם איך לחשוב ומה לומר

איל לוינטר

בתחילת פברואר, כאשר עלה החשש כי מגפת הקורונה עלולה להגיע לאיטליה, הועלתה האפשרות להכניס לבידוד סינים שהגיעו...

התחום האפור של ההתחממות הגלובלית

איל לוינטר

ב-7 באוקטובר 1912 נודע לעולם שעליו להתכונן לקטסטרופה. עיתון הלוס אנג'לס טיימס הזהיר את קוראיו כי כדור הארץ נכנס...

מדעי השכנוע

דינה גורדון

ג׳ ים הלך לסידורים בעיר ניו יורק ופתאום רעב תקף אותו. הוא הסתכל לצדדים וראה בזווית העין מקום קטן שמוכר נקניקיות – "מעולה, אלך לשם", חשב. הוא נכנס...

תיאוריית ההתנוונות של דארווין

רקפת תבור

דובי הקוטב נחשבים לטורפים היבשתיים הגדולים בעולם. הפרווה הלבנה, שממרחק נראית כמעט שקופה, מסייעת להם להסתוות בקרח. פרופ' ג'ון...

שתפו: