הפשע בעיר דטרויט יוצא מכלל שליטה. כנופיות חמושות משתלטות על הרחובות ולמשטרה אין תשובה. כיוון שלא רבים רוצים להיות שוטרים ולהתמודד עם האלימות הקשה, סוכנות אכיפת החוק בעיר סובלת ממחסור בכוח אדם. אך כל זה עומד להשתנות בקרוב, כאשר לתמונה ייכנס כוח שיטור מיוחד – רובוטים בעלי בינה מלאכותית המסוגלים להפעיל כוח אש מול פושעים. שני דגמים עומדים על הפרק: רובוט צבאי חמוש בכבדות מדגם ED-209; ורובוקופ ("רובוט-שוטר"), סייבורג החמוש באמצעים טכנולוגיים ובאקדח רב עוצמה.

"רובוקופ" יצא לאקרנים ב-1987 ותיאר עתיד רחוק, דמיוני ודיסטופי – כזה שלעולם לא יתרחש. לפחות כך חשבנו. מי שיגלוש היום באינטרנט יראה סרטונים רבים של "רובוטים-שוטרים" המפותחים על ידי מדענים ומהנדסים בכל רחבי ארה"ב. יש סרטונים בהם הרובוטים מזהים מטרות, יורים בנשק חם, קופצים מעל מכשולים, נלחמים נגד תוקפים, קמים לאחר שנופלים וכן הלאה. הרובוטים מפותחים בכל מיני צורות וגדלים, כולל דמויי אדם (הוּמָנוֹאִיד), או רובוטים הנראים כמו כלבים וגם כאלה הנראים כמו טנקים, המזכירים את ED-209.

ב-2021 העביר בית המחוקקים של מדינת קליפורניה את חוק 481. החוק החדש מחייב את כל מחלקות המשטרה במדינה לערוך בדיקת מלאי של כלי הנשק הצבאיים שברשותם, ולקבוע הנחיות ספציפיות כיצד השוטרים רשאים להשתמש בהם. נוסף על כך, החוק מחייב את אגפי המשטרה השונים להגיש את המסמכים (בדיקות המלאי והנחיות הביצוע) לאישור מדי שנה, כדי שיוכלו להמשיך להשתמש בציוד.

לכן ב-29 בנובמבר 2022 התכנסה מועצת המפקחים של סן פרנסיסקו (הרשות המחוקקת) כדי לאשר באמצעות הצבעה את מדיניות הציוד של משטרת סן פרנסיסקו. המדיניות ברובה הייתה סטנדרטית למדי, למעט היבט חשוב אחד הקובע כי המשטרה רשאית להשתמש במה שמכונה "רובוטים הנשלטים בבקרה אנושית" (Human controlled robots), שלחלקם היכולת להשתמש בכוח קטלני. למעשה, על פי בדיקת המלאי ששלחה משטרת סן פרנסיסקו, יש לה כבר 17 רובוטים כאלה. רובם נועדו לערוך סיורים, לסלק פצצות וכדומה, אבל כולם, אפילו אלה הנראים די תמימים, יכולים גם לשאת חומרי נפץ ולהפוך לנשק התקפי. כלומר, על אף שהם קטנים יחסית ונראים לא מפחידים במיוחד, הם מסוגלים לירות ברובים ולשמש את המשטרה כדי להרוג.

לשון המדיניות קבעה כי "הרובוטים המפורטים בסעיף זה לא ינוצלו מלבד למטרות אימון וסימולציות, מעצרים פליליים, אירועים קריטיים, נסיבות חירום, ביצוע צו מעצר או חיפוש, או במהלך בדיקת חפצים חשודים ואמצעי חבלה". ניסוח רחב המכסה כמעט הכול – מהכשרה ועד לתפיסת פושעים ואפילו לביצוע צו מעצר או צו חיפוש. בהמשך מפרטת המדיניות כי הרובוטים לא ישתמשו בכוח קטלני, אלא אם הדבר נחוץ לחלוטין: "רובוטים ישמשו ככוח קטלני אך ורק כאשר קיים סיכון ממשי ומיידי לאובדן חיים של אזרחים או שוטרים, והוא עולה על כל אפשרות אחרת של הפעלת כוח העומדת לרשות משטרת סן פרנסיסקו".

כשארון פסקין (Aaron Peskin), יו"ר הוועדה האחראית לאישור המדיניות, סקר את גרסת הטיוטה ושלח אותה למועצה המחוקקת להצבעה מלאה, הוא ניסה להגביל את סמכות המשטרה באמצעות תוספת של המשפט הקטן הבא: "רובוטים לא ישמשו לצורך הפעלת כוח נגד אדם כלשהו". פסקין רצה להגביל במפורש את השימוש ברובוטים קטלניים. אבל שבוע לאחר שניסה להוסיף את המשפט, הצעתו נמחקה והוחלפה במילים המתירות למשטרה להשתמש ברובוטים קטלניים. זו הייתה הגרסה הסופית שאושרה בהצבעה.

את תושבי סן פרנסיסקו זה הטריד והם יצאו להפגין. בעקבות הלחץ הציבורי הבהירה המשטרה לציבור שאין בידיה רובוטים חמושים, ושאין לה תוכנית עתידית לחמש רובוטים בנשק חם. עם זאת, הוסיפה המשטרה, היא תוכל לשלוח רובוטים המצוידים במטעני נפץ כדי "לבוא במגע עם חשודים אלימים, חמושים או מסוכנים, במטרה לנטרל או לבלבל אותם". למעשה תרחיש כזה כבר קרה, לא בסן פרנסיסקו, אלא במקומות אחרים. לדוגמה, ב-2016 חיברה משטרת דאלאס לאחד הרובוטים שלה חומר נפץ פלסטי ושלחה אותו כדי לפוצץ אדם שביצע ירי המוני והתבצר ברחוב. אחד השוטרים שהתראיין לטלוויזיה אמר: "המשא ומתן נכשל. היו לנו חילופי אש עם החשוד. לא ראינו כל אפשרות אחרת".

אפשר לומר שזה היה רגע מכונן – הפעם הראשונה בה כוח משטרה אמריקני משתמש ברובוט כדי להרוג חשוד. היום כבר אפשר להרגיש בעצמות שזה רק עניין של זמן עד שהטכנולוגיה תתפתח מספיק כדי שרובוטים יצטרפו באופן רשמי לכוחות השיטור ונשמע על חיסולים דומים נוספים. תדמיינו את התרחיש הבא: אתם מפקחים במשטרה כשלפתע יש מצב מסוכן – אדם מתחיל לירות בלב קניון. מטבע הדברים תרצו לחסל את האיום ולהציל את האזרחים. אלא שאתם תוהים אם שווה לכם לסכן את ביטחון השוטרים. החשבון פשוט למדי – אתם יכולים לשלוח רובוט שיבצע את המשימה, או לשלוח את אנשיכם שאולי ייהרגו בתהליך.

אבל הנה הבעיה, והיא ברורה לכל מי שלמד אי פעם היסטוריה. ממשלות וסוכנויות ממשל נוטות על פי רוב להחזיק בכוח שניתן להם, ואף להרחיב אותו. ככלל אצבע, כל מה שמותר לממשלה לעשות היום יוכל להתרחב פי 100 תוך כמה עשורים. לכן, אם יתחילו להשתמש ברובוטים קטלניים היום, בעוד 20 שנה, כשיהיו בשירות המשטרה רובוטים עם בינה מלאכותית היכולים להחליף החלטה אנושית, מה יקרה אז?

לא מן הנמנע שרובוטים כאלה ישתלטו גם על סוגים אחרים של אינטראקציות משטרתיות, מכיוון שרבות מהאינטראקציות המשטרתיות מסוכנות מטבען. וכך, במקום ששוטר אנושי יעצור רכב חשוד או רכב שביצע עבירת תנועה, דבר שבימינו יכול להתפתח לאלימות או בארה"ב אף לקרב יריות, יישלח רובוט שינפיק דוחות תנועה או אזהרות. ניתן יהיה להצדיק את זה בקלות – זה מציל את חייהם של עשרות שוטרים מדי שנה.

כמובן, אין המדובר רק ברובוטים המתניידים על הקרקע. אם לרובוטים מורשה כבר היום להשתמש בכוח קטלני, כמה זמן יעבור עד שרשויות החוק ישתמשו במזל"טים לאותה מטרה? אחרי הכול ראינו דוגמאות רבות של פיתוחים צבאיים המבצעים בדיוק את זה. כבר היום ניתן ליצור נחילים של מזל"טים קטלניים המופעלים באמצעות בינה מלאכותית. אילון מאסק הביע לאחרונה חשש שמזל"טים כאלה ישמשו לצורך חיסולים ממוקדים. "אפשר לייצר נחיל של מזל"טים קטלניים במעט מאוד כסף, על ידי שימוש בשבב זיהוי הפנים המשמש בטלפונים סלולריים, חיבורו למזל"טים סטנדרטיים הנושאים מעט חומר נפץ, ואז לתת להם לסרוק את הבניין עד שימצאו את המטרה, יטוסו לעברה ויתפוצצו. ניתן לייצר זאת כבר עכשיו, אין צורך לפתח עוד טכנולוגיה חדשה לשם כך".

בינתיים, עקב ההתנגדות הציבורית העזה, מועצת המפקחים של סן פרנסיסקו שינתה כיוון: נערכה הצבעה נוספת, והוחלט פה אחד לאסור שימוש ברובוטים קטלניים. אבל הנושא לא נפתר. מועצת המפקחים שלחה את הנושא בחזרה לוועדה לדיון נוסף. לאחר שהדיון יסתיים תיערך הצבעה נוספת. כך גולגלה הבעיה להמשך הדרך.

---

רומן בלמקוב הוא כתב עיתון האפוק טיימס בארה"ב, ומנחה התוכנית Facts Matter ביוטיוב

***

מעורר מחשבה? לתגובות ומחשבות ניתן לכתוב לנו ל: [email protected]

מעורר מחשבה? לתגובות ומחשבות ניתן לכתוב לנו ל:
לחץ כאן