הרובוטים המפלצתיים מפטרלים ברחובות לסריקה שגרתית, סורקים אדם אחרי אדם ומחפשים איומים. ״זרוק את הנשק״, קוראת המכונה אל עבר חשוד שאוחז סכין בידו. החשוד לא נענה לדרישה, והרובוט פותח באש ומחסל את החשוד.

האם זה עדיין מדע בדיוני? מבחינת ההתקדמות הטכנולוגית, כבר לא לחלוטין. אבל האם אנחנו בשלים לתת לרובוטים את הסמכות לקבל החלטה להרוג חיים? לא בטוח. בעצם, תלוי את מי שואלים. מבחינת רוסיה התשובה היא דווקא כן.  רוסיה מתכננת להציב רובוטים שישמרו על מתקני הטילים שלה עוד השנה. הרובוטים יוכלו לסייר בשטח, לזהות מטרות ולחסל אותן באופן אוטומטי, כפי שהתפרסם בסוכנות הידיעות הרוסית הממשלתית RIA Novosti.

רובוט של הקמפיין נגד קילר-רובוטס מחלק חומרי הסברה. צילום: Oli Scarff/Getty Images, Cluster Munition Coalition

 גם ארה”ב מנסה לפתח יותר ויותר אמצעי לחימה בלתי מאוישים. בארה”ב הוציאו בשנים האחרונות כ-6 מיליארד דולר בשנה על מחקר, פיתוח, רכש, מבצעים ותחזוקה של מערכות לוחמה בלתי מאוישות. מערכות לוחמה אוטונומיות לחלוטין, שאינן דורשות התערבות אנושית כדי לפתוח באש, גם הן כבר נמצאות בשימוש בצבא ארה”ב, כמו מערכת ה-Phalanx המיירטת באופן אוטומטי טילים נגד ספינות.

אבל כשמדובר בכלי נשק שהורג אנשים, בארה”ב העיקרון המנחה כיום הוא שבן אנוש חייב להיות במעגל קבלת ההחלטות לפני שימוש בכוח קטלני. כלומר, רובוט לא יכול להרוג אדם בכוחות עצמו. חייב להיות שם בן אדם שנותן את הפקודה.

אבל האם תמיד ימשיך להיות שם בן אדם שמקבל את ההחלטות? לא בטוח. מדענים ברחבי העולם עובדים על פיתוח רובוטים עם אלגוריתמים מתקדמים שיוכלו לקבל הכרעות בסוגיות אתיות ולהחליט האם לפתוח באש באופן אוטונומי.

האם הרובוטים האלה יוכלו להחליף את החיילים בשטח? מה עלול לקרות במקרה של תקלה במערכות כאלה? והאם תכנון לקוי של מערכות בינה מלאכותית שכאלה עלול לגרום לנשק האוטונומי לתקוף את יוצריו?