כניסה
הרשמה לניוזלטר

ברחבי העולם מפתחים רובוטים שיוכלו לפתוח באש ולהרוג ללא התערבות אדם. מי מתנגד לזה ומה הסיכוי שהרובוטים האלה יחליטו יום אחד לתקוף גם אותנו?

בן קמינסקי | 14 באוגוסט 2014 | מדע וטכנולוגיה | 2 דק׳

דרוש רובוט שלא יורה מהמותן

הרובוטים המפלצתיים מפטרלים ברחובות לסריקה שגרתית, סורקים אדם אחרי אדם ומחפשים איומים. ״זרוק את הנשק״, קוראת המכונה אל עבר חשוד שאוחז סכין בידו. החשוד לא נענה לדרישה, והרובוט פותח באש ומחסל את החשוד.

האם זה עדיין מדע בדיוני? מבחינת ההתקדמות הטכנולוגית, כבר לא לחלוטין. אבל האם אנחנו בשלים לתת לרובוטים את הסמכות לקבל החלטה להרוג חיים? לא בטוח. בעצם, תלוי את מי שואלים. מבחינת רוסיה התשובה היא דווקא כן.  רוסיה מתכננת להציב רובוטים שישמרו על מתקני הטילים שלה עוד השנה. הרובוטים יוכלו לסייר בשטח, לזהות מטרות ולחסל אותן באופן אוטומטי, כפי שהתפרסם בסוכנות הידיעות הרוסית הממשלתית RIA Novosti.

רובוט של הקמפיין נגד קילר-רובוטס מחלק חומרי הסברה. צילום: Oli Scarff/Getty Images, Cluster Munition Coalition

 גם ארה”ב מנסה לפתח יותר ויותר אמצעי לחימה בלתי מאוישים. בארה”ב הוציאו בשנים האחרונות כ-6 מיליארד דולר בשנה על מחקר, פיתוח, רכש, מבצעים ותחזוקה של מערכות לוחמה בלתי מאוישות. מערכות לוחמה אוטונומיות לחלוטין, שאינן דורשות התערבות אנושית כדי לפתוח באש, גם הן כבר נמצאות בשימוש בצבא ארה”ב, כמו מערכת ה-Phalanx המיירטת באופן אוטומטי טילים נגד ספינות.

אבל כשמדובר בכלי נשק שהורג אנשים, בארה”ב העיקרון המנחה כיום הוא שבן אנוש חייב להיות במעגל קבלת ההחלטות לפני שימוש בכוח קטלני. כלומר, רובוט לא יכול להרוג אדם בכוחות עצמו. חייב להיות שם בן אדם שנותן את הפקודה.

אבל האם תמיד ימשיך להיות שם בן אדם שמקבל את ההחלטות? לא בטוח. מדענים ברחבי העולם עובדים על פיתוח רובוטים עם אלגוריתמים מתקדמים שיוכלו לקבל הכרעות בסוגיות אתיות ולהחליט האם לפתוח באש באופן אוטונומי.

האם הרובוטים האלה יוכלו להחליף את החיילים בשטח? מה עלול לקרות במקרה של תקלה במערכות כאלה? והאם תכנון לקוי של מערכות בינה מלאכותית שכאלה עלול לגרום לנשק האוטונומי לתקוף את יוצריו?

דרוש רובוט שלא יורה מהמותן

ברחבי העולם מפתחים רובוטים שיוכלו לפתוח באש ולהרוג ללא התערבות אדם. מי מתנגד לזה ומה הסיכוי שהרובוטים האלה יחליטו יום אחד לתקוף גם אותנו?

בן קמינסקי | 14 באוגוסט 2014 | מדע וטכנולוגיה | 4 דק׳

רובוט נייח דרום קוריאני של סמסונג שומר על האזור המפורז בין הדרום לצפון ומסוגל לאתר איומים, לכוון ולפתוח באש במידת הצורך. צילום: Kim Dong-Joo/AFP/Getty Images

הרובוטים המפלצתיים מפטרלים ברחובות לסריקה שגרתית, סורקים אדם אחרי אדם ומחפשים איומים. ״זרוק את הנשק״, קוראת המכונה אל עבר חשוד שאוחז סכין בידו. החשוד לא נענה לדרישה, והרובוט פותח באש ומחסל את החשוד.

האם זה עדיין מדע בדיוני? מבחינת ההתקדמות הטכנולוגית, כבר לא לחלוטין. אבל האם אנחנו בשלים לתת לרובוטים את הסמכות לקבל החלטה להרוג חיים? לא בטוח. בעצם, תלוי את מי שואלים. מבחינת רוסיה התשובה היא דווקא כן.  רוסיה מתכננת להציב רובוטים שישמרו על מתקני הטילים שלה עוד השנה. הרובוטים יוכלו לסייר בשטח, לזהות מטרות ולחסל אותן באופן אוטומטי, כפי שהתפרסם בסוכנות הידיעות הרוסית הממשלתית RIA Novosti.

רובוט של הקמפיין נגד קילר-רובוטס מחלק חומרי הסברה. צילום: Oli Scarff/Getty Images, Cluster Munition Coalition

 גם ארה”ב מנסה לפתח יותר ויותר אמצעי לחימה בלתי מאוישים. בארה”ב הוציאו בשנים האחרונות כ-6 מיליארד דולר בשנה על מחקר, פיתוח, רכש, מבצעים ותחזוקה של מערכות לוחמה בלתי מאוישות. מערכות לוחמה אוטונומיות לחלוטין, שאינן דורשות התערבות אנושית כדי לפתוח באש, גם הן כבר נמצאות בשימוש בצבא ארה”ב, כמו מערכת ה-Phalanx המיירטת באופן אוטומטי טילים נגד ספינות.

אבל כשמדובר בכלי נשק שהורג אנשים, בארה”ב העיקרון המנחה כיום הוא שבן אנוש חייב להיות במעגל קבלת ההחלטות לפני שימוש בכוח קטלני. כלומר, רובוט לא יכול להרוג אדם בכוחות עצמו. חייב להיות שם בן אדם שנותן את הפקודה.

אבל האם תמיד ימשיך להיות שם בן אדם שמקבל את ההחלטות? לא בטוח. מדענים ברחבי העולם עובדים על פיתוח רובוטים עם אלגוריתמים מתקדמים שיוכלו לקבל הכרעות בסוגיות אתיות ולהחליט האם לפתוח באש באופן אוטונומי.

האם הרובוטים האלה יוכלו להחליף את החיילים בשטח? מה עלול לקרות במקרה של תקלה במערכות כאלה? והאם תכנון לקוי של מערכות בינה מלאכותית שכאלה עלול לגרום לנשק האוטונומי לתקוף את יוצריו?

כתבות נוספות שעשויות לעניין אותך
המהנדס שמאחורי האבולוציה

רקפת תבור

"רבים בקהילה המדעית מתייחסים עד היום לרעיונות שלי כאל דברי כפירה״, מספר הביולוג פרופ’ ג’יימס שפירו מאוניברסיטת שיקגו בריאיון לאפוק טיימס. ״שמעתי גם מאנשים צעירים שהם מסכימים עם...

הצצה למועדון הריגול הסודי

איל לוינטר, בן קמינסקי

רוצים להקשיב לכתבה? לחצו כאן כדי לקבל את גרסת הפודקאסט בזמן כתיבת שורות אלה מאות ״סוכני חרש״ מסתננים לפורומים סודיים ביותר במרחבי הרשת. הם חודרים למקומות אקסקלוסיביים שרק מספר אנשים...

החומר המסתורי ששורד פיצוצים גרעיניים

רקפת תבור

פיטר מקאן, מגיש "עולם המחר" – התוכנית המדעית של ה-BBC, הציג לצופים בבית בשידור חי, ביצה, והבטיח שהיא אינה ביצה רגילה. כשקירב אליה להביור שבער בטמפרטורה של 1,200 מעלות צלזיוס, האדימה הקליפה מעט...

הפצצה הגרעינית שהרגה במערב יותר אנשים מהירושימה ונגסקי

דינה גורדון

התחרות בין שתי מעצמות העל, ארה"ב וברה"מ, שקיבלה את הכינוי "המלחמה הקרה", הגיעה לשיאים חדשים אחרי מלחמת העולם השנייה והתבטאה במאבקי עליונות, שליטה והשפעה על...

חטיפי מדע ומעבר | ריצה שמחדדת את הזיכרון ועוד שני גילויים חדשים

רקפת תבור

זה רק נראה כמו רעף רגיל, אבל זה פאנל סולרי הושבים על חשמל סולרי ורואים מול העיניים פאנלים מגושמים? חברת טסלה של אילון מאסק...

המדען שראה איך עובדת מערכת הריפוי העצמי שלנו

רקפת תבור

את התעלות האלו קשה מאוד לראות. לכן ככל הנראה, עד לאחרונה לא ידענו על קיומן. הן שקופות ודקיקות, הרבה יותר מכלי הדם, ומתפרשות כמעט לכל חלק של הגוף. חוקרים...

שתפו: