ברחבי העולם מפתחים רובוטים שיוכלו לפתוח באש ולהרוג ללא התערבות אדם. מי מתנגד לזה ומה הסיכוי שהרובוטים האלה יחליטו יום אחד לתקוף גם אותנו?
בן קמינסקי | 14 באוגוסט 2014 | מדע וטכנולוגיה | 2 דק׳
דרוש רובוט שלא יורה מהמותן
הרובוטים המפלצתיים מפטרלים ברחובות לסריקה שגרתית, סורקים אדם אחרי אדם ומחפשים איומים. ״זרוק את הנשק״, קוראת המכונה אל עבר חשוד שאוחז סכין בידו. החשוד לא נענה לדרישה, והרובוט פותח באש ומחסל את החשוד.
האם זה עדיין מדע בדיוני? מבחינת ההתקדמות הטכנולוגית, כבר לא לחלוטין. אבל האם אנחנו בשלים לתת לרובוטים את הסמכות לקבל החלטה להרוג חיים? לא בטוח. בעצם, תלוי את מי שואלים. מבחינת רוסיה התשובה היא דווקא כן. רוסיה מתכננת להציב רובוטים שישמרו על מתקני הטילים שלה עוד השנה. הרובוטים יוכלו לסייר בשטח, לזהות מטרות ולחסל אותן באופן אוטומטי, כפי שהתפרסם בסוכנות הידיעות הרוסית הממשלתית RIA Novosti.

רובוט של הקמפיין נגד קילר-רובוטס מחלק חומרי הסברה. צילום: Oli Scarff/Getty Images, Cluster Munition Coalition
גם ארה”ב מנסה לפתח יותר ויותר אמצעי לחימה בלתי מאוישים. בארה”ב הוציאו בשנים האחרונות כ-6 מיליארד דולר בשנה על מחקר, פיתוח, רכש, מבצעים ותחזוקה של מערכות לוחמה בלתי מאוישות. מערכות לוחמה אוטונומיות לחלוטין, שאינן דורשות התערבות אנושית כדי לפתוח באש, גם הן כבר נמצאות בשימוש בצבא ארה”ב, כמו מערכת ה-Phalanx המיירטת באופן אוטומטי טילים נגד ספינות.
אבל כשמדובר בכלי נשק שהורג אנשים, בארה”ב העיקרון המנחה כיום הוא שבן אנוש חייב להיות במעגל קבלת ההחלטות לפני שימוש בכוח קטלני. כלומר, רובוט לא יכול להרוג אדם בכוחות עצמו. חייב להיות שם בן אדם שנותן את הפקודה.
אבל האם תמיד ימשיך להיות שם בן אדם שמקבל את ההחלטות? לא בטוח. מדענים ברחבי העולם עובדים על פיתוח רובוטים עם אלגוריתמים מתקדמים שיוכלו לקבל הכרעות בסוגיות אתיות ולהחליט האם לפתוח באש באופן אוטונומי.
האם הרובוטים האלה יוכלו להחליף את החיילים בשטח? מה עלול לקרות במקרה של תקלה במערכות כאלה? והאם תכנון לקוי של מערכות בינה מלאכותית שכאלה עלול לגרום לנשק האוטונומי לתקוף את יוצריו?
רובוט נייח דרום קוריאני של סמסונג שומר על האזור המפורז בין הדרום לצפון ומסוגל לאתר איומים, לכוון ולפתוח באש במידת הצורך. צילום: Kim Dong-Joo/AFP/Getty Images
עוד כתבות של בן קמינסקי
-
1.
מדע וטכנולוגיה
ערעור – מה שכולם רוצים לעשות
-
2.
מדע וטכנולוגיה
רובוטים שיורים מהמותן – תיבת פנדורה או החלטה חכמה?
-
3.
מדע וטכנולוגיה
האם להשתמש בתוכנה שיודעת לגלות מי יבצע בעתיד פשע, עוד לפני שביצע אותו?
-
4.
מדע וטכנולוגיה
הגאון שמעביר את הכוח להמונים
-
5.
מדע וטכנולוגיה
היום שבו יפלו חומות הצנזורה בסין ואיראן
עוד כתבות במדע וטכנולוגיה
-
האם האמונות שלנו לגבי הזדקנות יכולות לקבוע כמה זמן נחיה?
רקפת תבור
-
איך הם מנצחים את המוות? סודות ההחלמה של האנשים שניצלו מסרטן סופני
רקפת תבור
-
"השאלה החשובה הנשאלת כעת היא כמה זמן ייקח לאנשים להתרגל לרעיון של כלים מעופפים?"
רקפת תבור
-
האם מצב הצבירה הרביעי ביקום הוא בעצם יצור חי?
רקפת תבור
-
שליחות קטלנית זה כאן
רקפת תבור
דרוש רובוט שלא יורה מהמותן
ברחבי העולם מפתחים רובוטים שיוכלו לפתוח באש ולהרוג ללא התערבות אדם. מי מתנגד לזה ומה הסיכוי שהרובוטים האלה יחליטו יום אחד לתקוף גם אותנו?
בן קמינסקי | 14 באוגוסט 2014 | מדע וטכנולוגיה | 4 דק׳
רובוט נייח דרום קוריאני של סמסונג שומר על האזור המפורז בין הדרום לצפון ומסוגל לאתר איומים, לכוון ולפתוח באש במידת הצורך. צילום: Kim Dong-Joo/AFP/Getty Images
הרובוטים המפלצתיים מפטרלים ברחובות לסריקה שגרתית, סורקים אדם אחרי אדם ומחפשים איומים. ״זרוק את הנשק״, קוראת המכונה אל עבר חשוד שאוחז סכין בידו. החשוד לא נענה לדרישה, והרובוט פותח באש ומחסל את החשוד.
האם זה עדיין מדע בדיוני? מבחינת ההתקדמות הטכנולוגית, כבר לא לחלוטין. אבל האם אנחנו בשלים לתת לרובוטים את הסמכות לקבל החלטה להרוג חיים? לא בטוח. בעצם, תלוי את מי שואלים. מבחינת רוסיה התשובה היא דווקא כן. רוסיה מתכננת להציב רובוטים שישמרו על מתקני הטילים שלה עוד השנה. הרובוטים יוכלו לסייר בשטח, לזהות מטרות ולחסל אותן באופן אוטומטי, כפי שהתפרסם בסוכנות הידיעות הרוסית הממשלתית RIA Novosti.

רובוט של הקמפיין נגד קילר-רובוטס מחלק חומרי הסברה. צילום: Oli Scarff/Getty Images, Cluster Munition Coalition
גם ארה”ב מנסה לפתח יותר ויותר אמצעי לחימה בלתי מאוישים. בארה”ב הוציאו בשנים האחרונות כ-6 מיליארד דולר בשנה על מחקר, פיתוח, רכש, מבצעים ותחזוקה של מערכות לוחמה בלתי מאוישות. מערכות לוחמה אוטונומיות לחלוטין, שאינן דורשות התערבות אנושית כדי לפתוח באש, גם הן כבר נמצאות בשימוש בצבא ארה”ב, כמו מערכת ה-Phalanx המיירטת באופן אוטומטי טילים נגד ספינות.
אבל כשמדובר בכלי נשק שהורג אנשים, בארה”ב העיקרון המנחה כיום הוא שבן אנוש חייב להיות במעגל קבלת ההחלטות לפני שימוש בכוח קטלני. כלומר, רובוט לא יכול להרוג אדם בכוחות עצמו. חייב להיות שם בן אדם שנותן את הפקודה.
אבל האם תמיד ימשיך להיות שם בן אדם שמקבל את ההחלטות? לא בטוח. מדענים ברחבי העולם עובדים על פיתוח רובוטים עם אלגוריתמים מתקדמים שיוכלו לקבל הכרעות בסוגיות אתיות ולהחליט האם לפתוח באש באופן אוטונומי.
האם הרובוטים האלה יוכלו להחליף את החיילים בשטח? מה עלול לקרות במקרה של תקלה במערכות כאלה? והאם תכנון לקוי של מערכות בינה מלאכותית שכאלה עלול לגרום לנשק האוטונומי לתקוף את יוצריו?