ilanka

חבר מתאריך 2.8.02
23571 הודעות, 23 פידבק |
08:59 20.02.09 |

|
חוקי אסימוב לא מספיקים, נחוץ קוד אתי לרובוטים לוחמים
 |
חוקרים, שחיברו דו"ח לצבא האמריקאי, מזהירים מפני הסכנות של השימוש ברובוטים בשדה הקרב. לדבריהם גם החוקים של אסימוב לא יספיקו
דו"ח חדש של הצבא האמריקאי מזהיר מפני הסכנות הטמונות בשימוש ברובוטים בשדה הקרב. לדברי כותבי הדו"ח, עליו דווח בטיימס השבוע, לא ירחק היום בו רובוטים יוכלו לקבל בשדה הקרב החלטות השמורות כיום רק לבני אדם. בדו"ח תחת הכותרת "רובוטיקה צבאית אוטונומית - סיכונים, אתיקה ותכנון" הם מציעים לכונן את מה שהם מכנים "אתיקה לרובוטים".הדו"ח סוקר בין היתר את הרובוטים שפועלים כיום בצבא האמריקאי, ובהם שורה של מזל"טים, כלי רכב קרקעיים חמושים כמו הטאלון Swords וכאלה שאינם חמושים. רוב הרובוטים אליהם מתייחסים החוקרים הם רק אוטונומיים למחצה, ואינם פועלים ללא סוג כלשהו של הכוונה אנושית. אחת המערכות המעטות שפועלות בצורה עצמאית לחלוטין, לדבריהם, היא הוולקן פלנקס CIWS, מערכת הגנה נגד רקטות ופצצות מרגמה, שהבאתה לארץ להגנה מפני הירי מרצועת עזה נשקלה כמה פעמים. אולם, כיום גם מערכות כמו הפלנקס אינן פועלות בצורה אקטיבית אלא רק מגיבות לאיומים. בעתיד מעריכים כותבי הדו"ח כי רובוטים צבאיים יצטרכו לפעול בסביבה מורכבת, בה אזרחים ואויבים ישהו באותו שטח. דבר זה מעלה כמה שאלות: האם רובוטים ידעו לציית לחוק ולהוראות פתיחה באש?; האם הם יוכלו להבחין בין אויב לאזרח והאם הם ידעו להבחין בחייל אויב פצוע ולחדול מהאש?. פתיחה כותבים החוקרים כי נראה כי לרובוטים יהיו יתרונות משמעותיים על בני האנוש גם מבחינת הבנת התמונה בשדה הקרב, מבחינת הספק העבודה וגם מהבחינות האתיות: רובוטים לא ירצו לנקום או להתעלל באוכלוסייה האנושית ויוכלו לפעול ללא משוא פנים ואף לדווח על כל הפרה של ההוראות. אולם "טכנולוגיה היא חרב פיפיות, עם יתרונות וסיכונים, מבקרים ותומכים; ורובוטיקה צבאית אינה יוצאת מן הכלל", כותבים החוקרים.
רובוט משתולל בין הסכנות מונים כותבי הדו"ח את האפשרות של רובוטים שיאבדו שליטה, תפיסה שלהם בידי האויב והפניה נגד "כוחותינו" לאחר פריצה וטיפול בתוכנה. ברמה האסטרטגית, הם מציינים גם את האפשרות שבשל הורדת המחיר החברתי של הרוגים ופצועים בזכות המחליפים הרובוטיים, גם רף הכניסה למלחמות יורד באופן משמעותי. כמו כן, האפשרות של שילוב רובוט ביחידה אנושית, המדווח לאחור על כל פעולה של היחידה, תהא זו חוקית או בלתי חוקית, עלול לפגוע בלכידות היחידה.
למאמר המלא: http://themarker.captain.co.il/captain/spages/1065522.html
מאמר בעברית על אייזיק אסימוב, יצירתו והחוקים המפורסמים: http://www.ynet.co.il/articles/0,7340,L-2988463,00.html
...לנסח את השאלה נכון - זה אפילו יותר חשוב מהתשובה.... |
|
שתף
|
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
|
| |