מה אסימוב היה אומר?
לנוכח השגשוג בתחום הטכנולוגי והצמדת "המגע האנושי" לממשקי אפליקציה ושאר שירותים, עולות שאלות רבות בתחום האתיקה והפילוסופיה: איך ניתן להגדיר אישיות טכנולוגית אינטליגנטית בהקשר הרובוטי? האם לאישיות כזו יכולות להיות רגשות, רצונות ותבונות כמו לבני אנוש? מאמר אורח
מאת: רועי ויצמן
בעת החדשה, בה הטכנולוגיה היא חלק ניכר מחיינו, אנו מקבלים על עצמנו, בעל כרחנו, שינויים מהותיים ומקיפים בתחומים שונים. השינויים הללו, סביב טכנולוגיות שונות ומשונות, קורים באופן תזזיתי ומואץ, ולעיתים גורמים לחלקנו להתאים את חיינו אליהם.
באופן ניכר ניתן לראות את התפתחות הטכנולוגיה כחלק מתהליך מודרניזציה שראשיתו בתחילת שנות המאה ה-20, והוא איננו עוצר עד היום אלא מתעצם בכל שנה ושנה.
Photo by Franck V. on Unsplash
אנו מוצאים את עצמנו, משתמשים באפליקציות ושירותים המבוססים על אלגוריתמים ומודלים מדעיים מסובכים שמטרתם לספק לנו את השירות הנצרך על ידנו באופן היעיל והמיטבי ביותר.
אתיקה ופילוסופיה
בעשור האחרון, נעשה נסיון לעטוף את הטכנולוגיות החומרתיות והתוכנתיות באיצטלה של ישות אנושית המעניקה שירות באופן מוכוון-לקוח מתוך ההנחה כי "המגע האנושי" יעניק גישה וביטחון למשתמש האנושי בממשק האפליקטיבי. לצורך כך, פותחו – בין השאר – אלגוריתמים מבוססי עצי החלטה שמטרתם לחקות התנהגות אנושית. בכך, התחיל עידן חדש בתחום המחשוב, עידן המתאפיין ביצור טכנולוגיות מבוססות בינה מלאכותית.
לנוכח השגשוג בתחום הטכנולוגי, עולות שאלות רבות בתחום האתיקה והפילוסופיה: איך ניתן להגדיר אישיות טכנולוגית אינטילגנטית? האם לאישיות כזו יכולות להיות רגשות, רצונות ותבונות כמו לבני אנוש?
מהשאלות הללו, נגזרות כמובן, בעיות משפטיות המתבטאות בקושי בהגדרת כשרות משפטית ומתן זכויות. האם בעתיד הלא-רחוק נזכה לראות רובוטים וסוכנים טכנולוגיים אחרים מקבלים זכויות? האם אנו והם נתנהל באותו מרחב? האם רובוט יוכל "לפרוק עולו" מעל האדם שרכש אותו ויוכל להחליט החלטות מהותיות בקשר ל"חייו"?
שאלת הזכויות
האדם, הנחשב ליצור התבוני ביותר בשרשרת המזון, זכה לכינון זכויות משפטיות במרוצת ההיסטוריה המתבטאות בחירויות מסויימות, אין רשימה אחת ויחידה של זכויות אדם ויש מחלוקות רבות על אופיה של כל זכות. ישנם מספר זכויות מקובלות (הזכות לחיים, חופש דת ומצפון, חופש התנועה חופש העיסוק ועוד). ישנם קולות הקוראים למתן זכויות אזרחיות גם לישויות שאינן אנושיות, חלקם אף קוראים להשוות את זכויות האדם לזכויות ישויות אלה.
שאלת הזכויות מעוררת מצד אחד לגלוג ושחוק ומצד שני דיון עמוק ורציני בקרב חוגים מסויימים. אחד האנשים הראשונים שהתייחס למערכת היחסים האפשרית בין האדם לרובוט הוא פרופ' אייזק אסימוב. אסימוב, בנוסף לעיסוקו האקדמי בשדה הביולוגי, כתב מאות ספרים בתחום המדע הבדיוני, ובפרט – סדרת ספרים על רובוטים. בסדרה זו הוא אף מתאר בספרו המוכר "אני, רובוט" את הרובוט כישות עצמאית חושבת, הכפופה לחוקי הרובוטיקה של אסימוב.
ג'ניפר רוברטסון פרופ' לאנתרופולוגיה באנוניברסיטת מישיגן, המתמחה בחקר האינטרקציה בין רובוטים לאנשים בדגש על האומה היפנית, טוענת כי 70% מהרובוטים בעולם מיוצרים ביפן. יתרה מכך, היא מצביעה על סקרים לאומיים המראים כי לאזרחים יפנים נוח יותר לשתף סביבות מגורים ועבודה עם רובוטים מאשר עם מהגרי עבודה.
Photo by Nice M Nshuti on Unsplash
ואכן, "הניצנים נראו בארץ". מחד, תעשיית הרובוטיקה המתפתחת כבר הופכת אנשים רבים, ממגוון רחב של עיסוקים, בעיקר עובדי מפעלים, למיותרים. ומאידך יוצרת המון מקומות עבודה. גם בתעשייה המשפטית ניתן לראות את ההשפעה: בעוד שעיסוקים הכרוכים בשיפוט ואינטראקציה אנושית הם ככל הנראה בין האחרונים שהמכונות ישתלטו עליהם, מחקר משמעותי של השפעת הטכנולוגיה על 702 עיסוקים מצא כי עורכי דין ושופטים נמצאים פחות או יותר בנקודת האמצע של משרות שעלולות להיות מוחלפות על ידי טכנולוגיה. בנקודת הזמן הזו, עדיין לא ברור איך מתן זכויות לרובוטים ישפיע על שוק העבודה ואם דיני העבודה יחולו על רובוטים.
זכויות רובוטים וזכויות בעלי חיים
חומר מחשבתי רב בנוגע למתן זכויות מגיע גם ממאבקים אחרים. בדומה לדיון על זכויות בע"ח, ד"ר דויד קאלברלי, המתמחה בשילוב של משפט, טכנולוגיה וחדשנות, בחן את האנלוגיה בין הדיון בנושא זכויות רובוטים וזכויות בעלי חיים. הוא דן בקווי הדמיון בין בעלי חיים לאנדרואידים והצביע על סוגיית הקשר בין רעיונות התודעה שלנו לבין מושג הזכויות שלנו.
וכיום, עדיין אין שום מסמך שמעגן את זכויות הרובוטים או התייחסות מצד גורמים ממשלתיים פורמליים ליישויות הללו. סטיב טורנס, פרופסור למדעים קוגנטיביים, בהתייחסותו לכך שהצהרת הזכויות של האו"ם (1948) לא נותנת שום זכויות ליישות לא אנושית (לא לחיות ובפרט לא לרובוטים), מעלה את השאלה החשובה: אם יש נסיבות בהן עשוי להיות ראוי מבחינה מוסרית לשקול להרחיב זכויות כאלה באופן ספציפי לרובוטים שנחשבים נטולי תודעה? והאם כל רשימת זכויות כזו המיועדת לסוכנים מלאכותיים כאלה צריכה להיות מלווה ברשימת החובות להם – כולל, ללא ספק, החובה לכבד את זכויות האדם?
כשבאים לנתח שאלות מסוג זה צריך לשקול עוד כיצד לחשב את השונות הפוטנציאלית העצומה בסוגי הסוכנים הרובוטיים המלאכותיים הללו – וריאציות במראה, בהתנהגות ובאינטליגנציה.
סוגיה כזו עשויה להיראות מרוחקת בזמנים שלנו כאשר רובוטים אנושיים כרגע הם רעיון די תאורטי במעבדות מחקר אמריקאיות, אירופיות ויפניות. עם זאת, בתוך עשרות שנים, רובוטים עלולים, להפוך למוצרי צריכה צרכניים רחבים וזמינים, ואולי להתפשט במהירות על פני כדור הארץ ולהביא, כמו כל טכנולוגיות ההמונים, שורה של בעיות מיוחדות (כולל כאלה הנוגעות לתחרות איתנו על אנרגיה ומשאבים אחרים וכן הלאה). אם כן, מעמדם המוסרי של יצורים כאלה יהפוך לעניין של דאגה חברתית ניכרת ואנחנו עתידים להעלות על סדר היום את עניין זכויותיהם, לא רק במעבדות מחשבים ובפקולטות למשפטים ברחבי העולם.
ברם, נראה כי רובוטים בעלי תודעה או יכולת לדרוש את זכויותיהם שייכים לתחום המדע הבדיוני או לפחות לעתיד הרחוק. האם פירוש הדבר שיש לדחוק החוצה את הרובוטים האינטליגנטים הנוכחיים לחלוטין מעולמנו המוסרי? יש אולי דרכים אחרות להעניק להם התחשבות מוסרית?
הפן המוסרי
כיום הרובוטים אינם מודעים ואינם בעלי רגשות. מוטלת בספק אפילו אם מישהו מהם באמת בעל בינה מלאכותית. טיעון זה מעלה שאלות רבות בדבר הרלוונטיות של העלאת השיח להענקת זכויות וייתור הבעיה התיאורטית של הכנסת פן מוסרי בהקשר לרובוטים חכמים הקיימים כיום. כאמור, אין לנו יכולת לדעת כיום, האם בעתיד או בכלל רובוטים יוכלו לרכוש תכונות כנ"ל.
עקב השוני בין רובוטים ובני אדם, בעיה קשה היא בעיית הגדרת התכונות בישות נתונה. "תבונה", "חיות" ו"רגשות" הן מילים אבסטרקטיות מאוד. עם זאת, בהנחה שהצלחנו להגדיר את אותן התכונות, כיצד נדע שאלו התכונות הרלוונטיות למתן זכויות?
מתן זכויות לרובוטים נתקלות בקיר קשה ויציב, בעיקר בתחום רובוטי הנשק. מרי וורהם, מובילת הקמפיין הבינלאומי נגד "רובוטי ההרג" , טוענת כי מתן זכויות לרובוטים תוביל, למעשה, לכך שנטילת חייו של אדם, תעשה באופן מדאיג, מחושב ורציונלי גרידא ע"י רובוטים, ללא שיקול הדעת הרצוי, במקרים מורכבים מעין אלו. נסיון של מרים, לקיים דיון בנושא מערכות נשק אוטונומיות באו"ם, דיון אשר עשוי להוביל לגיבוש אמנה האוסרת על מערכות מסוג זה, נבלמה ע"י מדינות המעוניינות לאמץ את הגישה הזו, ביניהם, ישראל.
אם נתבונן בגישה הרואה הענקת זכויות לרובוטים באור חיובי עקב שיקול מוסרי נוכל להסיק כי השיח על זכויות רובוטים במראה כללית כבר אינו רציונלי. אופן אנליזה שכז על רובוטים אינטליגנטיים אינו מטעה רק מכיוון שהוא מכניס את כל הרובוטים לקטגוריה אחת, אלא מכיוון שהוא אינו לוקח בחשבון את המרכיב החשוב ביותר : האינטרקציה בין בן האנוש לרובוט. לכן שימת לב לדמיון ולהבדלים בין סוגים שונים של רובוטים, יכולה לתת מקפצה פרקטית לשיח הזכויות.
בנוסף, בהנחה שיהיו לנו יום אחד רובוטים בעלי מודעות ויכולת חישה, יהיה שלב ארוך בהתפתחות הטכנולוגיה שבמהלכו רובוטים אינטליגנטיים מלאכותיים לא יעמדו עדיין בקריטריונים הנדרשים של קבלת זכויות. מצב זה מותיר בפנינו שתי אפשרויות: הכחשת הגישה המוסרית כלפי זכויות הרובוטים או נתינת זכויות כאמור – על בסיס אחר.
Photo by Brett Jordan on Unsplash
בתחום דיני העבודה, העניין בזכויות רובוטים הוא רב. שוק העבודה עבר תהפוכות רבות הקשורות לפיתוחים טכנולוגיים שונים. כניסה של רובוטים אינטילגנטיים לשוק העבודה כשבאמתחתם זכויות, יכולה לגרום לשוק העבודה לעבור טרנספורמציה שתתאים אותו לצרכי השעה ולעורר שאלות משפטיות מעניינות.
לסיכום, בין אם יהיה מקובל בעתיד להעניק זכויות לרובוטים מסוימים ובין אם לאו, הרהור בהתפתחותם של רובוטים אינטליגנטיים מלאכותיים חושף בעיות משמעותיות בהצדקות הקיימות שלנו למתן זכויות על בסיס שיקול מוסרי. עובדה זו מכריחה תומכים וגם מתנגדים לזכויות הרובוטים לשקול מחדש את המסגרות הרעיוניות שלהם הקשורות לצדק ומוסר.
לטעמי, הנושא עדיין נמצא בחיתוליו. בעתיד הנראה לעין עוד נראה את הנושא נידון רק בפן התאורטי. יציאה מחדר הדיונים לכיוון התעשייה והרגולציה הממשלתית כחקיקה עוד ארוכה, ודורשת צעדים פרקטיים משמעותיים, ניסויים אמפיריים וכן דעת קהל אזרחית התומכת במתן זכויות תוך שימת לב לשוני בין סוגי רובוטים וסוגיות יחודיות וחריגות (כדוגמת רובוטי נשק) ש"יכולות להפיל את המגדל" על תילו.
הכותב הוא מהנדס תוכנה בקבוצת Windows Cyber Defense בחברת Microsoft,
בעל תואר ראשון במדעי המחשב מאוניברסיטת בן גוריון וסטודנט לתואר שני במשפטים וטכנולוגיה באוניברסיטת בר אילן.