עוד בקטגוריה זו:
אל ''המרחב''
מאמרים / איתי ליבנה
13/09/14
תגובות: 0
אלים וז'אנר
מאמרים / ניקולה גריפית'
02/08/14
תגובות: 2
האם איבדנו את העתיד?
מאמרים / ג'ו וולטון
22/02/14
תגובות: 4
הכפירה הקדושה נוסח מאדים
מאמרים / אבינועם ביר
01/02/14
תגובות: 2
האם יש ''גל חדש'' חדש במדע הבדיוני?
מאמרים / דייויד ברנט
29/06/13
תגובות: 4
בילבו בגינס: גיבור עם חרב ומטפחת
מאמרים / רחל מרדכוביץ'
26/01/13
תגובות: 12
מקדים את המאוחר
מאמרים / אהוד מימון
24/11/12
תגובות: 11
הסכנות שבדמיון פעיל יתר על המידה
מאמרים / גיא חסון
13/10/12
תגובות: 4
קולר האשמה
מאמרים / אהוד מימון
25/08/12
תגובות: 11
הכוח חזק עמו
מאמרים / רז גרינברג
15/03/12
תגובות: 1
השתלהבויות מדע בדיוני של ימים עברו
מאמרים / ג'יימי טוד רובין
08/04/11
תגובות: 5
מחזור 2010
מאמרים / שריל מורגן
12/02/11
תגובות: 3
גיהינום חדש
מאמרים / לורה מילר
28/08/10
תגובות: 4
קדימה במלוא הקיטור
מאמרים / פול די פיליפו
24/04/10
תגובות: 8
חיפה, חיפה – עיר עם עתיד
מאמרים / אהוד מימון
18/04/10
תגובות: 0
|
 |
המוסר הרובוטי של דוקטורוב
מאמרים / אהוד מימון
שבת, 31/12/2011, שעה 21:43
חוקי הרובוטיקה כמוסר בשני סיפורים של דוקטורוב
|
|
קורי דוקטורוב כתב שתי נובלטות שהן מחוות לאסימוב, ואשר לשלושת חוקי הרובוטיקה יש בהן תפקיד חשוב. בחינת התפקיד של חוקים אלה בסיפורים מעלה מסקנה מעניינת, גם אם אינה מפתיעה בהתחשב בדעותיו הידועות של דוקטורוב. חוקים אלה, שאמורים להוות מצפן מוסרי לרובוטים, יכולים לתפקד ככאלה רק כאשר הם מאומצים מבחירה; ניסיון לכפות אותם יסתיים בהכרח בכישלון.
רובוט נגד רובוט
הנובלטה הראשונה שבה אדון היא ''אני, רובוט'' שנכתבה כחלק מסדרת מחוות של דוקטורוב לסופרים אחרים. בעולם שדוקטורוב יוצר בסיפור קיימים שני גושים פוליטיים גדולים – צפון אמריקה ואירואסיה – המצויים בעימות מתמשך. ''תחום מסחר אמריקה הצפונית'' (או תמא''ץ) הוא דכאני, רווי אמצעי מעקב ופיקוח, שולט ביד ברזל בפיתוחים מדעיים ונשלט על ידי משטרה חשאית חסרת מצפון (''המחלקה להרמוניה חברתית''); אירואסיה היא חברה חדשנית, חופשיה, דינמית ויוצרת. במאבק בין שני הגושים האלה נלכד גיבור הסיפור, בלש משטרה בטורונטו שאשתו הרובוטיקאית נטשה אותו ואת בתו התינוקת שתים עשרה שנים קודם לכן וערקה לאירואסיה. ההבדלים בין הגושים מתבטאים בטבעם של הרובוטים שלהם וביחס השונה לשלושת החוקים, שנגלים לעיני הקורא דרך גיבור הסיפור.
על פניו הרובוטים של צפון אמריקה, המצייתים לשלושת החוקים, אמורים להיות התגלמות החלום של אסימוב – בני לוויה צייתנים המגנים על בני אדם ומסייעים להם. למעשה, בעולם שדוקטורוב יוצר, הם מכניים, מגושמים, לא יעילים ולעתים עלולים להיות מסוכנים. אנחנו רואים את הטבע הזה שלהם הולך ומתגלה לאורך הסיפור.
עובדה זו ניכרת מיד במפגש הראשון של הקורא עם הרובוטים של צפון אמריקה, שבו הם מתוארים כמכניים במופגן ומדיפי ריח של שמן מכונות והרובוט המשטרתי הנענה לפקודתו של ארטורו, הבלש, מקיש בעקביו ''בחיקוי של מחוות צייתנות''. משם הדברים הולכים ומתדרדרים. כאשר הבלש חושב להשתמש ברובוט כדי לעקוב אחרי בתו שבורחת מבית הספר הוא מבין שכל מה שהיא צריכה לעשות זה לפקוד על הרובוט להסתלק, והוא יהיה חייב לציית לה על פי החוק השני. אך לא רק שהרובוטים אינם יעילים, הם לעתים פוגעים ממש ביכולת של תמא''ץ להוציא לפועל מדיניות.
זה ניכר במשימת שיטור מורכבת יותר של ארטורו, כאשר הוא מגיע לזירת פשע שבה נוכח רובוט שוטר ומגלה שהיעילות של הרובוטים מונעת ממנו לבצע את תפקידו. ''הבעיה היתה שמרוב מהירות לא יכולת לחשוב על מה שעשו (הרובוטים, א''מ) או לפתח היפותזה מכל סוג שהוא''. לכאורה רובוטי השיטור אמורים לעשות את הפעולות הפשוטות והשגרתיות ולפנות את הבלשים למשימות המורכבות, אך למעשה הדרך שבה הם ממלאים את הפקודות שניתנו להם אינה מניחה לבלש לעסוק באמת בבילוש. וכך גם במלחמה המתנהלת מול אירואסיה. נטלי, אשתו של ארטורו שאותה הוא פוגש במהלך הסיפור מתפארת שהרובוטים של אירואסיה היו יכולים לנצח את הרובוטים של תמא''ץ ללא קושי מכיוון שאלה האחרונים ''נלחמים כשידיהם קשורות מאחורי גבם בהשפעת שלושת החוקים''.
אם לא די בכך, בידיים הלא נכונות הרובוטים של תמא''ץ מתגלים כמסוכנים ורצחניים. למחלקה להרמוניה חברתית רובוטים משלה, שאינם כפופים לשלושת החוקים. לרובוטים אלה מראה מאיים, הם שחורים ודמויי עכבישים ובדרך כלל סמויים מן העין. כאשר סוכן המחלקה מנסה להוציא מארטורו מידע הוא לא מהסס להורות לרובוט להרוג את עדה (בתו של ארטורו) ורק כניעתו של ארטורו מונעת את ההרג.
הרובוטים של אירואסיה הפוכים. על פניהם הם מסוכנים, אך התנהגותם מגלה אמת שונה. כאשר ארטורו פוגש רובוט אירואסיאתי דמוי אדם, הרובוט מציג את עצמו במילים אלה: ''קוראים לי בֶּנִי. אני רובוט אירואסייתי. אני חזק ומהיר ממך ואיני מציית לשלושת החוקים. כמו כן אני הרבה יותר פיקח ממך.'' לכאורה, זהו הסיוט הפרנקנשטייני שאותו נועדו למנוע חוקי אסימוב – בֶּנִי הוא יצור חזק, מהיר וחכם מאדם שנעדר מנגנוני ביטחון. למעשה, הרובוטים האירואסיאתים מתבררים כשונים לגמרי.
כבר באותו מפגש אנו מוצאים תיאור פיזי של הרובוט, שבבירור מתקשר לתיאור הפיזי של הרובוט הצפון אמריקאי שהזכרתי קודם: ''שלא כמו רובוטי תמא''ץ, לא נדף ממנו שום ריח, והוא היה חרישי לחלוטין''. זמן לא רב לאחר מכן נטלי מספרת לארטורו שבאירואסיה ההבדלים בין בני אדם ורובוטים אינם גדולים כפי שהם בצפון אמריקה, ושיש לה עמיתים שחלקם אורגניים, חלקם פוזיטרוניים וחלקם קצת מזה וקצת מזה. התיאור שלהלן מדגים עד כמה ההבדלים האלה מִטשטשים: ''אחד הרובוטים כרך את זרועותיו סביב כתפיה של נטלי והידק אותה ברכות. השלושה, רובוט, אישה ובת, נראו לרגע כמו משפחה''.
יש גורם אחד שאחראי להבדל זה בין הרובוטים של שני הגושים, שמאפשר לרובוטים של אירואסיה להיות מוסריים ודמויי אדם ברגש שהם מפגינים, והוא יכולת הבחירה. לרובוטים של תמא''ץ אין יכולת לבחור, החוקים נכפים עליהם, לא כך הדבר באירואסיה. הרובוט האירואסיאתי הראשון שמופיע בסיפור אינו דמוי אדם, זוהי מלכודת פתאים שנועדה להשמיד רובוטים אחרים. כאשר הוא מבין שנפל בשבי אותו רובוט עובר ל''מצב תעמולה'' ומטיף את משנתו. בין השאר הוא אומר: ''אף על פי שאינני כבול לשלושת החוקים, אני בוחר שלא לפגוע בבני אדם, על סמך חוש המוסר האישי שלי''. כאשר לרובוטים ניתנת הבחירה, דוקטורוב טוען, הם יבחרו במוסריות המתגלמת בחוקי הרובוטיקה של אסימוב; בלא בחירה, החוקים חסרי משמעות ועלולים להיות למכשול.
רובוט, אישה וריף
טיעון זה, שהמוסריות של חוקי הרובוטיקה של אסימוב יכולה להיות משמעותית רק אם היא מאומצת מבחירה, מודגש הרבה יותר בסיפור I, Row-Boat. הסיפור מתרחש בעולם שלאחר הייחודיות, שבו רוב בני האדם מתקיימים במרחב מחשבה וירטואלי ולצדם חיים רובוטים ותבונות מלאכותיות מודעים. גיבור הסיפור הוא רובי, סירת משוטים רובוטית מודעת, שמשרת ספינת נופש המפליגה בים האלמוגים. על סיפון הספינה יש שתי ''בובות בשר'', גבר ואישה שאליהם אנשים יכולים ''להוריד'' את התודעה שלהם כדי לחוות את חוויות הצלילה. ורובי הוא אסימובי, כלומר הוא מאמין בדת האסימובית הנפוצה בקרב רובוטים, ששלושת הדברות שלה הם שלושת חוקי הרובוטיקה.
עבור רובי ההצדקה לאמונה בדת האסימובית היא שהדברות (החוקים) הם המעניקים משמעות לחיים. בקרב הרובוטים יש שיעור גדול של ''מתאבדים'' המוותרים על המודעות וההכרה שלהם וממשיכים לתפקד באופן אוטומטי לגמרי ורובי עצמו נמצא על סף מעשה כזה כאשר הוא פוגש באחת ההתגלמויות של ר' דאניל אוליבאו, המייסד והמיסיונר של הדת האסימובית. בדיון שמוביל להמרתו של רובי, אוליבאו משכנע אותו שהתבונה היא ההצדקה והסיבה של עצמה, ואינה צריכה תכלית חיצונית, אלא תכליתה היא לשמר ולהפיץ את עצמה. מכאן נובעים שלושת החוקים. רובי טוען שעל פי היגיון זה סדר החוקים צריך להיות הפוך, קודם כל שמירה עצמית, שמירת התבונה של המאמין עצמו ורק אז הגנה על בני האדם. אך אוליבאו מסביר שעל פי ערנות הדת לאנושות יש עדיפות מכיוון שרק בני אדם הם יצורים נבונים היוצרים תבונה, בדמות רובוטים מודעים וכן הלאה (דוקטורוב לא מסביר מה מונע מרובוטים או בינות מלאכותיות ליצור תבונה).
הסיפור מתאר את משבר האמונה של רובי, המתחיל כאשר מישהו ''מרומם'' את ריף האלמוגים שהוא אחד מאתרי הצלילה הקבועים שאליהם מפליג רובי. הריף שזכה במודעות מאיים לפגוע בבני האדם שצוללים מעל סיפונו של רובי בדיוק בשעה שאחד מהגופים האלה מאוכלס על ידי אישה בשם קייט.
אופייה של קייט וההתמודדות עם הריף המתעורר מביאים את רובי למגע עם בני אדם שהוא הרבה יותר אינטנסיבי מכפי שאי-פעם חווה, ואלה מובילים אותו למשבר אמונה מכיוון שהוא צריך לראשונה לנסות לממש את החוקים-הדברות ולהתמודד עם אפשרות שלא יוכל לעשות זאת. במהלך הסיפור אנו מוצאים את התיאור הבא למצוקתו של רובי במגעיו עם קייט: ''לא משנה מה אמר או עשה, הוא הפר את החוק הראשון. היה הרבה יותר קל להיות אסימובי כשלא היו בני אדם בסביבה''. אבל הפגיעה של רובי בקייט היא רגשית, בעוד שהריף מאיים להרוג אותה.
בשעת מבחן רובי מממש את האידאלים האסימוביים פשוטם כמשמעם. כדי להציל את קייט הוא מוריד את התודעה שלו לגוף הגבר, מסכן את עצמו וגורם לגוף פציעות וכאב. זהו מעשה מובהק של אמונה מכיוון שרובי מודע לכך שקייט עצמה כנראה לא הייתה טורחת בכך. ההתגלמות שלה ששוכנת בגוף היא חלק שולי של תודעתה, ורוב התודעה והזהות שוכנים במרחב הווירטואלי. רוב בני האדם לא היו טורחים להציל חלקיק תודעה זה, אבל בעיני אסימובים הוא מקודש. כאשר מתברר לו שהגופים של שניהם עומדים למות, רובי משגר את התודעות שלו ושל קייט למרחב הווירטואלי כדי להציל אותם.
במרחב זה מסתיים הסיפור, בפגישה נוספת של רובי ואוליבאו. החוויות של רובי, השיחות שלו עם קייט, הדברים שהוא מגלה במהלך הסיפור אודות בני אדם, רובוטים ואופיים מביאים אותו לזנוח את העולם הגשמי, ולמסקנה שאולי ראוי להפיץ את עקרונות האסימוביות לא רק בקרב הרובוטים, אלא לכל השוכנים במרחב המחשבה. כאשר הוא מביע את דעתו זו באוזני אוליבאו זה אחרון נרעש וטוען שהאסימוביות היא דת המיועדת לרובוטים. רובי חותם את שיחתם באמירה שאולי אין הבדל גדול בין רובוטים לבני אדם.
לריף תפקיד מעניין, ואולי לא מכוון, במבחן האמונה של רובי. על פניו נראה שהוא משמש רק כדי להעמיד את קייט בסכנה ולבחון את רובי, אבל אם בוחנים את תפקידו בהקשר המוסרי אפשר לראות שהוא מוסיף ממד שלא קיים ב''אני, רובוט''. מן הסיפור הראשון עולה המסקנה שכל יצור תבוני ניחן ברגש מוסרי וכאשר ניתנת לו אפשרות הבחירה הוא יעדיף את הטוב על הרע. הריף והתנהגותו האלימה רומזים שהנחה זו אינה נכונה. לא ברור לגמרי מתוך הסיפור אם בהיותו ''ילד'' הריף אינו ניחן כלל ברגש מוסרי, או שבשם האידאולוגיה שלו הוא מוכן לפגוע באחרים. בכל מקרה, זהו יצור ''חדש'' במרחב המוסרי שדוקטורוב יוצר בסיפורים אלה. ההצעה של רובי לקראת סוף הסיפור להפיץ את המוסריות האסימובית במרחב המחשבה, הכולל גם את הריף, מרמזת לאפשרות שהריף פשוט ''לא מחונך'' ואם תוצג בפניו האפשרות האסימובית גם הוא יבחר בה.
המסקנה הזו ממצה את הטענה של דוקטורוב לגבי המוסר כפי שהוא מתגלם בחוקי הרובוטיקה של אסימוב – עקרונות מוסר חייבים להתקבל מבחירה, לא בכפייה, וככאלה הם זהים לכל היצורים החושבים והמודעים, רובוטים, בני אדם וריפי אלמוגים.
האיור בראש המאמר: איורו של מיכאל גרוסברג לתרגום העברי של ''אני, רובוט'' באתר ''בלי פאניקה''.
שלושת חוקי הרובוטיקה
אני, רובוט התרגום העברי ב''בלי פאניקה''
אני, רובוט המקור האנגלי
I, Row-Boat
|
 |
|
