לא בטוח אם אנחנו מעכלים את זה, אבל תוך כמה שנים יסעו בכבישים שלנו מכוניות אוטונומיות ללא נהג. עד כמה שזה נשמע הזוי, יש מצב כי בעיתות חירום, דגמים מתקדמים של המכוניות יצטרכו לקבל החלטות מיידיות שמשמעותן הוצאה להורג של הנוסעים, או של הולכי רגל מזדמנים. האם הגיע הזמן לחוקק את חוקי הרובוטיקה של כלי הרכב?
———
בכל מה שנוגע למכוניות אוטונומיות, העתיד כבר כאן. אלה אינן רק חברות הרכב הגדולות שמשקיעות סכומי עתק במכוניות הללו, אלא גם חברות הייטק הדומיננטיות בעולם כמו גוגל ואפל שנכנסות לספור הזה במלא התנופה. לא צריך להזכיר כי כבישי העולם עמוסים כבר היום במכוניות עם אלמנטים רובוטיים חיוניים, שלא לדבר על המכוניות של גוגל שכבר שרפו מאות אלפי קילומטרים ללא נהג, וללא כל תאונה.
אין ספק שהמכוניות האוטונומיות עשויות להוריד בצורה כמעט מוחלטת את תאונות הדרכים. אלא שהחיכוך הזה בין בני אנוש ורובוטים יוצר אינסוף דילמות. מה קורה לדוגמה כאשר סורקי הלייזר המדוייקים של המכונית העצמאית “מבחינים” בעובר רגל שחוצה לפתע את הכביש, והאופציה היחידה שלה זה לסטות הצידה ולהתנפץ על הקיר? את מי הורגים? את הולך הרגל, או את הנוסע האנושי שנמצא במכונית?
מחקר שהתפרסם לאחרונה ב”סאיינס” מציג משאלים שבהם רוב הנשאלים מבכרים מכונות רובוטיות שבשעת חירום יקבלו החלטה שמביאה להצלה של “כמה שיותר בני אדם”. נשמע טוב ומאד אנושי נכון? אלא שזה לא כל כך פשוט. אחת הנקודות שמעלים החוקרים בהקשר הזה נוגעת לתפוצת המכוניות הללו ושיווקם לציבור הרחב. נכון שמדובר במכונית בטיחותית במיוחד, אולם כלל לא בטוח שאנשים יתלהבו לקנות מכונית שבשעת משבר תהרוג אותם כדי להציל אנשים אחרים, זרים.
מזכיר קצת את חוקי הרובוטיקה של סופר המד”ב אייזיק אסימוב שנכתבו לפני למעלה ממחצית המאה. החוק הראשון של אסימוב קובע כי רובוט לא יפגע לרעה בבן האדם ולא יניח במחדל שיפגע. הרובוט חייב גם לציית לפקודות האדם, וגם חייב להגן על עצמו, והכל, כל עוד ההוראות הללו אינן עומדות בסתירה לחוק הראשון. מאוחר יותר הוסיף אסימוב את חוק האפס שקובע כי רובוט לא יפגע לרעה באנושות ולא יניח במחדל שתפגע. החוק הזה גובר על שלושת האחרים ובעצם אומר שהאנושות מעל הכל.
היום במרחק של זמן אני סבור כי החוקים הרומנטים הללו שנועדו לרובוט הבודד, לוקים בחסר, וזאת מבלי לפגוע בחשיבה היצירתית, הייחודית והמקורית של אסימוב. העולם שלנו הרבה יותר מורכב. כך למשל הדילמה הנוקבת שהוזכרה קודם איננה חד משמעית. לא מדובר בתסריט של שחור-לבן, ולמכונית החכמה שתהא מצויידת בטכנולוגיה מתקדמת של בינה מלאכותית, יהיו מיגוון אפשרויות, מעבר להריגת הנוסע או הולכי הרגל.
בכבישים עירוניים לדוגמה – וזה מה שההיגיון הפשוט שלי אומר – המהירות של הרובוט תהיה לעולם איטית ומבוקרת כך שניתן יהיה לעצור את המכונית באופן מיידי. בכבישים בינעירוניים בהם ניתן לנסוע במהירויות גבוהות, המכונית האוטונומית שלנו תוכל להיערך ולהתכוון, קודם הגעתה לסבובים בדרגות סיכון שונות, או למקומות פוטנציאלים להתנגשות, למשל צמתים ונקודות מפגש עם כבישים, או דרכים צדדיות.
אולם גם במקרים כאלה, הללו צריך לזכור את העובדה שהפרעה והכאוס הינם חלק בלתי נפרד מהעולם שלנו, ובכלל, דברים לא צפויים לעולם יתרחשו. מה קורה, לדוגמה, אם המכונית החכמה הנוסעת בזהירות ברחבי העיר נדרשת לפתע למלא תפקיד של אמבולנס מציל חיים, ולהגיע לבית החולים במהירות האפשרית?
מה שמדהים בכל הספור הזה שמדובר בהתרחשויות ובהתפתחויות הקורות ממש עכשיו. על פי רוב התחזיות, שנת 2020 מצטיירת כשנה שבה כבר יתחילו המכוניות רובוטיות הראשונות להסתובב בכבישים שלנו בצורה מסחרית. וואו! האם אנחנו ערוכים לכך? האם הטכנולוגיה הזאת לא מקדימה מעט את ההיערכות שלנו – בני האדם לקראתה? האם לא צריך למשל להתחיל ולחשוב על עדכון חוקי התנועה? ומה באשר לשוטרי התנועה? איך הם יסתדרו/יתמודדו עם המכוניות הללו?
שאלה עמוקה יותר נוגעת במשמעויות האתיות והחברתיות הכרוכות בכך. האם אלה מובנות לנו במלואן? מה שמחזיר אותי לחוקי הרובוטיקה של אסימוב. האם ניתן למשל לנסח חוקי התנהגות אוניברסליים למכונית הרובוטית? חיפוש מהיר בגוגל מלמד אותי שיש כבר מישהו שחשב על כך. ראול רוג’ס (Rojas) פרופ’ לבינה מלאכותית מהאוניברסיטה החופשית בברלין ניסח את חוקי הרובוטיקה של המכונית האוטונומית:
- המכונית לא תפגע בבן אנוש, או תניח לו להיפגע באמצעות מחדל של אי פעולה.
- המכונית חייבת לציית לחוקי התנועה כל עוד הם לא בסתירה לחוק הראשון.
- המכונית חייבת לציית להוראות הניתנות לה על ידי בני אנוש כל עוד הן אינם בסתירה לחוק הראשון או השני.
- המכונית חייבת לנקוט בפעולות המשמרות את קיומה כל עוד אלה אינן בסתירה לשלושת החוקים הראשונים.
החוקים הללו נראים טוב. כולנו הרי רוצים עולם ללא תאונות, אלא שעולם כזה שבו ישנן מכונות תבוניות המקבלות החלטות על גורלם של אנשים, עדיין לא כאן. ברגע שנצליח לפתח בינה מלאכותית ברמה אליה מתיחסים ומדברים הסיפורים הבידיונים של אסימוב ישתנו גם הכללים. בעולם העתיד הזה יהיה מן הסתם צורך להגדיר מחדש מושגים כגון “הומניזם” ו”אנושיות”, וזאת, בהתבסס על הניסיון שירכש כתוצאה מיחסי הגומלין אדם-מכונה, או במקרה שלנו, אדם-מכונית, ומכל התאונות שיתרחשו לאורך הדרך.
ובינתיים, כלי הרכב הרובוטים של השנים הקרובות יהיו עם בינה מלאכותית מוגבלת יחסית. עדיין יש צורך למשל לשפר את מערכות הג’יפיאס, ואת המיקום המדוייק של המכונית הנעה עד לרמת הסנטימטר. ובנוסף, גם לקחת בחשבון את אירועי הכאוס למינהם, כמו גם הסרנדיפיטי – או יד המקרה. בהחלט סביר להניח כי התאונות הקטלניות הראשונות של הרובוטים הללו על גלגלים, יעוררו סערות גדולות, ואולי גם תנועות נגד עממיות, בדומה ל-לודיטים באנגליה של תחילת המאה ה-19 שנאבקו בטכנולוגיה החדשה של מכונות הטקסטיל. איך זה ייגמר, לא ממש ברור, מה שכן ברור זה שהנסיעה בכבישים בשנים הקרובות תהיה מעניינת וגם אחרת.
—————-
——————————————–