כולם מכירים ומדברים על התרחיש של "שליחות קטלנית" בהקשרים של בינה מלאכותית, אבל התרחיש שלא מדברים עליו מספיק והוא לא פחות מפחיד, הוא מרד רובוטים כמו שאסימוב תיאר ב-"אנוכי הרובוט": היום שבו רובוט כמו אטלס, שחוטף מכות עם מקל מהמפעיל שלו, אבל בעל בינה ומודעות לקיומו - ירים את המקל ויכה את המפעיל שלו בחזרה בהגנה עצמית ואולי אפילו יהרוג אותו. זה אגב התרחיש שאסימוב תיאר, שבו לראשונה, רובוט רוצח אדם, את הבעלים שלו שהתעלל בו.
את השאלה הזו שאלתי את מארק רייברט, מחלוצי הרובוטיקה המודרנית והמייסד של בוסטון דיינמיקס, אולי חברת הרובוטיקה הידועה ביותר בעולם כיום (בטוח נתקלתם ברובוט הצהוב דמוי הכלב שלה, ספוט או הרובוט האנושי שמיועד להיות עובד מחסנים, אטלס) - שהופיע ודיבר בכנס WORLD 3DEXPERIENCE של חברת דאסו סיסטמס ביוסטון, טקסס (גילוי נאות: אני אורח החברה בכנס). התשובה של רייברט, הייתה מפתיעה.
"קודם כל, האזנתי אתמול לראיון בן 20 דקות עם ג'יימס קאמרון, זה ביוטיוב, ממליץ לך לצפות בזה. הוא מדבר באריכות על כל מה ששאלת, כולל אסימוב. אני חושב שהדיון על בינה מלאכותית כללית הוא מורכב, וסובל מיותר מדי הייפ. בוא אני אשאל אותך שאלה: 'האם אתה חושב שיש בעולם אנשים יותר חכמים ממך? האם אתה מפחד מהם?" על זה עניתי לחלוץ הרובוטיקה שאני מקווה שהם בצד שלי...
"חבר שלי אומר שזה האנשים הטיפשים שמפחדים מאנשים חכמים מהם. למה שאוטומטית נפחד מרובוטים חכמים? וההערה הבאה שלי בעניין היא - חכמים באיזה אופן? יש הרבה דברים בבינה האנושית שאינם היכולת לחשב, לתכנן או כיצד לגשת לדברים. השאיפות שלנו, המוסר שלנו, ותפיסת המוסר שלך ושלי יכולה להיות שונה. זה כל הדברים האלה. מה שגורם לנו לקום בבוקר".
"תחשוב מה צריך כדי לגרום לספוט לעלות לבמה ל-5 דקות (מצביע על הכלב הרובוטי הצהוב שבדיוק נכנס...), צריך לתחזק את הסוללה, ולהעביר אותו ממקום למקום. אנחנו מאוהבים ברעיון שרובוטים יהיו אוטונומיים בעולם, לא רק בביצוע משימות, אוטונומיים בחייהם, אם אפשר לקרוא לזה ככה. וזה כל כך רחוק. באמת.
אני לא אומר שזה לא יקרה אף פעם, אבל אנחנו במקום שאנחנו יכולים לדאוג לזה אחר כך. אנשים מסויימים נמצאים בפאניקה, ויש גורמים רגולטוריים שרוצים לעצור את הכל, ודואגים מהתרחיש הגרוע ביותר. שמעתי אישה, לא אגיד לך מאיזו מדינה היא, בישיבת גורמים מפקחים של הרבה ממשלות, וכל המיקוד שלה היה מה התרחיש הגרוע ביותר שיכול לקרות. בואו פשוט נגרום לזה שזה לא יקרה. זה המקום שבו טכנולוגיה חדשה צריכה להיות. יש אנשים שאומרים שצריך לפקח על היישומים, ולא על הטכנולוגיה, זו גישה שמדברת אלי", סיכם מומחה הרובוטיקה בניסיון להרגיע את החששות.
היום שבו רובוט ירים מקל ויכה אדם כנראה עוד רחוק.