מנהיגי עולם הטכנולוגיה, המיליארדר אילון מאסק ושלושת מייסדי חברת הבינה המלאכותית של גוגל, חתמו על מסמך שבו הם מתחייבים לא לפתח "נשקים אוטונומיים קטלניים". המהלך מגיע מקבוצה לא רשמית של חוקרים ומנהלים המתנגדים להפצת הטכנולוגיה שעשויה להיות מסוכנת. ההתחייבות מזהירה מפני מערכות נשק המשתמשות בבינה מלאכותית על מנת "לבחור ולהפיל מטרות ללא התערבות של בני אדם", שכן הסוגיה מעלה איומים מוסריים וממשיים. מבחינה מוסרית, לטענת החותמים, ההחלטה לאמץ חיים אנושיים "לעולם לא תינתן למכונה". בחזית המעשית, הם טוענים שהתפשטות של נשק מסוג זה, תהיה "מסוכנת ומסוגלת לערער כל מדינה ואדם".
אותה התחייבות פורסמה היום בוועידה הבינלאומית המשותפת לבינה מלאכותית המתקיימת בשטוקהולם, ואורגנה על ידי מכון "העתיד של החיים" - מכון מחקר שמטרתו "להקטין את הסיכון הקיומי" לאנושות. בין החותמים ניתן למצוא שמות גדולים בעולם הטכנולוגיה: מנכ"ל Space X וטסלה אילון מאסק, שלושת מייסדי חברת הבינה המלאכותית מבית גוגל "DeepMind", מייסד סקייפ וכמה מחוקרי הבינה המלאכותית הנחשבים ביותר בעולם.
עוד בנושא:
"מה כבר את עשית בחייך?": היזם המיליארד אילון מאסק לא נשאר חייב
היזם המיליארדר אילון מאסק הציג התפתחות בפתרון ההזוי לבעיית הפקקים
מקס טגמרק, אחד מהאנשים שחתם על האמנה ופרופסור לפיזיקה ב-MIT, אמר בהצהרה לתקשורת כי מנהיגי העולם בנושא הבינה המלאכותית "עוברים מדיבורים למעשים". הוא המשיך לטעון כי מסמך ההתחייבות עשה מה שפוליטיקאים לא עשו: להטיל מגבלות על פיתוח של בינה מלאכותית לשימוש צבאי. "כלי נשק המחליטים באופן אוטונומי להרוג אנשים הם מגעילים ומערערים כמו נשקים כימים, ויש לטפל בהם באותה דרך", הוסיף.
יש מספר גדול של דרכים בהם ניתן להגדיר מערכת נשק אוטונומית, ולכן קשה להצביע בדיוק על אילו מערכות ההתחייבות אוסרת. דוגמה אחת היא מערכת צריח היכולה לכוון ולבחור מטרות באופן אוטונומי אבל לא לירות עליהן, כאשר יש גורם אנושי מאחורי המסך שפשוט מאשר את החלטות המערכת. עוד החותמים טוענים כי העברת חוקים בנושא עלולה להתגלות כקשה במיוחד, שכן הטכנולוגיה לפיתוח נשק עם בינה מלאכותית זמינה, וכן למדינות שכבר עובדות על הטכנולוגיה (כמו ארצות הברית וסין) אין תמריץ אמיתי להפסיק את הפיתוח.