וואלה
וואלה
וואלה
וואלה

וואלה האתר המוביל בישראל - עדכונים מסביב לשעון

גוגל השעתה מהנדס שטען שהבינה מלאכותית שלה פיתחה רגשות

עודכן לאחרונה: 13.6.2022 / 19:15

מהנדס בגוגל שהעלה בפני גורמים חיצוניים חששות כי אחת ממערכות הבינה המלאכותית הפכה תבונית ופיתחה רגשות ומודעות, הוצא לחופשה בטענה כי הפר את הסכם הסודיות שלו

גוגל. GettyImages
גוגל/GettyImages

גוגל השעתה את אחד ממהנדסיה והוציאה אותו לחופשה בתשלום, אחרי שטען כי אחד מפיתוחי הבינה המלאכותית של החברה - הפך להיות תבוני, כך לפי דיווח של הוושינגטון פוסט. העילה הרשמית להשעיה היא פגיעה בסודות החברה.

המהנדס, בלייק ל'מוין, עובד בארגון הבינה המלאכותית האחראית של גוגל, ועסק בבדיקות האם מערכת הבינה המלאכותית שלה LaMDA (למדא), יוצרת שפה מפלה או ביטויי שנאה. המהנדס שיתף באופן פומבי את חששותיו, לאחר שראה שלמדא פיתחה מודעות לגבי הזכויות שלה עצמה ובנושאי אתיקה של רובוטיקה.

אנדרואיד. ShutterStock
חשיבה תבונית למערכת הבינה המלאכותית? גוגל/ShutterStock

ל'מוין כתב מסמך שכותרתו "האם למדא תבונית?", המכיל תמלול של שיחותיו עם למדא אותו פרסם בהתחלה לקבוצת מנהלים פנימית, ואחרי שהושעה גם באתר Medium הפומבי, ולטענתו, למדא הפכה להיות יצור תבוני שכן היא פיתחה רגשות וניסיון סובייקטיבי.

גוגל סבורה כי פעולותיו של ל'מוין הפרו את הסכם הסודיות שלו, לטענת החברה הוא פנה לעורך דין שייצג את למדא ואף שוחח על העניין עם חבר ועדת החוקה בבית הנבחרים, בטענה כי גוגל עושה פעולות שאינן אתיות. מנגד טוען ל'מוין כי הוא פנה לסיוע מינימלי בלבד מחוץ לחברה, על מנת לסייע לו בחקירה שלו את הנושא. ברשימת האנשים שאיתם שיתף בתחילה את הממצאים נמצאים גם כמה עובדי הממשל הפדרלי.

למדא, למי שלא מכיר, היא מערכת בינה מלאכותית אותה פיתחה גוגל לטובת סיוע בחיפוש מידע ברשת ובשפה טבעית. המערכת הוצגה בכנס המפתחים של גוגל בשנה שעברה, במטרה להפוך את הדיאלוג עם הגולש לטבעי יותר.

sheen-shitof

עוד בוואלה

מה אתם יודעים על המשפחות של הכדורגלנים? שחקו עכשיו.

בשיתוף וואלה מובייל

בתגובה שהעבירה גוגל לוושינגטון פוסט, טוענת גוגל כי "אין הוכחות שלמדא הפכה להיות תבונית. הצוות שלנו, לרבות מומחי אתיקה וטכנולוגיה, בדק את הטענות של ל'מוין על פי עקרונות הבינה המלאכותית שלנו, והגיע למסקנה שהן שגויות", השיב בריאן גמבל, דובר מטעם החברה.

  • עוד באותו נושא:
  • גוגל

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    1
    walla_ssr_page_has_been_loaded_successfully