עוד ועוד מוקשים: הקשיים של הבינה המלאכותית רק גדלים

לפני כשנה וחצי הושקה הגרסה הראשונה של ChatGPT, הצ'ט-בוט הידען והרהוט שהמחיש לעולם את הפוטנציאל האדיר הטמון ב- AI, והיום זה כבר ברור שבינה מלאכותית, וביתר דיוק "בינה מלאכותית יוצרת" (GenAI), תעצב את האנושות מחדש בעשורים הבאים. עם זאת, בעוד שהרוב נוהגים להלל אותה, טכנולוגיית GenAI טומנת בחובה גם לא מעט חולשות, מוקשים וסכנות, שחשוב לתת אליהם את הדעת בפיתוח ואימוץ מודולי AI.

אחת הסוגיות הסבוכות ביותר שקשורות לשימוש בתוכן שמייצרים מחוללי AI, היא סוגיית זכויות היוצרים והקניין הרוחני. אף שנדמה לכאורה שהכלים הללו מייצרים תמונות, טקסטים ושורות קוד "יש מאין", מדובר במודלים שאומנו על בסיס תוכן ומידע שזמינים ברשת, תוכן ומידע שיצרו אנשים.

מחוללי ה-AI הללו הם כמו "קופסה שחורה". לא ניתן להתחקות אחר המקור שעל בסיסו נוצר התוכן, והחשש הוא כי לעיתים מחולל ה-AI יפלוט תוכן שזהה או דומה למקור, ושלמקור יש זכויות יוצרים. רק בשבוע שעבר, איימה שחקנית הקולנוע סקרלט ג'והנסון לתבוע את OpenAI, כשזו השיקה עוזרת קולית חדשה, בשם "סקיי", שקולה דומה בצורה מחשידה לקולה של השחקנית.

בתחום הקוד הבעיה אקוטית יותר, כשמול מיקרוסופט מתנהלות בימים אלה שורה של תביעות מצד מפתחים, בהאשמה כי מחולל הקוד של החברה, Co-pilot, משתמש בשורות קוד שלמות של מתכנתים תוך הפרת זכויות היוצרים.

טלי שם טוב, מנכ"לית חברת הטכנולוגיה CodeValue אומרת כי: "סוגיית זכויות היוצרים היא מאוד רגישה בעולם פיתוח הקוד, ועל כן חשוב להיות מאוד זהירים בשימוש בכלים האוטומטיים הללו ולא להסתמך עליהם יתר על המידה בפיתוח המוצר הסופי. גם כאשר משתמשים בכלים הללו, תמיד צריך שמתכנת מנוסה יבדוק בקפידה את הקוד, כדי לא לחשוף את הלקוח לסיכונים בתחומי זכויות יוצרים, אבטחה ואיכות".

חולשה נוספת שעשויה להסתנן אל המודלים הללו היא "הטיות" (bias). כמו בני אדם, גם המודלים הללו מגיעים לתובנות שלהם על סמך הניסיון והדוגמאות שעל בסיסם לימדו ואימנו אותם. לא פעם, מאגר הדאטה ששימש לאימון המערכת כולל הטיות שלא תמיד המפתחים היו מודעים להן. אם תאמנו מודל לזיהוי פנים אך ורק על בסיס תמונות של אנשים לבנים ממוצא מערבי, המודל יתקשה לזהות אנשים בעל גוון עור ומוצא שונים.

החשש הוא כי הטיות כאלה יוטמעו גם באלגוריתמים של מערכות אבטחה ואף במערכות פיננסיות שמחליטות למי לתת הלוואה ולמי לא. ואולם, ישנן גם הטיות שמגיעות מהצד ה"פוליטיקלי קורקט". כך למשל, לפני מספר חודשים נאלצה גוגל להשבית את יכולת יצירת התמונות של מחולל ה-AI שלה, ג'מיני, וזאת מאחר שסירב לייצר תמונות של "אנשים לבנים", אך כהתבקש לייצר תמונה של חייל גרמני ממלחמת העולם השנייה הוא יצר תמונה של חייל שחור במדי SS. רבים ביקרו את גוגל על כך שרגישויות של תקינות פוליטית הביאו את מחולל ה-AI לחטוא באי-דיוקים היסטוריים.

מלי ביצור-פרנס, מנכ"לית ובעלים קבוצת הייעוץ Tefen שלה גם חברות בנות בתחום ה- AI אומרת ש"בינה מלאכותית אמורה להיות טכנולוגיה מאפשרת, שפותחת דלתות והזדמנויות, ולא יוצרת אפליות. בסופו של דבר, ההטיות הללו פוגמות גם ביעילות של המודל ועשויות גם לפגוע במוניטין של הארגון. על כן, מאוד חשוב להשתמש בדאטה מגוון, ותמיד להיות עם היד על הדופק. מודל AI מצריך כל הזמן תחזוק, בקרה ותיקון".

בעידן המידע, אבטחה ופרטיות הפכו להיות אחת הסוגיות הבוערות ביותר, שמעסיקות רגולטורים, ארגונים וצרכנים. איזו גישה מספק המשתמש למידע הפרטי שלו, מה עושים עם המידע שלו, ולאילו סיכוני אבטחה הוא חשוף? השאלות הללו מתחדדות בכל הנוגע ל-GenAI, מאחר שמנועי ה-AI הללו אמורים לטפל במידע הרגיש ביותר שלנו, בין אם מדובר במידע בריאותי או פיננסי.

בסקר שנתי שפורסם באחרונה על ידי חברת הענן סיסקו, נמצא כי 60% מהארגונים מגבילים את סוג המידע המוזן לתוך מנועי ה-AI ושיעור דומה מגבילים את סוג הכלים האוטומטיים שהעובדים מורשים להשתמש בהם. 27% מהארגונים שהשתתפו בסקר החליטו בשלב זה לאסור כליל על שימוש בכלים הללו במסגרת עבודת הארגון.

טלי שם טוב, מנכ"לית CodeValue: "ה-GenAI היא טכנולוגיה חדשה, עם אתגרים ייחודיים משלה, וכאשר ארגון מטמיע פתרונות מסוג זה הוא צריך לעשות זאת בזהירות ובאחריות, ובעיקר בסיוע הידיים הנכונות. זה נכון ביתר שאת בתחום האבטחה והפרטיות. לקוחות מודעים כיום לנושא הזה, וחשוב לשקף להם בצורה הבהירה ביותר איזה שימוש נעשה במידע שלהם, וגם חשוב לפתח חוקים ורגולציות, על מנת שארגונים יידעו כיצד להתנהל ולגבש נהלים פנימיים לטיפול בדאטה רגיש".

אנחנו מצויים בשלב הראשון של אימוץ טכנולוגיות של GenAI. עד כה מי שראו את ההכנסות שלהן מזנקות הן בעיקר חברות שבבים המספקות חומרה, ובראשן אנבידיה, וחברות ענן שמספקות גישה למשאבי עיבוד וכלי פיתוח כמו אמזון, מיקרוסופט וגוגל. ואולם, בשנים הקרובות יבחנו הארגונים והעסקים עצמם, שמשקיעים כיום הון רב באימוץ הטכנולוגיה, האם ובאיזה אופן הטכנולוגיה תורמת לפיתוח העסקי שלהם, לתחרותיות, ולבסוף - לשורת הרווח. ל-GenAI יש שלל יישומים אפשריים, ובשנים הקרובות אנחנו נראה כיצד הטכנולוגיה הזו מחוללת טרנספורמציה במגזרים שונים כמו קמעונאות, פיננסיים, בריאות, רכב ועוד.

מלי ביצור-פרנס מוסיפה כי: "הבינה המלאכותית יכולה לתרום לארגונים בשני היבטים מרכזיים- האחד הוא הגדלת הפריון באמצעות התייעלות דיגיטלית, חיסכון בכוח אדם ואפילו חיסכון בצריכת אנרגיה. והשני- יצירת אפיקי הכנסה חדשים, באמצעות פיתוח מוצרים וכלים שיספקו ללקוח ערך חדש. ארגונים ועסקים חייבים לפתח מפת דרכים ואסטרטגיה בתחום ה-AI, כי האופן שבו הם יידעו לאמץ את הטכנולוגיה הזו הוא שיקבע את כושר התחרתיות שלהם בשנים הקרובות. מי שלא ייערך לכך מעכשיו פשוט לא יצליח לשרוד את המציאות העסקית בשנים הבאות".

ביצור פרנס מוסיפה לסיום שהקושי המרכזי של הבינה המלאכותית הוא בהפעלת אינטליגנציה רגשית ואנושית, שלה איו תחליף. נכון שכבר היום יש פיתוחים ושיכלולים שהופכים את הבינה המלאכותית ליותר ויותר אנושית ואפילו לכזו שיודעת לזהות ניואנסים ולהגיב בהתאם, אבל עדיין היא לא יכולה כיום להוות תחליף לאדם בשר ודם בסיטואציות שבהן זה נדרש.