וואלה!
וואלה!
וואלה!
וואלה!

וואלה! האתר המוביל בישראל - עדכונים מסביב לשעון

"מסוכן מדי": OpenAI רצתה לשחרר כלי לשכפול קול אנושי - והתחרטה

עודכן לאחרונה: 1.4.2024 / 15:57

ענקית הבינה המלאכותית פיתחה כלי חדש שיכול ליצור העתק של כל קול תוך שימוש ב-15 שניות בלבד של הקלטה. עם זאת, בחברה חששו מהפוטנציאל לניצול לרעה והעדיפו לוותר על ההשקה

OpenAI. ShutterStock
OpenAI/ShutterStock

חברת הבינה המלאכותית OpenAI פיתחה כלי בשם Voice Engine ("מנוע קול"), שמאפשר בדוגמת קול של משתמש באורך של 15 שניות בלבד על מנת לייצר שמע שכפול ריאליסטי. עם זאת, לפי דיווח בגרדיאן, הוחלט שלא להפיץ את הכלי לשימוש ציבורי משום שהוא מסוכן מדי ועלול לגרום להפצת מידע שגוי במהלך מערכות הבחירות הרבות ברחבי העולם.

פיתוח Voice Engine החל בסוף 2022, ומאז נעשה בו שימוש כדי להפעיל את הקולות המוגדרים מראש על גבי ה-API הקיים של החברה למשימות Text-to-Speech, והוא נמצא בשימוש כבר עכשיו כחלק מפיצ'רי ה-ChatGPT Voice ו-Real Aloud. ההבדל המקורי, כאמור, הוא האפשרות ליצור קטע קול מדגימה של 15 שניות בלבד.

"אנו מקווים לפתוח דיאלוג על הפריסה האחראית של קולות סינתטיים וכיצד החברה יכולה להסתגל ליכולות החדשות האלה", נכתב בפוסט בבלוג מטעם OpenAI. "על סמך שיחות אלה ותוצאות הבדיקות בקנה מידה קטן, נקבל החלטה מושכלת יותר לגבי השאלה האם וכיצד לפרוס טכנולוגיה זו בקנה מידה רחב".

ניתן להאזין להקלטות כאן

למרות החששות, שיתפה החברה דוגמאות לשימושים בעולם האמיתי של הטכנולוגיה על ידי שותפים שונים שקיבלו גישה אליה. חברת הטכנולוגיה החינוכית Age of Learning משתמשת בה כדי לייצר קריינות כתובות מראש, בעוד אפליקציית "סיפור חזותי באמצעות בינה מלאכותית" HeyGen מציעה למשתמשים את היכולת ליצור תרגומים של תכנים מוקלטים באופן שוטף אך שומר על המבטא והקול של הדובר המקורי.

sheen-shitof

עוד בוואלה!

קק"ל מעודדת לימודי אקלים באמצעות מלגות לסטודנטים צעירים

בשיתוף קק"ל

OpenAI ציינה כי היא בוחרת להציג תצוגה מקדימה אך לא לשחרר את הטכנולוגיה באופן נרחב בשלב זה, כדי "לחזק את החוסן החברתי מפני האתגרים שמעמידים מודלים גנרטיבים משכנעים יותר ויותר". החברה גם קראה לחקור "מדיניות להגנה על השימוש בקולות של אנשים בבינה מלאכותית" ו"לחנך את הציבור להבין את היכולות והמגבלות של טכנולוגיות בינה מלאכותית, כולל האפשרות לתכנים מטעים של בינה מלאכותית".

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    1
    walla_ssr_page_has_been_loaded_successfully