פייק ניוז

בתחילת החודש סוכנות החדשות המובילה בסין פירסמה סרטון ובו הכירה לצופים את הקריין הווירטואלי (מבוסס AI) שלהם אשר יוכל להחליף קריינים אנושיים. הקריין הוירטואלי הסביר לצופים שהוא ידווח כל יום לאורך כל היום מכל מקום במדינה

‍

‍

הפיתוח של הסרטון הגיע לאחר שסין הכריזה בשנה שעברה שהיא מעוניינת להיות האומה המובילה בפיתוח של בינה מלאכותית. הדמות והקול של הקריין בסרטון הם רפליקות אמיתיות של קריין אנושי בסוכנות החדשות הסינית.

הפיכה של טקסט לשמע היא לא טכנולוגיה חדשה, אבל יכולת שכפול הקול והפיצ'רים של בן-אדם ספציפי לדמות וירטואלית כזו שיודעת להביע רגשות והבעות זו קפיצת מדרגה של השנים האחרונות. גם אצלנו בארץ בוועידת החדשנות שנערכה בחודש שעבר אפשר היה לראות הולוגרמה של שמעון פרס שהקריא "צוואה רוחנית". המיצג בארץ נוצר ע"י 2 חברות טכנולוגיה ישראליות: VIVOTEXT ו- AUGMIND.

הטכנולוגיה של שכפול הקול מבוססת על גישה חדשנית הן בתהליך יצירת מאגר דגימות הקול הדיגיטאליות, והן בתהליך חיבור היחידות מהמאגר לדיבור של טקסט חדש.

הקריין הסיני ושמעון פרס הם לא היחידים שקולם שוכפל, אפשר למצוא ברשת סרטונים שבהם רואים שכפול הדמות והקול של אובמה, טראמפ ודמויות מוכרות כאלו אחרות. תעשיית הסרטים כבר עושה שימוש בהחלפת ויצירה של פנים וקול לדמויות וירטואליות ואמיתיות. החדשנות היא הנגשה של הטכנולוגיה למפתחים עצמאיים, וחברות לעשות שימוש בטכנולוגיה שכזו היום עם עלויות מופחתות ובמהירות יחסית.

‍

?ומהם היתרונות של הטכנולוגיה

• שמירה של קול חי לנצח. (תארו לכם שניתן לקחת דגימות קול של הורים ולשמר אותם לנצח וליצור ברכות לנכדים וכמה דורות קדימה.)

• שירותים מונגשים ומותאמים למשתמש עם קול שאהוב עליו לדוגמא: יצירה של רובוטים וירטואליים של שירות לקוחות עם קול של דמויות או זמרים מפורסמים. פרסונליזציה של משחקי מחשב, הקראה של טקסט של בעלי מוגבלויות עם קול של זמר אהוב.

• למעשה אנחנו בעיצומו של העידן הקולי שבו מכשירים חכמים כבר מבינים את הכוונה של המשתמש ויודעים לענות בהתאם. אז כבר לגמרי אפשר לדמיין איך בשנים הקרובות כשנבקש מהמקרר להכניס ביצים לרשימת המכולת אז הוא יענה לנו ״אין בעיה״ בקול של פרנק סינטרה או ביונסה.

• יתרון נוסף של הטכנולוגיה הוא בשיפור חווית שירות הלקוחות וחסכון בעלויות לחברות. לדוגמא, החברה Over.ai המייצרת רובוטים וירטואליים על תשתית הטלפוניה שיודעים להבין את כוונת המשתמש ולענות בהתאם. תרחישים פשוטים של שירות לקוחות כמו: מתי המכשיר שלי יחזור מתיקון, מה העלות של מוצר, איפה החברה ממוקמת, תלונה על מוצר או ניתוב לשלוחה הרלוונטית יכולים להתבצע ע״י רובוט חכם במקום גורם אנושי. היתרון ללקוח הוא שאין צורך להמתין על הקו, שכן הרובוט (לא כמו גורם אנושי) יודע להכיל אינסוף שיחות בו-זמנית. ורק השיחות שהרובוט לא יידע להתמודד איתן מנותבות לגורם אנושי. זה עוזר לחברות לחסוך בעלויות ולספק שירות מקוצר ויעיל יותר ללקוחות. וגם הנציגים הווירטואליים לא נשחקים מצעקות של לקוחות.

‍

?עד עכשיו דיברנו על היתרונות של הטכנולוגיה. מהם החסרונות

כמובן. צריך לזכור שכמו כל טכנולוגיה, אם שמים אותה בידיים הלא נכונות אפשר להגיע למצבים מסוכנים כמו:

שימוש בטכנולוגיה של שכפול קול ותווי פנים להפצת מסרים שקריים. חלק הכרחי בטכנולוגיה הוא קבלת מס׳ גדול של דגימות סרטונים או קול על-מנת שיהיה אפשר ליצור את החיקוי. כיום ניתן למצוא בקלות סרטונים רבים של זמרים, שחקנים אבל גם פוליטיקאים. די בקלות ניתן לקחת מס׳ הקלטות מראיונות של פוליטיקאי מסוים, ולהלביש את הקול והפנים על שחקן שיבצע את מה שנרצה ונגיד.

אבל לא רק מפורסמים יוכלו לסבול מהתופעה. סחטנים יוכלו לבצע גניבת זהויות. נניח הטמעה של פנים וקול של אנשים בתוך סרטי פורנו על-מנת לסחוט כספים או השתלה של ראיות בסרטונים במשטרים וארגונים מסוימים.

אנחנו עוד לא נמצאים בנקודה הזו, היום ובמרבית הסרטונים שמיוצרים ע״י חיקוי אפשר לזהות את הגליצ׳ים הקטנים (תזוזה של הראש, שפם לא במקום ועוד). אבל ייתכן שבעתיד יהיה קשה להבדיל בין סרטון אמיתי או מפוברק (וגם היום לעין בלתי מיומנת קשה להבדיל בין הסרטונים במבט ראשון).

‍

?ואז נשאלת השאלה: איך נוכל לדעת איזה מידע הוא אמיתי או לא ומה ניתן להגדיר כאמת

ככל הנראה בעתיד נראה טכנולוגיות AI שידעו לזהות סרטונים שהופקו מבינה מלאכותית ולאתר האם הסרטון אמיתי או לא.

‍

?האם רובוטים ובינה מלאכותית עלולים לגנוב את עתיד התעסוקה של בני האנוש

במחקר שנערך לאחרונה ע"י ארגון הOECD עולה ש14% מהמשרות במדינות OECD נמצאות בסיכון גבוה להכחדה וש- 32% מהמשרות צפויות להשתנות, אך לא להימחק. כאשר ההשפעה הגדולה ביותר תהיה על מגזרים אשר נמצאים כבר היום תחת איום - עובדים בעלי מיומנויות נמוכות, ועובדים צעירים שעובדים במשרות כמו מכירות, שירות לקוחות, ניקיון והסעדה. אבל צריך לזכור כמו שבמהפכה התעשייתית אנשים חשבו שהקידמה תגזול את כל מקומות העבודה ולמעשה היא איפשרה התקדמות של הטכנולוגיה ויצירה של משרות חדשות, אז גם בעידן החדש הטכנולוגיה תייצר ללא ספק גם מקומות עבודה חדשים רבים, אך כמובן שמערכות החינוך ושאר המוסדות צריכים להיערך לעולם החדש, ולספק הכשרה מקצועית למגזרים הצפויים להיפגע.

‍

I.am+ מאת: עדי שטיין, מנהלת פרויקטים ומוצר בחברת

‍