האנשים שלא היו

הסיפור הזה הרבה יותר גדול מסתם סיפור על טכנולוגיה. העובדה שיש לנו היום בינה מלאכותית, שיודעת ליצור קטעי וידיאו ותמונות מושלמות של אנשים לא-אמיתיים, מעמעמת את תפישת המציאות, והופכת אותה לחמקמקה במיוחד.

 

human-eye-1443444367iJZ
אמיתי, או לא אמיתי?

——————————————————————-

האם האיש הזה מוכר לכם?

תביטו רגע בתמונות האנשים הללו:

 

 

הוצאתי את התמונות הללו מתוך אתר מסתורי משהו שהופיע לפני כמה חודשים ברשת בלי כל הסבר. האתר שנקרא: " "This person does not exist – "אדם זה אינו קיים", מציג שורה ארוכה של דמויות שנראות אמיתיות לחלוטין, אבל בעצם אינן קיימות.

אנשי הפייק הללו נוצרו על ידי חוקרים העוסקים בבינה מלאכותית (AI), בתהליך מורכב המכונה: (GAN Generative Adversarial Training), שכולל שימוש בשתי רשתות נוירונים; אחת מחוללת תמונות חדשות לחלוטין, והשנייה, בוחנת ומעריכה האם התמונות נראות אמיתיות או לא. היישומים המעשיים של הקונספט הזה, שהיה קיים תאורטית קרוב ל-30 שנה, החלו לפני כ-5 שנים במאמר מכונן שכתב חוקר בינה מלאכותית בשם יאן גודפלו (Goodfellow).

הי! אלה (הפנים) שלי,  אבל הן מזויפות! 

השימוש באלגוריתמים של Gan הפך להיות פופולרי מאד, ומיושם כיום בתחומים רבים ושונים. לרבות: יצירה (Generate) של תמונות מציאותיות במיוחד, שינויי הבעות פנים, הבהרה ומיקוד של תמונות מטושטשות, התאמת התמונה מנקודות מבט שונות, יצירת אימוג'י מפנים אמיתיות, בניית סצנות ריאליות במשחקי מחשב, המרת תמונות נוף ליצירות אמנות ויצירת תמונות מטקסטים בכתב. וזו רק רשימה חלקית.

ואם לחזור לרגע לתמונות שלמעלה, מי שבנה את האתר היה מהנדס תוכנה בשם פיליפ וונג, שהסתמך על יישום של GAN שפתחה חברת אנווידיה. מתכנתי החברה הזינו למערכת כ-7000 תמונות מאתר הצילומים של "פליקר", ששמשו כחומר גלם לצורך לימוד ופתוח האלגוריתם. לאתר שזכה לתהודה עצומה, קמו כבר הרבה מתחרים, לרבות כאלה שהלכו עוד צעד אחד קדימה. למשל כמו ה-אתר המכונה: "have they faked me" שזה משהו כמו: האם הם זייפו אותי? מפעילי האתר, שרכזו בו קרוב לחצי מיליון תמונות של פייק-אנשים, מציעים למשתמש אפשרות לברר, באמצעות תוכנה לזהוי פנים, אם ישנן בין התמונות, פנים הדומות לשלו.

אותו אלגוריתם שפותח ב-אנווידיה מטפל גם בצורה מרשימה בציורים מפורסמים ובדמויות אנימה, כמו שאפשר לראות כאן למטה ↓ (Source)

1_4oqZHrOOZRDzMsJA_eqW1g (2)

 

לראות כדי להאמין

התמונות באתר "האיש שאינו קיים" עדיין אינן מושלמות. פה ושם אפשר למצוא פגמים, לעיתים קצת מפחידים, בין אם זה בשיניים, או באיברים אחרים. אלא שהתפתחויות והחידושים בעולם הזה של הבינה המלאכותית דינמים ומהירים, כפי שמראה הספור הבא.

בימים האחרונים הודיעה חברה יפנית (DataGrid) כי אנשי הבינה המלאכותית שלה פיתחו מערכת חדשה שיודעת ליצור דמויות של אנשים המדגימים אופנות חדשות (חורף, אביב, קיץ וסתו), המתחלפות כל העת. מה שמדהים בפתוח החדש הזה היא העובדה שלמתבונן ממוצע אין כל אפשרות להבחין שמדובר בדמויות לא אמיתיות. צריך לראות את הדוגמניות והדוגמנים הצעירים האלה כדי להאמין.

הנה הוידיאו שהם שחררו:

 

פייק גל גדות

משפטים כמו "טוב מראה עיניים" ו"תמונה אחת שווה אלף מילים" הופכים בעייתים, חלק מעולם הישן שהולך ומשתנה במהירות. אולי קצת לא נעים להודות בכך, אבל העיניים – אותם אברי חישה משוכללים, שהתפתחו בתהליכים אבולוציוניים של מאות מיליוני שנים, עומדות ככלי ריק מול יכולת היצירה של האלגוריתמים החדשים ממשפחת GAN.

170px-Gal_Gadot_2016_lighting_corrected
הדיילי מייל פרסם לאחרונה כתבה בנושא מלווה בגיף קצר של פייק גל גדות.

אם חושבים על זה, הספור הזה די מטריד. האפשרות ליצור תעמולה מניפולטיבית בעזרת הכלים של ה-AI נראית בלתי מוגבלת. ובכלל, היכולת שלנו להציג תוכן שנוצר על ידי מחשב ואיננו אמיתי, אבל נראה אמין לחלוטין,  מעמעמת את תפישת המציאות שלנו והופכת אותה לחמקמקה במיוחד. 

דוגמא טובה, וגם נושא חם במיוחד בעיתונות הפופולרית בשנה האחרונה, היא התופעה המכונה: DeepFakes. ראשיתה בתחילת 2018 כאשר משתמש בכינוי זה, פרסם ברשת החברתית: Reddit אלגוריתם שיודע לקחת פרצופים של פוליטיקאים, או סלבריטאים, ולהדק אותם בצורה מושלמת לגופן, או גופם של שחקנים בסרטי פורנו.  המשתמש הוסר מהרשת, אבל מרגע זה כבר לא ניתן היה לסכור את מה שכונה תופעת ה- Deep Fake. 

 

emphaty21
הבנות של DataGrid

תופעת הפייק-אנשים, רק תלך ותגדל. חלק מהם יחליף, מן הסתם, את אנשי הבשר ודם, שהם, כידוע, יותר יקרים ובזבזנים. הפוטנציאל, מבחינה כלכלית לפחות, נראה אדיר. תחשבו למשל על התוכנה של החברה היפנית DataGrid שתוכל להציע למגזינים ורשתות המדיה צילומים וקטעי וידיאו של דוגמניות ודוגמנים שידגימו בגדים, כמעט ללא עלות. 

המציאות הולכת ומתערבבת. איך זה ייגמר? באיזה עולם נחייה? קשה לדעת. התחושה היא שלא נצטרך לחכות זמן רב מידי לתשובה.

 ————————–

מחסן האוצרות

השאר תגובה