היזהרו מחיקויים: סרטון הפגנת יכולות שינוי פנים וקול בזמן אמת

‍

‍

‍

‍

‍

‍

‍

‍

‍

למה יצרתי את הסרטון

‍

תחום העיסוק שלי הוא אימון מודלים ב-AI, וב-6 השנים האחרונות התעסקתי בעיקר בסייבר, התקפה והגנה. רציתי לקחת את היכולות שלי כדי לבחון עד כמה קל / זמין / מטריד לשנות את הפנים והקול שלי בזמן אמת לפנים של דמות אחרת.

‍

המטרה הייתה גם לבחון את הטכנולוגיות הקיימות אבל גם להרגיש בידיים את עוצמת הכלים שמאוד מסוכן שייפלו לידיים של השחקנים הלא נכונים. כבר יש סיפורים אפלים על מעשים לא טובים וצריך לעורר את המודעות שהתחלנו לחיות בעידן סינתטי לחלוטין. צריך להיזהר ולא להאמין למראה עינינו.

‍

‍

‍

‍

‍

‍

קצת על מאחורי הקלעים

‍

חקרתי המון כלים, בסרטון הספציפי הזה יש שילוב של 6 כלים כך שזה כשלעצמו מצריך שעות של הדרכה, אבל הכלי המרכזי של החלפת הפנים הוא DeepFaceLive שזמין בחינם ברחבי הרשת, מקורו מרוסיה (עד כמה שהצלחתי להבין) והקלות בשימוש איתו היא בלתי נתפסת.

‍

הכלי עצמו מאפשר לשנות את הפנים בזמן אמת, משתמש במצלמה שלנו, מזהה את הפנים, מקבל תמונה של דמות (או מודל של דמות) ומחליף לנו את הפנים בזמן אמת. יש גם טכניקות להחלפת כל הראש שגם את זה אני חוקר.

‍

‍

‍

‍

‍

לסיכום, מה אני רוצה שתקחו מפה?

‍

להפסיק להאמין למראה עינינו ולמשמע אוזנינו. להציב סימני שאלה, לפתח חוש ביקורת, לא לקבל אוטומטית את מה שאומרים לנו בשיחות וידאו או בסרטונים. לשים לב לפרטים הקטנים כדי להבין האם זה פייק או לא. לבקש אימות נוסף, בכתב, או אפילו פיזית מגורמים שמדברים איתם.

‍

אנחנו רק בתחילת הדרך וזה ברמה כזו. אם מסתכלים קדימה מבינים שנגיע למצב שלא יהיה אפשר להבחין בכלל. זה מטריד מאוד. נחמד לכיף ולבידור אבל מטריד מאוד בהיבטי אבטחת מידע. זה גם הזמן לממשלות ולגופי הביטחון להתעורר. זה כלי נשק של ממש.

‍

‍

‍

‍

לחצו כאן ועקבו אחרי יובל אבידני

‍