אטריוק, ששמו האמיתי הוא ברנדון יואינג, חוזר ל-Twitch. הוא לקח הפסקה של כחודש וחצי מפלטפורמת הסטרימינג לאחר ששיתף בטעות את הכרטיסיות של דפדפן Chrome שלו בשידור חי, וחשף שהוא ביקר באתר שמכר זיופים עמוקים מפורשים ולא בהסכמה - במיוחד כאלה שבהם סטרימרים אחרים ' דמויות נערכו על גופם של כוכבי פורנו.
צילומי מסך של האתר הופצו בהרחבה על ידי אלה שצפו בשידור החי של יואינג. והסטרימרים שדמויותיהם הופיעו באתר deepfake, כולל QTCinderella, Maya Higa, Sweet Anita ו-Pokimane - שחלקם חברים עם יואינג - נאלצו להתמודד עם הנשורת. בשבועות הבאים, הנשים שנפגעו היונתון להטרדה, כתמונות מפורשות של הדמיון שלהם שהופצו ברחבי האינטרנט.
ביום שלישי האחרון, יואינג יצא לזרם כדי לעדכן על "הפעולות" שהוא מבצע בעקבות שערוריית הזיוף העמוק שלו. הזרם חווה שיבושים טכניים משמעותיים שגרמו לו לחתוך ולצאת בזמן שאוינג דיבר. הוא אמר שהוא עובד עם "כתבים, טכנולוגים, חוקרים, נשים שנפגעו, עצמן - אני מנסה לעבוד עם כל מי שאני יכול".
יואינג גם התנצל על שלוהתנצלות ראשונית דומעתסרטון שפרסם ב-30 בינואר, ומאז הוסר מחשבונו. בסרטון ההתנצלות הראשוני ההוא, הוא טען שהוא ניווט לאתר כתוצאה מהקלקה על מודעת PornHub מתוך "סקרנות חולנית". ב-31 בינואר,יואינג גם שיתף הצהרה בטוויטר באמצעות TwitLongerשבו הוא התנצל בפני מאיה ופוקימאנה, ואמר שהוא עובד עם QTCinderella ועם חברת עורכי הדין מוריסון רוטמן כדי להוריד את אתר deepfake. (מאז האתר נמחק מזיופים עמוקים,Vice דיווח בינואר.)
במהלך הזרם, יואינג אמר שהוא העביר 60,000 דולר למוריסון רוטמן, משרד עורכי הדין ש-QTCinderella המליצה לנשים שנפגעו משערוריית הזיוף העמוק. הגיע לתגובה, שותף מייסד של משרד עורכי הדין, ריאן מוריסון, שלח לפוליגון את האימייל הבא:
אני לא יכול לאשר מי השתמש בו או כמה (הרשאות עורך דין/לקוח), אבל אני יכול בוודאות לאשר שאטריוק שלחה ריטיינר של 60,000 לשימוש בלעדי עבור נשים שנפגעו מזיופים עמוקים ובעיות דומות, וזה נמשך זמן רב* בדרך עם התעריפים שלנו עבור שירותים כאלה. שומרים מוחזקים ונשלפים מהם רק אם נעשה בהם שימוש או נוצרת חשבונית וכל מה שנשאר בסוף העניין מוחזר ללקוח. כאן מכיוון שזה עניין מתמשך, סביר להניח שהוא ימשיך להיות מנוצל ולעזור בהגנות שאנו יכולים להציע לנפגעים.
במהלך המחקר שלו על זיופים עמוקים, יואינג אמר שהוא למד שיוצרי OnlyFans התקדמו במאבק נגד פורנו מזויף עמוק. הוא מצא שחברה בשם Ceartas - שמשתמשת בבינה מלאכותית כדי לסמן הופעות של דמויות יוצרים ולהגשת דוחות DMCA - הייתה אחת משותפות הבטיחות של OnlyFans, כפי שצוין בכתבה של האתרדוח שקיפות לשנת 2023.
נציג מ-Ceartas אמר ל-Polygon בדוא"ל שהחברה נבנתה כדי "להילחם באופן ספציפי בפורנוגרפיה מזויפת עמוקה, פורנו נקמה והתעללות מינית מבוססת תמונה". הם אישרו שיאוינג עבד איתם, ואמרו, "ברנדון פנה אלינו לפני כמה שבועות כדי לקבל קצת סיוע לאחר שהוא לא היה מרוצה מהעבודה שבוצעה על ידי משרד עורכי דין. סיפקנו ניסיון בשם היוצרים שהוא הזכיר בזרם שלו. זה עבר עכשיו מניסוי לשירות".
הנציג גם הגיב לכמה מהטענות של יואינג בנוגע למודל ה-AI של החברה:
לגבי ההצהרה בזרם על כך שאין מספיק יוצרים למודל ה-AI שלנו, אני חושב שברנדון התכוון אולי ספציפית במונחים של סטרימרים של Twitch. יש לנו רק 500 לקוחות במגוון תחומים (OnlyFans, Instagram, Patreon, YouTube וכו') אבל לא כל כך הרבה יוצרים מסוג Twitch שמתמודדים עם בעיות מזויפות עמוקות (בהתחשב בהרבה מהם לא עושים שום תוכן NSFW). עם זאת, יש לנו טונות של נתונים עבור כלי ה-AI שלנו לעבוד איתם - כמובן, נתונים נוספים על מקרי קצה יתקבלו בברכה.
יואינג גם אמר שהוא קיבל עזרה מאדם לא סביר: מאיה היגה, אחת הנשים שנפגעו משערוריית הזיוף העמוק, הגיבה לכאורה להתנצלותו ולבקשתו לעבוד איתה. יואינג אמר שהם השתמשוצֶדֶק, ובתוך 12 שעות, על פי הדיווחים, הם הצליחו להסיר 512 פריטים מגוגל (יוינג לא ציין מה בדיוק נמחק מהרשימה). הוא השווה את המספר הזה ל-51 ההרחקות שמוריסון רוטמן הוציא לפי הדיווחים בפברואר.
יואינג אמר כי בעקבות התוצאות המוצלחות הללו, QTCinderella השתמשה גם ב-Ceartas כדי להסיר מספר זיופים עמוקים. הוא גם אמר שאמורנת' פנה אליו וביקש ממנו לעזור לה "להוריד דברים". Amouranth אישר לפוליגון באמצעות דוא"ל "כן, זה נכון!"
Polygon פנה לנציגים של QTCinderella, Pokimane ומאיה Higa לצורך תגובה, ויעדכן את הסיפור כשנקבל תגובה.
זה להפליאקשה למנוע תמונות מזויפות עמוקותמיצירתם, כמו גם לקרצף אותם מהאינטרנט. ככל שהטכנולוגיה שניתן להשתמש בה כדי ליצור אותם רק הולכת וגדלה יותר - עם AI גנרטיבי, במיוחד, מה שהופך את זה לקל מתמיד - הפוטנציאל לשימוש לרעה והטרדהממשיך לגדול גם כן. ובעוד חוקים שמכוונים ספציפית לפורנו מזויף עמוקקיימים בקליפורניה ובווירג'יניה, הגנות כאלה אינן קיימות ברמה הפדרלית, והן קיימותקשה לשמצה לאכוף.
מאז השידור החי של אטריוק בינואר, מטח ההטרדות היה אינסופי עבור הנשים שמטרתן הזיופים העמוקים הללו. בינואר,QTCinderella יצאה לזרםלהגיב לאירוע. "לעזאזל עם האינטרנט המזוין. לעזאזל עם הניצול והחפצה המתמיד של נשים - זה מתיש", אמרה. "ככה זה נראה. כך נראה הכאב". בחודשים שלאחר מכן היא עדייןארגן את פרסי הסטרימרואמר לפוליגון בראיון שנערך לאחרונה: "אני חושב שכל אישה בתעשייה יכולה להעיד שזה רק קרב כלפי מעלה".
סרטון ההתנצלות של יואינג נראה רק כדי להעצים את המצב; בינואר,אניטה המתוקה צייצה בטוויטרשסרטון ההתנצלות שלו הוא איך היא גילתה שזיופים עמוקים מפורשים שלה היו באתר. בפברואר,Kotaku דיווח בהרחבהעל איך הנשורת השפיעה עליה. "הם רוצים לראות בך זונה, לא משנה מה אתה עושה. והם רוצים לשנוא אותך על היותך זונה. זה לא משנה אם תשתתף, הם יגרמו לך להשתתף בזה", אמרה אניטה המתוקה לקוטאקו.
בחודשים שלאחר התקרית, מספר מודעות לאפליקציות המאפשרות למשתמשים ליצור זיופים עמוקים - כוללזה, שמציג אדם שעבר עריכהלשאת דמיון לאמה ווטסון - גם החלה להתפשט ברחבי פייסבוק.
לקח ל-Twitch יותר מחודש להגיב לאירועים האלה. ב-7 במרץ,סוף סוף עדכנה Twitch חלק מהמדיניות שלה בנוגע לתמונות נצלניות שלא בהסכמה(NCEI). החברה עדכנה את השפה במדיניות האלימות המינית והניצול שלה למבוגרים כדי "להבהיר יותר שקידום, יצירה או שיתוף של NCEI סינתטי בכוונה יכול לגרום להשעיה ללא הגבלת זמן." מדיניות העירום למבוגרים עודכנה גם כך שתכלול את NCEI. החברה התייעצה עם קו העזרה לנקמה פורנו בבריטניה ועם דניאלה קיטס ציטרון, סגנית נשיא יוזמת זכויות האזרח בסייבר.
עדכון (17 במרץ): Amouranth הגיבה לאימייל מפוליגון, ואישרה שהיא התקשרה עם יואינג. הסיפור עודכן כדי לשקף מידע חדש זה.
