בשבועות האחרונים, העולם למד באמצעות מספר דיווחים שיוטיוב נגוע בבעיות בתוכן לילדים. החברה הגבירה את ההתמתנות בשבועות האחרונים כדי להילחם בגל התוכן הבלתי הולם, אבל זו לא הפעם הראשונה ש-YouTube נמצא בעמדה הזו.
מתי זה התחיל?
ב-23 בפברואר 2015, YouTube הכריזה על YouTube Kids, אפליקציה עצמאית שנבנתה לילדים ובידור המותאם לילדים. הרעיון היה להפוך את יוטיוב לפלטפורמה בטוחה יותר עבור הורים, שלא רצו שילדיהם ישתמשו באתר הראשי ללא פיקוח.הפוסט הראשוני בבלוגעל אפליקציית Kids מזכירה ש"הורים יכולים לנוח קצת יותר בידיעה שסרטונים באפליקציית YouTube Kids מצומצמים לתוכן המתאים לילדים".
בקרת הורים, כולל מתן אפשרות להורים להסיר את אפשרות החיפוש מהאפליקציה, מתן גישה לילדיהם "רק לסרטונים שנבחרו מראש הזמינים במסך הבית" נכללו גם כן. אפליקציית Kids, לדברי שמרית בן-יאיר, מנהלת המוצר של YouTube Kids Group, סימנה את "הצעד הראשון לקראת דמיון מחדש של YouTube למשפחות".
פחות מחודשיים לאחר מכן, במאי 2015, הקמפיין למען ילדות חופשית ממסחר, קואליציה של קבוצות תמיכה לילדים וצרכנים,התלוננה בפני ועדת הסחר הפדרלית (FTC)על תוכן שהם כינו "לא רק... מטריד לצפייה של ילדים צעירים, אלא שעלול להזיק".
שימוש בדמויות פופולריות כמוקָפוּא'אלזה וספיידרמן, יוטיוברים מסוגלים לפתות ילדים לסרטונים פוגעניים שמציגים את הדמויות האהובות עליהם. בעוד שבהתחלה הסרטונים האלה נראים נורמליים, הם מובילים במהרה לאותן נסיכות וגיבורי-על של דיסני להשתתף במעשי זימה או אלימות. אלגוריתם החיפוש של YouTube מקל על ילדים ליפול למלכודות פלייליסט מבעיתות מלאות בתוכן מסוג זה, מכיוון שמשתמשים שמות לסרטונים שלהם ומשתמשים בתמונות ממוזערות שיכולות לעקוף את האלגוריתם של YouTube, מה שמבטיח שהתוכן נראה בטוח לילדים.
הדוחמפרט מספר בעיות שגולין וחברים אחרים בצוותי הסברה גילו באפליקציית YouTube Kids בשלב מוקדם. אלה כוללים:
- שפה מינית מפורשת המוצגת בתוך אנימציה מצוירת;
- פארודיה נטולת ניבולי פה על הסרטקָזִינוֹבהשתתפות ברט וארני מרחוב סומסום;
- דיונים גרפיים של מבוגרים על אלימות במשפחה, פורנוגרפיה והתאבדות ילדים;
- בדיחות על פדופיליה ושימוש בסמים;
- דוגמנות של התנהגויות לא בטוחות כמו משחק עם גפרורים מוארים.
נציג יוטיובאמר ל"סן חוזה מרקורי ניוז".לאחר הגשת התלונה, כאשר החברה עבדה על אפליקציית YouTube Kids, היא "התייעצה עם שותפים רבים וקבוצות תמיכה ופרטיות לילדים", והוסיפה כי YouTube "פתוח תמיד למשוב על דרכים לשיפור האפליקציה".
אבל לא השתנה הרבה. דיווח מהגרדיאן ביוני 2016, ציין כי הערוץ השלישי הפופולרי ביותר ביוטיוב באותה תקופה היה "Webs & Tiaras", שאצר תוכן שמיועד לילדים. הערוץ, על פי הדיווחים, כיכב מבחר של מבוגרים בתלבושות של גיבורי על או בלבוש נסיכות שביצע פעולות בוגרות יותר.
התוכן של הערוץ היה מפוקפק, אבל בעיקר הובן כמקובל. שחקנים רעים אחרים שרצו להסתיר את הצלחת הערוץ החלו לפרסם תכנים דומים אך עם דימויים מיניים ותוכן מטריד. בשנת 2016, פיל רנטה, דובר הערוץאמר ל-The Vergeזה לא היה מפתיע שזה קורה.
"אני חושב שזה טבעי שכשמשהו גדול כמו [הז'אנר החדש] הזה, והם רואים אנשים שמרוויחים מיליוני דולרים בשנה, הם ינסו כמעט הכל: ללכת לנקות יותר, להוסיף דיאלוג, להיות יותר סקסי או משוגע יותר", רנטה אמר. "הם פשוט צריכים למצות את האמצעים האלה לפני שהם מבינים אם הם יכולים להישאר במשחק הזה".
ערוץ אחד במיוחד, Webs & Tiaras - Toy Monster השתמש בשם Webs & Tiaras כדי להפיץ תוכן מטריד תחת אסוציאציה מגמתית. רבים מהסרטונים האלה נמחקו, אבל חלקםעדיין נשאר ביוטיוב. ערוץ Webs & Tiaras המקורי הוסר לפני כתיבת מאמר זה.
סוף סוף יוטיוב מטפלת בבעיה באתר הראשי שלה, ועושה שינויים באופן שבו היא מנחה תוכן. מנכ"לית YouTube, סוזן וויצ'יצקי, אמרה שהחברה מרחיבה את חיל המנחה שלה ליותר מ-10,000 קבלנים ב-2018, וממקדת אותם ב"תוכן שעלול להפר את המדיניות שלנו".
"בודקים אנושיים נותרים חיוניים הן להסרת תוכן והן להכשרת מערכות למידת מכונה, מכיוון ששיפוט אנושי הוא קריטי לקבלת החלטות בהקשר של תוכן", כתבה ב-פוסט אחרון בבלוג.
כמעט שלוש שנים מאוחר יותר, יוטיוב הגיבה למספר חששות שהעלו הורים ומבקרי תקשורת לגבי תוכן - הן באתר הראשי והן באפליקציית הילדים העומדת בפניהם של YouTube - הם מוצאים אלימות מטרידה, מהללת או מגונה. החברה פרסמה את ההצהרה הבאה לפוליגון:
תוכן שמטעה או מסכן ילדים אינו מקובל עלינו. יש לנו מדיניות ברורה נגד הסרטונים האלה ואנו אוכפים אותם באגרסיביות. אנו משתמשים בשילוב של למידת מכונה, אלגוריתמים וסימון קהילה כדי לקבוע תוכן באפליקציית YouTube Kids. צוות YouTube מורכב מהורים שאכפת להם מאוד מכך, והם מחויבים לשפר את האפליקציה בכל יום.
אבל שאלות הנוגעות לתוכן באפליקציית Kids העצמאית שלה - כולל האם תוכן עתידי יאצור, או אם האפליקציה תכלול פחות סרטונים כדי לאפשר יותר ניהול בהנחיית אדם - נותרות לרוב ללא מענה.
נציג יוטיוב אמר ל-Polygon שרק חמש אלפיות (0.005) מהאחוז מהתוכן ב-YouTube Kids נחשב מטריד ונוגד את מדיניות החברה, והוסיף כי לאחר דיווח על תוכן, החברה נוקטת בצעדים קפדניים להסרת סרטונים, ובמקרים חמורים , ערוצים שלמים מהאפליקציה.
"YouTube משווקת את זה כמקום בטוח לילדים לחקור, אבל זה לא מקום בטוח לילדים לחקור", אמר מנהל הקמפיין למען ילדות ללא מסחר, ג'וש גולין, ל-Polygon. "באמת היינו הראשונים שהעלו את הנושא הזה, וזה חוזר שנתיים וחצי אחורה. מה שמצאנו בינתיים [זה] - זה כמו Whac-A-Mole - אז הצבענו על סרטונים כפי שראינו אותם. כל סרטון שציינו בתלונתנו ירד [מהאפליקציה], אבל כמובן היו עוד.
"זו דרך נוראית לבנות אפליקציה לילדים", אמר.
בתלונה של מאי 2015 ל-FTC ב-19 במאי 2015, גולין הצביע על האופן שבו ניתן לנצל את אלגוריתם החיפוש של YouTube אפילו בתוך סביבה בטוחה כביכול לילדים.
כשמשתמשי YouTube Kids מחפשים חומר, האפליקציה מתחילה להמליץ על סרטונים דומים, שכן הפונקציה "מומלץ" ב-YouTube Kids מבוססת כנראה על היסטוריית "חיפוש". כשערכנו את הסקירה שלנו, YouTube Kids למעשה החלו להמליץ על סרטונים על טעימות יין באפליקציה שלה לגיל הרך, כפי שמציינת צילום המסך למטה. לפיכך, ככל שילדים יחפשו יותר סרטונים לא הולמים, כך הם יוצגו יותר סרטונים לא הולמים באמצעות פונקציית "מומלץ" של האפליקציה.
גולין ועמיתיו לא היו האנשים היחידים שהבחינו שתוכן המכוון לילדים באפליקציית YouTube Kids ובאתר הראשי היו בעייתיים. בשנתיים האחרונות, קבוצות הורים מרובות קמו בפייסבוק במטרה ללמוד כיצד לנווט, לסמן ולאצור חוויה בטוחה עבור ילדיהם.
הצהרת המשימה של קבוצת פייסבוק אחת,"הורים מנווטים ביוטיוב",קובע שהקבוצה נוצרה כדי:
עזרה ברשימה הלבנה של תוכן YouTube שבטוח עבור הילדים שלנו לצפייה ללא הדרכת הורים. זה יכסה תוכן למבוגרים אך גם תוכן מעורר התנגדות כמו עליונות לבנה, סקסיזם ודברים מהסוג הזה. נדון גם בתוכן בעייתי ביוטיוב כדי שנדע מה יש שם ונוכל להיות מוכנים לדון בו עם הילדים שלנו.
עם מעט תמיכה מ-YouTube, קבוצות אלה פועלות לעתים קרובות ככלבי שמירה מתנדבים, עוברות את הגרוע ביותר של YouTube ומסמנות אותו. נציג יוטיוב אמר ל-Polygon שלמרות שהאלגוריתם של למידה חישובית משלו משתפר מדי יום - לומד איזה תוכן אינו מקובל לילדים - הצוות מסתמך על דגלים מהורים שיעזרו לטפל בסרטונים ובערוצים בעייתיים.
בתקופה שבה ההורים עבדו יחד על יצירת מערכת חדשה ומשופרת כדי לפקוח עין על מה שילדים רואים, YouTube התמקד בהיבטים אחרים של האפליקציה. החברה בחרה להדגיש תחומים נוספים באפליקציית YouTube Kids בשנת 2016, כולל העובדה שניתן לצפות בה ב-Apple TV והייתה תואמת ל-YouTube Red.
רק השנה, יוטיוב החלה להשקיע רבות באמצעי מניעה.
בראש ובראשונה, מתינות.
שינויים מתבצעים
למרות ש-YouTube טוענת שהאתר הראשי שלה מנוצל על ידי שחקנים גרועים, לא אפליקציית YouTube Kids ספציפית, עדיין זה בלתי אפשרי עבור YouTube להבטיח שאפליקציית Kids בטוחה ב-100 אחוז. ההחברה אמרה ל-USA Todayשהורים שרוצים להיות בטוחים שילדיהם לא נתקלים בתוכן מטריד, יש לכבות את האפשרויות ל"סרטונים מומלצים".
"לפעמים הילד שלך עשוי למצוא תוכן באפליקציה שאולי לא תרצה שהוא יצפה", אמר נציג יוטיוב ל-USA Today.
מאליק דוקארד, ראש תחום תוכן משפחה וילדים העולמי של YouTube,אמר לניו יורק טיימססוגים אלה של סרטונים היו "המחט הקיצונית בערימת השחת", והצביעו על למידת המכונה של האלגוריתם ועל חוסר הפיקוח מסיבות שהסרטונים הללו חמקו. דוקארד אמר גם ש-YouTube Kids לא סיפקה חוויה אוצרת, כלומר ההורים היו אחראים לשלוט במה שילדיהם צופים.
כאשר מצב הגבלה מופעל, מה שנותן להורים את האפשרות להשבית את פונקציית החיפוש ולמנוע סרטונים נוספים מהאתר הראשי להציף את האפליקציה, קשה לילדים לחזור להגדרת נדידה חופשית יותר פתוחה. יוטיוב גם מבהירה ברגע שהורים נרשמים לאפליקציה שלמרות מאמצי החברה, עלול להופיע תוכן מטריד שנוצר על ידי שחקנים גרועים.
1/5
מנקודת המבט של YouTube, מתינות מושלמת היא בלתי אפשרית. 400 שעות של סרטון מועלות בכל דקה.
אבל עבור גולין, המאמצים הנוכחיים אינם מספיקים. גולין אמר לפוליגון שזה חסר אחריות עבור יוטיוב להתייחס לאלגוריתם שלה כאל "רשת דייגים גדולה", בהנחה שהאלגוריתם יתפוס כל סרטון רע שנועד לנצל אותו.
"כל הנחת היסוד של האפליקציה של YouTube Kids שגויה אם אתה מודאג לגבי בטיחות ילדים", אמר גולין. "אי אפשר להחזיק אפליקציה שיש בה מיליוני ומיליוני סרטונים, אבל זה בסדר. ילדים לא צריכים אפליקציה עם מיליוני ומיליוני סרטונים. הם לא צריכים 20,000 סרטונים של ביצים באפליקציה אחת. מה שהם צריכים זה מקום שבו התוכן נבדק ובטוח.
"מנקודת מבט של ילדים, הבעיה לא ניתנת לתיקון", אמר גולין. "המודל של YouTube יצר משהו שהוא כל כך עצום, אבל יש 400 שעות של תוכן שמועלים בכל דקה. זה פשוט גדול מדי. אנשים מעלים את הנושאים האלה כבר שנים, פשוט בקר בכל פורום הורות והם דיברו על סרטוני פפה פיג המזויפים. רק לאחר שהיצירה הבינונית הפכה לוויראלית, YouTube החלה לנקוט בצעדים יזומים כלשהם. שיהיה ברור, הם נקטו צעדים כי המפרסמים היו מודאגים, לא ההורים".
יוטיוב כברעבר "אדפוקליפסה",שבו מפרסמים גדולים פרשו מהפלטפורמה לאחר שמצאו את המודעות שלהם מחוברות לסרטונים מלאים בתוכן שנאה. אז החברה רוצה להימנע מכל דבר שיגרום לאחרים לעזוב.
חלק מהתוכנית של YouTube היא להגביר את המתינות האנושית ולשנות את האלגוריתם שלה, "הכשרת טכנולוגיית למידת מכונה בתחומי תוכן מאתגרים אחרים, כוללבטיחות ילדיםודברי שטנה". יוטיוב גם תצמצם בערוצים שמקבלים מונטיזציה ופרסומות המצורפות לסרטונים אלו. מכיוון ש-YouTube Kids כולל גם מודעות - שרבות מהן, אומר גולין, אינן מתאימות לילדים - הדבר ישפיע על ערוצים וסרטונים בפלטפורמה.
מה הלאה עבור YouTube Kids?
YouTube Kids הוא מייצר כסף; YouTube לא יגיד לפוליגון כמה, בדיוק, אבל זהמוכר מודעות נגדאת הסרטונים. מה שזה לא יהיה, גולין חושב שמספיק שליוטיוב אין תמריץ לשנות את האפליקציה שלה. יוטיוב סירבה להגיב כשנשאלה האם החברה מתכוונת לאצור את התוכן שלה ולהגביל את מספר הסרטונים בעתיד.
"המטרה שלהם היא להרוויח כסף, ואם לא תהיה מספיק זעקה ולחץ מתמשך עליהם, אנחנו הולכים לראות את אותן הבעיות", אמר גולין. "אני לא יודע שהבעיות ניתנות לתיקון. זה יהיה נהדר אם יוטיוב תבין שהבעיות הללו ניתנות לתיקון ותבהיר [שאם החברה לא אוצרת תוכן] זה מיועד למבוגרים שרוצים לצפות בסרטונים. אין לי הרבה אמונה שהם יסתדרו לבד".
נציג יוטיוב אמר ל-Polygon שלמרות הדיווחים, רוב הבעיה נעוצה באתר הראשי, שבו היא תשקיע חלק גדול מזמנו בטיפול בשנה הקרובה. הנציג אמר ששינויים מוגזמים במדיניות הנוכחית שלה הוכנסו כדי למנוע תוכן בלתי הולם המכוון למשפחות באפליקציה ובאתר הראשיים; בכך, אישר נציג, זה אמור להבטיח שתוכן המותאם לגיל (מסומן לקהל של 18+) לא יופיע ב-YouTube Kids.
נציג יוטיוב גם אישר שתוכן המסומן באתר YouTube הראשי לא אמור להופיע באפליקציית הילדים. אם סרטון אכן עושה את דרכו לאפליקציה, הנציג אישר שמתבצעת הקרנה משנית, והוסיף כי צוות נמצא במקום כדי לנהל סרטונים חדשים המסומנים באפליקציה בכל עת.
שאלות עדיין מועלות על ידי קבוצות הורים וארגוני כלבי שמירה, כמוElsaGate על Reddit ו-Discord, שעוקבים אחר ערוצים או סרטונים מרושעים שעוברים במערכת של יוטיוב לגבי ההמשך. נציג YouTube לא יכול היה לספק פרטים נוספים בזמן כתיבת שורות אלה.
כשמבקרים קוראים ליוטיוב על תגובתה האיטית - ביניהם רוברט תומפסון, מנכ"ל ניוז קורפ, שכינה את יוטיוב "מזבלה של פסולת רעילה", השאלה כעת היא באיזו מידה הבעיה מנוהלת לאחר השנה החדשה. דוקארד וויצ'יצקי אמרו כי החברה "עובדת על דרכים למניעת התרחשות מצבים מסוג זה בצורה יעילה ויזומה יותר".
