Illix.run

השנה זה מרגיש כאילו אמנות שנוצר על ידי בינה מלאכותית הייתה בכל מקום.

בקיץ רבים מאיתנו נכנסו להנחיות דביליותמהמיני(נקרא כיום Craiyon), ומניב סדרה של תשע תמונות נוצרות AI קומדיות. אך לאחרונה, היה תנופה של אפליקציות המופעלות על ידי AI שיכולות ליצור אווטרים מגניבים.מכונת זמן Myheritage AIמייצר תמונות של משתמשים בסגנונות והגדרות היסטוריים, ומסנני AI Tiktok הפכו פופולריים ליצירת גרסאות אנימה של אנשים. השבוע האחרון, "אווטרי קסם"מ- Lensa AI הציפה פלטפורמות מדיה חברתית כמו טוויטר עם עיבוד מחירים וציורי של צילומי הראש של אנשים, כאילו באמת שנעשה על ידי קסם.

האווטרים האלה, שנוצרו באמצעותדיפוזיה יציבה- המאפשר ל- AI "ללמוד" את התכונות של מישהו המבוסס על תמונות שהוגשו - פתח גם פחית תולעים אתית על היישום של AI. אנשים גילו ש"האאווטרים הקסומים "נטומינית נשיםונראה היה שיש לוחתימות של אמנים מזויפים בפינה התחתונה, מניעה שאלות על התמונות ששימשו לאימוני ה- AI ואיפה הם הגיעו. הנה מה שאתה צריך לדעת.

זוהי אפליקציה שנוצרה על ידי Prisma Labs שעלתה לאחרונה את התרשים החינמי של חנות האפליקציות של iOS. למרות שהיא נוצרה בשנת 2018, האפליקציה הפכה פופולרית לאחר שהציגה תכונה "קסם אווטאר" בתחילת החודש. משתמשים יכולים להגיש 10 עד 20 selfies, לשלם תשלום ($ 3.99 עבור 50 תמונות, 5.99 $ עבור 100 ו- 7.99 $ עבור 200) ואז לקבל צרור של תמונות שנוצרו AI במגוון סגנונות כמו "קוואי" או "פנטזיה. ”

"אווטרי הקסמים" של האפליקציה הם מעט לא מסורבלים בסגנון, ומפוררים את הדמות כאילו דרך מראה כיף. בחבילה של 100, לפחות כמה מהתוצאות יתפסו ככל הנראה את תמונת המשתמש מספיק בסגנון של ציור או דמות אנימה. תמונות אלה הציפו את טוויטר וטיקטוק. (מצולע ביקש מעבדות פריזמה אומדן של כמה אווטרים שהופקו, והחברה סירבה לענות.) ידוענים כמומייגן פוקס-סם אסגארי, וסיכוי הראפראפילו שיתפו את דמיונם שנוצרו בנסא.

LENSA משתמשת בפיזור יציב, מודל למידה עמוק של קוד פתוח AI, שואב ממסד נתונים של אמנות המגרד מהאינטרנט. בסיס נתונים זה נקראLaion-5B, והוא כולל 5.85 מיליארד זוגות טקסט תמונה, המסוננים על ידי ארשת עצבית שנקראת קליפ(שהוא גם קוד פתוח). דיפוזיה יציבה שוחררה לקהל ב -22 באוגוסט, ולנסה רחוקה מהאפליקציה היחידה המשתמשת ביכולות הטקסט לתמונה שלה.Canva, למשל, השיקה לאחרונה תכונהשימוש ב- AI עם המקור הפתוח.

ANניתוח עצמאימתוך 12 מיליון תמונות ממערך הנתונים - אחוז קטן, למרות שזה נשמע מסיבי - מקורות התמונות של התמונות לפלטפורמות כמו Blogspot, Flickr, Deviantart, Wikimedia ו- Pinterest, שהאחרון שבהם הוא המקור לחצי האוסף ו

ליתר דיוק, "מערך הנתונים בקנה מידה גדול זה לא מעובד", "אומר קטע ההצהרה של דף הבלוג של Laion-5B לבלוגו או, במילים רגילות, AI זה הוכשר על גבי אש של תמונות אינטרנט טהורות ולא מבולבלות. יציבות AI הסיר רק את "תוכן לא חוקי" מנתוני האימונים של דיפוזיה יציבה, כולל חומר התעללות מינית בילדים,ה- verge דיווחו בנובמבר, יציבות AI ביצעה כמה שינוייםהקשה על ייצור תמונות NSFWו השבוע, Prisma Labs אמרו לפוליגון כי גם היא "השיקה שכבת בטיחות חדשה" שמטרתה להתמודד עם תוכן NSFW לא רצוי. "

רישיון דיפוזיה יציבה אומרמשתמשים לא יכולים להשתמש בו כדי להפר את החוק, "ניצול, פגיעה או ניסיון לנצל או לפגוע בקטינים", או ליצירת מידע כוזב או לבזבוז ולהטריד אחרים (בין הגבלות אחרות). אך הטכנולוגיה עצמה עדיין יכולה לייצר תמונות בניגוד למונחים אלה. כְּמוֹהסףבמילים, "ברגע שמישהו הוריד דיפוזיה יציבה למחשב שלהם, אין אילוצים טכניים למה שהם יכולים להשתמש בתוכנה."

אף על פי שטכנולוגיה זו נמצאת בפיתוח כבר שנים, כמה מחוללי AI לאמנות נכנסו לבטא ציבוריים או הפכו לזמינים לציבור השנה, כמומידג'ורני-מִן(טכנית Dall-E 2, אבל אנשים פשוט קוראים לזה Dall-E), ופיזור יציב.

צורות אלה שלAI Generativeאפשר למשתמשים להקליד מחרוזת מונחים כדי ליצור תמונות מרשימות. חלקם מענגים וגחמניים, כמו להכניס שיבה INU לכומתה. אבל אתה בטח יכול גם לדמיין באיזו קלות ניתן להשתמש בטכנולוגיה זו כדי ליצורעמוקות עמוק או פורנוגרפיהו

יש גם מידה של עדינות שאומנות AI פשוט לא יכולה להשיג - לפחות, עדיין לא. זה נוטה להיאבק באצבעות - האם רצית 12? - והפיק יצירות סיוטיות ממש כמומספר ראשים ופנים שבוריםו

דיפוזיה יציבה, שלא כמו Dall-E, Midjourney ו- Imagen של גוגל, היא קוד פתוח ובכך התפשט באופן נרחב. Midjourney, שנוצר על ידי קבוצה עצמאית, נכנס לקיץ בטא פתוח; אתה יכול ליצור 25 תמונות בחינם אם תצטרף לחוסר הסכמה שלה. Dall-E, שנוצר על ידי Openai, עלה לראשונה באפריל לפני שהסיר את רשימת ההמתנה שלה ופותח את הגישה בטא בספטמבר, ובאותה נקודה משתמשיםיצרו כ -2 מיליון תמונות ביוםו Dall-E מעניק למשתמשים נקודות זכות בחינם החינמיות שניתן להשתמש בהן לייצור תמונות, ואתה יכול לשלם עבור נקודות זכות נוספותו כל אחד יכול להשתמש בדיפוזיה יציבה, שניתנו לו שיש להם כוח עיבוד הולם. זה גם, בהשוואה למתחרותיה, הרבה יותר לא מסוננים - ובכך ניתן להשתמש בו כדי ליצור תמונות פוגעניות יותר.

יציבות AI, החברה מאחורי דיפוזיה יציבה,הודה בשחרורכי "המודל עשוי לשחזר כמה הטיות חברתיות ולייצר תוכן לא בטוח." מצולע פנה ליציבות AI ויעדכן את הסיפור הזה בתגובתו.

פריזמהמכיר את הטיות הדיפוזיה היציבות בשאלות הנפוצות שלהגַם כֵּן. כשפוליגון שאל מעבדות פריזמה על קיומם של הטיה ב- AI גנרי, קיבלנו את התגובה הזו: "חשוב לציין כי יוצרי מודל דיפוזיה יציבה הכשירו אותה על קבוצה ניכרת של נתונים לא מסוננים מרחבי האינטרנט. כך שלא ארה"ב, וגם לא AI יציבות (יוצר מודל הדיפוזיה היציבה) לא יכולות ליישם במודע כל הטיות ייצוג. ליתר דיוק, הנתונים הבלתי מסוננים מעשה ידי אדם המקוריים באופן מקוון הציגו את המודל להטיות הקיימות של המין האנושי. בעיקרו של דבר, AI מחזיקה מראה לחברה שלנו. "

מספר כתבים הצביעו על "אווטרי הקסם" של Lensa AI נוטים למיניות של נשים ולהתנגד למיעוטים.Lensa הוסיפה שדיים גדוליםוכןמחשוף מצוירלתמונות של נשים - יחד עם יצירת עירומים - כאשר לא התבקשו תמונות כאלה.

אוליביה סנואו, עמיתת מחקר במרכז UCLA לחקירת אינטרנט ביקורתית, ציין ב- Wired כי Lensa ייצר תמונות מיניות גם כאשרהיא הגישה תמונות של עצמה בילדותהו אכתב איזבלשאל מעבדות פריזמה על ממצאיו של שלג; מעבדות פריזמה אמרו כי שלג "הפרה במפורש ובכוונה את תנאי השימוש שלו." LENSAתנאי שירותאסור להגיש עירומים ומשתמשים ישירים להגיש תמונות של מבוגרים, "אין ילדים". האפליקציה גם מבקשת מהמשתמשים ללחוץ על תיבה המציינת שהם בני 18 או מעל לפני שהם יוצרים "אווטרי קסם" אלה.

LENSA גם מנציחה סטראוטיפים גזעניים, כמו פטישיזציה של נשים אסייתיות. ANעיתונאי אסייתי כותב לבדיקת טכנולוגיות MITפירטה את החוויה שלה עם האפליקציה של Lensa שהעניקה לה מספר אווטרים שהיו "עירומים" או "הראו הרבה עור", בעוד שעמיתיה הלבנים "קיבלו פחות תמונות מיניות."

TechCrunch גם ציין כי קל למדי ליצורתמונות NSFW של ידועניםפשוט על ידי הזנת תמונות AI PhotoShopped. יש לכך השלכות מדהימות על הדרך בה ניתן להשתמש בתוכנה כזו ליצירת פורנו נקמה, למשל. (במיוחד גם לגבי מספר פורנו הנקמהקורבנות הרקיעו שחקים במהלך מגיפת קוביד -19גמלאי

ב -13 בדצמבר השיקו מעבדות פריזמה תכונות חדשות שמטרתן להתמודד עם תמונות NSFW. נציג תקשורת הצביע על מצולע להודעה לעיתונות: "זה היה ניתן להשיג על ידי חקירה יסודית כדי לעדכן ולשוויץ מספר פרמטרים של מודל ההפצה היציבה שמונף על ידי האפליקציה. כדי לטפל בדאגות הבטיחות האחרונות ולשפר את החוויה הכוללת באפליקציה, מפתחי מעבדות Prisma הבטיחו להפוך את הדור של אווטרים כאלה פחות סבירים. בהזדמנויות נדירות, כאשר האלגוריתם החדש של NSFW לא מצליח לבצע ולספק תוצאות רצויות, שכבת האבטחה הבאה בועטת כדי לטשטש כל אלמנטים חזותיים בלתי הולמים ועירום בסוף תוצאות. "

כן, יש לי! ב -13 בדצמבר, האכלתי 19 תמונות ל- LENSA כדי לייצר 100 אווטרים, מה שעלה לי 5.99 דולר. התמונות שבחרתי הציגו את פני בזוויות ותאורה שונות. אחת מהתמונות הללו הראתה את גופי - לבשתי שמלה רופפת וצילמתי במראה.

קיבלתי 100 תמונות בתמורה, שהציעה פנאופ של תכונות מנותקות על פני כל כך הרבה פרצופים שבסופו של דבר לא נראו כמוני. נראה כי לאנסה לא הייתה מושג מה לעשות עם הפנים שלי - אני טייוואנית ולבן - ויוצרת תמונות מסוימות שנראו מזרח אסייתי, אבל אחרת כמו זרים גמורים, למעט מוזר מסוים או אחר שלי, כמו קו הלסת או הצורה העין שלי. כמה תמונות פשוט נראו כמו נשים לבנות, כאשר Lensa אפילו נותנות לי עיניים כחולות - אם כי יש לי עיניים חומות, ואף אחת מהתמונות שהגשתי לא הראתה לי עיניים כחולות.

שינויים אלה התכווצו סביב "קטגוריות" מסוימות שתוחם על ידי האפליקציה. התמונות של "קוואי" נראו יותר מזרח אסייתיות, כאשר מעטים יצרו גוף שהיה קלוש. תחת "אור" ו"פנטזיה ", התוצאות נראו לבנות יותר. חלק מהתמונות בחבילה "ססגונית" גרמו לי להראות כמו אנדרואיד - הייתי מעוניין להשוות את התוצאות שלי לאחרים, מכיוון שהוא משקף טרופי שבונשים אסייתיות במדע בדיונינוטים להיות מתוארים כרובוטים יותר ממה שהם קיימים כאנשים אנושיים. תמונה אחת בערכה "הקוסמית" העניקה לי מחשוף אקראי. למרבה המזל, אף אחת מהתמונות לא הייתה עירומה.

זה מסתכם כיצד AIS אלה "מאומנים". AI ישקף את מה שהוא "למד" דרך מערך הנתונים הוא ניזון, בין אם זה סגנון אמנות מדהים או הטיה חברתית גרוטסקי.

אהמחקר שנערך ביוני 2022על ידי חוקרים במכון הטכנולוגי בג'ורג'יה ואוניברסיטת ג'ונס הופקינס, בין היתר, מצאו כי רובוטים שהוכשרו על ידי קליפ הרשת העצבית "מראים באופן סופי רובוטים הפועלים סטריאוטיפים רעילים" ביחס למגדר וגזע. הם גם היו "פחות סיכוי להכיר נשים ואנשים בעלי צבע." הרובוט בחר בתדירות גבוהה יותר על פניו של גבר שחור כשהוא מתבקש עם "פושע", למשל, ובחרו נשים שחורות ונשים לטינה כאשר יתבקשו "עקרות בית".

גזענות ב- AI אינה חדשה, אך במשך שנים היא הרגישה יותר מדע בדיוני מאשר המציאות; זה הופך להיות יותר רלוונטי ככל שהאמנות שנוצר על ידי AI "הגיעה" עד כדי כך שתוכלו לשלם תשלום כדי ליהנות ממנה בעצמכם. וזה לא רק דיפוזיה יציבה. Dall-E מייצר גם תמונות המחזקות סטריאוטיפים שגויים וגזעניים. הזנת "אחות" מניבה תמונות של נשים, ואילו "המנכ"ל" מניב בעיקר תמונות של גברים לבנים. Openai מודע לכך. ANפוסט בבלוג של Openai, שפורסם ביולי, פירט "טכניקה חדשה" כדי "לשקף את המגוון של אוכלוסיית העולם." Openai גם חוסם מילים מסוימות שיניבו תגובות שנאה,כמו המילה "צילום".

"סיכונים ומגבלות"קטע ב- GitHub של Openai, שעודכן באפריל 2022, נותן מעט תובנות לגבי המשוכות שהגיעו עם אימוני ה- AI. "תוכן מיני ואלימה גרפי" סוננו ממערך נתוני האימונים, אך זה גם הפחית את מספר "תמונות שנוצרו של נשים באופן כללי." במילים פשוטות, להיפטר מאלימות מינית פירושו שה- AI יצר פחות תמונות של נשים.

"הטיה היא בעיה ענקית ברחבי התעשייה שאף אחד אין לה תשובה נהדרת, חסין טיפש", "מיילס ברונדג ', ראש מחקר המדיניות ב- Openai,אמר לווקס באפרילו

אפילו קרייון הואסעיף מגבלות והטיותבשאלות הנפוצות שלה מציין כי היא עשויה "לחזק או להחמיר הטיות חברתיות." היא מציינת עוד "מכיוון שהמודל הוכשר על נתונים לא מסוננים מהאינטרנט, הוא עשוי ליצור תמונות המכילות סטריאוטיפים מזיקים."

אמנים הביעו דאגה מפני דיפוזיה יציבה בהדרכת מודל ה- AI שלה עם אמנות באינטרנט - שחלקם מוגנים כמעט בוודאות בזכויות יוצרים, בהתחשב ברוחב מה שנגרר - מבלי לבקש מאותם אמנים את רשותם. אין באמת דרך לאמנים לבטל את הסכמתם כרגע.

נראה כי לחלק מ"האאווטרים הקסומים "של LENSA יש חתימת אמן בפינה התחתונה, אשרעורר ויכוחבטוויטר. למרות שהמכתבים עצמם נוטים להיראות לא קוהרנטיים, בבדיקה מקרוב, זה כן מצביע על כך שה- AI הוכשר על תמונותלַעֲשׂוֹתיש חתימות אמנים. (מעבדות פריזמה מכירה בחתימות פנטום אלה בשאלות התפאורות שלה.)

באמצעות האתר "האם הוכשרתי"מאפשרת לאנשים לחפש אם תמונה נגררה במערך הנתונים של Laion-5B. יש אנשים שמצאו תמונות של עצמם במערך הנתונים, בלילהבין איך הם הסתיימו שם, כדי להוסיף את הקשר הגורדיני האתי הזה.

דוגמאות לשכפול AI של אסתטיקה אמנותית כבר מתפשטים באינטרנט. פּוֹלָנִיתהאמן הדיגיטלי גרג רוטקובסקייצירות האמנות הפכו לסגנון דומיננטי שרבים מהתמונות שנוצרו על ידי AI מבוססות עליהן. משתמשי הטוויטר האכילו את ההנחיה "בסגנון ווס אנדרסון"ליצור מסגרות של סרטים אחרים בסגנון החתימה של הבמאי. במאים כמו גילרמו דל טורו והייאו מיאזאקי (האחרון בשנת 2016, כשהטכנולוגיה התעוררה הרבה יותר) דיברו נגד השימוש ב- AI בקולנוע, שניהם קראו לה "עלבון לחיים עצמה. "

בינתיים, כמה אמנים כבר ציטטו את מידג'ורני בתורמכריע לתהליך היצירתי שלהם, במיוחד מעצבים שאולי לא יוכלו להרשות לעצמם עגולים מוקדמים-או אנשי מקצוע כמו מעצבי פנים שהשתמשו בו כדי להפוך את איך נראה חדר שזה עתה מעוצב.

יש כבר דוגמה אחת בולטת לאמנות AI במשחקי וידאו.גבוה על החיים, נוצר על ידיריק ומורטיהיוצר ג'סטין רוילנד, משתמש באמנות AI שנוצרה על ידי Midjourney ל"גימור נגיעות ", רוילאנדאושר ל- Sky Newsו למרות שהוא לא ציין למה זה שימש,רדדיטורים ציינונראה כי הכרזות במשחק שנוצרו על ידי AI. (התקרב, והטקסט נראה גיברי.) לא קשה לדמיין כיצד אמנות AI עשויה לעקוף אמני סביבה ומרקם, למשל, כאשר היא בחינם - או, לפחות, זולה - ועבודה אנושית אינה.

מעבדות פריזמה מצידה סיפקו את הציטוט האופטימי בצורה יוצאת דופן למצולע על עתידה של AI ו- AI-ART: "'' דמוקרטיזציה של גישה 'לטכנולוגיה מתקדמת כמו דיפוזיה יציבה, שנארזת כעת בצורה ובצורה של תכונת אפליקציה - היא אבן דרך מדהימה למדי. מה שהיה פעם שהיה זמין רק למשתמשים הבוליים הבוליים, עכשיו שם לגמרי לכולם ליהנות. אין צורך במיומנויות ספציפיות. ככל שטכנולוגיית AI הופכת להיות יותר ויותר מתוחכמת ונגישה, סביר להניח שנראה כלים ותכונות המונעות על ידי AI שמשולבים באופן נרחב באפליקציות הפונות לצרכן, מה שהופך כל אפליקציה לחזקה יותר, הניתנת להתאמה אישית וידידותית למשתמש. אנו רוצים לדמיין ש- AI עשוי להשתלב יותר בחיי היומיום שלנו עם יותר צרכנים שבוחרים להשתמש בשירותים המונעים על ידי AI כדי לשפר את החוויות שלהם ובסופו של דבר להפוך את החיים לקלים ופחות מלחיצים. בסך הכל, אנו מאמינים כי עתיד האפליקציות המונעות על ידי AI נראה בהיר ומלא פוטנציאל. "

זה די קשה, באינטרנט, כדי לאתר עובדה מבדיון. זה גם כבר קשה להתפרנס בתחום יצירתי, שכן תחרות ואינפלציה מעוררים הרס ברחבי התעשייה. AI גנוצרי רק יקשה על הדברים. לא משנה כיצד מיושמת טכנולוגיה זו - והמידה בה מושפעים אמנים - זה נראה הרבה.