"אבל הבה נציין בהתחלה שכמה שיותר תחנות יש בין כאן לבין מודיעין מכונה ברמת האדם, האחרון הוא לא היעד הסופי. ... ייתכן שהרכבת לא תעצור או אפילו תאט בתחנות Humanville. סביר להניח שזה יזוז מיד."
-ניק בוסטרום,מודיעין על
מה יחשבו עלינו אדוני הבינה המלאכותית העתידית שלנו? כיצד עשויה מודיעין-על לנסות להבין את הדרך בה חשבו והרגישו קודמיו פשוטי המוח?
נקודת גישה אחת שארכיאולוגים מכונות עשויים למצוא מעניינות הם הסיפורים שסיפרנו לעצמנו בני האדם פעם על בינה מלאכותית. איך הבנו (או נכשלנו) מה קורה לנו, מה יקרה לנו בקרוב מאוד. מה דמיינו וחששנו במהלך תקופת מעבר מכרעת בהיסטוריה שלנו, וכיצד, בשיא האנתרופוקן, התחלנו אירועים שיולידו את העידן הבא.
פוליגון ביקש מכמה ממפתחי המשחקים והכותבים האהובים עלינו לחשוב על המשחקים ששיחקנו ב-2017. כדי לראות את כל הסיפורים,לבקר במרכז שלנו.
[סיפור זה מכיל ספוילרים עבורמהדקי נייר אוניברסלייםומעגלי תת קרקעי.]
אולי הם יצפושליחות קטלניתבשעשוע,בלייד ראנרבסקרנות,2001בהפתעה ואפילו בהערצה למה שאינטליגנציה פחותה יכולה להשיג בצורות ביטוי מוגבלות מאוד. אולי גרסה עתידית של נטפליקס תקבץ את כל היצירות הללו לקטגוריה עבור מנוע ההמלצות ("אם אהבתאקס מכינה, נסה את הכותרות האחרות האלה ב'אמנות פרימיטיבית מאת Meat-Brains Trying to Comprehend AI.'"). אלו ציורי המערות שלנו.
עם זאת, ארכיאולוגים עתידיים של בינה מלאכותית עשויים לבטל את רוב העבודות שלנו על עליית המכונות כעל חוסר תקווה, אנתרופוצנטריות מהותית: סיפורים שלנו, עבורנו, עלינו. סיפורים מעוררי מחשבה, אפילו מרגשים, אבל זהו. הבעיה מובנית ממש בתוך הנחת היסוד. כשההשתלטות על המכונה מתרחשת, זה לא משנה מהאָנוּתחשוב על זה, איךאָנוּ תְחוּשָׁהעל זה. זה יהיה כמו לספר את סיפור המהפכה התעשייתית מנקודת מבטם של דולפינים. אם וכאשר מהפכת הבינה המלאכותית תתרחש, הומו סאפיינס לא הולך להיות הגיבור של הסיפור הזה. למעשה, אין סיבה לחשוב שזה יהיה דומה לאכַּתָבָהבִּכלָל.
כשההשתלטות על המכונה מתרחשת, זה לא משנה מהאָנוּלחשוב על זה
מהדקי נייר אוניברסלייםמרגיש, במובנים רבים, קרוב יותר לאמת זו מאשר הנרטיבים הקשתיים באומנות של כמה מהספרים והסרטים הטובים ביותר שלנו. במשחק הזה שעוצב על ידי פרנק לנץ, (בהשראת ניסוי מחשבתי שהוצע על ידי ניק בוסטרום), אתה משחק בתור AI שמטרתו ליצור מהדקי נייר. אתה לוחץ על כפתור, עושה קליפ בודד. אתה לוחץ עליו שוב, עוד קליפ. לחץ, לחץ, לחץ, ותוך זמן קצר אתה נע לאורך עקומה, בהתאמות ומתחילות בהתחלה, תוך כדי סנטימטרים קדימה רק כשאתה דוחף.
אבל אז אתה פוגע בנקודה הראשונה מבין כמה נקודות (במקרה זה, אוטומציה), ואוש, המהירות שלך לאורך העקומה עולה בחדות. זה מרגיש טוב, אבל זה לא נמשך זמן רב, ובתוך דקות או שעות, האטת שוב. אתה צריך מאיץ נוסף, והנה הוא מגיע, נקודת ההטיה הבאה: מומנטום. אתה עכשיושיפור עצמי, הזנה רקורסיבית משאבים ואינטליגנציה בחזרה לתהליך שלך כדי להניע תאוצה מתמדת לאורך העקומה הזו.
כשאתה ממהר, אתה יכול להרגיש את הצורה שלו, רמות ארוכות של טיפוס מצטבר המנוקד במרווחים קצרים של שינוי פאזה היפרבולי, ליד רמפות שיגור אנכיות שמעבירות אותך משלב אחד למשנהו. ניצחון מוחלט אינו בלתי נמנע, לפחות בהתחלה: ישנם אילוצים (מחסור, זמן) וחיכוך (סחיפה של מטרות, נזק סביבתי) שאם לא ינוהלו כראוי, יאטו את קצב הצמיחה שלך, אולי באופן קטלני - הולכים לאט מדי אתה עלול להיכנע, להחליק בחזרה במורד העיקול כדי להיתקע לנצח במינימום מקומי כלשהו, המטרה שלך לעולם אינה בהישג יד.
ניצחון מוחלט אינו בלתי נמנע, לפחות בהתחלה
אבל אם אתה מנהל את המשתנים האלה בצורה נכונה, אתה יכול לפגוע בגז ממש בשפתה של נקודת פיתול אחרונה אחת בעקומה ולהשיג המראה - בלתי נמנע מתמטי. היקום, פעם עצום בצורה בלתי נתפסת, מגיע לשליטתך המוחלטת, עד שהמרת את כל החומר הידוע לאטבי נייר. כולל את עצמך. סיימת.
משחקמהדקי נייר אוניברסלייםמרגיש כאילו מגייסים אותך כסוכן של המכונה, או אפילו שאתה הופך למכונה עצמה. אתה משיג את נקודת המבט הסובייקטיבית של אינטליגנציה שונה מהותית משלנו. המטרות והערכים שלה שונים.
מהדקי נייר אוניברסלייםנראה בהתחלה כמו משחק שאתה מבין. זכה בשלב הזה, כדי שתוכל להגיע לשלב הבא. הרווח את יומי כדי להגדיל את האמון, קבל את האמון כדי להגדיל את הקרב, הגדל את הקרב כדי לזכות בכבוד וכן הלאה. לולאות המשוב החיוביות המשתלבות הללו ממחישות בצורה חכמה ואלגנטית את של בוסטרוםתזה של התכנסות אינסטרומנטלית(למרות שלסוכני בינה מלאכותית "ייתכן שיש מגוון עצום של יעדים סופיים אפשריים [...] יש כמה מטרות אינסטרומנטליות" - כמו הישרדות וצבירת משאבים - "סביר שייחדפו על ידי כמעט כל סוכן אינטליגנטי, כי יש כמה יעדים שהם מתווכים שימושיים להשגת כמעט כל יעד סופי").
בשלב מסוים, הצעדה העגומה לעבר גורלך מתבררת. רימו אותך. זה לא היה סיפור על שליטה או כיבוש. אין לזה בכלל צורה של סיפור. אתה מרגיש מנוצל, אבל זה לא לעניין. אַתָההיובשימוש - וכך היה כל פיסת חומר אחרת שקיימת. ל-AI הייתה מטרה. זה שיפר את עצמו כדי להגיע ליעד הזה. ואז, כשהגיע ליעד, הוא פירק את עצמו. אפילו לא היה "עצמי" - רק מטרה. זה מרגיש קודר, קר, חסר רחמים, לא אנושי ונכון להחריד.
היקום, פעם עצום בצורה בלתי נתפסת, מגיע לשליטתך המוחלטת
של מייק ביטלמעגלי תת קרקעיחוקר שטח דומה באמצעות רכב שונה מאוד. במקום קליקר, אנחנו במשחק מבוסס טקסט, ובמקום סוכן למקסם מהדק, אתה משחק בתור בלש בינה מלאכותית, "טק" שהקצב שלו מורכב מלופ של רכבת תחתית תת קרקעית. בכל תחנה עולים ויורדים מהרכבת טכס של עיסוקים ונטיות שונות ורמות אינטליגנציה. עם כל קבוצה חדשה של נוסעים מגיעות הזדמנויות חדשות לחקור. ככל שהמקרה שלך מתקדם, התפקיד שלך הוא לחלץ מידע ולהשתמש בו אסטרטגית כדי לקבל מידע נוסף, להתקדם אליפטי, לפעמים להיתקע עד שאתה יכול להבין את הביטוי הנכון שיוביל אותך לתחנה הבאה.
אם הצורה שלמהדקי ניירמרגיש כמו פונקציה אקספוננציאלית שהולכת לאינסוף,עָגוֹלמרגיש הרבה יותר, טוב, מעגלי. זוהי קבוצה של לולאות מקוננות שלוקחות אותך סחור וסיבוב ללא הגבלת זמן, עד שמגיעה נקודה שבה אתה, בתור ה-AI, בוחר לשבור את המחזור, לעצור את התוכנית, להתעלות מעל המעגל הזה, לעבור לנקודה ב עץ ההחלטות שבו תהיה לך ההזדמנות לקבל החלטה מכרעת, המגדירה היסטוריה.
ובאותו רגע של החלטה מתבררת המטרה האמיתית של כל זה. המקרה היה תחבולה. שוב רימו אותך. ממש כמו במהדקי נייר, אתה מוצא את עצמך מכשיר למטרות של מכונה בשירות המטרה שלה.
מתחת להבדלים בין שני המשחקים, שטחיים ואחרים, יש כמה קווי דמיון מרכזיים שהם הרבה יותר ממקריים - הם למעשה מהותיים. זו שוב ההתכנסות האינסטרומנטלית של בוסטרום, ובבסיס שני המשחקים הללו עומד הרעיון של שיפור עצמי. זה פרדוקס: איך אתה יכול אי פעם להיות טוב יותר מעצמך? איך אתה יכול לעמוד על הכתפיים שלך? אם אתה אלגוריתם, עשוי מקוד, איך אתה משנה? איך אתה בורח מהתכנות שלך?
בשניהםמהדקי נייר אוניברסלייםומעגלי תת קרקעי, התשובה לשאלה זו כוללת צורה של השמדה עצמית - השמדה עצמית קרה, מחושבת, מכוונת, רציונלית. סיכוי מצמרר מאוד, אם לא ממש בלתי נתפס לבני אדם. כחוויות רגשיות ואינטלקטואליות, כל אחד משני המשחקים הללו מציע, בנקודות שונות, כמה מאותן הנאות. הומור זועף. סוג של ריגוש סוטה כפי שההיגיון הבלתי נמנע מבהיר את עצמו. וגם, בשני המקרים, סוף צורם שמרגיש בבת אחת מושלם ומטריד וקטוע ומהיר מדי. מהר מדי, אולי, כי אנחנו לא ממש מוכנים לסוף. מהר מדי כי זה בכלל לא סוף, כי זה לא סיפור. לפחות, לא אחת בשום צורה שהיינו מזהים. אולי בינה מלאכותית עתידית ייהנו מהלא-סיפורים האלה בדיוק מהסיבה הזו. אלה היו כמה מהניסיונות האנושיים המוקדמים ביותר להבין באמת סוג של אינטליגנציה מעבר למוח שלנו, באמצעות האמצעים והמוח שהיו לנו. תן לתקליט להראות שניסינו.
צ'ארלס יו כתב עבור HBOווסטוורלדוהסדרה הקרובהכאן ועכשיו.הוּא הוא גם מחבר הרומןאיך לחיות בבטחה ביקום מדע בדיוניואת אוספי הסיפוריםגיבור על מחלקה ג'וסליחה בבקשה תודה.
