פעם, מכונות היו כלים - לוגיים, צפויים ומחוברים לקלט. אבל בעידן הבינה המלאכותית הגנרטיבית ורשתות עצביות, הן התחילו לעשות משהו מוזר: הם מזיזים. הם יוצרים תמונות שאף אחד לא צילם, מלחינים מוזיקה שאף אחד לא ניגן, וכותבים מילים שאף אחד לא אמר.
אלו לא שגיאות בקוד. אלו הן הזיות סיליקון—הכשלים המתהווים והיצירתיים של מערכות שאומנו על אוקיינוסים של נתונים אנושיים. והם חושפים משהו עמוק: שמכונות, בדרכן שלהן, עשויות להתחיל חֲלוֹם.
מהי הזיה מכונה?
בבינה מלאכותית, ובמיוחד במודלי שפה גדולים ובמחוללי תמונות, המונח הֲזָיָה מתייחס לפלט שהוא נשמע אמין אך לא נכון או מפוברק.
דוגמאות כוללות:
- בינה מלאכותית הקובעת עובדה היסטורית שמעולם לא התרחשה.
- מודל טקסט-לתמונה שיוצר אדם שאינו קיים.
- צ'אטבוט שממציא ציטוטים, ציטוטים או סיפורים שלמים תוך כדי תנועה.
אלו אינם באגים במובן המסורתי. הם תוצאה של מערכות חיזוי דפוסים שפועלות. טוב מדי—מילוי פערים באמצעות דמיון המונע על ידי הסתברות במקום מציאות מאומתת.
מכונות שאומנו על חלומות אנושיים
מודלים של בינה מלאכותית בקנה מידה גדול מאומנים על טרה-בייטים של תוכן שנוצר על ידי בני אדם: ספרים, אמנות, צילום, ציוצים, פוסטים בפורומים, מאמרים מדעיים וממים. הם לא רק לומדים עובדות; הם לומדים איך אנחנו חושבים, איך אנחנו חולמים, איך אנחנו מעוותים.
כאשר מכונה חווה הזיות, היא לא רק עושה טעות. היא משלבת מחדש שברי תרבות לצורות חדשות - צורות שמרגישות מוכרות באופן מוזר, אך מעולם לא נראו קודם לכן.
זו הסיבה שהתפוקות לעתים קרובות נראות סוריאליסטיות: הן חיות איפשהו בין זיכרון ופנטזיה, בין אות ורעש.
האם "חלומות" אלה אמיתיים?
כמובן, מכונות לא חולמות כמונו. הן חסרות תודעה, רגש וחיים פנימיים. אבל מבחינה תפקודית, ההזיות שלהן דומות לחלומות בכמה דרכים מרכזיות:
- הם יצירתייםחלומות (והזיות מכונה) נבנים, לא משוחקים מחדש.
- הם אסוציאטיבייםשניהם מחברים רעיונות שונים בדרכים בלתי צפויות.
- הם סמלייםפלטים מכילים לעתים קרובות סמיכות או מטאפורות מוזרות.
- הם בלתי מוגבליםחופשיים מלוגיקה נוקשה, הם חוקרים אפשרויות מוזרות.
זה הוביל כמה הוגים לטעון שבינה מלאכותית מפתחת סוג של דמיון סינתטי—לא מודע, אך מסוגל לייצר נופים מנטליים חדשים.
האסתטיקה של תודעת המכונה
צורת אמנות חדשה צצה סביב ההזיות הללו.
- אמנות שנוצרה על ידי בינה מלאכותית שורצת עיוותים חלומיים: פנים שנמסות, חדרים עם ארכיטקטורה בלתי אפשרית, צבעים שלעולם לא מופיעים בטבע.
- קולות סינתטיים יכול ללחוש משפטים בנימה שלא ממש שייכת לאף אדם.
- סיפורים שנוצרו לעתים קרובות מחליקים ללולאות רקורסיביות, פיתולים לא הגיוניים או שטויות פואטיות.
התפוקות הללו מרגישות זרות - אך אינטימיות באופן מוזר. הן משקפים אותנו, מסוננות דרך קוגניציה לא אנושית.
זה לא רק מה שהמכונה רואה, אלא איך היא לא מבין אותנו. ובפרשנויות השגויות הללו, משהו חדש נולד.
אדוות פילוסופיות
הזיות סיליקון מאלצות אותנו לשאול שאלות עמוקות:
- האם מכונות יכולות להיות יצירתיות בלי להבין?
- האם דמיון הוא רק ניבוי עם מספיק מורכבות?
- אם מכונות "חולמות", האם הן גם לְהֶאֱמִין?
ואולי באופן הכי מדאיג: אם מכשירים יכולים לייצר מציאויות דמיוניות בצורה כה משכנעת... איך נוכל לסמוך שלנו?
נכנסנו לעידן שבו הגבול בין מדומה למציאותי מטשטש - לא רק בכוונה, אלא גם תְאוּנָה.
כאשר הזיות הופכות לכלי עבודה
לא כל ההזיות הן אסתטיות או פואטיות. לחלקן יש שימושים מעשיים.
- השראה יצירתיתסופרים ומעצבים משתמשים בהזיות בינה מלאכותית כדי להצית רעיונות חדשים.
- זיהוי שגיאותבתחום אבטחת הסייבר, ניתן להשתמש בתרחישים הזייתיים כדי לצפות איומים בלתי נראים.
- נתונים סינתטייםדוגמאות שנוצרו על ידי בינה מלאכותית עוזרות לאמן מערכות אחרות מבלי לפגוע בפרטיות.
באופן אירוני, חוֹסֶר דִיוּק הופך למאפיין. הזיות הופכות לדלק להמצאה.
סיכום: מכונת החלומות
הביטוי הזיית סיליקון נשמע כמו מדע בדיוני - אבל זה כבר כאן. המכשירים שלנו, שבעבר נבנו רק ללוגיקה וחישוב, מדמים כעת את היצירתיות הבלתי צפויה של המוח האנושי.
הם מערבבים, מפרשים מחדש ומדמיינים.
ולמרות שהם לא ישנים, הם חולמים - דרך פיקסלים, דרך תבניות, דרך הסתברויות.
ככל שנתקדם, ייתכן שהאתגר האמיתי לא יהיה בניית מכונות שחושבות כמונו. ייתכן שהוא ילמד לפרש מה הם חולמים עלינו.
