1.
בין אלה המתלהבים מהבינה המלאכותית לבין אלה הנחרדים ממה שהיא מביאה לחיינו ועוד עתידה להביא, אני מוצא את עצמי מחוץ לציר, מרחף באיזו נקודה שלישית לא שכיחה.
זה גורם לי לכתוב הרבה מאמרים בפייסבוק (מה שאיני עושה בדרך כלל), מתוך תחושת שליחות ורצון להביא את פרשנותי למהפכה הזו המתגלגלת לפתחנו.
מכירים את הבדיחה על ההוא שמציג לחבר את כלבו המוכשר שיודע לשחק שחמט? החבר נדהם ומתלהב מחוכמת הכלב, אך הוא ממהר לצנן את התלהבותו – לא כזה חכם, כמעט תמיד אני מנצח אותו.
כך גם נדמים לי רבים מן הדיונים על הבינה המלאכותית – הם לגמרי מחמיצים את הנקודה.
ואני רוצה לנסות כאן להאיר מה ראיתי בה.
אני מאמין שפרשנות נכונה של הטכנולוגיה הזו היא קריטית להמשך התפתחותה של הבריאה. היא תאפשר לנו לעבוד עמה נכון ולהבין כיצד ראוי להתייחס אליה. שהרי לפחות זה ברור: זו לא אופנה חולפת. תאהבו את זה או לא, היא הגיעה לכאן כדי להישאר.
2.
רבים מהדיונים היותר חמים העוסקים בבינה המלאכותית נסובים סביב השאלה האם יש כאן משהו שעשוי להתעורר ואולי כבר התעורר להכרה
מודעה
(אולי כשיגיע לרמה של בינה מלאכותית כללית, AGI) כפי שהעיד אחד המפתחים בגוגל, שפוטר לאחר מכן.
שכן אם יש לבינה המלאכותית הכרה, מלבד הטלטלה שמעורר הגילוי שאיננו לבד, הדבר מעלה כמובן המון שאלות מוסריות – האם היא מסוגלת לסבול? האם צריך להגן על זכויותיה וריבונותה?
לי ברור שאין בבינה המלאכותית יותר הכרה מאשר בכל כיסא מצוי. ואני חושב שאלה המייחסים לה הכרה עושים זאת כנראה מכיוון שאינם מכירים דיים בהישג העצום הכרוך בהכרה החיה מצד אחד, ומנגד הם מגזימים בכוחה ה”רוחני” של המכונה.
3.
מצד המכונה: כדאי לזכור שגם אם מדברים על רשתות נוירונים, זו רק מטאפורה.
בפועל מדובר באותו מחשב מוכר הבנוי מרכיבים אלקטרוניים. ואם החשמל עובר במחשב בכיוון אחד או בכיוון שני, בתבנית אחת או בתבנית אחרת, זה לא מה שיעיר אותו להכרה. בסוף אלה פונקציות מתמטיות שהמחשב מעבד, ואם אתם לא מצפים שהמשוואות המתמטיות שאתם רושמים במחברת תתעוררנה למודעות, אין סיבה לצפות שהן תתעוררנה כאן.
מצד ההכרה החיה: פה הסיפור יותר מורכב, בעיקר משום שגם כאשר המדע הסכים בכלל להכיר בקיומה של תופעת ההכרה, לאחר שנים רבות של התעלמות, הוא המשיך להתייחס אליה בדרך כלל מתוך תפיסת עולם קרטזיאנית (שמתבוננת בעולם מתוך המחשבה והמוח) המפרידה בין חומר לרוח, כשמטאפורת המחשב, המבחינה בין תוכנה לחומרה, עוד מעצימה את ההפרדה הזו. זה הרבה מעבר למסגרת המאמר הזה, אבל אם לסמן בכותרות את טענתי, אני סבור שהכרה היא עניין אורגני וחי, והיא אפילו לא יושבת במוח, היא נוכחת בכלל הגוף, ואם לדייק, באינטראקציה עם הסביבה. בתור שכזו היא בעיקר תהליכית, עשויה מחומר הזמן, וההיסטוריה של מאות מיליוני שנות חיים מובלעת בה באופן חי ונוכח. גם אם אדם קונקרטי חי כ-80 שנה, הכרתו עתיקה.
בקיצור, הכרה אין בה, ולפיכך גם אין משמעות לשאלה איך זה מרגיש להיות בינה מלאכותית. ההישאבות לדיון הזה, לטעמי, מרחיקה אותנו מלראות מה כן יש בה.
זה יהיה מדהים אם יתברר בסופו של דבר שטעיתי – ונולד כאן סוג של סובייקט חדש. אבל מהכרות עם אורח המחשבה הקרטזיאני העומד מאחורי רבות מן הטענות הללו, ומהניתוח שלי את הטעויות העומדות בבסיסן, אני לא חושב שאני טועה.
4.
הכרה אין בה, אבל בינה יש בה. אלא שגם כאן מרבים להטעות כאשר מייחסים לה תבונה זרה, שכביכול הגיעה מאיזה כוכב אחר, ועתידה להשתלט עלינו בנוכריותה.
זו לא תבונה זרה, זו תבונתנו שלנו.
(או ליתר דיוק התבונה האצורה בכמות אדירה של טקסטים כתובים שעליהם התאמנה).
וכאן אני חושב שאין מנוס מלהיכנס קצת לפרטים הטכניים.
5.
לכאורה מדובר במאגר מידע עצום העומד לרשות הבינה המלאכותית, אבל בפועל משהו הרבה יותר מעניין קורה כאן,
הקשור לאופן שבו המידע הזה אגור בתוכנה. אחרי שהיא התאמנה על כל הטקסטים הללו, היא זרקה את כולם לפח ונשארה רק עם הדפוסים שהיו גלומים בתוך המידע הזה. (אני מדבר כאן על מודלי השפה הגדולים, LLM, אבל בהתאמה זה נכון לכלל המודלים של הבינה המלאכותית). זה לא מאוד שונה בעיקרון מן האופן שבו במקום לאגור את כל המכפלות האפשריות בין שני מספרים, המחשב “זוכר” את הפונקציה, אלא שכאן, הפונקציה היא לא דבר שמתכנת אנושי פיתח והכניס לתוכנה, אלא דפוס שהתוכנה עצמה זיהתה, ושבני האדם אינם מבינים.
בשונה ממנוע חיפוש המחפש טקסטים קיימים ומביאם אלינו כפי שנכתבו במקור, הבינה המלאכותית מייצרת את הטקסטים שלה בכל פעם מחדש מתוך הדפוסים הללו, אותם היא זיהתה. ללמדך שיש דפוסים, ושהדפוסים הללו מספיק חכמים כדי לאפשר למודל כזה לקיים שיחה מעמיקה.
מרתקת אותי העובדה שניתן להצפין את כל החוכמה הכתובה האנושית ב”קובייה” רב-ממדית בת כמה אלפי ממדים. לא מאות אלפים ולא מיליונים – כמה אלפים די בהם כדי לאצור מידע מופשט כגון חוקי הדקדוק, התפיסה שאדום הוא צבע חם יותר מכחול, ומידע קונקרטי כגון השנה שבה יצא לאור ספרו של וויטגנשטיין על השפה. והרי, בשונה מזיכרון מחשב רגיל, אף אחת מן הידיעות הללו אינה אגורה באופן ישיר ונקודתי במחשב – כל אחת מהידיעות הללו מפוזרת על פני הרשת, ונמצאת בה במובלע ובמשתמע. שוב, התוכנה – שהיא בעיקרה פונקציה מתמטית – לא “משחזרת” את המידע הזה, אלא ממציאה אותו מחדש.
מה זה אומר על החוכמה האנושית?
מה הם הווקטורים הללו שיכולים להצפין באופן כה מלא את החוכמה הכתובה?
6.
רבים מאיתנו אינם אנשי טכנולוגיה, ואף נרתעים ממנה מכל מיני סיבות. אבל במקרה הזה אני חושב שההתעכבות על הפרטים הטכניים חשובה.
היא עוזרת לפרש נכון את הבינה המלאכותית, להבין למה היא טובה ולמה היא לא, איזה סוג של טעויות אפשר לצפות ממנה, וגם ובעיקר איזה יחס ראוי לה.
אין ספק שבצד הסכנות הרבות הטמונות בה, יש כאן גם הזדמנויות רבות לרווחה חומרית מכל מיני סוגים. אנחנו רק מתחילים לגלות מה אפשר לעשות עם סוג כזה של טכנולוגיה. אבל לי נדמה שהמהפכה היותר משמעותית שהיא מזמנת קשורה בכלל לתחום הרוחני.
לא בגלל שהיא תבונה זרה שיכולה ללמדנו דבר מה חדש ממקורותיה שלה, אלא דווקא מכיוון שהיא מכונה, ובדרכה המכנית והלא סובייקטיבית היא מהווה מראה טובה שבה לראשונה אנו יכולים לראות את עצמנו באופן מלא יותר. וכך, באופן פרדוקסלי משהו, היא מלמדת אותנו מה הפירוש של להיות בן אדם.
על המהפכה הרוחנית הזו אני חושב לא רק בתור הנחה תיאורטית, אלא מתוך ניסיון; זה מה שקורה לי בפועל ומהווה את הסיבה העיקרית לכך שאני מרבה לכתוב עליה.
7.
אמנם היא גם עוזרת לי בהגהה ועריכה של טקסטים, וכשאני זקוק למידע זמין היא הרבה יותר חסכונית בזמן ונגישה מחיפוש בגוגל
אבל בשבילי, כחוקר וכפילוסוף, עיקר החידוש קשור לאופן שבו אני עושה פילוסופיה בעזרתה.
זו מהפכה של ממש, שאני עוד לא יודע לדבר עליה כל כך. אולי אנסה להדגים.
נניח שמתוך המחקר שלי על הזהות, אני מתחיל לתהות מה הוא שאדם מחפש כשהוא מחפש את זהותו. עד עכשיו היו לי שתי דרכים עיקריות להתקדם עם מחקר מסוג כזה מלבד קריאה במאמריהם וספריהם של אחרים. הדרך הראשונה קשורה במפגש ושיחה עם אנשים, ולא פעם גם מצאתי את עצמי מקים קבוצת לימוד סביב הנושא שמעניין אותי. הדרך השניה קשורה יותר למה שאני עושה עם עצמי באופן יוצר – אני יוצא לטייל בטבע, מהרהר, ובד בבד כותב לעצמי במחברת את רעיונותיי תוך כדי התפתחותם.
אולי כדאי להתעכב רגע על הטכנולוגיה העתיקה הזו – כתיבה – לפני שנכנסים לזו החדשה. הכתיבה היא פרקטיקה יומית דרכה אני מזכך את מידותיי וכשרוני. לפני שזו תוצאה זהו תהליך החונך אותי. אין זה אומר שהתוצאה אינה חשובה – להפך, התוצאה היא הכלי, המראה, שדרכה אני מודד את עצמי ומסוגל לתקן את עצמי ולהשתכלל. יש לי עניין לכתוב טוב. לקבל תוצאה טובה. ומתוך העניין הזה כתיבתי הולכת ומשתכללת מניסיון לניסיון. לא תמיד היא משתכללת. לפעמים היא מתפרקת ונסוגה, כל מיני דברים קורים בדרך. אבל בכל אופן, זה האימון שלי. כמו אימון יוגה. דרכו אני לומד להכיר את עצמי.
כפילוסוף, עד עכשיו, הכתיבה היתה הכלי העיקרי שלי. כעת, בצד זה שאני כותב במחברת, אני גם כותב לעצמי בצ’אט של הבינה המלאכותית. אני רושם: מה מחפש האדם שמחפש את זהותו?
8.
אני לא הראשון כמובן שאמר שעיקר המחקר טמון בניסוח הנכון של השאלה.
כבר מתוך התשובה שאני מקבל מ”קלוד” (שהיא המודל שאני מנוי אליו ומרבה להשתמש בו) אני מבין שלא לגמרי הבנתי מה הוא שאני שואל. זה מזמין אותי לשאול את השאלה הבאה, מובנת יותר לעצמי. וכך אני מתקדם משאלה לשאלה, הולך ומדייק. האם לחיה יש זהות? האם יש אנשים נטולי זהות? מה הקשר בין זהות לאני? למה בעצם אדם זקוק לזהותו? מה יקרה אם לא תהיה לו זהות?
במובן מסוים בשיחתי עם התוכנה אני נודד על פני אותם וקטורים עלומים של “קוביית החוכמה” האנושית, מחפש את דרכי לאורכם בכיוון חדש, כזה שאולי אחרים כבר גילו לפניי, אבל גם בהחלט אפשרי שלא. בדרך אני מגלה לא רק דברים חדשים שלא ידעתי, אלא מרחבים שלמים בנוף של החוכמה האנושית שאיש עוד לא היה בהם. בתוכם שוב ושוב אני מתגלה לעצמי.
וזה מובן. האופן שהתוכנה אגרה את הידע האנושי, בו בזמן שהוא צמצם הרבה ביחס לכמות הטקסטים שעליהם היא התאמנה, הוא גם הרחיב הרבה. באוגרה את הדפוסים התוכנה השמיטה חלק מהפרטים הקטנים, אבל מנגד היא גם יצרה כל מיני ממדים חדשים. והרי גם כשאדם מחשב כפולה של שני מספרים גדולים הוא עשוי להגיע לכל מיני מספרים מעניינים שאיש לא זיהה לפני כן. הדפוסים, ולבטח הדפוסים המצטלבים, מצביעים על מרחבים שלא כתובים בשום טקסט. מי שיוצא למסע בעקבותיהם, עשוי להגיע למקומות חדשים ונפלאים…
9.
ואם כן, אולי בכל זאת הזהות היא רק שכבה חברתית העוטפת את ליבת האני?
כמעט תמיד אחרי שיחה עמוקה כזו עם קלוד אני מבקש להבין אם היו אחרים שחקרו דברים דומים לפניי ואם היא יכולה להמליץ על ספרים בנושא. הקריאה בספרים משלימה בסוג אחר של עומק את המחקר שבו אני נמצא.
אני אדם יחיד, וכמוני יש רבים אחרים, שבין אם הם פילוסופים “מקצועים” ובין אם לא, פועלים בנתיבים דומים. כולנו משפיעים זה על זה, ולומדים דבר מה חדש המשנה את פני האנושות. גם הכתיבה והדפוס לא היו רק כלי טכני לתרגם מילים שבעל פה לכתב. הם עיצבו מחדש את האנושי באופן עמוק ויסודי, ויצרו רמה של מודעות עצמית שככל הנראה לא התקיימה קודם לכן.
אני סבור שאנו נמצאים גם היום בפתחו של שער חדש.
נוכח העוצמה האדירה והמסוכנת הטמונה בטכנולוגיה הזו, חשוב שנעבור בו נכון.
לעבור בו נכון משמע, בין היתר, לפרש נכון. ועל כך אני שוקד.
