סיעור מוחות - פרק 2 | בינה, מלאכותית

מה הקשר בין בינה מלאכותית לבין המוח הביולוגי שלנו? איך ייראה עתיד האנושות בצל הטכנולוגיה? והאם אפשר לייחס אנושיות ל-ChatGPT? עם פרופ' עידן שגב מהאוניברסיטה העברית.

---

תאריך עליית הפרק לאוויר: 06/01/2024.

פרופ' מודריק: שלום ותודה שהצטרפתם אלינו, היום אנחנו עם מוח מסוג אחר לגמרי, כזה שלא צורך חמצן ואין לו נוירונים, אבל הוא מבטיח או מאיים לשנות את פני האנושות.

[פתיח] "סיעור מוחות" עם ליעד מודריק.

פרופ' מודריק: הנושא שלנו היום, כמו שבטח ניחשתם, הוא בינה מלאכותית. ואיתי כאן פרופ' עידן שגב, ממרכז אדמונד ולילי ספרא למדעי המוח באוניברסיטה העברית. שלום לך.

פרופ' שגב: שלום ליעד.

פרופ' מודריק: אתה מקבל את ההקבלה הזאת שעשיתי, שזה מוח מסוג אחר? או שלא היית בכלל מתייחס לבינה מלאכותית כאל מוח.

פרופ' שגב: לא, הייתי מתייחס אליו כאל מוח, כאל מסוג אחר, אבל לא לגמרי אחר, כי הוא מושרה מתובנות שיש לנו על המוח שלנו.

פרופ' מודריק: כי התחום הזה של בינה מלאכותית בעצם קיבל, באמת, כמו שאתה אומר, השראה מרשתות נוירונים, ככה זה התחיל.

פרופ' שגב: נכון, מרשתות נוירונים ומתאים בודדים ומהקשרים ביניהם שנקראים סינפסות. יש מרכיבים ב-AI, ברשתות העמוקות המלאכותיות, שמושרים… או קיבלו השראה ממה שהבנו על המוח ואז פישטו אותם. אבל זה לא מנותק לגמרי מהמוח, כמורה.

פרופ' מודריק: כן, אבל תסביר לנו באמת, איך בינה מלאכותית… נניח נתחיל בכזה, בינה מלאכותית, one o one, ממש מבוא, איך זה עובד?

פרופ' שגב: כן, אז קודם כל זה שם מאוד מאוד רחב בינה מלאכותית, יש בזה המון אספקטים, זה התחיל בשנות ה-40, 50, בארצות הברית, אבל אני מניח שאת מתכוונת לבינה המלאכותית המודרנית.

פרופ' מודריק: כן.

פרופ' שגב: זאת שכולנו שומעים במידה זו או אחרת, ChatGTP [הטעות במקור], רשתות נוירונים עמוקות, למידה, וכל ההתרגשויות החדשות, שאנחנו… באמת מהפכה פנומנלית שקורית בימים אלה. אז כשאנחנו מדברים על הבינה המלאכותית המודרנית הזאת, אז היא מורכבת, הרשתות שמממשות את התפקידים של הבינה המלאכותית, כמו לזהות האם זה חתול או עכבר, או האם זה א' או ב', או אם זה מילה אחת לעומת מילה שנייה, הרשתות העמוקות האלה, הן עצמן מורכבות מיחידות, שנקראות תאים מלאכותיים או תאי עצב מלאכותיים, artificial neuron. והם, כשבנו אותם לאחרונה, ממש בשנים האחרונות, בנו אותם כך שהן תהיינה, הרשתות האלה בנויות משכבות של נוירונים מלאכותיים, שכבה א', זאת שכבת הקלט, שמסתכלת על החתול, ואחר כך… או על הכלב, ואחר כך שכבה יותר עמוקה, ושכבה יותר עמוקה, ושכבה יותר עמוקה, עומק גדול של שכבות, והשכבה האחרונה, אותו תא עצב או עצב מלאכותי האחרון, הוא זה שצריך להחליט אם זה חתול או עכבר.

פרופ' מודריק: כן.

פרופ' שגב: בהתחלה הרשת לא יודעת כלום, היא לא ראתה חתולים והיא לא ראתה עכברים, אז אתה יכול להציג לה חתול כקלט, ובפלט, אחרי שהאינפורמציה תרוץ בין השכבות פנימה פנימה פנימה, ותצא בחוץ, כפלט, 0 או 1, אתה רוצה, נגיד, ש-1 יהיה ייצג חתול, ו-0 כל מה שהוא לא חתול.

פרופ' מודריק: כן.

פרופ' שגב: אז אתה צריך ללמד את הרשת להגיב לכל החתולים ב-1 בסוף, ולכל הדברים שאינם חתולים ב-0 בסוף, וצריך ללמד אותה לעשות את זה.

פרופ' מודריק: אז אתה מלמד אותה באמצעות משוב, וזה מה שנקרא למידה, נגיד, מוכוונת, או supervised learning, נכון?

פרופ' שגב: נכון, נכון. מישהו יושב ואומר, הנה, זה חתול, חתול א', חתול ב', חתול ג', קיבלת קלט, מסתכל על הפלט, אם במקרה הרשת המחווטת הזאת, מוציאה 1 בסוף, אתה לא נוגע בשום דבר, ואם הרשת העמוקה הזאת חווה חתול ב', ומוציאה 0 בסוף, אתה צריך לחזק חלק מהקשרים או לשנות חלק מהקשרים בעומק הרשת, כך שגם עבור חתול ב' יהיה 1.

פרופ' מודריק: עד שהיא תלמד לזהות את כל החתולים.

פרופ' שגב: כן, אבל מה שיפה ברשתות, וזאת הייתה הפתעה גדולה, ולא מובנת מאליה בכלל, שאחרי שנתת מספיק דוגמאות לרשת כזאת עמוקה, שיש בה המון המון שכבות והמון קשרים, שאתה יכול לעשות עליהם מניפולציות של חיזוק והחלשה, המון סינפסות מלאכותיות, אז היא הכלילה.

פרופ' מודריק: כלומר, גם כשהביאו לה תמונה חדשה, או נתנו לה, הציגו לה תמונה חדשה של חתול, היא כבר ידעה לומר שזה חתול, אפילו שאף אחד לא יושב שם ואומר לה חתול או כלב.

פרופ' שגב: נכון, נכון. וזה דבר שקורה גם לנו, הרי לא ראיתי את כל החתולים בעולם, מלכתחילה, כשלימדו אותי שזה חתול, אבל משהו במערכת שלי יודעת להכליל, באופן אסוציאטיבי, מרוב חתולים, נבנה לי שם איזה פרוטוטייפ כזה של חתול ועכשיו יבוא חתול חדש או אות א' חדשה, או אני לא יודע, או מעבר חצייה חדש, ואני עדיין אזהה את זה ב-99% וכך הלאה מהמקרים, שזה באמת הדבר ההוא.

פרופ' מודריק: כן, אבל אפילו יותר מדהים מזה, זה שיש גם רשתות שלומדות לבד, מה שנקרא unsupervised.

פרופ' שגב: unsupervised, זה נכון, זה עוד, זה עוד, אז זה טכניקת הלימוד. אז איך מלמדים את הרשת, האם צריך לתת שוב להגיד, לסמן שזה חתול, שזה חתול, או שמתוך הדוגמאות היא עושה קלסיפיקציה לבד.

פרופ' מודריק: היא מחלצת את המכנה המשותף.

פרופ' שגב: נכון, והיא יודעת שזה מכנה משותף של קבוצה א' וזה מכנה… בלי שתגיד לה מראש שזה חתול וזה כלב, אבל היא יודעת שזה שונה מזה.

פרופ' מודריק: אבל הזכרת קודם שבעצם הקונספט הזה, של בינה מלאכותית, רְשתות נוירונים, או רִשתות נוירונים כבר קיים מאז מחצית המאה הקודמת.

פרופ' שגב: נכון.

פרופ' מודריק: אבל משהו קרה, בעשר, עשרים השנים האחרונות, שאנחנו נמצאים באיזו מקפצה אטומית, לעבר יכולות שאנחנו לא חשבנו שיהיו בכלל אפשריות. מה הדבר הזה? זה היה מהפכה טכנולוגית? זה היה מהפכה קונספטואלית?

פרופ' שגב: לא, אני חושב שרוב הקונספטים כבר היו קיימים באמצע המאה שעברה או לקראת סוף המאה, ה-80 או ה-70 של המאה שעברה, אבל קרו שני דברים חשובים. קודם כל, הכוח החישובי, שאגב דורשת הרשת כזאת כדי ללמוד, דורשת המון כוח חישובי, כי אתה צריך לעשות מניפולציה על כל אחד מהקשרים בשביל לשנות אותם בהתאם, כך שזה יגיב נכון לחתול וכך הלאה, אז צריך כוח חישובי גדול, לייצג את הרשת בתוך מחשב, וב-real time להראות לו חתול, ושיוציא 1 עבור חתול, זה דורש כוח חישובי גדול, וזה השתנה, כמובן, ב-20-30 שנה, בה הגענו לכוח חישובי עצום. ועוד מה שקרה, וזה גם מאוד חשוב, זה שיש data base גדול. יש הרבה חתולים ברשת, או הרבה מעברי חצייה ברשת, יש המון דוגמאות לתת ברשת, וזה גם עלה המון.

פרופ' מודריק: בזכות האינטרנט.

פרופ' שגב: בזכות האינטרנט, שמורים החתולים, שמורים הכלבים, ועכשיו אפשר להשתמש בהם כקלט, עבור… מסומן כבר, כתוב שם שזה חתול, חתול, חתול, חתול, והשילוב הזה של כוח חישובי גדול ואוסף ענק של דוגמאות, מדובר על מיליונים, רבים, הוא אפשר את זה, פלוס, כן, כן, אלגוריתם של איך ללמד את הרשת, כשהיא שוגה איך בדיוק לתקן, זה נקרא Back Propagation Algorithm, כאלה כשיש טעות הוא מתקן לאחור מהטעות הלא נכונה, הוא הוציא 0 במקום 1, אז הוא צריך לתקן את החוזק של כל, כל, כל הסינפסות בחזרה בחזרה, עד שכבת הקלט, כך שחתול מספר 2 כן יוציא 1, אז זה אלגוריתמים טיפה חדשים, אבל רעיונות כבר היו קיימים, התיאורטיים.

פרופ' מודריק: אבל הרעיון הזה שנגיד, מה שנקרא, למידה עמוקה, Deep Learning, שיש את השכבות החבויות האלה…

פרופ' שגב: היה קיים כבר קודם.

פרופ' מודריק: היה קיים, רק לא יושם ממש?

פרופ' שגב: לא יושם, ולא היה יכולת לעשות deep כל כך.

פרופ' מודריק: כן.

פרופ' שגב: מסתבר שאתה צריך את ה-depth הזה.

פרופ' מודריק: הבנתי.

פרופ' שגב: צריך… זה מספיק עמוק הרשת, ששוב, לא ברור בדיוק עד היום, אין תיאוריה.

פרופ' מודריק: כן.

פרופ' שגב: זה גם מעניין, זה עובד טוב, מתוך ניסוי וטעייה, אבל לא ברור, אין תיאוריה אחת שלמה, שאומרת, תשמע, בגלל שזה כך וכך עמוק, וכך וכך רחב, יש כך וכך נוירונים לרוחב, וכך וכך נוירונים, היא יודעת לעשות את זה. כי אם זה היה, לא הייתי צריך ללמד את הרשת, הייתי בונה אותה מלכתחילה כרשת חתולים.

פרופ' מודריק: כן.

פרופ' שגב: לא הייתי צריך לאמן אותה. אין תיאוריה ועובדים על זה מאוד חזק.

פרופ' מודריק: אבל אני רוצה, מבלי להמעיט בהישגים העצומים של התחום הזה, אני רוצה רגע להרים את הדגל הנגיד ברינופילי, המצאתי מילה, של אוהבי המוח.

פרופ' שגב: כמוני.

פרופ' מודריק: [צוחקת] בדיוק. כי היא מדהימה, מה שהיא יכולה לעשות, הבינה המלאכותית, אבל למשל, הזכרת את החשיפה, היא צריכה, כדי ללמוד את ההבדל בין כלב לחתול, היא צריכה מאות אלפי דוגמאות.

פרופ' שגב: נכון.

פרופ' מודריק: בני אדם, תינוקות, לומדים את ההבדל בין כלב וחתול, לפעמים אפילו על כמה, בכמה מקרים בודדים, מספיק כמה הצבעות בודדות, כדי שילדים ילמדו את הקונספט הזה. אז בכל זאת, המוח שלנו… וצורך הרבה פחות אנרגיה…

פרופ' שגב: או על זה נדבר, על עניין האנרגיה.

פרופ' מודריק: כן.

פרופ' שגב: זה בעניין… עולה הרבה כסף, כל ה...

פרופ' מודריק: בדיוק.

פרופ' שגב: אנשים לא מבינים שכשהם שואלים שאלה ב-ChatGTP, והוא עונה להם, אני לא יודע, משפר להם את המשפט, מתקן להם את האנגלית, אני לא יודע, זה המון אנרגיית חישוב נעשית שם ב Open AI, אני לא יודע, בחלל, במרחב, בענן.

פרופ' מודריק: אז כשאנחנו כותבים שאלה ל-ChatGPT, אנחנו צריכים לקחת בחשבון שזה יקר.

פרופ' שגב: כמות פנומנלית של… מחיר מאוד מאוד יקר, על זה נדבר, כי יש היום מאמצים גדולים למצוא שיטות, לעשות את זה בזול אנרגטי כמו המוח. זה בעיה אחרת. את צודקת שלמוח, יש יכולות של… לפעמים קוראים לזה, One-Shot Learning.

פרופ' מודריק: כן.

פרופ' שגב: בזמן מאוד קצר, במיוחד אם זה חוויה רגשית מאוד משמעותית, נגיד תאונת דרכים, או משהו מאוד חשוב שקרה לך, גם חיובי, אתה לא צריך שוב ושוב ושוב להדגים אותו בשביל שתזכור את האירוע הזה. זה אנחנו לא יודעים לעשות ברשתות מלאכותיות, עדיין.

פרופ' מודריק: כן.

פרופ' שגב: מה שאומר שלמוח יש פטנטים אחרים.

פרופ' מודריק: איפה עוד יש הבדלים? נגיד אני יכולה לחשוב, נניח, על בינה כללית, מה שנקרא, General Intelligence. אנחנו יכולים ללמוד הרבה תחומים, בינה מלאכותית בדרך כלל היא מאוד ממוקדת. GPT יודע לעשות הרבה דברים, בתחום שפה, אבל עכשיו תיתן לו דברים אחרים, יהיה לו קצת יותר מורכב.

פרופ' שגב: נכון.

פרופ' שגב: אז זה גם כיוון שמנסים ללכת אליו, ה-General Intelligence.

פרופ' מודריק: כן.

פרופ' שגב: General AI כן, כי זה אנחנו, כן. אותה רשת עצמה אצלי במוח, יכולה גם להרגיש רגשות, גם לזהות פרצופים, גם להפעיל תנועה, כן, מראייה, אני מזיז את היד. כל הדברים האלה, שיש לנו חבויים באותה קופסה, ברגע זה מחולקים לביצועים או יכולות שונות, כל אחת עם המומחיות שלה. והיא לכשעצמה יכולה לעשות את זה טוב יותר ממני.

פרופ' מודריק: כן, כלומר, במה שהן הופכות להיות מומחיות, הן מומחיות גדולות.

פרופ' שגב: מאוד.

פרופ' מודריק: כן.

פרופ' שגב: הן צריכות ללמוד הרבה דוגמאות וכך הלאה, ואנחנו יודעים, וזה באמת מוביל, מוביל את העולם כולו היום לנסות ללמוד מהמוח, כדגם מוצלח. גם לעשות את הדברים בזול יותר אנרגטית, אבל בעיקר לעשות את זה בפחות דוגמאות ובהצלחה גדולה יותר, וגם ברוחב גדול של יכולות רבות, מולטי יכולות ולא רק דבר אחד, כמו ש… וגם קיפוד וגם שועל, מושגים של… כן.

פרופ' מודריק: כן.

פרופ' שגב: אז אנחנו יכולים לעשות הרבה דברים, והשאלה היא מה מייחד את הרשתות שלנו, שלא קיים ברשתות המלאכותיות?

פרופ' מודריק: אבל תגיד, מה מפתיע אותך? אתה כבר הרבה שנים מתעסק בזה. אני, נגיד, הרבה פעמים, אני רואה… אני נדהמת ממה ש-AI יכול לעשות היום. אתה מופתע או שמבחינתך זה...

פרופ' שגב: מאוד, אני חושב הממציאים של זה, ג'ף הינטון למשל, שהוא אחד מראשי האחרים שפיתחו את זה, הם לא הבינו עד כמה חזק הדבר שהם פיתחו, הם נבהלו במובן מסוים, בגלל כל ההשלכות.

פרופ' מודריק: כי מה? ממה?

פרופ' שגב: יש הרי השלכות אתיות ואחרות, והם יחליפו אותנו, ואפשר לדבר על זה, אבל אני אומר, הם עצמם, אתה מפתח טכנולוגיה ולא יודע לאיזה הישגים היא תשיג, הטכנולוגיה הזאת. אני למשל, עד היום, כשאני משתמש ב-ChatGTP, הוא גם מתקן לי את האנגלית, וגם מציע לי דברים שאני לא חשבתי עליהם בעצמי, לא מזמן אני ביקשתי איזה כותרת למאמר…

פרופ' מודריק: [צוחקת] שהוא יתן לך כותרת למאמר?

פרופ' שגב: חשבתי על כותרת א', חשבתי על כותרת ב', חשבתי על כותרת ג', זה היה בסדר. אבל אמרתי, בוא ניתן לו, בוא ננסה איתו. אמרתי לו מה אני רוצה, על מה מדובר, הוא נתן לי כותרת שלא חשבתי עליה. אז זאת הפתעה.

פרופ' מודריק: אז זהו, אולי היצירתיות, זאת אומרת, אני ביקשתי מ-ChatGPT לתכנן לי טיולים, עוד לא נתתי לו כותרת למאמר, שמעתי על חוקרים שביקשו ממנו לחשוב על רעיונות לניסויים חדשים שהוא יכול לעשות. אז אין ספק שזה די מדהים, פה יש כן רוחב, זה אמנם בתוך שפה, אבל רוחב המטלות שאפשר לתת לו, והוא מצליח לתת תשובה טובה.

פרופ' שגב: וחדשה.

פרופ' מודריק: וחדשה.

פרופ' שגב: שלא חשבתי על… איזה מין פרטנר שממציא לי המצאות, שממציא לי פטנטים. הוא נותן לי שם שלא חשבתי עליו, ואני לוקח אותו ואני רוצה להודות לו על זה. לא, באמת.

פרופ' מודריק: אתה כותב לו? אני הרבה פעמים כותבת "תודה רבה", אני נורא מנומסת אל ChatGPT, אני לא יודעת למה, אבל אני חשה צורך. [צוחקת]

פרופ' שגב: יש, יש, הוא מתנהג כמו פרטנר, הוא מגיב כמו דבר שמאחורה יש אדם. איך הוא המציא כזה שם?

פרופ' מודריק: תכף אנחנו נגיע לזה, נדבר קצת על מודעות ותודעה.

פרופ' שגב: זה כבר התחומים שלך.

פרופ' מודריק: [צוחקת] בכל זאת, ננסה לצלול גם לשם. אז היצירתיות, זה מבחינתך ההפתעה הגדולה ביותר?

פרופ' שגב: כן, אני חושב ניכסנו לעצמנו, כמו שאנחנו נוטים לעשות במשך שנים, דברים שהם אנושיים בלבד. יצירתיות, זה בעיניי, בכלל, בתור אדם, אני לא חקרתי יצירתיות, אבל זה נראה לי ה-דבר הפנומנלי של המוח האנושי, זה לא שימפנזה מייצר דברים חדשים, או כלב, משהו במוח הזה, אני לא יודע מה, מאפשר לנו לחבר משפטים חדשים או ליצור שיר חדש או רעיון מדעי חדש. זה, חשבתי שהוא באמת משהו, ניכסתי אותו לעצמי, וחיבקתי אותו, ולא האמנתי שיש דבר שיכול להיות יצירתי במובן המלא של המילה. כל הגדרה שתתני ליצירתיות, זה קורה שם. כולל פתרון של בעיות מדעיות שלא הצלחנו לפתור קודם.

פרופ' מודריק: כן, אתה חושב? אבל כי יש הרבה אנשים שאומרים, לא, הוא רק ממחזר את הקיים, הוא לא יוצר חדש.

פרופ' שגב: תראי, למשל, הדוגמה שאני לוקח כדוגמה פנומנלית, זה השאלה של קיפול חלבונים. מה שנקרא AlphaFold. חלבון צריך, בשביל שיתפקד חלבון, זה העבודות של צ'חנובר, בין השאר, חתן פרס נובל, החלבון צריך להתקפל בתלת מימד בקיפול נכון, כדי שהוא יממש את הפונקציה שלו. אבל אנחנו לא מבינים איך לבנות חלבון שיהיה לו כזה מבנה מרחבי ולא כזה מבנה מרחבי, אין לנו מודל. למרות שיש פרס נובל על זה, של מיכאל לויט, שהוא גם נובליסט חצי ישראלי, שפיתח מודלים פשוטים של קיפול חלבונים. אבל לא פתרנו את הבעיה, ולכן לא יכולנו לתכנן חלבונים ולכן לא תרופות, שתעשינה את העבודה התלת מימדית והנכונה. אבל ה-AI פתרו את זה. נתנו להם המון דוגמאות של המבנה החד-ממדי, של חומצות האמיניות, שמרכיבות חלבון, אבל באופן חד… שרשרת חד-מימדית. ראו איך היא מתקפלת לתלת מימד, המון דוגמאות כאלה, ומצאו את הקשר על ידי דוגמה ופלט, דוגמה ופלט. בסוף אפשר לתכנן חלבון. על זה אם היה עושה את זה מדען…

פרופ' מודריק: היה מקבל פרס נובל.

פרופ' שגב: ללא שום ספק.

פרופ' מודריק: [צוחקת] אגב, זה די מדהים, כי אני זוכרת שכשהייתי צעירה יותר, יותר… כשהייתי צעירה, נקודה. אני כבר לא צעירה, זהו. כשהייתי צעירה...

פרופ' שגב: על זה אפשר לדבר… מה זה, מה זה, לדבר.

פרופ' מודריק: אז אמרו שמחשבים יום אחד יחליפו את נהגי המשאיות, את רואי החשבון, אבל בעצם אנחנו רואים היום שה-AI יכול להחליף מדענים ועורכי וידאו ויוצרי סרטים וסופרים, אולי. זאת אומרת, דווקא המקצועות שלכאורה חשבנו שהם יישארו "מותר האדם", הם היום המקצועות שנמצאים אולי הכי בסכנה.

פרופ' שגב: אני מסכים. דווקא המקצועות שחשבנו, רופא...

פרופ' מודריק: כן.

פרופ' שגב: אני לא יודע לגבי מדען, אפשר לדבר איזה חלק מה...

פרופ' מודריק: הנה, אמרת פרס נובל הרגע.

פרופ' שגב: כן, נכון, נכון. אבל מישהו צריך להציג את הבעיה.יש גם מרכיב אחר, זה צריך לשאול את השאלה הנכונה.

פרופ' מודריק: כן.

פרופ' שגב: השאלה אם יכולים לשאול את השאלות הנכונות.

פרופ' מודריק: או שיכול להיות שאתה ואני בהכחשה פשוט. [צוחקת]

פרופ' שגב: יכול להיות, יכול להיות, יכול להיות, יש מרכיב של הכחשה בקשר לדבר הזה. אבל זה נכון שלפחות ברגע זה, המקצועות שחשבנו שהם המורכבים ודורשים לימוד, כמו למשל רפואה, לעשות דיאגנוסטיקה של מחלה, צריך מומחיות של שנים ולראות הרבה חולים, וכל זה מה שנכון…

פרופ' מודריק: כן.

פרופ' שגב: אבל זה מכונות יכולות לעשות לא פחות טוב מהרופא.

פרופ' מודריק: אז עמיתינו והרופאים יגידו, לא, צריך למשש, צריך לראות בעיניים, צריך...

פרופ' שגב: אני לא חושב.

פרופ' מודריק: לא.

פרופ' שגב: אם, את המרכיב האמפתי, כחלק מתהליך הרפואה, זה עניין אחר.

פרופ' מודריק: אבל את האבחנה, אתה חושב...

פרופ' שגב: האבחנה של פרקינסון או מחלה אחרת, סרטן א', תיתן לה מכונת דאטה, היא תעשה את זה יותר טוב מאדם. כי יש לה בכל זאת אפשרות להסתכל על מרחב עצום של נתונים. מצד שני, המטפלת בבית, נגיד, אני יודע, המטפלת של הזקן, או הזקנה שמחליפה, זה להחליף ב-AI, כלומר לבנות רובוט שיודע להחליף סדינים, ושיודע להכניס למקלחת, ולטפל וכך הלאה, כל הצד התנועתי, המוטורי של הרובוט, בזה אנחנו עדיין מאוד רחוקים. אז במובן מסוים, דווקא המקצועות הכאילו פשוטים יותר, שדורשות גוף, מגע, וכך הלאה, זה עדיין אנחנו לא שם. המקצועות כאילו אינטלקטואליים, שדורשים ידע, אם יש מספיק ידע ברשת, ה-AI יתפוס את העיקרון, ויגיד בסיכוי כזה, יש לך פרקינסון, בסיכוי כזה, יש לך כזה, וככה הרופא לא צריך להיות שם.

פרופ' מודריק: אז כשאתה מסתכל קדימה, מה אתה רואה?

פרופ' שגב: או מתכנתים, הסטודנטים שלי כבר לא מתכנתים.

פרופ' מודריק: נכון, יש היום גם בתוך, זה די מדהים, יש היום מתכנתים שעובדים על AI שיחליף אותם, הם כאילו ממש כורתים את הגזע שעליו הם יושבים. [צוחקת]

פרופ' שגב: ממש, כן, אבל הסטודנטים שלי, שאהבו מאוד לתכנת, מתכנת כבר על-AI, ה-ChatGTP הוא רק אומר לו מה הוא רוצה שיקרה, הוא עושה לו את רוב… כתוב, תוכנה, כתובה, מודפסת, הוא לא מתכנת, אז הוא צריך לעשות דבר אחר, זה משחרר אותו לחשוב אחרת.

פרופ' מודריק: יש עכשיו מקצוע חדש, זה prompt engineer, זאת אומרת, מהנדסי הבקשות מ-GPT, כדי שיתן לך את התשובה הכי טובה.

פרופ' שגב: איך להנדס את השאלה נכון.

פרופ' מודריק: איך להנדס את השאלה נכון, שזה גם מעניין. אז כשאתה מסתכל קדימה, ואתה יודע, אני לא מבקשת ממך להתנבא, בטח אם היינו מנסים להתנבא לפני עשר שנים, על מה שיקרה היום, לא היינו מצליחים.

פרופ' שגב: הניבואים האלה זה...

פרופ' מודריק: נכון, אבל בכל זאת, לאן זה הולך לדעתך?

פרופ' שגב: תראי, יש לי פנטזיות. הפנטזיה העיקרית היא… כי אחת השאלות, אני בדיוק… אני העברתי קורס ארוך, בשלוש שנים האחרונות, עם יובל נח הררי, על השאלה של עתיד הטכנולוגיה ועתיד האנושות. אני דיברתי על טכנולוגיות, לא רק AI. ביולוגיות, רחם מלאכותי, יש עוד טכנולוגיות שמתפתחות, שישנו את פני המין האנושי, כנראה. אבל זאת ללא ספק, זה קורה, כבר לא אולי.

פרופ' מודריק: כן.

פרופ' שגב: ויש פחדים מזה, וכך הלאה. אבל אם זה יתפתח בכיוון הנכון, חוץ מהפחדים הגדולים, של שקר, של מה זה אמת, ושל מי, מי המניפולציות…

פרופ' מודריק: כלומר פייק ניוז, סרטונים מעובדים.

פרופ' שגב: פייק ניוז, כלומר מי בכלל מדבר איתך, אם זה הוא אמר או לא אמר, וכל העניינים האלה של איפה האמת? איפה נמצאת את האמת?

פרופ' מודריק: ואיך נזהה אותה?

פרופ' שגב: איך נזהה אותה, יש שאלות אחרות, כן. אבל בהנחה שנתגבר, איכשהו, על הדברים האלה, וחלק גדול מהמקצועות, שחשבנו ש… וזה מעלה שאלות, איך לחנך את הילדים, לאיזה כיוונים, מה, ללמד אותם מחשבים? כן ללמד אותם מחשבים? פעם חשבנו שזה דבר, ה-דבר. אני אתן לילדים שלי כלים במחשבים, אז יהיה להם מקצוע בעתיד.

פרופ' מודריק: עכשיו אתה אומר אין צורך כי GPT יכול לתכנת במקומם.

פרופ' שגב: למשל.

פרופ' מודריק: הם צריכים ללמוד לחשוב.

פרופ' שגב: אז בפנטזיה שלי, המין האנושי יגיע לדבר החשוב שהוא צריך לעשות.

פרופ' מודריק: לנוח.

פרופ' שגב: להרגיש.

פרופ' מודריק: להרגיש.

פרופ' שגב: להרגיש. לנוח, כן. להתעסק בתחביבים, יכול להיות כל תחביב, הוא יכול להמשיך לתכנת, או יכול להמשיך לשחק שחמט, או לנהוג אם הוא רוצה, למרות שיש מחשבים. זה לא שלא…

פרופ' מודריק: כן.

פרופ' שגב: אבל אני אומר, יש דברים שלא יכולנו להרשות לעצמנו, או לא התפנינו מספיק.

פרופ' מודריק: מעניין.

פרופ' שגב: אנחנו לא מוכשרים מספיק לזה כי לא טיפלו באספקט הזה, כי אמרו לנו שאתה צריך למצוא את המקצוע בחיים. אבל אם תהיה, לא יהיה מקצוע. יהיה כסף מהרובוטים, יש תחום שלם של איך לעשות Taxing של רובוט. מישהו צריך לשלם, מישהו צריך לשלם, הכלכלה צריכה להתנהל, אבל אם אני לא אעבוד ואני לא מכניס כסף, אז צריך לטפל בצד הכלכלי.

פרופ' מודריק: אבל זהו, יהיה צריך להיות איזשהו מנגנון שיאפשר לאנשים, הרי מעמדות… מה אתה רואה מצב שלא יהיו מעמדות כלכליים? כולנו נהיה...

פרופ' שגב: הייתי, אני…

פרופ' מודריק: הלוואי, אתה אומר, פנטזיה.

פרופ' שגב: דיברנו על הפנטזיה.

פרופ' מודריק: נכון, נכון.

פרופ' שגב: אם הרובוטים יעשו את העבודה, והם ינהגו, והם ישלמו גם את ה… הרובוט ישלם את המס הכנסה, וכך הלאה, ויהיה לי זמן לי, לנו, זמן.

פרופ' מודריק: לחשוב.

פרופ' שגב: נוכל לדבר אחד עם השני, הרבה שעות, בלי שום מטרה, אלא מטרת תקשורת, מטרת הבנה, מטרת אינטרוספקציה, מטרת התקרבות, זה נראה לי עולם נכון.

פרופ' מודריק: אבל אתה יודע שאנשים, זה מעניין מה שאתה אומר, כי אתה אומר לדבר בלי מטרה, ואני ישר שומעת, מתחיל לזמזם לי שעמום בראש, והאנשים הם מאוד לא אוהבים להשתעמם. יש מחקר של חוקר, נדמה לי ששמו ווילסון, שנתן לנבדקים ונבדקות להיכנס לחדר, במשך רבע שעה, לא היה שם שום גירוי אחר, לקחו להם את הטלפונים הסלולריים, הדבר היחיד שהיה שם, זה שוקר חשמלי. והם, חלק גדול מהם נתנו לעצמם שוקים חשמליים פשוט כי היה להם משעמם. הם לא יכלו לסבול את הישיבה ללא מעש, ללא מטרה, ללא גירוי.

פרופ' שגב: אבל זה בעולם שלנו.

פרופ' מודריק: אבל זה בעולם שלנו, אז אתה מדמיין עולם שנרגיל את עצמנו…

פרופ' שגב: כן, אני חושב שזה יהיה עולם מדהים, משגע, עמוק מאוד. שוב, אני לא אומר שלא נעשה כלום, שנשכב על הגב. אני לא אומר שלא נעשה פעילות גופנית.

פרופ' מודריק: נכון, זה אני אמרתי לנוח. מחקתי.

פרופ' שגב: כן, פעילות גופנית ונלך לשחות, אני לא אומר שלא נעשה פעילויות. אבל, תכף אני אתן לך דוגמה. יש לי חבר שהיה… שהתעשר מאוד בשוויצריה, מאוד, ויכול היה להמשיך לעשות… ובגיל 50, והוא החליט להפסיק לעשות שום דבר. וכשאתה שואל אותו "מה אתה עושה?", הוא אומר "כלום". אז כשהוא אמר לי כלום בהתחלה, זה די זיעזע אותי, הרי אני בכל זאת קרייריסט, ורוצה לעשות דברים ולהשפיע על העולם, ולשנות אותו וכל… כלום. אמרתי לו "אתה מתכוון לכלום?" הוא אמר "כלום". כשאתה שואל אותו אחר כך, אחרי כמה שנים של התרגלות לכלום, כי בכל זאת הוא בא מהעולם שמצפה ממנו להגיד מי אתה? מי אתה? אתה מתמטיקאי? אתה פרופסור? אתה איש עסקים? מי אתה?

פרופ' מודריק: כן.

פרופ' שגב: הוא אמר כלום, למדתי להעריך אותו מאוד, כי הכלום הזה במרכאות שלו, הפך למשהו של קריאת ספרים, של פגישה ארוכה עם אנשים, של יכולת הקשבה. אני לא הכרתי אותו לפני הכלום אז אני לא יכול להגיד מה היה לו לפני זה, כן, אבל הוא עבר ללא ספק תהליך, שאיפשר לו להיות במצב שאני חושב שהוא מצב פנומנלי.

פרופ' מודריק: זה מעורר קנאה.

פרופ' שגב: לגמרי. אנחנו, אני כנראה לא בנוי לעניין הזה של הכלום, אבל יש לי הערכה גדולה לאנשים שיודעים להיות עם עצמם, לבד, לא על ידי שוק חשמלי. על ידי אינטרוספקציה, מדיטציה ותקשורת עם האחר, להכיר את האחר, את העולם הפנימי האפשרי, האחר, אנחנו לא יודעים לעשות את זה.

פרופ' מודריק: תשמע, זה נשמע...

פרופ' שגב: זה נראה לי העולם המאפשר הזה.

פרופ' מודריק: כן, מעניין כי...

פרופ' שגב: אבל שוב, זה פנטזיה, אני לא יודע לאן זה ילך.

פרופ' מודריק: ויש לי גם תחושה שהאנשים החזקים, אולי עכשיו אני מדמיינת, לא יתנו לזה לקרות. מי שנמצא בקצה של פירמידת המעמדות, אין לו אינטרס גדול...

פרופ' שגב: נכון, אני מסכים.

פרופ' מודריק: שהדבר הזה יגיע, ולצערנו, אולי הם אלה שמחליטים בדרך כלל. אבל בוא נראה.

פרופ' שגב: אבל בוא נראה.

פרופ' מודריק: בוא נראה.

פרופ' שגב: כי אנחנו יוצאים מנקודת הנחה של העולם הידוע המוכר.

פרופ' מודריק: כן, נכון.

פרופ' שגב: אבל אנחנו לא יוצאים מנקודת הנחה של העולם, שחלק גדול מדברים שמובנים לנו שנעשה, לא נעשה, לא נעשה אותם.

פרופ' מודריק: כן.

פרופ' שגב: הם… לא זקוקים להם, אז מה כן?

פרופ' מודריק: אז איך אנחנו באמת, אבל באמת הזכרת את הילדים, אז איך אני עכשיו צריכה לגדל את ילדיי? מה עושים?

פרופ' שגב: זאת שאלה טובה. עסקנו בזה בקורס, ואפילו הייתה עבודה שלמה.

פרופ' מודריק: לכן אני שואלת.

פרופ' שגב: עסקנו בזה בקורס, ודיברנו הרבה עם הסטודנטים. הסטודנטים הפתיעו אותי בהרבה מובנים, כי זה בכל זאת דור שונה משלי. חלק מהשאלות ששאלתי אותם, הם ענו, הם הגיבו אחרת ממה שאני הייתי מגיב, אילו הייתי הם.

פרופ' מודריק: מעניין.

פרופ' שגב: אני מבין שכבר הם עוברים תהליכים. אחד הדברים שהבנתי, שהם בכלל לא מצפים, הם, אותה קבוצה של אנשים שהם דוקטורנטים אצלנו, כלומר הם לומדים, זה קודם כל לשנות מקצוע. הם לא חושבים על עצמם, הם מסתכלים עליי אפילו בתור מקרה מוזר.

פרופ' מודריק: [צוחקת] שעושה כל כך הרבה שנים את אותו הדבר.

פרופ' שגב: כולל הבנות שלי, אומרות מה זה, אתה 40 שנה פרופסור? איזה מין דבר זה? 40 שנה אתה עושה אותו דבר? מה זה? זה משעמם, העולם מלא אופציות. אז קודם כל העניין הזה של לזוז…

פרופ' מודריק: כן.

פרופ' שגב: לזוז, כל שלוש, חמש שנים דבר אחר.

פרופ' מודריק: כן, אני למדתי מילה בעברית, באנגלית זה agility, אתה יודע איך אומרים את זה בעברית?

פרופ' שגב: לא.

פרופ' מודריק: זמישות.

פרופ' שגב: זמישות.

פרופ' מודריק: שזה שילוב בין זריזות לגמישות.

פרופ' שגב: אהה!

פרופ' מודריק: נחמד.

פרופ' שגב: זמישות.

פרופ' מודריק: אז זה העולם הבא, העולם החדש הוא יהיה זמיש.

פרופ' שגב: כן, אז זה צריך ללמד אדם להיות כזה.

פרופ' מודריק: כן.

פרופ' שגב: זאת אומרת, לא לזהות את עצמו בתור דבר אחד, פיקס, וישאל אותך מי אתה, אז אני, לא יודע, בנקאי. אני עכשיו בנקאי, אבל אני בפעם הבאה אהיה מאהב, ואחר כך אני אהיה צייר, ואחר כך אני… אני לא יודע מה. זה דורש חינוך, זה דורש עבודה של פלקסיביליות עצומה מהילד או מהילדה. הם לא יכולים… הם צריכים להיות מספיק דינמיים בשביל להיות רחבים ביכולת שלהם לתפוס אופציות שמעניינות אותם, לזהות שזה באמת נמצא אצלהם בפנים. שיש resonance בין האופציה הזאת… וללכת לשם, בלי לפחד.

פרופ' מודריק: כן.

פרופ' שגב: ולנסות. אני חושב שזה הולך להיות עולם שונה של מקצועות דינמיים, אני לא יודע אפילו אם יקראו לזה מקצועות, תחביבים דינמיים. ואז, אני חושב, נממש את הרוחב העצום שלא ממשנו, כי כשנהייתי דבר אחד ויתרתי על המון דברים אחרים, בהכרח, וזה חבל.

פרופ' מודריק: אבל גם נהיית אולי יותר טוב בדבר האחד הזה. אבל בוא נחזור לעולם שלנו, כי הזכרת קודם את האנרגיה. בוא נדבר על זה. כמה זה באמת צורך אנרגיה? כמה זה בעייתי בהקשר הזה?

פרופ' שגב: בעייתי נורא. את מדברת על החישוב הדיגיטלי?

פרופ' מודריק: כן, כן, על בינה מלאכותית והעלות האנרגטית שלה.

פרופ' שגב: אז מאחורי זה עומדים עננים, עם מיליארדים של פרוססורים.

פרופ' מודריק: כן, מעבדים.

פרופ' שגב: שמשנים את המצב, מעבדים מ-0 ל-1, מ-1 ל-0, מ-0 ל-1, ויש חישוב, והחישוב הזה עולה המון המון כסף. זה מאוד יקר אנרגטית, בגלל הטכנולוגיה הקיימת, טרנזיסטורים, עניינים כאלה.

פרופ' מודריק: כן.

פרופ' שגב: ועד כדי כך, שכשאני הייתי מעורב בפרויקט המוח הכחול, שעומד להסתיים, ושם יש להם מחשב-על, עם מאה אלף פרוססורים של IBM מעבדים של IBM. זה עלה סדר גודל, אני לא תפסתי כש… לא הבנתי כמה זה יקר, רק להריץ את המחשב הזה. שזה רק מאה אלף פרוססורים כאלה, ולא מיליארדים שמשתמשים ב… כמו עיר קטנה.

פרופ' מודריק: וואו, מבחינה… חשמל. כדי להאיר, להאיר בחשמל.

פרופ' שגב: כן, להאיר בחשמל עיר קטנה. לא גדולה כמו תל אביב, אבל קטנה.

פרופ' מודריק: בטח לא לאס וגאס, אבל כן. [צוחקת]

פרופ' שגב: אבל ככה עולה המחשב הזה.

פרופ' מודריק: כן.

פרופ' שגב: רק החשמל עלה לו כמה מיליונים לשלם על החשמל כל שנה.

פרופ' מודריק: טירוף.

פרופ' שגב: זה שיגעון.

פרופ' מודריק: טירוף.

פרופ' שגב: מה שאגב מגביל מאוד את התפתחות מחשבי העל האלה שכמות האנרגיה היא סופית.

פרופ' מודריק: כן, ולא הולך כל כך בטוב עם ההתחממות הגלובלית.

פרופ' שגב: ולא הולך בטוב, על אחת כמה וכמה. אז יש היום… והמוח עושה את זה בזול.

פרופ' מודריק: כן.

פרופ' שגב: מאוד.

פרופ' מודריק: מאוד.

פרופ' שגב: כל השיחות בינינו.

פרופ' מודריק: איזה מוח זה!

פרופ' שגב: מדהים.

פרופ' מודריק: [צוחקת]

פרופ' שגב: יש שם מאה מיליארד יחידות עיבוד, יש שם פי עשרת אלפים יחידות קישור, סינפסות. מספרים עצומים, רשת מאוד מאוד מאוד אינטנסיבית. היא עושה את זה בזול, 20 וואט.

פרופ' מודריק: כן, שזה זה כלום, זה כמו, נכון?

פרופ' שגב: נורה של 20 וואט, זה נורה חלשה. זה כל הצריכה החשמלית, זאת אומרת שיש דרך טכנולוגית, וזאת הדוגמה החיה, המוח שלי.

פרופ' מודריק: כן, ביולוגית במקרה שלנו, אבל אפשר לחקות את זה, זו השאיפה.

פרופ' שגב: זאת השאיפה.

פרופ' מודריק: לבנות טכנולוגיה שתחקה את הדבר הביולוגי הזה.

פרופ' שגב: אז יש היום תחום שנקרא, Neuromorphic Engineering.

Neuromorphic, יעני על הניורו.

פרופ' מודריק: כן, לנסות לחקות את המבנה הנוירונלי.

פרופ' שגב: ב-hardware.

פרופ' מודריק: בחומרה.

פרופ' שגב: בחומרה שונה מהחומרה הביולוגית, שתהיה מאוד יעילה. אני ממש בימים אלה מעורב באיזה קבוצה שלי, שמתעסקת את זה בארץ, כל העולם. ואם נצליח לבנות מיקרוצ'יפ כזה, מעבד קטנטן, שהוא מאוד זול אנרגטית, הרבה יותר זול מהשיטות הדיגיטליות, אז אז אנחנו נוזיל בסדרי גודל עצומים, את האנרגיות שאנחנו משתמשים בהם ל-AI הזה.

פרופ' מודריק: אבל אז, אתה יודע, דיברנו על ההבטחות של AI, אבל יש גם סכנות. הזכרנו את המקצועות שאולי אנחנו נאבד, שאולי אתה רואה בזה יתרון, כי זה יוביל אותנו לעולם החדש הזה, אבל מעבר לזה, נדמה לי שהחשש הקמאי, שאנשים הכי חוששים מ-AI, זה שהיא תפתח איזושהי תודעה משל עצמה, תרצה לשלוט בנו, ובסופו של דבר זה יוביל לחיסולנו, עיין ערך שליחות קטלנית ודומיו. ומצד שני, אסימוב שניסה להגן עלינו מהדבר הזה עם החוקים שלו.

פרופ' שגב: עם החוקים של "אני הרובוט".

פרופ' מודריק: בדיוק, אז איך אנחנו… זאת אומרת, יכול להיות שאנחנו משחקים פה באש?

פרופ' שגב: יכול להיות. תראי, יש כאן שתי מחנות, שני מחנות, יש את המחנה של הפסימיסטים, של החששנים המאוד גדולים, ויש בזה בסיס, זה טכנולוגיה לא שגרתית. כל פעם שבאה טכנולוגיה חדשה, אני זוכר אותי, כשהגיעו המחשבים, אז היה פחד גדול של… מה איתנו? איפה מכונות הכתיבה? למדנו לתקתק במכנות הכתיבה, פתאום יש מחשב, והכל נשמר. כל טכנולוגיה כזאת… או המהפכה התעשייתית, יש את הסרטים של צ'רלי צ'פלין, נכון? מה קרה לאדם? הוא הפך לרובוט? הוא מחויב לטכנולוגיה? אבל פה יש טכנולוגיה יותר חזקה, ממה שהייתה אי פעם. באמת יותר חזקה, כי היא קרובה אלינו מאוד בהרבה מאוד מובנים, היא עושה חישובים, היא יצירתית, היא מדברת שפה.

פרופ' מודריק: כן.

פרופ' שגב: אז אני יכול לתקשר איתה בשפה, ושפה זה עוצמתי מאוד, כשמישהו מתקשר איתי בשפה, כמו שאת, את אומרת לו תודה רבה.

פרופ' מודריק: כן, בבקשה.

פרופ' שגב: למי זה ה-לו, לה? מי זה היא הוא?

פרופ' מודריק: לגמרי.

פרופ' מודריק: אז כן נוצרים קשרים, אני עוד זוכר אנשים כועסים על המחשב, כשהוא הופיע, כשהוא לא עושה...

פרופ' מודריק: שלא לדבר היום, יש גם חברות שמאפשרות לך לדבר, נניח, עם קרוביך המתים, הם שופכים את כל הזיכרונות את כל הפייסבוק את כל מה שיש לתוך ה-AI, והוא מחקה את הדמות שאתה נפרדת ממנה.

פרופ' שגב: שזה כיוון מאוד מאוד מעניין ומאוד מורכב, After Life, נקראת אחת החברות האלה. זה חברת בת של פייסבוק, שמפתחות את הזיכרון, או אלמוות דיגיטלי, את האלמוּת דיגיטלי שלי, שזה מעניין, ואם יהיו עוד פנים וככה הלאה, אז הנכד של הנכד של הנכד שלי, יוכל לדבר איתי ואני אשתנה בעקבות השיחה. זה עניין אחר, זה עוד AI, כן?

פרופ' מודריק: כן.

פרופ' שגב: אבל אני אומר, הפחד מ-AI הוא נורא מובן, הפחד מכל טכנולוגיה הוא נורא מובן, כי הוא לוקח אותך מאזור הנוחות.

פרופ' מודריק: כן, אבל פה אפילו שבעתיים.

פרופ' שגב: אני חושב שבעתיים, אני חושב שבעתיים. מצד שני, בתור אופטימיסט, כי כל הטכנולוגיות שהשתמשנו בהן, שוב, אפשר לפרק את העולם עם כל דבר שבנית, פצצת אטום. כמובן שאפשר, וראינו דוגמאות, כן, אבל בסוף האדם לא ישתמש בזה להרס טוטלי. הוא יכול להשתמש, יש מספיק... אנחנו יודעים מה יכול לקרות במוח של אדם, במיוחד בימים האלה, איזה שימושים נוראים אתה יכול לעשות במוח הזה עצמו. אבל מסתבר שלאורך השנים, ככל שאני מסתכל על הטכנולוגיה שפותחו, אף אחד באופן גלובלי, לא לוקלי, לא הרס את המין האנושי.

פרופ' מודריק: אז זהו, אבל הנה אני מאתגרת אותך עוד רגע, דוחפת אותך רגע לפינה. כי נדמה לי שבמקרים עברו, הטכנולוגיות האלה, היו ניתנות לשליטה במובן הזה שממשלות הן אלה שמחזיקות בפצצות אטום, או שיבוט גנטי. שיבוט גנטי נאסר בחוק, ועכשיו אין לנו שיבוט גנטי, אפילו שהגענו לכבשת דולי וכל הסיפור הזה. את ה-AI, אני יכולה, לכאורה, לעשות מהגראז' שלי.

פרופ' שגב: נכון.

פרופ' מודריק: לפתח, אני צריכה את הכוח החישובי הזה, אבל הוא כבר קיים, ועכשיו כל אחד יכול לעשות עם זה מה שהוא רוצה, ואין לנו היום חוקים, הממשלות נראות שהן ממש לא נכנסות למשחק, אפילו. אז זה נדמה כאילו, בכל זאת יש כאן איזה פוטנציאל הרס.

פרופ' שגב: גדול יותר.

פרופ' מודריק: כן.

פרופ' שגב: אני מסכים עם זה שיש פוטנציאל הרס גדול יותר, וכן, אני חושב, חלק מהמדינות כן התחילו להכניס פיקוחים מסוימים, וזה חלק אולי מהסיבה של… סם אלטמן, כן התפטר או לא, בגלל השאלה של כמה קונטרול אתה כן מאפשר לממשלות או לגופים, לגופים קובעי מדיניות, או אתיקנים, מי קובע איך להשתמש בזה או לא? בטכנולוגיה החדשה, ויותר מסוכנת, יותר קרובה אלינו, יותר חופשית, ויותר דרמטית. באמת יכול לעשות דברים איומים, איומים, כולל רובוטים ו… שאתה מצביע עבורם או שאומרים לך מה לעשות, ועוקבים אחריך, ומצלמות שאומרות לך כל מיני דברים, אני מסכים. מצד שני, מצד שני, זה יכול להיות כלי עזר פנומנלי, אני חושב על עצמי, כעל, את יודעת, המורה אמרה לי בכיתה א', תשמע, אתה משתמש רק ב 10%, העניין הזה של 10% שהוא בינלאומי.

פרופ' מודריק: אנחנו יודעים שזה שקר אבל, אבל בוא נפריך את המיתוס הזה, כן, אנחנו משתמשים ב-100% מהמוח.

פרופ' שגב: נכון, נכון, לא, אני רק אומר שהיא אמרה לי את זה, היא אמרה לי את הדבר הזה, זה אמנם היום אני יודע בתור חוקר, אז חשבתי ש 10% עובדים ו-90%...

פרופ' מודריק: נחים.

פרופ' שגב: שקטים לגמרי, ושאני צריך להתאמץ, היא אמרה, תתאמץ להפעיל את החלק האחר, שהוא שקט.

פרופ' מודריק: [צוחקת] אז ישבת… "אני מפעיל… עכשיו אני מפעיל".

פרופ' שגב: ממש, לא, ברצינות, אני מספר לך סיפור, היא אמרה לי, שמה, אתה רק מפעיל כאן את הצד הימני העליון ותתחיל לעבוד, אבל זה לא עובד ככה. כל התאים יורים, עובדים. מצד שני, חבויות שם המון יכולות. זה לא בגלל שהמוח לא עובד, רק הוא יכול לעבוד בדינמיקה אחרת, הוא יכול לייצר מצבי מוח, טק טק טק אחד זה משהו אחד, ואת הטק טק המוזיקה העצבית האחרת, לא יצרתי, אבל היא ישנה אצלי. במילים אחרות, לא מיציתי, אני רחוק מלמצות את אוסף הפוטנציאלים העצום שיש בכל…

פרופ' מודריק: ועכשיו אתה אומר, זה יפתח בפניך אפשרויות חדשות.

פרופ' שגב: זו התקווה שלי.

פרופ' מודריק: כן, אני מבינה.

פרופ' שגב: זאת התקווה שלי, זה יביא אותי למקומות, כולל בעולם הרגשי, שנראה לי שבזה אנחנו מאוד לא מפותחים. וזו חתיכת מסה של מה שקורה מתחת, זה הר געש רגשי, שלא מטופל נכון, הוא לא מכיר אותו.

פרופ' מודריק: ואתה אומר דווקא, AI אולי יאפשר לך.

פרופ' שגב: אני מקווה.

פרופ' מודריק: תשמע, היינו יכולים לדבר על זה לנצח, אבל אנחנו מתקרבים לסיום, לצערי, ואני רוצה כן לשאול אותך על מודעות ותודעה. כן, בלייק למוין וההתפטרות שלו, הפיטורין שלו מגוגל אחרי שהוא טען, ש-LaMDA יש לה, כן, יש לה… sentient, הוא קרא לזה, ושאנחנו צריכים להתייחס אליה אחרת, כי יש לה איזשהו סוג של מודעות. אתה מייחס ל-AI, הנוכחי איזושהי?

פרופ' שגב: לא.

פרופ' מודריק: גם אני לא, יופי אז אנחנו מסכימים.

פרופ' שגב: לא, ממש לא, אני לא אומר שאי אפשר יהיה לייחס לזה בעתיד. אני לא יכול, שוב, אם אני דוגמא של AI או סוג מסויים שבנו אותי דרך גנים, שזה אגב פלא מאד גדול, כן, שכל כולי נמצא שם ב-DNA של זרע וביצית, וגם זה כבר לא יצטרכו יותר, כי אפשר ליצור חיה שלמה רק מתא אחד ולא צריך את הביצית ואת הזרע, לא צריך אינטראקציה יותר. אתה יכול לשכפל את עצמך, פיזית, בעזרת שיטות DNA וכך הלאה. בכל מקרה, אני, אני, זאת שאלה, מתי, זאת התחום שלך, ממתי אני אגיד שכן?

פרופ' מודריק: אתה חושב שהפוטנציאל קיים.

פרופ' שגב: אם זה הצליח אצלי…

פרופ' מודריק: כן, אז אין סיבה להניח שזה לא יצליח עם מערכת אחרת.

פרופ' שגב: למה לא? אלא אם כן, תגידי, יש משהו בביולוגיה.

פרופ' מודריק: יש כאלה, יש תיאוריות כאלה שאומרות, זו תופעה ביולוגית, זה לא יוכל להיות משוחזר באמצעים...

פרופ' שגב: אז את זה אני צריך לראות. אני לא מבין, אני, בתוך חוקר תאי עצב.

פרופ' מודריק: למה שזה יהיה דווקא בביולוגיה?

פרופ' שגב: מה יש בתא העצב הבודד, או בקשר הסינפטי ביניהם, שהוא כל כך אחר, מכל חומר אחר, שחבוי שם, כבר, בסינפסה או בתא העצב, או בתעלה בממברנה שמובילה זרמים? משהו מיוחד בביולוגיה. זה אני לא מבין.

פרופ' מודריק: כן.

פרופ' שגב: אני לא מבין את זה. אני לא אומר שאין, אני לא הוכחתי אחרת.

פרופ' מודריק: ברור. נדמה לי שהשאלה הגדולה כאן זה איך נדע?

פרופ' שגב: איך נדע?

פרופ' מודריק: איך נדע? גם אם יבוא כאן...

פרופ' שגב: זאת השאלות, זאת השאלות שלך. איך נדע?

פרופ' מודריק: נכון.

פרופ' שגב: אני גם יכול לשאול אותך איך את יודעת שאני מודע? למה את חושבת שאני מודע? רק בגלל שאני מדבר כמוך?

פרופ' מודריק: אז אני חושבת שהסיבה, קל לי לייחס לך, אני לא יודעת בוודאות שאתה מודע, אתה יכול להיות איזה זומבי מתוחכם או רובוט מתוחכם, אבל אני מייחסת לך מודעות כי לי יש מודעות, אני חווה אותה, ואתה מספיק דומה לי בהתנהגות שלך ובמבנה שלך כדי שאני אעשה את זה. ועכשיו באמת, אני אומרת, פה אני מספרת קצת על עצמי, אחד הדברים שאנחנו באמת מתעסקים בהם בשנה האחרונה ממש, זה לנסות להבין האם אנחנו יכולים לפתח מבחן, סוג של נייר לקמוס למודעות, לא רק ב-AI, גם בעוברים, גם בבעלי חיים שאינם בני אדם, אנחנו היינו רוצים לדעת מי מודע ומי לא מודע. האם זה אפשרי? עד כמה אפשר לעשות את זה? אז באמת יש כל מיני קבוצות, גם עם פילוסופים שמנסים להבין, לתת תשובה. תשובה עדיין אין, אבל אולי נתקדם קצת בניסיון למצוא לפחות מרקרים שיגרמו לנו לחשוב שהדבר הזה הוא יותר, יש סיכוי יותר גבוה, נניח, שהוא מודע. אבל אין ספק שזה גם אחד האתגרים הגדולים שאנחנו עומדים בפניהם.

פרופ' שגב: לגמרי. וזה שכזה מהנדס בגוגל חשב שיש שם אספקט של מודעות, ואני מוכרח להגיד שגם אני לפעמים, כמו שאמרת, מהתשובות של ה-ChatGTP הזה, תשובות אפילו אישיות, הוא אומר דברים שיש בהם כאילו, אם לא הייתי יודע שזה ביני לבין ה-ChatGTP אלא מישהו היה נותן לי את השיר הזה, או את התשובה הזאת, הייתי אומר, שמע יש שם הבנה.

פרופ' מודריק: כן.

פרופ' שגב: הוא מבין משהו, במושג הבנה.

פרופ' מודריק: כן.

פרופ' שגב: הוא מבין משהו אחרת, איך הוא נתן לי כזאת תשובה? הוא מבין משהו. אז אני כבר לא יכול להגיד לך בוודאות לא או כן, שזה חד וחלק. אבל זה פתוח, מבחינתי.

פרופ' מודריק: נצטרך לחכות.

פרופ' שגב: אבל זה עולם משתנה דרמטי עצום. אני לא חושב שהייתה מהפכה דומה לזה.

פרופ' מודריק: כן.

פרופ' שגב: שמכונות מגיעות לאיכויות כאלה, שאני מייחס אותם לאדם, כמו יצירתיות, כמו שפה, כמו יכולת של להבין את השאלות שלי ולתת לי תשובות שאני לא הצלחתי לתת. יש שם איזה פרטנריות חדשה. אני חושב שנהיה מועצמים מזה. זאת התחושה שלי, אני לפחות ברגע זה מועצם מה-ChatGTP ולא מפחד ממנו.

פרופ' מודריק: איזה כיף. אז אנחנו נישאר בתחושה האופטימיות והמועצמת הזאת ונקווה לטוב. פרופ' עידן שגב, תודה רבה לך.

פרופ' שגב: בשמחה, ליעד.

פרופ' מודריק: תודה.

פרופ' שגב: כיף להיות איתך.

פרופ' מודריק: גם לי.

---

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה