מפלגת המחשבות - פרק 145 – מהפכת הבינה: ההמצאה האחרונה

האם הפריצה לסופר אינטליגנציה תהיה להמצאה האחרונה של האדם? בכדי להעמיק בשאלה הזו נצא למסע היסטורי-פילוסופי בעקבות ההמצאה הראשונה של האדם, נגלה כיצד אנחנו נוצרים מחדש כל העת בידי הטכנולוגיה שאנחנו יוצרים, וננסה להבין מי נהפוך להיות אם נברא אינטליגנציה שתרעיף עלינו שפע ללא גבול.

---

‏תאריך עליית הפרק לאוויר: 23/12/2025.

‏קריין: אתם מאזינים להסכת של "בית אבי חי".

‏[מוזיקת רקע, רצף הקלטות]

‏חיים יבין: "כן, כנראה מהפך…"

Donald Trump: “Everyone is talking about artificial intelligence. Not artificial, it’s genius.”

Sundar Pichai: “It’s more profound than fire or electricity or…”

Sam Altman: “AI will be the most powerful technology humanity has yet invented.”

Naftali Bennett: “New dimensions will emerge.”

Jensen Huang: “The greatest technology equalizer of all time.”

Yuval Noah Harari: “It is not a tool, it is an agent.”

Elon Musk: “Mark my words, AI is far more dangerous than nukes.”

‏אפרת: שלום, אני אפרת שפירא רוזנברג, ואתם מאזינות ומאזינים ל"מפלגת המחשבות". ההסכת שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדרך, מהפכת הבינה.

‏אפשר לספר את ההיסטוריה של האנושות בכל מיני דרכים. אחת מהן היא להתבונן בטכנולוגיה שהאנושות מייצרת. בני אדם הם טיפוסים יצירתיים וההיסטוריה היא סך כול היצירות וההמצאות שלהם. זה אולי התחיל עם האש, המשיך עם הגלגל, כעבור כמה אלפי שנים הגיעו גם מנוע הקיטור, החשמל, האינטרנט. וכך התנהלה ההיסטוריה של ההמצאות. ותודה ליצירתיות האנושית שהביאה אותנו עד הלום, כלומר עד ה-AI. וזאת, חברות וחברים, ההמצאה האחרונה של בני האדם.

‏איך זה מרגיש לחיות בימים שבהם ממציאים את ההמצאה האחרונה שלנו?

‏[מוזיקה מסתיימת]

‏שלום מיכה.

‏ד"ר גודמן: שלום אפרת.

‏אפרת: הבינה המלאכותית מכונה "ההמצאה האחרונה של האדם". זה… ביטוי כואב.

‏ד"ר גודמן: צורם קצת.

‏אפרת: צורם.

‏ד"ר גודמן: ההמצאה האחרונה שלנו.

‏אפרת: כואב. בוא ננסה רגע לפרק, למה היא מכונה ההמצאה האחרונה אפשר להבין.

‏ד"ר גודמן: ההיסטוריה של האנושות זה היסטוריה של המצאות, ואנחנו צוברים המצאות ותגליות ומייצרים כלים ועוד כלים, ואז מגיעים ל-AI, וזאת ההמצאה האחרונה שבני האדם אי פעם ימציאו.

‏אפרת: למה?

‏ד"ר גודמן: למה? שתי אופציות, או בגלל שאנחנו נייצר סופר אינטליגנס, נאבד שליטה עליה והיא תחזור ותסיים את האנושות. זה העמדה של אליעזר יודקובסקי.

‏אפרת: כן, זאת אומרת, זה בתרחישים הדיסטופיים שדיברנו.

‏ד"ר גודמן: הדיסטופיים, ואז ממילא זה המצאה האחרונה של האדם בגלל שלא יהיה יותר…

‏אפרת: אדם.

‏ד"ר גודמן: אדם. אבל אופציה שנייה, שהיא יותר מעניינת, שאם בני אדם יצליחו לייצר אינטליגנציה שהיא יותר אינטליגנטית מהם…

‏אפרת: גם אם זה לא סופר אינטליג'נס, גם אם זה פשוט very very intelligent, intelligents.

‏ד"ר גודמן: AI משודרג כזה, משהו…

‏אפרת: כן. גם אם הוא לא 1,000 אלא 200 IQ.

‏ד"ר גודמן: [צוחק] כן. נסתפק ב-180 IQ.

‏אפרת: כן.

‏ד"ר גודמן: הוא יצטרך להיות יותר טוב מאיתנו. מאותו רגע כל ההמצאות הבאות, מי ימציא?

‏אפרת: הוא.

‏ד"ר גודמן: הוא. תראי את האנתרופומורפיות שלנו.

‏אפרת: כן. הוא. it, כמו שאמרנו באחד הפרקים הקודמים.

‏ד"ר גודמן: כן. כן. אז אם הוא ימציא את הטכנולוגיה אז זאת המצאה אחרונה שלנו; או כי הוא יסיים אותנו או שהוא ימציא עבורנו ובמקומנו.

‏אפרת: ובמובן הזה זה רגע, זה רגע קצת טרגי של האנושות, שזהו, זאת הולכת להיות ה… שירת הברבור…

‏ד"ר גודמן: של היצירתיות ה…

‏אפרת: של היצירה האנושית.

‏ד"ר גודמן: נכון. ההמצאה האחרונה של האדם.

‏אפרת: ואגב, זה שירת ברבור מפוארת.

‏ד"ר גודמן: כן.

‏אפרת: שירת ברבור מפוארת מאוד. זאת יצירה מדהימה, מטורפת.

‏ד"ר גודמן: וזהו.

‏אפרת: אבל אחרונה.

‏ד"ר גודמן: ומה שאנחנו מנסים להבין כאן זה את ההמצאה האחרונה של האדם…

‏אפרת: ואת ההשפעה של ההמצאה האחרונה הזאת. מה יכולה להיות ההשפעה שלה עלינו?

‏ד"ר גודמן: כן. או מה המשמעות של לחיות בעידן של ההמצאה האחרונה, שבו בני אדם עובדים קשה כדי להמציא את ההמצאה האחרונה-חביבה שלהם.

‏אפרת: חביבה יותר או פחות.

‏ד"ר גודמן: פחות. ואולי דרך טובה לחשוב על זה, זה להתבונן בהמצאה הראשונה. ההמצאה הראשונה שבאיזשהו מובן מתכתבת עם ההמצאה האחרונה. וההמצאה הראשונה - אגדות עם, המיתוסים הקדומים, מספרים מה הייתה ההמצאה הראשונה אי פעם של בני אדם.

‏אפרת: בוא ניתן לכל אחד מהמאזינים והמאזינות שלנו לנסות לחשוב בראש שלהם, מה יכולה הייתה להיות ההמצאה הראשונה של האדם באשר הוא.

‏ד"ר גודמן: בררררם… האש. ככה מיתוסים קדומים מדברים על זה ש…

‏אפרת: בהרבה תרבויות.

‏ד"ר גודמן: בהרבה תרבויות. ואולי נתחיל במקור בתרבות אחת…

‏אפרת: חביבה עלינו. קרובה לליבנו.

‏ד"ר גודמן: הגמרא במסכת פסחים, וגם כן יש ורסיה שזה במדרש רבא, מתארת את הסיפור הבא: מתי נוצרה האש, ההמצאה הראשונה של בני אדם, מתי זה קרה? במוצאי שבת. אלוהים ברא את העולם בשישה ימים, כן? ביום השישי הוא בורא את האדם, ביום השביעי…

‏אפרת: הוא נח. שבת וינפש.

‏ד"ר גודמן: שבת וינפש, ואז מוצאי שבת, יש חשכה, האדם הראשון בחיכוך ראשון עם העולם, עם המציאות שאלוהים ברא עבורו…

‏אפרת: למה בעצם הוא מתחכך עם המציאות הזאת רק במוצאי שבת, הוא כבר נברא בשישי בבוקר. למה, לא היה חושך ביום שישי בלילה?

‏ד"ר גודמן: כן, לפי המדרש ביום שישי בלילה היה עדיין אור. מהאור המקורי של אלוהים היה שם עדיין אור. זה מופיע במדרש, לא בגמרא. ככה. אבל בכל מקרה צריך לדמיין את זה סיפור שבו יוצאת שבת, יש חשכה, חיכוך ראשון שלו עם חושך. מה הוא עושה? איך הוא פותר את הבעיה הזאת? את האימה, את החשכה? אומרת הגמרא, לוקח שתי אבנים, מחכך אותם אלו באלו ויוצא אש, ויוצא אוּר, ככה כתוב, ויוצא אש, ודרך אגב כמובן, מה הוא מברך?

‏אפרת: בורא מאורי האש.

‏ד"ר גודמן: בשם ובמלכות הוא מברך "בורא מאורי האש".

‏אפרת: מי הוא אותו בורא מאורי האש, אולי הוא מתכוון אל עצמו? [צוחקת]

‏ד"ר גודמן: לא, לא, לא, "ברוך אתה השם"…

‏אפרת: ברור.

‏ד"ר גודמן: זה, זה מעניין הוא יוצר את האש, אבל מייחס את החוכמה שבאמצעותה הוא ברא את האש, זה מתנה שהוא קיבל מהאל [אפרת מהמהמת], הוא לא גנב את זה מהאל. זה מתנה מהאל. ו… מממ, זה מעניין אגב האגדה התלמודית הזאת, כי שישה ימים אלוהים יוצר; מוצאי שבת מתחילה הקריירה של האדם כיוצר.

‏אפרת: ומה הדבר הראשון שהוא יוצר בקריירה הזאת?

‏ד"ר גודמן: נכון.

‏אפרת: את אותו דבר ראשון שהתחיל את הקריירה של האלוהים כיוצר: אור.

‏ד"ר גודמן: נכון. נכון. היצירה הראשונה של אלוהים זה האור, היצירה הראשונה של האדם זה: האש. האור. הוא כאילו…

‏אפרת: משחזר את מעשה הבריאה של אלוהים.

‏ד"ר גודמן: כן, ככה הרב סולובייצ'יק קורא את מה זה צלם אלוהים, להיות דומה לאלוהים, אלוהים הוא יוצר, אלוהים הוא בורא. להיות אדם זה להמשיך לברוא, להמשיך להיות יצירתי, להמשיך להמציא, להמשיך ליצור. והיצירה הראשונה זה האש. זו ההמצאה הראשונה של האש.

‏אז זה סיפור אחד, יש עוד סיפור. זה סיפור לא של המסורת היהודית, כפי שמופיע בתלמוד, אלא של המדע. וזה סיפור אולי אפילו עוד יותר מעניין.

‏אפרת: אין דבר יותר מעניין מהסיפור של המסורת היהודית.

‏ד"ר גודמן: אבל כאן…

‏אפרת: לא פחות מעניין. [צוחקת]

‏ד"ר גודמן: טוב, ניתן למאזינים לשפוט. יש כאן סיפור נורא מעניין, נורא דרמטי. ש… אוקיי, יש כמובן, כשנכנסים למדע יש תמיד הרבה השערות. אנחנו נדבר על השערה מאוד מאוד רווחת. האדם לא המציא את האש. האש היא תופעת טבע. מדי פעם הברק הכה כזה בג'ונגל ו…עלה באש. זאת אומרת אנשים היו עדים לאש.

‏אפרת: האש הייתה קיימת. כן.

‏ד"ר גודמן: ספקטקל. אנשים ראו אש. יותר נכון ננסח את זה שאנשים הצליחו לביית את האש. למדו איך ליזום אש, איך לשמור על האש, איך לנצל את האש, איך להשתמש באש. ניסוח יותר נכון זה, ההמצאה של האש זה ללמוד איך לביית את האש.

‏אפרת: איך להשתמש בה לצרכים שלו.

‏ד"ר גודמן: ועל פי אחת מההשערות הדומיננטיות לפני שמונה מאות אלף שנה, יש גילויים ראשונים של בני אדם שבייתו את האש.

‏אפרת: ו… guess איפה זה קרה, הדבר הזה?

‏ד"ר גודמן: כן. זה אגב נורא מעניין, בארץ ישראל. בנהר הירדן יש ממצאים…

‏אפרת: מטורף.

‏ד"ר גודמן: מלפני 800,000 שנה לבני אדם ש…

‏אפרת: זה האתר הראשון…

‏ד"ר גודמן: אחד מהם, כן.

‏אפרת: שאפשר להוכיח בצורה די חד משמעית.

‏ד"ר גודמן: מדהים. לידת הטכנולוגיה, על פי התיאוריה הזאת, זה בארץ ישראל. כאן נוצר האור, כאן נוצר האש.

‏אפרת: לא נוצר, אלא בוית.

‏ד"ר גודמן: בוית. בויתה האש. עכשיו אני אכנס לאיזושהי השערה שהיא אחת מההשערות הדומיננטיות שיש בתחום הזה, שהיא מופיעה גם בספר "קיצור תולדות האנושות" של יובל נח הררי, מאז ממש נהיה… עם הפופולריות של הספר הזה, זה נהיה תיאוריה קנונית. וההשערה הזאת אומרת את הדבר המדהים הבא, שמה האש נתנה לאדם? אז כמובן נתנה לו חום בלילות קרים, היא נתנה לו אור בלילות חשוכים, אבל הדבר הכי חשוב שהיא נתנה לו זה את היכולת לבשל. לבשל מזון. שאחת מההשלכות שבני אדם מבשלים מזון, מה זה לבשל מזון? זה להתחיל את תהליך עיכול המזון מחוץ לגוף שלנו.

‏אפרת: זה קצת כמו מה שדיברנו באחד הפרקים הקודמים, שהמצאת הגרזן היא בעצם הייתה…

‏ד"ר גודמן: גרזן האבן. כן.

‏אפרת: גרזן האבן, הייתה אאוטסורסינג של פעולת הלעיסה.

‏ד"ר גודמן: נכון. אם גרזן האבן זה אאוטסורסינג של פעולת הלעיסה, האש זה אאוטסורסינג של פעולת העיכול. ואנחנו מכניסים לתוך הגוף שלנו מזון שכבר התחיל תהליך של פירוק.

‏אפרת: כן.

‏ד"ר גודמן: זאת אומרת שמערכת העיכול שלנו…

‏אפרת: צריכה לעבוד פחות קשה.

‏ד"ר גודמן: פחות קשה.

‏אפרת: כי הרבה יותר קל לעכל מזון מבושל מאשר מזון נא.

‏ד"ר גודמן: הוא בעצם התחיל כבר את העיכול שלו מחוץ למערכת העיכול. אתה מכניס את זה לגוף שלך. כן, מזון נא זה כנראה מאוד מאוד קשה לעכל, וכזה, אוקיי זה מבושל. האנרגיה שנחסכת, האנרגיה שמערכת העיכול תובעת בשביל לעכל מזון… איך שאנשים התחילו לבשל מזון, מערכת העיכול תובעת פחות אנרגיה, היא נחסכת, ולכן יש אנרגיה שמשתחררת. לבני אדם יש עוד איבר זללן אנרגיה. בעצם האיבר זללן האנרגיה הכי משמעותי של בני אדם זה… המוח שלנו.

‏אפרת: מוח.

‏ד"ר גודמן: המוח שלנו הוא מבחינת האחוז שלו ממשקל הגוף הוא 2% משקל הגוף שלנו, זה איבר קטן קטן [אפרת צוחקת], מה זה? 2%, מישהו עושה דיאטה של חודש ופוף…

‏אפרת: נעלם המוח.

‏ד"ר גודמן: כן שתי קילו זה המוח. כן, זה כלום, אבל המוח זה 2% ממשקל הגוף, אבל למעלה מ-20% מתצרוכת האנרגיה של האדם.

‏אפרת: זאת אומרת הוא צורך 20% מהאנרגיה שהגוף עצמו צורך.

‏ד"ר גודמן: כי רק 2% בולע למעלה מ-20% מהאנרגיה. אז, איבר הזללן אנרגיה, המוח הזה, פתאום, זה התיאוריה, כשמערכת העיכול מפנה אנרגיה, האנרגיה הזאת הולכת למוח, ואז מה קרה? ואז…

‏אפרת: המוח התפתח.

‏ד"ר גודמן: המוח התפתח. עכשיו, כשאמרנו מקודם שבני האדם בייתו את האש, לא אמרנו לגמרי לגמרי את האמת. כי על פי התיאוריה המדעית, האנשים שחיו כאן לפני 800,000 שנה לא היו בני אדם, לפחות לא במובן שאנחנו בני אדם.

‏אפרת: הם לא היו הומו סאפיינס.

‏ד"ר גודמן: הם לא היו הומו סאפיינס. הם היו הומו ארקטוס. לא האדם הנבון עם השכל, עם הנפח גולגולת שיש לנו, אלא האדם הזקוף.

‏אפרת: כן.

‏ד"ר גודמן: כן [צוחק]. והאדם הזקוף, ההומו ארקטוס, בישל עם האש, כתוצאה מכך אנרגיה נחסכה, כתוצאה מכך זה התפנה למוח, המוח גדל גדל גדל…

‏אפרת: ואז הוא נהיה הומו סאפיינס.

‏ד"ר גודמן: הומו סאפיינס. במילים אחרות, אם על פי המסורת התלמודית, האדם יצר את האש, על פי הסיפור המדעי האש יצרה את האדם. היא עשתה אותנו לבני אדם.

‏אפרת: היא עשתה אותנו למי שאנחנו.

‏ד"ר גודמן: להומו סאפיינס.

‏אפרת: או אפשרה לנו להפוך למי שאנחנו.

‏ד"ר גודמן: ואם נתיך את שתי הסיפורים האלה, אני חושב שאנחנו מקבלים את התמונה השלמה והמלאה. בני האדם יוצרים טכנולוגיה, והטכנולוגיה יוצרת בחזרה את בני האדם.

‏אפרת: זה היזון חוזר בתהליך היצירה.

‏ד"ר גודמן: אנחנו… זה הסיפור של טכנולוגיה. בני אדם חושבים שהם יוצרים טכנולוגיה, הם עיוורים לעובדה שאחר כך אותה הטכנולוגיה חוזרת ומעצבת ומהנדסת אותם מחדש.

‏אפרת: ובמובן העמוק של המילה אפשר ממש לעקוב אחרי כל תולדות הטכנולוגיה, ולראות את ההיזון החוזר הזה. כל פעם שמופיעה טכנולוגיה חדשה היא משפיעה. אתה יודע, המהפכה התעשייתית שינתה אותנו וה… כל אחת מההמצאות השונות קצת שינתה…

‏ד"ר גודמן: ה-DNA של האש, של ההמצאה הראשונה, מופיע בכל המצאה לאורך ההיסטוריה, ומגיעה לשיא שלה בהמצאה האחרונה. בני אדם יצרו את האש והאש יצר את האדם. זה ההמצאה הראשונה. בני אדם יוצרים את ה-AI. ומה ה-AI יעשה בחזרה לבני אדם? על זה היו הפרקים שעשינו עד עכשיו. בני אדם יוצרים כוחות על-אנושיים, והטכנולוגיה העל-אנושית עשויה ליצור אצלנו יכולות תת אנושיות.

‏אפרת: ובמובן הזה, היא באמת תיצור גם אותנו, את האנחנו החדש.

‏ד"ר גודמן: את העם החדש. נכון.

‏אפרת: כן. זה לא יהיה הומו סאפיינס זה יהיה אולי אה…

‏ד"ר גודמן: משהו אחר.

‏אפרת: הומו סטופידוס, לא יודעת. [צוחקים]

‏ד"ר גודמן: כן. אז האש, שאולי עשתה אותנו לבני אדם, היא עשתה יותר מזה, היא גם שינתה את הסטטוס של האדם. אולי יותר נכון להגיד את זה - במערכת היחסים שבין האדם לבין הטבע הגדול והמאיים, האש, האש כסמל של כל הטכנולוגיה, שמהאש ועד ה-AI, לא כולל, כל הקטגוריה הראשונה, שאנחנו מכנים אותה כאן ההמצאה הראשונה - שינתה את מערכת היחסים שבין האדם לבין הטבע. זאת טרנספורמציה ענקית שצריך לחשוב עליה.

‏אפרת: אז בוא ננסה באמת לחשוב על הטרנספורמציה הזאת, וכדי לנסות להבין אותה, צריך להיעזר בעוד סיפור אחד על אש.

‏ד"ר גודמן: נכון.

‏אפרת: עוד מיתוס על האש.

‏ד"ר גודמן: מיתוס. סיפור שלישי עכשיו.

‏אפרת: כן.

‏ד"ר גודמן: וזה הסיפור של…

‏אפרת: פרומתאוס.

‏ד"ר גודמן: פרומתאוס. אבל המיתוס של פרומתאוס יש לו כל מיני גרסאות, ויש גרסה מרתקת במיוחד שמופיעה אצל אפלטון, בדיאלוג פרוטגורס, ובדיאלוג של אפלטון זה מופיע כך: היו שתי אחים שהם שתיהם אלים טיטאנים - אפימתאוס ופרומתאוס. אפימתאוס בא לחלק מתנות. לחלק מהבעלי חיים הוא נתן עוצמה יוצאת דופן, נניח חיות הטרף. לחלק מבעלי החיים הוא נתן מהירות יוצאת דופן כמו למשל הצבאים, האיילים יש להם יכול… לחלק הוא נתן יכולות הסוואה, לחלק הוא נתן רעל בלשון, לצב הוא נתן את השריון, לכל אחד הוא נתן מתנה, והמתנה שהוא נתן לו, המתנה הביולוגית שהוא נתן לו, נתן לו איזשהו יתרון יש איזשהו יכולת לשרוד את המאבק הגדול שבין האורגניזמים. וכשאפימתאוס חילק לכל הבעלי חיים מתנות, תנחשי למי לא נשאר מתנות?

‏אפרת: זה כמו הסיפור ילדים הזה, היה פעם כשהיינו קטנים סבתא בישלה דייסה.

‏ד"ר גודמן: כן.

‏אפרת: נכון? נתנה לזה ולזה ולזה ורק לזה לא נשאר, רק לאדם לא נשאר.

‏ד"ר גודמן: האדם לא קיבל כלום. מה, אין לנו מהירות, אין לנו יכולת הסוואה, אין לנו רעל בלשון, אין לנו עוצמה יוצאת דופן, האדם הוא ביולוגית משהו די…

‏אפרת: עלוב.

‏ד"ר גודמן: די עלוב.

‏אפרת: אנחנו יצור עלוב.

‏ד"ר גודמן: חלש.

‏אפרת: אין לנו שום סיכוי לשרוד בטבע.

‏ד"ר גודמן: כלום. כשאנחנו לבדנו ככה? כלום. אין לנו פרווה, איך נשרוד את הלילות הקרים? אין לנו עוצמה, איך נהרוג בעלי חיים, איך?

‏אפרת: אנחנו נורא איטיים.

‏ד"ר גודמן: אין לנו מהירות איך נברח מבעלי חיים? אין לנו כלום. אז המיתוס היווני, כאילו, על פי אפלטון לוכד את זה, וכזה נשארנו בלי מתנות. הקוף העירום ככה זה האדם The naked monkey, ואז מגיע אליו פרומתאוס, אח של אפימתאוס, ואומר לו: "רק לאדם לא חילקת מתנות. אני אתן לו מתנה". נתן לו את האש. כל החיות קיבלו מתנות ביולוגיות, האדם קיבל מתנה טכנולוגית.

‏אפרת: זאת אומרת, גם לפי הסיפור הזה, האש מסמלת את הטכנולוגיה, את היכולת לייצר טכנולוגיה.

‏ד"ר גודמן: כן. כן. כן. האמת היא שאם רוצים לדייק, הוא נתן לו את האש יחד עם חוכמה טכנולוגית. האש מייצגת את הטכנולוגיה. ואת המשך הסיפור כולנו יודעים…

‏אפרת: זה פתח פער.

‏ד"ר גודמן: בני אדם ניצחו בתחרות הגדולה של הטבע. בני אדם היו פעם בתוך שרשרת המזון ועכשיו הם בראש שרשרת המזון, ובזכות האש, בזכות הטכנולוגיה, אנחנו נהיינו הרודנים העליונים ההגמונים של הכדור.

‏אפרת: כמו שהגדרנו את זה באחד הפרקים הקודמים, אנחנו הולכים לבקר אותם בגן חיות ולא…

‏ד"ר גודמן: הם לא באים לבקר אותנו.

‏אפרת: כן.

‏ד"ר גודמן: במילים אחרות טכנולוגיה מנצחת ביולוגיה. אולי ככה צריך לקרוא את זה. טכנולוגיה. הם קיבלו מתנות ביולוגיות: פרווה ויכולות הסתוות ומהירות; אנחנו קיבלנו את האש. אנחנו קיבלנו טכנולוגיה והשכל…

‏אפרת: את היכולת ליצור טכנולוגיה.

‏ד"ר גודמן: היכולת ליצור טכנולוגיה ולהפעיל טכנולוגיה, וטכנולוגיה מנצחת ביולוגיה וזה הסיפור. ובאמת זה הסיפור. זאת אומרת, ההמצאה הראשונה סללה את הדרך ליציאה של האדם משרשרת המזון. יעני, במאבק עם בעלי החיים, האדם ניצח, ובמידה רבה אפשר לומר שהניצחון הזה הוא לידת הציביליזציה האנושית, כפי שאנחנו מכירים אותה. ואם תחשבי, מה זה ציביליזציה אנושית? ציביליזציה אנושית זה מרחב שמוגן מהטבע. כאילו, כשבחיפה יש חזירי בר, כולם כזה, מה קרה כאן?

‏אפרת: הטבע פרץ לחיים שלנו. איזה חוצפה!

‏ד"ר גודמן: כן! זה הפרה של החוזה שלנו. ציביליזציה אמורה לייצר סביבה שהיא מוגנת הרמטית מהטבע. אגב, כל פעם שמישהו נבהל מה… עכבר שיש לו בבית, הוא כזה מה הסאבטקסט של הצעקה? ציביליזציה אמורה להשאיר את הטבע בחוץ.

‏אפרת: כל פעם שאתה יושב בבית ויש, נניח, גשם נורא נורא חזק בחוץ ו… מתחיל לטפטף לך הגג…

‏ד"ר גודמן: אתה שואל: מה קרה כאן?

‏אפרת: אתה אומר, היי, מה זאת אומרת? הבית אמור להיות אטום. פגעי הטבע לא אמורים להיכנס אליי הביתה.

‏ד"ר גודמן: הטכנולוגיה אמורה לייצר סביבה אנושית מוגנת מהטבע ולא מאוימת על ידי הטבע. וזה הטכנולוגיה שה-DNA שלה זה מההמצאה הראשונה. זה מה שהבין אפלטון. אנחנו עליונים על הטבע, מוגנים מהטבע. הטבע כבר לא מאיים עלינו.

‏אפרת: אז זאת בעצם טרנספורמציה. זאת טרנספורמציה אדירה במערכת היחסים בין האדם לטבע, או ב… יותר נכון, יותר מדויק להגיד בהתמקמות של האדם אל מול הטבע.

‏ד"ר גודמן: שהוא כבר לא איום, שהוא כבר לא מאיים עליו.

‏אפרת: כן. כמו שאמרת, אנחנו כבר לא חלק משרשרת המזון.

‏ד"ר גודמן: כן.

‏אפרת: אגב, זה לא רק שרשרת המזון. הטבע בכללותו זה כאילו מהאש, אבל האש היא פה מטאפורה לכל הטכנולוגיה.

‏ד"ר גודמן: לכל הטכנולוגיה.

‏אפרת: כל סוג של טכנולוגיה בעצם הולך ומבצר אותנו אל מול הטבע.

‏ד"ר גודמן: עכשיו תחשבי איזה טרנספורמציה הטכנולוגיה עשתה כאן. והיא לא עשתה את זה ביום אחד, היה צריך, האש זה כמובן סמל, זה לקח אלפי שנים לייצר את הטרנספורמציה הזאת ששינתה את ההתמקמות של האדם מול הטבע, שהטבע הפסיק להיות…

‏אפרת: איוּם.

‏ד"ר גודמן: איום. אבל… עכשיו תעשיית ה-AI מנסה לעשות טרנספורמציה באותו סדר גודל. רק שהטרנספורמציה השנייה לא תהיה אלפי שנים. הם רוצים, כאילו זה עמק הסיליקון, זה…

‏אפרת: אין זמן.

‏ד"ר גודמן: הם, הם רוצים תוך עשור להגיע לטרנספורמציה בסדר גודל של התפנית של האלפי השנים האחרונות של האדם מול הטבע, וכדי להבין את ה…

‏אפרת: את היומרה.

‏ד"ר גודמן: את היומרה ואת הטרנספורמציה השנייה, לעומת הטרנספורמציה הראשונה, וכל הדיבור האבסטרקטי הזה, בואי ניזכר במצב המקורי של האדם מול הטבע, של אבות אבות אבותינו לפני מאות אלפי שנים. היו לָקַטים ציידים, חיו בתוך קבוצות קטנות בסוואנה של אפריקה. מה היו היחסים שלהם עם הטבע? כי אנחנו, לכולנו, ירשנו את הגנים שלהם. אז אה… רוברט רייט ניסח את זה ככה: כל אדם קם בבוקר ויש לו במוח לא שאלה אחת, אלא שתי שאלות. שאלה אחת, איך אני אצליח למצוא מספיק קלוריות כדי לא למות היום? איך אני אצליח להשיג מספיק אוכל כדי שאני אצליח להעביר עוד יום בעולם הקשוח הזה? זאת שאלה אחת. ואגב, אף אחד לא יודע מה התשובה לשאלה הזאת. אולי אני לא אספיק… לא אצליח להשיג מספיק קלוריות היום. אבל עוד שאלה, וזה כמובן, איך אני אצליח לא להפוך להיות קלוריות היום…

‏אפרת: של מישהו אחר…

‏ד"ר גודמן: כן.

‏אפרת: איך איך איך אני אצליח שלא יטרפו אותי היום?

‏ד"ר גודמן: כן. וזה בכלל לא ברור, כשאת בתוך שרשרת המזון זה בכלל לא ברור מה התשובה לשאלה הזאת, אז זה החיים של אבות אבות אבותינו, עשרות אלפי שנים, האם אני אצליח להשיג אוכל? האם אני אצליח לא להפוך להיות אוכל? למה אלו שתי השאלות? שתי השאלות אלה משקפות את ה… מערכת היחסים שבין האדם לבין הטבע.

‏אפרת: מערכת היחסים הכפולה.

‏ד"ר גודמן: הכפולה. הטבע הוא איום, והטבע הוא במח, משאבים במחסור.

‏אפרת: כן. למה זה מערכת יחסים כפולה? בגלל שזה בדיוק שתי השאלות האלה.

‏ד"ר גודמן: נכון.

‏אפרת: איך אני מצליחה לא להיות אוכל? זה האיום.

‏ד"ר גודמן: האיום.

‏אפרת: הטבע הוא איום.

‏ד"ר גודמן: השרשרת המזון. כן.

‏אפרת: ואיך אני, האם אני אצליח להשיג אוכל? זה המחסור. כי יש משאבים מוגבלים.

‏ד"ר גודמן: כן. אז… הטכנולוגיה שמיוצגת על ידי האש, כל הטכנולוגיה מהאש ועד ה-AI, היא פתרה את השאלה הראשונה. הטבע הוא כבר לא איום. אבל את יודעת מה הוא עדיין? הוא עדיין מחסור. כל ההיסטוריה האנושית זה התמודדות וחיכוך עם מחסור. מחסור באדמה, בטריטוריה, ומלחמות הן מלחמות על משאבים מוגבלים. מחסור במקורות אנרגיה. הרבה מלחמות זה מלחמות על מקורות אנרגיה. מחסור… יש היום בעולם מחסור במה שנקרא rare earth minerals. זה מה שיש לסינים, כל מיני מינרלים מאוד מאוד נדירים שזה יהיה בשביל הטכנולוגיות החדשות. יש מחסור…

‏אפרת: מים. מתחיל להיות מחסור במים בכל מיני מקומות.

‏ד"ר גודמן: מים. נכון, באיראן [צוחק] וזה. כן. הטבע הוא משאב במחסור. ההמצאה הראשונה הפכה… הטבע הוא כבר לא איום.

‏אפרת: אבל הוא עדיין מוגבל.

‏ד"ר גודמן: אבל הוא עדיין מוגבל. ההמצאה השנייה מתיימרת לבטל את המחסור.

‏אפרת: ועל זה דיברנו באמת, אני חושבת בפרק הראשון או השני של העונה הזאת, של אממ… להפוך את ה… משאבים המוגבלים לבלתי מוגבלים.

‏ד"ר גודמן: ללא מוגבלים. וזה אני ראיתי לפני יומיים. הרצאה של דמיס הסביס. ודמיס הסביס דיבר על זה ש-AI לוקח אותנו למציאות של… הוא לא הראשון שאומר את זה, אבל זה חשוב שהוא אומר את זה בגלל שהוא אחד הארכיטקטים הכי חשובים היום בעולם של ה-AI. הוא אומר, הוא משתמש בביטוי Radical Abundance.

‏abundance זה שפע, עידן של שפע רדיקלי. איך אינטליגנציה תייצר שפע רדיקלי? אז כן דיברנו על זה בפרק על מלתוס, שטעה, שאינטליגנציה תמיד הופכת את המשאבים המוגבלים ללא מוגבלים, אז אינטליגנציה לא מוגבלת תהפוך את כל המשאבים ללא מוגבלים. דיברנו על זה בתיאוריה, על רגל אחת - איך זה יכול להיות בתכל'ס, הרי דמיס הסביס אמר מהרגע הראשון Solve intelligence

‏אפרת: and then solve everything else.

‏ד"ר גודמן: and then solve everything else. כי ברגע שפתרת את האינטליגנציה, זאת אומרת יצרת ישות סופר אינטליגנטית, היא תפתור את כל שאר הבעיות.

‏אפרת: אגב, ושוב, גם אם זה לא AGI.

‏ד" גודמן: ככל שיש לך יותר אינטליגנציה, יש לך יותר משאבים. זאת התיאוריה.

‏אפרת: עכשיו, זה מאוד מאוד אבסטרקטי. השאלה היא, איך זה נראה בפועל? זאת אומרת, איך, אם יש לך יותר אינטליגנציה, איך זה מוביל אותך ליותר משאבים?

‏ד"ר גודמן: ולאין יותר עוני ואין יותר מחסור ואין זה. אז…

‏אפרת: כן. זאת אומרת, דיברנו על זה, שוב, דיברנו על זה קצת בתחילת העונה, אבל יש תרחיש בעמק הסיליקון לאיך זה קורה.

‏ד"ר גודמן: אז ננסה להציג את התרחישים שמדברים עליהם בעמק הסיליקון. זה תרחישים מאוד מאוד ספציפיים. ננסה ככה לשים אותם כאן על השולחן. אז הכיסא שאני יושב עליו, למשל, כמה הוא שווה בשקלים?

‏אפרת: נניח 200 שקל.

‏ד"ר גודמן: שווה 200 שקל. מה נותן לזה את הערך של 200 ש"ח? מה הושקע כאן? הושקעה כאן עבודה והושקעה כאן אנרגיה. מה יקרה אם AI יחליף את כל כוח העבודה. כן? פתאום כל העובדים שיצרו את הכיסא הזה נהיים מיותרים כי ה-AI אחראי על כל תהליך יצירת הכיסא. אז כבר, בוא נגיד, אם מתוך ה-200 שקל האלה, 100 ש"ח הולך למשכורות, אוקיי, כבר הכיסא עכשיו שווה 100 ש"ח לא 200 שקל. [אפרת מהמהמת] עכשיו האנרגיה. החשמל שעלה לייצר, הדלק של המשאית שהביאה את זה לכאן - כל האנרגיה שהושקעה, כל האנרגיה שהושקעה בכיסא הזה, אם ה-AI פותר את בעיית האנרגיה, זאת אומרת לומד איך באופן אקונומי ופשוט אוגרים את האנרגיה של השמש. האנרגיה של השמש דרך אגב היא בחינם, כן? או פותרים את מה שנקרא בעיית הפיוז'ן, שאפשר לקחת מימן מהים ולהפוך אותו לאנרגיה. כאילו מה שעומד בינינו לבין אנרגיה במחיר קרוב לאפס - חסר לנו הבנה, חסר לנו ידע. האינטליגנציה שתייצר את הידע החסר עשויה להפיל את מחירי האנרגיה בצורה דרמטית. אז אם מחירי העבודה הם שואפים לאפס, ומחירי האנרגיה שואפים לאפס - אז המחיר של הכיסא הזה…

‏אפרת: גם שואף לאפס.

‏ד"ר גודמן: שואף לאפס. מה שזה אומר, שכוח הקנייה שלנו מזנק בצורה דרמטית. כל המחירים נופלים. כוח הקנייה שלנו עולה.

‏אפרת: מצד שני, אם כולנו פוטרנו ממקומות העבודה שלנו…

‏ד"ר גודמן: נכון.

‏אפרת: בגלל שה-AI החליפה אותנו, אז מאיפה יהיה לנו כוח קנייה?

‏ד"ר גודמן: אז תיאוריית ה-abundance היא לא רק שהטכנולוגיה מסתדרת, אלא גם שהפוליטיקה מסתדרת. שהרי התאגידי הענק שהולכים להרוויח אממ… אני ואת ראינו לאחרונה שיחה של אחד מהתיאורטיקנים החשובים היום של AI, סטיוארט ראסל. הוא אומר שהרווחים שצפויים לתאגידי ה-AI, כן? בכסף, אם יהיה פריצה לעבר סופר אינטליג'נס, הרווחים הצפויים מהם של fifteen quadrillion dollars הוא אמר את זה באנגלית, דרך אגב אני לא יודע איך אומרים quadrillion בעברית, כי זה גם הפעם הראשונה שאמרתי את המספר הזה באנגלית. [צוחק]

‏אפרת: כן זה נשמע כמו ביטוי שילדים אומרים בגן…

‏ד"ר גודמן: נכון. נכון מאוד.

‏אפרת: כשהם מתכוונים למשהו הרבה מאוד.

‏ד"ר גודמן: אבל מה שמתכוונים זה שהרווחים של תאגידי ה-AI הם יהיו אסטרונומיים, ואם הממשלה תְּמַסֶה אותם בצורה מסיבית, הם, עדיין יישארו להם כסף. כן [צוחק]. אם תמסה אותם בצורה מסיבית הממשלה יכולה לחלק לכולם UBI's. מה זה UBI?

Universal Basic Income.

‏אפרת: מה שזה בעצם, זה, מערכת מיסוי הפוכה, במקום שהממשלות יגבו מאיתנו מיסים הם בעצם יחלקו לנו מיסים.

‏ד"ר גודמן: ישלמו לנו מיסים. נכון. ואגב אילון מאסק, שגם הוא מדבר על עידן של abundance שממתין מעבר לסופר אינטליג'נס, הוא אומר: למה לקרוא לזה UBI למה לא UHI?

‏אפרת: Why does it have to be basic - למה להסתפק במעט?

‏ד"ר גודמן: הוא אומר high income, high, יש מספיק שפע universal high income, אז אם כולנו נקבל high income משכורת גבוהה, כי יש מספיק, והמחירים יהיו ברצפה כי פתרנו את הבעיה של עבודה ואנרגיה וכל הדברים האלה, אנחנו מדברים כאן על עידן של מה שנקרא post scarcity - חברה שהיא פוסט מחסור. עכשיו זה מוזר…

‏אפרת: הזכרת כזה על הדרך אם הטכנולוגיה מסתדרת, זאת אומרת ה… הסוּפר אינטליגנס לא משמיד אותנו, ואם הפוליטיקה מסתדרת, אנחנו עוד נדבר על זה בהמשך. על מה צריך לקרות כדי שהפוליטיקה תסתדר.

‏ד"ר גודמן: אבל את יודעת, המשאלה שניכנס לעידן פוסט מחסור, ככה, לא בערך, ככה בדיוק הרמב"ם מגדיר את ימות המשיח. ב"משנה תורה", לפי הרמב"ם, ימות המשיח, הימים האלה, העידן הזה לא מתרחש על דרך הנס. לא יהיו ניסים בימות המשיח, זה פשט רמב"ם, זה לא איזה המצאה. זה פשט רמב"ם [מחייך] - לא יהיו ניסים, ובימות המשיח הטבע ממשיך לנהוג כהרגלו "עולם כמנהגו נוהג".

‏אפרת: אלא מה?

‏ד"ר גודמן: ובצורה לא ניסית, אנחנו נגיע למצב הבא, אני מקריא: "באותו הזמן לא יהיה שמה לא רעב ולא מלחמה, לא קנאה ולא תחרות", ולמה לא יהיו כל הדברים האלה: רעב, מלחמה, קנאה ותחרות? למה? "שהטובה תהיה מושפעת הרבה, וכל המעדנים מצויים כעפר".

‏אפרת: וואו, איזה תיאור.

‏ד"ר גודמן: בעברית לתאר radical abundance הנה ככה.

‏אפרת: כל המעדנים מצויים כעפר.

‏ד"ר גודמן: כעפר. אינפלציה של טוּב. הטובה תהיה מושפעת הרבה, ומכיוון שכך, לא יהיה מלחמה כי לא יהיה על מה להילחם.

‏אפרת: ולא יהיה קנאה כי לכולם יהיה.

‏ד"ר גודמן: כי לא יהיה במה לקנא.

‏אפרת: ולא יהיה רעב כי יש אוכל בשפע.

‏ד"ר גודמן: ולא יהיה תחרות כי לא יהיה על מה להתחרות. הוא מתאר post scarcity society. עכשיו הרמב"ם אומר שכל זה יקרה לא על דרך הנס, ב"מורה נבוכים" הוא מסביר שזה יקרה בזכות השכל האנושי. הרמב"ם כמעט צדק [צוחק]. הוא צדק שעל דרך הטבע, השכל יכול לייצר עולם ללא מחסור. יש רק דבר אחד שהוא פספס בו קטן.

‏אפרת: האנושי.

‏ד"ר גודמן: זה לא השכל האנושי, זה השכל עצמו. השכל מחוץ לגולגולת שלנו. אולי זה ההימור של עמק הסיליקון לייצר עולם שמגשים את ימות המשיח של הרמב"ם, שהתבונה מייצרת שפע שמבטלת את התחרות ואת הקנאה ואת המלחמה. רק שזה לא תבונה של האדם, אבל זה כמעט זה תבונה שנוצרה על ידי האדם. מוזר לחשוב על עולם…

‏אפרת: ללא מחסור.

‏ד"ר גודמן: ללא מחסור. כי אני לא יודע אם זה העולם בכלל.

‏אפרת: המחסור הוא משהו שמכונן את אממ… כל הציביליזציה שאנחנו מכירים אותה כבני אדם.

‏ד"ר גודמן: כן.

‏אפרת: זאת אומרת, תחושת החוסר היא…

‏ד"ר גודמן: היא הבסיס של הכול.

‏אפרת: כן.

‏ד"ר גודמן: שחושבים רגע למה אנשים יוצרים מלחמות? בין השאר בגלל מחסור, על משאבים מוגבלים ועל… למה אנשים יצירתיים? המנוע של יצירתיות זה המחסור. שיש לך בעיה ואתה צריך לפתור אותה. זאת אומרת, המנוע של שתי הכוחות הכי חזקים שפועלים בהיסטוריה.

‏אפרת: אתה יודע, הרבה אומרים שאין דבר כזה אומן שבע.

‏ד"ר גודמן: נכון.

‏אפרת: או סופר כזה… ש…

‏ד"ר גודמן: המחסור זה המנוע של היצירה.

‏אפרת: של כל סוג של יצירה של יצירה תרבותית, רוחנית, טכנולוגית, מדעית - תחושת המחסור.

‏ד"ר גודמן: שתי הכוחות האלה שפועלים בהיסטוריה האנושית. אנרגיה של הרס ואנרגיה של יצירה הם שתיהן תגובה למחסור. אתה מוציא את המחסור מהעולם. איך נראה עולם כזה? האם זה גן עדן? עכשיו, אני רוצה להגיד משהו. אני לא יודע אם אנחנו בדרך לעולם הזה. אני יודע שכל הפרויקט של עמק הסיליקון זה לייצר עולם כזה. אנחנו חיים עכשיו בעולם שבתוכו יש "פרויקט מנהטן" שהוא גדול בעשרות מונים של פרויקט מנהטן, של לייצר AGI ולייצר סופר אינטליגנס, ויש אסימטריה מטורפת בין הגודל של התופעה למידה שבה אנחנו מתעניינים בה. זה אמור לפתוח כל מהדורת חדשות. זה אמור להיות במרכז הסקרנות שלנו, במרכז העניין שלנו.

‏אפרת: במרכז החרדות שלנו.

‏ד"ר גודמן: במרכז החרדות שלנו, במרכז הסקרנות שלנו - הפרויקט מנהטן החדש הזה, שמייצרים בעמק הסיליקון, שיעצב את העתיד של כולנו, נתקל בעיקר באדישות של רובנו. אנחנו צריכים לשאול את השאלות האלה.

‏אפרת: וזה המקום שלי לחזור, ככה, כמו קאטו הזקן, על הדגש הזה, שכל מה שאמרנו עכשיו זה לפי התרחיש האופטימי. זאת אומרת, אנחנו לא מדברים כאן כבר על התרחישים הדיסטופיים שה-AI יבוא וישמיד את העולם. אנחנו מדברים כרגע על התרחיש של radical abundance זה תרחיש…

‏ד"ר גודמן: שפע. זה גאולה.

‏אפרת: זה גאולה. זה אחרית הימים. זה עולם שכולו טוב, ליטרלי, ליטרלי.

‏ד"ר גודמן: נכון. יש רק…

‏אפרת: במסורת היהודית אחרית הימים זה כזה עולם שכולו טוב, וזה ליטרלי עולם שכולו טוב.

‏ד"ר גודמן: נכון. וזה העולם שמנסים לייצר עכשיו זה העולם של OpenAI, של גוגל, של אנתרופיק של אילון מאסק, זה העולם שכחברות הם מנסים לייצר, עולם post scarcity שיושג באמצעות סופר אינטליגנציה. זה ההימור הגדול שלהם.

‏אפרת: עכשיו, כבר דיברנו בפרקים הראשונים של העונה על הפידוּמים, על הסיכויים שהנתיב הזה שהם מובילים אליו פשוט יתהפך עלינו וישמיד אותנו. ועל זה יש כאלה שמדברים, לא מספיק, יש כאלה שמדברים על זה, ועוד נחזור גם לתרחישים האלה בהמשך. אבל, אי אפשר להדגיש יותר מידי את העובדה שבכלל לא מדברים, על מה קורה אם הם צודקים…

‏ד"ר גודמן: אם הם צודקים.

‏אפרת: אם הכוונות הן טובות והכוונות הטובות האלה מתממשות, מה קורה אז? עכשיו, בפרקים האחרונים ניסינו לדבר על מה זה עושה לאנושיות שלנו ו… כל הדבר הזה, אבל צריך לדבר רגע על איך נראה עולם כזה שיש בו שפע-שפעים, כמו שנוהגים להגיד היום, "שפע שפעים".

‏ד"ר גודמן: כן, כן. וההמצאה האחרונה היא טרנספורמטיבית במידה של ההמצאה הראשונה. ההמצאה הראשונה שמה בני אדם עליונים על הכדור, מחוץ לשרשרת המזון, היא הסירה את האיום. ההמצאה השנייה מסירה את המחסור ושתי ההמצאות האלה ביחד מייצרים את עידן הפוסט scarcity, פוסט מחסור, כן? העידן של מעדנים מצויים כעפר. ככה נראית השיחה הרגילה. מה הטכנולוגיה תעשה לעולם? אבל כמו שההמצאה הראשונה, זה לא היה רק בני אדם יצרו טכנולוגיה, אלא הטכנולוגיה יצרה את האדם, גם ההמצאה האחרונה - בני אדם יוצרים טכנולוגיה והטכנולוגיה חוזרת ומעצבת מחדש את המציאות האנושית. מציאות ללא מחסור זה מציאות שבו יש אנשים אחרים לגמרי. מי הם האנשים האלה? איך הטכנולוגיה הזאת מייצרת אותנו? איזה משברים מעניינים נצטרך להתמודד איתם…

‏אפרת: על זה נדבר בפרק הבא.

‏ד"ר גודמן: על זה בפרק הבא.

‏[השיר "אש" בביצוע רמי קליינשטיין]

‏"…כמו אש, אש על הפנים

‏זה בא וגונב אותי מבפנים

‏זה כמו אש על הפנים

‏כמו אש, אש על הפנים…"

‏אפרת: בפרק הבא נצלול לתוך העולם הזה שכולו טוב ונשאל, האם הוא באמת עומד להיות כל כך טוב?

‏[המשך השיר "אש"]

‏"…זה כמו אש על הפנים…"

‏קבוצת הפייסבוק שלנו רוחשת וגועשת מפוסטים מעניינים מאוד בהם אתם מעלים מחשבות, מנהלים שיחות, מעבירים ביקורת ומאווררים רעיונות. זאת בדיוק המטרה של העונה הזאת. מי שעוד לא חברים בקבוצה, מוזמנות ומוזמנים להצטרף אליה ולשיחה הערה שמתקיימת בה על הנושא.

‏תודה לניר לייסט ולאור שמיר העורכים, למיכל אטיאס ולאייל לויט על ההפקה ולניבה גולדברג ולמתן חיים מצוות הדיגיטל. כל העונות הקודמות של "מפלגת המחשבות" זמינות ביישומוני ההסכתים וגם באתר "בית אבי חי" שם תוכלו למצוא תכנים מעולים נוספים.

‏[המשך השיר "אש"]

‏"מוצא את עצמי על המדרכה

‏על הפנים

‏כמו אש, אש על הפנים

‏זה בא וגונב אותי מבפנים

‏זה כמו אש על הפנים

‏כמו אש, אש על הפנים…"

---

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה