מפלגת המחשבות - פרק 147 – מהפכת הבינה: ההיפוך הגדול

כלכלת העולם כולה מהמרת על השגשוג שיביא עימו עידן הסופר-אינטליגנציה. אז איך זה שמובילי מהפכת ה-AI כבר בונים את הבונקרים? בפרק הקרוב נבחן מדוע ההיסטוריה לא יכולה להכין אותנו למהפכת הבינה, נקשיב לקולות שחוזים לנו גאולה או חורבן, ונשאל האם שתי התחזיות האלה עשויות להתממש בעת ובעונה אחת.

---

‏תאריך עליית הפרק לאוויר: 06/01/2026.

‏[מוזיקת רקע]

‏קריין: אתם מאזינים להסכת של "בית אבי חי".

‏[רצף הקלטות]

‏חיים יבין: "כן, כנראה מהפך…"

Donald Trump: “Everyone is talking about artificial intelligence. Not artificial, it’s genius.”

Sundar Pichai: “It’s more profound than fire or electricity or…”

Sam Altman: “AI will be the most powerful technology humanity has yet invented.”

Naftali Bennett: “New dimensions will emerge.”

Jensen Huang: “The greatest technology equalizer of all time.”

Yuval Noah Harari: “It is not a tool, it is an agent.”

Elon Musk: “Mark my words, AI is far more dangerous than nukes.”

‏[מוזיקת רקע]

‏אפרת: שלום, אני אפרת שפירא רוזנברג, ואתן מאזינות ומאזינים ל"מפלגת המחשבות", ההסכת שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדרך. מהפכת הבינה.

‏המהפכה הגדולה ביותר בתולדות האנושות עומדת להתרחש מתחת לאף שלנו, וכמעט אף אחד לא מדבר על זה. כלומר, מדברים על זה לא מעט, אם אתם חלק מעולם הטק, קוראים על טכנולוגיה; שומעים פודקאסטים על טכנולוגיה; נושמים טכנולוגיה. אבל הגיע הזמן לשאול - אם בינה מלאכותית היא באמת פרק בתולדות הטכנולוגיה, לאיזה פרק היא שייכת? האם היא חלק מטכנולוגיית המידע, כמו המצאת הכתב או מהפכת הדפוס, אולי בכלל פרק בתולדות טכנולוגיות תקשורת, עיתונות כתובה, רדיו, טלוויזיה, רשתות חברתיות ועכשיו AI, ואולי הקטגוריה הנכונה היא בכלל תעשייה, ולכן נהיה על אותו ציר עם מנוע הקיטור, החשמל והגרעין. אולי כל התשובות נכונות, ואולי אף תשובה לא נכונה. יש מצב שבינה מלאכותית היא לא עוד פרק בתולדות הטכנולוגיה כי היא פשוט לא טכנולוגיה.

‏שלום מיכה.

‏[מוזיקה מסתיימת]

‏ד"ר גודמן: שלום אפרת.

‏אפרת: אנחנו עכשיו בפרק העשירי מתחילת העונה הזאת על AI.

‏ד"ר גודמן: סיימנו את החצי הראשון.

‏אפרת: אני לא יודעת אם זה חצי. בוא לא נתחייב שזה חצי.

‏ד"ר גודמן: אוקיי. אוקיי. [צוחקים]

‏אפרת: את החלק הראשון.

‏ד"ר גודמן: את החלק הראשון. את החלק הראשון.

‏אפרת: בדיוק. אנחנו מקבלים כל מיני תגובות על העונה הזאת, ובכלל, אני חושבת שכל מי שעוסק בנושא הזה…

‏ד"ר גודמן: של AI.

‏אפרת: של AI, יש כל מיני תגובות לעיסוק בנושא הזה.

‏ד"ר גודמן: כן.

‏אפרת: התלהבות, חרדה, הדחקה - כל מיני. אולי גם יום אחד נעשה פרק על זה, אבל אממ… חלק גדול מהתגובות שאנחנו נתקלים בהן - ולא רק אנחנו, אלא המעט אנשים שעושים את השיחה הזאת…

‏ד"ר גודמן: כן.

‏אפרת: נתקלים בתגובות כאלה - הן תגובות של אממ ספקנות, סקפטיות.

‏ד"ר גודמן: כן. טוב, על מה אתם מדברים? זה עוד טכנולוגיה אולי גדולה, משמעותית, אבל זה לא סוף ההיסטוריה האנושית. זה לא טרנספורמציה בהיסטוריה האנושית.

‏אפרת: תמיד לאורך ההיסטוריה היו מהפכות טכנולוגיות…

‏ד"ר גודמן: כן. נכון.

‏אפרת: והיה כזה חזון אפוקליפטי, וזה אף פעם לא התממש, ובאג 2000 ו… גם אנחנו בעצמנו דיברנו על זה, נכון? באחד הפרקים.

‏ד"ר גודמן: נכון, נכון, ובצדק אומרים את זה. בצדק. תולדות הטכנולוגיה זה בין השאר הביוגרפיה של… מופיעה טכנולוגיה חדשה, אנשים נבהלים ממנה. הבהלה נוטה הרבה פעמים להיות אפוקליפטית - זה הסוף… ואז מתגלה שהבהלה הייתה בהלת שווא, והחיים שבים למסלולם, רק עם עוד טכנולוגיה כחלק מהציוד שלנו, והיכולת שלנו להתמודד עם העולם המורכב הזה.

‏אפרת: כן, זה קרה כבר בעבר, נכון?

‏ד"ר גודמן: זה קרה כש… כשנוצרו הרכבות. אנשים לא ידעו איך לאכול את הדבר הזה, מה זה רכבת? ומיד נוצרו תיאוריות שהדבר הזה הוא מאוד מסוכן, שאם אתה שם את הגוף שלך בתוך רכבת שטסה במהירות של מעל 30 קילומטר בשעה…

‏אפרת: כן. [מצחקקת] שזה היה כזה המקסימום ש… לא יודעת, סוס אה…

‏ד"ר גודמן: כן, זה כנראה יקרע את כל האיברים הפנימיים שלך.

‏אפרת: למשל, ספציפית לגבי נשים, שזה נורא נורא מסוכן לנשים, כי הרחם של האישה לא יעמוד במהירויות כאלה.

‏ד"ר גודמן: כן. ו-וואו, ואז מתברר שהבהלה מרכבת הייתה בהלת שווא. 100 שנים אחר כך…

‏אפרת: לא רק זה, אלא היום יש, בעיקר במזרח, bullet - רכבות שטסות…

‏ד"ר גודמן: במהירות הבזק.

‏אפרת: במהירות מטורפת.

‏ד"ר גודמן: והאיברים לא מתפרקים.

‏אפרת: כן.

‏ד"ר גודמן: ונשים, הן שורדות את הנסיעה ברכבת. וכשנ… חשמל נכנס לבתים, היו אנשים שהזהירו שהדבר הזה הוא לא רק מסוכן. זאת אומרת, זה כאילו חשבו שהחשמל כאילו ישפריץ מהקירות, יחשמל אותם, יהרוג אותם, זה מסוכן. הייתה בהלה. היה אפילו איצטלה מדעית לבהלה הזאת. גם הבהלה הזאת הייתה בהלת שווא, שלא נדבר על כל התנועה הלוּדיסטית שאחרי המהפכה התעשייתית, חשבו שהמכונות האלה הולכים להחליף בני אדם, ובני אדם יהיה אובדן מסיבי של משרות, ואנשים לא יצטרכו אותם יותר, ואנשים בהובלה של נֶד לוּד, אקטיביסט בריטי, אמרו שהפתרון היחיד למכונות האלה…

‏אפרת: להתנזר מהן.

‏ד"ר גודמן: יותר גרוע, לשבור אותן! זו תנועה כאילו ונדליסטית - לשבור את המכונות, להציל את האדם מהמכונה. ואז התגלה שהמהפכה התעשייתית לא רק שהיא לא יצרה אבטלה, היא…

‏אפרת: היא פתחה שוק חדש, ו…

‏ד"ר גודמן: של משרות

‏אפרת: של משרות, כן.

‏ד"ר גודמן: של עבודות, של מקצועות, של אנשים שעובדים בפריון יותר גבוה, מרוויחים יותר כסף.

‏אפרת: ו… ויותר קשה מאי פעם, אגב.

‏ד"ר גודמן: כן. אז, וואו, עבדנו יותר קשה, לא נהיינו מובטלים. זאת אומרת, וואו, זה באג 2000 שזה קשור לזה, אם כל העולם נהיה במספרים, והכל נהיה דיגיטלי, אז פתאום הכול תלוי ב… יופיע המספר 2000…

‏אפרת: וישבש את כל המערכת.

‏ד"ר גודמן: ישבש את כל המערכות, זאת אומרת, אנשים מפחדים מטכנולוגיות ותולדות הטכנולוגיה זה תולדות הבהלות שווא מטכנולוגיה.

‏אפרת: ולכן, אומרים הסקפטים, גם עכשיו כל הבוּ הוּ, הבכי והנהי והפחד…

‏ד"ר גודמן: והבהלה. הבהלה שאנחנו מפיצים כאן…

‏אפרת: כן. הפחד שאתם מפיצים פה…

‏ד"ר גודמן: [צוחק] כן.

‏אפרת: גם זה יתגלה כעורבא פרח…

‏ד"ר גודמן: נכון.

‏אפרת: וכעוד היסטריה טכנולוגית שתחלוף מן העולם, גם בהיבט של האבטלה וההפחדות מזה. כן, אנחנו נאבד משרות מסוימות…

‏ד"ר גודמן: אבל יצרו מש…

‏אפרת: אבל ימציאו משרות חדשות, והכול בסדר, כי מה שהיה הוא שיהיה.

‏ד"ר גודמן: הוא שיהיה. ו-ממ… הסקפטיות הזאת, שאגב יכול להיות שהיא נכונה, יכול להיות שהיא נכונה, אבל צריך רגע לחקור אותה ולהבין אותה, כי הסקפטיות, ביחס לאופי הטרנספורמטיבי של ה-AI מניח את ההנחה ש-AI זה טכנולוגיה. כאילו נכון, זה טכנולוגיה.

‏אפרת: שזה עוד פרק בספר של הטכנולוגיה.

‏ד"ר גודמן: כן. הספר "קיצור תולדות הטכנולוגיה"…

‏אפרת: כן.

‏ד"ר גודמן: יש לו עכשיו פרק חדש - AI. כמו שהיה אינטרנט, כמו שהיה מנוע קיטור, כמו שהיה רכבות, אז עוד טכנולוגיה. ואם זה טכנולוגיה, ונדמה לי שזה מרגיש כמעט מובן מאליו שזה פשוט טכנולוגיה, אז העבר של הטכנולוגיה הוא מדריך טוב בשביל להבין את העתיד של הטכנולוגיה הזאת. אבל כדי שהעבר של הטכנולוגיה יהיה מדריך לעתיד של הטכנולוגיה הזאת, צריך להניח שזה…

‏אפרת: טכנולוגיה.

‏ד"ר גודמן: טכנולוגיה. אולי זה לא טכנולוגיה?

‏אפרת: אז מה זה כן?

‏ד"ר גודמן: אולי זה משהו, אני לא יודע, אבל בואי נחשוב רגע.

‏אפרת: אבל… אבל איך זה יכול להיות לא טכנולוגיה? אנחנו לוחצים על כפתור ומשהו קורה. ככה מתנהגת טכנולוגיה.

‏ד"ר גודמן: ככה מתנהגת טכנולוגיה. וגם, אין לנו מילה לדבר הזה, אז אנחנו מעקמים את זה לתוך המילה טכנולוגיה.

‏אפרת: שאנחנו מכירים. זה קטגוריה שאנחנו כבר מכירים אותה.

‏ד"ר גודמן: נכון. ואולי זה משהו אחר לגמרי? זה הזמן אולי לחשוב על זה קצת - מה זה טכנולוגיה? המצאה טכנולוגית זה יצירת כלי שמעוצב על ידי תבונה, על מנת להגביר את מידת השליטה של האדם על העולם.

‏אפרת: התחלנו לדבר על זה קצת בפרק שדיברנו בו על ההמצאה הראשונה…

‏ד"ר גודמן: נכון.

‏אפרת: מול ההמצאה האחרונה. כאילו… האש נכנסת יפה לקטגוריה הזאת.

‏ד"ר גודמן: נכון. המצאנו כלי כמו נניח גרזן האבן. לוקחים אבן, זה דומם, אז זה לא כלי, זה לא, אבן זה לא טכנולוגיה, זה סתם מהטבע.

‏אפרת: חפץ.

‏ד"ר גודמן: זה חפץ. ואז אתה משייף את האבן, הופך אותו לגרזן אבן. בעצם כששייפת את האבן, מה עשית? לקחת את התבונה שלך, שהיא מבינה שדברים חדים יכולים לשמש אותך בשביל לבטוש מזון, ואז אתה משייף לאור המחשבה הזאת את האבן. אתה כאילו מכניס שכל, מכניס intencion, מכניס כוונה אל תוך הדומם ואז אתה יוצר כלי שמגביר את השליטה שלך על העולם. עכשיו יש לי גרזן, אני יכול לבטוש מזון, ואבולוציונית השיניים שלנו קטֵנות [מחייך]. דיברנו על התהליך הזה: זוהי טכנולוגיה. [אפרת מהמהמת] אבל כאן יש משהו, לא רק שהוא אחר אלא הוא הפוך. זה לא שכל שיוצר כלי, זה כלי שיוצר שכל. [אפרת מהמהמת] וגם כן, אם נשאל - רגע, זה באמת שכל? אז נשתמש רגע רק בהגדרה של אממ… אלן טיורינג, מספיק שזה מתפקד כשכל, זה מתנהג כמו שכל. אין שמה מישהו שחושב, אבל יש שמה משהו שנראה והוא אפקטיבי כמו מחשבה.

‏אפרת: הוא מתנהג כמו שכל.

‏ד"ר גודמן: כמו שכל. אז לא שכל ש… כל תולדות הטכנולוגיה עד היום זה שכל שיוצר כלי, ופה זה כלי שיוצר שכל. אגב, שכל שיוצר כלי כאן נמצא באטימולוגיה של המילה טכנו-לוגיה.

‏אפרת: אוקיי?

‏ד"ר גודמן: מה זה טכנֶה ביוונית? זה שתי מילים ביוונית: טכנה ולוגוס. טכנה זה אומנות המלאכה; לוגוס זה תבונה, זה הבסיס של התבונה. מה זה טכנולוגיה? שבאמצעות התבונה אתה יוצר כלי מלאכה. זה מדרש טוב לשם טכנולוגיה.

‏אפרת: אני לא יודעת אם זה מדרש. זה לא מדרש שם, זה ממש מילולית.

‏ד"ר גודמן: כן. טכנה-לוגיה. זאת אומרת, באמצעות הלוגוס, הלוגיה, אנחנו יוצרים מלאכה, אומנות המלאכה, טכנה. אז כן, כל כלי שאתם רואים, כל כלי, כל פטיש שאתה מחזיק, כל מטוס שאתה עולה עליו, התבונה יצרה כלי. AI זה כלי שיוצר תבונה. זה טכנולוגיה, זה up side down. [אפרת מהמהמת] זה 180, זה כאילו טכנולוגיה הפוכה. זה לא טכנה-לוגיה, זה לוגיה…

‏אפרת: לוג… לוגט… לוגיה-טכנה.

‏ד"ר גודמן: כן [צוחק]. מה זה הדבר הזה? אם נסתכל על זה ממש איך זה נראה, איך פרויקט מנהטן נראה, זה לא באמת כלי, אבל חושב כמו פטיש שיוצר שכל.

‏אפרת: כן.

‏ד"ר גודמן: זה לא כלי.

‏אפרת: או לדפוק על משהו עד שיצא ממנו…

‏ד"ר גודמן: שכל. כן. [צוחק]. זה לא כלי שיוצר שכל, אלא כל החווֹת שרתים אדירי הממדים האלה, שמושקעת בהם כמות אדירה של אנרגיה עד כדי כך שרוצים לייצר אממ תחנות אנרגיה גרעיניות, רק כדי שיהיה להן מספיק אנרגיה בשביל להחזיק את החווֹת שרתים האלה, זה בתי חרושת לשכל. [צוחק]

‏אפרת: כן. זאת אומרת, זה לא כלי אחד שמייצר שכל. יש פה מערך שלם. יש פה מפעל.

‏ד"ר גודמן: מפעל.

‏אפרת: מפעל לייצור שכל. שכלים.

‏ד"ר גודמן: מפעל לייצור מה ש… כן מה שמתפקד כשכל. עכשיו, כל מפעל, בואי נפרק על זה עוד קצת, ממה עשוי המפעל הזה? מפעל זה מכונות. מה הן המכונות של תעשיית ה-AI של הבתי חרושת ליצירת תבונה? זה מממ… שבבים, בהקשר שלנו זה ה-GPUs, על פי רוב זה ה-GPUs של NVIDIA, זה שבבים מאוד מאוד חזק… זה כוח מחשוב אדיר, שמפעילים אלגוריתמים. בהקשר שלנו זה deep neural networks שעשויים בארכיטקטורה של transformers. אגב אני לא מבין מה אמרתי עכשיו…

‏אפרת: [צוחקת] גם אני לא…

‏ד"ר גודמן: זה השם של המכונה.

‏אפרת: ואני מניחה שגם המאזינים לא.

‏ד"ר גודמן: זה השם של המכונה. אוקיי? זה שבבים פלוס אלגוריתם.

‏אפרת: זאת אומרת, אפשר להגיד בהשאלה - זה מכונה, והאלגוריתם זה ה… התוכנית ההנדסית של איך המכונה צריכה לעבוד…

‏ד"ר גודמן: נכון.

‏אפרת: מה היא צריכה לעשות, איך היא עובדת.

‏ד"ר גודמן: נכון. נכון. זו הארכיטקטורה של המכונה, זה האלגוריתם.

‏אפרת: זה מה שמפעיל את המכונה, זה מה שאומר למכונה מה היא צריכה לעשות.

‏ד"ר גודמן: כן. והכוח מחשוב זה כאילו האנרגיה של המכונה, כאילו, לצורך העניין.

‏אפרת: כן.

‏ד"ר גודמן: אוקיי, אז שבבים פלוס אלגוריתם זה המכונה, ו… בית חרושת זה כזה, אתה מכניס למכונה חומר גלם ויוצא בצד השני…

‏אפרת: מוצר.

‏ד"ר גודמן: מוצר. נניח אממ… אפשר לדמיין תהליך שבו לוקחים חיטה, טוחנים אותו, הופכים אותו לקמח, מוסיפים עוד כמה מרכיבים, ואז טלק-טלק - בצד השני מה יש?

‏אפרת: לחם.

‏ד"ר גודמן: חלות לשבת. לחם. אז יש מפעל שלוקח חיטה ועושה ממנו לחם; יש מפעל שלוקח חול, ומעביר אותו תהליך, ובצד השני יש זכוכית. החול זה החומר גלם, הזכוכית זה המוצר, הבית חרושת זה הקסם שהופך…

‏אפרת: חול לזכוכית.

‏ד"ר גודמן: חול לזכוכית. אוקיי, אז המכונה זה שבבים ואלגוריתם. מהו החומר גלם? החומר גלם זה דאטה. זה דאטה.

‏אפרת: מידע.

‏ד"ר גודמן: מידע. ולא סתם מידע, זה מידע שנוצר על ידי בני אדם. זה כל הספרים שבני אדם אי פעם כתבו, כל השיחות, כל ההתכתבויות בפייסבוק, כל מה שיש בגוגל, כל מה שיש באינטרנט, כל המידע שבני אדם יצרו. אם תרצי, כל התרבות האנושית.

‏אפרת: המתועדת ושנמצאת ברשת.

‏ד"ר גודמן: נכון. זה חומר הגלם.

‏אפרת: זה החול של הבית חרושת הזה.

‏ד"ר גודמן: זה החול. כן, זה המידע, זה החומר גלם. ואתה מכניס מידע למכונה, ומה יוצא בצד השני? שכל. תבונה. זה מטורף. זה מפעל שהופך מידע לבינה. ולמה זה מטורף? הקשר בין מידע לבין בינה…

‏אפרת: הוא בדרך כלל הפוך.

‏ד"ר גודמן: הוא תמיד הפוך.

‏אפרת: עד היום הוא היה הפוך תמיד.

‏ד"ר גודמן: זאת אומרת, איך זה בדרך כלל עובד? באמצעות התבונה שלנו, באמצעות הדבר הזה שיש לנו בין האוזניים, אנחנו מייצרים מידע. מה זה הפודקאסט הזה? באמצעות התבונה שלי ושלך אנחנו מייצרים מילים, מייצרים פה מידע, ועשינו עונה על אמריקה, על איראן, על קיטוב, על… מה זה כל הדברים האלה? האדם יושב ויכתוב ספר. זה תבונה יוצרת מידע. בצד השני יש ספר, ספר זה מידע מה המקור? השכל, התבונה.

‏אפרת: או מדען ש… נכנס למעבדה ועושה ניסויים, וזה וזה וזה, ומגלה איזושהי תגלית מדעית.

‏ד"ר גודמן: נכון.

‏אפרת: אז באמצעות השכל שלו…

‏ד"ר גודמן: הוא יוצר מידע.

‏אפרת: כן.

‏ד"ר גודמן: [מחייך] זה המפעל הרגיל, וזה מפעל הטכנולוגיה הרגיל - באמצעות תבונה מייצרים כלים. זה המסלול הרגיל - תבונה יוצרת מידע. מה זה AI? זה מה ש-mind blowing כאן. זה הפוך. זה לוקחים מידע ויוצרים [צוחק] ממנו מה שמתפקד כמו תבונה. מה זה?

‏אפרת: זה היפוך של כל הסדרים שידענו מאז המצאת האש…

‏ד"ר גודמן: נכון.

‏אפרת: ועד היום.

‏ד"ר גודמן: ועד היום. ולכן אל תגידו לי שזה טכנולוגיה. זה איכשהו מתכתב עם טכנולוגיה, נכון, כי זה פשוט כל המרכיבים רק upside down.

‏אפרת: כן, בסדר שונה. האינפוט והאאוטפוט משתנה.

‏ד"ר גודמן: מתהפך. כן.

‏אפרת: והתוצאות מתחלפות לגמרי.

‏ד"ר גודמן: נכון. אגב, אפשר לומר, זה לא ש… אמרנו שלא השכל יוצר כלי, אלא הכלי יוצר שכל, אבל מה יצר את הכלי שיוצר שכל?

‏אפרת: השכל.

‏ד"ר גודמן: השכל.

‏אפרת: אז שכל אנושי יוצר כלי, שיוצר שכל לא אנושי.

‏ד"ר גודמן: כן. זה התהליך.

‏אפרת: כן.

‏ד"ר גודמן: ולא שכל יוצר מידע, אגב, אפשר לומר גם כאן - השכל האנושי יצר הרבה הרבה הרבה הרבה מידע, ואז המידע הזה נהיה חומר גלם שמכניסים אותו לבית חרושת, ובצד השני יש שכל.

‏אפרת: שכל על-אנושי שיש בתוכו את כל המידע האנושי שנוצר אי פעם.

‏ד"ר גודמן: כן. לאור הסיפור הזה, אני חושב שעוד 50 שנה יסתכלו אחורנית, אם יהיה פה בני אדם [מחייך]. אם יהיה דבר כזה היסטוריונים, וישאלו: רגע, מה מערכת היחסים בין מהפכת האינטרנט למהפכת ה-AI? ואני חושב שככה ייכתב הפרק. האינטרנט, הם חשבו ש-וואו, העולם מחובר ועכשיו יש וואטסאפ ויש פייסבוק ויש ווייז ויש אוּבר…

‏אפרת: כפר גלובלי קטן.

‏ד"ר גודמן: יש כפר גלובלי קטן. אבל האמת, מה באמת זה האינטרנט? האינטרנט זה מה ש… כשהעלינו את כל המידע האנושי לאינטרנט, ובאינטרנט בני אדם יוצרים עוד ועוד מידע, ומברברים את עצמם לדעת בפייסבוק ובטוויטר, ויוצרים מילים ומתווכחים. אוקיי. מה שבני אדם לא יודעים, זה כאילו מה שהֵגֵל קרא "עורמת התבונה", שכל השיח האנושי הגועש הזה שבאינטרנט, זה יצירת מידע, יצירת החומר גלם, שאותו תעשיית ה-AI תהפוך לתבונה.

‏אפרת: המהפכה הדיגיטלית הייתה השלב הראשון, יצירת חומרי הגלם בשביל השלב השני.

‏ד"ר גודמן: בשביל מהפכת ה-AI, אשכרה כך - אם תרצי, הרי, נשק גרעיני. לקחת מסה ולהפוך ממנה אנרגיה. מה זה המסה? המסה, חומר הגלם, זה צריך להיות אורניום מועשר. אגב, איראן וכל הדבר שקורה שם עכשיו, מפעלי העשרת אורניום, הם מייצרים את החומר גלם, הם לא מייצרים את הפצצה.

‏אפרת: כן.

‏ד"ר גודמן: הם מייצרים את החומר הגלם עבור הפצצה. האינטרנט…

‏אפרת: זה מפעלי העשרת האורניום של "פרויקט מנהטן החדש" הזה של ה-AI.

‏ד"ר גודמן: בדיוק! וואו! בדיוק! בפרויקט מנהטן החדש היו צריכים לייצר חומר גלם כדי להפוך מסה לאנרגיה. פרויקט מנהטן החדש זה האינטרנט מייצר חומר גלם, מידע, כדי להפוך מידע לתבונה, וככל שיהיה יותר מידע guess what? "חוקי סקיילינג". ככל שיהיה יותר מידע יהיה יותר תבונה ו… כשהכל מתהפך, מה זה? אין לנו שם לדבר הזה.

‏אפרת: ולא רק שאין לנו שם לדבר הזה, זה לא עוד פרק בספר האנושי על טכנולוגיה. ולכן התגובות הסקפטיות… ל… ל…

‏ד"ר גודמן: כן. הסקפטיות - מה שהיה הוא שיהיה, הבהלות של… עכשיו, יכול להיות שלא יצא מזה כלום בסוף, דרך אגב.

‏אפרת: הלוואי.

‏ד"ר גודמן: אבל אם לא יצא מזה כלום זה כי הדבר החדש הזה לא מייצר… כאילו, העובדה שאין לנו קטגוריה לכנות את זה, אז אנחנו… גם אנחנו כאן משתמשים במילה טכנולוגיה כי אין לנו מילה אחרת, אבל אם זה לא באמת עוד טכנולוגיה…

‏אפרת: כי המוח שלנו מוגבל בניגוד ל… שכל הלא מוגבל הזה. [צוחקים]

‏ד"ר גודמן: שהבית חרושת הזה יוצר. כן, נשאל אותו בסוף.

‏אפרת: כן. איך לקרוא לזה.

‏ד"ר גודמן: כן. "מה, מה אתה?", "איך קוראים לך?" כן.

‏אפרת: איך קוראים לך?

‏ד"ר גודמן: "איזה קטגוריה אתה?". אגב, שאלה מעניינת לשאול אותו, דרך אגב.

‏אפרת: כן. עוד מעט תשאל אותו.

‏ד"ר גודמן: כן. אז אממ… אם אנחנו מקבלים שזה לא באמת טכנולוגיה, זה אומר שהעבר של הטכנולוגיה לא מדריך אותנו.

‏אפרת: אסור שידריך אותנו.

‏ד"ר גודמן: להבנת העתיד של ה… טכנולוגיה, של הדבר הזה.

‏אפרת: לא, זה פשוט לא אחראי לתת לעבר הזה להנחות אותנו, כי מדובר במשהו אחר, חדש, ולא נכון ללמוד מהעבר כלפי ההווה וכלפי העתיד.

‏ד"ר גודמן: נכון. בעצם, אם זה טכנולוגיה אז יש לנו מפה. מה שהיה ב… העבר הוא המפה של העתיד, אבל אם זה לא באמת טכנולוגיה, בגלל כל מיני… מה שתיארנו עכשיו, אז העבר הוא לא מדריך לעתיד, בעצם האנושות מגיעה עכשיו…

‏אפרת: לשלב חדש.

‏ד"ר גודמן: ל-"uncharted territory" זה ביטוי באנגלית שאני אוהב. זה כאילו לטריטוריה חדשה שאף אחד עוד לא ביקר כאן. [אפרת מהמהמת] ואף אחד עוד לא היה כאן, סייר כאן וחזר כדי לספר מה קורה כאן, מה עושים כאן, איך מתנהגים כאן. אנחנו הראשונים ביבשת החדשה הזאת.

‏אפרת: זה תמיד מזכיר לי, אתה יודע, את ה… בארצות הברית, כשהתחילו לצאת מערבה, הם כאילו הגיעו ה-Pilgrims האלה לאמריקה, ליבשת הזאת, אבל הם התיישבו על החוף המזרחי, ושם הם הקימו את המושבות, אבל בשלב מסוים התחילו להבין שזאת יבשת גדולה, וצריך לצאת, אפשר לצאת מערבה.

‏ד"ר גודמן: ויוצאים לטריטוריה…

‏אפרת: כן. into the great wide open, ככה הם קראו לזה. אף אחד לא יודע מה יהיה שם. מה נמצא שם ומה נגלה שם, וזה היה סוג של quest כזה, לצאת מערבה לגלות את היבשת.

‏ד"ר גודמן: אנשים שמוכנים לחיות בעולם שבו אני מוכן להיות מופתע, אין לי מושג מה יש כאן. אני לא מספר לעצמי שהמרחב החדש והלא מוכר הוא בעצם מוכר, מה שהיה הוא שיהיה. הנטייה הזאת נובעת מחרדה, הכחשת הלא מוכר. להגיד שזה בעצם אז זה more of the same רק קצת יותר. אגב, יש היסטוריון בשם טרנר שאמר: ככה נוצר האינדיבידוא… החוש ההרפתקני של האמריקאים…

‏אפרת: [מהמהמת] ככה נוצר, מהיציאה מערבה.

‏ד"ר גודמן: ככה הוא נוצר, מהיציאה. אז כן, אנחנו כאן…

‏אפרת: זה אתוס כזה אפילו.

‏ד"ר גודמן: אז אנחנו כאן בטריטוריה לא מוכרת. זה לא טכנולוגיה, ולכן זה לא עוד פרק בתולדות הטכנולוגיה, ולכן לא בטוח שזו עוד בהלה בתולדות…

‏אפרת: הבהלות שלא התממשו.

‏ד"ר גודמן: הבהלות שלא התממשו. [צוחק]

‏אפרת: כן. אוקיי, אז זה לגבי הסקפטים, ולמה אנחנו סקפטים לגבי הסקפטיות שלהם?

‏ד"ר גודמן: נכון. אולי הם צודקים. הלוואי שהם צודקים.

‏אפרת: כן. אבל אנחנו לכל הפחות סקפטים לגבי הסקפטיות שלהם.

‏ד"ר גודמן: נכון. נכון.

‏אפרת: אבל יש עוד סוג של תגובות לשיחה הזאת שמתנהלת על AI, וזה לא אנשים סקפטיים אלא להפך - אנשים שמאמינים. מאמינים בדיוק למה שאמרנו עכשיו, שזה משהו חדש.

‏ד"ר גודמן: וטרנספורמטיבי.

‏אפרת: טרנספורמטיבי. משהו שלא היה כמותו, שאנחנו לא יודעים מה הוא יוביל.

‏ד"ר גודמן: נכון. ומי זה האנשים שהם חושבים שזה טרנספורמטיבי? במידה רבה כל הכלכלה העולמית מהמרת שזה טרנספורמטיבי. הטריליונים שמושקעים בזה יחזירו את עצמם רק אם זה ממש טרנספורמטיבי. טרנספורמטיבי ברמה שזה משנה את חוקי הכלכלה. כל ההשקעות ב-AI הזה כרגע לא מסתדרות מבחינה מתמטית.

‏אפרת: כן. זה רק השקעות בלי החזרים על ההשקעות, וממשיכים לעלות.

‏ד"ר גודמן: נכון להקלטת הפרק הזה, הבועה עוד לא התפוצצה [צוחקים]. אז יום אחד אנחנו נקשיב לפרק הזה ונצחק. [צוחק]

‏אפרת: או שנבכה.

‏ד"ר גודמן: או שנבכה. אבל גם מבין אלה, שזה כל התעשייה והמשקיעים בתעשייה, שבמידה רבה משכנו את הכלכלה העולמית על ההימור הזה, שמאמינים שזה טרנספורמטיבי מאוד, גם כאן…

‏אפרת: אפשר לחלק אותם לשתי קטגוריות.

‏ד"ר גודמן: לשתי קטגוריות. כפי שניסחה את זה קארן האו: There are boomers and doomers.

‏אפרת: [מחייכת] וקצת הזכרנו אותה, אבל אנחנו באיזה פרק כזה, אמרת באמצע העונה, אני… לא בדיוק אמצע העונה, אבל אחרי החלק הראשון של העונה.

‏ד"ר גודמן: אני סקפטי לגבי הסקפטיות שלך.

‏אפרת: כן. אז אנחנו, כאילו, קצת מסכמים רגע את מה שדיברנו עליו עד עכשיו, כי הזכרנו גם את הבומרס וגם את הדומרס, אולי לא בשמות האלה, אבל בוא ניזכר מי הם.

‏ד"ר גודמן: כן. הבומרס זה כל אלה שמאמינים שזה מוליך לאוטופיה.

‏אפרת: מהממ. ריי קורצווייל.

‏ד"ר גודמן: ריי קורצווייל. הדבר הזה הולך לפתור את הבעיות של התחממות גלובלית, ולרפא את כל המחלות, ויש סיבות טובות להאמין שזה בדיוק מה שיקרה, דרך אגב.

‏אפרת: אגב, אני חושבת שגם סם אלטמן הוא גם סוג של בומר בהיבט הזה. כאילו, מדבר בעיקר על הדברים הטובים, המדהימים. גם דמיס הסביס מדבר על - solve intelligence and solve everything else.

‏ד"ר גודמן: זה יפתור את כל הבעיות שלנו.

‏אפרת: כן. ואם מישהו יצא לו מזמן ה… ל… כאילו נפתח לצפייה הסרט שנעשה על דמיס הסביס ועל open mind כאילו…

‏ד"ר גודמן: DeepMind.

‏אפרת: סליחה, ועל DeepMind חיברתי בין OpenAI ל… [צוחקת]

‏ד"ר גודמן: כן. כן. כן. [צוחק]

‏אפרת: והסרט הזה שנעשה על תהליך הפיתוח, על כל ההיסטוריה של דמיס הסביס ועל תהליך הפיתוח, שמסתיים בפרס נובל שהוא קיבל על קיפול חלבונים. אגב, זה סרט מדהים, מאוד מאוד מעניין, וזה משאיר אותך עם טעם של אמממ…

‏ד"ר גודמן: הדבר הזה יפתור את הבעיות שלנו.

‏אפרת: כן.

‏ד"ר גודמן: הוא יפתור את בעיית ה… דיברנו על…

‏אפרת: אנחנו הולכים אל הלא נודע, בקטע טוב, של הבהלה מערבה.

‏ד"ר גודמן: כן, אנחנו הולכים…

‏אפרת: בארצות הברית. ההרפתקנות האנושית.

‏ד"ר גודמן: אנחנו הולכים. זה יפתור את בעיית האנרגיה.

‏אפרת: כן.

‏ד"ר גודמן: זה יוזיל את כל המחירים, זה מייצר אבנדנס, זה יפתור את המחלות, זה יפתור התחממות גלובלית. טוב, אנחנו כאן דיברנו על המשבר המשולש שהעולם הזה מייצר, אבל המטרה כאן זה לייצר איזושהי מציאות שלמה, אוטופית, מי שמהמר על זה, זה הבומרס.

‏אפרת: זה הבומרים.

‏ד"ר גודמן: זה הבומרים. זה הולך להיות בום ענק ומדהים. ויש את הדומרס.

‏אפרת: אהמממ. ובראשם…

‏ד"ר גודמן: אליעזר יודקובסקי.

‏אפרת: שהספר החדש שלו שיצא עכשיו…

‏ד"ר גודמן: כן.

‏אפרת: יש לו את הכותרת המטורפת. לספר הזה קוראים: "If Anyone Builds It, Everyone Dies".

‏ד"ר גודמן: נכון. ו-"it" זה superintelligence, וזה ספר, לדעתי, מאוד משכנע. מאוד משכנע. שבה הוא טוען - אם מישהו ייצר סופר אינטליגנציה…

‏אפרת: מישהו, לא משנה לי מי, אלה או אלה או אלה, אמריקה או סין או החברה הזאת או החברה האחרת, זה בכלל לא משנה.

‏ד"ר גודמן: כן. הוא מהמר שתי הימורים, אגב, בקצב הזה יהיה סופר אינטליגנציה ואם יש סופר אינטליגנציה בוודאות כן מוחלטת [צוחק], כן, everyone dies, וכן דיברנו על תרחישי אימה. [אפרת מהמהמת] תרחישי אימה שיכולים להוות, או שהסופר אינטליגנציה יוצאת מהשליטה של בני אדם. אגב, סופר אינטליגנציה בני אדם יוצרים, וזה יוצא משליטת האדם. אני רוצה לחזור אחורנית בשיחה שלנו להגדרה של טכנה-לוגוס, טכנולוגיה. תבונה יוצרת כלי שמטרתה להגביר את השליטה שלנו על העולם. אז דיברנו על ההיפוך, ההיפוך הראשון: לא תבונה יוצרת כלי, אלא כלי יוצר תבונה. ואולי בעצם יודקובסקי מדבר על ההיפוך השני. הכלי הזה, שמגביר את השליטה שלנו, זה לא כלי שאנחנו שולטים באמצעותו, אולי זה כלי ששולט עלינו. זאת אומרת, אולי ההיפוך הראשון מצמיח את ההיפוך השני. זה לא הגברת השליטה שלנו, זה כלי של…

‏אפרת: אובדן שליטה.

‏ד"ר גודמן: אובדן סופי של השליטה שלנו. זה הדומרס, זה יודקובסקי. עכשיו, אילון מאסק, כדאי לדעת את זה, אילון מאסק, כשהוא כאן all in בפיתוח AI, השקיע חלק גדול מהקריירה שלו בלהיות אלרמיסט, נביא זעם, ה-AI זה מסוכן, זה יכול להביא לחורבן.

‏אפרת: אפשר לשמוע אותו בפתיח הזה ש-ניר לייסט הנהדר יצר לעונה הזאת שבו הוא אומר: אילון מאסק AI is far more dangerous than nukes. כן.

‏ד"ר גודמן: than nukes. מטורף. אגב, טכנולוגיה מגבירה את השליטה שלנו. אם AI זה לא טכנולוגיה אז זה לא מפתיע שאולי, במקום שאנחנו נשלוט באמצעותו הוא ישלוט עלינו. זה יודקובסקי, זה הדומרס, אבל יש גם תרחישים אחרים. שזה יעזור לאנשים הלא נכונים לייצר נשק ביולוגי, מתקפות דיסאינפורמציה שישברו את הדמוקרטיה, מתקפות סייבר על תשתיות. יש כאן דמוקרטיזציה של כוח להרוס. מה שאנחנו עושים עכשיו, ככה נראה מרחב השיח של ה…

‏אפרת: דומרס.

‏ד"ר גודמן: דומרס! והוא חי במקביל למרחב שיח של ה… בומרס.

‏אפרת: ומה שמוזר, זה שהוא לא רק חי במקביל, לפעמים זה אותם אנשים.

‏ד"ר גודמן: נכון.

‏אפרת: הדבר המטורף שככל שנכנסים או יורדים במורד מחילת הארנב הזאת [מצחקקת], שקוראים לה עולם ה-AI ותעשיית ה-AI וכולי, לומדים שזה אותם אנשים.

‏ד"ר גודמן: נכון.

‏אפרת: זה פשוט שאלה של איפה ועם מי הם מדברים.

‏ד"ר גודמן: נכון. סם אלטמן הוא בומר בכל שיחה…

‏אפרת: כלפי חוץ.

‏ד"ר גודמן: הדבר הזה יפתור את בעיית האנרגיה והתחממות גלובלית, ודמיס הסביס הוא בומר, אבל האנשים האלה [מחייך] אולי זה קצת ad hominem למה שנעשה עכשיו, אבל בסדר. האנשים האלה, הם השקיעו, משקיעים, עשרות מיליונים של דולרים…

‏אפרת: מאות מיליונים של דולרים.

‏ד"ר גודמן: אה, מאות מיליונים של דולרים? בבונקרים תת-קרקעיים…

‏אפרת: שמכינים את עצמם ל-doomsday, ולכן הם, כלפי חוץ הם בומרים, אבל כלפי פנים הם דומרים.

‏ד"ר גודמן: צריך לדעת את זה. יש להם בונקרים. אם doomsday scenario מתגשם, בגלל הטכנולוגיה ש… הטכנולוגיה, מה שזה, שהם יוצרים, הם לא יהיו כאן איתנו.

‏אפרת: לא. אנחנו לא נהיה איתם.

‏ד"ר גודמן: [צוחק] נכון.

‏אפרת: אנחנו אלה שנושמד. אבל הם…

‏ד"ר גודמן: הם לא מזמינים אותנו לתיבת נֹח. הם בונים תיבת נֹח.

‏אפרת: לא. וזה, גם צריך לדעת את זה. יש תעשייה שלמה של בונקרים תת-קרקעיים, שנוצרו כדי להגן על יושביהם מ-doomsday.

‏ד"ר גודמן: נכון.

‏אפרת: יש כמה מאות כאלה, אני חושבת, בעולם…

‏ד"ר גודמן: כן. אז…

‏אפרת: בארצות הברית, בניו זילנד, באוסטרליה. כאילו, אנשים, אל תחשבו על הממ"ד הביתי שלכם [מחייכת] או על המקלט השכונתי שלכם. יש שם בתי חולים, ויש שם בריכות שחייה, ויש שם…

‏ד"ר גודמן: אמבטיית קרח. [צוחק]

‏אפרת: אמבטיות קרח, מיכה. אולי תבקש ממישהו מהם שיזמין אותך לאמבטיית קרח שלו בבונקר בניו זילנד [ד"ר גודמן צוחק]. וכמובן אולמות קולנוע ומגרשי כדורסל, ו… יש שם יקום שלם.

‏ד"ר גודמן: כל מה ש… כל מה שצריך. עכשיו, אם צריך ללמוד מאנשים, לא רק ממה שהם אומרים אלא גם ממה שהם עושים, יזמי התעשייה הם בומרים ודומרים בעת ובעונה אחת, ובמידה רבה אני חושב שהם צודקים. מה שקשה לנו עם ה-AI, שאתה חושב על זה באופן בינארי. יש מי שמוכר לך אוטופיה, יש מי שמוכר לך דיסטופיה, ומה שקשה למוח שלנו להכיל…

‏אפרת: זה שלא צריך לבחור.

‏ד"ר גודמן: זה שזה…

‏אפרת: אלו ואלו דברי אלוהים חיים.

‏ד"ר גודמן: אלו ואלו דברי אלוהים חיים. הדבר שעשוי לרפא את הסרטן ומחלות, יוכל גם להפיץ נגיפים ביולוגיים ולפזר מגפות. אותו הדבר עצמו. ואם יש משהו שקשה לבני אדם לעשות, זה להתעלות מעל חשיבה בינארית. זאת אומרת, אם משהו מאוד מאוד טוב, איך הוא יכול להיות…

‏אפרת: גם רע.

‏ד"ר גודמן: מאוד מאוד רע? ואם משהו מאוד מאוד רע, איך הוא יכול להיות מאוד מאוד טוב? זאת החשיבה הבינארית שלנו. ואגב, זה מביא כל כך הרבה טוב, ה-LLM’s האלה, הניצנים האלה של אינטליגנציה שאפשר להשתמש בה. זה כל כך טוב, אז קשה לדמיין. אבל כן, אם יש רגע שבו אנחנו צריכים להתאמן בחשיבה הוליסטית ולא בינארית, זה עכשיו. ולהסתכל על הבינה המלאכותית מתוך פיכחון, כאילו להבין שזה לא בדיוק טכנולוגיה, זה משהו אחר לגמרי. ולאן זה לוקח אותנו? גם וגם.

‏אפרת: גם לאוטופיה וגם לדיסטופיה בעת ובעונה אחת.

‏ד"ר גודמן: בעת ובעונה אחת.

‏[השיר "Go West", בביצוע Pet Shop Boys]

“…[Go west] life is peaceful there

[Go west] in the open air

[Go west] where the skies are blue

[Go west] this is what we′re gonna do…”

‏אפרת: עד עכשיו דיברנו על ההשלכות האינטלקטואליות והרגשיות של היציאה הזאת מערבה, אל ארץ לא נודעת. בפרקים הבאים נתחיל לדבר על ההשלכות הפוליטיות של המהפכה האדירה הזאת שבדרך.

‏תודה לניר לייסט ולאור שמיר העורכים, למיכל אטיאס ולאייל לויט על ההפקה, ולניבה גולדברג ולמתן חיים מצוות הדיגיטל.

‏כל העונות הקודמות של "מפלגת המחשבות" זמינות ביישומוני ההסכתים וגם באתר "בית אבי חי", שם תוכלו למצוא תכנים מעולים נוספים.

‏[השיר ממשיך להתנגן]

“…[Go west, this is what we′re gonna do]

There where the air is free

We'll be [we′ll be] what we want to be [ah, ah, ah, ah]

Now if we make a stand [ah]

We'll find [we′ll find] our promised land [ah]

[To live there] there are many ways…”

---

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה