מפלגת המחשבות - פרק 139 – מהפכת הבינה: מלתוס טעה

תארו לכם עולם בלי עוני, בלי אסונות אקלים, בלי מחלות ואולי אפילו בלי מלחמות. עולם שבו כל הבעיות שלנו ייפתרו בידי ישות תבונית מעשה ידינו, שתהיה חכמה מאיתנו פי עשרות מונים. האם יהיה זה חזון אוטופי, או חזיון בלהות? בפרק הקרוב נתבונן במציאות האידילית שאדריכלי ה-AI משרטטים, ונשאל האם בכל זאת מתגלע בה סדק.

---

‏תאריך עליית הפרק לאוויר: 11/11/2025.

‏קריין: אתם מאזינים להסכת של "בית אבי חי".

‏[מוזיקת רקע, רצף הקלטות]

‏חיים יבין: "כן, כנראה מהפך…"

Donald Trump: “Everyone is talking about artificial intelligence. Not artificial, it’s genius.”

Sundar Pichai: “It’s more profound than fire or electricity or…”

Sam Altman: “AI will be the most powerful technology humanity has yet invented.”

Naftali Bennett: “New dimensions will emerge.”

Jensen Huang: “The greatest technology equalizer of all time.”

Yuval Noah Harari: “It is not a tool, it is an agent.”

Elon Musk: “Mark my words, AI is far more dangerous than nukes.”

‏[מוזיקה מתגברת ונשארת ברקע]

‏אפרת: שלום, אני אפרת שפירא רוזנברג ואתם מאזינים ל"מפלגת המחשבות", הסכת שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת על הרעיונות שמאחורי המהפכה הגדולה שבדרך - מהפכת הבינה.

‏תתארו לכם עולם בלי עוני, בלי אסונות אקלים, בלי מחלות, בלי מלחמות. עולם שבו כל הבעיות שלנו ייפתרו בידי ישות תבונית שאמנם נוצרה על-ידי בני אדם, אבל שאנחנו כבר לגמרי לא נבין. נשמע מופרך, נכון? ברור. חלקנו סקפטים מאוד. אבל יודעים מי לא סקפטי בכלל? תעשיית ה-AI. כל הכסף של התחום מושקע בתרחיש הזה, לפיו בעוד זמן לא מאוד רחוק עומדת להתרחש התפוצצות אינטליגנציה שתביא אותנו למקום שבו האנושות מעולם לא הייתה.

‏[פאוזה]

‏שלום מיכה.

‏ד"ר גודמן: שלום אפרת.

‏[מוזיקה מסתיימת]

‏אפרת: אז לפני שאנחנו מתחילים לצלול לתוך הבינה המלאכותית, AI, כל ההשפעות, כל מה שהבטחנו שנעשה בפרק הקודם בעונה הזאת, עד שאנחנו מדברים על בינה מלאכותית, בוא נדבר שנייה על מה זאת בינה אנושית?

‏ד"ר גודמן: כן.

‏אפרת: מה זה בינה בכלל? למה בינה מלאכותית זה דבר כל-כך גדול? כי מה זאת בינה בכלל?

‏ד"ר גודמן: כל פעם שאנחנו פותחים עיתון, או סתם מסתכלים מסביב ורואים פה שולחנות וכיסאות ובניינים, או פותחים חדשות ורואים אירועים והתרחשויות, הכל זה בינה. זה אינטליגנציה מתערבת במציאות, מערבבת את המציאות ומייצרת את המציאות כפי שאנחנו חווים אותה ומבינים אותה.

‏אני רוצה לרגע שנחזור אחורנית לשנת 1798, השנה שבה תומאס מלתוס פרסם את התיאוריה שלו, את התיאוריה החתרנית שלו, על "לאן ההיסטוריה נוסעת". הוא כותב בתקופה 1798 אל תוך המאה ה-19. זה תקופה שבה באירופה מתחילה להיות אופטימיות, והאופטימיות הזאת הופכת לתיאוריה. התיאוריה, ההמשגה של האופטימיות, של הרגש, זה "תיאוריית הפרוגרס". מה זה "תיאוריית הפרוגרס"? זה האמונה שההיסטוריה באופן דטרמיניסטי, באופן הכרחי, על אף שיש נסיגות, על אף שיש bumps on the road, על אף שלפעמים זה לא תמיד מסתדר, בגדול הכיוון של ההיסטוריה זה [לאט] לכיוון - יותר - טוב. כן.

‏אפרת: ועוד יותר טוב.

‏ביחד: ועוד יותר טוב.

‏ד"ר גודמן: ועוד יותר. ואז זה הפך לשיר. כן. [צוחקים]

‏אפרת: זה התזה של הקידמה…

‏ד"ר גודמן: נכון.

‏אפרת: …של הפרוגרס.

‏ד"ר גודמן: זה הפרוגרס. ואז מלתוס אומר, 'באמת? הפרוגרס זה אשליה. ההיסטוריה היא לא לינא… היא לא מתקדמת לאן שהוא, היא פשוט מעגלית. וככה זה נראה', זה הטענה של תומאס מלתוס. 'כשהתנאים הם טובים, ויש יותר בריאות, יותר שפע, יש לך יותר משאבים, אז יש יותר אוכל על השולחן, משפחות גדלות וקצב גידול האוכלוסייה עולה'. אומר תומאס מלתוס, 'זה הטרגדיה שלנו. זה הבעיה שלנו, זה המצב שלנו כרגע'. אומר תומאס מלתוס, 'המצב כרגע הוא כזה: [מדבר לאט] קצב - גידול - האוכלוסייה הוא יותר גבוה מקצב - גידול - המזון'. והמשאבים, נניח גם אנרגיה. אבל הוא התייחס ספציפית למזון. הוא טען שקצב גידול האוכלוסייה הוא אקספוננציאלי וקצב גידול המזון הוא לינארי. שמה שזה אומר, שככל שעובר…

‏אפרת: נפתח פער…

‏ד"ר גודמן: נפתח פער, וככל שעובר זמן, הפער הזה הולך וגדל. הפער הזה לא יכול להישאר. לא יכול להיות שיהיה בעולם יותר אנשים מאוכל. אז הפער הזה, נגזר עליו להיסגר. איך הוא ייסגר?

‏אפרת: מלחמות, מחלות, מגפות. פחות או יותר, נכון?

‏ד"ר גודמן: ורעב.

‏אפרת: רעב…

‏ד"ר גודמן: זה השילוש…

‏אפרת: אוקיי.

‏ד"ר גודמן: של מלתוס.

‏אפרת: השילוש הלא כיפי.

‏ד"ר גודמן: הלא קדוש. זאת אומרת, הפער הזה ייצר מלחמות. makes sense, נכון?

‏אפרת: מלחמות על משאבים, כן.

‏ד"ר גודמן: על משאבים, כן. הפער הזה ייצר מגפות. והפער הזה ייצר כמובן רעב. וכל אחד מהם ושלושתם ביחד יסגרו את הפער.

‏אפרת: למה? בוא נגיד רק את המובן מאליו. כי אנשים מתים במלחמות…

‏ד"ר גודמן: נכון.

‏אפרת: …ואנשים מתים מרעב, ואנשים מתים ממגיפות.

‏ד"ר גודמן: ואז…

‏אפרת: ולכן כמות האוכלוסייה תידלדל מחדש, ופה מגיעה המעגליות שהוא דיבר עליה.

‏ד"ר גודמן: נכון.

‏אפרת: כי אנשים מתים, האוכלוסייה מצטמצמת. יש איזשהי תקופה לא טובה, ואז לאט-לאט…

‏ד"ר גודמן: נהיה יותר טוב?

‏אפרת: מגיעה שוב תקופת רווחה…

‏ד"ר גודמן: כן.

‏אפרת: כי פתאום נסגר הפער, יש משאבים, יש רווחה…

‏ד"ר גודמן: נכון…

‏אפרת: ואז עוד פעם טוב, אז מתחילים להתרווח, ללדת עוד ילדים, וחוזר חלילה.

‏ד"ר גודמן: ההיגיון בתזה של מלתוס, זה שאין יותר טריטוריה חקלאית. זה כמות מוגבלת, כמות הדונמים שמייצרים חיטה או אורז. מטבע הדברים, המשאב של המזון הוא מוגבל, האוכלוסייה גודלת בקצב שהוא יותר גדול, וככה נגזר עלינו המעגליות הזאת של מגפות, מלחמות ורעב. כשמלתוס כתב על זה, היו בעולם פחות ממיליארד אנשים. הוא חשב שעוד רגע אין מספיק מזון בשביל להאכיל את המיליארד 100 מיליון, אוקיי? את העוד קצת [אפרת צוחקת קלות]. היום יש בעולם למעלה משמונֶה מיליארד אנשים. ולא רק שיש מספיק מזון לכולם, יש עודף מזון.

‏אפרת: כן, כולנו מכירים את זה שיש עודף מזון.

‏ד"ר גודמן: יש עודף מזון. הסיבה שיש בעולם כיסים של רעב, זה לא בגלל שאין מספיק מזון. זה בעיות פוליטיות.

‏אפרת: כן.

‏ד"ר גודמן: אין מספיק סירקולציה של מזון. אז אתה שואל, מה קרה? למה נבואת מלתוס התבדתה? מה תומאס מלתוס לא הבין?

‏אפרת: או במילים אחרות, כסיסמה.

‏ד"ר גודמן: כן.

‏אפרת: "מלתוס טעה".

‏ד"ר גודמן: "מלתוס טעה", זה סטיקר באוטו. [מחייך]

‏אפרת: כן.

‏ביחד: מלתוס טעה.

‏ד"ר גודמן: נבואות הזעם שלו התבדו. מה הוא לא הבין? מה שהוא לא הבין, שמאותו דונם אפשר לייצר יותר תבואה, הרבה יותר. איך? באמצעות טכניקות של דישון, באמצעות טכנולוגיות של השקיה. באמצעות הנדסה גנטית, של ה…

‏אפרת: החיטה…

‏ד"ר גודמן: של החיט… באמצעות…

‏אפרת: אולי אממ, גידול במעבדה, יום אחד.

‏ד"ר גודמן: באמצעות יצירת זנים יותר אפקטיביים במעבדה. אתה שואל… במילים אחרות, כשאתה לוקח את הבינה האנושית ומערב אותה בתוך עשייה חקלאית, כל דונם מפיק הרבה יותר תבואה, הרבה יותר פירות. מה שתומאס מלתוס לא הבין, הוא חשב שהמשאבים הם מוגבלים, הם לא הבינו שמה ששכל, מה שבינה עושה, היא הופכת משאבים מוגבלים להרבה פחות מוגבלים. ועכשיו, בוא ניקח את זה למשבר המים. באיראן יש משבר מים, כן? אין להם מספיק מים. אני אומר את זה עם קצת חיוך. [מצחקקים]

‏אפרת: דיברנו על זה בעונה הקודמת גם.

‏ד"ר גודמן: דיברנו על זה בעונה… אגב, לא שאנחנו מאחלים צימאון לעם האיראני, אנחנו כן רק פשוט מאחלים חוסר יציבות למשטר האיראני. את יודעת, את שואלת, מה קרה שמה? למה באיראן אין מים ולאיחוד האמירויות יש מים?

‏אפרת: כן, מעבר למפרץ.

‏ד"ר גודמן: נכון. [צוחק]

‏אפרת: כן.

‏ד"ר גודמן: לערב הסעודית יש מים, לישראל יש מים, בגלל שאין שום סיבה שיהיה מחסור במים. האוקיינוס מלא במים. באמצעות תבונה אנושית אפשר להפוך מים מלוחים למים מתוקים. כמובן מנגנון ההתפלה שיש באיחוד האמירויות, שיש בישראל, יש בערב הסעודית. זאת אומרת, הבינה האנושית הופכת את המשאב המוגבל - מים - למשאב לא מוגבל. אגב, אותו דבר, תמיד מדברים על אנרגיה, וייגמר הנפט. האנרגיה זה לא משאב מוגבל. כמה אנרגיה מוקרנת אלינו מהשמש? מה שמוגבל זה רק - עדיין לא פיתחנו את הטכנולוגיה הכי אפקטיבית שיודעת לאגור בצורה אקונומית את האנרגיה מהשמש. זאת אומרת, עוד קצת בינה, עוד קצת פענוח, ואנחנו נהפוך את האנרגיה למשאב לא מוגבל. מלתוס חשב שהמשאבים הם מוגבלים. הוא לא הבין מה זה בינה אנושית. אינטליגנציה הופכת משאבים מוגבלים ללא-מוגבלים. או להרבה פחות מוגבלים. מכאן יוצא שהמשאב היחיד שהוא באמת מוגבל…

‏אפרת: זה הבינה.

‏ד"ר גודמן: זה הבינה. ככל שהבינה היא פחות מוגבלת, כל שאר המשאבים הם פחות מוגבלים. ואם נשווה ונעלה בתזה הזאת, זה נכון לא רק לגבי… אולי זה נכון בכלל לגבי הקטגוריה ששמה בעיה. מה זה בעיה? בעיה זו התרחשות שברמה ההיפותטית, העקרונית יש לה פתרון. אם אין לזה פתרון, זה לא בעיה. זה טרגדיה, זה לא בעיה.

‏אפרת: לדוגמה?

‏ד"ר גודמן: משהו שקרה בעבר. משהו שקרה בעבר, הוא לא בעיה.

‏אפרת: כי אין לו פתרון, כי אי-אפשר לתקן את זה.

‏ד"ר גודמן: אי-אפשר לתקן את זה, אז זה לא בעיה. אם יש לי זיכרונות רעים מזה, זה בעיה. ועל זה צריך לעבוד. אני אלך לתרפיה, ועל… אני צריך לעבוד. אבל מה שקרה הוא בלתי הפיך. איך שאני זוכר את מה שקרה, איך שזה מעצב אותי, מה שזה גורם לי להרגיש, זה בעיה. למה? כי עם זה ניתן להתמודד.

‏אפרת: זה כבר הגדרה מעניינת. ההגדרה של בעיה זה רק משהו שאפשר להתמודד איתו. רק משהו שאפשר לפתור אותו…

‏ד"ר גודמן: כן…

‏אפרת: …זאת בעיה.

‏ד"ר גודמן: אני חושב שאנחנו נסכים שבעיה זו התרחשות שמזמינה אותנו לנהל שיחה על מה הפתרון. ואם אין שיחה על מה הפתר… זה לא בעיה. זה לא אומר שזה לא דבר רע, כן? [מצחקק] אבל אוקיי, אם אנחנו מקבלים את ההגדרה הזאת לבעיה, אז אני רוצה לעשות כאן משהו ולהגדיר - "כל הבעיות שלנו הם אותו הדבר" [אפרת מצחקקת]. כל הבעיות שלנו הם בורות במצבי צבירה שונים. ההבדל בין בעיה אחת לבעיה אחרת זה שזה סוג אחד של בורות וזה סוג אחר של בורות.

‏אפרת: זאת אומרת, כל הבעיות שבעולם הם מקרה פרטי של בורות.

‏ד"ר גודמן: של היעדר ידע.

‏אפרת: כן.

‏ד"ר גודמן: נניח, אם מישהו מת מדלקת גרון ב-1920 - מסכן. כי הוא לא מת מדלקת גרון. הרי בשנות ה-20 יגלו את [במבטא אמריקאי] הפניצילין, את האנטיביוטיקה. אז אפשר לומר, הוא לא מת מהשריטה שהוא קיבל, לא יודע, הוא נשרט וזה הזדהם ואז הוא מת. אז הוא לא מת מהשריטה, כאילו, הוא מת מהשריטה, אבל אפשר לעשות המשגה גבוהה יותר ולהגיד: "הוא מת מהיעדר אינפורמציה. הוא מת מסוג של בורות". אם הוא היה מקבל את אותה שריטה, את אותו כאב גרון…

‏אפרת: 10 שנים אחר-כך…

‏ד"ר גודמן: 10 שנים אחר כך הוא לא היה מת [צוחק]. הוא מת מחוסר ידע, הוא מת מבורות מסוג מסוים.

‏אפרת: מי שמת בשנות ה-80 מאיידס בארצות הברית…

‏ד"ר גודמן: [מצחקק] נכון.

‏אפרת: זאת הייתה מגפה. אנשים מתו בהמוניהם מאיידס. היום אנשים לא מתים מאיידס.

‏ד"ר גודמן: נכון. אז הם מתו ממה? יש ידע מסוים שלא היה להם באייטיז שיש להם היום. או התחממות גלובלית. אנחנו סובלים היום. אבל נניח, האם עוד 100 שנה אנחנו נגלה איך פותרים את בעיית ההתחממות הגלובלית?

‏אפרת: בהנחה שההתחממות הגלובלית לא תפתור אותנו קודם. [צוחקים]

‏ד"ר גודמן: נכון. נניח, יהיה פתאום איזה פריצת דרך מדעית ויגלו שאם שופכים קפה שחור על האטמוספרה, זה סופג את כל הפחמן. [צוחק]

‏אפרת: כן, זה בטוח זה…

‏ד"ר גודמן: אני לא יודע מה יגלו.

‏אפרת: אנחנו, אנחנו רגע משם.

‏ד"ר גודמן: יש איזשהו פיסת אינפורמציה, יש איזשהו פענוח לשאלה הזאת. זאת אומרת, אם יש פענוח להתחממות גלובלית, אז כרגע ממה אנחנו סובלים? מזה שעוד לא גילינו אותה. היום אנחנו לא יודעים איך לספוג פחמן מהאטמוספרה בצורה אקונו… אנחנו לא יודעים עדיין איך לפתור את הבעיה הזאת. אז מה זה התחממות גלובלית? זה כמו למות מאיידס באייטיז, או למות מכאב גרון…

‏אפרת: מדלקת גרון.

‏ד"ר גודמן: מדלקת גרון ב-1920. כל בעיה היא בורות במצב צבירה אחר. אוקיי, מכאן יוצא שעם כל… עם…

‏אפרת: שאנחנו עושים רדוקציה לכל הבעיות שבעולם לבעיה אחת.

‏ד"ר גודמן: לבעיה אחת, חוסר ידע. מה זה בינה? בינה זה היכולת לקחת ידע ולייצר ממנו עוד ידע. אולי זה אחת מההגדרות של בינה. זאת אומרת, בינה זה המנוע שמייצר אינפורמציה. זאת אומרת, כל הבעיות שלנו בעולם, כמו כל המשאבים המוגבלים בעולם נובעות מכך שיש משאב אחד שהוא באמת מוגבל - השֵׂייכֶל [צוחקים], כמו שהמורה שלי פעם היה אומר. זה המשאב המוגבל היחיד.

‏אפרת: והוא פיזית מוגבל.

‏ד"ר גודמן: כן!

‏אפרת: זאת אומרת, הוא…

‏ד"ר גודמן: אי-אפשר לייצר… כאילו, הוא מוגבל לקצב של הנוירונים, הוא מוגבל…

‏אפרת: לא, אני אומרת, גם, נניח, ניקח את הבן-אדם הכי חכם, הכי… איינשטיין.

‏ד"ר גודמן: [מחייך] איינשטיין, כן.

‏אפרת: 155 איי-קיו.

‏ד"ר גודמן: אני חושב ש-160 ומשהו איי-קיו. [צוחק] כן.

‏אפרת: 160, אתה יודע מה, אני אפרגן לו, 170.

‏ד"ר גודמן: [צוחק] כן.

‏אפרת: אבל בסוף…

‏ד"ר גודמן: זה עדיין מוגבל…

‏אפרת: זה מוגבל בתוך הגולגולת.

‏ד"ר גודמן: נכון, זה מוגבל אשכרה למידות של הגולגולת [צוחק], זה מוגבל. ואז פתאום מופיע הרעיון המטורף הזה. כאילו קשה להגזים כמה AI זה רעיון שהוא Mind-Blowing. כי זה רעי… [צוחק]

‏אפרת: ליטרלי. [צוחקים]

‏ד"ר גודמן: ליטרלי. כן, Mind - Blowing. בוא נייצר אינטליגנציה מחוץ לגולגולת שלנו.

‏אפרת: קודם כל, היא לא מוגבלת בגולגולת, במימדיה הפיזיים.

‏ד"ר גודמן: ולפחות ברמה התיאורטית, אם האינטליגנציה האורגנית, האנושית, מוגבלת בין השאר למידות של הגולגולת, אם אתה עושה Outsourcing, אם אתה מייצר אינטליגנציה - זה כל-כך מוזר עצם השיחה הזאת [צוחק] - מחוץ לגולגולת, היפוט… תיאורטית זה בלתי מוגבל. ואם זה נכון, המילה כאן היא אם, יש מחלוקת, אבל כל ראשי התעשייה חושבים שזה נוסע לשמה, לאינטליגנציה לא מוגבלת. או בשפה של היזמים והתעשייה Super Intelligence. אם זה נוסע לשם ואגב, ההערכות [מצחקק], אם זה יגיע לשם, זה לא עוד 200 שנה.

‏אפרת: חמש שנים.

‏ד"ר גודמן: חמש שנים, 10 שנים.

‏אפרת: 20 שנה אולי.

‏ד"ר גודמן: לשמה זה נוסע. אז אם זה נכון שאין בעיות מוגבלות, רק אינטליגנציה מוגבלת…

‏אפרת: והאינטליגנציה הולכת להיות לא מוגבלת…

‏ד"ר גודמן: אז אין משאבים מוגבלים ואין… זה יפתור…

‏אפרת: אין יותר בעיות.

‏ד"ר גודמן: וזה יפתור את כל הבעיות. התחממות גלובלית, מחלות, סרטן…

‏אפרת: אולי אפילו מלחמות.

‏ד"ר גודמן: אולי אפילו מלחמות. יפתור לנו את כל הבעיות, איזה כיף. את יודעת, הרמב"ם מפרש את פרק י"א בישעיהו, שמדבר על עולם הרמוני, "גר זאב עם כבש", כל ההרמוניה הזאת. ובאותו פרק כתוב 'ותמלא הָאָרֶץ דֵּעָה אֶת יְהוָה כַּמַּיִם לַיָּם מְכַסִּים'. אז חלק ג', פרק י"א של "מורה נבוכים", הוא אומר - 'יש קשר בין הדברים האלה. רק כשהעולם מתמלא בדעה, באינפלציה של אינטליגנציה, כל הבעיות ייפתרו'.

‏אפרת: וואו.

‏ד"ר גודמן: אני לא יודע אם הוא הבין, אם הוא חשב שהאינטליגנציה הזאת תהיה אינטליגנציה מחוץ לגולגולת האנושית. Super Intelligence. תפתור לנו את כל הבעיות. כמובן, בשביל זה צריך להניח את כל ההנחות שלנו שכל הבעיות הם רק חוסר ידע. ולכן סופר אינטליגנציה שתייצר את הידע החסר, תמלא את הבורות ובעולם ללא בורות זה [לאט] עולם - ללא - בעיות. זה אוטופיה.

‏אפרת: גן עדן.

‏ד"ר גודמן: זה גן עדן.

‏אפרת: גן עדן. כמו שאומרים חז"ל…

‏ד"ר גודמן: כן.

‏אפרת: "צדיקים יושבים ועטרותיהם בראשיהם"…

‏ד"ר גודמן: או מחוץ לראשיהם. [צוחקים]

‏אפרת: "ונהנים מזיו השכינה".

‏ד"ר גודמן: מדהים.

‏אפרת: וואו.

‏ד"ר גודמן: אז אם AI יפתור לנו את כל הבעיות, יש למה לצפות.

‏אפרת: זה יפתור את כל הבעיות, אבל חוץ מבעיה אחת.

‏ד"ר גודמן: חוץ מבעיה אחת קטנה.

‏אפרת: רק מה שנקרא "The last man standing".

‏ד"ר גודמן: רק בעיה אחת תהיה…

‏אפרת: בעיה אחת נשארת לעמוד על הרגליים.

‏ד"ר גודמן: הבעיה שתיווצר על-ידי הבינה המלאכותית [צוחקים]. זאת אומרת אנחנו לפני ה-Tradeoff, העסקת חליפין האולטימטיבית: הבינה המלאכותית תפתור את כל הבעיות, אבל תייצר בעיות חדשות.

‏אפרת: השאלה היא מה ה-Tradeoff בין כל הבעיות שהבינה המלאכותית הבלתי-מוגבלת הזאת תפתור, לבין הבעיות שהיא בעצם תייצר?

‏ד"ר גודמן: שהיא תיצור…

‏ביחד: כן.

‏אפרת: והאם ה-Tradeoff הזה יהיה שווה?

‏ד"ר גודמן: או במילים אחרות, האם אחרי שכל הבעיות שלנו ייפתרו ורק נהיה תקועים עם הפתרון לבעיות האלה, עם הבעיות של הבינה המלאכותית עצמה, האם אנחנו נתגעגע, או נתגעגע מאוד, לכל הבעיות שהבינה המלאכותית פתרה?

‏אפרת: זאת בעצם השאלה הגדולה. בוא ננסה להתעמק שנייה במה זה ה-Super Intelligence הזה. מה המנגנון? איך מגיעים ל-Super Intelligence? כי אתה יודע, רוב האנשים כשמדברים איתם על בינה מלאכותית, היום מה שיש להם בראש או לנו, אני אגיד את זה ככה [מחייכת], אנחנו מוגבלים לא רק על-ידי הגודל הגולגולת שלנו…

‏ד"ר גודמן: כן…

‏אפרת: אלא על-ידי משהו שהוא מחוץ לגולגולת שלנו, וזה הדמיון. אבל מסתבר שגם הוא מוגבל. כשאומרים לאנשים בינה מלאכותית, מה שיש לנו בראש זה כזה ChatGPT. ואנשים חושבים: "אה, AI של עוד חמש שנים זה לא ChatGPT-5, שיש היום, זה ChatGPT-8…".

‏ד"ר גודמן: זה כמו עכשיו, רק הרבה יותר.

‏אפרת: זה כמו עכשיו, אבל יותר…

‏ד"ר גודמן: כן.

‏אפרת: בלי טעויות…

‏ד"ר גודמן: כן.

‏אפרת: בלי זה…

‏ד"ר גודמן: בלי ההלוסינציות, כן.

‏אפרת: יותר מדוייק. כמו שאומרים בתעשייה, אם ה-ChatGPT של היום הוא ברמה של תואר ראשון, אז ChatGPT-5 אמרו שהוא היה אמור להיות ב…

‏ד"ר גודמן: דוקטורט.

‏אפרת: דוקטורט. כנראה שהוא עוד לא שם. אז ה-ChatGPT-8 הוא יהיה כזה פרופסור, ברמה של פרופסור.

‏ד"ר גודמן: כן.

‏אפרת: אוקיי. אבל זאת הבעיה, שלא על זה מדובר…

‏ד"ר גודמן: כן.

‏אפרת: אנחנו פשוט לא מצליחים לדמיין את זה.

‏ד"ר גודמן: כן. אז כדי להבין לאן כל זה הולך, או לפחות המובילים והמשקיעים הראשיים של התעשייה והיזמים, לאן הם רוצים שזה יילך, לאן הם מכוונים שכל הפרויקט הענק הזה של ה-AI יילך, אז אנחנו צריכים לייצר איזשהו מילון מושגים קצר.

‏אפרת: על מה הם מדברים…

‏ד"ר גודמן: כן.

‏אפרת: כאילו מילון, מילון שלהם.

‏ד"ר גודמן: כן, מה אוצר המילים שהמאזינים שלנו צריכים להכיר כדי לעקוב אחרי השיחה הזאת? אז מושג אחד זה [לאט] A-G-I. לא AI.

‏AGI - Artificial General Intelligence, זה אחד. שתיים, Intelligence Explosion - איזשהו אירוע עתידי שרבים מהמרים שיתרחש, התפוצצות של אינטליגנציה, גם בזה ניגע עוד מעט. ובקצה…

‏אפרת: Super Intelligence.

‏ד"ר גודמן: Super Intelligence. אוקיי? אז נתחיל. מה ההבדל בין AI ל-AGI? זה ההבדל הבא: AI זה Narrow Intelligence. זאת אומרת, זה אינטליגנציה שהיא מאוד-מאוד טובה במשימה מאוד-מאוד צרה, מאוד-מאוד ספציפית. זאת אומרת, נניח ברכב האוטונומי שמפתחים, זו אינטליגנציה שיודעת לנהוג באופן אוטונומי ברכב.

‏אפרת: כן, יש AI למעצבים גרפיים…

‏ד"ר גודמן: נכון.

‏אפרת: ויש AI לשפה.

‏ד"ר גודמן: LL M-s.

‏אפרת: כן, ויש AI ל…

‏ד"ר גודמן: קיפול חלבונים, AlphaFold שזה פריצת דרך ביולוגית. אבל כל דבר שיש לו AI Narrow כלומר AI ספציפי, הוא כמובן עושה את העבודה הכי טובה שיש. והוא תמיד יותר חכם ויותר מוצלח מאיתנו בכל משימה ספציפית. ה-AI שמשחק שח ינצח כל שחקן שח. כן? ה-AI שמשחק גו - אלפא גו - ינצח כל שחקן בגו. אבל מה שיש לנו שאין לכל ה-AI-s האלה, זה - האינטליגנציה שלנו היא כללית. זה לא שאני רק יודע לנהוג על רכב. ומישהו אחר רק יודע לנהל שיחה עם בן-אדם [צוחק]. לא, עם אותה אינטליגנציה שאיתה, אפרת, אני ואת עכשיו מנהלים שיחה, עם אותה אינטליגנציה אנחנו אחר-כך אה… נשחק עם הילדים שלנו וננהג ברכב ונקרא ספר ונעשה את כל הדברים שאנחנו… זאת אומרת, האינטליגנציה שלנו היא כללית. ה-AI זה אינטליגנציה צרה. אז הזינוק הראשון שזה יהפוך להיות כללי, AGI, ואז זה באמת יוכל להחליף כל בן-אדם. הוא יהיה גמיש, הוא יכול לעבור ממשימה למשימה בלי לשלם מחירי מעבר ובכל משימה הרי הוא יהיה מדהים [צוחק], זאת אומרת, זה הולך להיות Artificial General Intelligence. זה תחנה ראשונה [אפרת מהמהמת]. ואז, נניח שיש לך AGI, והוא עובד אצלך. מה הפקודה הראשונה… אם קוראים לך סם אלטמן, אם את OpenAI, או Anthropic, או Gemini, או… מה המשימה הראשונה שה-AGI מקבל? "תעצב בבקשה מערכת של בינה מלאכותית שהיא משודרגת". והוא צריך לכתוב את הקוד ואת כל הרעיונות ואת הפיתוח של הגרסה הבאה של ה-AI. והוא יעשה את זה יותר טוב מאיתנו, יותר מהר מאיתנו, וייצר את הגרסה היותר משודרגת של ה-AI. ואז מה הפקודה שהגרסה היותר משודרגת של ה-AI תקבל? "תייצר בבקשה את הגרסה"… [מחייך]

‏אפרת: עוד יותר.

‏ד"ר גודמן: "היותר משודרגת". וזה מה שנקרא זה Recursive. זאת אומרת, זה במילים אחרות, אנחנו מבינים לאן זה נוסע. זה נוסע לקראת Intelligence Explosion. זה עוד מושג שכדאי להכניס כאן. Intelligence Explosion. זאת אומרת, יש כאן תיאוריה שיהיה רגע בהתפתחות של ה-AI שהוא Tipping point. איזה רגע אחד שבו זה פשוט יתפוצץ ויעוף קדימה. וזה הרגע שבו הבינה המלאכותית תלמד לשדרג את עצמה באופן אוטונומי, ואז היא פשוט תייצר את עצמה, תשפר את עצמה, תשדרג את עצמה…

‏אפרת: עד אין סוף.

‏ד"ר גודמן: בלי סוף. שזה מוביל אותנו ל-Super Intelligence. עכשיו, התרחיש הזה, יש מי שסבור שזה לא יקרה. שיש איזשהו תקרה. זה לא יכול לפרוץ אל עבר סופר אינטליגנציה. אנחנו לא הולכים לעצב כאן ישויות שהם הרבה-הרבה יותר אינטליגנטיות מאיתנו.

‏אפרת: רק צריך להבין, כאילו כשמדברים על סופר אינטליגנציה זה שוב, אמרנו, [מגחכת] אם הבן אדם הכי, אתה יודע, אנשים סופר אינטליגנטים…

‏ד"ר גודמן: [צוחק] כן.

‏אפרת: כשמדברים על בני-אדם. זה כזה 140 איי-קיו, 150 איי-קיו…

‏ד"ר גודמן: כן.

‏אפרת: 160 אי-קיו, אנחנו מדברים פה על 1,000.

‏ד"ר גודמן: כן, זה פערי אינטליגנציה כל-כך גדולים, שהאנלוגיה הרווחת היא כזאת [מצחקק] - כשאנחנו נסתכל על הישות הסופר-אינטליגנטית הזאת, אנחנו פשוט לא נבין אותה. זה יהיה כמו שהכלב החמוד שלך, ג'ורדי, מסתכל עלייך [אפרת מגחכת] שאת כאילו הולכת לעבודה, חוזרת. הוא מבין משהו?

‏אפרת: לא, לא נראה לי שהוא מבין מה אני עושה שם כל היום. כל עוד אני כזה משאירה לו קערה של מים ואוכל ונותנת לו לטיפה כזאת מאחורי האוזן כשאני חוזרת. [צוחקים]

‏ד"ר גודמן: אבל הוא יותר…, הוא לא מצליח להבין יותר מזה לגבי החיים שלך, ולמה את עושה דברים. ככה זה יהיה. על הפער הזה אנחנו מדברים. לא כולם חושבים שזה מה שיקרה. חושבים… יש כאלה שסבורים שיש פה תקרה. אבל את מי חושבים שזה כן יקרה? כל הכסף שבעולם.

‏אפרת: שוב, מילולית…

‏ד"ר גודמן: זאת אומרת…

‏אפרת: כל הכסף שבעולם, פחות או יותר. [צוחקים]

‏ד"ר גודמן: זאת אומרת, הכסף הגדול מהמר שזה יקרה. וההשקעות - לא במיליארדים, לא במאות מיליארדים - אלא בטריליונים. אני שמעתי הרצאה של ניל פרגוסון שהוא אומר שזה… יש היום בעולם מושקע 20 טריליון דולר [צוחק] בבינה מלאכותית. וההימור שה-20 טריליון דולר האלה רק יכולים להחזיר החזר על ההשקעה רק אם אכן יהיה פריצה לעבר AGI.

‏ביחד: ו-Super Intelligence.

‏אפרת: כן.

‏ד"ר גודמן: את יודעת, אפרת, אני שמעתי את עצמי אומר עכשיו את המילה 20 טריליון דולר ואני פתאום, אני לא בטוח שזה עש… לא יכול להיות שזה כל-כך הרבה כסף, זה פתאום לא מסתדר. אז אולי… בכל מקרה מדובר כאן…

‏אפרת: בטריליונים.

‏ד"ר גודמן: בטריליונים של דולרים. זאת אומרת, הכסף הגדול מהמר על זה. אז בהנחה שְׁהַ… מאוד יכול להיות שהכסף טועה, אבל…

‏אפרת: שזאת בעיה בפני עצמה אם הכסף טועה.

‏ד"ר גודמן: זה מעניין. אם הכסף טועה, אם כל הכסף הזה יקרוס.

‏אפרת: לא, מיכה, זה לא יהיה "מעניין", זה יהיה קטסטרופה, זאת תהיה, זה יהיה משבר כלכלי שאולי… שהעולם טרם ידע. ואנחנו נדבר בהמשך העונה גם על ההשלכות של הסצנריו הזה.

‏ד"ר גודמן: וזה יהיה מעניין.

‏אפרת: לא, זה… זה, זה יהיה מבעית. זה לא יהיה מעניין, זה יהיה מבעית.

‏ד"ר גודמן: [מחייך] אוקיי. אבל אם הכסף לא טועה, אז אנחנו לקראת, כמו שאמרנו מקודם, אינטליגנציה לא מוגבלת - Super Intelligence. ואם עכשיו נחזור אחורנית לכל ההנחות שאיתם פתחנו את הפרק הזה - אם אין משאבים מוגבלים, יש רק אינטליגנציה מוגבלת - אז אם יש אינטליגנציה לא מוגבלת, אז אין משאבים מוגבלים. [צוחק קלות] ממש כמו נבואות מקראיות עתיקות, אין משאבים מוגבלים. ואם אין בעיות… זאת אומרת, אם יש רק בעיה אחת, חוסר ידע, וכל בעיה זה רק פשוט בורות במצב צבירה אחר, אז…

‏אפרת: איך נראה עולם שבו אין דבר כזה שנקרא חוסר ידע?

‏ד"ר גודמן: אז זה עולם ש…

‏אפרת: שבו יש ידע לא מוגבל, בלתי מסתיים, שיכול לפתור כל בעיה…

‏ד"ר גודמן: אז…

‏אפרת: איך נראה עולם כזה?

‏ד"ר גודמן: אולי בעצם תשובה לשאלה שלך זה גם סיכום של כל הפרק הזה. ואולי מי שנותן את התשובה הכי טובה זה דמיס הסביס. דמיס הסביס הוא האב המייסד של חברה בשם DeepMind. זאת החברה הראשונה - היא נוצרה ב-2010, החברה הראשונה שהיה לה את היומרה לייסד : AGI Artificial General Intelligence. וזה היה בתקופה, צריך להגיד, שאף אחד… אנשים חשבו שזה כמו זה, זה אמונה ט… זה לא דבר אמיתי.

‏אפרת: כן. חייזרים, כאילו.

‏ד"ר גודמן: כן, כן, זה לא משהו אמיתי…

‏אפרת: עב"מים, עב"מים.

‏ד"ר גודמן: כן, כן. אנשים אמיתיים לא משקיעים ויוזמים AGI. זה לא דבר… היום זה כולם מדברים על זה והכסף הגדול הולך לשם. אבל דמיס הסביס הוא האמין בזה לפני כולם. אבל מעניין מה הייתה המוטיבציה של המייסד של DeepMind, לפני שכולם הצטרפו, מה הייתה המוטיבציה שלו? אז המשפט, המוטו של DeepMind ב-2010 היה: "Solve intelligence and then solve everything else". [אפרת צוחקת קלות] זאת אומרת שואלים, יש הרבה בעיות בעולם. יש עוני, יש פשע, יש התחממות[ גלובלית, יש מחלות, יש סרטן, יש הרבה-הרבה בעיות. יש אנשים שמנסים לפתור את הבעיה של העוני, יש אנשים שמנסים לפתור את הבעיה של הסרטן.

‏אפרת: אבל כמו שאמרת קודם, כל הבעיות האלה הם פשוט חוסר ידע במצבי צבירה שונים.

‏ד"ר גודמן: אז אם נפתח AGI, כל שאר הבעיות ייפתרו.

‏אפרת: כן.

‏ד"ר גודמן: "Solve intelligence and then solve everything else". זאת אומרת, זה כמו… יש בניין מלא-מלא-מלא-מלא בכיתות. ולכל כיתה צריך לייצר מפתח שיפתח את הכיתה. עד שמישהו אחד מייצר מפתח מאסטר. זה AGI. זה המפתח שפותח הכל. זה בעיה אחת, יש רק בעיה אחת, איך מייצרים AGI? אבל נפתור את זה - לא יהיה סרטן, לא יהיה התחממות גלובלית. זה, זאת אומרת, זה לא סתם אמר… איזשהו קונסטרוקציה פילוסופית שבנינו כאן בפרק הזה. זאת המוטיבציה שהתניעה את כל תעשיית ה-AI.

‏אפרת: זאת אומרת שהתשובה לשאלה היא, שזה פשוט עולם בלי, בלי מחלות, בלי מגפות, בלי עוני, בלי תאונות דרכים, בלי…

‏ד"ר גודמן: התחממות גלובלית.

‏אפרת: כל הבעי… כל מה שאנחנו מגדירים היום כבעיות בחיים שלנו.

‏ד"ר גודמן: לאור כל ההנחות שלנו, אם יהיה זינוק אל עבר Super Intelligence, זה התממשות רדיקלית של כל הפנטזיות שאי-פעם היו לבני-אדם. עולם הרמוני, אוטופי, משאבים לא מוגבלים וללא בעיות.

‏אפרת: הממ. האמנם? [צוחקים] על כל זאת ועוד, בפרק הבא.

‏[שיר הפתיחה של התוכנית "דלת הקסמים" בביצוע חוה אלברשטיין]

‏"אם מתחשק לך לפעמים

‏לפתוח לרגע את דלת הקסמים

‏בוא ואתן לך מפתח,

‏תיכנס ותהיה אורח.

‏כי פה הקוסם הוא הכל יכול

‏אצלו תוכל ללמוד את הכל

‏אם תיכנס ותשתלם

‏תוכל גם אתה להיות קוסם"

‏[השיר ממשיך ברקע]

‏אז בפרק הבא נתעמק ב"האמנם" הזה וננסה למפות את התרחישים הכי דיסטופיים ל-איך באמת נראה עולם כזה. אל דאגה, אחר-כך נצייר גם את התרחישים האופטימיים. אבל בינתיים, קחו נשימה עמוקה.

‏תודה לניר לייסט ולאור שמיר העורכים, למיכל אטיאס ולאייל לויט על ההפקה, לניבה גולדברג ולמתן חיים מצוות הדיגיטל.

‏כל העונות הקודמות של "מפלגת המחשבות" זמינות ביישומי ההסכתים וגם באתר "בית אבי חי", שם תוכלו למצוא עוד תכנים מעולים נוספים.

‏[השיר מתגבר ומסתיים]

‏"תוכל גם אתה להיות קוסם…

‏תוכל גם אתה להיות קוסם"

‏[מוזיקת סיום]

---

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה