מפלגת המחשבות - פרק 142 – מהפכת הבינה: עסקת החליפין

זוכרים? דף ריק בוורד, סמן הטקסט מהבהב, והלב מתמלא חרדה. איך מתחילים לכתוב? נדמה שה-AI פותר אותנו מההתמודדות הזו, אך על מה אנחנו מוותרים בתמורה? בפרק הקרוב נתבונן בעסקת החליפין הגורלית שעומדת בפנינו, ונשאל האם פריחתה של הבינה המלאכותית היא גם שקיעתה של התבונה האנושית.

---

‏תאריך עליית הפרק לאוויר: 02/12/2025.

‏קריין: אתם מאזינים להסכת של "בית אבי חי".

‏[מוזיקת רקע, רצף הקלטות]

‏חיים יבין: "כן, כנראה מהפך…"

Donald Trump: “Everyone is talking about artificial intelligence. Not artificial, it’s genius.”

Sundar Pichai: “It’s more profound than fire or electricity or…”

Sam Altman: “AI will be the most powerful technology humanity has yet invented.”

Naftali Bennett: “New dimensions will emerge.”

Jensen Huang: “The greatest technology equalizer of all time.”

Yuval Noah Harari: “It is not a tool, it is an agent.”

Elon Musk: “Mark my words, AI is far more dangerous than nukes.”

‏אפרת: שלום, אני אפרת שפירא רוזנברג ואתן מאזינות ומאזינים ל"מפלגת המחשבות", ההסכת שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדרך - מהפכת הבינה. יש מחלוקת גדולה סביב השאלה מהו העתיד שתביא איתה הבינה המלאכותית? האם בכלל תהיה פריצה אל עבר AGI? ואם כן, מה יהיו ההשלכות של התפוצצות האינטליגנציה שכנראה תיווצר ממנה? בפרקים האחרונים דיברנו על תרחישים דיסטופיים של חלק ממובילי התעשייה, שלפי ה-(P(doom-ים שלהם עצמם, האנושות הולכת להכחדה. אבל יש עוד תרחיש שאותו מובילים בעלי הפידוּמים הנמוכים, וגם אלה שחושבים שבכלל לא תהיה פריצה ל-AGI. לפי התרחיש הזה, הבינה המלאכותית תהיה כל כך טובה ומיושרת עם עולם הערכים שלנו, שהיא רק תשרת, תיטיב ותפנק אותנו. הגרסה הכי קרובה לגן עדן או לאחרית הימים שאפשר בכלל לדמיין. לא דיסטופיה, אלא אוטופיה. מה קורה כשמנסים לדמיין את העולם האוטופי הזה? ספוילר? לא בטוח שזה נשמע יותר טוב.

‏[מוזיקת רקע מסתיימת]

‏שלום מיכה.

‏ד"ר גודמן: שלום אפרת.

‏אפרת: אנחנו סיימנו את הפרק הקודם באמירה שאין ברקסים. הרכב הזה הוא נוסע במהירות מופרזת ואנחנו נוסעים לעבר הקצה של הצוק, ושאלוהים יעזור לנו מה נמצא מהצד השני של הצוק. [ד"ר גודמן צוחק]

‏ד"ר גודמן: הקצה של הצוק זה הקצה של ההיסטוריה. זה הדיבור בעמק הסיליקון. Super Intelligence הולך או להשתלט על האנושות, או להשמיד את האנושות, או או לשנות אותה בצורה רדיקלית. מה שבטוח, זה שעל פי הדיבור הזה, ההיסטוריה, כפי שהכרנו אותה, הבנו אותה לאורך אלפי שנים, ההיסטוריה הזאת הולכת להסתיים. זה הצוק שבקצה. [אפרת מחייכת] את יודעת איך אומרים "קצה של ההיסטוריה" ביוונית?

‏אפרת: [בציניות] ברור שאני יודעת.

‏ד"ר גודמן: [מחייך] אסכטון. מלשון אסכטולוגיה. מלשון תודעה שהעולם עוד רגע הולך להסתיים.

‏אפרת: מעצם זה שיש לזה ביטוי ביוונית, אז אפשר להבין שזה ז'אנר של מחשבה.

‏ד"ר גודמן: זה ז'אנר של מחשבה, בדיוק.

‏אפרת: זאת לא המצאה של ראשי התעשייה בעמק הסיליקון, אלא זאת צורת מחשבה שימיה כימי ההיסטוריה… [מחייכת]

‏ד"ר גודמן: נכון.

‏אפרת: של לדבר על "קץ ההיסטוריה".

‏ד"ר גודמן: ספר יחזקאל פרק ל"ח, אם אני זוכר נכון, גוג ומגוג מתאר שמה אסכטון, איזשהו קצה של הזמן. באחרית הימים, או אחרית השנים, בכת מדבר יהודה, חיו שם אנשים במע… ב… ביישובים… המגילות הן במערות. לא יודע אם חיו במערות [מחייך], וכשקוראים את הכתבים שלהם ואת התודעה העצמית שלהם, הם הרגישו שהעולם הוא על הקצה. עוד רגע, העולם, כפי שאנחנו מכירים אותו, הולך להסתיים. ומי שחיבר את "חזון יוחנן", הספר האחרון של "הברית החדשה", חי בתודעה של אסכטון. אנחנו על הקצה של ההיסטוריה, עוד רגע זה הולך להסתיים. והאמת היא… החוקרת רחל אליאור הבחינה פעם, שאין שנה בתולדות העם היהודי שעל השנה הזאת אין חישובי קץ.

‏אפרת: הממ… [בחיוך]

‏ד"ר גודמן: אגב, מה זה חישוב קץ? מה זה קץ?

‏אפרת: קץ האנושות, קץ העולם.

‏ד"ר גודמן: אסכטון. הקץ, הקצה, זהו. ויש חישוב קץ. הנה, בגימטריה של ספר דניאל, זה מוכיח שהשנה הזאת, זה הקצה.

‏אפרת: תשד"מ.

‏ד"ר גודמן: [צוחק] נכון.

‏אפרת: תשמ"ד.

‏ד"ר גודמן: [צוחק] כשהיינו בכיתה ד', היה שנת תשמ"ד וחשבנו שהנה…

‏אפרת: כן.

‏ד"ר גודמן: בגלל ש… זה… זה…

‏אפרת: לא, חשבנו שאם נקרא לזה תשד"מ…

‏ד"ר גודמן: אז זה לא נושמד.

‏אפרת: אז לא נושמד. [צוחקים]

‏ד"ר גודמן: נכון. אגב, זה היה גם תשמ"ד וגם 1984.

‏אפרת: כן.

‏ד"ר גודמן: הספר של אורוול, הייתה תחושה… היינו בכיתה ד', אבל הרגשתי שהמבוגרים, יש להם איזשהו רגע אפוקליפטי, גם המלחמה הקרה…

‏אפרת: שלא לדבר על באג 2000.

‏ד"ר גודמן: נכון.

‏אפרת: 1999. אני הייתי ב… ב… במזרח, איפשהו ב… ב… בעיר נידחת במזרח, וכזה, וואו, אולי פה זה הכל ייגמר, ערב הטרק גדול. [צוחקת]

‏ד"ר גודמן: אם מסתכלים מ-200,000 רגל על תולדות האנושות, אם יש דבר שהוא לא חריג בהיסטוריה האנושית, זה התחושה שעכשיו היא הולכת להסתיים. בכל רגע, יש אנשים שמאמינים, הנה, עכשיו זה הולך להסתיים, והפעם…

‏אפרת: הפעם זה באמת.

‏ד"ר גודמן: הפעם על אמת [מחייך]. זאת אומרת, תודעה, אמרת, אני אהבתי מה שאמרת מקודם: "זה ז'אנר של מחשבה".

‏אפרת: כן.

‏ד"ר גודמן: כאילו שלמחשבות שלנו יש כל מיני ז'אנרים של מחשבות, והז'אנר, האסכטולוגיה שאנחנו על הקצה, שהכל הולך להסתיים, זה ז'אנר עתיק, רווח, שמשכפל את עצמו, ואז מסתכלים על מרחב השיח של עמק הסיליקון שאומר ש… אם נפרוץ לעבר Super Intelligence, אז יש סבירות לא נמוכה שהכל מסתיים, ואתה אומר: "אולי שם במרחב שיח הם מרגישים שהם עלו על משהו, והם חושבים מחשבה חדשה, אבל מ-200,000 רגל אפשר לראות, היי, זאת לא מחשבה חדשה. זה שחזור של מחשבה שחשבו אותה [באיטיות] הרבה פעמים בעבר".

‏אפרת: זאת אומרת, שפאלו אלטו זה סוג של קומראן מודרני.

‏ד"ר גודמן: כן. [צוחק]

‏אפרת: רק שקומראן זה היה ה-weirdos שחיו בשולי החברה…

‏ד"ר גודמן: כן, האאוטסיידרים.

‏אפרת: כן, האאוטסיידרים האולטימטיביים, כזה שאתה לא יודע אם הם… הם לא סתם הם חיו שם ב… במדבר [צוחקים]. ופה, הקומראן המודרני הזה זה פאלו אלטו.

‏ד"ר גודמן: פסגת החברה.

‏אפרת: זה לא ה-weirdos שחיים בשולי החברה, הם האליטה של האליטה של האליטה של החברה.

‏ד"ר גודמן: אז זה מה שמפתיע כאן. מפתיע כאן איפה מתפתחת תודעה אסכטולוגית. אבל מה שלא מפתיע, זה שיש תודעה אסכטולוגית. ומאוד יכול להיות שכמו שבאג 2000 קרה, והוא לא קרה [אפרת מחייכת], וכמו שבשנת תשמ"ד [מצחקקים], העולם…

‏אפרת: לא הושמד…

‏ד"ר גודמן: וכמו שבכל רגע בהיסטוריה שחשבו שההיסטוריה מסתיימת, אבל ההיסטוריה המשיכה…

‏אפרת: מה שהיה הוא שיהיה, ואין כל חדש תחת השמש.

‏ד"ר גודמן: ובמטא, המדען הראשי של מטא, יאן לקון. שמעתי כמה שיחות שלו. אממ, הבן אדם הזה ה-(P(doom שלו הוא פחות מאחוז. הוא אומר: "זה יהיה בסדר. זה יהיה בסדר, הבהלה היא מיותרת. זה אתגר הנדסי, אבל אנחנו נפענח אותו. ה-Super Intelligence, אם הוא יגיע, הוא יציית לנו. הוא לא ישתלט עלינו, הוא לא ישמיד אותנו, הוא פשוט יעזור לנו וישרת אותנו". ואת יודעת, אולי, אם נסתכל מ-200,000 רגל על ההיסטוריה, בהלות אסכטולוגיות נוטות להיות מה שהם - בהלות, לא להתממש, ואולי יאן לקון צודק.

‏אפרת: אז על אף שדיברנו בפרקים האחרונים על תרחישי האימה האפוקליפטיים, אולי הגיע הזמן, אחרי שהבטנו להם באמת בעיניים…

‏ד"ר גודמן: כן.

‏אפרת: בלבן של העיניים, אולי הגיע הזמן לשים אותם בצד, ולעבור מהתרחישים הדיסטופיים לתרחישים האוטופיים. וללכת על התרחיש, לא הכי פסימי, אלא על התרחיש הכי אופטימי. התרחיש שאומר שהאינטליגנציה המלאכותית הזאת הסופר אינטליגנטית היא תבוא, וכמו שדיברנו בפרקים הראשונים, היא תפתור את כל הבעיות ואת כל המחלות ורק תבוא לשרת אותנו, ורק תבוא לפנק אותנו, ורק תיטיב את החיים שלנו.

‏ד"ר גודמן: כן, מה קורה אם יש לנו כלי שהוא סופר אינטליגנטי, שהוא בשליטתך, מציית לך, ומשרת אותך?

‏אפרת: גן עדן. המחשבה.

‏ד"ר גודמן: גן עדן. אז הפרקים הבאים יהיו לנסות לחשוב על המציאות הזאת. אני לא יודע, יכול להיות שהמציאות היא יותר סבירה.

‏אפרת: אתה יודע, כי כמו שיש אולי ז'אנר של מחשבות אסכטולוגיות, של לדמיין את קץ ההיסטוריה, אני לא יודעת אם זה ז'אנר מפותח כמו הז'אנר הזה, אבל יש גם את צורת המחשבה של לדמיין את העולם שכולו טוב הזה.

‏ד"ר גודמן: כן.

‏אפרת: את הגן עדן, את אחרית הימים, איך נראה עולם כזה? זה גם סוג מסוים של מחשבות, אז בואו ננסה לדמיין את העולם הזה.

‏ד"ר גודמן: אבל את יודעת מה, אני אם רגע אני אוריד את זה אפילו קליק, גם אם לא מגיעים ל-Super Intelligence, גם אם פשוט יש פה מסה קריטית של אינטליגנציה שהיא עומדת לשירותינו. איך נראה עולם כזה? אז בואי ננסה לעשות את זה.

‏אז כאן אני חושב שכדאי ללכת בעקבות מרשל מקלוהן. הבחנה מאירת עיניים, פוקחת תודעה של מרשל מקלוהן על מה טכנולוגיה עושה לאנשים שמשתמשים בה. וזה נכון לגבי כל טכנולוגיה. אז ככה - מקלוהן, ככה אני מפרש אותו ומבין אותו, מאתגר את התזה שטכנולוגיה זה קידמה. נכון, הייתי אומר טכנולוגיה זה ה-סמל של קידמה. איך נראית קידמה? טכנולוגיה. נכון? החשמל זה קידמה, האינטרנט זה קידמה, הסמארטפון זה קידמה, ה-AI זה קידמה. ככה מרגיש קידמה, ככה נראה קידמה. המילה קידמה היא שיפוטית, היא אומרת: "זה יותר טוב".

‏אפרת: כן, כי אנחנו אוהבים ללכת קדימה ולא אחורה…

‏ד"ר גודמן: [צוחק] נכון.

‏אפרת: אז לכן מובלע בתוך המילה קידמה שזה… זה… התקדמות [צוחקת], זה התקדמות, זה יותר טוב.

‏ד"ר גודמן: טכנולוגיה… עכשיו ברור שזה יותר טוב. יש מוצר טכנולוגי חדש, והוא נוסף לחיים שלך, והוא משפר את החיים שלך. זה יותר טוב. אומר מקלוהן, או ככה אני מציע להבין, מקלוהן - "אחי, זה לא קידמה, זה עסקה". זה עסקת חליפין. רק זו עסקה שנראית ככה: טכנולוגיה, אתה צודק, טכנולוגיה מוסיפה לך משהו. אבל היא גם לוקחת ממך משהו. עכשיו, למה זה נראה כמו קידמה תמיד? כי מה שהיא נותנת לך, הוא בולט והוא נוצץ. מה שהיא לוקחת ממך, זה בלתי נראה. וזה תמיד נלקח ממך באיטיות, כמעט לא שמת לב שזה נלקח ממך. [אפרת מחייכת] לכן זה נראה כמו שאתה מקבל ו… כאילו אתה מקבל משהו, אבל אתה בפועל גם מוסר משהו. לכן זה מרגיש כמו קידמה, אבל זה עסקה.

‏אפרת: אגב, אני אגיד בסוגריים שזה לא אומר שזה לא טוב. זה פשוט… יש פה הבנה עמוקה של המציאות שאין טוב בלי רע. אין טוב שאין לו, בו זמנית, ביחד איתו אינהרנטית, גם משהו רע ואיזשהו מחיר. כמו שכמעט שאין רע שלא בא… מביא ביחד איתו גם איזשהו טוב.

‏ד"ר גודמן: כן, ואנשים תמיד חושבים שיש יין בלי יאנג. יש, אבל זה לא קידמה, זה עסקה, ועם היין בא היאנג, ועם מה שזה מוסיף לחיים שלנו, זה גם לוקח משהו מהחיים שלנו. ועם טכנולוגיה, ההמשגה היא, מה זה מוסיף לך? עוצמה. מה זה לוקח ממך? זה מנוון יכולת שיש לך. הטכנולוגיה הראשונה שאבות אבותינו המציאו זה ככל נראה גרזן האבן. כאילו, לפני מיליון וחצי שנה, נדמה לי, לאבותינו הקדמונים, לא היו הומו סאפיינס, אבל הם היו… הם צעדו לקראת להיות מה שאנחנו. אי אפשר לראות את זה, אני עושה עם היד כאילו… נכון, לוקחים אבן ומשייפים אותה, משייפים את הקצה שלה והופכים אותה לחדה? ואז אתה יכול להשתמש באבן הזאת כדי לבטוש בשר. והשתמשו בזה כזה מיליון שנה. בגרזן אבן, טכנולוגיה שיצרנו כדי לקחת מזון ו…

‏אפרת: לקצוץ אותו לחתיכות יותר קטנות.

‏ד"ר גודמן: כן. שמה זה בעצם? זה אאוטסורסינג של פעולת הלעיסה. אני מתחיל את תהליך הלעיסה מחוץ לגוף שלי. מה שאומר, אחד מההבדלים בין בני אדם לקופים, קופים לועסים חמש, שש שעות ביום.

‏אפרת: [מחייכת] מה שנקרא, איך אומרים ב"פינתי"? "לא ללעוס, לבלוע". [צוחקים]

‏ד"ר גודמן: כן… כן. אבל שילמנו על זה מחיר במרוצת האבולוציה. השיניים שלנו קטנו, הלסת שלנו נחלשה. הנה עסקת חליפין. אנחנו מק… פתאום עולם שלם של מזונות נפרש בפנינו. יש לנו יותר עוצמה. יש לנו פחות מיומנות. האם אנחנו מסכימים לעסקת חליפין הזאת?

‏אפרת: כן.

‏ד"ר גודמן: נראה לי שהרווחנו ממנה.

‏אפרת: כן, אני מבסוטית מהלסת הקטנה דווקא. [בחיוך]

‏ד"ר גודמן: [צוחק] כן. אבל משהו נחלש. אם עכשיו… אם עכשיו נדלג, עכשיו נדלג כזה מלא מלא שנים קדימה. שעון היד מומצא. איזור המהפכה תעשייתית. מה הרווחנו? המון עוצמה. פתאום אפשר לעבוד במשמרות…

‏אפרת: פתאום התחלנו להגיע בזמן קודם כל… חלקנו. [צוחקים]

‏ד"ר גודמן: כן. פתאום אנחנו יכולים להיות מתואמים יותר, יכולים לשתף פעולה. יכולים לקבוע סדר יום. אני אעשה ג'וגינג בבוקר, ואז אני אלך לעבודה, ואז אני בין חמש לשש אני אעשה שיעורי בית עם הבת שלי, כאילו, פתאום יש לך הרבה יותר שליטה על הזמן, ממילא, על החיים, בגלל שיש לך שעון. וואו, זה המון עוצמה. אבל משהו נלקח מאיתנו. פעם אנשים היה להם חוש לזמן.

‏אפרת: מה שנקרא שעון פנימי.

‏ד"ר גודמן: כן.

‏אפרת: נכון? שעון ביולוגי.

‏ד"ר גודמן: הם הבינו מה המשמעות של ה-location של השמש בשמיים, והגובה של הצל. והמידה של האור שיש ביום. הייתה להם איזושהי תחושה טבעית לזמן. התחושה הזאת התנוונה. היא נלקחה מאיתנו. על ידי מי? על ידי השעון. השעון שמדייק אותנו, שנתן לנו להיות יותר מדויקים בזמן, ניוון את חוש הזמן שלנו. שווה עסקת חליפין הזאת? אני חושב שכן, אבל זה עסקת חליפין. [מחייך] אני מדלג עוד קצת קדימה ל-GPS. פעם אנשים היה להם חוש התמצאות בסיסי בעולם הזה. היה להם חוש כיוון, היה להם אוריינטציה, ידעו איפה זה המזרח, איפה זה המערב, ואיפה זה רחוב אבן גבירול, ואיפה זה באר שבע. היום ה-GPS יש לך עוצמה, אתה… מגיע, אתה… אתה לא רק שאתה יודע איך להגיע, אתה גם יודע מתי תגיע, ואתה יכול להיות יותר מתואם, זה דבר מדהים.

‏אפרת: לא, וגם להתחמק מפקקים, דיברנו על זה באחד הפרקים הקודמים.

‏ד"ר גודמן: דיברנו. יש לך המון עוצמה. אבל משהו נלקח מאיתנו. מה נלקח מאיתנו?

‏אפרת: חוש ההתמצאות.

‏ד"ר גודמן: חוש ההתמצאות שלנו.

‏אפרת: חד משמעית.

‏ד"ר גודמן: הטלפון. אפרת, אני ואת גדלנו בשנות ה…

‏אפרת: לא נגיד, לא נסגיר.

‏ד"ר גודמן: [צוחק] אבל באייטיז, אני חושב שאני זכרתי איזה 50 מספרי טלפון בעל פה.

‏אפרת: לגמרי. עד היום, תעיר אותי באמצע הלילה, אני יודעת להגיד לך מה מספר הטלפון אצל סבא וסבתא שלי בבית, ואצל החברה הכי טובה שלי שאני כבר 20 שנה לא דיברתי איתה, אבל אני יודעת את המספר טלפון שלה…

‏ד"ר גודמן: יפה…

‏אפרת: …בבית של ההורים שלה.

‏ד"ר גודמן: זה יכולת…

‏אפרת: מולדת…

‏ד"ר גודמן: היה יכולת לאגור ידע וזה.

‏אפרת: כן.

‏ד"ר גודמן: היום הזיכרון שלנו נחלש, על אמת.

‏אפרת: אני לא יודעת את הטלפון שלי עצמי את המספר. [צוחקים]

‏ד"ר גודמן: [צוחק] באמת?

‏אפרת: בטח שלא של הילדים שלי אגב. אין לי מושג מה מספרי הטלפון של הילדים שלי.

‏ד"ר גודמן: אני מקווה שהם לא נעלבים מזה.

‏אפרת: הם לא מקשיבים, אל תדאג. [צוחקים בקול] לא, תאריכים של ימי הולדת, אתה יודע, כאילו…

‏ד"ר גודמן: וואו, אז רגע, מצד אחד…

‏אפרת: אצלי יש קו פרשת מים. כל מי שהיה בחיים שלי עד הסמארטפון, אני זוכרת את תאריך יום ההולדת שלו.

‏ד"ר גודמן: אוקיי.

‏אפרת: מאז שיש לי סמארטפון, אין יותר תאריכי יום הולדת בתוך הראש שלי.

‏ד"ר גודמן: אז הסמארטפון העניק לך כל כך הרבה עוצמה, אבל הוא ניוון יכולת אמיתית שהיה לך. אוקיי, כל זה זה רגע הקדמה קונספטואלית. להבין שטכנולוגיה זה לא קידמה, זה עסקה, היא נותנת, היא לוקחת, מה שהיא נותנת זה עוצמה, מה שהיא לוקחת זה מיומנות, היא מחלישה מיומנות. סבבה, עד כאן מרשל מקלוהן. בואי ניישם את זה על האירוע הדרמטי שמתחיל להתרחש כאן. ה-AI. מה זה נותן לנו?

‏אפרת: מה העסקה? זאת השאלה. מה העסקה?

‏ד"ר גודמן: אוקיי, מה העסקה? עכשיו, מה זה נותן לנו? בואי… בואי נסכים שאנחנו לא צריכים להסביר מה זה נותן לנו.

‏אפרת: כן, כבר דיברנו על זה.

‏ד"ר גודמן: פחות או יותר הכל.

‏אפרת: כן.

‏ד"ר גודמן: נותן לנו הכל. מה זה לוקח מאיתנו? איזו מיומנות זה מחליש אצלנו? אז בואי נתחיל לחשוב על זה. את יודעת, לכתוב זה דבר קשה.

‏אפרת: כן. כל… כל מי ש… מתנסה בכתיבה…

‏ד"ר גודמן: זה דבר קשה.

‏אפרת: מכיר את הקושי הזה, את הסבל הזה.

‏ד"ר גודמן: זה דבר קשה. לעמוד מול דף במיקרוסופט, דף A4.

‏אפרת: לבן.

‏ד"ר גודמן: לבן, ולהתחיל לנסח משפטים, ואז אתה מסתכל עליהם, וזה לא מספיק טוב, אז אתה מוחק וכותב עוד פעם ומוחק וכותב עוד פעם וזה פתאום מצליח, אבל אז זה פתאום צורם, אז אתה צריך לשנות את הסדר של המשפטים.

‏אפרת: לא, זה באמת סבל. כאילו, בוא נגיד, זה לא לא לכרות פחם מתחת לאדמה בטמפרטורה של 60 מעלות, אבל זה אבל זה סבל. [מחייכת]

‏ד"ר גודמן: זה עבודה, זה לחצוב בסלע. אבל את יודעת מה קורה לך כשאתה חוצב בסלע ואתה כותב מאמר או ספר, מה קורה לך כשאתה חוצב בסלע? זה לקחת את השריר הזה של להרכיב מילים ומשפטים ופסקאות ולבנות משהו, איזשהו מגדל של מילים שהוא… שהוא עובד, שהוא אפקטיבי, השריר הזה, זה לקחת אותו לחדר כושר ולאמן אותו. אתה מאמן את השריר הזה. ואת יודעת מה התחיל לקרות לאנשים מאז ש-ChatGPT הופיע בעולם שלנו? ומיד אחר כך כל המתחרים, Grok, ו-Gemini ו- Claude, שאת השריר הזה אנשים כבר לא לוקחים לחדר כושר. והשריר הזה ש… "תכתוב לי בבקשה פסקה", והוא כותב פסקה, ובמקום להיות הכותב של העסקה, אתה נהיה העורך של הפסקה. אז אני מאוד מאוד אוהב עורכים, חלק מחבריי הכי טובים הם עורכים. אבל צריך להגיד את האמת. כתיבה מאמנת את השריר הזה יותר מעריכה, והשריר הזה הולך ומתנוון.

‏אפרת: אגב, מחר בבוקר אתה גם לא תצטרך לערוך, בגלל שאחרי שהוא יכתוב, אתה תגיד לו: "ועכשיו תערוך את זה יותר טוב"…

‏ד"ר גודמן: זה כבר קרה.

‏אפרת: והוא גם יערוך את זה, זה כבר… הוא כבר היום עושה את זה.

‏ד"ר גודמן: נכון, תוסיף הומור, תוסיף זה… [מחייך]

‏אפרת: כן.

‏ד"ר גודמן: כן, היה לי על זה שיחה, אפרת, עם מישהו שהוא סוג של חוקר מוח. ודיברנו על זה. והוא אמר לי: "אנשים שמפסיקים לכתוב, זה… יש חלקים שלמים במוח שלהם שמתנוון. אתה מפסיק לכתוב מיילים, אתה מפסיק לכתוב מכתבים, אתה מפסיק… יש איזושהי פעילות נוירולוגית שלמה שהולכת ומתנוונת", ואז באופן מפתיע הוא אמר לי, שהוא כבר שנה נותן ל-Gemini לנסח עבורו ובמקומו את המחשבות שלו.

‏אפרת: והוא מרגיש שזה… שהמוח שלו מתנוון.

‏ד"ר גודמן: כן. והוא חידש לי עוד משהו בכל התופעה הזאת. לא רק שהוא מרגיש שזה מתנוון אצלו, אלא שיש נפילה בביטחון העצמי שלו. הוא כבר לא סומך על היכולות שלו יותר. הוא רק שנה כבר לא כותב, הוא רק עורך וכבר כבר לא כותב [מחייך], והוא איבד את הביטחון העצמי שלו.

‏אפרת: שהוא בכלל יכול.

‏ד"ר גודמן: כן. כי ה-Gemini תמיד יעשה את זה יותר טוב ממני, אז מה יש לי, מה יש לי להוסיף ו… אני חושב שזה התופעה הכפולה שמתרחשת כאן. הנפילה ביכולות, לצד הנפילה בביטחון העצמי שלך להפעיל את אותן היכולות. ו… זה, נדמה לי, עד עכשיו החלק הפחות חשוב של ה… של מה שקורה כאן. כי זה לא רק שהיכולת שלנו לנסח את המחשבות שלנו הולכת ומתנוונת ותלך ותתנוון, היכולת שלנו לחשוב את המחשבות שלנו… הרי ברגע שהוא נושא איתי בנטל של לחשוב את המחשבה, אז אני פחות סוחב אותה לבד על הכתפיים שלי.

‏אפרת: או… או בכלל. אני כבר מפסיקה לשאת אותה בכלל.

‏ד"ר גודמן: [מחייך] בכלל. זאת אומרת, נניח אתה… הרי פעם, אתה חושב מחשבה ויש… אתה אומר: "וואו, אני צריך את זה, אני צריך למצוא כמה נימוקים שמגבים את הטיעון שלי". היום אנשים יכולים לשאול את Gemini: "תן לי ארבע נימוקים לטיעון הבא והבא", והוא נותן נימוקים לא רעים בכלל.

‏אפרת: אבל עדיין, המחשבה המקורית היא שלי. היום אני רק מבקשת ממנו לתת לי חיזוקים לטענה הזאת.

‏ד"ר גודמן: כן.

‏אפרת: בעתיד הוא ייתן…

‏ד"ר גודמן: את הטענה עצמה…

‏אפרת: את המחשבה עצמה.

‏ד"ר גודמן: נכון, אבל כבר עכשיו, אנחנו לא הולכים לחדר כושר כל כך. אנחנו לא רצים בעליה, אנחנו רצים בירידה, נקרא לזה ככה [מחייך]. אני רק צריך לחשוב על הטיעון, הוא יחשוב על הנימוקים. זה מחשבה לייט.

‏אפרת: כן.

‏ד"ר גודמן: אני… אתה מנסה לחשוב על מטאפורה, פעם, לגבש מטאפורה אפקטיבית, זה קשה. היום: "תן לי ארבע מטאפורות שמדגימות את הנקודה הזאת והזאת". אה… והוא נותן לך אותם, ואז הוא אומר - היי, אני כבר לא צריך לחפש מטאפורות יותר? לא צריך לחפש נימוקים יותר? וכפי שאת אומרת בעתיד, אני לא צריך לבדוק נימוקים יותר?

‏אפרת: אני לא צריך לחשוב מחשבות יותר.

‏ד"ר גודמן: אני לא צריך… הוא חושב עבורי. ויחד עם ההתנוונות של היכולת שלנו לחשוב, תהיה התנוונות של הביטחון העצמי שלנו ביכולת שלנו לחשוב. אז דיברתי על התובנה הזאת עם קבוצה אחרת של מתכנתים. הם פיתחו איזשהו דימוי של מקום עבודה שבו יש מישהו מאוד מאוד חכם. מישהו גאון. והרבה פעמים, מישהו אחד גאון במקום עבודה, כולם מאבדים את הביטחון העצמי שלהם. כי מה… כי נשאל אותו, מה?

‏אפרת: הממ… [מחייכת]

‏ד"ר גודמן: כי כל מחשבה שאני אחשוב, כל…

‏אפרת: כן כן. חוויה מוכרת. [ד"ר גודמן צוחק] לא… לא… לא נחשוף. זו חוויה מסרסת.

‏ד"ר גודמן: לא, זו חוויה מסרסת. אולי זה יהיה החיים לצד ה-Gemini וה-ChatGPT ככל שיהיה יותר חכם, לא רק שאנחנו נהיה יותר טיפשים, אנחנו גם כן נאבד את הביטחון העצמי שלנו.

‏אפרת: אנחנו גם נדע שאנחנו יותר טיפשים [צוחקים] אנחנו נרגיש את זה.

‏ד"ר גודמן: אנחנו נדע… ואנחנו נפתח תלות. זה… לשמה זה נוסע. רציתי להגיד לשמה זה נוסע בעתיד, אבל…

‏אפרת: העתיד כבר כאן.

‏ד"ר גודמן: כן.

‏אפרת: לא, וזה גם… זה קצת אינהרנטי לדבר, נכון? זאת אומרת, אם הטכנולוגיה היא אינטליגנציה…

‏ד"ר גודמן: נכון.

‏אפרת: אז זה הדבר שזה הולך לנוון אצלנו.

‏ד"ר גודמן: את האינטי…

‏אפרת: כן, בגלל שברגע שהמציאו את האוטו והתחלנו להשתמש באוטו כדי להגיע ממקום למקום במקום ברגליים שלנו, אז מה התנוון?

‏ד"ר גודמן: הרגליים.

‏אפרת: הרגליים שלנו.

‏ד"ר גודמן: כן.

‏אפרת: אז אם הכלי הוא אינטליגנציה וזה מה שאנחנו משתמשים בו, אז מה הולך להתנוון [בחיוך] ילדים וילדות?

‏ד"ר גודמן: [צוחק] האינטליגנציה…

‏אפרת: המוח שלנו.

‏ד"ר גודמן: [צוחק] נכון. זה זה… טכנולוגיה היא מחלישה את מה שהיא מעצימה. אה, אתה רוצה להגיע מהר? אנחנו נסיע אותך מהר. זה מעצים את התנועה שלך, אבל זה מחליש את איברי התנועה שלך, את הרגליים שלך, נכון?

‏אפרת: אתה רוצה לדעת מה השעה? אין בעיה, הטכנולוגיה תגיד לך… השעון יגיד לך כל הזמן מה השעה, אבל חוש הזמן שלך ילך ויתנוון. אתה רוצה לדעת איך להגיע מכאן לשם? אין בעיה, הטכנולוגיה תגיד לך בדיוק איך להגיע מכאן לשם, הכי טוב, הכי הכי יעיל והכי מהר, אבל חוש הכיוון שלך יתנוון. ובהתאם לכך, אתה רוצה לדעת יותר? אתה רוצה לדעת את הכל? אין בעיה, הטכנולוגיה תלמד אותך הכל, אבל איברי הדעת שלך יתנוונו. מה זה איברי הדעת? המוח שלנו. זה מה שהולך להתנוון.

‏ד"ר גודמן: לשם זה נוסע. ככל שה-AI יותר חכם, הרגשי נחיתות שלנו מול ה-AI יגדלו והביטחון העצמי שלנו ביכולת שלנו לחשוב מחשבות תדעך, אז ייווצר כאן, אולי כבר מתחיל להיווצר כאן, מעגל קסמים מכושף. שהיכולות שלי נופלות, מרוב אי שימוש בשכל שלי. ולכן הביטחון העצמי שלי ביכולתי לחשוב גם נופל, ולכן אני מפתח תלות בכלי ה-AI, וכתוצאה מהתלות הזאת…

‏אפרת: הביטחון העצמי שלי עוד יותר נפגע, ואני עוד פחות עושה שימוש בשכל שלי.

‏ד"ר גודמן: נכון, היכולות שלי עוד יותר נופלות, ואז ככה אני עוד יותר תלותי בו וככה זה מעגל קסמים של ניוון, אנחנו מכירים את זה עם הגוף שלנו. כשאנשים לא עושים כושר, אז הם נהיים יותר עייפים ויותר רוצים כזה לשבת על הספה, ואז הם עוד פחות עושים כושר. [צוחק]

‏אפרת: כן, ברור. ברור. כל כל מי שעושה כושר יודע שהחלק הכי קשה זה להתחיל.

‏ד"ר גודמן: כן.

‏אפרת: להתחיל לרוץ זה החלק הכי קשה.

‏ד"ר גודמן: וככל שאתה עושה את זה פחות, אתה רוצה לעשות את זה פחות. והסיפור הזה של נפילת היכולות שלנו מול ה-AI יפתח תלות שלנו ב-AI, וככה עשוי להיראות הניוון של התבונה שלנו. אז עכשיו, בואי נחשוב על מה אנחנו באמת מדברים כאן.

‏אפרת: מה העסקה?

‏ד"ר גודמן: האם זה פייר לומר שהאינטליגנציה שלנו, השייכל שלנו [מצחקקים], זה הלב של האנושיות שלנו? זה מה שהרמב"ם חשב. זה מה שאריסטו חשב. זה מה שאני תמיד חשבתי.

‏אפרת: להבדיל. [צוחקת]

‏ד"ר גודמן: [בטון מתנצל] טוב, נו, לא התכוונתי לזה ככה. זה, גם אם זה לא כל האנושיות שלנו, אנחנו יכולים לחלוק, נדבר בפרק הבא על עוד מרכיבים באנושיות שלנו…

‏אפרת: ש… ספוילר, גם הם הולכים להתנוון.

‏ד"ר גודמן: גם הם הולכים להתנוון [צוחקים] כאילו, אולי הפרדוקס הוא כזה, אנחנו מקבלים עוצמה על אנושית, אבל מפתחים יכולות תת אנושיות.

‏אפרת: או במילים אחרות, יש פה כלי שמאפשר לנו ביצועים הרבה יותר חכמים, בעוד אנחנו הופכים ל… הרבה יותר טיפשים.

‏ד"ר גודמן: אני חושב שזה כבר קורה.

‏אפרת: זאת העסקה, זאת העסקה.

‏ד"ר גודמן: תהליך דעיכה של ה-IQ. היכונו לנפילת ה-IQ האנושי. זה מה שקורה כאן.

‏אפרת: הבינה המלאכותית היא כל כך הרבה יותר חכמה, אבל בני אדם יהפכו להיות הרבה פחות חכמים.

‏ד"ר גודמן: ו… כמעט יחס ישר. ככל שהבינה המלאכותית תהיה יותר אינטליגנטית, אנחנו נהיה פחות אינטליגנטים. סליחה, זה לא יחס ישר. אני כבר השתבשתי מהבינה המלאכותית, זה יחס הפוך.

‏אפרת: כן.

‏ד"ר גודמן: ככל שהבינה…

‏אפרת: נשאל את הצ'אט, איך איך לנסח את זה. [צוחקים] כשהיה מדובר בגרזן והיכולת ללעוס, אז אתה יודע, עד עכשיו כל השאלות ששאלת, האם העסקה הזאת הייתה שווה?

‏ד"ר גודמן: שווה.

‏אפרת: כן, כן, היה שווה, כן. האם שעון היד, העוצמה שהוא נתן לנו אל מול היכולת שאיבדנו לחוש את ה… את הזמן באופן טבעי, האם זה היה שווה? כן. האם המצאת הרכב ושיאפשר לנו לנסוע לעבודה הרבה יותר רחוקה וזה וזה, אל מול השרירים שאיבדתי ברגליים?

‏ד"ר גודמן: כן, כן…

‏אפרת: כן, כן, היה שווה, היה שווה. האם העסקה שנמצאת היום על השולחן היא שווה?

‏ד"ר גודמן: אני אומר שלא. אבל אני חושב שצריך להמשיג את ה… לא שזה לא שזה…

‏אפרת: מי שואל אותך? [צוחקים]

‏ד"ר גודמן: לא שואלים אותי. אבל ההמשגה הכי גבוהה של ה… של העסקת חליפין, זה שה-AI יתן לנו עוצמה וייקח מאיתנו, ינוון ויחליש את האנושיות שלנו. עכשיו השאלה, מה יותר חשוב לךָ? להיות חזק או להיות בן אדם? האנושיות שלנו, צלם אלוהים שלנו, אם אני מכניס את פתרוס לשיחה הזאת [צוחק], או העוצמה שלנו. ואני חושב שאנחנו אוהבים עוצמה, אבל אנחנו רוצים להיות אנשים בעלי עוצמה.

‏אפרת: אוקיי. צריך פה להבהיר משהו. כל מה שאמרנו עד עכשיו, זה ב-best case scenario. זאת אומרת, בפרקים הקודמים דיברנו על התרחישים הדיסטופיים.

‏ד"ר גודמן: כן.

‏אפרת: התרחיש הזה, זה התרחיש האוטופי. זאת אומרת…

‏ד"ר גודמן: שה-AI בא לפנק.

‏אפרת: בא לפנק, בא לשרת, הוא רק רוצה לעזור, הוא רק רוצה לתת לנו עוד ועוד ועוד מהטוב הזה.

‏ד"ר גודמן: כן.

‏אפרת: זה, מאזינות ומאזינים, התרחיש האופטימי.

‏ד"ר גודמן: האופטימי. וכשאנחנו ממפים בין התרחיש הפסימי, הדיסטופי, לאוטופי, זה ההבדל בין שתי תרחישים שונים. יש את תרחיש ההשתלטות, שה-AI ישתלט עלינו. יובל נח הררי, סם האריס, אליעזר יודקובסקי, ג'פרי הינטון… כל ה… כל האינטליג… כולם מדברים על תרחישי ההשתלטות. אנחנו כאן נתחיל לדבר לא על תרחיש ההשתלטות, אלא על תרחיש ההתנוונות. ב-best case scenario, אם הוא לא משתלט עלינו, הוא מנוון אותנו. ותהליכי ההתנוונות האלה הם של האינטלקט שלנו וגם כן של עוד חלקים באנושיות שלנו שאנחנו נמשיך ונפתח אותם, ונברר אותם בפרקים הבאים, אבל אולי כדאי כבר להגיד איזשהו ספוילר.

‏אפרת: זה לא הולך להיות טוב. [צוחקים]

‏ד"ר גודמן: לא, לא, לא. זה… זה… זה יישמע לא טוב, ואנחנו לא הולכים להיות פסימים. אנחנו גם ננסה להציע… כן?

‏אפרת: דרכי התמודדות.

‏ד"ר גודמן: דרכי התמודדות עם האתגר הספציפי הזה. תרחישי ההשתלטות, זה… זה בשביל המתכנתים.

‏[מוזיקת רקע]

‏אפרת: כן. הם צריכים הם צריכים לפתור את זה.

‏ד"ר גודמן: [צוחק] כן, תהליכי ההתנוונות, לחשוב עליהם, זה בשבילנו.

‏אפרת: זה בשביל "מפלגת המחשבות".

‏ד"ר גודמן: "מפלגת המחשבות".

‏[קטע מהשיר "מודדת" בביצוע ירמי קפלן]

‏"כשאת מודדת, דדת, דדת

‏כמה אני נותן,

‏כשאת מודדת, דדת, דדת

‏כמה אני נותן,

‏תראי מה אני נותן

‏רק אז תחליטי

‏כמה תתני לי חזרה…"

‏[השיר ממשיך להתנגן ברקע]

‏אפרת: בפרק הבא נמשיך את המסע שלנו בעקבות תרחישי ההתנוונות, ואם הפעם דיברנו על התנוונות היכולות הקוגניטיביות שלנו, בפרק הבא נדבר על מה הבינה המלאכותית תעשה ליכולות הרגשיות והחברתיות שלנו.

‏תודה לניר לייסט ולאור שמיר העורכים, למיכל אטיאס ולאייל לויט על ההפקה, ולניבה גולדברג ולמתן חיים מצוות הדיגיטל.

‏כל העונות הקודמות של "מפלגת המחשבות" זמינות ביישמוני ההסכתים וגם באתר "בית אבי חי", שם תוכלו למצוא תכנים מעולים נוספים.

‏[המשך השיר "מודדת"]

‏"תראי מה אני נותן

‏רק אז תחליטי

‏כמה תתני לי חזרה…"

---

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה