מפלגת המחשבות - פרק 141 – מהפכת הבינה: איפה הברקסים?
- הילית בירנבוים מדבדייב
- Dec 14
- 22 min read
בדומה למירוץ החימוש הגרעיני, גם המירוץ לסופר אינטליגנציה מעמיד את האנושות בסכנה קיומית. אז איך זה שמנהיגי העולם לא מתאגדים כדי ללחוץ על הברקס? בפרק הקרוב נתבונן בשינויים שהגל הראשון של ה-AI כבר חולל בתודעה ובחברה שלנו, ונשאל איך כל זה קשור לקושי לבלום את הגל השני והקטלני ששועט לעברינו.
תאריך עליית הפרק לאוויר: 25/11/2025.
קריין: אתם מאזינים להסכת של "בית אבי חי".
[מוזיקת רקע, רצף הקלטות]
חיים יבין: "כן, כנראה מהפך…"
Donald Trump: “Everyone is talking about artificial intelligence. Not artificial, it’s genius.”
Sundar Pichai: “It’s more profound than fire or electricity or…”
Sam Altman: “AI will be the most powerful technology humanity has yet invented.”
Naftali Bennett: “New dimensions will emerge.”
Jensen Huang: “The greatest technology equalizer of all time.”
Yuval Noah Harari: “It is not a tool, it is an agent.”
Elon Musk: “Mark my words, AI is far more dangerous than nukes.”
אפרת: שלום, אני אפרת שפירא רוזנברג ואתן מאזינות ומאזינים ל"מפלגת המחשבות". ההסכת שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדרך, מהפכת הבינה.
תתארו לכם שגדולי האסטרופיזיקאים מודיעים לנו שיש אסטרואיד ענק בדרכו לכדור הארץ. יש מחלוקת ביניהם על מידת הנזק שהוא עומד לגרום לאנושות. חלק חושבים שזה ודאי, אחרים חושבים שהסיכוי נמוך, אבל מחצית מהם מעריכים את הסיכוי שהאנושות תושמד ב-30%. איך היינו מגיבים? מה היו עושות הממשלות שלנו? האם ועדות בין-לאומיות היו עוסקות במשהו שהוא לא השאלה איך להציל את האנושות? אז זה המצב שלנו. או במטאפורה קצת אחרת, אנחנו על רכבת מהירה ועוצמתית שאולי דוהרת לתהום, ומשום מה אנחנו לא רואים את זה ולא מדברים על זה. אנחנו עסוקים בשלנו. האם יש ידית של ברקס שאפשר למשוך כדי לעצור אותה? ואם כן, למה אנחנו לא מפעילים אותה?
שלום מיכה.
ד"ר גודמן: שלום, אפרת.
אפרת: לפני שאנחנו צוללים לתוך הנושא של הפרק הזה, אני חושבת שצריך לשים משהו על השולחן. בשיחה שמתקיימת ברוב המקומות על AI, אני חושבת ש… וכבר הזכרנו את זה, נורא קשה לדמיין על מה מדובר. כשמדברים עם אנשים על בינה מלאכותית, על AI, רוב האנשים, ואני שמה את עצמי גם בקטגוריה הזאת, מדמיינים את מה שיש עכשיו רק קצת יותר טוב.
ד"ר גודמן: כן.
אפרת: זאת אומרת, זה כזה ChatGPT שלא עושה טעויות, שלא מנסה להתחנף אליך כל הזמן.
ד"ר גודמן: כן.
אפרת: ש…
ד"ר גודמן: שזה בלתי נסבל, דרך אגב.
אפרת: כן…
ד"ר גודמן: כן.
אפרת: שלא צריך לבדוק אותו כל הזמן.
ד"ר גודמן: כן.
אפרת: הוא יודע הכל והכל מדויק…
ד"ר גודמן: כן.
אפרת: והכל טוב וזה וזה וזה. זאת אומרת, ממה שיש עכשיו, רק יותר טוב.
ד"ר גודמן: כן, האי הבנה שכל החברות האלה, של-OpenAI, נניח, שהמוצר שמנסים לייצר זה LLM, זה Large Language Model, זה ChatGPT.
אפרת: כן.
ד"ר גודמן: זה המוצר שמנסים כל הזמן לשייף ולייצר.
אפרת: ולכן רוב השיחה, היא מתנהלת כשהדמיון הוא… זה זה, רק קצת יותר טוב.
ד"ר גודמן: נכון.
אפרת: או הרבה יותר טוב. וככה גם קצת התגובות לדברים שאנחנו מדברים פה, ובאופן כללי, השיחה הציבורית היא סביב הדברים האלה, אבל זה פשוט, זה לא נכון. לא על זה מדובר.
ד"ר גודמן: OpenAI, סם אלטמן, למשל, הייעוד של OpenAI זה לא לפתח LLM, לפתח ChatGPT שמדבר איתך. זה לא היעד, זה לא היעד של החברה, של OpenAI. זה לא היעד של DeepMind שייסד דמיס הסביס, זה לא היעד של Anthropic שיש להם את Claude, של דריו אמודיי. זה לא המטרה, ה-LLMs, זה לא היעד. זה תחנה בדרך אל היעד. היעד, המוצר של כל החברות האלה וכל היזמים האלה מהרגע הראשון, זה לפתח AGI, Artificial General Intelligence. ישות שהיא אינטליגנטית כמו בני אדם. ומשם כמובן, לזנק אל עבר Super Intelligence. והם כולם מכוונים ל-tipping point הזה שדיברנו עליו, של הרגע שבו ה-AI משפר את עצמו, ואז ממשיך לשפר את עצמו, זה ה-tipping point של התפוצצות אינטליגנציה. לשמה הם חותרים. שמה הכסף מושקע, זה הייעוד המוצר של החברות האלה, הם נוסעים לעבר AGI ו-Super Intelligence, זה הייעוד שלהם.
אפרת: כן.
ד"ר גודמן: ה-LLMs, זה תחנה בדרך, זה דרך להרוויח כסף, זה דרך להוכיח יכולות, זה דרך לגייס כסף, זה מאוד חכם כלכלית בהרבה מובנים, אבל זה אמצעי, זה ממש לא מה שהם עושים.
אפרת: כן. אז אפשר להתעלם מזה.
ד"ר גודמן: [מצחקק] כן, נכון.
אפרת: ולא… ולא להתייחס לזה, אבל זה לא יהיה חכם. עכשיו, אנחנו כבר העלנו את השאלה - האם זה יצליח? האם יגיעו ל-AGI? האם באמת תהיה הפריצה הזאת לעבר Super Intelligence? אפשר להעלות את השאלות האלה, אבל כמו שאמרת עכשיו, בשביל זה החברות קיימות. זאת המטרה המוצהרת שלהם.
ד"ר גודמן: וזה מאוד מאוד מוזר.
אפרת: למה זה מוזר?
ד"ר גודמן: זה מאוד מוזר שהיעד המוצהר של כל החברות האלה, של כל הדמויות האלה, דמיס הסביס, דריו אמודיי, סם אלטמן והמשקיעים שלהם, זה לייצר AGI. בגלל שאם יש אנשים שהם אלרמיסטים, שהם הנביאים, שמתריעים ואומרים: AGI זה מסוכן! AGI והזינוק לעבר Super Intelligence, אל תשלו את עצמכם, שזה יישאר בשליטה שלנו. כשהדבר הזה יתפתח, זה יברח לנו. זה יצא מטווח השליטה שלנו. זה יהיה גדול מאיתנו. מי אומר את כל זה? סם אלטמן, דמיס הסביס, דריו אמודיי. [צוחק] זאת אומרת, אלו שמפתחים את ה-AGI, הם האלרמיסטים הגדולים ביותר ביחס ל-AGI.
אפרת: כן, דיברנו על זה קצת בפרק הקודם, שבתוך התעשייה, בעמק הסיליקון, מדברים ב-P(doom)-ים.
ד"ר גודמן: בדיוק. איפה מדברים על אפוקליפסה בגלל AI? בעמק הסיליקון, איפה שמפתחים את ה-AI. עכשיו, למה זה…
אפרת: זה הפרדוקס.
ד"ר גודמן: כן. למה זה מוזר? כי נניח, תמיד יש תעשייה ויש אנשים שמתריעים, שאומרים "התעשייה הזאת היא מסוכנת". כן? נניח בתעשיית הטבק. היה את תעשיית הטבק, והיה את האקטיביסטים שכל הזמן הפגינו נגד ואמרו "זה מסוכן", "זה מרעיל" ו"זה…". ואגב, מה הייתה התגובה של תעשיית הטבק?
אפרת: להדוף את הטיעונים האלה, להכחיש אותם.
ד"ר גודמן: כן. סיגריות זה לא מסוכן. [צוחקים] זה לא ממכ… על מה אתם מדברים? יש לנו מדע, יש לנו מאמרים משלנו.
אפרת: כן.
ד"ר גודמן: כי הם מימנו כל מיני אנשים שיכתבו להם. כן, את תעשיית הנפט. יש את תעשיית הנפט, וכנגדם ומולם יש אופוזיציה שאומרים, "הדבר הזה מסוכן".
אפרת: כל הירוקים…
ד"ר גודמן: כן.
אפרת: ואנשי האקלים.
ד"ר גודמן: כן. ומה תגובת תעשיית הנפט? מה פתאום, אין התחממות גלובלית, על מה אתם מדברים? זה סתם, יש… גם לנו יש מדע וזה. אז תמיד יש את התעשייה ויש את האלרמיסטים שמתריעים על הסכנות של התעשייה. כאן מה שמוזר זה, אלו שמתריעים על הסכנות של התעשייה, זה לא אקטיביסטים שעומדים מול התעשייה, אלא…
אפרת: אלה שמפתחים אותה.
ד"ר גודמן: המנהיגים של התעשייה. זה הפרדוקס הבלתי נתפס כמעט, של מה שקורה כאן. אבל…
אפרת: זה נשמע פרדוקס, אבל זה לא באמת פרדוקס.
ד"ר גודמן: נכון. באופן מפתיע ומוזר, זה לא באמת פרדוקס. בגלל שכשהולכים אחורנית ומקשיבים למוטיבציות של המייסדים של התעשייה הזאת, אז מגלים שהם הקימו את החברות שמייצרות AGI, לא למרות שהם חושבים שזה ישמיד את העולם, אלא בגלל שהם חוששים שזה ישמיד את העולם.
אפרת: כן, כלומר זה לא באג, כמו שמקובל לומר היום, זה פיצ'ר.
ד"ר גודמן: כן.
אפרת: כך התפתחה התעשייה.
ד"ר גודמן: נכון. עכשיו למה זה? זה לא שהם רוצים להשמיד את העולם, אלא הרעיון היה כזה: הם אומרים, "אוקיי, אם האנשים הלא נכונים יפתחו AGI, אם יפתחו AGI שאין בו safety, שהוא לא בטוח, וזה AGI שיברח לנו, או ישתלט עלינו, או ישמיד אותנו, ולכן, כדי למנוע את התרחיש הזה, אנחנו נְפַתחַ את זה. אנחנו נפתח את זה". וכאן יש סיפור שמאוד מעניין לספר אותו.
אפרת: זה הביוגרפיה של ההתפתחות של התעשייה.
ד"ר גודמן: כן. כתבה ספר נהדר, פאמי אולסון. באמת ספר נהדר, "Supremacy". יש כאן סיפור קטן שמגלם בתוכו את הסיפור הגדול. וזה הסיפור, היא מספרת את הסיפור של שתיים מהמייסדים. דמיס הסביס וסם אלטמן. דמיס הסביס הוא המייסד של DeepMind, חברה שקמה ב-2010 במטרה מוצהרת לייצר AGI. למה? דמיס הסביס רוצה לפתור את כל הבעיות של העולם, ולעשות את זה בצורה שלא מייצרת אסונות לעולם.
אפרת: כן, הזכרנו את זה באחד הפרקים הקודמים. הוא זה שאמר, "Solve intelligence and then solve everything else".
ד"ר גודמן: יש רק בעיה אחת שצריך לפתור. איך מייצרים Super Intelligence? ברגע שפתרנו את הבעיה הזאת, כל שאר הבעיות יפתרו. זה דמיס הסביס. אז צריך לייצר AGI כדי לפתור את הבעיות של העולם, ולעשות את זה safe, בטוח, כדי שזה לא יחריב את העולם. והוא אמר, "אני צריך לעשות את זה, כי אם מישהו אחר יעשה את זה, זה יביא אסון". זאת גם הייתה המוטיבציה של סם אלטמן. ב-2014, קצת הזכרנו את זה, סם אלטמן אמר דבר כזה, הוא אמר "AGI עשוי להחריב את העולם, אז כדאי לא לייצר AGI, לבלום את פיתוח AGI". ואז הוא אמר, "האם זה אפשרי לבלום את פיתוח ה-AGI?" התשובה היא ש…
אפרת: לא.
ד"ר גודמן: לא. "אז מה ה-second best? שאני אפתח את זה, אני אקדים את כולם ואני אעשה את זה בטוח". זאת אומרת, לכן זה לא פרדוקס. והם אמרו, "לכן אנחנו, המבוגר האחראי, נעשה את זה כמו שצריך".
אפרת: עכשיו, בוא ננסה להבין מה זה נקרא, באמת בלי ציניות ובלי… כי זה באמת היה אמיתי, מה זה נקרא היה בשבילם לעשות את זה "כמו שצריך"?
ד"ר גודמן: אוקיי, אז בניתוח שלהם, והוא ניתוח מאוד עמוק. בתוך התעשייה הזאת יש מתח בין מהירות לבין בטיחות. כדי לעשות את זה בטוח, safety AI, אלו קטגוריות אגב של ניק בוסטרום שהזכרנו אותו, safety AI, כדי לעשות את זה בטוח, שרק נהנה מהפירות של ה-AGI בלי הקטסטרופות של ה-AGI.
אפרת: שזה יוביל לאוטופיה ולא לדיסטופיה.
ד"ר גודמן: כן, אז צריך לעשות את זה בטוח. העניין הוא שכדי לעשות את זה בטוח צריך לעשות את זה לאט. מה הבעיה? הביג טק, עמק הסיליקון, כל החברות הענקיות, מיקרוסופט, גוגל, כל החברות…
אפרת: הם לא מכירות את המילה "לאט".
ד"ר גודמן: נכון. אה… את יודעת מה היה הסיסמה של פייסבוק בהתחלה? "Move fast and break things" [אפרת צוחקת]. צריך לפעול מהר ול…
אפרת: לא הסיסמה של ה-פיל בחנות חרסינה.
ד"ר גודמן: וכמובן, כשהביג טק עושה דברים הוא חייב לעשות את זה מהר, כדי, כמובן, לעקוף את המתחרה שלך. אז יש מתח בין מהירות לבין בטיחות. כדי שבטיחות תועדף על פני מהירות, צריך שהביג טק לא יעשה את זה, צריך ש… אנחנו נעשה את זה. אז דמיס הסביס אמר, "אני מקים את DeepMind כחברה, לא בעמק הסיליקון, לא איפה שהכסף הגדול, אני עושה את זה בלונדון". סם אלטמן, השווה והעלה…
אפרת: הלך אפילו צעד יותר רחוק.
ד"ר גודמן: הוא, זה דבר מטורף, הוא לא הקים חברה בשביל להקים AGI, הוא הקים עמותה ללא כוונות רווח.
אפרת: מטורף.
ד"ר גודמן: שזה גאוני. אם אין כוונות רווח, אין בעלי מניות שדוחפים, "נו נו, איפה הרווחים שלנו?", אפשר לתעדף בטיחות על פני מהירות. [אפרת מצחקקת] ככה זה התחיל. אלו הכוונות הטובות שאיתם שני האנשים האלה יצאו לדרך.
אפרת: זאת אומרת, אתה בעצם אומר, ב-OpenAI בתחילת דרכה הייתה עמותה.
ד"ר גודמן: [משועשע] כן. עם בורד שמטרתו לפקח שה-AI הזה הוא בטוח.
אפרת: כן, שעושים אותו לאט ובטוח.
ד"ר גודמן: לאט ובטוח.
אפרת: אז מה קרה?
ד"ר גודמן: אוקיי, אז קרה הדבר הבא. בשביל לפתח AGI צריך את האנשים הכי חכמים בעולם שיעבדו אצלך. את המתמטיקאים, את המהנדסים, את האנשים הכי חכמים שיש. יש רק בעיה אחת. האנשים הסופר מוכשרים האלה…
אפרת: חוטפים אותם בשוק.
ד"ר גודמן: חוטפים אותם בשוק ו…
אפרת: משלמים להם המון כסף.
ד"ר גודמן: משלמים הרבה. אז כל פעם, נניח, דמיס הסביס מעסיק מישהו, תוך חודש גוגל באה, מציעה לו עסקה יותר טובה והוא עוזב אותו.
אפרת: שלא לדבר על סם אלטמן עם העמותה שלו שלא למטרות רווח, [ד"ר גודמן צוחק] מי מאיתנו ש… מה לעשות, מתעסקים קצת בעמותות ובמגזר שלישי, יודעים כמה משכורות משלמים בעמותות.
ד"ר גודמן: נכון, ותקשיבי, סם אלטמן, הוא לא מגייס משקיעים, הוא מגייס תורמים.
אפרת: כן.
ד"ר גודמן: אגב, את יודעת מי היה התורם שלו?
אפרת: היה לו אחלה תורם.
ד"ר גודמן: אילון מאסק.
אפרת: כן.
ד"ר גודמן: ועדיין…
אפרת: גם אילון מאסק, מסתבר, מעדיף להיות משקיע מאשר תורם.
ד"ר גודמן: זאת אומרת, הפרויקט הזה לא הצליח להתרומם בלי המשאבים. נדלג לסוף הסיפור?
אפרת: איך אומרים? איך זה נגמר בסוף כולם יודעים.
ד"ר גודמן: ידה, ידה, ידה, נדלג לסוף הסיפור? ככה. בסוף DeepMind, כן? הצטרפה לגוגל.
אפרת: זאת אומרת, גוגל קנו אותה.
ד"ר גודמן: והיא נהייתה פשוט גוף בתוך גוגל. ודמיס הסביס סיפר לעצמו, "יופי, כך יהיה לי את המשאבים של גוגל ואני… אני עדיין אדאג שזה יעבוד". אוקיי, בסדר, דמיס. בסדר. אתה ניסית להיות חלופה לביג טק ועכשיו אתה גוגל. זה מה שנקרא ביג טק.
אפרת: כן, הכי ביג שיש.
ד"ר גודמן: וסם אלטמן, זה אולי אפילו יותר נורא. הוא התחיל כעמותה, ועכשיו, נכון להקלטת הפרק הזה, הם מתכננים הנפקה בבורסה, והוא מקווה לעשות הנפקה בשווי של… תחזיקי חזק, טריליון דולר של OpenAI. הוא לא מצטרף ל…
אפרת: לא בדיוק עמותה.
ד"ר גודמן: כן. [צוחק] הוא לא בדיוק עמותה. הוא לא מצטרף לביג טק, הוא פשוט הולך בעצמו.
אפרת: לבלוע את הביג טק.
ד"ר גודמן: בדיוק. וכמובן…
אפרת: ולא רק זה, עם סם אלטמן יש סיפור אפילו עוד יותר קיצוני. כי אותו בורד שהזכרת אותו קודם, שהוא מינה אותו כדי לפקח עליו שיעשה את זה לאט ובטוח, הבורד הזה באמת פיטר אותו.
ד"ר גודמן: כי הוא עשה את זה מהר ו…
אפרת: ולא מספיק בטוח.
ד"ר גודמן: כן. ואז, זה סיפור ארוך, אבל בסוף, מה שקרה זה שהבורד פיטר את סם אלטמן ואז סם אלטמן…
אפרת: פיטר את הבורד בעצם.
ד"ר גודמן: בפועל, חזר אל OpenAI, פיטר את הבורד ובסוף הגענו למצב של היום שבו זה תאגיד ענק. וכמובן תאגידים הם לא מחויבים לבטיחות, הם מחויבים לבעלי המניות, ובעלי המניות מה הם רוצים? להקדים את המתחרים שלהם, ולכן משחררים לעולם מוצרים בקצב גבוה, והמשאבים של התאגידים האלה הולכים על מהירות ולא על בטיחות. הפרויקט נכשל. הפרויקט נכשל.
אפרת: כשאתה אומר הפרויקט נכשל, אתה מתכוון ל"הפרויקט של לעשות את זה לאט ובטוח".
ד"ר גודמן: לא, אני מסתכל על הסיפור הקצר הזה. וזה הכל מבוסס, וזה הכל אימלוק של הספר של פאמי אולסון, "Supremacy", על שני האנשים האלה שבאו עם כוונות טובות. ואם אפשר אולי להמשיג את זה ככה, היה פה כוונות טובות והיה פה כוחות של שוּק. ובסוף מה ניצח?
אפרת: כוחות השוק הביסו את הכוונות הטובות.
ד"ר גודמן: כוחות השוק הביסו את הכוונות הטובות. ויש כאן לקח גדול יותר: השוק חזק מהשחקנים שבתוכו. השחקנים לא מעצבים את השוק, השוק בסוף קובע ומעצב את השחקנים ואת הדרך שלהם.
אפרת: וזה מביא אותנו לשאלת הברקסים…
ד"ר גודמן: בדיוק.
אפרת: בעצם שאיתה סיימנו את הפרק הקודם. והאמירה הקצת נאיבית הזאת של מפתחי התעשייה, של העמדה הזאת של ניק בוסטרום, של - אנחנו… It's up to us. אנחנו, אנחנו יש לנו agency, זה לא דטרמיניסטי, לא הפידום של יודקובסקי, לא הפידום של ריי קורצווייל. זה תלוי בנו, בני האדם, המפתחים של התעשייה. יש לנו agency, אנחנו נשים את הברקסים. זה מביא אותנו לשם ולשאלה, האם באמת יכולים להיות ברקסים?
ד"ר גודמן: המילה "ברקסים" היא מילה נכונה, כי כל הקטע הוא שצריך להאט את זה. להאט את התעשייה הזאת שזה יצא בטוח, שזה לא ישתלט עלינו כשאנחנו נישאר בשליטה על זה. והשאלה היא איפה הברקסים? אז אופציה א', הכוונות הטובות של המייסדים. הסיפור שסיפרנו עכשיו, שם אין ברקסים. ויש סיבה לכך שכוונות טובות בסוף מובסות על ידי השוק. יש סיבה לכך.
אפרת: ככה זה בנוי, זה השוק.
ד"ר גודמן: זה השוק. זאת אומרת…
אפרת: זה אינהרנטי.
ד"ר גודמן: נניח… בואי נחשוב איך זה עובד היום. אם אני אנת'רופיק, ואני מפתח את זה לאט, ואני מתחרה ב-OpenAI. אם OpenAI לא מפתחים את זה לאט, אז אני בדילמת האסיר. כי אני אומר דבר כזה, "היי, אם הם לא מפתחים את זה לאט, והם עושים את זה לא בטוח ומהר, אז אכלתי אותה. גם ייווצר כאן AGI מסוכן, וגם…"
אפרת: וגם אני לא חלק מהחגיגה.
ד"ר גודמן: "…אני לא חלק מהחגיגה, אז אני חייב לעקוף אותם ולעשות את זה עוד יותר מהר". עכשיו, מי חושב בדיוק את אותה מחשבה בזמן שאני, אנת'רופיק, חושב את זה?
אפרת: OpenAI.
ד"ר גודמן: OpenAI. וככה בעצם בדילמת האסיר, בעצם כולם נדחפים כאן לעשות את זה לא בטוח ומאוד מהר. זאת אומרת, התחרות בין התאגידים הגדולים, גוגל, אנת'רופיק, מטא, אילון מאסק, התחרות הזאת גורמת לכך שאין ברקסים וכולם מאיצים ומאיצים עושים את זה הכי מהר שבעולם. רגולציה עצמית של החברות לא יכולה להיות כאן. השוק פשוט מונע את זה.
אפרת: ולכן, אומרים אנשים רבים, הפתרון הוא לא רגולציה עצמית אלא רגולציה.
ד"ר גודמן: מדינתית.
אפרת: מדינתית.
ד"ר גודמן: נכון.
אפרת: תבוא המדינה ותהיה המבוגר האחראי ותטיל מגבלות על החברות.
ד"ר גודמן: כן.
אפרת: שזה, אגב, התפקיד של המדינה.
ד"ר גודמן: נכון. ככה בולמים את דילמת האסיר. אוקיי, "סם אלטמן, אתה מאט, ואין לך מה לפחד מלהאט כי זה בסדר, גם כל המתחרים שלך מאיטים. זה בלמים על כולם ביחד". אפשר לנשום, לעשות את זה לאט, לעשות את זה בטוח.
אפרת: אוקיי, אז מצאנו את הפתרון. וכמו שאמרתי, זה באופן קלאסי התפקיד של מדינה. גם בחברות של דמוקרטיות ליברליות וכולי, אפילו במדינות קפיטליסטיות כמו ארצות הברית, זה התפקיד של מדינה, לעשות רגולציה, לשמור על הציבור, נכון?
ד"ר גודמן: נכון.
אפרת: לשמור על האינטרסים…
ד"ר גודמן: נכון.
אפרת: של הציבור. אגב, כמו בתעשיית הטבק, אולי כמו בתעשיית הנפט…
ד"ר גודמן: נכון.
אפרת: זיהום אוויר… זה לעשות רגולציה, לשמור על האינטרסים של הציבור. אוקיי, אז מצאנו את הפתרון.
ד"ר גודמן: יש רק בעיה אחת עם הפתרון הזה. אם ארצות הברית מאטה את כל תעשיית ה-AI, ואז תעשיית AI מתפתחת הרבה יותר לאט אבל בטוח, בארצות הברית, יש רק שאלה אחת: האם סין מאטה את קצב פיתוח ה-AI שלה, ואם סין דוהרת לעבר AGI בזמן שארצות הברית עושה את זה לאט ובטוח, מה יקרה אז? אז כאן צריך להיכנס לעוד סיפור, עוד מרכיב בדרמה הזאת. זה התיאוריה של ניל פרגוסון, ההיסטוריון.
אפרת: שכבר הזכרנו אותו באחד…
ד"ר גודמן: שהזכרנו אותו…
אפרת: באחת העונות הקודמות.
ד"ר גודמן: כן, כן, אני מאוד מאוד אוהב אותו, משפיע עליי מאוד, היסטוריון ענק, ניל פרגוסון. הוא מכנה את העידן הנוכחי בעולם "Cold War 2".
אפרת: כן, הזכרנו גם את הביטוי הזה…
ד"ר גודמן: נכון?
אפרת: והזכרנו גם את המשחק מילים עם World War 1, World War 2, Cold War 1, Cold War 2.
ד"ר גודמן: נכון. אז Cold War 1 היה עם ברית המועצות…
אפרת: כן.
ד"ר גודמן: ו-Cold War 2 זה ארצות הברית מול…
אפרת: סין.
ד"ר גודמן: סין. ב-Cold War 1, במלחמה הקרה שגדלנו עליה, זוכרת? ב-80s וזה, עם רונלד רייגן ורוקי ו… כן, [צוחק] זוכרת רוקי 4, שהוא הולך לרוסיה וזה, זוכרת?
אפרת: לא.
ד"ר גודמן: את לא זוכרת?
אפרת: לא, לא עקבתי אחרי כל הרוקים.
ד"ר גודמן: אלוהים. [צוחק]
אפרת: פחות היה הז'אנר שלי.
ד"ר גודמן: זה היה שיא המלחמה הקרה, שרוקי בלבואה פוגש את דרגו במוסקבה. [צוחק] אז את שואלת, כן, המלחמה, יש כאילו מלחמה קרה ובלב המלחמה הקרה יש מירוץ חימוש. מירוץ חימוש לגרעין ומירוץ חימוש לחלל. וארצות הברית ניצחה במלחמה הקרה, בין השאר בגלל שניצחה את ברית המועצות במירוץ החימוש. במלחמה הקרה השנייה, בליבה יש מירוץ חימוש. הפעם זה לא מירוץ חימוש לגרעין, זה מרוץ חימוש לאינטליגנציה. מי מגיע ראשון לאינטליגנציה, לאינטליגנציה מסיבית, ל-Super Intelligence? תראו, אנחנו לא יודעים אם יש דבר כזה Super Intelligence ואם יהיה פריצה ל-Super Intelligence, אבל זה לא משנה. התיאוריה המארגנת היא שיהיה רגע של tipping point וזינוק אל עבר סופר אינטליגנציה, ואז כל ההיסטוריה האנושית משתנה מן הקצה אל הקצה. ואם סין מגיעה ראשונה לסופר אינטליגנציה, מה תהיה ההנחיה הראשונה שהישות הסופר אינטליגנטית הסינית תקבל? "תמצאי דרך בבקשה…"
אפרת: "לנטרל את כל הניסיונות שנעשים בארצות הברית להגיע לסופר אינטליגנציה".
ד"ר גודמן: ואז פתאום סין נהנית ממונופול על האינטליגנציה…
אפרת: העולמית.
ד"ר גודמן: העולמית.
אפרת: של האנושות, בעצם.
ד"ר גודמן: ואז אתה אומר, מי שיש לו, עכשיו אני אצטט, "Intelligence dominance dominates "history. מי ששולט באינטליגנציה, שולט בהיסטוריה. זאת אומרת, האמריקאים אומרים, "אוקיי, אני לא יכול לבלום את התעשייה שלי כי אני במירוץ חימוש עם סין". מי עוד חושב בדיוק את אותה מחשבה?
אפרת: הסינים.
ד"ר גודמן: הסינים. הם לא יכולים לבלום את התעשיות שלהם כי הם במירוץ עם ארצות הברית. ואז יוצא האבסורד הבא: בגלל שהאמריקאים לא רוצים בעתיד להשתלט על ידי סין, וסין לא רוצים בעתיד להשתלט על ידי ארצות הברית, אולי כולנו נשלט על ידי…
אפרת: AI.
ד"ר גודמן: AI. זה סיפור עם שתי מרכיבים. הקפיטליזם, יעני התחרות בין חברות, מונעת מהם לבלום את עצמם, והלאומיות, יעני התחרות בין מדינות, מונעת מהמדינות לבלום את עצמם, ומכאן יוצא שקפיטליזם פלוס לאומיות מייצרת ריאליה שבה אין בלמים, אין ברקסים, ואנחנו בדהרה אל עבר AGI.
אפרת: וזה מאוד מאוד טרגי, כי בבסיס, ודיברנו על זה לא מעט בעונות האחרונות, גם קפיטליזם מתון…
ד"ר גודמן: נכון.
אפרת: וגם לאומיות מתונה, הם רעיונות מאוד מאוד טובים.
ד"ר גודמן: למה קפיטליזם פלוס לאומיות זה בדרך כלל טוב? כי קפיטליזם מוציא מהאדם את האמביציה שלו ואת היצירתיות שלו. לאומיות מוציאה מבני אדם, אנחנו רואים את זה בישראל, את הסולידריות שלו, את האלטרואיזם שלו. ולכן זה יין ויאנג קפיטליזם ולאומיות.
אפרת: זה יין ויאנג כי זה… קפיטליזם זה בבסיסו אינדיבידואליזם, לדאוג לעצמי, לרצות להצליח, לנצח בתחרות, להגיע ראשון.
ד"ר גודמן: וזה מוציא ממך את הטוב, את היצירתיות, את האמביציה. זה מוציא ממך את הטוב, אבל אם זה לבדו, זה לא מרוסן. לאומיות מוציאה ממך את האכפתיות, את ההקרבה, את הסולידריות.
אפרת: ערבות הדדית.
ד"ר גודמן: ערבות הדדית. אגב, במידה רבה זה המודל הישראלי. כשישראל היא מוצלחת, זה בגלל הסינתזה הזאת. של קפיטליזם ולאומיות בגרסאות הרכות שלה, זה ישראל המוצלחת. והנה כאן אנחנו מסתכלים על זה ורואים, היי, קפיטליזם פלוס לאומיות, מייצר מציאות שבה אין בלמים, אי אפשר להאט, דוהרים לעבר AGI.
אפרת: זאת אומרת, בניגוד למה שלמדנו בבית ספר על מתמטיקה, שמינוס במינוס מייצר פלוס, פה פלוס בפלוס מייצר מינוס.
ד"ר גודמן: מייצר מינוס.
אפרת: רגע, אבל אולי יש פתרון.
ד"ר גודמן: כן, זה היה נשמע קצת דטרמיניסטי. [מצחקק] כן.
אפרת: לא, אבל זה לא דטרמיניסטי, בגלל שכמו שבתחרות בין OpenAI לאנת'רופיק, ל… וואטבר, לכל החברות בארצות הברית, היה יכול להיות פתרון וזה שהממשלת ארצות הברית תתערב ותעשה רגולציה, ככה מי יפתור את הבעיה של מירוץ החימוש בין סין לארצות הברית? הקהילה הבין-לאומית תתארגן ותעשה רגולציה למדינות, ב… כאילו ב… במטא, בבינלאומי. זה קורה וזה קרה.
ד"ר גודמן: זה הסיפור של האמנה למניעת הפצת נשק גרעיני. ובקווים כלליים, זה די הצליח.
אפרת: הדמיון הוא מדהים. התפתחה פה טכנולוגיה שיכולה להשמיד את האנושות, והמדינות הגדולות של העולם, שכבר הייתה להם את הטכנולוגיה הזאת, אגב…
ד"ר גודמן: נכון, זה ההבדל, כן.
אפרת: כן. התאחדו ואמרו, "רגע…"
ד"ר גודמן: צריך להגביל את זה.
אפרת: "בואו נגביל את עצמנו…"
ד"ר גודמן: כן.
אפרת: "כדי שלא נשמיד את העולם".
ד"ר גודמן: ואנשים מדברים היום על איך נראית האמנה לבלימת יצירת AGI או Super Intelligence. הם מדברים על רעיונות כמו לייצר קו אדום של כוח מיחשוב שאסור לעבור אותו, או להגביל את מערכי הנתונים, ולייצר סוכנות AI גלובלית שמעניקה לתאגידים רישיון להפעיל מודל, קודם כל צריכים לראות את המודל, לראות אם הוא לא מסוכן, לראות אם אי אפשר להשתמש בו לייצר נשק ביולוגי, או עוד רעיונות. כשבני אדם מחליטים לפתור בעיה ומשתפים פעולה כדי לפתור את הבעיה ויש להם מודעות מוגברת לבעיה…
אפרת: שזה אפילו כמעט אחת מההגדרות של להיות אנושיים…
ד"ר גודמן: נכון.
אפרת: זה היכולת לשתף פעולה.
ד"ר גודמן: לשתף פעולה.
אפרת: כדי לפתור בעיות.
ד"ר גודמן: בדיוק, זה ממש הומו ספיינס. אז שהאנושות תנסה לעשות את זה ותשתף פעולה, היא כנראה תמצא את הפתרונות, והיא כנראה תצליח ליישם אותם. בגלל שמה שעומד כאן על הכף, זה הכל. זה עצם קיומה.
אפרת: כן.
ד"ר גודמן: כן. אם נניח הייתי אומר לך שיש 20% סיכוי שיש מטאור שבדרך לכדור הארץ, והוא עתיד להתנגש בנו, וכמו אז עם הדינוזאורים, לפני 65 מיליון שנה, זו תהיה התנגשות שתשמיד, הפעם לא הדינוזאורים, אלא הציביליזציה האנושית. אם יש 20% שמטאור כזה הוא בדרך, אני אומר 20% כי זה הפידום של דריו אמודיי.
אפרת: והוא אחד הפידומים השמרניים ביותר, כבר דיברנו על זה שיש 50 ויש 60 ויש 90.
ד"ר גודמן: כן, ואמרנו שה-50% הם מעל 30%, כן? אז הייתי, אני מנחש שאם היה מטאור כזה בדרך, היינו במצב חירום עולמי, גדולי המדענים היו מפתחים את הפתרונות, הפוליטיקאים היו מנסים לייצר את המוסדות, היינו עובדים ביחד כדי להציל את האנושות בסבירות גבוהה, זה מה שהיינו עושים. ניסח את זה אחרת, סם האריס, הוא אמר, "אם הייתי אומר לך שיש חללית בדרך והחללית מלאה בחייזרים, והחייזרים האלה הם הרבה יותר חכמים מאיתנו, ואין לנו מושג מה הם מתכננים, אין לנו מושג. אולי הם באים בטוב, אולי הם באים ברע, אבל…", זה אגב, זה אנלוגיה טובה, כי יש את האפקט ה-black box, אנחנו לא מבינים מה קורה שמה בתוך הכביכול מוח של ה-AI. "ואם הייתי אומר לך שהחללית עם החייזרים בדרך, אנחנו היינו עסוקים רק בחללית הזאת. מתי היא תגיע? מי הם הטיפוסים שירדו? איך נתמודד איתם? אז החייזרים בדרך, פשוט אנחנו מייצרים אותם. והם יהיו יותר חכמים מאיתנו ואנחנו לא יודעים מה הם יעשו כאן. ו…" אוקיי, בדוגמאות האלה זה ברור לנו שבמקרים כאלה היינו מרכזים את כל הקשב האנושי, מנסים לפתח, לשאול איך אנחנו מונעים מזה להגיע, ובכוחנו, בגלל שאנחנו מייצרים את החייזרים, אולי אנחנו באמצעות שיתוף פעולה, נוכל למנוע את הופעתם של החייזרים.
אפרת: אז למה אנחנו לא עושים את זה? למה אנחנו לא משתפים פעולה כמו שבני אדם יודעים לעשות, כדי להתמודד עם הדבר האולי מאוד מסוכן, אולי קצת מסוכן, אולי לא מסוכן, אבל מאוד מאוד גדול, שמגיע.
ד"ר גודמן: בגלל שבני אדם משתפים פעולה רק כשיש להם מודעות מוגברת לבעיה. אגב, ככה פוליטיקה עובדת כדי שמנהיגים פוליטיים באמריקה ובסין, כדי שיהיה, לא יודע, כינוס של מנהיגי העולם, כמו שיש לבעיות של האקלים בפריז או בגלזגו, שכינוס מנהיגי העולם בבעיות האמיתיות של ה-AGI או בעיות אחרות של AI, כדי שזה יקרה, כדי שהמנהיגים הפוליטיים יזמו, יטלו סיכונים פוליטיים, הם צריכים תמריצים פוליטיים. ואיפה שאין ערנות ציבורית מוגברת, אין תמריצים פוליטיים. ואיפה שאין תמריצים פוליטיים, אין יוזמה פוליטית. זה החוקי הפיזיקה הבסיסיים של המציאות החברתית.
אפרת: ולמה אין ערנות של הציבור לנושא הזה?
ד"ר גודמן: כי יודעת איפה הערנות של הציבור בכל העולם נמצאים? בדרמות המקומיות. בברזיל יש דרמות ענקיות, משפטיות, חוקתיות, בארצות הברית טראמפ, ו… בישראל כל הקיטוב הפנימי. כל הקיטוב הפנימי, כל הפוליטיקה המדינתית, מסיטה את הקשב של אנשים פנימה, לוקאלי, לבעיות של המדינה. שמה נמצא האנרגיה הפוליטית, הקשב הפוליטי של אנשים.
אפרת: זאת אומרת, במילים אחרות, בגלל שכל אחת מהמדינות סובלת מקיטוב קיצוני, ו… אני לא רוצה להגיד חסר תקדים, אבל בוודאי מאוד מאוד קשה, ברמה הפנים-מדינתית, זה מה שמונע מאיתנו, א', לשים לב שיש את הבעיה הזאת, וב', להתאגד ולהתאחד כדי להתמודד איתה.
ד"ר גודמן: איפה שיש קשב, אולי יש פתרון, אבל איפה שאין קשב, לא יהיה פתרון. הברקסים נמצאים שם, ביכולת שלנו לאסוף את הקשב שלנו ולחשוב על הבעיה הזאת, ולשתף פעולה, כלל אנושי. כמה שזה נשמע נאיבי, אבל תזכרו, אם היה כאן מטאור בדרך, זה היה נשמע פחות נאיבי שנכריז על מצב חירום עולמי. אבל… אנחנו לא מצליחים לרכז את הקשב שלנו ויש סיבה לכך שאנחנו לא מצליחים לרכז את הקשב שלנו, וזה קשור להשלכה הלא מתוכננת של המהפכה הדיגיטלית.
אפרת: שזה נושא שדיברנו עליו גם בפרק הראשון, בשני הפרקים הראשונים…
ד"ר גודמן: נכון.
אפרת: אי פעם, לא של עונה, אלא של מפלגת המחשבות.
ד"ר גודמן: נכון.
אפרת: וגם, כמובן, בספר שלך, "מהפכת הקשב", פירטת בצורה נרחבת.
ד"ר גודמן: כשכתבתי את "מהפכת הקשב", לא הבנתי מה זה מהפכת הקשב. כי מה שלא הבנתי זה שהאלגוריתמים האלה, שמהונדסים עבור מטרה אחת בלבד, לשאוב את תשומת הלב שלנו. אולי נזכיר ממש על רגל אחת את התזה. בבסיס המהפכה הדיגיטלית יש מהפכה כלכלית, שזה מוניטיזציה של תשומת לב אנושית. כידוע לכל המאזינים שלנו, פייסבוק זה בחינם, ו-X זה בחינם, וטיקטוק זה בחינם, ומהרגע הראשון כלכלנים אמרו, אם אתה מקבל מוצר בחינם, תחשוד.
אפרת: אתה המוצר.
ד"ר גודמן: אולי אתה לא מקבל מוצר, אולי אתה מוסר מוצר. והמוצר שאנחנו מוסרים זה התשומת לב שלנו. והם אורזים את התשומת לב ומוכרים אותו למפרסמים. וזה ביזנס ענק של מעל טריליון דולר. ביזנס של פרסומות. אז התפקיד של האלגוריתם זה להאכיל אותנו באינפורמציה, שהאלגוריתם מנחש, ימשוך את התשומת לב שלנו ואז לקחת את התשומת לב…
אפרת: ולדחוף שם פרסומת לספות.
ד"ר גודמן: [צוחק] כן.
אפרת: או לנעליים, או למה שזה לא יהיה.
ד"ר גודמן: מה שקרה, זה שאי שם אחרי 2009, האלגוריתמים שממיינים אינפורמציה על פי הקריטריון מה ימשוך יותר תשומת לב מהתודעה שלנו, הם הפסיקו להיות אלגוריתמים טיפשים ונהיו אלגוריתמים חכמים.
אפרת: וכשאתה אומר אלגוריתמים חכמים, אתה בעצם מתכוון ל-AI. זאת הנקודה שבה הבינה המלאכותית בעצם נכנסה לחיינו. פה היא עושה את הכניסה שלה.
ד"ר גודמן: כן, זה המה… מה שלא הבנתי אז, זה שהמהפכה הדיגיטלית נהייתה באיזשהו שלב מהפכת AI. כאילו בהתחלה פייסבוק זה לא היה AI, זה היה אלגוריתמים לא חכמים.
אפרת: מה זה אומר לא חכמים?
ד"ר גודמן: שכזה, סדרה של צעדים קבועים מראש. למי שיש יותר לייקים, תראה לו בפיד. למי שהוא חבר טוב, תראה לו… כאילו הכל… הוא לא למד אותך, למד את ההתנהגות שלך, הצליב אותך עם ביג דאטה, ומנסה לנבא איזה פיסת אינפורמציה תפעיל אותך, תכעיס אותך, תשאב עוד נתח מהתשומת לב שלך.
אפרת: הוא לא היה אלגוריתם לומד.
ד"ר גודמן: כן, הוא לא… כאילו באיזשהו שלב הוא קם לתחייה, ואני אומר את זה מטאפורית, אני לא חושב שהדברים האלה חיים, והם התחילו ללמוד אותנו. זאת אומרת, המהפכה הדיגיטלית הייתה מהפכת AI, ויוצא מכאן…
אפרת: בשלב מסוים היא הפכה להיות מהפכת AI.
ד"ר גודמן: כן.
אפרת: פה אני חושבת שמי שיש לו… מי שנמצא ברשתות חברתיות… לך אין כלום אז אתה לא יודע, אבל אני, לי יש רק פייסבוק, שזה גם כן כבר פרימיטיבי. אבל אני ממש זוכרת את הנקודה שבה זה התחיל להשתנות. כאילו, מלראות פוסטים שיש להם הרבה לייקים, ל-להפסיק לראות פוסטים מסוימים ולהתחיל לראות משהו מסוג שונה, תיבות תהודה ודברים שמעוררים זעם ו…
אפרת: כי זה… פתאום אלגוריתם שמתחיל ללמוד אותך ולהכיר אותך ולהדביק לך אינפורמציה שהוא מניח שישאב את התשומת לב שלך. זאת אומרת שכל הטיים-ליין שלנו, או לפחות שלי, הוא צריך להשתנות. זה לא שהיה את המהפכה הדיגיטלית, פייסבוק, אינסטגרם, טוויטר, ואז עכשיו יש מהפכת הבינה המלאכותית. ג'מיני, ChatGPT. לא. זו הייתה מהפכת בינה מלאכותית ראשונה, או המפגש הראשון שלנו עם החייזרים, ועכשיו זה המפגש השני שלנו עם המכונות הלומדות החכמות האלה. במילים אחרות, כל פעם שאנחנו מסיטים את הקשב שלנו לתוכן בטיקטוק, בפייסבוק, באינסטגרם, היה שמה AI.
אפרת: שמה הוא אמר?
ד"ר גודמן: שהוא כיוון, דחף את הקשב שלנו לשם.
אפרת: לא, מה האלגוריתם הזה גילה? מה מושך את תשומת הלב שלנו, את הקשב שלנו בצורה הכי אפקטיבית, הכי מהירה, הכי דרמטית?
ד"ר גודמן: זעם, שנאה, כל מה שמוליך לכאוס, כל מה שמוליך לקיטוב. דרך אגב, המהנדסים לא ידעו שזה מה שהאלגוריתם ילמד על הטבע האנושי. הוא למד לבד.
אפרת: כן. המהנדסים הם לא כזה אנשים חורשי מזימות רעות.
ד"ר גודמן: היי! הם לא אמרו לאלגוריתם "תעמיס זעם", האלגוריתם החכם למד לבד. התפקיד שלו היה למצוא את התורפות שלנו, מה מושך את תשומת הלב שלנו, ולהיכנס לשם בכל הכוח.
אפרת: וכמו שכבר הזכרנו, ברגע שנתנו לו את המשימה…
ד"ר גודמן: כן.
אפרת: "פשוט תמקסם את תשומת הלב, תמשוך כמה שיותר תשומת לב".
ד"ר גודמן: הוא פענח…
אפרת: אין לו ברקסים, הוא פשוט עשה את זה.
ד"ר גודמן: הוא פענח את זה.
אפרת: כן. ולכן כולנו נחשפים ברשתות החברתיות שלנו ליותר חומר…
ד"ר גודמן: רעיל.
ד"ר גודמן: רעיל, זועם, מקטב, מקטב. זה לא… אנחנו פשוט רואים את זה, אנחנו יכולים, כל אחד מאיתנו יכול לראות את האבולוציה של הדבר הזה בפידים שלו.
ד"ר גודמן: הנה מה שלא הבנתי שכתבתי את "מהפכת הקשב". העולם הזה, המקוטב הזה, כפי שאנחנו חווים אותו ורואים אותו היום, זה עולם שכבר נוצר על ידי AI. ה-AI כבר כאן. הוא כבר יצא למתקפה על התודעה שלנו, שאב מאיתנו את הקשב שלנו, העמיס בתוך דיאטת האינפורמציה שלנו זעם ושנאה ופייק ניוז. והכאוס שאנחנו רואים היום בעולם ומשבר הדמוקרטיה ומשבר החברות בעולם, זה עולם שכבר… זה העולם שנוצר על ידי AI.
אפרת: על ידי הגל הראשון של ה-AI.
ד"ר גודמן: הגל הראשון. מה ההבדל בין הגל הראשון שהיה לגל השני שמגיע? הגל הראשון זה AI שממיין אינפורמציה, הגל השני מייצר אינפורמציה. הסיבה שאנחנו לא יכולים לאסוף את הקשב שלנו ולשתף פעולה בהתמודדות עם הגל השני של ה-AI, זה בגלל שאנחנו…
אפרת: קורבנות של הגל הראשון של ה-AI.
ד"ר גודמן: של הגל הראשון של ה-AI.
אפרת: טוב, זה נשמע, אם היינו כזה חובבי קונספירציות, אז זה נשמע כמו תיאוריית קונספירציה קלאסית. בשלב הראשון, הגיע הכוח הזה, קצת כמו מגדל בבל, ערבב אותנו, יצר, זרע בתוכנו קיטוב וכאוס, כדי שלא נוכל לשתף פעולה ולמנוע את הגל הבא, שפשוט ישתלט עלינו וישלוט בנו.
ד"ר גודמן: כן, כשאנחנו חושבים על זה בתור קונספירציה זה כמו… נכון יש את האלו שגונבים לך, מכייסים לך את ה… אם מישהו מכייס לך את הארנק…
אפרת: כן.
ד"ר גודמן: איך הוא… הא יוצר איזו הסחת דעת?
אפרת: [בקול גבוה] תראה ציפור ציפור, ציפור…
ד"ר גודמן: ציפור ציפור, בום…
אפרת: בום.
ד"ר גודמן: חוטף לך את הארנק. כן?
אפרת: אז הגל הראשון של ה-AI, זה ה"הנה ציפור".
ד"ר גודמן: הנה ציפור. כולנו עסוקים בכל מיני בעיות אחרות ואז מופיע הגל השני של ה-AI ומשתלט עלינו. אבל זה נשמע כמו קונספירציה, זה מפתה לחשוב על זה כקונספירציה, אני לא חושב שזה קונספירציה, זה יצא ככה. הגל הראשון שדד את הקשב שלנו ומנע מאיתנו לאסוף את הקשב שלנו, לשתף פעולה, כדי להתמודד עם הסכנות של הגל השני של ה-AI.
אפרת: ולכן במובן העמוק יותר, התשובה לשאלה איפה הברקסים, או למה אנחנו לא לוחצים על הברקסים, היא לא כי אין ברקס, לא רק מה שדיברנו לאורך כל הפרק, אלא במובן הבאמת יותר עמוק, זה פשוט בגלל שאנחנו לא יכולים ביחד להפעיל את השריר שילחץ על הברקסים.
ד"ר גודמן: שהמכשיר הזה זה קשב מרוכז ושיתוף פעולה בין בני האדם. והיכולת הזאת נפגעה בגל הראשון של ה-AI שמיין אינפורמציה, של המהפכה הדיגיטלית, של האלגוריתמים…
אפרת: וסלל את הדרך לגל השני שלו.
ד"ר גודמן: וסלל את הדרך לכך שאין לנו איך להשתלט על הגל השני. אבל יש כאן חדשות גם טובות. אם זה נכון, אם שמה נמצא הפקק, אם שמה נמצאים הברקסים ביכולת שלנו לרכז את הקשב, ביכולת שלנו לגבור על האלגוריתמים, אם שם הבעיה, אז שם צריך למצוא את הפתרון.
[מתנגן השיר "אל הלא נודע" של דני סנדרסון]
"הולכים אל הלא נודע,
אל הלא נודע,
אל הלא נודע.
הולכים אל הלך תדע,
אם זה טוב או רע,
שם בלא נודע.
בלי לדעת את גורלנו,
או מה יהיה.
כל אחד מנחש קדימה, עד היכן שהוא רואה."
אפרת: אז ביססנו את המסקנה שאנחנו צועדים אל הלא נודע ויש סיכוי שמחכה לנו שם קטסטרופה. זה התרחיש הפסימי. אבל יש גם תרחיש אופטימי. שהבינה המלאכותית לא תשמיד אותנו וגם לא תשתלט עלינו, אלא רק תשרת ותפנק אותנו. ומה אז? על זה נדבר בפרקים הקרובים.
תודה לניר לייסט ולאור שמיר העורכים, למיכל אטיאס ולאיל לויט על ההפקה, ולניבה גולדברג ולמתן חיים מצוות הדיגיטל.
כל העונות הקודמות של "מפלגת המחשבות" זמינות ביישומוני ההסכתים וגם באתר "בית אבי חי", שם תוכלו למצוא תכנים מעולים נוספים.
["אל הלא נודע" ממשיך להתנגן]
לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה
Comments