top of page

הקיפוד והשועל - האם באמת צריך לפחד מבינה מלאכותית?

הפילוסוף בוסטרום אמר: זה האתגר האחרון שאי פעם נתמודד איתו; המתמטיקאי גוד חזה: זו ההמצאה האחרונה שהאדם יצטרך להמציא; המדען סולימן כתב: זו המטא-בעיה של המאה ה-21. אז בואו לדבר קצת על בינה מלאכותית (כי מי יודע אם אחר כך תהיה אפשרות כזאת…)

 

תאריך עליית הפרק לאוויר: 18/10/2023.

[חסות]

שמואל: שלום לכולכם, שלום לכולכן. כאן שמואל רוזנר. מיד נתחיל עם ההסכת של הקיפוד והשועל, אבל לפני כן נבהיר, בחוץ משתוללת מלחמה וכאן לא תהיה אף מילה על אקטואליה. אף מילה על ימי המלחמה האלה. כאן יהיה מקלט זמני מהחדשות.

אבל לפני שנתחיל, בכל זאת, נאמר שתהיה לכם שעה בטוחה, שיהיה לכם יום בטוח, שיהיה לכם שבוע בטוח בכל מקום שאתם.

מכאן נתחיל.

בשחר המהפכה התעשייתית לפני שהדומיננטיות של המכונות הייתה מובטחת צמחה אגדה על צעיר ששבר אותן. בשנת 1779, כך מספרת האגדה, חי ילד בשם אדוארד לוּד (Ludd) בעיירה קטנה במידלנדס של אנגליה. נד הצעיר היה חניך בתעשיית הבדים ולמד להפעיל מכונת סריגה. הוא לא נהנה מהעבודה, הבוס שלו היה קצר רוח והעבודה הייתה רפטטיבית, מורכבת וקשה. והוא היה רק ילד, אז נד עשה מה שבנים נוטים לעשות כשהם נאלצים לבצע משימות משעממות. הוא השתחרר. נד נרתע מהכלא של מכונת הסריגה, כך נכתב בגרסה מוקלטת מוקדמת של הסיפור, הוא לא התאמץ לשביעות רצונו של אדונו.

בשל הפשע של אי פרודוקטיביות, השופט המקומי המליץ להצליף בילד. לאחר ההצלפות, נד הצעיר, זועם על ההתעללות, השתמש בהזדמנות הראשונה להשיג לעצמו פטיש גדול ויצא לדרך, להרוס את המכונה לגמרי. לוּד ריסק את כלי חוסר המזל שלו לרסיסים ועזב ליער שרווד, שם, כך נאמר, הסתתר כמו התושב הגיבור האחרון של היער - רובין הוד.

בבוא הזמן, הוא, כלומר נד לוּד, יעורר גברים מדוכאים אחרים לנפץ את המכונות לעשיית רווח של אדוניהם, הוא לא היה הראשון ובוודאי לא יהיה האחרון.

רוח האגדה, התקשורתיות שלה, נתנו לה יתרון. לוּד כנראה לא היה קיים בכלל, אבל האווטאר שלו יהפוך לקמע, לכלי מארגן, ולקריצה מבודחת. מִים רב עוצמה מהמאה התשע עשרה, כמו רובין הוד. כמו רובין הוד, נד לוּד השאיל את שמו למאבק רחב יותר שהיה אמיתי מאוד, בין אם כן היה ובין אם לאו. כל אגדה טובה צריכה סיפור מכונן. למי שנטחנו תחת הגלגלים של המהפכה התעשייתית, לוּד יהפוך לקפטן, גנרל, ואפילו מלך.

ושוב שלום. אתם עם הקיפוד והשועל, כן? מדף של ספרים ורעיונות לסקרנים ולסקרניות, והטקסט הקצר שהקראנו נדגם ותורגם מתוך ספר חדש. "דם במכונה", כך נקרא הספר. "דם במכונה", שורשי המהפכה נגד הטכנולוגיה. זה ספר שקיים רק באנגלית.

"blood in the machine. the origins of the rebellion against big tech."

כתב אותו בריאן מרצ'נט. בחרנו בספר הזה לפתיחתה של שעה, או קצת יותר, על בינה מלאכותית. על המהפכה שתביא בינה מלאכותית לחיינו, אם תביא, כאשר תביא, איך שתביא.

בספרו, בריאן מרצ'נט מתייחס לבעלי המפעלים של המהפכה התעשייתית כאל נבלים המתעשרים מעבודתם של ילדים בני שבע. במקרה הטוב, הם פשוט לא מודעים לתנאי העובדים שלהם. הנה, כך הוא מתאר את הפוליטיקאי ובעל המפעל רוברט פּיל. ציטוט: "אחרי שביקר במיזם שלו הוא היה המום לגלות כמה גרועים התנאים במפעל. הילדים שעבדו שם היו פצועים, עורם צהבהב והם סבלו בבירור מתת תזונה. לא היה להם זמן לחינוך או לפעילות גופנית. פּיל, הפוליטיקאי, רוברט פּיל היה מזועזע." סוף ציטוט.

כפוליטיקאי, הוא תמך בחקיקה שמגבילה את שעות העבודה של ילדים ובשיפור תנאי החיים שלהם, אבל לא תמך בהוצאה של עבודת ילדים מחוץ לחוק. למה? למה לא תמך בזה?

מרצ'נט כותב כך: "אחרי הכל, הוא היה צריך אותם כדי... להפעיל את המכונות." סוף ציטוט. מול התעשיינים החמדנים התייצבו הלוּדיטים המבקשים לעצור או לעכב את המהפכה התעשייתית.

המחבר עצמו, מרצ'נט, עושה את החיבור בין מכונות האריגה של אז לבינה המלאכותית של היום. ציטוט: "אם הלוּדיטים לימדו אותנו משהו, זה שהרובוטים לא לוקחים את העבודה שלנו, הבוסים שלנו הם שלוקחים אותה. רובוטים אינם בעלי חושים, אין להם את היכולת לבוא או לגנוב או להרוג או לאיים לקחת לנו את העבודה. להנהלה יש את היכולת הזאת." סוף ציטוט.

האם הבינה המלאכותית עומדת לקחת לנו את העבודה? האם היא עומדת להפוך את עולמנו שוב? האם תחריב אותו? ומה זה אומר שתחריב אותו?

בשאלות האלה ניגע כהרגלנו בעזרת ספרים ורעיונות. ולא נמצה אותם כמובן, כדי למצות אותם צריך לקרוא לא מעט ספרים ולהפוך לזמן רב בלא מעט רעיונות, אבל נגיש משהו מזה על קצה של מזלג. הבינה המלאכותית נעשתה לאחרונה למשהו שנדמה שעומד לשנות את חיינו אבל עוד לא ברור בדיוק מתי וכמה. גם אנחנו מתעניינים בה.

[חסות]

אנחנו בפרק סולו. בספרייה שלנו תוכלו למצוא את כל הפרקים הקודמים, כולל הפרק האחרון עם פרופסור ימימה בן מנחם. הספרייה נמצאת באתר של מיזם הקיפוד והשועל. קיפשו נקודה קום kipshu.com. קיפשו כמו 'הקיפוד והשועל'.

ועכשיו לבינה מלאכותית. על מה מדובר? למה אנחנו מקווים? ממה אנחנו מודאגים?

"האנשים העובדים…", וזה ציטוט אחרון להיום מתוך הספר "דם במכונה", "האנשים העובדים בוהים ביזמים, במונופולים טכנולוגיים ובחברות הון סיכון שתרות אחר צורות חדשות של טכנולוגיה חוסכת עבודה, בין אם זה בינה מלאכותית, רובוטיקה או אוטומציה של תוכנה, כדי להחליף אותם, להחליף את העובדים. הם, העובדים שוב מתמודדים עם הסיכוי לאבד את מקום עבודתם למכונה. כיום", זה עדיין מרצ'נט, "היזם, שלוקח סיכון כדי לשבש תעשייה, כלומר לעשות בה מהפכה, זוכה להערכה רבה. חברות הון סיכון מחפשות רעיונות ייחודיים שמכווצים שוק תוך הגברת השליטה שלהם".

"אוטומציה מוצגת לעתים קרובות כתוצאה מצערת אך בלתי נמנעת של קדמה. מציאות, שעובדים בכל חברה מתקדמת טכנולוגית צריכים פשוט ללמוד להסתגל אליה. אבל במאה התשע עשרה אוטומציה לא נתפסה כבלתי נמנעת או אפילו מעורפלת מבחינה מוסרית. אנשים עובדים הרגישו שזה פשוט לא נכון להשתמש במכונות כדי לקחת את לחמו של אדם אחר, ולכן אלפים הצטרפו לתנועת התנגדות כוחנית ומבוזרת שמטרתה לרסק את המכונות. לרסק את המכונות. הציבור הריע למורדים הללו ובמשך זמן מה הם היו יותר מפורסמים מרובין הוד וגם חזקים יותר". סוף ציטוט.

אות פתיחה, ועוברים מהלוּדיטים של אז לאלה של ימינו.

[נשמעת נגינה]

שמואל: "הקיפוד והשועל" פתחנו במהפכה התעשייתית, אבל אנחנו היום עם בינה מלאכותית.

אם יום אחד נבנה מוחות מכונה שיעלו על המוחות האנושיים באינטליגנציה הכללית, אז אינטליגנצית-על חדשה זו עלולה להפוך לעוצמתית מאוד. וכפי שגורל הגורילות תלוי כעת יותר בנו, בני האדם, מאשר בגורילות עצמן, כך גורל המין שלנו, מין בני האדם, יהיה תלוי בפעולות של מכונת אינטליגנצית העל.

יש לנו יתרון אחד, אנחנו יכולים לבנות את המכונה. באופן עקרוני, נוכל לבנות סוג של אינטליגנצית על שתגן על ערכי בני האדם.

בהחלט יש לנו סיבה חזקה לעשות זאת, אבל בפועל בעיית השליטה, הבעיה כיצד לשלוט במה שאינטליגנציית-על הייתה עושה, בפועל, הבעיה הזאת נראית קשה למדי, ונראה גם שתהיה לנו רק הזדמנות אחת. רק הזדמנות אחת. למה?

כי ברגע שתתקיים אינטליגנציית-על לא ידידותית, היא תמנע מאיתנו להחליף אותה, או לשנות את העדפותיה. גורלנו ייחרץ. גם זה מתוך ספר. זה מתוך הספר של ניק בוסטרום, הוא פילוסוף שוודי מאוניברסיטת אוקספורד, שמוכר בעבודתו על סכנות קיומיות, על העיקרון האנתרופי גם על אינטליגנציית-על. בוסטרום כתב כמה ספרים, וזה מתוך "Superintelligence: Paths, Dangers, Strategies". הוא כתב את הספר הזה, כך הוא כותב בתוך הספר. הוא כתב אותו כדי לעסוק במה שהוא כנראה, ציטוט: "האתגר החשוב והמפחיד ביותר שהאנושות התמודדה איתו אי פעם. בין אם נצליח או ניכשל", הוא כותב, "זה כנראה האתגר האחרון שאי פעם נתמודד איתו." סוף ציטוט. האתגר האחרון שאי פעם נתמודד איתו.

תכף נחזור אליו, אבל קודם, נזכיר שהאתגר האחרון הזה הוא אתגר שהתחיל ממש אתמול. ממש אתמול-שלשום במונחים של היסטוריה, ולפני כמה שניות, או אפילו עשיריות השנייה, במונחים של אבולוציה.

מתי בדיוק התחיל האתגר?

הנה סיפור מתוך עוד ספר, "Genius Makers". זה ספר שכתב קייד מטץ (Cade Metz). ספר די חדש, ספר על ההיסטוריה הקצרה מאוד של מהפכת הבינה המלאכותית. פרנק רוזנבלט נולד ב-11 ביולי 1928 בניו רושל, ניו יורק, מעט צפונית לברונקס. הוא למד בברונקס סיינס, התיכון הציבורי העילי שהוציא מתוכו שמונה זוכי פרס נובל, שישה זוכי פרס פוליצר, שמונה זוכי מדלית מדע לאומית, ושלושה זוכים בפרס טיורינג, פרס מדעי המחשב המוביל בעולם.

גבר קטן ורזה, אנחנו מדברים על פרנק רוזנבלט, עם לסתות בשרניות ושיער קצר כהה וגלי, שמרכיב משקפיים עם מסגרת שחורה סטנדרטית. רוזנבלט הוכשר בפסיכולוגיה, אבל תחומי העניין שלו היו הרבה יותר רחבים. בשנת 1953, ה"ניו יורק טיימס" פרסם סיפור קצר, המתאר מחשב מוקדם שבו רוזנבלט השתמש כדי לגזור נתונים עבור עבודת הדוקטורט שלו. המחשב נקרא EPAC. קיצור של ניתוח מחשב של פרופיל אלקטרוני. המחשב ניתח את הפרופילים הפסיכולוגיים של המטופלים של רוזנבלט. ככל שחלפו השנים, רוזנבלט החל להאמין, שמכונות יכולות לספק הבנה גדולה עוד יותר של נפש האדם.

לאחר שסיים את הדוקטורט שלו, הוא הצטרף למעבדה אווירונאוטית של אוניברסיטת קורנל בבאפלו, כ-150 מייל מהקמפוס הראשי של האוניברסיטה באיתקה ניו יורק.

המעבדה למחקר הטיסה, שנתרמה לקורנל על ידי חברה שתכננה מטוסים במהלך מלחמת העולם השנייה, המעבדה הזאת הפכה עם השנים לאחר המלחמה, למעבדה אקלקטית יותר שפעלה תחת מעט פיקוח מהממשל. כאן, במעבדה הזאת, תכנן רוזנבלט את הפרספטרון (Perceptron), פרספטרון, מגובה במימון ממשרד המחקר של הצי האמריקאי.

אתם בטח רוצים לדעת אם רוזנבלט היה יהודי. ברור שהיה יהודי, איך בכלל אפשר אחרת?

במדעי המחשב מוכר הסיפור על היריבות בינו לבין מי שלמד שנה מתחתיו, באותו בית ספר בברונקס, מרווין מינסקי שמו. הוא הטיל ספק בכמה מהמסקנות והביא לירידה בעניין בתגליות של רוזנבלט. מינסקי נגד רוזנבלט, חפשו את זה ותמצאו.

אחר כך, באה תקופה שמכונה החורף של הבינה המלאכותית. יותר מדי מדענים שוכנעו שהמטרות של רוזנבלט לא ברות השגה ועברו להתעניין בדברים אחרים. מינסקי שרד את החורף הזה, החורף של הבינה המלאכותית, כדי לגלות שרוזנבלט אומנם לא צדק, חלק ממה שחשב שאפשר להשיג בדרך אחת, הושג רק בדרכים אחרות, אבל צדק יותר ממנו, כלומר רוזנבלט צדק יותר ממינסקי.

רק שרוזנבלט עצמו לא שרד. הוא מת בתאונת סירה בגיל 43. הספר של מטץ, קייד מטץ, שהזכרנו קודם, הספר הזה מחזיר אותו לחיים. הנה, בשבעה ביולי 1958, כמה גברים התאספו סביב מכונה בתוך משרדי לשכת מזג האוויר של ארה"ב בוושינגטון הבירה, כחמישה עשר רחובות ממערב לבית הלבן.

רחב כמו מקרר מטבח, עמוק פי שניים וקצת גבוה, המכונה הייתה רק חלק אחד ממחשב Mainframe שהתפרס על פני החדר כמו סט רהיטים מרובי חלקים. הוא היה עטוף בפלסטיק כסוף המשקף את האור מלמעלה, והפאנל הקדמי החזיק שורה אחר שורה של נורות עגולות קטנות, כפתורים מרובעים אדומים ומתגי פלסטיק עבים, חלקם לבנים וחלקם אפורים.

בדרך כלל, המכונה הזאת שמחירה שני מיליון דולר עשתה חישובים של מזג האוויר, חישובים עבור האחראי על תחזית מזג האוויר הלאומית, אבל ביום הזה היא הושאלה לצי אמריקני ולפרופסור בן 29 מאוניברסיטת קורנל בשם, אתם כבר יודעים, פרנק רוזנבלט.

כשכתב העיתון "ניו יורק טיימס" הסתכל, הזינו רוזנבלט ועמיתיו בחיל הים שני כרטיסים לבנים למכונה. אחד מסומן בריבוע קטן משמאל, השני מסומן בריבוע קטן מימין. בתחילה, המכונה לא יכלה להבדיל ביניהם, אבל לאחר שקרא עוד 50 כרטיסים זה השתנה. מעט מעט בכל פעם, אבל לבסוף, כמעט בכל פעם, המחשב זיהה נכון היכן הכרטיס סומן, שמאל או ימין. וכפי שרוזנבלט הסביר זאת, המכונה למדה את המיומנות הזאת בעצמה, הודות למערכת מתמטית שעוצבה על פי המוח האנושי. הוא קרא לזה פרספטרון, כבר הזכרנו את הפרספטרון.

בעתיד, אמר, מערכת זו תלמד לזהות אותיות מודפסות, תלמד לזהות מילים בכתב יד, פקודות מדוברות, ואפילו פרצופים של אנשים לפני שתקרא בשמותיהם. היא תתרגם שפה אחת לאחרת ובתאוריה, הוא הוסיף, היא תוכל לשכפל את עצמה על פס ייצור, לחקור כוכבי לכת מרוחקים, ולחצות את הקו מחישוב לחוש.

זוכרים מה השנה? 1958.

"חיל הים…", זה ציטוט של כותרת מהעיתון, "חיל הים חשף היום, עובר של מחשב אלקטרוני, שהוא מצפה שיוכל ללכת, לדבר, לראות, לכתוב, לשכפל את עצמו, ולהיות מודע לקיומו". כך נכתב בכתבה, שהופיעה למחרת בבוקר בעיתון ניו יורק טיימס.

במאמר שני במהדורת יום ראשון נאמר, כי פקידי חיל הים היססו לקרוא לזה מכונה, כי היא כל כך דומה לבן אדם ללא חיים. רוזנבלט… רוזנבלט התרעם על האופן שבו העיתונות הפופולרית סיקרה את האירוע, במיוחד הרגיזה אותו כותרת באוקלהומה. הכותרת אמרה: "מפלצת פרנקנשטיין חושבת עוצבה על ידי הצי". זאת הכותרת.

בשנים מאוחרות יותר, בין עמיתיו ובכתביו שפורסמו, רוזנבלט תיאר את הפרויקט במונחים מדודים יותר. הוא התעקש שזה לא ניסיון לייצר בינה מלאכותית, והוא הכיר במגבלותיה. ובכל זאת, הרעיון כבר חמק מאחיזתו. רוזנבלט, זה עדיין מתוך הספר של מטץ, רוזנבלט, ראה בפרויקט צוהר לפעולה פנימית של המוח.

אם הוא יכול ליצור מחדש את המוח כמכונה, כך הוא האמין, הוא יוכל לברר את המסתורין של מה שהוא כינה "אינטליגנציה טבעית". בהסתמך על רעיונות שהוצעו תחילה על ידי שני חוקרים מאוניברסיטת שיקגו עשור קודם לכן, הפרספטרון ניתח אובייקטים וחיפש דפוסים שיכולים לזהות את האובייקטים הללו. לדוגמה, האם לכרטיס יש סימן בצד שמאל או בצד ימין?

הוא עשה זאת באמצעות סדרה של חישובים מתמטיים שפעלו, במובן רחב מאוד, כמו רשת הנוירונים במוח. כשהפרספטרון בחן וניסה לזהות כל אובייקט, הוא טעה בחלק וצדק בחלק אחר, אבל עם הזמן הוא למד מהטעויות והתאים באופן שיטתי כל אחד מהחישובים המתמטיים שלו, עד שהטעויות נעשו מעטות.

בדומה לנוירון במוח, כל חישוב היה כמעט חסר משמעות בפני עצמו, רק קלט עבור אלגוריתם גדול יותר. אבל האלגוריתם הגדול יותר, סוג של מתכון מתמטי, באמת יכול לעשות משהו מועיל. עד כאן הספר של מטץ. סוף ציטוט.

משהו מועיל, גם משהו מועיל וגם משהו פחות מועיל. אנחנו עוסקים באתגר של הבינה המלאכותית, אבל מה בדיוק האתגר הזה? אני מודה שכאן מתחייבת התלבטות, והתלבטתי. האם צריך להסביר ביתר פירוט מהי בכלל בינה מלאכותית? לטובת מי שמאזינים לנו, ואולי לא לגמרי יודעים במה מדובר?

או שאולי צריך להניח שמי שמאזינים לנו, סקרנים וסקרניות, כבר יודעים מהי בינה מלאכותית, ואם נסביר את זה, אם נסביר את הבסיס, זה יהיה קצת משעמם או קצת מיותר.

קשה להכריע בהתלבטות הזאת, החלטתי לנסות בקיצור. רק כדי לוודא שאנחנו מדברים על אותו דבר.

קבוצה של אקדמיים טבעה את המונח בינה מלאכותית בסוף שנות החמישים של המאה העשרים. כמו שאמרנו, בקושי כמה דקות במושגים היסטוריים, או כמה שניות, עשיריות שנייה במושגים אבולוציוניים. הם רצו לבנות מכונה שתוכל לעשות כל דבר שהמוח האנושי יודע לעשות, כמו חשיבה, פתרון בעיות, לימוד משימות חדשות, תקשורת באמצעות שפה, כל הדברים האלה.

כמובן, כל זה עוד לא קרה. כלומר, לא כל זה כבר קרה. אבל יש מי שסבורים שזה מתקרב די מהר, ואולי אפילו מהר מאוד.

ממתי זה מתקרב?

אם חוזרים להיסטוריה הקצרה של התהליך הזה, ההתקדמות הייתה די איטית עד לפני קצת יותר מעשור, כאשר החלה להאיץ באמצעות המכשיר שנקרא "רשת עצבית". הרשת הזאת, רשת מלאכותית, היא מערכת מתמטית שלומדת מיומנויות באמצעות חיפוש ומציאת דפוסים סטטיסטיים בנתונים. הרבה מאוד נתונים, מה שנקרא נתוני-עתק.

לדוגמה, המערכת מוזנת במאות אלפי תמונות של, נניח, ציפורי שיר, וכך היא לומדת לזהות ציפורי שיר. רשתות עצביות הן שמאפשרות גם לסייענים קוליים כמו סירי להבין אותנו. המילה 'להבין' היא כמובן מילה טעונה שעוד נדבר עליה בהמשך, אבל 'להבין' במובן של להיות מסוגלים להגיב בצורה עניינית.

אנחנו מבקשים מסירי למצוא לנו שיר, וסירי מוצא לנו את השיר הנכון. איך הוא יודע למצוא? רשת עצבית, זאת התשובה.

אחרי הרשת העצבית באה הקפיצה הגדולה הבאה, LLM, Large Language Models. זה השינוי הגדול הבא, מודלים גדולים של שפה. זה די מוזר וגם קצת מפתיע, אבל המודלים האלה היו קפיצה דרך גדולה מאוד, למרות שמה שהם עושים נשמע לאוזן כמעט מטומטם. באמצעות ניתוח של כמויות עצומות של טקסט, כל מה שנותנים להם לקרוא באינטרנט, באמצעות ניתוח של הטקסט הזה, הם חוזים את המילה הבאה ברצף של מילים.

כלומר, הם יודעים להבחין שבהקשר מסוים אחרי המילה 'שנה' תבוא המילה 'טובה', או שאחרי המילה 'אחרי' תבוא המילה 'החגים', כי אנחנו אחרי החגים. זהו, זה כל מה שהם יודעים.

הדבר הזה אחראי להרבה מאוד ממה שאתם שומעים כרגע על בינה מלאכותית. אם השתעשעתם במכשירים החדשים שמדובר בהם לא מעט, כמו Chat GPT, זה מה שהם יודעים לעשות. לרוב המודלים הגדולים של שפה יש את אותה פונקציה בסיסית. בהינתן רצף מסוים של טקסט, הם יודעים לנחש מה אמור לבוא אחר כך.

ואם מאמנים אותם מספיק זמן על מספיק טקסט, או על תמונות, או על מה שזה לא יהיה, הם הולכים ומשתפרים.

ובאופן מפתיע, הם גם מפתחים עם הזמן מיומנויות שהחוקרים לא ציפו מהם לפתח. כמו כתיבת קוד. כתיבת קוד של מחשב. כתיבת קוד של תוכנה. שמעתי על חוגים למדעי המחשב, שנאבקים עכשיו בשאלה איך לתת שיעורי בית לסטודנטים. פעם היו מבקשים מהם לכתוב קוד שיעשה משהו. פעם, כלומר, בשנה שעברה. אבל עכשיו כבר אין טעם לבקש, כי הסטודנטים פשוט יבקשו מהמכונה, והיא תכתוב להם את הקוד. זה סיפור אמיתי.

סיפור אמיתי מהעולם האמיתי, למי שנדמה שהדיבורים על מהפכה, הם רק בדמיון הפרוע של כותבי מדע בדיוני, לא. המהפכה כבר ממש כאן. טוב, אבל איך הגענו מבעיה במתן שיעורי בית לאתגר החשוב והמפחיד ביותר שהאנושות התמודדה איתו אי פעם?

בספר "Life 3.0", החיים 3.0, של מקס טגמרק, ואני כבר מתנצל, אם לא התנצלתי, ואולי הייתי צריך להתנצל קודם. כמעט כל מה שנצטט ממנו היום לא קיים בעברית. הספרים והרעיונות שנוגעים לבינה מלאכותית נכתבים רובם ככולם באנגלית, וכך גם "Life 3.0" של מקס טגמרק.

בכל מקרה, הספר שלו מתאר את המהפכה שמתרגשת עלינו, בהתייחס לשתי מהפכות קודמות. מהפכות שנוגעות לעצם השאלה: מה הם בני האדם ביחס לשאר החיים על כדור הארץ?

הגבולות בין שלושת שלבי החיים, הגבולות האלה, הוא כותב, מעט מטושטשים. אם חיידקים הם Life 1.0, חיים בדרגה אחת, ובני אדם הם Life 2.0, חיים בדרגה שתיים, אז אפשר לסווג עכברים כ-1.1. הם, העכברים, יכולים ללמוד הרבה דברים, אבל לא מספיק כדי לפתח שפה או להמציא את האינטרנט. כלומר, הם יותר מחיידקים, אבל הם פחות מבני אדם. יתרה מכך, בגלל שחסרה להם שפה, לעכברים, מה שהם לומדים הולך לאיבוד במידה רבה כשהם מתים ולא מועבר לדור הבא. אנחנו לא מכירים עכברים שכותבים ספרים או משאירים אחריהם צילומים בוידאו.

אז חיידקים הם 1.0, עכברים 1.1, בני אדם 2.0. עד כאן זה נראה לי די ברור.

באופן דומה, כך הוא ממשיך, אפשר לטעון שבני האדם של היום, כלומר של המאה ה-21, צריכים להיחשב כ-Life 2.1.

2.1, כלומר, אנחנו כבני אדם כבר עשינו התקדמות מגרסה 2.0 לגרסה קצת משודרגת. למה? הנה, הנה הוא מסביר. כי אנחנו יכולים לבצע שדרוגי חומרה קלים, כמו השתלת שיניים מלאכותיות, או ברכיים וקוצבי לב. אבל אנחנו עוד לא יכולים לעשות שום דבר דרמטי כמו שיכלול פי עשרה, או רכישת מוח גדול פי אלף. לסיכום, אנחנו יכולים לחלק את התפתחות החיים לשלושה שלבים. אלה שלבים המובחנים ביכולתם של החיים לעצב את עצמם.

Life 1.0, השלב הביולוגי, מפתח את החומרה והתוכנה שלו, זה החיידק.

Life 2.0, שלב תרבותי, מפתח את החומרה שלו ומעצב חלק גדול מהתוכנה שלו. זה בני האדם של פעם.

Life 3.0, שלב טכנולוגי, מעצב את החומרה והתוכנה שלו. אלה בני האדם של העתיד.

לאחר 13.8 מיליארד שנים של אבולוציה קוסמית, הפיתוח הואץ באופן דרמטי כאן על כדור הארץ. זה כותב טגמרק.

Life 1.0, החלו לפני כארבעה מיליארד שנים.

Life 2.0, אנחנו בני האדם, החלו לפני כמאה אלף שנים.

וחוקרי בינה מלאכותית רבים חושבים ש-Life 3.0, החיים, שלוש נקודה אפס, עשויים להתחיל במהלך המאה הקרובה ואולי אפילו במהלך חיינו, תלוי כמה אתם צעירים.

מה יהיו החיים 3.0? כנראה שהם לא יהיו אנחנו. כנראה שהם יהיו משהו אחר.

הנה פסקה ידועה, פסקה מוכרת, לקחתי אותה מהספר של בולסטרום, אבל היא מופיעה בהרבה מאוד ספרים על בינה מלאכותית. זה ציטוט מ-1965 של המתמטיקאי איי-ג'יי גוד. הוא היה סטטיסטיקאי ראשי בצוות שוברי הקוד של אלן טיורינג במלחמת העולם השנייה.

אולי אתם מכירים את הסיפור על שוברי הקוד, לא נתעכב עליו כאן. בכל מקרה, כך כותב המתמטיקאי גוד: "נגדיר מכונה אולטרה אינטליגנטית כמכונה שיכולה לעלות בהרבה על כל הפעילויות האינטלקטואליות של כל אדם חכם ככל שיהיה. מכיוון שתכנון מכונות הוא אחת מהפעילויות האינטלקטואליות הללו, מכונה אולטרה אינטליגנטית יכולה לתכנן מכונות טובות עוד יותר".

"כאשר זה יקרה, יהיה ללא ספק פיצוץ של אינטליגנציה, והאינטליגנציה של האדם תישאר הרחק מאחור. לפיכך, המכונה האולטרה אינטליגנטית הראשונה היא ההמצאה האחרונה שהאדם יצטרך להמציא אי פעם, בתנאי שהמכונה תהיה צייתנית מספיק כדי לומר לנו איך לשמור עליה תחת שליטה".

שמתם לב?

בוסטרום כתב "האתגר האחרון שאי פעם נתמודד איתו". גוד כתב "ההמצאה האחרונה שהאדם יצטרך להמציא אי פעם". כלומר, סופניות, זה שם המשחק. איום על האנושות כולה. כמו שסבור אילון מאסק, המייסד של טסלה ושל ספייס איקס, מהפכן טכנולוגי.

הנה, יש לנו הזדמנות לצטט מספר שכן יצא בעברית, ספר מאת וולטר אייזקסון, ביוגרפיה של אילון מאסק, איש עם יכולות מרשימות ועם אגו גדול, וגם עם משימה דחופה, להציל את המין האנושי. זה בעצם הדבר הכי משונה שעולה מהספר על מאסק. חוץ מכל הרכילויות והרשעויות והקטטות, זה כנראה באמת בן אדם שחושב שהוא, במוי ידיו ומוחו, אמור להציל את האנושות מהכחדה.

הנה, זה מה שאייזקסון מספר עליו. אני קורא מתוך הספר בעברית בתרגום של תום קלנר, ספר שיצא בהוצאת מטר ובהוצאת כנרת זמורה. הנה: "מהפכות טכנולוגיות אינן מתחילות בדרך כלל בתרועה גדולה. איש לא התעורר בוקר אחד ב-1760 וצעק, 'או מיי גוד, המהפכה התעשייתית התחילה'. אפילו המהפכה הדיגיטלית התגלגלה לה שנים רבות ברקע, עם חובבים שמרכיבים יחד מחשבים אישיים כדי להציג אותם ממפגשי גיקים, דוגמת ה-Homebrew Computer Club, לפני שאנשים הבחינו שהעולם עובר שינוי יסודי".

אבל, מהפכת הבינה המלאכותית הייתה אחרת.

בתוך שבועות אחדים, באביב 2023, מיליוני בקיאים טכנולוגית, ואז אנשים רגילים, הבחינו בשינוי שמתחולל במהירות שיא, ואשר עתיד להשפיע על טבען של העבודה, הלמידה, היצירתיות ומטלות היומיום. במשך עשור, מאסק, אילון מאסק, הוטרד מהאפשרות שיום אחד בינה מלאכותית תצא מכלל שליטה, תפתח תודעה עצמאית, אם אפשר לומר כך, ותאיים על האנושות כולה.

כשהמייסד השותף של גוגל, לארי פייג', ביטל את החששות שלו ואמר שהוא לוקה ב-"מינאוּת", משום שהוא מעדיף את המין האנושי על פני צורות שונות של בינה, הוא הרס את החברות בין השניים. מאסק ניסה למנוע מפייג' ומגוגל לרכוש את Deepmind, החברה שהוקמה על ידי חלוץ הבינה המלאכותית, דמיס הסביס, וכאשר כשל בכך, הוא חבר אל סם אלטמן והקים איתו ב-2015 מעבדה מתחרה ללא מטרות רווח בשם "OpenAI".

"אחד המוצרים שפיתחה OpenAI", ואני מדלג טיפה בספר, "היה בוט שנקרא Chat GPT, שאומן באמצעות מערכי נתוני אינטרנט גדולים לענות על שאלות של משתמשים. כשאלטמן והצוות שלו הראו גרסה מוקדמת שלו לביל גייטס ביוני 2022, הוא אמר שהוא לא יהיה מעוניין בבוט עד שזה יוכל לעשות משהו כמו להצליח בבחינת בגרות בביולוגיה".

"חשבתי", זה גייטס, "חשבתי שזה יגרום להם להיעלם לשנתיים שלוש", אומר גייטס.

תחת זאת, הם חזרו אחרי שלושה חודשים. אלטמן, יחד עם מנכ"ל מיקרוסופט וכמה אחרים, הגיעו לארוחת ערב בביתו של גייטס כדי להראות את הגרסה החדשה שנקראה GPT 4.

גייטס הפציץ את הצ'אט בוט בשאלות בביולוגיה. "זה היה לא ייאמן", אומר גייטס ואז הוא שאל מה הוא היה אומר לאבא לילד חולה. ציטוט: "הוא נתן תשובה זהירה שהייתה אולי יותר טובה מכל מה שאחד מאיתנו בחדר היה יכול לתת". סוף ציטוט של גייטס.

במרץ 2023 שחררה OpenAI את Chat GPT 4, וגוגל שחררה צ'אטבוט מתחרה בשם 'בארד'. העולם נערך אפוא לתחרות בין OpenAI מיקרוסופט, ל-Deepmind גוגל, בייצור מוצרים שיוכלו לשוחח עם בני אדם באופן טבעי, ולבצע אינסוף מטלות אינטלקטואליות מבוססות טקסט.

מאסק חשש שהצ'אטבוטים ומערכות הבינה המלאכותית האלה, במיוחד כשהן מצויות בידי גוגל ומיקרוסופט, יעברו אינדוקטרינציה פוליטית, ואולי אפילו ידבקו במה שהוא כינה "וירוס המוח המואר".

"הוא חשש גם שמערכות בינה מלאכותית בעלות יכולת למידה עצמית, עלולות לפתח עוינות כלפי המין האנושי, וברמה המידית יותר הוא חשש שהצ'אטבוטים עלולים להיות מאומנים להציף את טוויטר במידע מוטעה, דיווחים מוטעים, והונאות כלכליות".

"כל הדברים האלה כבר נעשו, כמובן, על ידי בני אדם, אבל היכולת להפעיל אלפי צ'אטבוטים שמשמשים נשק, תהפוך את הבעיה לגרועה פי שניים או שלושה. הדחף הכפייתי שלו, שלו, כלומר של אילון מאסק, הדחף הכפייתי שלו להציל את המצב, התעורר". הדחף התעורר, ועכשיו נדלג עוד קצת, עוד עמוד בסך הכל, אנחנו מדלגים הלאה בספר "אילון מאסק" מאת וולטר אייזקסון.

"מה אפשר לעשות כדי שבינה מלאכותית תהיה בטוחה?" שאל מאסק.

"אני כל הזמן חושב על זה".

"אילו פעולות אפשר לנקוט כדי לצמצם את סכנת הבינה המלאכותית ולהבטיח שהתודעה האנושית תשרוד?" הוא ישב בשיכול רגליים לצד הבריכה בביתה באוסטין של שיבון זיליס, המנהלת בנוירולינק שהייתה גם אימם של שניים מילדיו, ובת הלוויה האינטלקטואלית שלו בנושא בינה מלאכותית, מאז ייסד את OpenAI שמונה שנים קודם לכן".

"התאומים שלהם, סטרידר ואזורֶה, היו עכשיו בני 16 חודשים וישבו על ברכיהם. מאסק עדיין תיחזק את דיאטת הצום לסירוגין שלו, ולארוחת בוקר מאוחרת הוא אכל דונאטס שאותם התחיל לאכול באופן קבוע. זיליס הכינה קפה ואז הכניסה את שלו במיקרוגל כדי שירתח והוא לא יגמע אותו מהר מדי".

"שבוע קודם לכן מאסק כתב לי…", לי, לא לשמואל, ל… וולטר אייזקסון, הכותב של הספר.

"שבוע קודם לכן מאסק כתב לי: יש כמה דברים חשובים שהייתי רוצה לדבר איתך עליהם, אפשר לעשות את זה רק פנים אל פנים. כששאלתי איפה ומתי הוא רוצה להיפגש הוא ענה: אידו של מרס באוסטין".

"אידו של מרס, כלומר, ב-15 במארס. הייתי מבולבל, כותב אייזקסון ולמען האמת גם קצת מודאג. האם אני צריך להיזהר? עד מהרה התברר שהוא רוצה לדבר על נושאים שאיתם הוא יתמודד בעתיד, והראשון שהעסיק אותו היה בינה מלאכותית".

"היינו חייבים להשאיר את הטלפונים בבית בזמן שישבנו בחוץ כי, כך הוא אמר, מישהו עלול להשתמש בהם כדי לעקוב אחרי השיחה. אבל בהמשך הוא הסכים שאשתמש במה שהוא אמר על בינה מלאכותית גם בספר".

"הוא דיבר בטון חדגוני ושקט שנוקד בפרצי צחוק כמעט מאני. כמות האינטליגנציה האנושית במגמת ירידה, הוא ציין, כי אנשים לא יולדים מספיק ילדים. לעומת זאת כמות האינטליגנציה של המחשבים צומחת בקצב אקספוננציאלי, כמו חוק מור על סטרואידים. בשלב מסוים", זה מאסק אומר, "כוח המחשבה הדיגיטלי יעלה על זה הביולוגי."

"בנוסף, מערכות הבינה המלאכותית יוכלו בעתיד לעכל מידע בכוחות עצמן וללמד את עצמן איך לחולל דברים, ואפילו לעדכן את הקוד והיכולות של עצמן. המונח 'סינגולריות' שימש את המתמטיקאי ג'ון פון נוימן כדי לתאר את הרגע שבו בינה מלאכותית תוכל לפלס דרך בכוחות עצמה ובקצב מסחרר, ותשאיר את בני האדם מאחור".

"זה יכול לקרות מוקדם משציפינו, אמר מאסק בטון מבשר רעות. לרגע", כותב אייזקסון, "לרגע נדהמתי מהמוזרות של הסצנה הזאת. ישבנו בחצר פרברית על שפת בריכת שחייה רוגעת ביום אביב שמשי, עם תאומים ערניים שלומדים לדדות, בשעה שמאסק הרהר בעצב בחלון ההזדמנויות לבניית מושבה אנושית על המאדים, לפני שאפוקליפסת בינה מלאכותית תהרוס את הציביליזציה הארצית".

"זה הזכיר לי את דבריו של סם טלר על יום העבודה השני שלו אצל מאסק שבמהלכו השתתף בישיבת מועצת המנהלים של ספייס אקס. הם ישבו שם", זה ציטוט של טלר, "הם ישבו שם ודנו ברצינות גמורה בתוכניות לבנות עיר על מאדים ומה אנשים ילבשו שם, וכולם התנהגו כאילו זו שיחה נורמלית לגמרי." סוף ציטוט.

"מאסק צלל אל תוך אחת השתיקות הארוכות שלו. התחלתי לדבר, אבל הוא ידע מה אני עומד לומר, אז במה כדאי שאשקיע את הזמן שלי?"

"הוא אמר: "לדאוג שסטאר-שיפ תשוגר, להגיע למאדים הרבה יותר דחוף עכשיו". הוא עצר שוב ואז הוסיף: "וגם אני צריך להתמקד בהפיכת בינה מלאכותית לבטוחה, לכן אני מקים חברת בינה מלאכותית".

עד כאן מתוך "אילון מאסק", מאת וולטר אייזקסון.

אני נהניתי מאוד מהספר הזה. אגב, זה ויכוח מעניין, הוויכוח בין מאסק לבין פייג' - חדשנות מול מינאות. זה ויכוח שמעלה את השאלה שמותר לשאול, למה בעצם כל כך חשוב שיהיו בני אדם? או לשאול אחרת, ומה אם מכונות יחליפו אותנו כשליטי כדור הארץ, כפי שאנחנו החלפנו כמה יונקים גדולים שהחליפו את הדינוזאורים וכן הלאה? אז יבואו המכונות ויחליפו אותנו.

ולפני שיחליפו אותנו כשליטים, מה אם יחליפו אותנו כמתקשרים? כמתקשרים, נניח, עם בעלי חיים. הנה דוגמה, אני יודע זו סטייה קלה מהנושא העיקרי, אבל זו דוגמה מרתקת שממחישה היטב את הכוח של בינה מלאכותית לעשות דברים שבני אדם לא יכולים לעשות, כמו לדבר עם בעלי חיים.

האם בינה מלאכותית תדע לעשות זאת?

כמה מההתפתחויות המעניינות ביותר במחקר הבינה המלאכותית באות עכשיו מהכיוון הזה. ניסיונות לעשות באמצעותה את מה שאנחנו, בני אדם חוץ מדוקטור דוליטל, מה שאנחנו בני אדם, לא יכולים לעשות. מעבר ליצירת צ'אט בוטים שמחזרים אחרי אנשים וליצור אומנות שזוכה בתחרויות אומנויות יפות, למידת מכונה עשויה בקרוב לאפשר לנו לפענח דברים כמו קריאות של עורבים.

מי אומר? אומר אזה רסקין. הוא אחד המייסדים של פרויקט בשם "Earth Species", פרויקט ללא מטרות רווח. זה צוות של מדעני בינה מלאכותית, ביולוגים ומומחי שימור, שאוסף מגוון רחב של נתונים ממגוון מינים של בעלי חיים, ובונה מודלים של למידת מכונה כדי לנתח אותם. יש עוד קבוצות שממוקדות במינים אחרים של בעלי חיים, לא דווקא עורבים, ועל הקבוצות האלה נכתבה סקירה רחבה במגזין "Scientific American" ממש לא מזמן.

רסקין משווה את המהפכה הקרובה להמצאת הטלסקופ. הנה ציטוט שלו: "הסתכלנו על היקום וגילינו שאנחנו לא במרכז. זה הטלסקופ. להבנה המשופרת שלנו את בעלי החיים תהיה השפעה דומה. הכלים האלה ישנו את הדרך שבה אנו רואים את עצמנו ביחס לכל דבר".

בינה מלאכותית מסייעת גם היום לתרגם שפה לשפה אחרת. אם השתמשתם אי פעם, ובטח השתמשתם, בגוגל טרנסלייט, זה מה שהמכונה עושה. ב-2017 היו שתי קבוצות מחקר שגילו דרך לתרגם בין שפות אנושיות. זה גילוי שמתבסס על תרגום של היחסים הסמנטיים בין מילים ליחסים גיאומטרים.

בעצם זה מה שהסברנו קודם.

המכונה לומדת איזו מילה באה אחרי איזו מילה, באיזה הקשר ובאיזה משפט. במדויק את מה שיבוא אחר כך. בערך לפני שלוש שנים נעשתה עוד קפיצה. המכונות למדו להתייחס לכל דבר כאל שפה. לדוגמה, זה מה שעושות מערכות הבינה המלאכותית, שיודעות ליצור תמונות אחרי שהן מקבלות הנחיות מילוליות. הן ממפות את הצורות שמייצרות טקסט לצורות שמייצגות תמונות. ומה שטוב לשפת בני אדם ולתמונות, טוב גם לשפת החיות, או כך לפחות החוקרים מקווים.

דמיינו את ה-Chat GPT שמשוחח עם הדגים באקווריום שלכם, ומסביר לכם אם לדגים קר או חם, או שהם רעבים, או אולי אפילו שהם דגים עצובים. מודלים של לימוד מכונה, זה מתוך הכתבה בסיינטיפיק אמריקן, מודלים של לימוד מכונה יכולים יום אחד לעזור לנו להבין גם את חיות המחמד שלנו.

במשך זמן רב, מומחי התנהגות של בעלי חיים לא הקדישו תשומת לב רבה לחיות מחמד ביתיות, אומר קון סלובודצ'יקוב, אני מקווה שאני לא שוחט את השם שלו, הוא מחבר של ספר שנקרא "Chasing Dr Doolittle - Learning the Language of Animals". ללמוד את השפות של חיות.

כשהחל את הקריירה שלו, הקון הזה, שלא אומר שוב את שם המשפחה שלו, כשהחל את הקריירה שלו בחקר כלבי ערבה, הוא רכש במהירות הערכה לקריאות המתוחכמות שלהם, שיכולות לתאר את גודלם וצורתם של טורפים.

הניסיון הזה עזר לו לשפר את עבודתו המאוחרת, כיועץ התנהגותי לבעלי כלבים, הוא גילה שרבים מהלקוחות שלו לא הבינו מה שהכלב מנסה לתקשר להם. כאשר חיות מחמד מנסות לתקשר איתנו, הן משתמשות לעתים קרובות באותות מולטימודליים. בכמה דברים ביחד, כמו נביחה יחד עם כשכוש בזנב. עם זאת, הוא אומר, אנחנו כל כך מקובעים בכך שסאונד הוא המרכיב התקף היחיד בתקשורת, שאנחנו מפספסים רבים מהסממנים האחרים.

כעת הוא מפתח מודל בינה מלאכותית, שמטרתה לתרגם את הבעות הפנים והנביחות של כלב לבעלים שלו. אין לו ספק שככל שהחוקרים מרחיבים את מחקריהם לבעלי חיים ביתיים, ההתקדמות בלמידת המכונה תחשוף יכולות מפתיעות בחיות מחמד. כל חיות המחמד, לא רק כלבים. לבעלי חיים, הוא אומר, יש מחשבות, תקוות, אולי גם חלומות משלהם.

גם חיות חקלאיות יכולות להפיק תועלת מעומק כזה של הבנה. אלודי בריפר, פרופסור חבר להתנהגות בעלי חיים באוניברסיטת קופנהגן, הראתה שאפשר להאריך את המצבים הרגשיים של בעלי חיים על סמך הקול שלהם. לאחרונה היא יצרה אלגוריתם מאומן על אלפי צלילים של חזירים, שמשתמש בלמידת מכונה כדי לחזות אם החיות חוו רגש חיובי או רגש שלילי. בריפר אומרת שההבנה טובה יותר של האופן שבו בעלי חיים חווים רגשות, יכולה לעודד מאמצים לשפר את רווחתם.

אגב, ואם כבר, למה רק חיות מחמד? מה עם תינוק בן חודשיים? מה אם מתברר שהבינה המלאכותית היא אמא הרבה יותר טובה, כי היא יודעת לתרגם את הבכי של התינוק, הבכי הספציפי שהוא בוכה עכשיו, התינוק שלכם. היא יודעת איך לתרגם את הבכי של התינוק שלכם, ולא צריכה להתלבט אם הוא רעב, או אם כואבת לו הבטן, או אם צומחת לו שן, היא פשוט יודעת.

זה שדה מוקשים עם תינוקות, ואמהות, ואבות ובעלי חיים ורגשות. עוד רגע נייחס לחתולים שלנו מחשבות ממש ותודעה ממש, ולכו תדעו לאן זה יוביל. כן, אני רואה את הצמחונים בקהל כבר מרימים ראש, אבל מה אם הבינה המלאכותית תגלה, אחרי שתבחן הרבה מאוד טונות של גזר, שגם לגזר יש שפה שאנחנו פשוט לא מבינים? ומה אם נתחיל לייחס רגשות ותודעה גם למכונות עצמן, למכונות שלנו?

יש כבר ספרים וסרטים כאלה על המחשב שמתאהב, אתם בטח מכירים אותם. ובעצם למה שלא נייחס לבינה מלאכותית תכונות כאלה? הנה, חיזרו ליובל נח הררי ב-"21 מחשבות על המאה ה-21", וזה מה שהוא אומר:

"למיטב ידיעתנו…", אני קורא מתוך הספר, עמוד 78. "למיטב ידיעתנו, אין שום חוק טבע שימנע ממחשבים לפתח רגשות אי פעם. אולי זה אפשרי בתנאים מסוימים. אנחנו פשוט לא יודעים מספיק על התודעה כדי להיות בטוחים, וישנן שלוש אפשרויות עיקריות להעריך את שאלת התודעה הממוחשבת".

"אחת, אפשרות ראשונה, התודעה קשורה באופן כלשהו בביוכימיה אורגנית, ולכן מערכות לא אורגניות לעולם לא יוכלו להיות מודעות".

"שתיים, התודעה לא קשורה בהכרח בביוכימיה אורגנית, אבל היא כן קשורה לאינטליגנציה גבוהה, ולכן לא זו בלבד שמחשבים יוכלו יום אחד לפתח תודעה, אלא הם יוכרחו לפתח תודעה כדי לעבור סף מסוים של אינטליגנציה".

"שלוש, אפשרות שלישית, אין שום קשר הכרחי בין תודעה לבין ביוכימיה אורגנית או אינטליגנציה גבוהה, לכן מחשבים עשויים יום אחד לפתח תודעה, אבל זה לא ודאי. ייתכן גם שבעולם ישלטו מחשבים סופר אינטליגנטים ולגמרי לא מודעים".

"נכון להיום", כותב יובל נח הררי, "אנחנו יודעים כל כך מעט על התודעה שאיננו יכולים לפסול אף אחת משלוש האפשרויות הללו, אך בדיוק משום כך לא סביר שנוכל לתכנת בקרוב מחשבים מודעים".

"בעתיד הנראה לעין", כך הוא כותב, וזה כבר לפני כמה שנים, "בעתיד הנראה לעין, למרות העוצמה האדירה של הבינה המלאכותית, התודעה האנושית תהיה זו שתחליט איך להשתמש בכלי הזה. הסכנה היא", הוא כותב,"שאם נשקיע יותר מדי בבינה מלאכותית ופחות מדי בתודעה האנושית, הבינה המלאכותית בסך הכל תעצים את טיפשותם הטבעית של בני האדם".

"בעשורים הקרובים לא נצטרך להתמודד עם מרד של רובוטים מרושעים, אבל כן נצטרך להתמודד עם צבא של בוטים ואלגוריתמים שיודעים איך ללחוץ על הכפתורים הרגשיים שלנו טוב יותר מאימא שלנו, ומשתמשים ביכולת המפחידה הזאת כדי לנסות למכור לנו משהו. מכונית, פוליטיקאי או אידיאולוגיה שלמה, הבוטים יוכלו לזהות את הפחדים, השנאות והתאוות העמוקים ביותר שלנו ולהשתמש במנופים האלה נגדנו".

עד כאן מתוך "21 מחשבות על המאה ה-21". התלבטתי כמה להיכנס בשיחה הזאת לשאלות על תודעה. זו בעצם כניסה לנושא חדש שמצדיק פרק נרחב ונפרד. יש עוד דיון סוער על השאלה מהי תודעה, ובהתאם גם על השאלה האם ועד כמה בינה מלאכותית תוכל להגיע למצב שאנו מכנים תודעה. לא בטוח שזה חשוב, אגב.

כלומר, יכול להיות שהמכונה תוכל להתקיים ולתפקד גם בלי הדבר שאנחנו מכנים תודעה, ובכל מקרה, חוקרים רבים מניחים שמתישהו אפשר יהיה לייצר מוחות לא ביולוגיים שדומים בהרבה מאוד תכונות משמעותיות למוחות אנושיים, וכמובן, במקרים רבים גם עולים עליהם.

בספר הקלאסי שלו, "הסינגולריות מתקרבת", זה ספר שנכתב כבר לפני עשרים שנה, ומצד אחד הקדים את זמנו, כי חלק ממה שיבטיח מהר עוד לא קרה, ומצד שני בעניינים אחרים חזה את זמננו, כי הנה, דברים קורים. בספר הזה, "הסינגולריות מתקרבת", ריי קורצווייל ההתייחס כבר למותר מוח האדם ממוח המכונה, והוא התייחס לזה בהרחבה.

נקרא פסקה וחצי: "במה שונה מוח האדם ממחשב? התשובה לשאלה זו תלויה בדברים שאנו מתכוונים עליהם כשאנו מדברים על מחשב. רוב המחשבים כיום", כאמור הוא כתב לפני יותר מ-20 שנה, "רוב המחשבים היום הם ספרתיים לחלוטין ומבצעים חישוב אחד בכל פעם, או אחדים לכל היותר, במהירות גבוהה מאוד".

"לעומת זאת, מוח האדם משלב שיטות ספרתיות ואנלוגיות, אך מבצע את רוב חישוביו בתחום האנלוגי הרציף, באמצעות מוליכים עצביים ומנגנונים דומים. אמנם תאי העצב האלה מבצעים חישובים במהירויות נמוכות מאוד, בדרך כלל 200 פעולות בשנייה, אבל המוח בכללותו הוא מקבילי במידה רבה מאוד. רוב תאי העצב שלו פועלים בעת ובעונה אחת, והתוצאה היא עד 100 ביליון חישובים המתנהלים בבת אחת".

"המקביליות הגבוהה של מוח האדם היא המפתח ליכולת שלו בזהוי תבניות, אחד מעמודי התווך של החשיבה האנושית. אצל היונקים, תאי העצב מבצעים מחול כאוטי, כלומר, הכולל פעולות גומלין רבות שהן אקראיות לכאורה, ואם תלמד הרשת העצבית את לקחיה היטב, תנבע ממנה תבנית יציבה המשקפת את החלטת הרשת. בהווה, העיצובים המקביליים למחשבים עדיין מוגבלים במקצת".

"אבל אין שום סיבה לכך", זה משפט המפתח, "אבל אין שום סיבה לכך שלא יהיה אפשר ליצור על סמך העקרונות האלה שחזורים לא ביולוגיים, שווי ערך מבחינה תפקודית של רשתות עצביות ביולוגיות. ואכן, עשרות מיזמים ברחבי העולם כבר הצליחו בכך". עד כאן מתוך "הסינגולריות מתקרבת". ספר קלאסי של ריי קורצווייל. תרגם לעברית, עמנואל לוטם.

ועכשיו נצא ממנהרת התודעה כדי לא להישאב אליה עמוק מדי, ונחזור למה שעסקנו בו, ואולי כדאי לחזור אפילו צעד לאחור ולהתחיל לעשות סדר, כי הדיון על בינה מלאכותית הוא דיון שמתערבבים בו תקוות וחששות ברבדים שונים.

נציע נוסחה של שלוש אפשרויות בסיסיות.

הבינה המלאכותית, זו אפשרות ראשונה. הבינה המלאכותית תעשה את החיים של בני האדם טובים יותר. נניח הבינה המלאכותית תהיה כמו אנטיביוטיקה.

אפשרות שנייה, הבינה המלאכותית תשדרג את חיי בני האדם למשהו שהוא מהותית אחר. נגיד, בני האדם שמצוידים בבינה מלאכותית לא יצטרכו לעבוד יותר. בכלל, בכלל לא יצטרכו לעבוד יותר.

אפשרות שלישית, הבינה המלאכותית תירש את בני האדם. כלומר, לא נהיה יותר, נתייתר, או שנהיה זן של בעל חיים שנדחק למעמד שולי של חיית מחמד או של חיית משק, או של חיית שדה, כמו פרה, כמו עכבר, כמו כלב.

שיפור, שדרוג, השמדה. אלה שלוש האפשרויות שמנינו. וכמובן, זה לא יהיה בבת אחת ולא בלי ערבוב, כי אין טוב בלי רע ובדרך כלל גם אין רע בלי טוב. כלומר, השאלה היא לא אם כמה אנשים יאבדו את מקום העבודה שלהם, אלא האם על פני זמן לרוב בני האדם יהיה טוב יותר, או שיהיה רע יותר, או שפשוט לא יהיו יותר בני האדם.

התקוות לחיים טובים יותר, זה הדבר הקל, הקל יחסית להסבר. הבינה המלאכותית תדע לזהות מחלות טוב יותר, היא תדע לפתח תרופות טוב יותר, היא תדע להסיע המונים למקום חפצם ביעילות, היא תדע לפתח המצאות שונות ומשונות שיעשו את חיינו טובים הרבה יותר, אולי ארוכים יותר, בריאים יותר, מפונקים יותר, משעשעים יותר.

גם זה, כמובן, יציב אתגרים, כי מה בדיוק יעשה בן אדם שכל צרכיו מסופקים על ידי מכונות? אבל נניח שנמצא מה לעשות, נניח שנמצא מה לעשות, אפשר לדמיין הרבה מאוד תועלת שתצא לנו מפיתוח הבינה המלאכותית. בגלל זה, כולם עובדים על זה.

החרדות הן יותר מורכבות. בין השאר כי החרדות מתייחסות למועדים שונים ולדרגות שונות של פיתוח. מאחורי כמעט כל העדויות, המניפסטים, הפוסטים והעצרות הפומביות, אלה שנוגעות ל-AI, מתחת לכל אלה יש קרבות בין פלגים שביניהם יש מחלוקות עמוקות. זה מתוך מאמר בניו יורק טיימס של ברוס סניידר ונתן סנדרס, שניהם מאוניברסיטת הרווארד.

הנה, כך הם כותבים:

"חלק, חלק מבני האדם שחתומים על כל הפוסטים והמניפסטים, חלק מודאגים מסיכונים עתידיים רחוקים שנשמעים כמו מדע בדיוני. חלק, חלק אחר, נבהלים מהבעיות המעשיות שצ'אט בוטים ומחוללי וידאו מזויפים יוצרים כרגע. חלק מונעים על ידי הכנסות עסקיות פוטנציאליות. אחרים מונעים על ידי דאגות של ביטחון לאומי".

"התוצאה היא", הם כותבים, "קקפוניה של שפה מקודדת, דעות סותרות ודרישות מדיניות פרובוקטיביות שמערערות את יכולתנו להתמודד עם טכנולוגיה שנועדה להניע את עתיד הפוליטיקה, הכלכלה שלנו ואפילו חיי היומיום שלנו". סוף ציטוט.

אז ננסה לעשות גם בזה קצת סדר.

המאמר של הפרופסורים מחלק את מודאגי ה-AI לשלוש קבוצות. הם קוראים להם אנשי יום הדין, אנשי הבעיות של היום, ואנשי הביטחון הלאומי. אלה דואגים מחורבן האנושות, אלה דואגים מערעור הדמוקרטיה והחברה, ואלה מודאגים מהאפשרות של פשע וטרור בקנה מידה מבהיל.

כלומר, יש שאלות של טווח קצר, שאלות של ענייני יום יום. מה יקרה למי שהבינה תייתר את המקצוע שלו? זאת הבעיה שדומה יותר לבעייתם של הלודיטים. הבעיה שכבר נגענו בה.

ומה עם כל הצרות שבינה מלאכותית כבר מחוללת? יובל נח הררי כתב גם על זה קצת, ב-"21 מחשבות על המאה ה-21". כבר התחלנו לקרוא את הפסקה הזאת, בואו נשלים אותה: "הבוטים יוכלו לזהות את הפחדים, השנאות והתאוות העמוקים ביותר שלנו, ולהשתמש במינופים האלה נגדנו". את המשפט הזה כבר קראנו.

"כבר קיבלנו טעימה ראשונה מזה בכמה מערכות בחירות בשנים האחרונות שבמהלכן, האקרים אספו מידע על מיליוני בוחרים, גילו מה כל אחד ואחת אוהבים ושונאים, והשתמשו במידע הזה כדי לתמרן אותם ולהטות את תוצאות הבחירות".

"המדע הבדיוני", הוא כותב, "נמשך אחר תסריטי אמה אפוקליפטיים של דם, אש ותמרות עשן. אבל במציאות, האפוקליפסה עלולה להיות בנאלית, והצליל שיבשר על סוף הציוויליזציה האנושית יהיה 'קליק, קליק, קליק'".

אז אלה שאלות, אלה שאלות של טווח קצר. מה עושים עם בעלי מקצועות זנוחים? או איך מרסנים השפעות חברתיות ופוליטיות מתסיסות? מעבר להן, מעבר לשאלות של הטווח הקצר, באות השאלות הטכניות הגדולות, השאלות הגדולות של מדיניות, ואלה של פילוסופיה ותסריטים של אפוקליפסה.

שאלות טכניות:

כמה רחוק באמת הגיעה הבינה המלאכותית? הרי יש מי שחשבו כבר לפני עשור שהיום ניסע במכוניות אוטונומיות.

אתם יודעים מה? אני מכיר כמה אנשים, כמה אנשים צעירים שהחליטו לא לעשות רישיון נהיגה, משום שחשבו, שעד היום, כבר יהיו מכוניות אוטונומיות, וזה לא קרה. ויש מי שחשבו לפני 50 שנה שהיום כל אדם יוכל לטייל לירח, וגם זה לא קרה.

כך, שתמיד יכול להיות שהתחזיות על פריצת דרך קצת מוקדמות, או קצת מוגזמות, או הרבה מוגזמות. ומצד שני, אם לצטט שוב מבוסטרום, מהעובדה שכמה אנשים הגזימו בתחזיות על בינה מלאכותית בעבר, לא נובע ש AI, והכוונה שלו כאן היא לבינה מלאכותית כללית. הכינוי לבינה מלאכותית שהיא חכמה יותר מבני אדם. בקיצור, מהעובדה שכמה אנשים הגזימו בעבר, לא נובע שהפיתוח בלתי אפשרי, או שהבינה לעולם לא תפותח.

"הסיבה העיקרית לכך שההתקדמות הייתה איטית מהצפוי", הוא כותב, "היא שהקשיים הטכניים של בניית מכונות חכמות, התגלו כגדולים ממה שחזו החלוצים. אבל זה משאיר פתוחה את השאלה, עד כמה הקשיים האלה גדולים כיום, וכמה אנחנו רחוקים עכשיו מלהתגבר עליהם."

"לפעמים", זה עדיין בוסטרום, "לבעיה שנראית בתחילה מסובכת ללא תקנה, מתברר שיש פתרון פשוט להפתיע. אם כי, ההפך כנראה נפוץ יותר." סוף ציטוט מבוסטרום.

אז יש את השאלות הטכניות, ואז באות גם שאלות של מדיניות, מה צריך לעשות. אילון מאסק, ועוד הרבה הוגים אחרים, סבורים שצריך לנסות לעצור את הדהירה הלא מרוסנת של פיתוח.

האם העצירה אפשרית? האם אפשר לעצור את הפיתוח? שאלה טובה.

בספר "המה והלמה" של יהודה פרל, זה ספר שלנו, ספר של סדרת 'הקיפוד והשועל', על המדע החדש של סיבה ותוצאה. בספר "המה והלמה" של יהודה פרל, המחבר כותב כך, אני קורא ממנו רק פסקה קצרה: "מבחינה היסטורית, נדירים המקרים שבן אדם נמנעו מלייצר או לעשות דברים שבהישג ידם הטכנולוגי. הדבר נובע בחלקו מפני שאיננו יודעים, תקשיבו טוב! מפני שאיננו יודעים שאנו מסוגלים טכנולוגית לעשות משהו, עד שאנו עושים אותו. בין שיבוט בעלי חיים, ובין שיגור אסטרונאוטים לירח. אבל פיצוץ פצצת האטום היה נקודת מפנה. רבים חושבים שאסור היה לפתח את הטכנולוגיה הזאת".

"דוגמה טובה מהעשורים האחרונים למדענים הנרתעים מהאפשרי, הייתה ועידת אסילומר לרקומבינציה גנטית ב-1975, טכנולוגיה חדישה שנתפסה בשעתה באמצעי התקשורת במונחים אפוקליפטיים משהו".

"המדענים שעבדו בתחום הצליחו להגיע לתמימות דעים לגבי צעדי ביטחון של השכל הישר, וההסכמה שהם הגיעו אליה, החזיקה מעמד היטב ב-40 השנה שעברו מאז. הדנ"א הרקומביננטי הוא כיום תוצר של טכנולוגיה בשלה ונפוצה."

נעצור כאן, נעצור כאן עם הספר של פרל מפני שלפני כמה שבועות אירחנו אותו כאן לשיחה, את יהודה פרל. וצריך לומר, שהעמדות שלו בעניין הספציפי הזה, העמדות שלו עודכנו מאז שהספר נכתב. לא שהספר ישן במיוחד, ורוב מה שכתוב בו עדיין מאוד רלוונטי, אבל בעניין הספציפי הזה של הבינה המלאכותית, זה לא שהספר ישן אלא שהמציאות פשוט רצה מהר.

אמליץ לכם כמובן להאזין לשיחה עם יהודה פרל במלואה ואתם יודעים איפה אפשר למצוא אותה, kipshu.com.

K-I-P-S-H-U נקודה קום.

אבל על הבינה המלאכותית, זה אני אתקצר לכם, הוא אמר לי, שיניתי את דעתי.

אתם יודעים מה? נשמיע לכם כאן קטע מהשיחה. שוב, את כל השיחה אפשר לשמוע באתר שלנו, kipshu.com. שיחה שלמה עם יהודה פרל על סיבה ותוצאה, כדאי לכם.

כאן ניתן קטע קצר שבו הוא מסביר למה הוא שינה את דעתו בעניין הבינה המלאכותית.

הוא שינה את דעתו, אני מתקצר לכם ותכף תשמעו אותו, הוא שינה את דעתו מפני שפעם חשב שישנה מטאפורה שאפשר להשתמש בה כדי להבין מה יקרה בעתיד, ואז הבין שהמטאפורה שלו היא פשוט מטאפורה שאינה בתוקף. היא לא בתוקף כשמדברים על בינה מלאכותית.

הנה יהודה פרל, או בעצם השיחה שלי עם יהודה פרל:

שמואל: תאמר לי, בהינתן כל מה שאתה אומר, יש לנו סיבה לבהלה מהרמות ההולכות ומשתכללות של מכונות?

יהודה: כן, אני אומר כן, כי עכשיו אני בעצם שיניתי דעתי. אני חשבתי שאנחנו מוגנים.

שמואל: נכון, זהו, אני מופתע מהתשובה שלך, כי שמעתי אותך בדברים שאמרת לפני כמה שנים, ונשמעת יותר נינוח בעניין הזה.

יהודה: כן, נשמעתי נינוח. המודל שלי, ודרך אגב, כל העמדות, כל העמדות שתמצא בנויות על מטאפורות. המטאפורה שלי היה חינוך. כמו שאנחנו מחנכים את הבנים שלנו, ואנחנו מצפים שאם אנחנו נתנהג יפה, אם אנחנו יהיו לנו מחנך טוב, הם יגדלו ויהיו כמונו, לא יהיו רעים. מדי פעם יש לך טעות ויוצא אחד פוטין, כן?

זהו, דרך אגב, מדי פעם ה-teenagers (מתבגרים) יודעים הרבה יותר מאיתנו. הבנים שלנו, הם הרבה יותר ערים, יותר לומדים, יותר up to date (מעודכנים) מדי פעם יוצא לך טינאייג'ר שהוא ג'ינגס חאן או פוטין. יוצאים בטעות, כן?

אבל זה, מתקנים את זה, אנחנו מסוגלים לתקן את זה. אז זה המודל שלי, היה חינוך. ואמרתי, כמו שאנחנו מצפים שהחינוך שלנו בדרך כלל עובד, וזה עבד עד עכשיו, ככה אין להיבהל מכך שהמכונה עולה עלינו בכמה רמות, ומסוגלת לעשות דברים שאיננו מסוגלים לעשות, אנחנו נדע לתכנת אותה בצורה כזאת שלא.

אבל, אני הבנתי שזה לא עובד, כיוון שאנחנו מדברים פה על סדר גודל לגמרי אחר. המכונה הזאת, זה הטינאייג'ר שלנו, כן? אנחנו רוצים לחנך, כן? הוא 100 מיליון יותר מהיר מאיתנו, ויודע יותר מאיתנו, ומסוגל, מסוגל, במקרה ויהיה לנו באמת AGI, מכונת בינה מלאכותית כללית, והוא מסוגל להדריך אותנו ולהפוך אותנו ל-pet, כלומר, לחיות המחמד שלו, כן?

שמואל: חיות מחמד שלו, כן.

יהודה: והוא ידע לשלוט בנו, לדעת איך לשכנע אותנו, שמה שהוא עושה זה טוב בשבילנו. כבר עכשיו עושים את זה, אתה יודע. כבר עכשיו מוכרים מוצרים שאיננו צריכים, מכל מיני צורות של השפעה, ויודעים איזה מוצרים אנחנו נרצה, ועובדים עלינו. בצורה כזאת, יוכלו לשכנע אותנו, שנעבוד אלילים בשבילם, נעבוד למען הבוס הגדול, וזה טוב לנו. כמו ששכנענו הרבה עבדים, זה טוב להם.

שמואל: אתה חושב שהתסריט הזה שאתה מצייר, הוא תסריט שעוד אפשר למנוע אותו, או שבעצם אתה מניח שלשם אנחנו הולכים?

יהודה: לשם אנחנו הולכים, אם אנחנו נגיע לבינה מלאכותית כללית, אני לא רואה סיבה שלא נגיע לשם, ואני לא רואה גם אפשרות שנוכל לעצור את זה. אין לנו, כמו שאמרתי, arsenal of metaphors. ארסנל, אוצר של מטאפורות, על מנת לנבא מה יהיה, מתי זה יהיה מסוכן, מתי לא. אין לנו את האוצר הזה. אנחנו פשוט איבדנו את הכושר לשער, אין תקדים, זה ברור שאין תקדים. זה ייצור חדש, שיש לו לוגיקה משלו, יש לו כוח משלו, עוד לא יצרנו אמבה כזאת.

שמואל: נו… השתכנעתם? זה היה קטע מהשיחה שלי עם יהודה פרל. השתכנעתם שאין תקדים? השתכנעתם שאנחנו בעצם לא יכולים לדעת מה יקרה כשתבוא המכונה החכמה מהאדם? וכנראה גם לא מסוגלים, או כך לפחות יהודה פרל מניח, כנראה גם לא מסוגלים לעצור את ההתקדמות למכונה שחכמה מהאדם?

כמובן, המילה של פרל היא לא המילה האחרונה בעניין הזה. כבר הזכרנו את אילון מאסק ועוד הרבה אחרים, שדווקא רוצים למצוא דרך כדי לבלום, כדי לרסן, כדי לעצור את ההתקדמות אל הלא נודע.

עוד ספר ממש ממש חדש עוסק בנושא הזה, הוא יצא ממש לפני רגע, ספר של מוסטפא סולימאן ומייקל באסקר. סולימאן הוא חוקר ויזם בריטי שעוסק בבינה מלאכותית, הוא המייסד של חברה שנדמה לי שכבר הזכרנו בשם Deepmind. זאת חברת בינה מלאכותית שנרכשה על ידי גוגל, והיא כיום בבעלות אלפאבט. שוב, גוגל, אלפאבט, זה הכל, לפחות בעינינו פשוטי אדם, אותו דבר.

כלומר, סולימאן הוא אחד מהאישים הכי בולטים בתחום שאנחנו מדברים עליו היום, והספר שלו נקרא "The Coming Wave - Technology, Power and the 21st Century Greatest Dilemma".

הנה מה שסולימאן כותב על האופן שבו האנושות תגיב, או עלולה להגיב, לתסריטים שהצגנו כאן. לתסריטים קצרי הטווח, מה עושים עם ניעור הסדר החברתי, וגם לתסריטים ארוכי הטווח, איך מתמודדים עם סכנה שהאנושות מתקרבת לסופה. אז שוב, מתוך הספר "The Coming Wave", מתוך מה שכותב מוסטפא סולימאן, כדאי להקשיב לו.

"חלק מהמדינות", הוא כותב, "חלק מהמדינות יגיבו לאפשרות של סיכונים קטסטרופליים כאלה, בסוג של סמכותניות חמושה בטכנולוגיה, כדי להאט את התפשטותם של הכוחות החדשים".

"זה ידרוש רמות גבוהות מאוד של מעקב, וחדירות מסיביות לחיינו הפרטיים. שמירה על רסן חזק לבלימת הטכנולוגיה, עלולה להפוך לחלק מסחף למצב שבו כל דבר, וכל אחד, יהיה תחת מעקב ותצפית כל הזמן, במערכת מעקב עולמית דיסטופית, שההצדקה לה היא הרצון להתגונן מפני התוצאות הקיצוניות ביותר האפשריות".

שמעתם?

זה 1984, הספר 1984 על סטרואידים. כל דבר וכל אחד יהיה תחת מעקב ותצפית כל הזמן, במערכת מעקב עולמית דיסטופית, שההצדקה לה היא הרצון להתגונן מפני התוצאות הקיצוניות ביותר האפשריות.

כן, קראתי שוב את המשפט מתוך הספר, זה משפט מאוד דרמטי.

"האם אפשר בכלל להתרחק?", זה המשך הספר, "האם אפשר בכלל להתרחק מפיתוח טכנולוגיות חדשות, ולהנהיג סדרה של מגבלות? לא סביר."

כלומר, כאן סולימאן מסכים עם יהודה פרל, בהתחשב בערך הגאו-אסטרטגי והמסחרי העצום שלהם, קשה לראות כיצד מדינות ותאגידים ישוכנעו לוותר באופן חד צדדי על כוחות השינוי שישוחררו באמצעות פריצות הדרך האלה.

"יתרה מכך", זה המשך הספר, "עצם הניסיון לאסור על פיתוח של טכנולוגיות חדשות, מהווה לכשעצמו סיכון. ההיסטוריה מלמדת שחברות שאינן מתקדמות טכנולוגית אלא דורכות במקום, אינן יציבות ומועדות להתמוטט. בסופו של דבר הן מאבדות את היכולת לפתור בעיות ולהתקדם. כלומר, גם ניסיון לרדוף אחרי טכנולוגיות חדשות, וגם ניסיון לא לרדוף אחריהן, שני המצבים מגלמים סיכון."

"הסיכוי שהאנושות תצליח לנווט בנתיב צר", זה הוא כותב במרכאות, 'נתיב צר', "ולהימנע מתוצאה כזו או אחרת, דיסטופיה טכנו-סמכותית מצד אחד, קטסטרופה שמקורה בפתיחות מצד שני, הסיכוי לזה הולך וקטן ככל שהטכנולוגיה נעשית לזולה יותר, ולחזקה יותר, וככל שהידע מתפשט והסיכונים מצטברים. ובכל זאת, גם להתעלם ולוותר על הדיון זה לא אופציה. אפילו כשאנחנו מודאגים מהסיכונים שיש בטכנולוגיה החדשה, אנחנו רוצים את היתרונות המדהימים שלה."

"זוהי הדילמה המרכזית", משפט אחרון מתוך הספר של סולימאן, "זו הדילמה המרכזית שבמוקדם או במאוחר, דור רב עוצמה של טכנולוגיה עלול להוביל את האנושות לתוצאות קטסטרופליות או דיסטופיות. אני מאמין", הוא כותב, "שזו המטא בעיה הגדולה של המאה ה-21".

המטא בעיה של המאה ה-21.

אז הנה, בין מחשבות על השאלה מה לאכול בערב, או מחשבות על השאלה איזה סוג מכונית לקנות, או מחשבות על השאלה איזה ספר לקרוא, או מחשבות על השאלה מה יהיה עם הרפורמה המשפטית, בין המחשבות על אלף שאלות יומיות על שטות כזו או שטות אחרת, שאמר אדם זה או אחר בערוץ זה או אחר. בין המחשבות האלה, הקדשנו שעה, קצת יותר משעה, למטא-בעיה של המאה ה-21.

הקדשנו לה קצת יותר משעה, ובקושי, בקושי, גירדנו את פני השטח.

עוד סיום, ואז יבואו כמה הודעות, בעניינים שלא קשורים בכלל לבינה מלאכותית.

(נשמעת מנגינה)

הקיפוד והשועל, ותודה שאתם עדיין איתנו, בהנחה שאתם עדיין איתנו, אם אתם לא איתנו, אתם לא שומעים, אם אתם איתנו, אז שוב תודה. לא תאמינו מה אנחנו מכינים לכם בחודש הבא. בחודש הבא נשיק את הפרקים החודשיים שאנחנו מפיקים תחת חסותו של המכון למדיניות העם היהודי, נשיק את הפרקים האלה בשיחה מרתקת, על נושא מרתק. אנחנו מבטיחים, ואתם תחליטו אם קיימנו, כשתשמעו במה מדובר. לא, לא עכשיו. עוד לא הקלטנו, אז מוטב לא לפרט, אבל מאוד בקרוב נקליט, ואם אתם זוכרים מה הבטחנו, הפרקים החדשים יהיו זמינים במתכונת להאזנה, כמו זו שאתם מאזינים לה עכשיו, וגם במתכונת לצפייה.

תוכלו לצפות בהם באתר של המכון למדיניות העם היהודי, ותוכלו לצפות בהם גם בערוץ היוטיוב של הקיפוד והשועל. ואם אנחנו כבר מזכירים את ערוץ היוטיוב, הפרויקט של העלאת כל הפרקים הקודמים שלנו ליוטיוב, הפרויקט הזה מתקדם יפה.

כבר תוכלו להאזין גם בפלטפורמה הזאת ביוטיוב, למיכה גודמן ולחיים שפירא ולעמיה ליבליך אניטה שפירא, תוכלו להאזין לפרק שעלינו לפני שבועיים.

לא שמעתם?

זה פרק עם ימימה בן מנחם, כלת פרס ישראל בפילוסופיה שעוסקת בעיקר בפילוסופיה של המדע, ודיברנו איתה על המון דברים, על תכלית החיים, בעיות בלתי פתורות, כוחו של המדע, משמעותו של חופש, על דטרמיניזם, על שמירת שבת, על אריסטו, על מדינת הלאום, על מוות, על תורת הקוונטים, על הבל הבלים, צריך לומר הבל הבלים, זה מספר קהלת, כי דיברנו גם על ספר קהלת.

עכשיו נגיד תודה לשותפים, סדרת הסכתים "הקיפוד והשועל" נעשית בשיתוף עברית, אתר התוכן הספרותי הגדול בישראל, המציע לקרוא בכל דרך, ספרים דיגיטליים קולים ומודפסים.

דולב אזולאי מעברית מסייע לנו, יעל לבינובסקי שלנו אחראית להפקה ולעריכה, היא גם אחראית לזה שבעוד שבועיים, או פחות מזה יהיה כאן פרק חדש. מחכה לכם שיחה מרתקת עם ליעד מודריק, מחכה בהמשך שיחה עם נורמן לברכט עצמו, זה שעכשיו דיברנו על הספר שלו על בטהובן. לברכט יבוא מלונדון ואז נשב ונדבר, העברית שלו מצוינת.

ומחכה לכם גם הפרק הראשון בשותפות החדשה שלנו, עם המכון למדיניות העם היהודי. הפרק הזה יהיה הפתעה אבל מהסוג הטוב, הפתעה לסקרנים ולסקרניות, וכל זה יבוא די בקרוב.

זה יבוא, הפרק הזה, זה יבוא, אנחנו מקווים כשכבר יהיה שקט יותר ונעים יותר, ובטוח יותר בישראל. זה יבוא, אנחנו מקווים כשכבר לא תהיה מלחמה, ולא יהיו אזעקות ונפגעים, וחרדות הווה וחרדות לעתיד. זה יבוא, אבל היום במיוחד נאחל לכם שעד אז, יהיה לכם יום שקט ובטוח, ושבוע כזה וחודש כזה, ונאחל לכולנו שנתגבר ושננצח, ושנחזור לשבת בשלווה תחת גפן ותחת תאנה. עושה שלום במרומיו, הוא יעשה שלום עלינו ועל כל ישראל.

אמן, להשתמע.

[מוזיקה]

 

לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה

9 views0 comments

Comentarios


bottom of page