מאת ריי קורצוויל

תרגום והתאמה – סרג'יו שטיין

אנחנו עומדים על סף האירוע טרנספורמטיבי העמוק ביותר בהיסטוריה של האנושות, הסינגולריות.

מה היא הסינגולריות? מנקודת המבט שלי,  הסינגולריות היא התקופה שבמהלכה בעתיד קצב השינויים הטכנולוגיים יהיה כל כך מהיר ומרחיק לכת שעצם הקיום האנושי על הפלנטה הזאת יעבור טרנספורמציה באופן מהותי ובלתי הפיך. אנו נשלב את כוח המוח שלנו, את הידע, המיומנויות והמוזרויות האישיות שעושות אותנו אנושיים עם כוח המחשב שלנו כדי לחשוב, לתקשר וליצור בדרכים שאנחנו בקושי יכולים אפילו לדמיין היום.

המיזוג הזה של האדם והמכונה, ביחד עם הפיצוץ הפתאומי בבינה מלאכותית והחדשנות המהירה בתחומי מחקר גנטי וכן בננוטכנולוגיה, יובילו אותנו לעולם שבו אין הפרדה בין המכני לביולוגי, או בין מציאות פיזית למציאות מדומה. מהפכות טכנולוגיות אלה יאפשרו לנו להתעלות על הגוף השברירי שלנו במגבלותיו. המחלה, כפי שאנו מכירים אותה, תיכחד. באמצעות שימוש בננוטכנולוגיה, נוכל לייצר כמעט כל מוצר פיזי לפי דרישה, הרעב והעוני בעולם ייפתרו, הזיהום ייעלם.  הקיום האנושי יעבור קפיצה קוונטית באבולוציה. נוכל לחיות חיים ארוכים כפי שנבחר. לידתו של עולם זה הוא, למעשה, הסינגולריות.

איך זה אפשרי שאנחנו יכולים להיות כל כך קרוב לשינוי עצום זה ולא רואים אותו? התשובה היא בטבע האצת החידושים הטכנולוגיים. במחשבה על העתיד, מעט אנשים לקחו בחשבון את העובדה כי ההתקדמות המדעית היא מעריכית: זה מתרחב שוב ושוב על ידי הכפלה מתמדת (10 פעמים 10 פעמים 10 וכן הלאה) ולא לינארית, כלומר, הרחבות שוב ושוב על ידי הוספת קבוע (10 פלוס 10 פלוס 10, וכן הלאה). אני מדגיש את פרספקטיבת המעריכי- כנגד- הליניארי כי כאן מקור הכישלון הכי נפוץ של כל המנסים לנבא מגמות עתידיות.

אבותינו צפו שמה שהיה זה מה שיהיה, עם מעט יוצאים מן הכלל. מפני שהם חיו בתקופה כאשר קצב החידושים הטכנולוגיים היה איטי מדי כדי להיות מובחן, ציפיותיהם על העתיד ללא שינוי התגשמו ללא הרף. וכיום, אנו עדים להאצת העקומות. לפיכך, אנו צופים להתקדמות טכנולוגית רצופה וההשלכות החברתיות הנובעות מכך. אנחנו רואים את העתיד שונה מן ההווה. אבל העתיד יהיה הרבה יותר מפתיע מכפי שרוב האנשים מצפים, כי מעטים באמת הפנימו את ההשלכות של העובדה כי שיעור השינוי עצמו הוא בהאצה.

גידול מעריכי מתחיל לאט, כמעט  בלתי מובחן אבל מעבר ל-"ברך" של העקומה הופך למהפכני וטרנספורמטיבי. המודלים שלי מראים שאנחנו מכפילים את שינוי הפרדיגמה עבור חדשנות טכנולוגית מדי עשור. במילים אחרות, המאה העשרים האיצה בהדרגה עד קצב ההתקדמות של היום. לכן הישגיה של כל המאה ה-20 היו שוות ערך ל -20 שנה של התקדמות בקצב של 2000. אנחנו נעשה עוד "20 שנות" התקדמות רק ב-14 שנים (עד 2014), ולאחר מכן נוכל לעשות אותו הדבר שוב רק בשבע שנים. אפשר להביע את זה בדרך אחרת, אנחנו לא נחווה 100 שנים של התקדמות טכנולוגית  במאה העשרים ואחת; נהיה עדים לסדר גודל של 20,000 שנים של התקדמות (שוב, כאשר נמדד קצב ההתקדמות של היום), או התקדמות ברמה של כ -1,000 פעמים יותר מאשר מה הושג במאה העשרים.

איך נדע אם הסינגולריות הגיעה?

המחצית הראשונה של המאה העשרים ואחת ת תהיה מאופיינת ע"י שלוש מהפכות חופפות: בגנטיקה, ננוטכנולוגיה, ורובוטיקה. אלה יסמנו תחילתה של תקופה זו של שינוי עצום שאני מכנה סינגולריות. אנחנו בשלבים הראשונים של מהפכת הגנטיקה היום. על ידי הבנת תהליכי החיים הבסיסיים, אנו לומדים לתכנת מחדש את הביולוגיה וכך ולהשיג למעשה את חיסולן של מחלות, הרחבה דרמטית של הפוטנציאל האנושי, והארכת חיים רדיקלית. עם זאת, הנס מורבק ממכון הרובוטיקה של אוניברסיטת קרנגי מלון מציין כי לא משנה באיזו מידה של הצלחה נוכל לכוונן את ביולוגיית ה-DNA  שלנו,  הביולוגיה לעולם לא תהיה מסוגלת להשתוות למה שאנחנו נוכל להנדס,  ברגע שנבין את עקרונות הפעולה של החיים.
מהפכת הננוטכנולוגיה, ההולכת הרבה מעבר למגבלות של הביולוגיה, תאפשר לנו לעצב מחדש ולשקם מולקולה- אחר- מולקולה את כל הגוף שלנו, המוח שלנו ואת העולם שבו אנו פועלים.

אבל המהפכה הקרובה והעצומה ביותר היא המהפכה הרובוטית. לגבי רובוטיקה, אני מתכוון בעיקר לבינה מלאכותית על כל הווריאציות שלה.

ננסה לתאר את כל המרכיבים העיקריים והבסיסיים של המהפכות הטכנולוגיות המתקרבות, יחד עם התחשבות בסכנות והבטחות הכורכות בכל אחת.

המהפכה הגנטית

המדע המולקולארי והגנטיקה ישלימו את הביולוגיה ויתקנו את הליקויים הברורים שלה (כגון הרגישות שלנו למחלות). עד שנת 2020, כל השלכותיה של המהפכה הגנטית תורגשנה על פני החברה. אנחנו נרכוש במהירות את הידע והכלים הדרושים כדי להרחיב באופן דרסטי את השימושיות של "הבית " שלנו כפי שהתרגלנו לקורא לגוף והמוח שלו.

חוקר הננורפואה רוברט פרייטס מעריך כי חיסול של 50% מכל המצבים הרפואיים הניתנים למניעה יאריך את תוחלת החיים האנושית ל- 150 שנים. אם הצלחנו למנוע 90% מכלל הבעיות הרפואיות, נזכה לחיות יותר מ-1,000 שנים.

אנחנו יכולים לראות את תחילתה של מהפכה רפואית אדירה זו כבר היום. תחום הביוטכנולוגיה הגנטית  ניזון ע"י ארסנל גובר של כלים. גילוי תרופות היה פעם עניין של מציאת מצעים (כימיקלים) שיצרו כמה תוצאות מועילות ללא תופעות לוואי מופרזות. שיטת מחקר זו דומה לזו שבני אדם הקדמון חיפשו סלעים ודברים טבעיים אחרים שיוכולו לשמש למטרות מועילות. היום אנחנו מגלים את התהליכים הביוכימיים המדויקים העומדים ביסוד המחלות וההזדקנות. אנו יכולים לעצב תרופות המבצעות משימות מדויקות ברמה המולקולארית. עם טכנולוגיות הגן שפותחו לאחרונה, אנחנו על סף היכולת לשלוט בביטוי של הגנים עצמם. התבטאות גנים היא תהליך שבו מרכיבים תאיים (במיוחד רנ"א שעל הריבוזומים) מייצרים חלבונים על פי תכנית אב גנטי מדויקת. בעוד כל תא אנושי מכיל דגימת ה-DNA המלאה, וכך התוכנית המלאה  של כל הגוף, תאים ספציפיים, כגון תאי עור או תאי לבלב, מקבלים את המאפיינים רק מחלק מן המידע הגנטי של התא הרלוונטי מאותו סוג.

התבטאות הגנים נשלטת על ידי פפטידים (מולקולות מורכבות מרצפים של עד 100 חומצות אמינו) וקצובות קצרות של רנ"א. אנחנו עכשיו מתחילים ללמוד איך התהליכים האלה עובדים. טיפולים חדשים רבים נמצאים כיום בפיתוח אשר בוחנים את האפשרות לבצע מניפולציות על פפטידים כדי מצד אחד לכבות את הביטוי של הגנים הגורמים למחלות ומאידך להפעיל גנים רצויים שאחרת לא יוכלו לבוא לידי ביטוי בסוג מסוים של תאים. טכניקה חדשה בשם RNA interference מסוגלת להשמיד את שליח הרנ"א המביע גן מסוים, ובכך למעשה לכבות את הגן הזה.

האצת ההתקדמות בביוטכנולוגיה תאפשר לנו לתכנת מחדש את הגנים שלנו ואת התהליכים המטבוליים ובכך להניע את התחומים של הגנומיקה (הגנים המשפיעים) ,פרוטאומיקה (הבנת ההשפעה והתפקיד של החלבונים), ריפוי גנטי (דיכוי של ביטוי גנים כמו גם הוספת מידע גנטי חדש) , עיצוב רציונאלי של תרופות (עיצוב תרופות המתבייתות  על התהליכים המדויקים של המחלה וההזדקנות), כמו גם שיבוט תאים מתחדשים ומחודשים, רקמות, ואיברים.

מהפכת הננוטכנולוגיה

ננוטכנולוגיה מבטיחה לספק את הכלים כדי לבנות מחדש את העולם הפיזי, כולל הגוף והמוח שלנו – מולקולה אחר מולקולה ואפילו אטום אחר אטום. אנחנו מכווצים את תכונות המפתח (חלקים עובדים), בהתאם לחוק ההחזרים בהאצה (accelerating returns) בשיעור מעריכי (מעל ארבעה לכל ממד ליניארי לכל עשור או מעל 100 לפי נפח תלת ממדי. בקצב הזה, הגדלים של תכונות המפתח עבור מירב החלקים האלקטרונים ורבים מהטכנולוגיות המכאניות יהיו בטווח נאנוטכנולוגיה – שבדרך כלל נחשב לפחות מ-100 ננומטר (אחד חלקי מיליארד של מטר אחד) – עד סביבות-2020. האלקטרוניקה כבר נמצאת מתחת לסף הזה, אף שעדיין לא במבנים בשלושה ממדים ועדיין לא במבנים המסוגלים להרכיב מבנים דומים אחרים, שזה צעד חיוני לפני שנאנוטכנולוגיה יכולה לממש את הפוטנציאל המובטח. בינתיים, לאחרונה ישנה התקדמות מהירה בהכנת מסגרת מושגית ורעיונות לעיצוב תקופת הננוטכנולוגיה הקרבה.

ננוטכנולוגיה התרחבה עד כדי לכלול כל טכנולוגיה שבה התכונות העיקריות של המכונה נמדדות בפחות מ-100 ננומטר. בדיוק כפי שהאלקטרוניקה המודרנית כבר בשקט הסתננה לתחום הננו-טכנולוגיה, גם התחום של יישומים ביולוגיים ורפואיים כבר נכנס לעידן של החלקיקים, שבו מפתחים יותר ויותר כלים טיפוליים ואבחוניים ברמת הננו.

בתחום בדיקות האבחון, כבר משתמשים בחלקיקים  לבדיקות ביולוגיות ניסיוניות בתור תגים ותוויות כדי לשפר בהרבה את הרגישות באיתור חומרים כגון חלבונים. ניתן לקשור ננו-תגים מגנטיים לנוגדנים כך שלאחר מכן ניתן לקרוא אותם באמצעות בדיקות מגנטיות בעודם בתוך הגוף. נערכו ניסויים מוצלחים על חלקיקי זהב הקשורים למקטעי דנ"א שיכולים במהירות לבדוק דגם של רצפי DNA ספציפיים. אפשר לתכנת ננו-חרוזים קטנים בשם "נקודות קוונטיות" עם קודים ספציפיים בשילוב צבעים מרובים, בדומה לבר קוד צבע. תהליך זה יכול להקל על המעקב על חומרים בתוך הגוף.

בעתיד, ננו-התקנים יבצעו מאות בדיקות בו זמנית על פני דגימות זעירות של חומר נתון. מכשירים אלה יאפשרו בדיקות נרחבות על דגימות כמעט בלתי נראות של דם.

בתחום הטיפול, יישום מרגש במיוחד של טכנולוגיה זו הוא שימוש בחלקיקים כדי לספק תרופות לאתרים ספציפיים בגוף. החלקיקים יכולים להחדיר תרופות דרך קירות התא והן יעברו דרך מחסום דם – מוח (BBB ). ננו-חבילות יתוכננו להכיל תרופות, להגן עליהן לאורך מערכת העיכול, לאחסן אותן במקומות ספציפיים, ואז לשחרר אותן בדרכים מתוחכמות הנשלטות, אלחוטי, מחוץ לגוף.

חברת ננו – טרפיה באלצ'ואה Alachua, פלורידה, פיתחה פולימר מתכלה בעובי של רק כמה ננומטרים המשתמש בגישה זו. בינתיים, מדענים באוניברסיטת מקגיל במונטריאול הציגו ננו-כדור (nanopill) עם מבנים בטווח 25-45 ננומטר. הננו–כדור קטן מספיק כדי לעבור דרך קיר התא ולספק תרופות ישירות אל מבנים נקודתיים בתוך התא.

חברת מיקרוצ'יפס (MicroCHIPS) של בדפורד, מסצ 'וסטס, פיתחה מכשיר ממוחשב המושתל מתחת לעור שמספק תערובות מדויקת של תרופות דרך מאות ננו- צינורות בתוך המכשיר. גרסאות עתידיות של המכשיר אמורות להיות מסוגלות למדוד רמות של חומרים כגון גלוקוז. המערכת גם תוכל לשמש כלבלב מלאכותי, המשחרר כמויות מדויקות של אינסולין על בסיס תגובת הגלוקוז בדם. המערכת גם תהיה מסוגלת לדמות כל איבר אחר היוצר הורמונים, ואם הניסויים יעברו חלק, המערכת יכולה להיות בשוק עד 2010. הצעה חדשנית אחרת היא להנחות חלקיקים (במיוחד מזהב) למקום הגידול ולאחר מכן לחמם אותם ע"י קרינת אינפרא אדום להשמדת התאים הסרטניים.

מהפכת הננו-טכנולוגיה תאפשר לנו לעשות הרבה יותר מאשר פשוט לטפל במחלות. בסופו של דבר, ננוטכנולוגיה תאפשר לנו לעצב מחדש ולשקם לא רק את הגוף והמוח שלנו, אלא גם את העולם שבו אנו חיים. מימושה המלא של הננוטכנולוגיה, לעומת זאת, תפגר אחרי המהפכה הביוטכנולוגית בלא יותר מעשור אחד. אבל במחצית השנייה של שנות  2020, ההשפעות של המהפכה הננו-טכנולוגית יהיו ברורות ונרחבות.

ננוטכנולוגיה והמוח האנושי

היישום החשוב ביותר והקיצוני במיוחד של הננו-רובוטים (ננו-בוטים) בשנות ה-2030  יהיה בלהרחיב את יכולות מוחנו באמצעות המיזוג של הלא ביולוגי עם הביולוגי, או בינת "מכונה". ב-25 השנים הבאות, נלמד כיצד להרחיב את 100 טריליון החיבורים אינטרנוירונליים המאוד איטיים שלנו עם חיבורים וירטואליים אין ספור יותר מהירים, באמצעות ננו רובוטיקה. זה יאפשר לנו להגדיל באופן משמעותי את היכולות שלנו – לזיהוי דפוסים, זיכרונות, ויכולת החשיבה הכללית, כמו גם יעניק לנו ממשק ישיר עם כוחות המחשב לצורותיו. הטכנולוגיה הזאת תספק גם תקשורת אלחוטית ממוח אחד למשנהו.

במילים אחרות, עידן התקשורת הטלפתית כמעט עלינו.

המוח שלנו היום קבוע יחסית בעיצובו. למרות שאנו מוסיפים דפוסים של קשרים איטרניורונאליים וריכוזים של נוירוטרנסמיטרים כחלק נורמאלי של תהליך הלמידה, היכולת הנוכחית של המוח האנושי עדיין מוגבלת מאוד. ברגע שהבינה המלאכותית ( (AI) תתחיל לעבור את הבינה האנושית כבר בשנות 2030, אנחנו נהיה מסוגלים לעבור אל מעבר לארכיטקטורה הבסיסית של האזורים העצביים של המוח.

שתלי המוח המבוססים על הפצה מסיבית של ננובוטים  אינטליגנטים ירחיבו לאין הכר את קיבולת הזיכרון שלנו וישפרו את טווח כל החושים שלנו, דפוסי ההכרה, ויכולות הקוגניטיביות. מכיוון שהננובוטים יתקשרו און ליין  אחד עם השני, הם יוכלו ליצור מערכת של קשרים עצביים חדשים, לשבור קשרים קיימים (על ידי דיכוי עצבי), ייצרו רשתות היברידית חדשות ביולוגיות וממוחשבות, ויוסיפו רשתות מכאניות חדשות לחלוטין, כמו גם יספקו ממשקים הדוקים עם תוכנות מחשב חדשות המבוססות על בינה מלאכותית.

יישומה של בינה מלאכותית במערכות הביולוגיות שלנו תציין זינוק אבולוציוני לאנושות, אבל זה מרמז גם על כך שאנחנו אכן נהיה יותר "מכונה" מאשר "אדם." מיליארדי ננובוטים ייסעו דרך מחזור הדם בגוף שלנו ובמוח. בתוך גופנו, הם יחסלו פתוגנים, יתקנו שגיאות הדנ"א, יסלקו רעלים, ויבצעו משימות רבות אחרות כדי לשפר את רווחתנו הפיזית. כתוצאה מכך, נוכל לחיות לנצח מבלי להזדקן.

במוחנו,  הננובוטים יבצעו אינטראקציה ישירה עם הנוירונים הביולוגיים שלנו. זה יספק טבילה מלאה במציאות וירטואלית המאגדת את כל החושים, כמו גם את התואמים הנוירולוגים של כל הרגשות שלנו, הישר מתוך מערכת העצבים. וחשוב יותר, קשר הדוק זה בין החשיבה הביולוגית שלנו לבין האינטליגנציה המלאכותית שאנחנו יוצרים, ירחיב את האינטליגנציה האנושית לפסגות שלא דימינו עד כה.

הלוחמה תתפתח לכיוון של נשק המבוסס על ננובוטים, וכן סייבר-נשק.

הלמידה תהיה הראשונה לעבור למצב און ליין, אבל ברגע שהמוח שלנו יהיה מכוון באופן מלא לאינטרנט, נוכל להוריד ידע חדש ומיומנויות חדשות מהרשת. תפקידה של העבודה תהיה ליצור ידע מכל הסוגים, החל ממוסיקה והאמנות וכלה במתמטיקה והמדעים. אף תפקידו של המשחק יהיה ליצור ידע. בעתיד, לא תהיה הבחנה ברורה בין עבודה למשחק.

המהפכה הרובוטית

מתוך שלושת המהפכות הטכנולוגיות שביסוד הסינגולריות (גנטית, ננו-מכאניות, ורובוטית), המהפכה העמוקה ביותר היא הרובוטית או, כפי שהיא מכונה בדרך כלל, המהפכה של הבינה המלאכותית החזקה (strong artificial intelligence – AI). מהפכה זו מתייחסת ליצירת יכולת חשיבה מלאכותית הרבה מעבר לבינה האנושית. אנחנו קרובים מאוד ליום שבו בני אדם ביולוגיים (כפי שאנו מכירים אותם כעת) יפסיקו להיות האינטליגנציה הדומיננטית על פני כדור הארץ. עד סוף המאה הנוכחית, הבינה המלאכותית תהיה טריליונים של טריליונים של פעמים חזקה יותר מכוח המוח הלא מוגבר האנושי. אני טוען כי אינטליגנציית המחשב, או כמו שאני קורא לזה האינטליגנציה הלא ביולוגית, עדיין צריכה להיחשב כאנושית מאחר והיא נגזרת לחלוטין מן התרבות האנושית. היא תהיה מבוססת, לפחות בחלקה, על גרסה מיוצרת של מוח האדם המתפקד במלואו .המיזוג של שני עולמות אלה של אינטליגנציה הוא לא רק מיזוג של מדיומים קוגניטיבים ביולוגים- מכאניים, אלא גם, וחשוב יותר, מיזוג של חשיבה שיטתית וארגונית שתרחיב את דעתנו באופן כמעט בלתי ניתן להעלות על הדעת.

החשיבה האנושית הביולוגית מוגבלת ל-10 בחזקת 16 חישובים לשנייה (CPS) לכל המוח האנושי (מבוסס על מודלים נוירומורפים של אזורים במוח)  ו-10 בחזקת 26 כוח CPS עבור כל המוחות האנושיים בעולם. נתונים אלה לא צפויים להשתנות, אפילו עם שיפורים של הגנום שלנו ע"י ההנדסה הגנתית. יכולות העיבוד של  הבינה המלאכותית החזקה, או AI חזק, לעומת זאת, הולכות וגדלות בקצב מעריכי (עם השיעור המעריכי  עצמו בהאצה) והן יעלו באין ספור על הבינה הביולוגית באמצע שנות 2040.

הבינה המלאכותית תעלה בהכרח על האינטליגנציה האנושית, מכמה סיבות.

ראשית, מכונות יכולות לחלוק ידע ולתקשר אחת עם השנייה הרבה יותר ביעילות ובזמן אמת מאשר בני האדם. כבני אדם, אין לנו את האמצעים לתקשר את הדפוסים המכריעים של הקשרים הרבים של הנוירוטרנסמיטרים ואת הקשרים האינטרנוירונליים הכה מורכבים, את הידע שלנו והמיומנויות, מלבד בדרך האיטית להחריד של תקשורת המבוססת שפה.

שנית, הכישורים האינטלקטואליים האנושיים התפתחו בדרכים המעודדות ע"י סביבות  אבולוציוניות טבעיות. מיומנויות אלה בעיקר מבוססות על היכולות שלנו לזהות דפוסים, לחלץ משמעות, לאפשר לנו להיות מאוד בקיאים במשימות מסוימות, כגון הבחנת פנים, זיהוי אובייקטים, וזיהוי צלילי שפה. למרבה הצער, המוח שלנו פחות טוב בהתמודדות עם דפוסים מורכבים, כגון אלה שקיימים בנתונים הפיננסיים, במדעים, או מידע. היישום של טכניקות מבוססות מחשב יאפשר לנו שליטה מלאה בפרדיגמות זיהוי הכרה. לבסוף, מאחר והידע האנושי נודד לאינטרנט, מכונות ישיגו מיומנות הולכת וגדלה בקריאה, הבנה, וסינתזה של כל המידע האנושי.

הביצה או התרנגולת

שאלת המפתח לגבי סינגולריות היא מי מהשניים יופיע ראשון: העוף (בינה מלאכותית חזקה – AI)  או הביצה (ננוטכנולוגיה) ? במילים אחרות, האם יוביל AI חזק לנאנוטכנולוגיה מלאה (המייצרת ברמה מולקולרית חפצים פיזיים על בסיס מידע), או שהנאנוטכנולוגיה המלאה תוביל ל- AI  חזק?

ההיגיון של ההנחה הראשונה הוא כי AI חזק יהיה מסוגל לפתור כל הבעיות שנותרו לעיצוב וישום של נאנוטכנולוגיה מלאה. ההנחה השנייה מבוססת על כך שדרישות החומרה עבור AI חזק תהינה מסופקות על ידי חישוב המבוסס על ננוטכנולוגיה. כמו כן, הננובוטים יקלו ויקדמו את האתגרים להנדסת תוכנת AI חזק. מכונות מיקרוסקופיות אלה יאפשרו לנו ליצור סריקות מאוד מפורטת של המוח האנושי יחד עם דיאגרמות המראות כיצד המוח האנושי מסוגל לעשות את כל הדברים הנפלאים שעד כה נראו כפלא האנושות, כמו יצירת משמעות, מידע, חוויה ורגש. ברגע שאנו נבין כיצד המוח מתפקד, נוכל לשחזר את תופעות המחשבה האנושית במכונות. אנו נעניק למחשבים, הגם כך עליונים בכל כך הרבה תחומים על התכונות האנושיות הבלעדיים עד כה, את התכונות שלנו.

ההתקדמות בשני התחומים (ננו-טכנולוגיה ורובוטיקה) תשתמש בהכרח בכלים המתקדמים ביותר שלנו, כך שהתקדמות בתחום אחד תקדם בו זמנית  את השני. עם זאת, אני מצפה כי פריצות הדרך הננוטכנולוגיות החשובות ביותר יקדימו את ה- AI החזק, אבל רק בכמה שנים (בסביבות 2025 עבור נאנוטכנולוגיה ו-2029 עבור AI חזק ). אבל לא משנה כמה מהפכנית תהיה הנאנוטכנולוגיה, ה- AI  החזק יהיה הרבה יותר מרחיק לכת, עם השלכות הרבה יותר עמוקות. ננוטכנולוגיה היא חזקה אך לא בהכרח חכמה. אנחנו יכולים למצוא דרכים, או לפחות לנסות לנהל את כוחותיה העצומים של הננוטכנולוגיה, אבל על בינת-על (superintelligence)  מטבעה לא ניתן לשלוט.

המהפכה הננו-רובוטית גם תאלץ אותנו לבחון מחדש את הגדרתו של להיות אנושי. לא רק נהיה מוקפים במכונות המציגות בבירור תכונות אנושיות, אבל נהיה פשוטו כמשמעו פחות אנושיים.

למרות הפוטנציאל העתידי הנפלא של הרפואה, אריכות ימים אנושית אמיתית תושג רק כאשר אנו נתרחק מן הגוף הביולוגי שלנו לחלוטין. ככל שאנו הולכים לקראת קיום מבוסס תוכנה, נוכל לקבל את האמצעיים ל-"גיבוי של עצמנו" (אחסון דפוסי מפתח בבסיס של הידע והכישורים שלנו, ושמירת האישיות שלנו בסביבה דיגיטאלית). בכך נאפשר חיי נצח וירטואליים. הודות לננוטכנולוגיה, יהיה לנו גוף שאנחנו לא רק נוכל לשנות כרצוננו אלא גם לשנותו לצורות חדשות בכל עת. נוכל לשנות במהירות את גופינו בסביבה וירטואלית מלאה המאגדת את כל החושים במהלך שנות  2020 ובמציאות אמיתית ב-2040.

השלכות של הסינגולריות

מה יהיה טיבה של החוויה האנושית  כאשר הבינה המלאכותית תהווה הרוב?  מהן ההשלכות על התרבות האנושית כאשר מכונת-AI חזקה והנאנוטכנולוגיה יוכלו ליצור כל מוצר, כל מצב, כל סביבה שאנחנו יכולים לדמיין כרצוננו? אני מדגיש את תפקידו של הדמיון כאן כי אנחנו עדיין נהיה מוגבלים ביצירתיות שלנו במה שנוכל לדמיין. אבל הכלים שלנו עבור הבאת הדמיון למציאות צומחים גם הם בצורה אקספוננציאלית.

הרבה פעמים אנשים עוברים שלושה שלבים בשיקולם את ההשפעה של טכנולוגיית העתיד: יראת כבוד ופליאה על הפוטנציאל שלה להתגבר על בעיות גיל הזיקנה, ואז תחושה של אימה על סכנות חמורות חדשות שמלוות טכנולוגיות אלה, ולבסוף ההבנה כי הנתיב הבר קיימא ואחראי היחיד הוא הנתיב שבו אנו מגדירים ומנהלים את הסיכון תוך כדי מימוש ההבטחות.

הציפייה שלי היא כי יישומן היצירתי והבונה של טכנולוגיות אלה יהיה דומיננטי, כמו שאני מאמין שזהו המצב גם היום. עם זאת, אנו צריכים להגדיל את ההשקעות שלנו במידה רבה בפיתוח טכנולוגיות הגנה ספציפיות. אנחנו נמצאים בשלב הקריטי שבו אנחנו צריכים ליישם ישירות טכנולוגיות הגנה עבור הננוטכנולוגיה במהלך שנות העשרה המאוחרות של המאה הזאת.

אני מאמין כי וויתורים מסוימים על פיתוח יכולות מסוימות צריכים להיות חלק של התגובה האתית שלנו מול הסכנות הטמונות באתגריםה טכנולוגיים של המאה העשרים ואחת. לדוגמה, ביל ג'וי ואני כתבנו לאחרונה מאמר משותף  ב-"ניו יורק טיימס" המבקר באופן חריף את פירסומו של הגנום של שפעת-1918 באינטרנט מפני שהוא מהווה מתווה מסוכן ביותר. דוגמה נוספת היא ההנחיות האתיות המוצעת על ידי המכון פורסייט: כלומר, הננו מסכימים לוותר על פיתוח של גופים פיזיים היכולים לשכפל את עצמם בסביבה טבעית ללא כל שליטת אדם או מנגנון עצירה. עם זאת, ההחלטה בעד הגבלות רבות מדי תערער את ההתקדמות הכלכלית ותהיה בלתי מוצדקת מבחינה מוסרית בהינתן ההזדמנות להקל על המחלות, להתגבר על העוני, ולנקות את הסביבה.

אנחנו לא צריכים להסתכל אל מעבר להיום כדי לראות את ההבטחות ואת הסכנות של הקידום הטכנולוגי השזורות יחד. תנסו לתאר את הסכנות (פצצות אטום או פצצות מימן למשל) הקיימות כיום לאנשים שחיו לפני כמה מאות שנים. הם היו חושבים שזה מטורף לקחת סיכונים כאלה. אבל כמה אנשים בשנת 2006 היו באמת רוצים לחזור אל החיים החולניים, הקצרים, הבהמתיים, ומוכי העוני והאסונות ש- 99% מין המין האנושי נאבק עימם עד לפני מאתיים שנה?

אנו יכולים להיות נוסטלגיים לגבי העבר, אבל עד לא מזמן רוב האנושות חיו חיים מאוד שבריריים שבהם כל אחת מדי צרות יכלו להוות אסון. לפני מאתיים שנה, שיא תוחלת החיים של הנשים  (בשוודיה) היתה בערך 35 שנים, קצר מאוד לעומת תוחלת החיים הארוכה ביותר היום, כמעט 85 שנים לנשים יפניות. תוחלת החיים של הגברים הייתה בערך 33 שנים, לעומת  79 שנים היום. חצי יום היה נדרש לעיתים קרובות כדי להכין את ארוחת הערב, ועבודה קשה ביותר אפיינה את רוב הפעילות האנושית. לא היו רשתות הביטחון הסוציאלי. חלקים משמעותיים של המין האנושי עדיין חיים בדרך זו. וזאת סיבה אחת נוספת להמשיך את ההתקדמות הטכנולוגית ואת השיפור הכלכלי שמלווה אותה. רק לטכנולוגיה, עם היכולת שלה לספק קפיצות מדרגה של התקדמות ביכולת ונגישות, יש את האמצעים להתמודד עם בעיות כמו עוני, מחלות, זיהום וכל הדאגות האחרות של החברה היום…
בזמן שהסינגולריות קרבה, נצטרך לשקול מחדש את המוסגים שלנו על טבעו של האדם ועל חיי האדם ולעצב מחדש את המוסדות שלנו. התבונה על כדור הארץ תמשיך לגדול אקספוננציאלית עד שאנחנו נגיע לגבולות של החומר והאנרגיה הנחוצים כדי לתמוך בחישוב האינטליגנטי. כשאנו מתקרבים לגבול זה בפינת הגלקסיה שלנו, האינטליגנציה של הציוויליזציה שלנו תתפשט החוצה אל שאר היקום, ותגיע במהירות אל קצב ההתפשטות המקסימאלי. אנו מבינים כי המהירות הזאות היא מהירות האור, אבל יש הצעות כי ייתכן שנוכל לעקוף מגבלה זו הנראית לעין (כנראה על ידי לקיחת קיצורי דרך של חורי תולעת "wormholes" או קיצורי דרך היפותטיים אחרים בחלל ובזמן).

ההשקפה הרווחת היא כי המדע תיקן בעקביות את הצגת הערך והמשמעות המנופחים שלנו. סטיבן ג'יי גולד אמר, "כל המהפכות המדעיות החשובות ביותר  כוללות, בתור התכונה המשותפת היחידה שלהן, את הורדת היהירות של האדם כמרכז היקום."

לחילופין, מתברר שאנחנו כן המרכז. היכולת ליצור מודלים למציאות וירטואלית במוחנו שלנו, בשילוב עם אגודלינו הצנוע למראה, כבר מספיקים כדי להוליד דרך חדשה של האבולוציה: הטכנולוגיה. זה איפשר את ההתפתחות המתמדת בקצב מואץ שהחלה עם האבולוציה הביולוגית. זה יימשך עד שהיקום כולו יהיה על כפות ידינו.