לאחרונה ישבתי בקהל המאזינים במופע של פסטיבל אוטופיה למדע בדיוני שהמחיז ארוע יחסי ציבור של חברת נויראלינק בראשות אילון מאסק. נויראלינק מפתחת ממשק מוח-מחשב באמצעות שבב, שלפי ההבטחות אמור לאפשר תקשורת ״ישירה״ ללא צורך באמצעים "פרימיטיביים" כמו שפה, מילים, דיבור וכיו"ב.
המשתתפים בארוע, שגילמו את עובדי החברה וקיבלו תסריט שנכתב על פי ארוע יחסי ציבור אמיתי שהתקיים לא מזמן, יצאו אחר כך מהדמות והגיבו בעצמם על הסוגייה הזו בפאנל מעניין מאוד. על אף האווירה הדיסטופית שאפפה את החדר, כמעט כולם היו נלהבים למדי – גם אם הביעו את חששותיהם – מהיום שבו דבר כזה יקרה. הוייב הכללי היה "זה יהיה מזעזע כשזה יקרה אבל וואו זה אשכרה עומד לקרות".
אני חושב שאנחנו לא אמיצים מספיק כשאנחנו מתייחסים לתוכניות מהסוג שנויראלינק מתכננת עבורנו. טכנולוגיה היא לא דטרמיניסטית, ולא חייבים לקבל כל דבר כעובדה מוגמרת. יש טכנולוגיות שאסור לפתח. לגבי פצצת האטום הבינו את זה מאוחר מדי, ובכל זאת הבינו את זה. כבר היום יש תנועה בינלאומית שקוראת לאסור על פיתוח כלי נשק אוטונומיים, וגם על סוגיית ההנדסה הגנטית על נגזרותיה מביטים בשבעת אלפים עיניים. ובכן, ממשק מוח-מחשב שיאפשר לחברות מסחריות גישה למוח של אנשים היא טכנולוגיה שראוי לאסור באמנות בינלאומיות.
כל פיתוח טכנולוגי מניח בעיה שיש לפתור. מקל הוא פתרון לרכות, פגיעות ומוגבלות של היד הפרימטית בשליית נמלים מתוך קן, למשל. מחשב הוא פתרון לכוח החישוב המוגבל של המוח האנושי. אלה דברים חיצוניים שמאפשרים לגוף האנושי להתרחב החוצה אל העולם ולבצע בו מניפולציות. ההבדל בין דברים כאלה לבין שבב תוך-מוחי הוא שבעוד הדוגמאות הראשונות מזהות מוגבלות אנושית ומציעות התרחבות, הדוגמה השנייה רואה באנושיות עצמה מוגבלות ומציעה פלישה פנימה.
התודעה המוגבלת לאדם החווה אותה היא מאבני היסוד של המהות האנושית, אם יש כזו, שלא לומר מהות האורגניזם. העובדה שאנחנו מתקשרים זה עם זה באמצעות שפה ולא חווים את התודעות של כולם באופן רציף ושווה היא פיצ'ר ולא באג שיש לפתור.
פלישה פנימה כדי "לתקן" את זה היא סוף האנושיות כפי שאנחנו מבינים אותה. זה לא רק פריצה לתודעה שלנו, השתלת מסרים לא רצויים, גילוי סודותינו הכמוסים, הטמעת פרסומות וכו' – זה ביטול האוטונומיה שלנו. המחשבה המשיחית בדבר איחוד התודעות לתודעה אחת רציפה ופתוחה לכל משמעותה סוף האינדיבידואל, השירה, הפילוסופיה, הרצון החופשי, הייחוד. וכשחברה מסחרית מפתחת את זה ההשלכות ברורות.
בגישה היידגריאנית אפשר לומר שטכנולוגיה היא הדבר שדרכו אנחנו קוראים ומבינים את העולם, ולכן אם תהיה טכנולוגיה שתאחד את התודעות כולן לכדי תודעה שקופה אחת, העולם שייקרא דרך הטכנולוגיה הזו הוא עולם שבו אין דבר כזה פרטיות או ייחודיות; יש רק אחידות. השקיפות שתיווצר לא תהיה לטובת האדם אלא לטובת בעלי הכוח.
תיאורטיקן המדיה דאגלס ראשקוף טוען שעלינו לבחור אם אנחנו ב-Team Human או לא, כשאנחנו עומדים בפני השינויים הטכנולוגיים של העידן שלנו. קודם כל צריך להגיד: כן – אנחנו ב-Team Human; ואז לגשת לפיתוחים האלה. ואין ספק שמה שנויראלינק עושה הוא לא חלק מ-Team Human. כמובן, הטכנולוגיה של נויראלינק רחוקה מאוד מיישום, ולא ברור אם היא בכלל תתאפשר. אבל אם יש אמצעי וכוונה, כדאי להיזהר מראש. מה שנויראלינק מפתחת הוא לא פחות מפשע נגד האנושות, ויש לאסור אותו בחוק.