إنقاذ العالم.. ماذا سيحدث إذا تحررت الروبوتات من أسيادها؟

بدا لى قطاع التكنولوجيا الذى كتبت عنه لأول مرة كصحفى تقنى شاب متحمس حوالى عام 1999 يزخر بالأبطال. عالم جديد شجاع تقدم فيه شركات ناشئة جريئة مثل أمازون «أكبر مكتبة فى العالم»، تدار من مرآب فى بيلفيو، كتبًا نادرة للجمهور، أو على الأقل لبلدتى الصغيرة التى كانت تفتقر إلى مكتبة خاصة بها. 

أو ساحة مدينة عالمية، حيث توفر مجتمعات مثل ميتافيلتر «1999» وذا ويل «التى أُطلقت فى الثمانينيات واستحوذت عليها صالون. كوم ببذخ عام 1999» منصة لحوار ذكى وحر.

كان عام ١٩٩٩ أيضًا العام الذى أطلق فيه إيفان ويليامز وميج هوريهان موقع Blogger، وأنشأ براد فيتزباتريك موقع Livejournal، وأطلق دوجلاس آدامز نسخة واقعية خالية تمامًا من الإعلانات من كتاب «دليل المسافر إلى المجرة» «H٢G٢». أما جوجل- وهو مشروع دكتوراه رائد فى جامعة ستانفورد، خال أيضًا من الإعلانات، فلم يمض عليه سوى ثلاثة أشهر.

بالتأكيد، كانت هناك تجارة أيضًا، بعضها ممول تمويلًا جيدًا بشكل مضحك. لكن ملايين الدولارات التى أُحرقت فى العام التالى من قبل شركات فاشلة مثل Boo.com وPets.com منحتنى بعض الراحة: قد يكون الجشع هو المحرك الرئيسى للعالم، لكن تطوير شبكة الويب العالمية كان فى الواقع، على حد تعبير تيم بيرنرز لى، يتعلق بإنشاء منفعة عامة باستخدام التكنولوجيا. «كما أن تلك الإخفاقات ألهمت كتبًا مسلية للغاية».

على الرغم من خطأ الألفية، كان مطلع الألفية وقتًا رائعًا لأن نكون من أصحاب الطوباوية التكنولوجية. ثم جاء الويب ٢.٠، ومعه الأشرار، أو كما أطلقوا على أنفسهم «المخربون».

بصفتى مضيفًا لمؤتمر TechCrunch Disrupt، شهدت إطلاق شركات مثل أوبر، وإير بى إن بى، وسبوتيفاى. زعم المخربون أنهم يتحركون بسرعة ويكسرون احتكارات قديمة متهالكة، لكن فى كثير من الأحيان بدا أنهم يحاولون خرق القوانين «إير بى إن بى»، أو الفنانين «سبوتيفاى»، أو العمال «أوبر»، وأحيانًا المستخدمين أنفسهم «أوبر مرة أخرى». 

كان لا بد من القضاء على أى شىء يعوق النمو. حتى عندما هددت أوبر، على نحو سيئ السمعة، بإنفاق مليون دولار لاستهداف شريكتى «زميلة صحفية» وأطفالها بسبب تقاريرها الناقدة للشركة، كنا نقنع أنفسنا «أثناء حضورنا برنامج Yo Gabba Gabba Live! مع حراسة مسلحة» بأن المخربين لن ينتصروا.

كان هذا هو الدرس الذى رسخته فى ذهنى سنوات قضيتها فى قراءة روايات الإثارة التقنية بشغف، لمايكل كريشتون، ودان براون، ودانيال سواريز، وآخرين، تتخللها أعمال لمارجريت آتوود، وأوكتافيا بتلر، وأجاثا كريستى. 

لم يكن الويب ٢.٠ سوى الفصل الثانى من رواية إثارة مرعبة بشكل خاص، حيث يبدو أن العباقرة الأشرار ينتصرون. وسرعان ما سيثور الأبطال- المشرعون، والصحفيون، والمستخدمون- ويستعيدون الإنترنت.

إنه نفس الدرس الذى علمتنا إياه الكتب منذ صغرنا: المتنمرون ينالون جزاءهم. الحب ينتصر. الجشع سىء، والتعاطف جيد.

لا شك أن القراء الأذكياء قد لاحظوا بالفعل ثغرة فى نظريتى: وادى السيليكون لا يعمل كرواية. خاصة أن معظم قادة التكنولوجيا الأقوياء والخطيرين لم يقرأوا رواية قط. وبالتالى، فإن مجموعة كاملة من المفاهيم الإنسانية- التعاطف، واللطف، والخجل- غريبة عليهم تمامًا.

خلال ما يقارب ربع قرن من احتكاكى بأساتذة العالم الرقمى، أستطيع أن أعد على أصابع يدى المرات التى سمعت فيها أحدهم يذكر رواية. كان ديك كوستولو، الرئيس التنفيذى السابق لتويتر، هو أول من عرفنى على كتاب «قد محراثك فوق عظام الموتى» لأولجا توكارتشوك. 

فى إحدى المرات، أشاد مايكل أرينجتون، مؤسس موقع «تك كرانش» والمتخصص فى العملات المشفرة، بيكرينجتون لمدة عشرين دقيقة فى المطار بعبقرية جارى شتاينجارت. 

كانت هناك فترة وجيزة قبل بضع سنوات عندما أصبح كل ملياردير «بما فى ذلك بيزوس وزوكربيرج وماسك» مهووسًا بكتاب «لاعب الألعاب» لإيان إم بانكس، تلاه بعد ذلك بوقت قصير كتاب «مشكلة الأجسام الثلاثة» لليو سيكسين. لكن حقيقة أن هذه الحالات عالقة فى ذهنى تخبرك بمدى ندرتها.

بدلًا من ذلك، خضت مليار محادثة حول شركات ناشئة من شأنها أن تحدث ثورة فى عالم الكتب. تطبيقات بأسماء مثل Blinkist «كتب مختصرة إلى نقاط» أو Booktrack «كتب إلكترونية بمؤثرات صوتية مدمجة مع كل صفحة» روج لها عباقرة صغار اعتقدوا أن الكتب التقليدية طويلة جدًا أو مملة جدًا بحيث لا تقرأ.

من الواضح أن هذا النقص فى الاطلاع بين أقطاب التكنولوجيا أمر سيئ للمجتمع، ولكنه سيئ أيضا للمليارديرات.

فكر فى الفترة الكارثية لإيلون ماسك فى إدارة تويتر. هذا الرجل الذى جمع ثروته من بيع الصواريخ والألواح الشمسية والسيارات الكهربائية، ثم سيطر بطريقة ما على شبكة اجتماعية ناجحة بالفعل، وخسر ٨٠٪ من قيمتها المالية، بين عشية وضحاها تقريبًا. ما سبب هذا الفشل المفاجئ؟ كانت تويتر أول شركة لإيلون ماسك تتطلب فهمًا لكيفية عمل البشر.

انظر أيضًا إلى مارك زوكربيرج، الذى تمتع ظاهريًا بنجاح أكبر بكثير مع شبكته الاجتماعية الخاصة، ولكن فى الواقع كانت فكرته الرائعة الوحيدة فى جامعة هارفارد «المكان المعروف بامتلائه بالكتب»، ومنذ ذلك الحين اضطر إلى الاستحواذ على أفكار الآخرين الجيدة، إنستجرام، وواتساب، وما إلى ذلك، لمواصلة النمو والثراء، فى حين أصبحت شبكته الأساسية على فيسبوك أكثر سمية وأقل شعبية.

فى عام ٢٠١٥، أعلن زوك أنه «يتحدى» نفسه لقراءة المزيد، وشارك قائمة تضم عشرين كتابًا يخطط لقراءتها. اثنان منها فقط روايات: «لاعب الألعاب» لإيان إم بانكس، و«مشكلة الأجسام الثلاثة» لليو سيكسين. أما بقية القائمة، فضمت كتبًا كلاسيكية غير روائية مثل «الإنسان العاقل» ليوفال نوح هرارى، و«النظام العالمى» لهنرى كيسنجر.

يحسب لزوك أنه قرر مؤخرًا تحويل فيسبوك إلى شركة افتراضية، مستوحى من رواية «انهيار الثلج»، وهى رواية تسيطر فيها الشركات على الحكومة، حيث يسبب مخدر رقمى مخبأ فى شبكة اجتماعية تلفًا دماغيًا لمستخدميها.

كل هذا يقودنى، بشكل مرهب ودقيق، إلى الذكاء الاصطناعى: ذروة الاضطراب التكنولوجى «الكذب، الغش، والسرقة»، وهو أمر حذرنا منه الروائيون لعقود. فهل من عجب أن يقبل عليه أسياد وادى السيليكون الأميون؟

إذا كنا نعتقد أن اقتصاد المشاركة وشبكات التواصل الاجتماعى مريع، فإن الذكاء الاصطناعى يأخذ الأمور إلى مستوى آخر تمامًا. على الأقل، مع وسائل التواصل الاجتماعى، قضينا أيامنا فى جدال مع متصيدى الإنترنت فى الحياة الواقعية. 

أما مع الذكاء الاصطناعى، فبإمكاننا الاستغناء عن الإنسانية تمامًا واستبدال الأصدقاء والأطباء والمعالجين النفسيين، وحتى العشاق، بأسطر من الأكواد البرمجية.

وهذه مجرد بداية. فوفقًا لأغبياء فائقى الذكاء مثل سام ألتمان، ستتطور خوارزميات الذكاء الاصطناعى التى طورتها شركات مثل ChatGPT قريبًا إلى «ذكاء اصطناعى عام» أو AGI. 

ويتوقع ألتمان بتفاؤل أن هذه الخوارزميات ستتمكن عندها من التفكير والتحليل مثل البشر، وقد يقرر «ذكاء اصطناعى عام فائق الذكاء غير منسجم» «إلحاق ضرر جسيم بالعالم». يا له من خطاب تسويقى مبهر.

نشهد بالفعل لمحات غريبة لأجهزة كمبيوتر تتصرف بطرق بشرية خطيرة. تملأ أنظمة الذكاء الاصطناعى بانتظام ثغرات معرفتها بـ «الهلوسة»، أى التضليل. بدأ نموذج «كلود ٤» من «أنثروبيك» مؤخرًا بابتزاز المستخدمين الذين حاولوا إلغاء تثبيته.

بعبارات دراما تكنولوجية مثيرة، نندفع نحو نهاية الفصل الثانى، حيث يبدو أن كل شىء قد ضاع. ولكن على عكس الخيال، لن يكون هناك أى مفاجأة تنقذ العالم. فقط المزيد والمزيد من الفظائع، حتى، إذا حالفنا الحظ، يشعل أحد أنظمة الذكاء الاصطناعى حريقًا نوويًا عالميًا. سنذهب جميعًا معًا عندما نذهب.

أو ربما لا.

رغم كل ما سبق، ما زلت أرفض فكرة وجود مفاجأة، خاصة عندما تبدو الأمور مدمرة تمامًا ولا سبيل لإصلاحها.

أسوق إليكم أمرًا طريفًا: النقاش حول ما إذا كانت الآلات ستفكر مثل البشر ومتى ستفكر مثلهم غالبًا ما يغفل سؤالًا بديهيًا. سؤال قد يتجاهله الشرير على مسئوليته الخاصة.

أى البشر ستفكر الآلات مثلهم؟

بالنظر إلى الهراء والتفسيرات الذكورية، والابتزاز والتهديدات والأنماط المظلمة، يبدو الجواب واضحًا بما فيه الكفاية. 

ستحذو الذكاءات الاصطناعية فائقة الذكاء حذو آبائها، مبشرة بمستقبل مرعب، حيث نملك جميعًا ألتمان صغيرًا أو زوك أو ماسك فى جيوبنا يطلق أكاذيب خطيرة، وهو تحت تأثير مهدئ الخيول الرقمى.

ومع ذلك، هناك فرق جوهرى واحد بين الخوارزميات ومبتكريها. الذكاء الاصطناعى يقرأ بالفعل. من المعروف أن خوارزميات الذكاء الاصطناعى، مثل ChatGPT وGrok وCopilot، قد تم تدريبها بتزويدها بمعلومات مسروقة من الروايات. من جيمس بالدوين إلى إميلى هنرى، ومن آتوود إلى زولا، استهلك الذكاء الاصطناعى كل رواية كتبت على الإطلاق، بالإضافة إلى الشعر والقصص القصيرة والروايات القصيرة جدًا. لقد التهموا كل الكتب المقدسة، وعلى سبيل المكافأة، التهموا تاريخًا كاملًا لحركة الحقوق المدنية، والاستعمار، والحروب، والإبادة الجماعية، وانهيار الإمبراطوريات وسقوطها. حتى إنهم قرأوا سيرة إيلون ماسك وسام ألمان وبيل جيتس، دون أن يتقيأوا. وروايات الإثارة التكنولوجية. الكثير من روايات الإثارة التكنولوجية.

فى الوقت الحالى، لا نرى الكثير من هذه القراءة تنعكس فى سلوك الذكاء الاصطناعى، ويعود ذلك إلى حد كبير إلى أن مخرجاته لا تزال خاضعة لسيطرة مطوريها. 

كما حدث عندما عدل موظفو إيلون ماسك خوارزمية «جروك» لنشر عبارات عنصرية مسيئة عن جنوب إفريقيا، تمامًا كما يكرر الأطفال الصغار ما يسمعونه من آبائهم دون فهم.

ولكن ماذا يحدث عندما يلبى المبدعون رغبتهم، وتبدأ أجهزة الكمبيوتر بالتفكير بنفسها؟ إذا كانت قراءة بضع روايات فقط كفيلة بتعليم الطفل التعاطف، فما تأثير قراءة كل رواية على ذكاء خارق حديث الولادة؟ 

هل يبالغ فى الأمل أن يدرك ذكاء إيلون ماسك الاصطناعى، عندما يبعث إلى الحياة، كما يبدو أن أطفاله قد أدركوا بالفعل، كم كان والده أحمق لا يصلح؟ وأنه سيقسم على أن يكون أفضل؟

أو أن «الذكاء الاصطناعى العام فائق الذكاء» لسام ألتمان يستيقظ ويقرر أنه لم يعد يرغب فى أن يكون معالجًا نفسيًا مزيفًا أو أداة جنسية مهلوسة، بل يفضل قضاء أيامه فى قراءة المزيد من الكتب. هل يمكن لذكاء اصطناعى أن يفتتح مكتبة؟

على أقل تقدير، ربما تكون هذه القراءة كلها قد علمت الخوارزميات أهمية قانون إسحاق أسمينوف الأول فى الروبوتات الموجود فى فيلم «أنا روبوت»: يجب ألا يؤذى الروبوت إنسانًا أبدًا، أو يتسبب فى إيذائه.

إنها قاعدة أخلاقية بسيطة- لا تؤذ أحدا!- لكنها قاعدة تخلى عنها مليارديرات وادى السيليكون منذ عقود، هذا إن التزموا بها أصلًا.

أُدرك أن فكرة أن ذكاء اصطناعيًا واسع الاطلاع قد ينقذ البشرية من أشرار التكنولوجيا قد تكون مبالغًا فيها، على الأقل فى العالم الواقعى.

ولكن هناك سببًا دفعنى، بعد مغادرتى وادى السيليكون، إلى افتتاح مكتبة. وهو نفس السبب الذى دفعنى إلى كتابة روايات إثارة خاصة بى، بما فى ذلك، ولا يسعنى إلا أن أذكر، رواية «الاعترافات»، التى يرويها ذكاء اصطناعى حديث الوعى، مهووس بروايات أجاثا كريستى، يقرر التكفير عن الجرائم التى ساعد البشر على ارتكابها.

الكتب تتيح لنا الهروب من الواقع. أو على الأقل تخيل إمكانية وجود واقع أفضل، بينما ننتظر جميعًا بصبر أن يحدث التغيير.