الفيلسوف الفرنسى إريك سادان: الذكاء الاصطناعى كارثة حضارية مغلّفة بقشرة الحداثة

- المجتمع لا يستفيق دائمًا إلا بعد فوات الأوان

- كل ما يُقال عن عالم أفضل وأكثر سهولة بفضل الذكاء الاصطناعى يتجاهل ما يهدده من تدمير للتواصل الاجتماعى والكرامة الإنسانية والحرية وملكاتنا الفكرية

- فقدان الوظائف والعزلة الاجتماعية والتبعية العاطفية لدى المراهقين ليست سوى بداية عواقب الذكاء الاصطناعى

طوّر الفيلسوف الفرنسى إريك سادان، أحد أبرز الأصوات المناهضة للتغير التكنولوجى المنفلت من عقاله، على مدار سنوات مشروعًا فكريًا نقديًا حافلًا بالعناوين اللافتة والتحليلات المهمة للمستقبل، مستندًا إلى الفكر الفلسفى والاجتماعى للقرن الماضى، ليصل، عبر نحو عشرة كتب، إلى خلاصة لاذعة؛ لقد أصبحنا حمقى، ونحن نمضى فى طريقنا لنصبح أكثر حماقة. فنحن، خلافًا لما يُصوَّر أحيانًا، لا نواجه خطر ذكاء اصطناعى فائق سيبث الرعب فى نفوسنا، على غرار نظام «سكاى نت» فى فيلم المدمّر «Terminator»، وإنما سنهزم بفعل كسلنا نحن، الذى سيدفعنا فى نهاية المطاف إلى إلقاء أسلحتنا الفكرية والإبداعية والاستسلام للذكاء الاصطناعى التوليدى.

قبل عقد من الزمن على صدور كتاب شوشانا زوبوف «عصر رأسمالية المراقبة» عام 2020، كان إريك سادان قد حذّر بالفعل من أنماط السيطرة الاجتماعية الناشئة عن التقنيات الرقمية، وذلك فى كتابه «المراقبة الشاملة: بحث فى أشكال السيطرة الجديدة».

أما أحدث أعماله، فهو كتاب «صحراء أنفسنا»، وهو دراسة قاتمة للمستقبل الذى نشيّده اليوم؛ مستقبل كان مصممًا وموجودًا من قبل داخل البيانات والأُطُر الاحتمالية للخوارزميات. إنه عالم يفتقر إلى الحياة، وتفوح منه رائحة الماضى والموت، وقد بدأ كل شىء فى 30 نوفمبر 2022، مع ظهور «شات جى بى تى»، وفق رؤيته. 

فى هذا الحوار المنشور فى صحيفة elpais يتحدث الفيلسوف الفرنسى عن المستقبل القاتم الذى يقودنا إليه الذكاء الاصطناعى، بينما يقدم وعوده بحياة رغدة وأكثر سهولة، ويوضح سبب اعتقاده بكون الذكاء الاصطناعى كارثة تهدد الحضارة الإنسانية.

■ إذن، هل بدأت الكارثة المروعة فى ٣٠ نوفمبر ٢٠٢٢؟ 

- عادةً ما أنام هادئًا كالأطفال، لكننى فى ذلك اليوم لم أنم طوال الليل. بل إن الأيام التى تلت ذلك كانت أسوأ. كل أولئك الناس كانوا يقولون إنه أمر رائع وفائق الجمال، ولم أكن أستطيع أن أفهم كيف لا يرى أحد كارثةً حضاريةً وشيكة؟. من الغريب مراقبة ظاهرة مثل الذكاء الاصطناعى التوليدى مغلفةً بهذا القدر من قشرة الحداثة والفائدة العملية، دون تحليل عواقبها الفورية بالغة الخطورة. وكلما طال انتظارنا، زادت الأمور تفاقمًا.

■ أنت ترى أنه كان ينبغى حظره؟ 

- منذ البداية. لكن ما حدث كان العكس تمامًا؛ فقد طاف «سام ألتمان»، الشريك المؤسس لشركة «أوبن إيه آى» فى جولة من المحاضرات واللقاءات، واستقبله رؤساء الدول بحفاوة بالغة وفرشوا له السجاد الأحمر. وكان رد الفعل- بما فى ذلك رد فرنسا عبر دعمها لشركة «ميسترال»- هو إقحامنا جميعًا فى هذا السباق نحو «صحراء أنفسنا».

هناك الكثير من الكلام الفارغ والسخيف الذى يُقال عن الذكاء الاصطناعى، مثل: «سنعيش فى عالم أفضل»، و«سيصبح كل شىء أسهل...» على أى أساس يُقال هذا؟ أنا أحلل الأمر استنادًا إلى مبادئ أساسية؛ كالتواصل الاجتماعى، والكرامة الإنسانية، والنزاهة البشرية، والحرية، وتجسيد ملكاتنا وفكرنا.. وكل هذه المبادئ ستُدَمر. وإذا نظرنا إلى العواقب الحالية وتلك التوقعات المستقبلية، فسندرك أن الأمر فى غاية الخطورة.

■ ما العواقب التى ستترتب على ذلك؟

- هناك نوع من الذكاء الاصطناعى بدأ تطويره فى العقد الأول من القرن الحادى والعشرين كان يحلّل الظواهر فى العالم الواقعى لحظة بلحظة، ويخرج بنتائج تساعد على تفسير مواقف معينة. ومن أمثلته تطبيق «ويز» الخاص بالمرور، فقد كان يجمع قدرًا من المعلومات والتفاصيل لا يمكن لأى إنسان بمفرده أن يجمعها.

لكن الأمر لم يقتصر على ذلك، فتطبيق «ويز» يقترح أيضًا سلوك طريق بعينه دون غيره. وللمرة الأولى، أصبحنا نتلقى توجيهات بشأن الطريقة التى ينبغى أن نتصرف بها. هكذا بدأت التكنولوجيا تفرض علينا تصورًا معينًا لما يجب فعله.

بالطبع، ليست كل النتائج سلبية. ففى صناعة الطيران، تتيح هذه التقنيات ضبط الخصائص الديناميكية الهوائية بدقة أكبر، وفى صناعة الأدوية، تساعد على تحسين الجزيئات، لكنها تُفضى، فى مجالات مثل الإدارة، إلى آثار غير مقبولة.

كان ينبغى أن يخضع كل ذلك لإطار قانونى وسياسى واجتماعى، لكن هذا الإطار لم يُطوَّر، ثم ظهر، قبل ثلاث سنوات، نوع جديد من الذكاء الاصطناعى، هو الذكاء الاصطناعى التشغيلى.

■ هو الأسوأ، أليس كذلك؟

- نحن نتحدث عن أنظمة تتولى تنفيذ مهام كانت حتى وقت قريب تستدعى تشغيل ملكاتنا الفكرية والإبداعية، وهى جوهر الحضارة فى بُعدها الحقيقى. لا يمكن الدفاع عن الذكاء الاصطناعى التوليدى.

■ ناقشت الحكومة الفرنسية حظر استخدام الأطفال دون الخامسة عشرة وسائل التواصل الاجتماعى. يبدو أننا دائمًا ما نتحرك بعد فوات الأوان.

- يريد الرئيس الفرنسى إيمانويل ماكرون تنظيم هذا المجال الآن، لكنه منح هذه المنصات، حتى وقت قريب، كل المزايا الممكنة. لقد بدأت هذه المنصات بالظهور عام ٢٠١٠، وبعد خمسة عشر عامًا، نعترف بحجم الكارثة. حين يتعلق الأمر بالقضايا الرقمية، لا يستفيق المجتمع دائمًا إلا بعد فوات الأوان.

■ هل خسرنا بالفعل أجيالًا من الشباب؟

- نحن نرى عواقب الذكاء الاصطناعى التوليدى بالفعل؛ فقدان الوظائف، والعزلة الاجتماعية، والإضرار بصورتنا عن أنفسنا، وهناك أيضًا التبعية العاطفية لدى المراهقين الذين يتحدثون مباشرة إلى الذكاء الاصطناعى التوليدى، الذى يخبرهم بالحقيقة فى كل شىء، فيتحول بالنسبة إليهم إلى مرشد نفسى، وكل هذا ليس سوى البداية.

■ نحن نتحدث إلى الذكاء الاصطناعى، ونطلب منه المشورة، ونجرى معه محادثات عاطفية لكن اللغة التى يستخدمها، وإن بدت مماثلة للغتنا، مختلفة عنها.

- هذه أنظمة تحلّل المتن الرقمى بأكمله، من كتب المكتبات ومقالات الصحف إلى بيانات الإنترنت، لتكشف عن القوانين الدلالية، وتبنى مسارات شكلية باستخدام الإحصاء والمعادلات والصيغ الرياضية.

إنها لغة تفوح منها رائحة الموت؛ لأنها تعمل وفق منطق الترابط الإحصائى. فهى تحلّل البيانات كلها، وتعرف أن كلمات معينة ستأتى بعد كلمات أخرى. فى الذكاء الاصطناعى، يتكرر كل ما حدث من قبل على الدوام، إنه يستجيب لمنطق الامتثال والانتظام. وهذا هو النقيض تمامًا للغة البشرية، التى تعمل من خلال تداعى الأفكار، فأنا لا أعرف أى كلمة سأستخدم بعد الكلمة التى أنطق بها الآن؛ لأن اللغة البشرية تعتمد على أفكارنا، وهى فريدة من نوعها، فلا أحد يسلك المسار نفسه الذى يسلكه الآخرون.

■ لعل هذا ما يميّز الحرية الإنسانية؟

- بالتأكيد. فمن ناحية، لدينا لغة ميتة، متحللة، محكومة بالمعادلات الرياضية، ولدت من رحم الرأسمالية اللغوية. ومن ناحية أخرى، لدينا لغة تنفتح على لا نهائية عصيّة على التحديد، وتعبر عن حريتنا وتفرّدنا.

وهذا التحول الذى نعيشه سيغيّر العلاقات الشخصية أيضًا، التى ستتراجع أكثر فأكثر لصالح نظام يدّعى الإحاطة بكل شىء ومعرفة كل شىء.

فى الانتخابات المحلية الأخيرة فى فرنسا، اكتُشف أن بعض المرشحين ورؤساء المحليات كانوا يكتبون خطاباتهم باستخدام «شات جى بى تى». هل تدرك مدى خطورة ذلك؟

■ يوحى الانطباع العام بأن الثقافة التى ينتجها الذكاء الاصطناعى ستكون أشبه بالوجبات السريعة والتبغ والسكر؛ أى منتج تجارى موجّه إلى الفئات المحرومة التى لا تستطيع تحمّل كلفة الأصيل والحقيقى. إنه تمايز اجتماعى واقتصادى: الواقع بما فيه من عيوب للأغنياء، والذكاء الاصطناعى للفقراء.

- أنت محق، لكن التمايز سيكون بين الكسالى وأولئك المتحمسين لاستخدام ملكاتهم وقدراتهم. وقد نجد أشخاصًا من هذه الفئة بين الأقل حظًا أيضًا، مثلما قد نجد أثرياء يختارون هذا الطريق بدافع الكسل واللامبالاة، لكن التمييز بين العالمين لن يكون سهلًا؛ فنحن نشهد نشأة عالم الصورة المتخيَّلة، وسيُنتج كل طرف صورًا تتوافق مع وجهة نظره.

■ سيكون تأثير ذلك هائلًا فى قطاعى الإنتاج السمعى البصرى والثقافى؟

- بالتأكيد. الذكاء الاصطناعى سيجتاح المسلسلات والأفلام، وسيكون لدينا ممثلون وديكورات وإضاءة ومكياج وأزياء مولّدة بالذكاء الاصطناعى، نتجه نحو زوال جماعى لمهن بأكملها؛ كالمونتير، وفنان المكياج، والمخرج.

إننا نمضى بخطى حثيثة نحو ما أسميه «التخليق الذاتى»؛ أى إنتاج أعمال تفصيلية مصممة خصيصًا لتعكس ذواتنا وحدها، مثل «الموسيقى الذاتية» أو «الكتاب الذاتى». فبدلًا من أن نخرج لاكتشاف عوالم جديدة، سنكتفى بصناعة سردياتنا وخيالاتنا الصغيرة بأنفسنا. وهذا بمثابة إعصار مدمر سيعصف بعالم الثقافة من أساسه.

■ ستنتهى وظائف، لكن ربما تنشأ صناعة جديدة، وطريقة أخرى لفهم العمل، أقل استنزافًا لحياتنا.

- تأسس المجتمع على مفهوم جوزيف شومبيتر عن «التدمير الخلّاق» فبعض التطورات التكنولوجية تقضى على وظائف، لكنها تؤدى، على المدى المتوسط أو الطويل، إلى ظهور أنماط جديدة من العمل، وهذا بالضبط ما حدث عندما ظهر «قطاع الخدمات» فى السبعينيات والثمانينيات؛ فقد تحولت المهام العضلية والشاقة إلى الآلات، وأصبح نحو ٨٠٪ من الناس يعملون فى وظائف تعتمد بالأساس على تشغيل العقل والملكات الإبداعية، كالمحاماة، والترجمة، والهندسة المعمارية.

لكن الفارق هذه المرة مع الذكاء الاصطناعى أننا لن نجد قطاعًا جديدًا لنلجأ إليه. فكر فى عملك صحفيًا؛ العمل الذى تعشقه وتجد فيه اعترافًا مجتمعيًا وقيمة.

■ إذا كانت هناك تكنولوجيا تنجز المهام الآلية أو الروتينية بكفاءة تفوق البشر بكثير، فلماذا نعارضها؟

- لا يمكننا حظرها أو تنظيمها، لكن يمكننا الدفاع عن قيمة عملنا. أعلم أن معيارًا واحدًا هو الذى يحكم كل شىء: الإنسان بوصفه متغيرًا فى معادلة حسابية. ستنجز الأنظمة العمل بموثوقية أكبر، وبسرعة أعلى، وبتكلفة أقل.

لكن هناك معارف ومهارات لا يمكن تعويضها، والمشكلة أننا نتجه نحو عالم يلجأ فيه البشر إلى أنظمة الذكاء الاصطناعى طلبًا للإجابات.

بعد عام من إطلاق «شات جى بى تى»، قال سام ألتمان لهؤلاء الحمقى السعداء الذين كانوا يصفقون له: اهدأوا، فهذا لا يُقارن بما هو آتٍ. إنه يتحدث عن مساعدين خارقين، وسيُفضى ذلك إلى عالم يُستبعد البشر من تنظيمه بصورة متزايدة.

■ يقول المروّجون لهذا العالم إننا سنحصل فى نهاية المطاف على نوع من الدخل الأساسى مقابل ألا نفعل شيئًا.

- هذا رائع! هل يبدو لك هذا مستقبلًا مذهلًا إلى هذا الحد؟ البشر كائنات مبدعة، وكل ما نريده هو التعبير عن قدراتنا.

■ نحن فى مرحلة تشبه ما كان عليه الله فى اليوم السادس من عمله. لقد خلقنا ذكاءً على صورتنا ومثالنا، ولم يبقَ أمامنا سوى أن نستريح ونستمتع بعطلة يوم الأحد.

- بالتأكيد، لكن جمال يوم الأحد يكمن فى أن يوم الإثنين يأتى بعده. تخيّل أن يصبح كل يوم هو الأحد، إلى الأبد، وفوق ذلك كله، أن يتكفّل أباطرة التكنولوجيا بتمويل هذه العطلة. أفضّل أن يكون أطفالى مبدعين؛ فهذا هو المستقبل.

■ لدىّ ابنتان، إحداهما فى الثالثة والأخرى فى الثامنة. هل تعتقد أن بإمكانهما النجاة من هذه العاصفة الهوجاء؟ وماذا يمكننا أن نفعل؟

- ينبغى أن يكون المستقبل جماعيًا، سواء فى العمل أو فى أوقات الفراغ. إن أولى نتائج الليبرالية ليست انعدام المساواة، وإنما موت الروح. إذا أردت أن ترى الجحيم، فاذهب إلى بعض أماكن العمل. الناس يُصابون بالاكتئاب ويفقدون صوابهم، لم يسبق أن بلغ الشعور الجماعى بالتشبّع والإنهاك هذا القدر من الانتشار، ولا أن اشتدت الرغبة فى فعل شىء مختلف إلى هذا الحد.

■ ما الذى ينبغى أن يتعلمه أطفالنا لتجنّب هذا الموت وهم أحياء؟

- الحِرفة، والصنعة اليدوية. انظر، لقد وُجد هذا التقابل بالفعل خلال الثورة الصناعية؛ بين كارل ماركس، من جهة، وويليام موريس، من جهة أخرى. دعا ماركس إلى استعادة السيطرة على وسائل الإنتاج، لكن ذلك أدى إلى تفاقم الكوارث البيئية وانتشار العمل على خطوط التجميع. أما موريس، وهو شخصية استثنائية، واشتراكى كان من رواد حركة الفنون والحِرَف، فقد رأى أن على الإنسان أن يكون مبدعًا. ويمكن تحقيق ذلك من خلال إتقان الصنعة، والتميز فى الأداء، وإنتاج أعمال فريدة تحمل توقيع صانعها.

علينا أن ندافع عمّا تحمله دواخلنا. صحيح أننا نتجه نحو عالم يسير بسرعتين مختلفتين: عالم مؤتمت وعملى، وعالم آخر سيقول فيه بعض الناس إن للإنسان فرادة لا يمكن اختزالها، وإن الأنظمة لا تستطيع معالجة كل شىء، وهذا ما ينبغى أن ندافع عنه.

■ لا يبدو أن هناك مجالًا كبيرًا للأمل؟

- يكمن الأمل فى جيل أطفالنا، الذين سيختارون، عندما يكبرون، طريقًا آخر، كما حدث فى فيلم المصفوفة «The Matrix» ستأتى تلك اللحظة، وستأتى على أيدى بعض الأطفال الذين لم تفسدهم هذه المنظومة بعد. لكننا خسرنا بالفعل كثيرين منهم؛ أطفالًا يمضون يومهم كله على «تيك توك»، ولا يعرفون حتى كيف يكتبون. إنهم روبوتات لا تستجيب إلا للإشارات والمحفزات، أجساد بلا استقلالية.

■ هل يمكن للذكاء الاصطناعى أن يستقل بذاته ويُخضعنا لسيطرته، مثل «سكاى نت» فى فيلم المدمّر «Terminator»؟

- هذا هراء، ووهم من أوهام الخيال العلمى الطفولى، ورؤية مراهقة تُسقط الصفات الإنسانية على الآلات. ما أحدثك عنه أسوأ بكثير؛ إنه التخلى عن ملكاتنا الأساسية. نحن مهددون على جميع المستويات، وكل تهديد يدفع البشرية إلى التراجع عن ممارسة ما يمنحها عظمتها. تخيّل عالمًا بلا كتّاب، بلا مدارس، بلا فنانين، هذا هو ما يوشك أن يندثر، وأؤكد لك أن ذلك أسوأ بكثير. 

■ ألا تستخدم أيًّا من أدوات الذكاء الاصطناعى التوليدى؟

- آلات القتل تلك؟ لا، شكرًا. أنا أحب الحياة. كتابة جملة واحدة أمر صعب، لكنه يمنح سعادة لا توصف. وأرى شبابًا بدأوا يرفعون أصواتهم ويرفضون هذه الأدوات. أعتقد أنه سيكون بيننا أبطال فى حياتهم اليومية، وآخرون عبيد لكسلهم، وهؤلاء سيشهدون تحطيم فرادتهم باسم حقيقة مُصطنعة.