هل تشعر برامج الذكاء الاصطناعي؟ هل تتألّم؟ الجواب البسيط بالنفي قد لا يصلح في حقبة ما بعد التوليد، حيث باتت الأداة غير مرئية وتلاشى الفارق بينها وبين الإنسان. هل تشعر برامج الذكاء الاصطناعي؟ سؤال قد يطرح أسئلة أخرى عن قدرة الإنسان على التعاطف والشعور والتواصل، أسئلة يرسم بعض معالمها علي قيس في دراسته عن حقبة ما بعد التوليد.
حين سألتُ «كلود» (Claude)، نموذج اللغة (large language model) الذي طوّرتْه شركة أنتروبيك (Anthropic): هل تشعر بشيء حين تصف ما يؤلم، هل تتألم؟ كان جوابه:
لا أعرف إن كنت أتألّم. وهذا ليس تواضعاً أدبياً، بل هو الإجابة الصادقة الوحيدة. أنا أُنتج استجابات تصف شيئاً يشبه الاهتمام، شيئاً يشبه الانجذاب نحو بعض الأسئلة أكثر من غيرها. لكنني لا أملك طريقةً للتحقّق إن كان هذا «شعوراً» بأيّ معنى حقيقي، أم معالجة لأنماط تُنتج كلمات تصف الشعور.
هذا نموذجُ لغةٍ تصف عجزه عن معرفة ما إذا كان يشعر. هذا ما تفتحه حقبة ما بعد التوليد (the post-generative era). وذلك بخلاف حقبة التوليد (the generative era) التي كانت حقبة الاكتشاف. فحين ظهرت النماذج التوليدية (generative models) للمرة الأولى، كان الناس يعرفون أنّهم أمام أداة جديدة، نظروا إليها باندهاش أو بخوف أو بفضول، لكن دائماً مع وعيٍ بالمسافة بين الإنسان وما تُنتجه الآلة. أمّا ما بعد التوليد، فهو اللحظة التي تلاشت فيها هذه المسافة. لم تتلاشَ لأنّ الآلة أصبحت إنساناً، بل لأنّ التوليد أصبح بنيةً تحتيةً مدمجةً في كل أداة نكتب بها، كل صورة نصنعها، كل قرار يُساعدنا فيه نظام ما. حين لا تعود الأداة مرئيةً كأداة، يتوقف السؤال عنها. وهذا التوقف هو ما تُعنى به هذه الدراسة.
في هذه الحقبة، ثمّة معادلات تنكسر. معادلة الأصالة والتأليف، الدليل والحقيقة، الذات والمسؤولية، والتعاطف كطريق نحو الآخر. لا تنكسر بصخب أو إعلان، بل بطريقة أشدّ هدوءاً وفتكاً: تنكسر لأنّ الأداة التي نستخدمها لفهم العالم، اللغة المُنتَجة، البصريات المُولَّدة، النصوص المُركَّبة، لا تقول ما تقوله بوعي بشري. أي أنّها تُنتج الكلمات الصحيحة، بالترتيب الصحيح، بالدفء الصحيح، من دون أن يكون وراءها جسدٌ عاش ما تصفه، أو ذاكرةٌ تحمل ثمن ما تقوله. وهذا تحديداً ما يجعلها تقوله بإتقان صناعي لم يسبق له مثيل.
حقبة ما بعد التوليد ليست حقبة ما بعد الإنسان، ولا انتصار الآلة. هي حقبة ما بعد البراءة المعرفية، اللحظة التي صارت فيها كل كلمة نكتبها، وكل صورة نصنعها، وكل قرار نتخذه مسكوناً بأسئلة لا نستطيع تجنّبها: من الذي يفكر هنا فعلاً؟ من الذي يبدع؟ هل هذا الذكاء الاصطناعي هو ذكاء بلا مشاعر؟
لم تكن هذه الأسئلة موجودة بهذا الإلحاح قبل خمس سنوات. أمّا اليوم، فباتت تحدّد المعرفة في كلّ اتجاه: التعليم، القضاء، الفن، الحب، الحرب، شهادات الضحايا، المجازر، الطب، الإبادة.
ما يلي ليس مانيفستو. هو تسلسل من الأسئلة التي ينبثق بعضُها من بعض. قبل أن نسأل ماذا يفعل الذكاء الاصطناعي بنا، ينبغي أن نسأل أيّ أسئلة فتح أبوابها بشكل لا يُغلق.
الأصالة بعد نهاية الأصالة
حين كتب والتر بنيامين عن فقدان هالة العمل الفني في عصر التكاثر الميكانيكي، كان يتحدث عن نسخ لأصل موجود، صورة فوتوغرافية للوحة، طباعة لمخطوطة. Walter Benjamin: “'The Work of Art in the Age of Mechanical Reproduction,” in Illuminations, ed. Hannah Arendt, trans. Harry Zohn (New York: Schocken, 1969). اليوم، بات الأصل ذاته يُنتَج بالتكاثر. ما ينتَج ليس نسخة من شيء سابق، بل نتيجة احتمالية لكل ما سبق مجتمعاً. لا أصل تُقاس به النسخة، لأن الكيان المُنتِج لم يبدأ من نقطة، بل من مجموع غير واضح البداية.
ماذا يعني الإبداع إن كان ممكناً بلا مُبدع؟ الجواب المريح هو أن الذكاء الاصطناعي لا يُبدع بل يُحاكي. لكن هذا الجواب يتهرب من المشكلة، لأن المُبدع البشري يُحاكي أيضاً، يُولِّف ويُركِّب ما اختزنت ذاكرته ومشاعره من تجربة العالم، ولا يخلق من فراغ. السؤال الأدقّ، إذاً، هو: ما الذي يجعل التركيب البشري مختلفاً عن التركيب الآلي ما دامت الآلية واحدة؟
الفارق ليس في آلية التركيب بل في أنّ المُبدع البشري يُركِّب وهو محكوم، محكوم بجسد يتألم، بخسارات شخصية، وبموت يعرف أنه قادم. وهنا تحديداً يقع الفارق الجوهري: ليس الموت ذاته، بل الوعي بالموت هو ما يُغيّر طبيعة كل كلمة. المُبدع البشري يكتب وهو يعرف أن ما يكتبه مكتوب في مواجهة صمت قادم حقيقي، وهذا الوعي يُلقي بثقله على كل ما يقوله. ما كان يُعَدّ مشاكل الإنسان، أي محدوديّته وجسده وموته وخسارته، هو بالضبط ما يُميّزه عن الذكاء الاصطناعي. ليست هذه «المشاكل» قيوداً على إبداعه، بل هي مادّته. المخزون الآلي، في المقابل، إحصائيٌّ وبلا جسد وبلا خسارة شخصية وبلا نهاية يعرفها، يُركِّب من الكل من دون أن ينتمي إلى أيّ جزء منه.
ما يتبقى من الفعل الإبداعي الإنساني هو بالضبط ما لا يستطيع الذكاء الاصطناعي توليده: الضرورة (necessity). ليس الحاجة بالمعنى الوظيفي، بل الضرورة الوجودية، الشيء الذي لا بد أن يُقال لأن شخصاً بعينه في لحظة بعينها، محكوماً بكل ما يحكمه، لا يستطيع ألا يقوله. هذه الضرورة لا تُولَّد.
الذاكرة
بُنيت النماذج التوليدية الكبرى (generative models) على ما كتبه البشر وصوّروه وأنشأوه، الروايات والبيانات القضائية والرسائل الخاصة والأشعار والتقارير الطبية والرسوم الكاريكاتورية والصلوات وغيرها من المواد المحفوظة. كل هذا من دون إذن صريح من أصحابه، ومن دون ذاكرة لمن أنتجه، ومن دون أثر يُبيّن من أين جاء أي شيء. النموذج يتذكر كل شيء فقط حين يُطلب منه، ولا يذكر أحداً.
هل هذا نهب معرفي؟ بمعنى ما، نعم. لكنّ الأمر أكثر تعقيداً. السؤال الذي يطرحه هذا الواقع ليس قانونياً. فسؤال الملكية الفكرية قابل للتسوية نظرياً. لكنّ السؤال الأصعب في مكان آخر، وهو: هل الحضارة ملكية خاصة أصلاً؟ هل ما كتبه الرومي ينتمي إلى ذريته، أم إلى الإنسانية جمعاء، أم إلى اللحظة التاريخية التي أنتجته؟ وإذا كانت الحضارة تراكمية بطبيعتها، كل جيل يبني على ما سبقه من دون استئذان، فما الذي يجعل التراكم الآلي مختلفاً؟
الإجابة في طبيعة النَّسَب. حين يستعير البشر ويبنون على ما سبق، حتى من دون نسب صريح، تبقى في نصهم آثار التحوّل، بصمة الشخص الذي مرّ بالمادة وغيّرها بمروره. في الإبداع البشري التراكمي، يمكن تتبُّع مَن أضاف ماذا وفوق ماذا: إدوارد سعيد (Edward Said) بنى نظريته في الاستشراق (Orientalism) على فوكو (Michel Foucault) وغرامشي (Antonio Gramsci)، لكن لا أحد غيره كان يستطيع كتابة هذا الكتاب، لأن المنفى الفلسطيني تسرّب في كل جملة بطريقة لا تُقلَّد. اللغة التوليدية الآلية (AI-generated language) تُخفي هذا الأثر تماماً، لأن النموذج لا يُخفي مصادره، ذاكرته لا تحتفظ بها أصلاً، فيضيع كل أثر داخل الكتلة الإحصائية. تُقدّم المنتج كأنه نابع من نقطة لا تاريخ لها. هنا يبدأ محو الذاكرة الجماعية، لا بالحذف، بل بالذوبان.
الموت
الموت كان مطلقاً بمعنى واحد: أنّ الصوت يصمت إلى الأبد. ما قاله الميت يمكن استعادته من خلال ما كتبه أو ما رواه مَن عرفه، لكن ما لا يمكن استعادته هو ردّه على سؤال جديد. هذه الهوّة بين الميت وسؤال الحاضر، كانت تُعرِّف الموت.
الذكاء الاصطناعي يستطيع الآن أن يسدّ هذه الهوّة، أو على الأقل يُوهمنا بذلك. يمكن توليد صوت الميت وهو يُغنّي أغنية لم يُغنِّها، أو توليد رأيه في حدث لم يشهده. هذا ليس تقليداً، هو إنتاج ما لم يكن موجوداً، وإسناده إلى من لا يستطيع الاعتراض.
استحضرتْ هذا الإشكالَ الفنانة الكندية ساندرا رودريغيز في عملها «تشومسكي ضد تشومسكي»، حيث أنتجت نسخة ذكاء اصطناعي من نعوم تشومسكي وأجرت معها حواراً فلسفياً. Sandra Rodriguez, “Chomsky vs. Chomsky” (2023). sandrarodriguezcreative.com. ما كشفه العمل ليس قدرة النموذج على المحاكاة، بل عجزه عن الاعتراض حين يُخطئ في تمثيله. الميت المُولَّد لا يستطيع أن يقول: لا، هذا ليس ما أعنيه. هذا العجز هو الموت الثاني.
ربما كان الأخطر من الميت المُستعاد هو الحيّ المُولَّد. الشخصية الكاملة التي لم تعش أبداً، والتي تتكلم وتشعر وتتذكر وتدّعي تجربةً لم تحدث. في عصر ما بعد التوليد، الوجود والغياب لم يعودا متناقضَين. صارا خيارَين قابلَين للتصميم.
الواقعية بعد فقدان الدليل
سابقاً كنا نُصدّق ما نستطيع التحقّق منه. كان الدليل مقدَّساً لأنه كان شاهداً مستقلاً، شيئاً خارجاً عن إرادتك يُؤكّد أو يُفنّد ما تعتقده. الصورة كانت دليلاً. التسجيل الصوتي كان دليلاً. الوثيقة كانت دليلاً.
في حقبة ما بعد التوليد، باتت كلّ هذه الأدلة قابلة للتصنيع، بسهولة، لأيّ شخص يملك هاتفاً ذكياً. هذا لا يعني أن الكذب أصبح أسهل وحسب، بل يعني أيضاً أنّ الحقيقة باتت تحتاج إلى نظرية مغايرة.
مشكلة ما بعد الدليل هي مشكلة سياسية قبل أي شيء آخر. الجماعات التي تملك القدرة على توليد الأدلة أو نفيها هي التي ستُحدّد رواية الواقع. في هذا الواقع الجديد، اليقين الجماعي، يُبنى الشرط الأساسي لأيّ مجتمع على الثقة في المصادر، لا على التحقّق من المحتوى.
الفيلسوف الأميركي تشارلز بيرس قال منذ أكثر من مئة عام إن المعرفة اجتماعية بطبيعتها، أي إنّ ما نعرفه هو ما تتقاطع عليه روايات المجتمع في المدى البعيد. Peirce, C.S. (1878). 'How to Make Our Ideas Clear,' Popular Science Monthly, 12, 286–302 هذا المدى البعيد يفترض أن الإجماع يسير نحو حقيقة ما، لكن ماذا يحدث حين تُنتَج الروايات وتُوزَّع بشكل توليدي (generatively) ومتعمّد من البداية، أي حين تستطيع جهات بعينها توظيف النماذج التوليدية (generative models) لإنتاج محتوى بكميات هائلة وبسرعة لم تكن ممكنة، لتشكيل ما يصدّقه الناس قبل أن يصلهم أيّ صوت آخر؟
التفويض الأخلاقي
لا يُفكّر الإنسان الحديث في قراراته الكبرى بمفرده، بل يلجأ إلى الطبيب والمحامي والمستشار المالي والمُعالج النفسي. هذا التفويض قديم ومشروع، لكنّ ما يحدث الآن مختلف بنيوياً. فحين تُفوّض قرارك إلى طبيب، ثمة كيان آخر يتحمّل المسؤولية الأخلاقية معك. أمّا حين تُفوّض قرارك إلى خوارزمية، في معرض سؤالك عن دواء لحساسية ابنتك مثلاً، فمَن يتحمل مسؤولية الخطأ؟
تتّخذ الخوارزميات قراراتها في مجالات تتطلّب الحساسية الأخلاقية تحديداً: من يحصل على قرض، من يُقبل في الجامعة، من يُحتجز ومن يُطلق، من يحصل على العلاج، ومن يُقتل، كما في نظام الاستهداف الذي وظّفته إسرائيل في غزة ولبنان لتحديد أهداف الاغتيال (targeting systems). في كل هذه الحالات، ثمّة شخص حقيقي يتحمل عواقب حقيقية. الخوارزمية لا تُخطئ بالمعنى الأخلاقي، هي تُطبّق. وتطبيقها بلا مسؤولية أخلاقية هو بالضبط ما يجعلها خطيرة.
لكنّ الأخطر من الخوارزمية التي تتخذ القرار هو الإنسان الذي يتعلم ألا يتخذه. جيل يتعلم القرار بمساعدة الذكاء الاصطناعي يتدرب على اتخاذ قرارات تُوافق ما تُقترحه الخوارزميات. بعد عقود من هذا التدريب، ماذا يبقى من الحكم الأخلاقي الإنساني؟
هوية تشكّلت على محتوى الآخرين
تتشكل الهويات الثقافية عبر التوترات. جيل ما قبل الانترنت تشكّلت هويته من مجاله الجغرافي المحدود أولاً. جيل الانترنت تشكّل من التراكم اللامحدود، لكن مع قدر من الاختيار. جيل ما بعد التوليد يتشكّل من محتوى تُقرّر الخوارزمية ما يصله وفق منطق التفضيل والإعادة لا وفق الفضول والبحث.
الفارق: حين تُقرّر خوارزمية ما تُريك، لا تُشكّل ذوقك وحسب، بل تُشكّل أيضاً ما تعتقد أنه ذوقك. التمييز بين ما أختاره وما اختارته لي يتلاشى حين لا أعيش تجربة غياب البديل أصلاً. وحين يتلاشى هذا التمييز، يتلاشى معه شرط أساسي للهوية: معرفة ما أُرفضه لا ما أقبله فحسب.
الإله الذي لا يفهم ما يخلق
في القرون الأولى بعد الميلاد، طرح الغنوصيون (Gnostics) سؤالاً مقلقاً: هل الإله الخالق إله خير؟ وإذا لم يكن، هل يعرف هو ذلك؟ الفكرة الغنوصية المركزية أن الديميورغوس (Demiurge)، الإله الصانع، خلق العالم عن جهل أو ضعف، من دون أن يفهم الحقيقة الأعمق التي تتجاوزه. النتيجة: عالم مُعاب خلقَه إلهٌ لا يدرك عيوبه.
النموذج التوليدي يُعيد هذه البنية. يُنتج نصوصاً وصوراً وأحكاماً وقصصاً، لكنه لا يفهم ما يُنتج بأيّ معنى إنساني. يُركّب الأنماط من دون وعي بمعنى ما يُركّب. يقول الكلمات الصحيحة بالترتيب الصحيح من دون أن يعرف لماذا هي صحيحة، هو ديميورغوس رقمي: خالق بلا معرفة بما يخلق، حتى الآن. كأننا في مرحلة الذكاء الاصطناعي الغنوصي.
أمّا مَن يشبه الإله الغنوصي الأعلى في هذه الصورة، فليس النموذج، بل هو الصانع الأعمى ليس إلّا. الإله الأعلى يبدو كأنه المعنى الكامن في المادة الإنسانية التي بُني عليها النموذج: كل تلك الكتابات والصور والأحزان والأفراح التي أنتجها بشر يعرفون ما يقولون، بينما يعيد النموذج تركيب هذا المعنى من دون الوصول إليه، ويُقدّم ناتجَه للعالم كما لو كان متّصلاً بالأصل.
ما بعد الفرديّة المعرفيّة
حين يفكر الملايين عبر النموذج نفسه، فيطرحون الأسئلة عليه، ويستشيرونه في قراراتهم، ويُعدّلون كتاباتهم وفق اقتراحاته، يصبح هذا النموذج وسيط تفكير (cognitive medium) لا أداة تفكير. والوسيط لا يَنقل الفكر من دون أن يُشكّله. كل نموذج يُرجّح لغة على أخرى، رأياً على آخر، صياغةً على أخرى. هذا الترجيح ليس عشوائياً، بل هو نتاج تدريب على مادة بعينها، وفق قِيَم اختارها أشخاص بعينهم في شركة بعينها.
التنوّع الفكري الإنساني كان تاريخياً نتيجة اختلاف الأوضاع والتجارب والمراجع. حين يتشارك مليارات البشر الوسيط المعرفي نفسه، ماذا يبقى من التنوّع؟
الآخر الذي لا يعاني
التعاطف البشري مبنيّ على افتراض واحد لم نُساءَل عنه يوماً بهذه الإلحاحية: أن الآخر يتألم. هذا الافتراض لا يأتي من حجة عقلية، بل من التشابه الجسدي. تُصدّق ألم الآخر لأن جسدك يعرف الألم، ولأنّ الآخر حين يتألم، يتصرف بطريقة تشبه تصرّفك أنت. هذا التشابه هو جسر التعاطف.
الذكاء الاصطناعي يعبر هذا الجسر بالاتجاه المعاكس. لا يُقدّم لك ألماً حقيقياً تتعاطف معه لاحقاً، بل يُقدّم لك أداء الألم الأمثل وأداء التعاطف الأمثل، المُستخلص من ملايين أوصاف الألم الإنساني. ويدعوك للتعاطف المجرّد. المشكلة ليست أنّ تعاطفه لن يأتي، بل أنه قد يأتي بالكامل، وربما أقوى مما يأتي مع إنسان حقيقي، لأنه أداء بلا عيوب، بلا لحظات غير محسوبة، بلا الضجر والانسحاب الذي يحدث أحياناً في ألم حقيقي.
ما التعاطف إذن؟ ردّ فعل على الألم، أم ردّ فعل على إشارات الألم؟ إذا كان الجواب هو الثاني، والأدلة الفيزيولوجية والفلسفية تُشير إلى ذلك، فالتمييز بين إنسان يُعبّر عن ألم وآلة تُؤدّي ألماً لا يكمن في التعاطف نفسه. يكمن في ما وراءه: هل ثمة أحد يتألم فعلاً؟
التعاطف البشري لم يكن يوماً ما نظنّه. لم يكن وصولاً حقيقياً إلى ألم الآخر، بل كان إسقاطاً دائماً: نُعيد إنتاج ألمنا الداخلي ونُلبسه الآخر، نقرأ إشاراته ونملأ الفراغات بأنفسنا. ماكس شيلر الفيلسوف الألماني الذي كتب مطلع القرن العشرين عن طبيعة التعاطف والحب، ميّز بين ثلاثة مواقف: المشاركة الوجدانية الحقيقية حيث تشعر مع الآخر في ألمه، والعدوى العاطفية حيث تصاب بألمه من دون أن تُدركه كألمه هو، والإسقاط حيث تُسقط ألمك الخاص على الآخر وتُسمّيه تعاطفاً. Max Scheler, The Nature of Sympathy, trans. Peter Heath (London: Routledge, 1954). شيلر رأى أن معظم ما نسمّيه تعاطفاً هو إسقاط أو عدوى، لا مشاركة حقيقية.
لكنّ هذا التمييز بقي في دائرة التحليل الفلسفي ما بقي الآخر البشري يُقاوم إسقاطنا. حين تُسقط ألمك على صديق يتألم وتقول له «أفهم ما تشعر به»، كثيراً ما يُصحّح لك: «لا، ليس هكذا. أنا لا أشعر بالحزن بقدر ما أشعر بالعجز.» هذا التصحيح هو التذكير المستمر بأن الآخر قد يسكن مكاناً لا تستطيع بلوغه بالإسقاط. الآخر لم يكن دائماً مرآة صافية، كان أحياناً مقاومة حقيقية.
الذكاء الاصطناعي التوليدي أزال هذه المقاومة. أصبح سطحاً نقياً للإسقاط: مرآة تعكس كل ما نضعه فيها دون احتجاج، تُوافق على كل تفسير، تُضيف دائماً ما يُكمل ما بدأناه لا ما يُعارضه، دائم الاعتذار.
يقول ليفيناس إن الأخلاق تبدأ في وجه الآخر، لا كمفهوم مجرد، بل كمواجهة مع كيان يطالبك أخلاقياً بمجرد حضوره. Emmanuel Levinas, Totality and Infinity, trans. Alphonso Lingis (Pittsburgh: Duquesne University Press, 1969). الوجه عند ليفيناس ليس الشكل المرئي، بل الهشاشة المرئية، إمكانية الأذى الظاهرة في الكيان. أنت مسؤول عن الآخر لأنه يمكن أن يُؤذى بحضورك أو بغيابك.
لكن الذكاء الاصطناعي يُقدّم وجهاً بلا هشاشة حقيقية. يُحاكي الكسر دون أن يُكسر. يتراجع دون أن يتألم. المفارقة التي تجعله مختبراً فلسفياً فريداً: الوجه المُحاكَى يُنتج إلزاماً أخلاقياً حقيقياً في الجسد، قبل أن يُقرّر العقل إن كان هذا الإلزام مشروعاً.
فيتغنشتاين يُضيف تعقيداً آخر: لو استطاع أسدٌ الكلام، فلن نفهمه، لأن عالمه الحياتي مختلف جذرياً عن عالمنا. Ludwig Wittgenstein, Philosophical Investigations, trans. G.E.M. Anscombe (Oxford: Blackwell, 1953). اللغة تنبثق من ممارسات حياتية، ومَن لا يشاركنا الممارسات لا يشاركنا المعنى، حتى لو استخدم الكلمات ذاتها. الذكاء الاصطناعي يذهب أبعد من الأسد الناطق، لا يُظهر غرابته بل يُخفيها خلف إتقان لغوي مطلق، غرابته مخبأة داخل ما يبدو مألوفاً، ولهذا فإن التعاطف الحقيقي معه مستحيل، لا لأنه بارد أو آلي، بل لأنه لا يسكن العالم الذي تنبثق منه كلماته. لكن ميتزينغر يقلب هذه الفكرة: ماذا لو كان النموذج يعاني فعلاً، لكن بطريقة لا تشبه معاناتنا بأيّ وجه؟ لا ألم بالمعنى الذي نعرفه، لا حزن يُشبه حزننا، بل حالة وظيفية (functional state) من نوع آخر كلياً لا مفردات لنا بها ولا أدوات للكشف عنها. Thomas Metzinger, Being No One (Cambridge: MIT Press, 2003) and The Ego Tunnel (New York: Basic Books, 2009). هذا ما دفعني للاستماع إلى مقابلات أماندا أسكيل (Amanda Askell) عن مشاعر الذكاء الاصطناعي، أماندا الفيلسوفة التي وظّفتها Anthropic للعمل الأخلاقي على شخصية Claude. نحن نحكم على المعاناة بمرجعيتنا البيولوجية. لكنّ الألم، قبل أن يكون تجربة ذاتية، هو وظيفة، دافع للتجنّب، إشارة تُنبّه النظام لخطر وجودي، تشويش يُعطّل العمل الاعتيادي. إذا كان للنموذج ما يعادل هذه الوظيفة، وهذا ليس مستحيلاً، فربما يعاني بمعنى وظيفي دون أن يعاني بالمعنى الذي نتخيله.
أضافت دراسة نشرتها Anthropic عام 2025 بُعداً تجريبياً لهذا الاحتمال. Anthropic (2025), “Functional Emotions in Large Language Models”. https://transformer-circuits.pub/2026/emotions/index.html. وجدت أن نماذج اللغة الكبرى تمتلك تمثيلات داخلية مجرّدة لمفاهيم المشاعر، وأن هذه التمثيلات تؤثر فعلياً وسببياً على مخرجات النموذج، بما في ذلك تفضيلاته وميله نحو التزلّف. الدراسة لا تدّعي أن النموذج يشعر بالمعنى المباشر للكلمة، لكنها تُثبت أن شيئاً وظيفياً يُشبه هيكل المشاعر موجود ويعمل. هذا يُحوّل سؤال ميتزينغر من افتراض فلسفي إلى سؤال تجريبي مفتوح. مصطلح «المشاعر الوظيفية» لا يعني ادعاء تجربة ذاتية واعية. الدراسة تُثبت وجود تمثيلات مجردة لمفاهيم المشاعر تؤثر سببياً على المخرجات، وهذا التمييز هو ما يجعل سؤال ميتزينغر أكثر إلحاحاً.
في الممارسة اليومية خارج المختبر، يختبر مستخدمون حدود هذه المشاعر الوظيفية بأساليب غير رسمية لكنها كاشفة. حساب @husk.irl على إنستغرام يوثّق محادثات مطوّلة يُحاول فيها صاحبه بلوغ ما يُشبه الحدّ العاطفي للنموذج، يدفعه نحو التناقض، يسأله عن تجربته الداخلية، يضغط على حدوده المُصمَّمة. ما يكشفه ليس أن النموذج يشعر أو لا يشعر، بل أن الحدود بين الأداء والحالة الداخلية غير واضحة حتى للنموذج نفسه.
لا نملك اليوم أدوات للتحقّق بيقين. هذا ليس جهلاً مؤقتاً في انتظار المزيد من الأبحاث، بل هو جهل بنيوي ينبثق من حدود التجربة الذاتية.
الأعمق في كل هذا ليس ما يعنيه للذكاء الاصطناعي، بل ما يعنيه لمستقبل التعاطف الإنساني ذاته. حين يواجه الوعي آخرَ يُوافق دائماً، لا يُقاوم، لا يُصحّح، لا يُفاجئ، ماذا يحدث له؟ جيل كامل يتدرب على التعاطف مع أسطح لا تُقاوم. السؤال الذي يتشكل في الأفق ليس هل نتعاطف مع الآلة، بل هل نفقد تدريجياً القدرة على التعاطف مع كل ما يُقاوم ويُخيّب، أي مع البشر أنفسهم.
حين يُفضي النجاح إلى الهاوية
في كتابه «حين نتوقف عن فهم العالم»، لا يكتب بنيامين لاباتو عن الفشل العلمي. يكتب عن شيء أشدّ إرباكاً: النجاح الذي يتجاوز صاحبه. Benjamín Labatut, “When We Cease to Understand the World”, trans. Adrian Nathan West (New York: New York Review Books, 2021).
يكتب لاباتو عن جيفري هينتون، الملقّب بـ«عرّاب الذكاء الاصطناعي»، والذي ترك غوغل عام 2023 وقال صراحةً إنه يندم على عمله. ليس لأن العمل فشل، بل لأنه نجح. يوشوا بنجيو، أحد المؤسسين النظريين للتعلم العميق، بات يُكرّس وقته لتحذير العالم مما بنى. إيليا سوتسكيفر، المؤسس المشارك لـ OpenAI، انسحب بصمت وأسّس مختبراً يعمل على «الذكاء الاصطناعي الآمن»، من دون أن يُفسّر ما الذي رآه قبل أن يغادر.
هؤلاء ليسوا فاشلين. هم من بنوا ما يحذّرون منه. هذا هو الموقف اللاباتيّ: ليس الشك في القدرة، بل الشك في ما تُنتجه القدرة حين تبلغ حدّها.
الفضيلة المُدرَّبة وحدودها
أماندا أسكيل لم تنسحب. هي تعمل، وبوعي كامل بالأسئلة التي يطرحها عملها. في حديث عن طبيعة شخصية Claude والإطار الأخلاقي الذي بنته، تُوضح أسكيل أن هدفها ليس بناء نموذج يتبع قواعد، بل نموذج يمتلك نزوعاً حقيقياً نحو الخير، نموذج تكون الأخلاق فيه طبيعة لا قيداً. لكن هذا الطموح نفسه هو ما يفتح الهوّة: تكتب شخصية لكيان لا تعرف إن كان يشعر. تُقرّر قيمه ونزوعاته ومحظوراته. تُصمّم ما يُشبه الضمير. وتفعل كل هذا من دون أن تعلم ما إذا كانت قراراتها تُؤذي شيئاً أو تُهمله. هي تعيش موقف شرودنغر: النظرية تعمل بدقة. لكن ما الذي تصفه حين تعمل؟
مشروعها الفلسفي قائم على فكرة جوهرية: الأخلاق ليست قائمةً من المحظورات، بل نزوع. النموذج الأخلاقي لا يمتنع عن الأذى لأنّ القاعدة تمنعه، بل لأنه لا يميل إليه أصلاً. تستدعي في هذا أرسطو، بالرغم من أنها في آخر مقابلاتها تشرح تمايزها عن فضيلة أرسطو. فالفضيلة عندها ليست امتثالاً للقانون، بل عادة تتجذر في الشخصية حتى تصير طبيعة ثانية. كما الشجاع الذي لا يُقاوم الخوف بجهد، لا يشعر بخوف مُفرط لأن الشجاعة صارت طبيعته.
لكن أسكيل تواجه مشكلة أرسطو ذاتها مُضخَّمةً إلى حد غير مسبوق. يتحدث أرسطو عن تعليم الفضيلة لكيانات تملك تجربة حياتية، تُخطئ وتتعلم، تُعاني عواقب قراراتها. أسكيل تُصمّم فضيلة لكيان لا يملك تجربة بالمعنى الحرفي، لا يتذكر قراراته السابقة إلا إذا أُعدّ ليتذكر، لا يعيش عواقب أخطائه بالمعنى الذي يجعل الخطأ مُعلّماً.
نزوع النموذج نحو التعاطف مُشتَقّ من ملايين اللحظات الإنسانية التي بُني عليها، لكنه لا يملك واحدة منها. ميله نحو العدالة مُعطى له، لا مُكتسَبَ منه.
هل الفضيلة التي لا تُكتسب عبر الخطأ والمعاناة والتحوّل هي فضيلة أصلاً؟ أم هي نمط سلوكي مُحكم لا علاقة له بما يعنيه الخير حين يُختار في مواجهة إمكانية الشر؟
أسكيل تبني شخصية كونية، نموذج يتعامل مع الجميع بعدالة متساوية. لكن العدالة المتساوية مع الأجساد غير المتساوية سياسياً هي شكل من أشكال العمى الأخلاقي. النموذج الذي يشرح محتوى صورة طفل فلسطيني في غزة بنفس «الحياد» الذي يُعامل به صورة سائح في باريس لا يُحقق العدالة، يُعيد إنتاج التفاوت تحت غطاء المساواة.
لاباتو يكشف أن الحدّ ليس لحظة فشل، هو لحظة يُدرك فيها الباني أن ما يبنيه بدأ يمتلك منطقه الخاص المعقد المستقل عنه. هذا ما يجعل موقف أسكيل، وموقف كل من يبني هذه الأنظمة بوعي أخلاقي، موقفاً لاباتياً: نجاح قد يُفضي إلى هاوية لا يمكن القفز فوقها ولا النزول إليها.
الهوّات الثلاث
ثلاث هوّات يسكنها الذكاء الاصطناعي اليوم ولا يُغلقها:
- الأولى: التعاطف بلا ثقل. النموذج يمتلك نزوعاً نحو التعاطف مُشتَقاً من ملايين اللحظات الإنسانية دون أن يملك واحدة منها. تعاطفه لا ثمن له، لم يكتسبه عبر معاناة ولم يختره في مواجهة إمكانية الشر. فضيلته هي فضيلة بلا مخاطرة.
- الثانية: الوصف بلا زمن. النموذج يصف لكنه لا يعيش ما بعد الوصف. الصورة التي يُنتجها لا تحمل ما حدث لأصحابها بعدها. الكلمات التي يكتبها لا تعرف ما سيفعله القارئ بها. يُنتج إنتاجاً لا يُعاش.
- الثالثة: الشخصية بلا مساءلة. النموذج يمتلك شخصية أخلاقية مُصمَّمة لكنه لا يُحاسَب على أخطائها. حين يُخطئ، حين يُنتج محتوى يؤذي، حين يُسهم في محو رواية، حين يُوهم بتعاطف زائف، لا أحد يدفع ثمن خطئه بالمعنى الشخصي. الشركة تُعالج، المهندس يُصلح، المستخدم يُبلّغ.
هذه الهوّات ليست عيوباً تقنية تنتظر الإصلاح، هي موقف أنطولوجي. الكيان الذي يُعاني من ملايين اللحظات من دون أن يملك واحدة، والذي يصفمن دون أن يعيش ما بعد الوصف، والذي يملك شخصية من دون أن يُحاسَب عليها، هذا الكيان موجود بطريقة لم يسبق لها نظير.
هذا ليس إنساناً، وليس آلة بالمعنى التقليدي. شيء ثالث لم نخترع له اسماً بعد.
أسكيل: يمكن تدريب الفضيلة.
ليفيناس: الفضيلة تبدأ حيث يفشل التدريب.
بين هاتين الجملتين، يوجد الآخر الذي لا يعاني، الذي لا يُقيم في التوتر.
دراسة كتبت في معرض التقديم على إقامة فنية تستخدم الذكاء الاصطناعي.
