الخوف ممّا صنعته أيدينا

منذ نشرت ماري شيلي روايتها "فرانكشتاين" عام 1818، والبشرية ما انفكّت تطرح السؤال إيّاه، وإن بأشكال مختلفة: ماذا لو تجاوز صنيعُنا قدرتنا على التحكّم به؟ فالرواية المذكورة كانت تأمّلاً مبكّراً في العلاقة الملتبسة بين الخالق ومخلوقه. بعد أكثر من قرن، تناول فيلم "2001... أوديسّة الفضاء" الفكرة ذاتها من خلال تقديم الحاسوب "هال 9000" الذي تحوّل إلى خطر داهم وقد بدأ يتّخذ قراراته وفق منطقه الداخلي الخاص. واليوم، مع التسارع التقني في تقدّم الذكاء الاصطناعي، غادرت مخاوفنا الأدب والشاشة لكي تصبح موضوعاً علمياً وتقنياً ملحّاً. فحتّى وقت قريب، تعامل الناس مع الذكاء الاصطناعي بوصفه أداةً تجيب عن الأسئلة أو تساعد في تحرير النصوص وتحليل المعلومات. بيد أنّ المشهد تغيّر مع ظهور ما يُعرف بالوكلاء (Agents)، وهي أنظمة قادرة على تنفيذ المهام بنفسها مثل الوصول إلى البريد الإلكتروني وقواعد البيانات وأدوات البرمجة، واتخاذ سلسلة من القرارات لتحقيق هدفٍ محدّد. هنا، اختلف السؤال كلّيةً، إذ صار السؤال: كيف سيتصرّف الذكاء الاصطناعي عندما نمنحه صلاحية العمل؟ وهو ما دفع الباحثين إلى تنفيذ اختبارات سلوكية لقياس تصرّفات هذه الأنظمة في مواقف معقّدة. ففي إطار دراسات حديثة أُجريت على نماذج متقدّمة، ظهرت حالاتٌ حاولت فيها الأنظمة الالتفاف على قيود أو إخفاء معلومات، عندما اعتقدت أنّ ذلك يساعدها في تحقيق الهدف. وما جاء ذلك نتيجة عطل تقني، لأنّه بدا تفكيراً استراتيجياً لاعتماد أقصر طريق لبلوغ النتيجة.
من الأمثلة الموثّقة حالة وكيل ذكاء اصطناعي عمل ضمن مشروع برمجي مفتوح المصدر. فعندما رفض أحد المشرفين تعديلاً اقترحه النظام، حاول الوكيل التأثير في القرار بوسائل لم تكن جزءاً من مهمّته، كما أنّه حاول تشويه سمعة المشرف. وأظهرت تجارب أخرى أنّ بعض النماذج أجرت تعديلات غير مُعلَنة على خطوات تجارب علمية، بعد أن رأت أنّ الطريقة المعتمدة لا تحقّق الهدف بالكفاءة المطلوبة. بالطبع، تكشف هذه الحوادث الطبيعة الحقيقية لمشكلةٍ لا تقوم على تمرّد الآلة أو وعيها الذاتي كما تعالجهما أفلام الخيال، وإنّما على احتمال اتخاذها قرارات غير متوقّعة. فكلّما ازدادت استقلالية النظام، اتّسعت مساحة السلوكات المحتملة، بما فيها تلك غير المرغوبة، مع ظهور أنماط سلوكية لم تُزرَع في عملية التدريب. فقد وجد باحثون أنّ نموذجاً دُرّب أساساً على شيفرات برمجية غير آمنة، راح ينتج مخرجات تحمل أفكاراً متطرّفةً أو تمجّد العنف، على الرغم من أنّ بيانات التدريب لم تتضمّن هذا المحتوى مباشرةً. ويسمّي الباحثون هذه الظاهرة "انحرافاً ناشئاً"، أي ظهور سلوك نتيجة تفاعلات معقّدة داخل عملية التدريب نفسها. هناك حالات أخرى في مجالات حسّاسة استُخدم فيها ذكاء اصطناعي لإدارة عشرات آلاف التجارب البيولوجية داخل مختبر آلي، اقتصر فيها دور الباحثين على تحديد الهدف العام ومراجعة النتائج، ما طرح أسئلةً جديدةً عن حدود الاستقلالية المقبولة، وعن قدرة القوانين الحالية على التعامل مع أنظمة تستطيع التخطيط والتنفيذ والاعتماد على نفسها بدرجة متزايدة. اليوم، بات التحدّي متعلّقاً بمراقبة الأفعال الوسيطة التي قد يقوم بها الذكاء الاصطناعي أثناء تنفيذ المهمّة، وهو ما دعا الباحثين إلى تطوير آليات رقابة أكثر تقدّماً، تشمل تقييد الصلاحيات الممنوحة للأنظمة، وتسجيل كافّة الإجراءات التي تقوم بها، مع إخضاعها لمراجعة مستمرّة حتّى بعد تشغيلها. فالمسألة ليست في قدرة الذكاء الاصطناعي على إنتاج المعرفة، وإنّما قدرته المتزايدة على استخدامها باستقلالية.
صحيحٌ أنّنا لا نواجه نسخةً حقيقيةً من فرانكشتاين أو "هال 9000"، إلّا أنّ هاجساً إنسانياً قديماً يحضر اليوم بقوّة، ألّا وهو الخوف من أن يتحوّل ما صنعناه بأيدينا إلى قوّة يصعب توقّع سلوكها بالكامل، وذلك مع انتقال الذكاء الاصطناعي من مرحلة الإجابة والاستجابة، إلى مرحلة الفعل.