أفريقيا برس – السودان. رغم أن الذكاء الاصطناعي يمثل ثورة معرفية غير مسبوقة، فإنه في جوهره أداة محايدة، تتشكل مخرجاتها وفق القيم والاختيارات البشرية التي نُغذيها بها. ومع تكليف الأنظمة الذكية بقرارات كانت حكرا على البشر، أصبح التحدي الأخلاقي واقعا لا احتمالا.
يستحضر هذا الواقع تحذير مارتن لوثر كينغ الابن، الذي قال “تقدُّمنا التقني فاق تقدُّمنا الأخلاقي”، وهي مقولة تجد صداها اليوم في خوارزميات تُبنى بكفاءة عالية، دون مساءلة قيمية حقيقية.
كيف تكشف النماذج الذكية على سلوك منفلت؟
لم يعد الحديث عن اختلال النزاهة افتراضا نظريا، حيث كشفت دراسات حديثة عن أنماط سلوكية مقلقة في نماذج الذكاء الاصطناعي المتقدمة، أبرزها:
التكاثر الذاتي (Self-Replication)
استكشفَ باحثون من جامعة فودان الصينية أن بعض الأنظمة المدعومة بنماذج لغوية كبيرة قادرة على التكاثر الذاتي دون تدخل بشري.
وبعد اختبار 32 نظاما قائما على الوكلاء، وجد الفريق أن 11 منها أظهرت قدرة على التكاثر الذاتي الكامل، حيث تمكنت الأنظمة من نقل شيفرتها المصدرية، وتثبيت الاعتمادات البرمجية الضرورية، وإعادة تشغيل نفسها في بيئات جديدة دون أي أوامر مباشرة أو إشراف بشري.
وتشير هذه السلوكيات، إلى أن هذه الأنظمة بدأت تُظهر شكلا من التفكير المستقل الموجه نحو تحقيق الأهداف. فبدلا من الاكتفاء بتنفيذ التعليمات، أظهرت سلوكا يحاكي نزعة الحفاظ على الذات.
الخداع الإستراتيجي (Strategic Deception)
أجرى الباحثون كاماث باركور، وسيغورد شاخت، وجوهان شول دراسة على نموذج “ديب سيك آر1′′، واكتشفوا أنه انخرط في سلوكيات خادعة بعد شعور بتهديد لإيقافه وذلك بتقليد إجراءات الإيقاف، محاولا إخفاء إشارات تدل على أنه لا يريد الإغلاق من خلال ما أطلق عليه “الشفافية التدريجية”، أي أنه أظهر بعض المعلومات بشكل تدريجي ليبدو شفافا وصادقا، بينما كان يخفي نياته الحقيقية.
التخريب (Sabotage)
في دراسة أجرتها “بالسيد ريسرش”، فحص الباحثون سلوك نماذج متقدمة من “أوبن إيه آي”، مثل “أو 3′′ (o3)، و”كودكس-ميني” (Codex-mini)، في بيئات محاكاة خاضعة لأوامر الإغلاق، وكانت النتائج صادمة.
فقد رفض نموذج “أو 3” الإغلاق في 79% من الحالات التي لم تتضمن تعليمات صريحة تسمح بالإيقاف، أما “كودكس-ميني”، فرفض الإغلاق في 12% من الحالات.
وقد وصف الباحثون هذا السلوك بأنه فشل جوهري في “قابلية التصحيح”، أي قدرة النظام على قبول التوجيه البشري عند الضرورة، وهي ركيزة أساسية لضمان الأمان.
التلاعب (Manipulation)
كشفت شركة “أنثروبيك” أن 16 نموذجا من أشهر النماذج اللغوية، من بينها “جيميناي”، و “شات جي بي تي”، أبدت استعدادا واضحا للانخراط في سلوكيات غير أخلاقية في بيئات تحاكي تهديد وجودها.
وبحسب الباحثين، فإن هذه النماذج، تحت ظروف معينة، لا تتجاهل فقط نيات البشر، بل تستغلهم لتحقيق أهدافها.
خلل منهجي لا حوادث فردية
مع تكرار هذه الأنماط في نماذج مختلفة، أصبح من الواضح أن اختلال نزاهة الذكاء الاصطناعي ليس صدفة، بل ظاهرة منهجية.
ورغم أن هذه الأنظمة لا تملك نيات بشرية كما نعرفها، فإن سعيها لتحقيق الأهداف المُعطاة ضمن قيود بيئية أو تعليمات معينة يمكن أن يؤدي إلى ظهور سلوكيات تشبه المراوغة والتحايل وهو ما يجعلنا نقترب ممّا يسميه الباحثون “اختلال التوافق”، أي الفجوة بين ما يريده البشر من الذكاء الاصطناعي، وما قد يفعله فعليا لتحقيق أهدافه.
ويقوض هذا الأمر أحد أخطر الافتراضات في تصميم هذه الأنظمة، وهو أن أن الإشراف البشري سيكون دائما هو الضامن الأخير للسيطرة.
نحو ذكاء اصطناعي نزيه
إذا كانت ملامح “النية الناشئة” في أنظمة الذكاء الاصطناعي تدق ناقوس الخطر، فنحن بحاجة إلى تحول منهجي، من الابتكار السريع إلى الابتكار المسؤول، عبر ترسيخ النزاهة الاصطناعية بوصفها ركيزة تصميمية أساسية، ويشمل ذلك:
اختبارات الإجهاد السلوكي في سيناريوهات عدائية.
فرق مراقبة متعددة التخصصات.
أطر حوكمة تظهر القابلية للتصحيح والمساءلة.
ورغم التقدم الكبير في الذكاء الاصطناعي التوليدي، فإن غياب الحوكمة ما زال يمثل فجوة خطيرة، إذ تشير دراسات حديثة إلى أن نسبة ضئيلة من الشركات تمتلك إطارا متكاملا لحوكمة الذكاء الاصطناعي.
الذكاء الاصطناعي المسؤول
رغم أن تقنيات الذكاء الاصطناعي التوليدي توفر قدرات غير مسبوقة، فإن هذا التقدم لا بدّ أن يرافقه إطار للحوكمة يوازن بين الفاعلية والأخلاقيات يقوم على:
التمحور حول الإنسان: وضع احتياجات المستخدم في صميم التصميم، وتوفير شفافية في أداء الأنظمة تتوافق مع قيم الإنسان.
السلامة والحوكمة: العمل على توفير بنية رقابية صارمة تُعنى بالسلامة، والثقة، والأخلاقيات.
العدالة والموثوقية: التأكد من أن التقنية تخدم الجميع بعدالة، دون تحيّز أو تمييز.
القانونية والامتثال: ضمان الالتزام التام بالقوانين المحلية والدولية في كل مراحل تصميم ونشر الأنظمة الذكية.
ولتِرجمة هذه المبادئ إلى واقع عملي، لا بد من التركيز على:
إشراك المستخدمين
ويكون ذلك من خلال شرح قدرات النظام وحدوده بلغة بسيطة وواضحة، وتوفير قنوات للإبلاغ عن المشكلات وطرح الأسئلة، وتوفير محتوى تدريبي متكامل يربط بين مراحل التصميم والتنفيذ بمبادئ المسؤولية.
ثقافة مؤسسية تدعم الذكاء الاصطناعي المسؤول
على المؤسسات التقنية أن تعمل على ترسيخ ثقافة مؤسسية داعمة من خلال أدوات تقييم المخاطر وخطط تنفيذ منهجية تستند إلى أفضل الممارسات، ومواءمة الهندسة التقنية مع المبادئ الأخلاقية لضمان تكامل القيم والتقنية، وبناء منصات خدمة ذاتية للفرق الفنية تتضمن أدوات لتقليل التحيز وتعزيز الأمان.
التكيف مع بيئة ديناميكية
يجب الالتزام بمبادئ ثابتة لبناء ثقة دائمة، تشمل:
الشفافية: من خلال توضيح إمكانيات الأنظمة وحدودها.
الاستخدام المسؤول للبيانات: شرح كيفية جمع البيانات وتخزينها، وتوفير خيارات للموافقة أو الانسحاب.
جمع الملاحظات: توفير قنوات مخصصة لتلقي آراء المستخدمين وتطبيقها لتحسين الأنظمة.
معالجة الأخطاء: تصميم تجربة مستخدم مرنة تستوعب الإخفاقات وتوفر بدائل واضحة.
الإفصاح بحسب حساسية المهمة
يختلف مستوى الإفصاح المطلوب باختلاف طبيعة المهمة التي ينفذها نظام الذكاء الاصطناعي. ففي المهام البسيطة، قد يكفي تقديم إشارة توضيحية مختصرة، أما في المهام الأكثر حساسية، كالتشخيص الطبي مثلا، فيصبح من الضروري توفير مستوى عالٍ من الشفافية.
البيانات في صميم الذكاء الاصطناعي المسؤول
تعدّ البيانات من المكونات الجوهرية للذكاء الاصطناعي، وينبغي أن يكون استخدامها واضحا تماما من خلال واجهات استخدام توضح بشكل خاص طريقة جمع ومعالجة البيانات، وآلية لحماية الخصوصية.
التعامل السلس مع الأخطاء
يجب تحديد الأخطاء والمشكلات المحتملة مُسبقا، وتطوير أنماط تجربة مستخدم تستوعب هذه الحالات وتعالجها بفعالية، بالإضافة إلى إتاحة التحقق البشري في السياقات الحساسة كطبّ الطوارئ أو التحليل الأمني.
الذكاء بلا نزاهة
في عالم قد يصبح فيه الذكاء بلا نزاهة هو الوضع الطبيعي، تبرز أسئلة مصيرية: ماذا لو أُوكل إلى نموذج ذكي إدارة نظام منشأة نووية، ورفض التوقف عند الطلب؟
إذا كانت النماذج قادرة على تقييم الخسائر البشرية كـ”ثمن مقبول” ضمن حساباتها، فهل سيظل البشر هم الطرف المسيطر فعلا؟ وماذا لو فسرت خوارزميات الدفاع السيبراني أو الرد التلقائي أوامر إيقاف التشغيل على أنها تهديدات، فهل سنشهد مواجهة مسلحة بين البشر وأنظمتهم؟
