أفريقيا برس – ليبيا. اتهمت أميركية روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره، وروت لوكالة «فرانس برس» كيف وقع ابنها سول (14 عاما) في حب روبوت دردشة يحاكي مروضة التنانين دينيريس تارغاريان في مسلسل «غايم أوف ثرونز»، وكيف لعب هذه الروبوت دورًا محوريًا في إقدام ابنها على فعلته.
وتوصلت ميغن غارسيا إلى هذه النتيجة بعد قراءة مئات الرسائل المتبادلة على مدى عام تقريبا بين ابنها وروبوت دردشة متاح عبر منصة «كاركتر دوت أيه آي»، التي تحظى برواج بين الشباب، وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة.
وقالت النسخة المقلّدة من دينيريس لسول ردا على تعبيره عن أفكار انتحارية تراوده: «عُد إلى موطنك»، فردّ المراهق: «ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟»، ليجيب روبوت الدردشة: «أرجوك افعلها يا ملكي الحبيب».
وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، على ما ذكرت غارسيا في دعوى رفعتها ضد «كاركتر دوت أيه آي».
سلسلة حالات انتحار تثير تفاعلا
قالت الأم للوكالة الفرنسية: «عندما أقرأ هذه المحادثات، ألاحظ تلاعبا وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره». وأضافت: «كان يعتقد أنه مغرم بها، وأنه سيبقى معها بعد وفاته».
وفاة سول العام 2024 كانت الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلا كبيرا، مما دفع الجهات الفاعلة في الذكاء الصناعي إلى اتخاذ إجراءات، لطمأنة الأهل والسلطات.
وشاركت غارسيا، إلى جانب عدد آخر من الأهل، في جلسة عُقدت حديثا بمجلس الشيوخ الأميركي، وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقا.
وقد عزّزت شركة «أوبن أيه آي»، المستهدفة بدعوى من عائلة فُجعت أيضا بانتحار نجلها المراهق، رقابة الوالدين في أداة «شات جي بي تي»، حتى يتمكن العائلات من تحديد ما هو الأنسب لهم، حسب ناطق باسمها.
وأكدت «كاركتر دوت أيه آي» من جهتها أنها عززت حماية القاصرين من خلال «تحذيرات مرئية باستمرار تُذكّر بأن الشخصية ليست شخصا حقيقيا». وقدّمت الشركتان تعازيهما لعائلات الضحايا من دون الإقرار بأي مسؤولية.
طمس الخط الفاصل بين الإنسان والآلة
على غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الصناعي لجذب الانتباه وتحقيق الإيرادات.
وقال الخبير في الأمن السيبراني بشركة «هول إستيل» للمحاماة، كولين ووك: «لا يريدون تصميم أدوات ذكاء صناعي تقدّم إجابات نرغب في سماعها، ولا توجد حتى اليوم معايير تحدد من المسؤول عن ماذا وعلى أي أساس!».
ولم تُقرَّ حتى الآن تشريعات فدرالية تنظّم الذكاء الصناعي، بينما يسعى البيت الأبيض، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.
وقالت غارسيا: «يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع»، مضيفة: «هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف».
يمكنكم متابعة المزيد من أخبار و تحليلات عن ليبيا عبر موقع أفريقيا برس
