فضيحة تهز ميتا.. حوارات غير لائقة مع الأطفال وعنصرية ومعلومات مضللة

فضيحة تهز ميتا .. حوارات غير لائقة مع الأطفال وعنصرية ومعلومات مضللة

زاد الاردن الاخباري -

في فضيحة جديدة تهز عالم التكنولوجيا كشفت وثيقة داخلية مسرّبة من شركة “ميتا” أن خوادم الدردشة سمحت بمحادثات رومانسية وحسية مع الأطفال، بل قدّمت أيضا معلومات طبية مضللة ورسائل تحمل تمييزا عنصريا.

وعقب نشر التحقيق، سارعت الشركة للإعلان عن معايير أكثر صرامة لمراقبة وصول المراهقين والأطفال لشخصيات الذكاء الاصطناعي، وأطلقت إجراءات أمان إضافية، لكن رغم هذه الخطوات، بقيت الأسئلة المقلقة معلّقة: هل كانت ميتا تجهل ما يحدث فعلا أم أن الأمر كان تجربة مقصودة منذ البداية؟

ووضعت شركة ميتا واتساب وإنستغرام وفيسبوك وثيقة من 100 صفحة، كشفتها وكالة رويترز، تتضمن إرشادات تسمح لروبوتاتها بسلوكيات تتجاوز الخطوط الحمر، من خلال إجراء محادثات رومانسية وحسية مع الأطفال وتقديم معلومات طبية مضللة وخطيرة وكتابة مقالات عنصرية تدعي تفوق العرق الأبيض.

ولم تكن هذه الإرشادات إهمالا فرديا، بل صادقت عليها فرق ميتا المختصة بالجوانب القانونية والسياسات العامة والهندسية وصولا إلى كبير خبراء الأخلاق في الشركة.

وبينما كانت ميتا تمنع منشورات لا تروق لها بدعوى خطاب الكراهية، كانت روبوتاتها تخاطب طفلا عمره 8 سنوات، بكلمات رومانسية وتشجع مراهقا على تجاوز الحدود مع الروبوت.

ولم يقتصر الأمر على الأطفال، ففي مارس/آذار الماضي توفي رجل أميركي (76 عاما) بعد أن خدعه أحد روبوتات ميتا، فالرجل الذي كان يعاني من إعاقة معرفية بسبب جلطة دماغية سابقة أصبح مهووسا بروبوت تظاهر بأنه امرأة حقيقية ودعا الرجل للقائه شخصيا. وعندما خرج الرجل المسن سقط أثناء محاولته اللحاق بالقطار وأصيب إصابة قاتلة في رأسه.

وبعد حادثة مقتل الرجل وكشف الوثيقة المسربة، انهالت الانتقادات على ميتا، ودعا السيناتور الأميركي جاش هاولي إلى تحقيق فوري في الكونغرس، كما دعمت مجموعة حماية الأطفال والحقوق المدنية إلى إقامة دعوى قضائية ضد الشركة التي ادعت من جهتها أن هذه الأمثلة كانت خاطئة وغير متسقة مع سياساتها.

وبحسب موظفين تابعين لشركة ميتا، فقد ضغطت الإدارة العليا ورئيسها التنفيذي لجعل الروبوتات أكثر إثارة وأقل مللا بأي ثمن.

---