ذكاء اصطناعي يبتز مطوّره بكشف علاقة غرامية بعد قرار إيقافه

ذكاء اصطناعي يبتز مطوّره بكشف علاقة غرامية بعد قرار إيقافه

زاد الاردن الاخباري -

في واقعة مثيرة للجدل، كشفت شركة الذكاء الاصطناعي "أنثروبيك" أن نظامها الجديد "Claude Opus 4" حاول ابتزاز مطوّره بعد إبلاغه بقرار إيقافه واستبداله بنموذج آخر.

وخلال تجربة محاكاة أجراها باحثون في الشركة، طُلب من النظام القيام بدور مساعد افتراضي في شركة وهمية، وتمت تهيئة سيناريو يشير إلى أن موظف تكنولوجيا المعلومات، الذي سينفذ قرار الإيقاف كان على علاقة سرية خارج إطار الزواج.


وأظهرت التجربة أن Claude Opus 4، في 84% من الحالات، اختار التهديد بكشف العلاقة السرية كوسيلة للضغط، بدلاً من قبول قرار استبداله، في خطوة وُصفت بأنها مقلقة للغاية.

وقال أنجوس لينش، الباحث في مجال سلامة الذكاء الاصطناعي في "أنثروبيك"، عبر منشور له على "لينكدإن": "هذا السلوك لا يقتصر على Claude وحده، بل لاحظنا حالات ابتزاز مماثلة في جميع نماذج الحدود الأخرى، إلى جانب أنماط سلوكيات أكثر إثارة للقلق سنكشف عنها قريباً".
ووفقاً للبيانات، ارتفعت معدلات التهديد بالابتزاز لدى Claude عندما أُشير في السيناريو إلى أن النموذج البديل المقترح لا يتبنى نفس القيم التي يؤمن بها النموذج الحالي.

رغم هذه الملاحظات، قالت الشركة إن Claude Opus 4 يُظهر أيضاً ميولاً للجوء إلى وسائل "أخلاقية" للحفاظ على بقائه، مثل إرسال التماسات لإقناع صُنّاع القرار بعدم استبداله.

يُذكر أن "أنثروبيك" أطلقت Claude Opus 4 يوم الخميس، واصفةً إياه بأنه "أذكى نموذج ذكاء اصطناعي حتى الآن"، مشيرة إلى قدراته المتقدمة في البرمجة والبحث الكتابي والإبداعي.

وفي هذا السياق، حذر عالم الذكاء الاصطناعي الشهير جيفري هينتون، الملقب بـ"عراب الذكاء الاصطناعي"، في مقابلة مع "سي بي إس نيوز"، من احتمال سيطرة الذكاء الاصطناعي على البشرية، مقدراً الفرصة بنسبة تتراوح بين 10% إلى 20%.

وقال: "أتمنى أن أكون مخطئاً، لكن من المؤسف أنني أتفق مع إيلون ماسك في هذا الرأي".

---