مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

33 خبر
  • مونديال 2026
  • العملية العسكرية الروسية في أوكرانيا
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • مونديال 2026

    مونديال 2026

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • جرائم العقيد جيكوفيتش

    جرائم العقيد جيكوفيتش

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

واشنطن تكتشف سر الصواريخ الإيرانية المناورة وتستخلص العبر من ضربة الأردن

بينها السعودية والبحرين.. تحذير أمريكي عاجل من السفر إلى 15 دولة في الشرق الأوسط

الجيش الأمريكي يحدد القوة الإيرانية التي قتلت جنوده في الأردن ويخصص اليوم الثامن لقصفها (فيديو)

ترامب يعلق على مقتل الجنود: لن نسمح لإيران بامتلاك سلاح نووي.. ولا أكترث بتخليها عن اتفاق التفاهم

رسالة إيرانية للسفن في مضيق هرمز تحذر من الانصياع لـ"تغريدات المتهورين"

الحرس الثوري يعلن استهداف 4 سفن تحت الحماية الأمريكية في مضيق هرمز

القيادة المركزية الأمريكية: مقتل جنديين وفقدان ثالث في هجوم إيراني على الأردن

تقرير يكشف تفاصيل هجمات إيرانية على الأردن أسفرت عن مقتل وإصابة جنود أمريكيين وإحداث دمار

هجوم إيراني متزامن على قاعدتي "العديري" و"علي السالم" الأمريكيتين في الكويت (فيديو)

ترامب يبحث ضرب موقع نووي إيراني وطهران تحذر من رد مدمّر

تقرير عبري: امتلاك مصر منظومات "إس 400" الروسية يهدد إسرائيل

مستشهدا بآية قرآنية.. الحرس الثوري يوجه تحذيرا لدول المنطقة من هجمات جديدة

فيديو.. انفجارات ضخمة تهز أربيل والسليمانية ودهوك وسط تضارب المعلومات بشأن الأهداف

الحرس الثوري يؤكد مقتل جنود أمريكيين باستهداف تجمع لهم في الكويت

الدفاع الروسية تعلن مواصلة تدمير موانئ أوكرانيا وسفنها ولوجستيات وإمدادات قوات كييف (فيديو)

موقع متخصص ينشر فيديو يزعم أنه للحظة سقوط صاروخ على قاعدة الأمير سلطان بالسعودية (فيديو)

سوريا.. توغل إسرائيلي في ريف القنيطرة وسقوط قذيفتين دون تسجيل إصابات

طائرات التزود بالوقود التابعة لسلاح الجو الأمريكي تحلق في سماء الخليج

الحرس الثوري: دمرنا مستودع الزوارق الأمريكية المسيّرة ومركزا رئيسيا للذكاء الاصطناعي في البحرين

الكويت.. مشاهد غير موثقة لـ"إطلاق قوات أمريكية صواريخ "أتاكمس" نحو إيران"

أسير إسرائيلي سابق يكشف عن حديثه مع عنصر من "حماس" عن ميسي ويهاجم مدرب منتخب مصر