مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

20 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • فيديوهات

    فيديوهات

  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

    اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

ترامب يفتح "الصندوق الأسود" ويكشف تفاصيل التفاهمات مع إيران في سويسرا

قاليباف: إدارة مضيق هرمز لن تعود إلى ما كانت عليه قبل الحرب وتم الإفراج عن 12 مليار دولار من أصولنا

لغز "قنديل البحر" في سماء إيران.. طيار أمريكي يروي ما رآه قبل إسقاط طائرته

نتنياهو يتحدث عن التحرر من التبعية لواشنطن ويطرح على ضباطه سؤالا وجوديا

ترامب: نغادر إيران الآن وهي دون قدرات صاروخية أو برنامج نووي

الحرس الثوري يحسم الجدل حول عدد السفن المسموح لها بعبور مضيق هرمز

رئيس وزراء قطر يطالب بـ"خط ساخن" ويحذر من انتحال صفة "الحرس الثوري"

ترامب: إيران تترنح والكونغرس يمد لها يد العون "في وقت الحرب"

بحضور ممثلين دوليين ‏وحقوقيين.. جلسة لمحاكمة أحد رموز نظام الأسد

السعودية تؤكد دعمها لسوريا وتوجه نداء باسم العرب

بوتين: روسيا مستعدة للرد السريع والفعّال على أي تهديد

زاخاروفا: اليورانيوم المخصص لأوكرانيا قد يصل إلى مصنع في دولة ثالثة

ريابكوف: مواجهة مباشرة مع الغرب ستقود إلى عواقب كارثية وروسيا ستتخذ إجراءات مضادة في بحر البلطيق

طهران ترد على تصريحات ترامب حول "تحول هدف الحرب إلى إثراء المزارعين الأمريكيين"

ضغوط من داخل الليكود ومخاوف من فقدان السلطة.. هل دخل نتنياهو أخطر أزماته السياسية؟