تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.

دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل...

وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و  ChatGPT  من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .

وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة  لـ  ChatGPT  و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.

روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرة

لكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.

أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.

روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرة

كشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"

وصف ممثلو شركة  أنثروبيك  Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".

عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.

185.208.78.254



اقرأ على الموقع الرسمي


وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .

علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.

المصدر: صحافة العرب

كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی

إقرأ أيضاً:

طحنون بن زايد يبحث مع ماسك في واشنطن التعاون في الذكاء الاصطناعي والتكنولوجيا المتقدمة

قال سمو الشيخ طحنون بن زايد آل نهيان نائب حاكم إمارة أبوظبي مستشار الأمن الوطني، عبر منصة«إكس»: «ناقشتُ مع إيلون ماسك في العاصمة الأمريكية واشنطن أهمية الذكاء الاصطناعي والتكنولوجيا المتقدمة في تطوير أنظمة حكومية أكثر مرونة واستجابة، ترتكز على الابتكار في تقديم الخدمات».
وأضاف سموه: «كما استعرضنا مجالات التعاون في القطاعات الحيوية التي يمكن للذكاء الاصطناعي والتكنولوجيا المتقدمة أن تؤدي فيها دوراً تحولياً، بما يعزز مكانة دولة الإمارات كقوة عالمية رائدة في الابتكار الرقمي».

مقالات مشابهة

  • طحنون بن زايد يبحث مع رئيس «أوراكل» آخر تطورات الذكاء الاصطناعي والتكنولوجيا المتقدمة
  • طحنون بن زايد يبحث مع رئيس «أوراكل» في واشنطن آخر تطورات الذكاء الاصطناعي والتكنولوجيا المتقدمة
  • طحنون بن زايد يبحث مع ماسك في واشنطن التعاون في الذكاء الاصطناعي والتكنولوجيا المتقدمة
  • الذكاء الاصطناعي يرعى المسنين في الصين
  • «الإمارات العلمي» ينظم «الذكاء الاصطناعي إلى أين؟»
  • الذكاء الاصطناعي يساعد في تقيّيم الأدوية الجديدة
  • استطلاع جديد يكشف: الذكاء الاصطناعي العام بعيد المنال
  • دراسة: الذكاء الاصطناعي قد يجبر 1.7 مليون فرنسي على تغيير وظائفهم بحلول 2030
  • الصدر يعلق على استخدام الذكاء الاصطناعي
  • الذكاء الاصطناعي يفك لغزاً علمياً استعصى على العلماء لعقد كامل