تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
بكين تدرج الذكاء الاصطناعي للطلاب من المرحلة الابتدائية
تعتزم المدارس الابتدائية والثانوية كافة في بكين تقديم حصص تعليمية حول الذكاء الاصطناعي اعتبارا من العام الدراسي المقبل، على ما ذكرت وكالة أنباء الصين الجديدة (شينخوا).
وحظيت صناعة الذكاء الاصطناعي في الصين باهتمام دولي هذا العام بعد أن أطلقت شركة "ديب سيك" DeepSeek نسخة جديدة من روبوت المحادثة العامل بالذكاء الاصطناعي في يناير، ما أحدث موجة صدمة عبر الأسواق العالمية.
وأثار برنامج "ديب سيك" إعجاب خبراء الصناعة بقدرته الواضحة على منافسة أو حتى تجاوز قدرات المنافسين الغربيين مثل "تشات جي بي تي"، بتكلفة أدنى بكثير.
وذكرت وكالة "شينخوا" أن المدارس في العاصمة ستخصص ما لا يقل عن ثماني ساعات من دروس الذكاء الاصطناعي لكل عام دراسي بدءا من الفصل الدراسي الذي يبدأ في أوائل سبتمبر.
ويمكن للمدارس أن تدير هذه المواد كحصص مستقلة أو أن تدمجها في مواد دراسية قائمة أساسا مثل تكنولوجيا المعلومات أو العلوم.
وأفادت لجنة التعليم التابعة لبلدية بكين في بيان أنه "سيتم تقديم أساليب تدريس مبتكرة، باستخدام أجهزة مرافقة وأدوات مساعدة بحثية بالذكاء الاصطناعي، وغيرها من برامج المساعدة الذكية لتسهيل التعلم من خلال الحوار بين الإنسان والآلة".
وأشارت إلى أن بكين تخطط أيضا لاستكشاف المزيد من الفرص للتعاون بين الجامعات والمدارس الثانوية لتنمية المواهب في مجال الذكاء الاصطناعي.
ويتضمن ذلك تطوير سلسلة من "دورات التعليم المتقدمة في مجال الذكاء الاصطناعي والتي تركز على التطوير المبكر للمواهب المبتكرة الاستثنائية".
وفي الشهر الماضي، أجرى الرئيس الصيني شي جين بينغ محادثات مع كبار رجال الأعمال في قطاع التكنولوجيا الصيني، في حدث نادر أثار التفاؤل بشأن زيادة الدعم للقطاع.
وعزز شي دور الشركات المملوكة للدولة في ثاني أكبر اقتصاد في العالم، كما تصدى للتوسع "غير المنظم" في العديد من القطاعات.
وحظيت "ديب سيك" بإشادة السلطات، كما حضر مؤسسها الاجتماع مع الرئيس الصيني.
وتتجه الأنظار حاليا إلى برامج الذكاء الاصطناعي الجديدة في الصين، الساعية لمنافسة "ديب سيك".
وكشفت شركة التكنولوجيا الصينية العملاقة "علي بابا" الأسبوع الماضي عن نموذج ذكاء اصطناعي يسمى QwQ-32B، تقول إنه يتمتع "بأداء مماثل" لـ "ديب سيك" بينما يتطلب بيانات أقل بكثير للعمل.
إلى ذلك، فإن "مانوس" Manus، وهو مساعد جديد وقوي يعمل بالذكاء الاصطناعي، يُحدث ضجة في البلاد، مع قدرات تُعتبر بشكل عام أكثر تقدما من تلك الموجودة في روبوتات المحادثة.
حكام الإمارات يعزون خادم الحرمين في وفاة الأميرة نورة بنت بندر بن محمد