تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يوجه متابعة مرضى نقص الانتباه
قام باحثون من جامعة ستانفورد ببناء أداة ذكاء اصطناعي يمكنها قراءة آلاف الملاحظات الطبية في السجلات الطبية الإلكترونية، واكتشاف الاتجاهات، وتوفير المعلومات التي يأمل الأطباء والباحثون أن تعمل على تحسين الرعاية.
وتم تصميم أداة الذكاء الاصطناعي في طب الأطفال، لمعرفة ما إذا كان الأطفال المصابون باضطراب نقص الانتباه وفرط النشاط قد تلقوا رعاية متابعة مناسبة بعد وصف أدوية جديدة لهم.
واستخدم فريق البحث رؤى الأداة لتحديد التكتيكات التي يمكن أن تحسن كيفية متابعة الأطباء للمرضى وأسرهم.
معلومات لا يكتشفها الأطباءووفق "مديكال إكسبريس"، من تحليل الذكاء الاصطناعي، التقط الباحثون معلومات لم يكن من الممكن أن يكتشفها الأطباء لولا ذلك.
مثلاً، رأى الذكاء الاصطناعي أن بعض الممارسات الطبية للأطفال كانت تسأل كثيراً عن الآثار الجانبية للأدوية أثناء المحادثات الهاتفية مع والدي المرضى، بينما لم تفعل الممارسات الأخرى ذلك.
وقال الباحثون: "هذا شيء لن تتمكن أبداً من اكتشافه من دون قراءة آلاف الصفحات، ولن يجلس أي إنسان ويفعل ذلك".
تحديد الثغراتوأضافوا: "هذا النموذج من الذكاء الاصطناعي يمكّننا من تحديد بعض الثغرات في إدارة اضطراب نقص الانتباه وفرط النشاط".
وأشار الباحثون إلى أن أداة الذكاء الاصطناعي ربما فاتتها بعض الاستفسارات حول الآثار الجانبية للأدوية في تحليلها، لأن بعض المحادثات حول هذه الالآثار ربما لم يتم تسجيلها في السجلات الطبية للمرضى، كما تلقى بعض المرضى رعاية متخصصة مع طبيب نفسي لم يتم تتبعها في السجلات الطبية المستخدمة في هذه الدراسة.
وتعتمد حوالي 80% من المعلومات في أي سجل طبي على الملاحظات التي يكتبها الأطباء حول رعاية المريض.
وعلى الرغم من أن هذه الملاحظات مفيدة للإنسان التالي الذي يقرأ مخطط المريض، إلا أن جملها الحرة يصعب تحليلها بشكل جماعي. ويجب تصنيف هذه المعلومات الأقل تنظيماً قبل استخدامها.
واستخدمت الدراسة السجلات الطبية لـ 1201 طفل تتراوح أعمارهم بين 6 و11 عاماً، وكانوا مرضى في 11 عيادة رعاية أولية للأطفال في نفس شبكة الرعاية الصحية، ولديهم وصفة طبية لدواء واحد على الأقل لعلاج اضطراب فرط الحركة ونقص الانتباه.
وقد يكون لهذه الأدوية آثار جانبية مدمرة، مثل قمع شهية الطفل، لذلك من المهم للأطباء الاستفسار عن الآثار الجانبية عندما يستخدم المرضى الأدوية لأول مرة وتعديل الجرعات حسب الضرورة.
1.5% زيادة في إجمالي المساحة المنزرعة عام 2022 / 2023