تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
ول هاتف في العالم يدعم الذكاء الاصطناعي DeepSeek
كشفت شركة نوبيا Nubia عن أول هاتف ذكي في العالم يدمج تقنيات الذكاء الاصطناعي العميق DeepSeek بشكل شامل، مما يمثل خطوة جديدة في مجال الذكاء الاصطناعي على الأجهزة المحمولة.
وبحسب ما ذكره موقع “gizmochina”، يأتي هاتف نوبيا الرائد Nubia Z70 Ultra مزودا بنموذج DeepSeek على مستوى النظام، مما يلغي الحاجة لتطبيقات مستقلة ويتيح تفاعلات سلسة تعتمد على الذكاء الاصطناعي.
يمتاز Nubia Z70 Ultra بقدرات متقدمة تتيح للمستخدمين الوصول الفوري إلى هذه الوظائف، خلافا عن برامج الذكاء الاصطناعي الذين يعتمدون على معالجة البيانات في السحابة أو يتطلبون تطبيقات مخصصة.
وتشمل هذه القدرات مساعد صوتي متكامل والتعرف على الصور المدعومين بتقنيات الذكاء الاصطناعي، مما يمكن المستخدمين من التقاط الصور لتحليل المشكلات وحلها في الوقت الحقيقي.
كما وسعت نوبيا منظومتها للذكاء الاصطناعي لتشمل أجهزة أخرى، حيث تحتوي سماعات الأذن على ميزات تنشيط تتيح دعم المحادثات المستمرة، وستحصل نماذج أخرى على تحديثات قريبا لتحديث ميزات DeepSeek.
قبل الإعلان الرسمي، قامت نوبيا بطرح تحديث تجريبي لمستخدمي Nubia Z70 Ultra، مما يعزز تكامل DeepSeek في إصدارات Sky Standard وStarry Sky، يبلغ حجم التحديث 126 ميجابايت ويشمل تحسينات على مساعد الصوت، بالإضافة إلى معالجة تسرب الذاكرة في نظام الجاذبية السديم.
تسعى شركات صينية أخرى أيضا لتضمين DeepSeek في أجهزتها، بينما تتردد أنباء عن استكشاف سامسونج لتكامل مشابه في هواتف Galaxy في الصين.
ويشير المحلل التقني Ice Universe إلى أن هذه الخطوة قد تجعل DeepSeek بديلا محليا لـ Gemini AI من جوجل، مما يعزز من واجهات الاستخدام ويزيد من قدرة الشركات على المنافسة في السوق الصينية.
على الرغم من عدم تأكيد سامسونج لخططها بعد، إلا أن النمو المتزايد لتقنيات DeepSeek قد يجعلها ميزة شائعة في الهواتف الذكية المستقبلية.
اليونيفيل: هجوم أنصار حزب الله غير مقبول