تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
النمو السريع في سوق الذكاء الاصطناعي يعقّد مهمة المستثمرين
يعقّد التقدّم المتسارع في مجال الذكاء الاصطناعي مهمة المستثمرين الذين يبحثون عن جانب جديد في نظام يشهد تطوّرا متواصلا.
يؤكد جاي داس، رئيس شركة الأسهم الخاصة "سافاير فانتشرز"، في مؤتمر أُقيم هذا الأسبوع في لاس فيغاس بالولايات المتحدة، أن الذكاء الاصطناعي "يُعدّ إحدى الفرص (الاستثمارية) التي لا نشهدها سوى مرة واحدة كل جيل".
ويوضح أنه، خلال السنوات الخمس الفائتة، تم استثمار مبالغ طائلة في ابتكار برامج ذكاء اصطناعي توليدي مثل "تشات جي بي تي"، وشراء الرقائق اللازمة لتصميمها.
تنتهي هذه المرحلة الأولى مع أعداد كبيرة من هذه النماذج القادرة على توليد محتوى حسب الطلب وباللغة اليومية، وغالبا ما تكون مجانية مع تكاليف ابتكار منخفضة.
وينبغي على رواد الأعمال ومحترفي تكنولوجيا المعلومات أن يتخيّلوا حاليا نظاما مبنيا على هذه الأسس، وهي التطبيقات وروبوتات الدردشة المتخصصة والبرامج المُساعِدَة.
تقول لورين كولودني، المشاركة في تأسيس شركة الأسهم الخاصة "أكرو كابيتال" إن "ثمة حاليا شركات ناشئة كثيرة" في سوق الذكاء الاصطناعي، مضيفة أنّ "الصعوبة تكمن في الاستشراف بشكل جيد".
وتضيف "أحد الأمور الأكثر تعقيدا عند الاستثمار مبكرا" في حياة شركة، "هو فهم من سينجح في الحصول على ميزة تنافسية في دورة الذكاء الاصطناعي هذه"، والتي تتغير معاييرها.
ويقول فين تشاو، رئيس قسم الأبحاث في شركة "ألفا إديسون" التي تدعم الشركات الناشئة "ما يهمّ هو جودة نموذج عملك، وليس التكنولوجيا التي تستخدمها".
وعلى المستثمرين بحسب توماش تونغوز، مؤسس شركة "ثيوري فنتشرز"، أن يكونوا على دراية بما هو أوسع من نطاق الشركة الناشئة.
ويقول هذا الموظف السابق في شركة "غوغل": "ندرس نظام القطاع المعني بأكمله، لا فقط النموذج الاقتصادي لهذه الشركة".
الحماية ضد المنافسة
بالنسبة إلى البعض، يشكل إبعاد المنافسين بصورة كافية تحديا عندما لا تكون المشهدية مستقرة بعد.
يقول جوش كونستين من شركة "سيغنال فاير" للخدمات الاستثمارية "لا يكفي أن تكون الأول، بل ينبغي أن تكون لديك البيانات الصحيحة والخبراء"، مضيفا "المهم حاليا هو البيانات".
ويشير إلى "إيفن آب"، وهي منصة دعم لمحامي المسؤولية المدنية، لتحسين إعداد طلبات التعويض الخاصة بعملائهم.
أنشأت الشركة، التي استثمرت فيها "سيغنال فاير"، قاعدة معلومات بشأن اتفاقيات ودية بين الضحايا وشركات التأمين، غالبا ما تكون سرية.
يقول جوش كونستين إنّ "ذلك يوفر صورة لكل محام، اعتمادا على الخصائص الطبية للملف واستنادا إلى البيانات التاريخية، عمّا يمكن للشخص المطالبة به".
ويتابع "لا تمتلك اوبن ايه آي ولا حتى أنثروبيك هذه البيانات"، مضيفا "مَن ينشئون قواعد بياناتهم الخاصة سيحققون أكبر قدر من النجاح".
بالإضافة إلى اللاعبين الصغار، لم تعد شركات الذكاء الاصطناعي الكبرى تكتفي بتزويد رواد الأعمال والمطورين بالأدوات اللازمة للابتكار، ولكنها تريد راهنا تقديم منتجات متخصصة جاهزة للاستخدام.
في بداية فبراير الماضي، تسرّب عبر الانترنت عرض لبرنامج افتراضي جديد ابتكرته شركة "اوبن ايه آي".
يقول كونستين "إن ذلك يشبه إلى حدّ ما فيسبوك قبل عشر سنوات"، مضيفا "إذا اخترعت تطبيقا قريبا جدا من أعمالهم، فتكون قد خاطرت بأن يطلقوا شيئا مشابها ويسحقوك".
يرى جيمس كوريه، الشريك الإداري لشركة الأسهم الخاصة "ان اف اكس"، أنّ الحماية ضد المنافسة لا تتعلق بالبيانات.
ويقول "في 95% من الحالات، أستطيع توليدها بنفسي أو نسخها (...) من دون الحاجة إلى بياناتك".
ويقول فين تشاو "إذا لم تبتكروا شيئا يتمحور على الإنسان ويمكن أن يتناسب مع الروتين اليومي ليوم العمل، فلن ينجح الأمر".
غضب يمني عارم إزاء استهداف الأعيان المدنية