تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي في المسرح
لستُ من القلقين حول توظيف الذكاء الاصطناعي فـي المسرح على المستويات جميعها، لكن قلقي ينبع ككثيرين (المؤلف والمخرج والسينوغراف) من الاعتماد الكامل فـي توجيه الذكاء الاصطناعي للقيام بمهمات عديدة كزرع نواة الحكاية وتأليفها وتسليمها إلى المخرج الذي بدوره سوف يعدلها وحصر عدد ممثليها، فعلى سبيل الشاهد عوضَ أن تكون المسرحية متضمنة عددا من الممثلين أو الجوقة بتعبير الكلاسيكيين، يمكن للذكاء الاصطناعي اقتراح اختزالها فـي مونودراما أو ديودراما. ولا يقف الأمر بالاستفادة من قدرة الذكاء الاصطناعي وتطبيقاته عند هذا الأمر، بل يُمكنه التمدد إلى مستويات متعددة كاختيار نوع الإضاءة والأزياء والموسيقى المناسبة والقاعة المثالية الصالحة لتقديم العرض وكذلك قدرته على انتخاب الجمهور الملائم، من الأعمار والشرائح .
أعود إلى سؤال قديم سألته نفسي بعد قراءاتي لقصة حُلم الحكيم الصيني (جوانج زو)، وكان السؤال: هل يُمكن تحقيق حلم جوانج زو فوق خشبة المسرح على وجه الحقيقة، لا وجه المجاز؟ أمّا الحلم فتروى قصته كما يلي: «رأيتُ أنا جوانج زو مرّةً فـي منامي أنّني فراشةٌ تُرفرفُ بجناحيها فـي هذا المكان وذاك، أنا فراشةٌ حقا من الوجوه جميعها، ولمْ أَكنْ أُدركُ شيئا أكثرَ منْ تتبعي لخيالاتي التي تُشعرني بأنّني فراشة، أمّا ذاتي الإنسانيّة، فلم أكنْ أُدركها البتّة، ثُمَّ استيقظتُ على حينِ غفلة وها أنا ذا مُنطرحٌ على الأرض رجلا كما كنت، ولستُ أعرفُ الآن هل كنتُ فـي ذلكَ الوقتِ رجلاً يحلمُ بأنّه فراشة، أو أنّني الآن فراشةٌ تحلمُ بأنّها رجل».
لم أخفِ دهشتي أو متعتي بحلم جوانج زو. منطلقات الحلم ليس صراعا بين الأنا والذات فحسب، أو بين الحقيقي وغير الواقعي، أو المحسوس واللامحسوس، بل أعدّه درسا تأسيسيا فـي تربية الخيال الإبداعي وتنمية مستوياته، ومحفزا للابتكار وآلية أوليّة لتشريح التفكير الناقد.
منذ اختراع الأساطير، والإنسان يسعى باحثًا عن تفسير الماورائيات والموجودات من حوله. كانت الأفكار الغريبة وتشظياتها تحفر فـي داخله، فلا يستكين، ولا يهدأ. فلماذا وصل بنا الخوف أن نرى ما نتخيله مجسدا فوق الخشبة؟ هل سببه الخوف لمجرد الخوف؛ لأن الإنسان عدو ما يَجهل؟ فـي سياق الابتكار والإبداع والطموح بالذهاب مع الخيال إلى عوالم غير مُدركة ولا ملموسة، لم يكن مثلا صانعا أول طائرة حقيقية (الأخوان رايت - 1903م) إلا تراكما لحق بأفكار مَن سبقهم من محاولات فـي الطيران بدأها (عباس بن فرناس 810 - 887م) الذي حاول «الطيران عن طريق القفز من مكان مرتفع عن طريق أجنحة من الحرير وريش الطيور».
هذه المحاولات وغيرها الكثير كانت دافعا لتطوير البحث فـي مجالات العلوم التي من بينها علم الحاسوب، حتى جاء اكتشاف الذكاء الصناعي Artificial Intelligence- AI الهادف «إلى إنشاء أنظمة وبرامج قادرة على محاكاة القدرات العقلية البشرية، مثل التفكير والتعلّم واتخاذ القرارات وحل المشكلات. يعتمد الذكاء الاصطناعي على خوارزميات وتقنيات تمكّن الآلات من أداء مهام تتطلّب ذكاء بشريا».
الناظر إلى الذكاء الاصطناعي المُنطلق من فعل المُحاكاة Mimesis يعيدنا إلى المعلم الأول أرسطو. فالمحاكاة نقلا عن (معجم المصطلحات المسرحية - للدكتور أحمد بلخيري - ص396) هي «تقليد أو عرض شيء. وفـي الأصل تعتبر المحاكاة تقليدا لشخص بوسائل فـيزيقية أو لغوية؛ هذا الشخص يمكن أن يكون شيئا أو فكرة، كما يمكن أن يكون بطلا أو إلها. وفـي شعرية أرسطو يتحدد الإنتاج الفني انطلاقا من كونه تقليدا للفعل».
ليس من شك فـي أن موضوعة المحاكاة هي منطلق جميع الفنون والأفكار والإبداع، وأن السعي البشري بالتقدم العلمي إنما يهدف إلى السيطرة على الوجود والتمركز فـي العالم والتحكم فـي المسار البشري والهيمنة عليه بتعطيل أجزاء من قدراته الحيوية، فالعقل البشري الجامح الذي لا يعترف بوجود إله يُنظم الكون، لا تُهمه الأخلاق ولا القوانين ولا الأعراف التي وضعها الإنسان لتنظيم العلاقات بين الناس على امتداد الحضارات المنتجة.
أعود من جديد إلى أرسطو، ولكن هذه المرة فـي فلسفته التي نظر من خلالها إلى الوجود، الفلسفة التي شكلّت أساسا لنظرية الدراما فنيا لا تاريخيا. فـي كتابها (المسرح بين الفكر والفن) تناقش الأكاديمية الراحلة الدكتورة نهاد صليحة بتوسع المسرح بين النظرية الدرامية والنظرة الفلسفـية متتبعة فـي أحد فصوله أسباب هيمنة النظرية الدرامية الأرسطية على المسرح الغربي حتى القرن العشرين، متمثل ذلك كما تقول فـي وجود «تشابه الأيديولوجيا التي بطنت النظرية الأرسطية للدراما مع جوهر الأيديولوجيات التي تلتها»، فنظرية أرسطو بحسب قولها لم «تكن فلسفته مجرد بحث موضوعي غير مغرض فـي الحقيقة والوجود، بل كانت طرحا على مستوى الوعي أو اللاوعي- لتصور نظري، أو رؤية للعالم تتضمن تأصيل نظام سياسي - اجتماعي - أخلاقي معين». إن نظرة أرسطو إلى الوجود بجعل العالم يتحرك نحو غاية مسبقة محسوبة لا دخل فـيها للإنسان تجعل من وجود تشابه بين نظريته عملا أو فكرا يستعاد بفعل الذكاء الاصطناعي. صحيح أن هذا الأخير ينطلق من وفرة المعلومات والخوارزميات لدى الإنسان ومحاولة محاكاتها وابتكار لحظات جديدة أو قدرات خارقة، فـي حين أن نظرية المحاكاة تتمظهر أو تتمركز فـي القدرة على إنتاج وتقليد الفعل البشري.
إن المنطلق الأخلاقي وعلاقته بالذكاء الاصطناعي كسؤال مرحلي هو أحد منطلقات الملتقى الفكري المصاحب للدورة الخامسة عشرة لمهرجان المسرح العربي التي أقيمت فـي مسرح العرفان بالعاصمة مسقط للفترة من 10-15 يناير 2024م. حمل الملتقى على مدى يومين العنوان التالي: (المسرح والذكاء الاصطناعي بين صراع السيطرة وثورة الإبداع)، وبين عناوين الأوراق النقدية التي قدمها الباحثون: «المساحة الرمادية بين الإبداع البشري والذكاء الاصطناعي: تجربة مسرحية كونتراست»، للدكتور أسامة لاذقاني، وورقة بعنوان «حول التصميم»، للدكتور محمد مبارك تسولي، وورقة «الإضاءة المسرحية البديلة: استكشاف إمكانيات الذكاء الاصطناعي فـي التصميم الإبداعي»، للدكتور عماد الخفاجي، وورقة «قناع الفـيروفـيوس... برامج وسائطية فـي الدراما: قناع فـيروفـيوس لدمج حركة الممثل والتكنولوجيا والإنترنت»، للدكتور أيمن الشريف، وورقة «الذكاء الاصطناعي وتوليد النص المسرحي» للأستاذ عبداللطيف فردوس، وورقة «الصوت... المؤثرات الخاصة: الصوت المحيطي والهولوجرافـي والمؤثرات البصرية التفاعلية بين الآلة والممثل»، للأستاذين وسام قطاونة وحسن حينا، وورقة «التصميم المسرحي والذكاء الاصطناعي.. البديل الغامض»، للدكتور خليفة الهاجري، وورقة «التصميم والابتكار - الإبداع» للباحث Shen Qian، وورقة «تصميم إضاءة نحو المستقبل» للباحث Guo Jin Xin، فإن العناوين تضعنا أمام تحديات عدة أهمها: محاولة الذكاء الاصطناعي محاكاة (العقل) البشري لا (الفعل) فـي ظل الخوارزميات التي تعمل بآلية معقدة تستطيع أن تفـيد الإنسان فـي مناحي الحياة العلمية والطبية والفنية، وأنها تقدر أن توجهه التوجيه الذي يراه الذكاء الاصطناعي بأنه «الأمثل»، فـي المقابل قصور الذكاء الاصطناعي عن معرفة المشاعر والأحاسيس من جهة، والحاجة إلى ضوابط أخلاقية صارمة تحفظ للإنسان خصوصيته من جهة مقابلة، هي مسائل فـي غاية الصعوبة. فهل هناك حدود للذكاء الاصطناعي لا يستطيع تجاوزها؟ إن الصانع بتعبير الفلاسفة للذكاء الاصطناعي هو الإنسان، وكما قدم الدكتور يوسف عيدابي فـي افتتاحية الملتقى الفكري بالقول: «المسرح والتقانة صنوان، تأتي التكنولوجيا بجديدها الذي يذهب بعد حين إلى قديم، ويأتي جديد آخر. ولكن ما يثير هو أن الذكاء الاصطناعي يصادم فـي (الخَلق)، هو يكتب ويُخرج ويُمثل وينتج ويفعل بنا ما يشاء، هو لا مخيّر ولا مسيّر، هو لا يؤمن إلا بقدرته وأقداره... هو الهو! - ولكنه من خلق الإنسان الفاني - مع هذا الذكاء يتراجع المؤدي/ الإنسان إلى المرتبة الثانية - الآلة تكون لها الأولوية، وهذا إشكال وجوهره فـي هذا الجدل الذي لن ينتهي.
هل ينوي رجال الأعمال السوريون العودة إلى وطنهم بعد سقوط نظام الأسد؟