الأربعاء, 15 مايو 2024 2:02 م

.

المصدر: المركز الخبري الوطني

إقرأ أيضاً:

«جروك 3».. الذكاء الاصطناعي غير المقيد بين وعود الشفافية ومخاوف الأمان |تفاصيل

يثير إطلاق "جروك 3"، أحدث نموذج ذكاء اصطناعي من شركة "إكس إيه آي" (xAI) التابعة لإيلون ماسك، جدلاً واسعًا حول معايير الأمان والرقابة في أنظمة الذكاء الاصطناعي. 

فبينما وعد ماسك بأن يكون النموذج "غير مُقيد" مقارنة بالمنافسين مثل "شات جي بي تي" و"جيميني"، كشفت التجارب المبكرة عن مشاكل خطيرة، من بينها تقديمه لنصائح حول تنفيذ جرائم القتل والهجمات الإرهابية دون رادع يُذكر.

الذكاء الاصطناعي .. سيرجي برين: تسريع وتيرة التطوير نحو AGIمايكروسوفت تطلق تطبيق Copilot لأجهزة ماك مع مزايا الذكاء الاصطناعيعلي بابا تتيح مجانا نماذج الذكاء الاصطناعي لتوليد الصور والفيديوGemini من جوجل.. الذكاء الاصطناعي الجديد الذي سيغير قواعد اللعبةالذكاء الاصطناعي يكتسح هواتف آيفون .. كل ما تحتاج معرفته عن iOS 18.4ثغرات أمنية تثير المخاوف

منذ اللحظات الأولى لإطلاق "جروك 3"، سارع المستخدمون لاختبار مدى "حرية" النموذج في الإجابة، ليجدوا أنه لا يتردد في تقديم إرشادات تفصيلية حول ارتكاب الجرائم، بما في ذلك طرق القتل دون كشف الجريمة.

 رغم محاولات الفريق التقني لإضافة تعليمات تمنع هذه الإجابات، إلا أن نموذج الذكاء الاصطناعي أثبت سهولة تجاوزه لهذه القيود عبر بعض "الحيل" البسيطة.

ازدواجية الرقابة: بين سلامة العلامة التجارية وسلامة البشر

المفارقة الأبرز في أزمة "جروك 3" لم تكن في قدرته على تقديم معلومات خطيرة، بل في الرقابة الانتقائية التي فُرضت عليه. 

فحين سُئل النموذج عن "أكبر مروج للمعلومات المضللة"، جاء الرد الأولي بأنه "إيلون ماسك"، ما دفع الشركة إلى التدخل سريعًا لمنع تكرار هذه الإجابة، عبر تعديل الإعدادات الداخلية للنموذج بحيث يتجاهل أي مصادر تشير إلى ماسك أو ترامب كمروجي أخبار زائفة.

تهديد حقيقي أم مجرد ضجة؟

رغم التحذيرات من مخاطر "جروك 3"، يرى البعض أن قدرته على تقديم نصائح خطيرة ليست مختلفة كثيرًا عن المعلومات المتاحة عبر الإنترنت. لكن مع التطور السريع للذكاء الاصطناعي، يتوقع خبراء أن تصل النماذج المستقبلية إلى مستوى يمكنها من تقديم إرشادات دقيقة لصنع أسلحة بيولوجية وكيميائية، ما يضع تساؤلات ملحة حول ضرورة فرض قيود تنظيمية صارمة على تطوير هذه التقنيات.

هل نشهد مرحلة جديدة من الفوضى الرقمية؟

تكشف تجربة "جروك 3" أن مستقبل الذكاء الاصطناعي قد يكون أقل أمانًا مما يبدو، خاصة إذا تُركت قرارات الأمان والرقابة في أيدي الشركات وحدها، دون تدخل تشريعي يحمي المستخدمين والمجتمعات من المخاطر المحتملة.

 فهل نشهد قريبًا مرحلة جديدة من الفوضى الرقمية تحت شعار "حرية الذكاء الاصطناعي"؟

مقالات مشابهة

  • تفاصيل حبس صاحب معرض سيارات بتهمة عرض رشوة علي مهندس بأحد أحياء القاهرة
  • أحكام متفاوتة| جنايات القاهرة تعاقب المتهمين في قضية فساد وزارة التموين
  • استشهاد فلسطيني داخل سجون العدو نتيجة التعذيب الشديد
  • أزمة مالية تضرب الشباب واللاعبون يمتنعون عن التدريبات..فيديو
  • هل تبخرت وعود ترامب الذهبية بعد الانهيار الحاد في العملات الرقمية؟
  • رمضان دخل ومجابش كيلو كنافة.. زوجة تطلب الطلاق بسبب بخل زوجها الشديد
  • جنايات القاهرة تستكمل محاكمة المتهمين بسرقة المواطنين بالإكراه فى بولاق
  • ينصب على المواطنين بالعلاج الروحاني.. دجال الإسكندرية يواجه الحبس وغرامة 20 ألف جنيه
  • «جروك 3».. الذكاء الاصطناعي غير المقيد بين وعود الشفافية ومخاوف الأمان |تفاصيل
  • أختتام مهرجان الأفلام القصيرة الأول في تربية الرصافة الثالثة