«جروك 3».. الذكاء الاصطناعي غير المقيد بين وعود الشفافية ومخاوف الأمان |تفاصيل
تاريخ النشر: 2nd, March 2025 GMT
يثير إطلاق "جروك 3"، أحدث نموذج ذكاء اصطناعي من شركة "إكس إيه آي" (xAI) التابعة لإيلون ماسك، جدلاً واسعًا حول معايير الأمان والرقابة في أنظمة الذكاء الاصطناعي.
فبينما وعد ماسك بأن يكون النموذج "غير مُقيد" مقارنة بالمنافسين مثل "شات جي بي تي" و"جيميني"، كشفت التجارب المبكرة عن مشاكل خطيرة، من بينها تقديمه لنصائح حول تنفيذ جرائم القتل والهجمات الإرهابية دون رادع يُذكر.
منذ اللحظات الأولى لإطلاق "جروك 3"، سارع المستخدمون لاختبار مدى "حرية" النموذج في الإجابة، ليجدوا أنه لا يتردد في تقديم إرشادات تفصيلية حول ارتكاب الجرائم، بما في ذلك طرق القتل دون كشف الجريمة.
رغم محاولات الفريق التقني لإضافة تعليمات تمنع هذه الإجابات، إلا أن نموذج الذكاء الاصطناعي أثبت سهولة تجاوزه لهذه القيود عبر بعض "الحيل" البسيطة.
ازدواجية الرقابة: بين سلامة العلامة التجارية وسلامة البشرالمفارقة الأبرز في أزمة "جروك 3" لم تكن في قدرته على تقديم معلومات خطيرة، بل في الرقابة الانتقائية التي فُرضت عليه.
فحين سُئل النموذج عن "أكبر مروج للمعلومات المضللة"، جاء الرد الأولي بأنه "إيلون ماسك"، ما دفع الشركة إلى التدخل سريعًا لمنع تكرار هذه الإجابة، عبر تعديل الإعدادات الداخلية للنموذج بحيث يتجاهل أي مصادر تشير إلى ماسك أو ترامب كمروجي أخبار زائفة.
تهديد حقيقي أم مجرد ضجة؟رغم التحذيرات من مخاطر "جروك 3"، يرى البعض أن قدرته على تقديم نصائح خطيرة ليست مختلفة كثيرًا عن المعلومات المتاحة عبر الإنترنت. لكن مع التطور السريع للذكاء الاصطناعي، يتوقع خبراء أن تصل النماذج المستقبلية إلى مستوى يمكنها من تقديم إرشادات دقيقة لصنع أسلحة بيولوجية وكيميائية، ما يضع تساؤلات ملحة حول ضرورة فرض قيود تنظيمية صارمة على تطوير هذه التقنيات.
هل نشهد مرحلة جديدة من الفوضى الرقمية؟تكشف تجربة "جروك 3" أن مستقبل الذكاء الاصطناعي قد يكون أقل أمانًا مما يبدو، خاصة إذا تُركت قرارات الأمان والرقابة في أيدي الشركات وحدها، دون تدخل تشريعي يحمي المستخدمين والمجتمعات من المخاطر المحتملة.
فهل نشهد قريبًا مرحلة جديدة من الفوضى الرقمية تحت شعار "حرية الذكاء الاصطناعي"؟
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي ذكاء اصطناعي جروك 3 المزيد الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يكشف مخاطر أمراض القلب عبر مسح شبكية العين
في خطوة واعدة نحو تحسين تشخيص أمراض القلب، نجح باحثون من جامعة “ملبورن” الأسترالية في دمج تقنية مسح شبكية العين المدعومة بالذكاء الاصطناعي داخل عيادات الطب العام، بهدف الكشف المبكر عن مخاطر الإصابة بالنوبات القلبية والسكتات الدماغية.
وأظهرت الدراسة، التي قادتها الباحثة ويني هو، أن هذه التقنية غير الجراحية توفر تقييماً سريعاً وفعالاً لمخاطر أمراض القلب والأوعية الدموية. وشارك في الدراسة 361 مريضًا تتراوح أعمارهم بين 45 و70 عامًا، حيث خضعوا لتقييم تقليدي للمخاطر، ثم تم مسح شبكية كل منهم باستخدام كاميرا متخصصة، ليقوم الذكاء الاصطناعي بتحليل الأوعية الدموية وإصدار تقرير فوري حول حالتهم الصحية.
وقارن الباحثون نتائج المسح الشبكي مع مخطط منظمة الصحة العالمية لتقييم مخاطر القلب، فوجدوا تطابقًا بنسبة 67.4% بين التقييمين. كما أظهرت التقنية نتائج مختلفة لدى بعض المرضى، حيث صنّفت 17.1% منهم ضمن فئة المخاطر الأعلى مقارنة بالمخطط التقليدي، بينما قُدّرت المخاطر بنسبة أقل لدى 19.5% من المرضى.
وبلغت نسبة نجاح التصوير 93.9%، ما يدل على إمكانية تصنيف معظم المرضى بناءً على الفحص البصري فقط. كما أعرب 92.5% من المشاركين و87.5% من الأطباء العامين عن رضاهم عن التقنية، مؤكدين إمكانية تبنيها في المستقبل لتعزيز الرعاية الصحية الوقائية.
هذه النتائج تفتح آفاقًا جديدة لاستخدام تقنيات الذكاء الاصطناعي في مجال الطب، مما قد يسهم في تقليل الوفيات المرتبطة بأمراض القلب عبر التشخيص المبكر والتدخل السريع.
قبل انطلاقه غدا.. أعضاء لجنة تحكيم مهرجان SITFY-Georgia يصلون مطار تبيلسي