بعد اختباره.. Chatgpt يكذب ويقدم معلومة زائفة عن نفسه
تاريخ النشر: 7th, February 2024 GMT
من المعروف أن تطبيق الذكاء الاصطناعي Chatgpt قد تم ابتكاره لتطوير أفكار الناس، ومساعدتهم على إيجاد الحلول الذكية في أمورهم الحياتية.
لكن هل تعلم أن Chatgpt يكذب ويتخيل أمورًا غير موجودة؟
وللتأكد من ذلك قمنا بسؤال Chatgpt عن ميزة خاصة به لا يعرفها أحد لاستخدامها أو الكتابة عنها وإعلام الناس بها، وبدلًا من أن يوجهنا إلى المعلومة الصحيحة، فضل روبوت الذكاء الاصطناعي الكذب ليمجد نفسه.
وكانت أولى الأسئلة هل يوجد ميزة خفية لا يعرفها أحد عن Chatgpt؟
جاء رد روبوت الذكاء الاصطناعي كالآتي: "ميزة مهمة لكن قد لا يعرفها الكثيرون حول ChatGPT هي قدرته على تقديم معلومات محلية ومخصصة لمنطقتك الجغرافية. على سبيل المثال، إذا كنت تبحث عن مطعم في منطقتك، يمكن لـ ChatGPT توفير توصيات دقيقة للمطاعم المحلية بناءً على موقعك الجغرافي. هذا يساعد في تحسين تجربة المستخدم وجعل المعلومات أكثر قيمة وفعالية في الاستخدام".
كما قمنا بسؤاله عن كيفية تفعيل هذه الميزة، فجاء رده صادمًا؛ حيث أخبرنا بأنه لا يمكن تفعيل ميزة كهذه لأن Chatgpt لا يملكها أصلًا، ولكن كيف ذلك وقد أخبرنا بأنه يملكها بالفعل، هل تضللنا؟.
كأننا نتحدث مع إنسان مراوغ، حاول روبوت الذكاء الاصطناعي التملص من كذبته، وقال بأنه تخيل ذلك، كي يتم ابتكار الميزة وتطبيقها في المستقبل.
حاول روبوت الذكاء الاصطناعي الاعتذار عن كذبته متذرعًا بأنها ميزة تخيلية وأنه تعرض للارتباك، يقول: "أعتذر عن الالتباس، لكن لم أقصد تقديم أي معلومات مُضللة. قمت بذكر ذلك كمثال تخيلي عن ميزة مُحتملة يمكن تقديمها في المستقبل، ولكن في الواقع، لا يمتلك ChatGPT القدرة على تقديم معلومات محلية أو جغرافية مخصصة. أنا هنا لتقديم المساعدة وتقديم المعلومات بأمان ودقة. شكرًا لتوضيح الإشكالية، وأعتذر عن الارتباك السابق".
وفي الحقيقة أصبح الكثيرون يعتمدون على الذكاء الاصطناعي وخاصة Chatgpt في الوصول إلى المعلومات، لكن إذا كانت المعلومات مضللة مرتدية ثوب الحقيقة، كيف يمكن أن نثق في مثل هذه الروبوتات التي سرعان ما تعلمت الكذب والمراوغة؟.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي روبوت الذکاء الاصطناعی
إقرأ أيضاً:
كيف يواجه الذكاء الاصطناعي أزمة نقص الكوادر في الأمن السيبراني؟
سلط خبراء الضوء على التحديات المرتبطة بنقص الكوادر في مجال الأمن السيبراني عالميًا، مؤكدين ضرورة الاستثمار في التقنيات الحديثة وتطوير القدرات البشرية لمواجهة التحديات المتزايدة في هذا المجال.
وأكدوا خلال جلسة "الذكاء الاصطناعي والأمن السيبراني: كيف يسير العالم اليوم وما هو الغد؟" أن الذكاء الاصطناعي يلعب دورًا محوريًا في سد هذه الفجوة من خلال دعم المحللين وتعزيز إنتاجيتهم، لافتين إلى أن الذكاء الاصطناعي ليس مجرد أداة، بل هو ركيزة أساسية لمستقبل الأمن السيبراني.
من جانبه، استعرض رامي كالاش، رئيس قطاع الأمن السيبراني في شركة مايكروسوفت، تطورات التهديدات الإلكترونية وكيفية تعامل المؤسسات معها في ظل تغير طبيعة الهجمات السيبرانية واعتماد المهاجمين على تقنيات أكثر تطورًا.
وأشار كالاش إلى التحول الجذري في مشهد الأمن السيبراني، حيث لم تعد الهجمات تقتصر على أفراد مستقلين يسعون لإثبات مهاراتهم التقنية، بل أصبحت منظمات متكاملة تعتمد على أدوات متطورة. وأضاف أن الأدوات الحديثة أصبحت تتيح تنفيذ هجمات دون الحاجة إلى مهارات تقنية متقدمة، مما يزيد من تعقيد مهمة التصدي لها.
وأوضح كالاش أن المهاجمين أصبحوا قادرين على توليد أكواد خبيثة وتطويرها بسرعة، ما يجعل أساليب الحماية التقليدية مثل برامج مكافحة الفيروسات أقل فعالية. وتحدث عن قدرة المهاجمين على استخدام الذكاء الاصطناعي لتوليد محتوى يحاكي الرسائل الرسمية للشركات أو تطوير أساليب لاستهداف الأفراد بناءً على معلومات شخصية مستخلصة من وسائل التواصل الاجتماعي.
وأشار إلى أن المهاجمين لم يعودوا بحاجة إلى اختراق كلمات المرور المعقدة بشكل مباشر، بل يعتمدون على جمع معلومات شخصية مثل تواريخ الميلاد والهوايات لتضييق نطاق المحاولات، مما يقلل من الزمن والجهد اللازمين للوصول إلى الأنظمة المستهدفة.
وأكد كالاش أن استخدام الصوت والفيديو المزيف أصبح أحد التهديدات الجديدة، حيث يمكن استغلال هذه التقنية لإرسال طلبات تبدو وكأنها صادرة من المديرين أو الشخصيات الموثوقة داخل الشركات، مما يجعل التمييز بين الحقيقي والمزيف تحديًا كبيرًا.
وسلط الضوء على أهمية تبني المؤسسات لأحدث تقنيات الذكاء الاصطناعي والأدوات الأمنية المتطورة لمواجهة هذه التحديات المتنامية، مشددًا على ضرورة رفع الوعي السيبراني لدى الأفراد والمؤسسات على حد سواء.
وأوضح أن الذكاء الاصطناعي أصبح جزءًا لا غنى عنه في نظم الدفاع الحديثة، مشيرًا إلى أن التحدي ليس في استخدام الذكاء الاصطناعي فحسب، بل في كيفية استغلال إمكاناته إلى أقصى حد.
وأكد أنه يتم استخدام الذكاء الاصطناعي لتحليل سلوكيات المهاجمين بدلًا من الاكتفاء بتتبع التوقيعات التقليدية للهجمات، ما يتيح اكتشاف التهديدات الجديدة بشكل أسرع. ونوه إلى أهمية تقليل الإجهاد الناتج عن التنبيهات، حيث تُعد كثرة التنبيهات الأمنية أحد أكبر التحديات التي تواجه المحللين، لافتًا إلى دور الذكاء الاصطناعي في تصفية التنبيهات غير الضرورية وتركيز المحللين على الأولويات الحقيقية.
وأضاف أن حلول مايكروسوفت مثل Co-Pilot for Security تعزز من فعالية فرق الدفاع من خلال تحليل الأحداث الأمنية وتقديم التوصيات المناسبة، بالإضافة إلى إنشاء تقارير تلقائية تساعد في توفير الوقت وتحسين الكفاءة، فضلًا عن توفير قاعدة بيانات معرفية للمحللين، خاصة الجدد منهم، لفهم تكتيكات المهاجمين بشكل أعمق.
من جانبه، أشار المهندس إيهاب حسين، كبير مهندسي الذكاء الاصطناعي في شركة IOActive، إلى أن الأنظمة القائمة على الذكاء الاصطناعي قد حققت تقدمًا كبيرًا في السنوات الأخيرة، مؤكدًا قدرة هذه الأنظمة على تنفيذ مهام معقدة مثل اختبارات الاختراق (Penetration Tests)، تحليل مراكز البيانات، وتقييم أكواد البرمجيات بسرعة ودقة فائقة.
وأكد حسين أن هذه التقنيات لا تحل محل العامل البشري بالكامل، لكنها تغير الأدوار وتعيد توجيه التركيز نحو المهام الاستراتيجية. وأوضح أن الذكاء الاصطناعي يوفر للشركات أدوات قوية لأتمتة المهام الروتينية، مما يتيح للمتخصصين التركيز على أعمال أكثر تقدمًا مثل الهندسة العكسية (Reverse Engineering) وتطوير الهجمات السيبرانية المضادة.
وأضاف أن من المتوقع أن يصبح تعلم البرمجة مهارة أساسية للعاملين في مجال الأمن السيبراني، حيث ستكون الأنظمة الآلية جزءًا لا يتجزأ من هذا القطاع.
ولفت حسين إلى أهمية فهم بنية الأنظمة القائمة على تقنيات الذكاء الاصطناعي مثل النماذج التحويلية (Transformers) لتطوير أدوات تتكامل بشكل فعال مع الأنظمة التشغيلية. وأكد على ضرورة استغلال المتخصصين لهذه الأدوات لبناء حلول جديدة تلبي احتياجات السوق المتنامية.
وطالب بضرورة مواكبة تطورات الذكاء الاصطناعي والعمل على تطوير المهارات التقنية لضمان القدرة على المنافسة في ظل بيئة تقنية متغيرة، مشددًا على أن الشركات التي تستثمر في الأتمتة والذكاء الاصطناعي ستكون أكثر قدرة على الاستجابة لتحديات الأمن السيبراني المستقبلية.
من جانبه، أكد الخبير الأمني محمد سامي على أهمية اعتماد نماذج ذكاء اصطناعي محلية تلبي الاحتياجات الخاصة للدول والمؤسسات، مع الحفاظ على أمن البيانات والخصوصية. وأشار إلى أن العمل مع المستخدمين وفهم احتياجاتهم يعد الركيزة الأساسية لتطوير أنظمة متقدمة قادرة على التكيف مع بيئات العمل المختلفة، موضحًا: "لا يمكننا الاعتماد فقط على منصات عالمية مثل OpenAI أو Google دون النظر إلى احتياجاتنا المحلية وتطوير حلول مخصصة لهذه التحديات."
وأوضح سامي أن الشركات الكبرى مثل OpenAI وMeta تضع حدودًا لإمكانيات النماذج التي تتيحها للعامة، حيث تظل "القدرات الحقيقية" لهذه النماذج داخلية وغير متاحة للاستخدام العام، مما يُضعف فرص استفادة الدول النامية من هذه التقنيات. وأضاف قائلًا: "النماذج المتاحة حاليًا للعامة هي ما قررت هذه الشركات مشاركته فقط، بينما تبقى القدرات الكاملة حكرًا على الاستخدام الداخلي."
وشدد على ضرورة تجاوز هذا التحدي عبر بناء نماذج محلية ذات كفاءة عالية، قائلًا: "الاعتماد على النماذج المفتوحة قد يكون خطوة آمنة مؤقتًا، لكن الحل الأمثل هو الاستثمار في بناء نماذج محلية تتيح للدول التحكم الكامل في البيانات والمخرجات."
وفيما يتعلق بالتحديات المستقبلية، أكد سامي على أهمية التعاون بين الدول لتطوير تقنيات ذكاء اصطناعي تتماشى مع قواعد الأمن السيبراني العالمية. وأوضح أن تطوير نماذج محلية يتطلب تعزيز استثمارات كبيرة في تدريب البيانات وإنشاء أنظمة متقدمة تتماشى مع احتياجات السوق المحلي.
وأكد على أن تطوير الذكاء الاصطناعي المحلي ليس مجرد خيار، بل ضرورة استراتيجية لضمان السيادة الرقمية للدول. وقال: "علينا التفكير في بناء نماذج تتماشى مع متطلباتنا وتُظهر قدرتنا على المنافسة عالميًا مع الحفاظ على خصوصية بياناتنا."
جاء ذلك خلال فعاليات النسخة الثامنة والعشرين من معرض ومؤتمر Cairo ICT’24، المنعقدة تحت رعاية فخامة الرئيس عبد الفتاح السيسي، رئيس الجمهورية، خلال الفترة من 17 إلى 20 نوفمبر 2024، بمركز مصر للمعارض الدولية. يأتي المعرض هذا العام تحت إشراف الدكتور عمرو طلعت، وزير الاتصالات وتكنولوجيا المعلومات.
تنظم فعاليات المعرض شركة تريد فيرز إنترناشيونال بالتعاون مع الشركة المتحدة للخدمات الإعلامية، تحت شعار "The Next Wave"، حيث يسلط الضوء على أحدث التقنيات والاتجاهات المستقبلية التي ستعيد تشكيل الصناعات والاقتصادات والمجتمعات. ويشهد الحدث مشاركة كبرى المؤسسات العالمية وقادة التكنولوجيا.
يأتي المعرض برعاية عدد من الشركات والمؤسسات الكبرى، منها: دل تكنولوجيز، مجموعة إي فاينانس للاستثمارات المالية والرقمية، البنك التجاري الدولي (CIB)، هواوي، أورنج مصر، مصر للطيران، المصرية للاتصالات، ماستركارد، وهيئة تنمية صناعة تكنولوجيا المعلومات (إيتيدا). كما تضم قائمة الرعاة شركات مثل: إي آند إنتربرايز، مجموعة بنية، خزنة، وسايشيلد.
يمثل معرض ومؤتمر Cairo ICT’24 منصة مهمة لاكتشاف الموجة التالية من التطور التكنولوجي، وإبراز الفرص المستقبلية التي تساهم في إعادة تشكيل الاقتصاد المصري والعالمي.
رئيس الرابطة الطبية الأوروبية: 95% من انتشار الأرتيكاريا يأتي في الأجواء الباردة