مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
«أسوشيتد برس»: فصل جديد لأمريكا مع الذكاء الاصطناعي
تابع أحدث الأخبار عبر تطبيق
طرحت وكالة "أسوشيتد برس" الأمريكية تساؤلا مثيرًا عن سبب تقرب شركات التكنولوجيا الكبرى من الرئيس الأمريكى المنتخب دونالد ترامب، قائلة: ما الذى تتوقعه صناعة التكنولوجيا من علاقاتها المتجددة مع ترامب؟.
فمن اللافت وفقًا للوكالة الأمريكية أن رؤساء شركات التكنولوجيا الكبرى - بمن فيهم تيم كوك من أبل، وسام ألتمان من أوبن إيه آي، ومارك زوكربيرج من ميتا، وماسايوشى سون من سوفت بنك، وجيف بيزوس من أمازون– انضموا إلى موكب من قادة الأعمال والعالم فى محاولة لتحسين مكانتهم مع "ترامب" قبل توليه منصبه فى يناير ٢٠٢٥.
وذلك في سلسلة من الزيارات والعشاءات والمكالمات والتعهدات المالية والمبادرات عبر وسائل التواصل الاجتماعي؛ ما أثار "ترامب"، وقال فى تصريحات له فى منتجع مار إيه لاغو: "فى الفترة الأولى، كان الجميع يحاربونني. وفى هذه الفترة، يريد الجميع أن يكونوا أصدقائي".
وأضافت "أسوشيتد برس" أن شركات التكنولوجيا والقادة الآن قد ضخت ملايين الدولارات فى صندوق تنصيبه، وهى زيادة حادة - فى معظم الحالات- مقارنة بالتعهدات السابقة للرؤساء القادمين. ولكن ما الذى تتوقعه صناعة التكنولوجيا من علاقاتها المتجددة مع ترامب؟
وخلال مقابلة يوم الثلاثاء الماضي، قال الرئيس التنفيذى لشركة Salesforce، مارك بينيوف: "إن إدارة "ترامب" القادمة تبدو مهتمة أكثر بسماع القضايا المهمة للصناعة من إدارة بايدن".
وأضاف "بينيوف"، الذى أكد أنه يسعى جاهدًا للبقاء غير حزبي؛ لأنه يمتلك مجلة تايم: "ضع كل السياسة جانبًا، فالجميع يريدون إعادة تشغيل بعض الأشياء. نحن فى لحظة مثيرة للغاية، إنها فصل جديد لأمريكا. أعتقد أنه يجب علينا جميعًا أن نتحلى بأفضل نوايانا للمضى قدمًا.
أعتقد أن الكثير من الناس يدركون أن هناك الكثير من الأشخاص الرائعين مثل إيلون ماسك فى صناعة التكنولوجيا وفى مجتمع الأعمال. إذا استفدت من قوة وخبرة الأفضل فى أمريكا لتحقيق أفضل ما فى أمريكا، فهذه رؤية رائعة".
تمهيد الطريق لتطوير الذكاء الاصطناعي
ووفقًا لما ورد بـ"أسوشيتد برس"، فقد جاء الدليل على ما تبحث عنه الصناعة قبل أيام قليلة من الانتخابات عندما انضم المسئولون التنفيذيون فى مايكروسوفت - الذين حاولوا إلى حد كبير إظهار موقف محايد أو حزبى - إلى حليف "ترامب" المقرب، رجل الأعمال مارك أندريسن، لنشر منشور على مدونة يوضح نهجهم تجاه سياسة الذكاء الاصطناعي.
وجاء فى الوثيقة التى وقعها أندريسن وشريكه التجارى بن هورويتز والرئيس التنفيذى لشركة مايكروسوفت ساتيا ناديلا ورئيس الشركة براد سميث: "يجب تنفيذ التنظيم فقط إذا كانت فوائده تفوق تكاليفه".
كما حثوا الحكومة على التراجع عن أى محاولة لتعزيز قوانين حقوق النشر التى من شأنها أن تجعل من الصعب على الشركات استخدام البيانات المتاحة للجمهور لتدريب أنظمة الذكاء الاصطناعى الخاصة بها. وقالوا: "يتعين على الحكومة فحص ممارساتها فى مجال المشتريات لتمكين المزيد من الشركات الناشئة من بيع التكنولوجيا للحكومة".
وتعهد "ترامب" بإلغاء الأمر التنفيذى الشامل للرئيس جو بايدن بشأن الذكاء الاصطناعي، والذى سعى إلى حماية حقوق الناس وسلامتهم دون خنق الابتكار. ولم يحدد ما سيفعله بدلًا من ذلك، لكن حملته قالت إن تطوير الذكاء الاصطناعى يجب أن يكون "متجذرًا فى حرية التعبير والازدهار البشر".
طاقة أسهل لمراكز البيانات
وتحدث حاكم ولاية داكوتا الشمالية دوج بورجوم، الذى اختاره "ترامب" لتولى وزارة الداخلية، بصراحة عن الحاجة إلى تعزيز إنتاج الكهرباء لتلبية الطلب المتزايد من مراكز البيانات والذكاء الاصطناعي.
وقال بورجوم فى ١٥ نوفمبر الماضي، فى إشارة إلى الذكاء الاصطناعي: "إن معركة الذكاء الاصطناعى تؤثر على كل شيء من الدفاع إلى الرعاية الصحية إلى التعليم إلى الإنتاجية كدولة. والذكاء الاصطناعى الذى سيأتى فى الأشهر الثمانية عشر المقبلة سيكون ثوريًا؛ لذا هناك شعور بالإلحاح والشعور بالفهم فى إدارة ترامب لمعالجته".
لقد ارتفع الطلب على مراكز البيانات فى السنوات الأخيرة بسبب النمو السريع للحوسبة السحابية والذكاء الاصطناعي، وتتنافس الحكومات المحلية على الصفقات المربحة مع شركات التكنولوجيا الكبرى.
ولكن مع بدء مراكز البيانات فى استهلاك المزيد من الموارد، بدأ بعض السكان فى مقاومة أقوى الشركات فى العالم بسبب مخاوف بشأن الصحة الاقتصادية والاجتماعية والبيئية لمجتمعاتهم.
تغيير مناقشة مكافحة الاحتكار
واقترح بول سوانسون، محامى مكافحة الاحتكار فى شركة المحاماة هولاند آند هارت قائلًا: "ربما يتعين على شركات التكنولوجيا الكبرى شراء نسخة من كتاب "فن الصفقة" لمعرفة أفضل السبل للتفاوض مع هذه الإدارة".
وأضاف: "لن أتفاجأ إذا وجدوا طرقًا للتوصل إلى بعض التسويات وانتهى بنا الأمر إلى رؤية المزيد من القرارات التفاوضية ومراسيم الموافقة".
وعلى الرغم من أن الهيئات التنظيمية الفيدرالية بدأت فى اتخاذ إجراءات صارمة ضد جوجل وفيسبوك خلال فترة ولاية ترامب الأولى كرئيس - وازدهرت فى عهد بايدن - إلا أن معظم الخبراء يتوقعون أن تخفف إدارته الثانية من إنفاذ قوانين مكافحة الاحتكار وأن تكون أكثر تقبلًا لعمليات اندماج الشركات.
وقد تستفيد جوجل من عودة "ترامب" بعد أن أدلى بتعليقات خلال حملته الانتخابية تشير إلى أن تفكيك الشركة ليس فى المصلحة الوطنية للولايات المتحدة، بعد أن أعلن القاضى أن محرك البحث الخاص بها احتكار غير قانوني.
لكن الترشيحات الأخيرة التى قدمها فريقه الانتقالى فضلت أولئك الذين انتقدوا شركات التكنولوجيا الكبرى؛ ما يشير إلى أن جوجل لن تكون بعيدة تمامًا عن المأزق.
إصلاح الأمور؟
تعهدت شركات ألتمان وأمازون وميتا بالتبرع بمبلغ مليون دولار لكل منها لصندوق تنصيب ترامب.
وقال "بينيوف" من شركة Salesforce يوم الثلاثاء الماضى إنه لن يتبرع بالمال لحفل التنصيب بسبب علاقاته بمجلة Time التى اختارت ترامب "شخصية العام" - وهو القرار الذى أدى إلى ظهور صورة الرئيس المنتخب على غلاف المجلة. وأضاف وهو يضحك: "أعتقد أننا تبرعنا للتو بهذه الصورة، يمكنه استخدام غلاف مجلة Time مجانًا".
خلال فترة ولايته الأولى، انتقد ترامب شركة أمازون وهاجم التغطية السياسية لصحيفة "واشنطن بوست"، التى يملكها الملياردير بيزوس. وفى الوقت نفسه، انتقد "بيزوس" بعض خطابات ترامب السابقة.
وفى عام ٢٠١٩، زعمت أمازون أيضًا فى قضية محكمة أن تحيز ترامب ضد الشركة أضر بفرصها فى الفوز بعقد بقيمة ١٠ مليارات دولار مع البنتاغون.
وفى الآونة الأخيرة، تبنى "بيزوس" نبرة أكثر تصالحية؛ فقد قال مؤخرا فى مؤتمر صحيفة "نيويورك تايمز" فى نيويورك إنه "متفائل" بشأن ولاية ترامب الثانية، فى حين أيد أيضا خطط الرئيس المنتخب لخفض القيود التنظيمية.
وجاء التبرع من شركة ميتا بعد أسابيع فقط من لقاء زوكربيرج مع ترامب بشكل خاص فى مار إيه لاغو.
وخلال حملة ٢٠٢٤، لم يؤيد زوكربيرج أى مرشح للرئاسة، لكنه أعرب عن موقف أكثر إيجابية تجاه "ترامب". وفى وقت سابق من هذا العام، أشاد برد "ترامب" على محاولة اغتياله الأولى. ومع ذلك، واصل "ترامب" فى الأشهر الأخيرة مهاجمة "زوكربيرج" علنًا.
وقال "ألتمان"، الذى يخوض نزاعًا قانونيًا مع منافسه فى مجال الذكاء الاصطناعى إيلون ماسك، إنه "ليس قلقًا" بشأن نفوذ الرئيس التنفيذى لشركة تسلا فى الإدارة القادمة.
وكان ماسك، وهو أحد المستثمرين الأوائل فى OpenAI وعضو مجلس الإدارة، قد رفع دعوى قضائية ضد الشركة فى وقت سابق من هذا العام زاعمًا أن صانع ChatGPT خان أهدافها التأسيسية المتمثلة فى الاستفادة من الصالح العام بدلًا من السعى لتحقيق الأرباح.
ماذا عن إيلون ماسك؟
وقال روب لالكا، أستاذ إدارة الأعمال فى جامعة تولين: "لدينا اثنان من أصحاب المليارات، ماسك وفيفيك راماسوامي، مكلفان بخفض ما يقولون إنه سيكون تريليونات الدولارات من الميزانية الفيدرالية، وتقليص الخدمة المدنية والقوى العاملة".
وأضاف: "إن ماسك يتمتع بمستوى من الوصول إلى البيت الأبيض لم يحظ به سوى عدد قليل جدًا من الآخرين - وهو الوصول الذى يسمح له بالتأثير المحتمل على مجالات سياسية متعددة، بما فى ذلك السياسة الخارجية، وسياسة السيارات والطاقة من خلال المركبات الكهربائية، وسياسة التكنولوجيا بشأن الذكاء الاصطناعي".
مجازر وحشية جديدة في غزة.. ومخاوف من إخلاء قسري لمشفى كمال عدوان