غوغل تتيح أداة لتمييز النصوص المنشأة بالذكاء الاصطناعي
تاريخ النشر: 24th, October 2024 GMT
أعلنت شركة غوغل عبر منصة إكس أن أداتها "SynthID Text" الخاصة بوضع علامات مائية على النصوص، لتسهيل تمييز المحتوى المُولد بواسطة الذكاء الاصطناعي عن المنشورات المكتوبة بشرياً، أصبحت الآن متاحة كنسخة مفتوحة المصدر.
وقال نائب رئيس قسم الأبحاث في "ديب مايند" بوشميت كوهلي، لمجلة MIT Technology Review: "الآن سيتمكن مطورو الذكاء الاصطناعي التوليدي الآخرون من استخدام هذه التقنية لمساعدتهم في اكتشاف ما إذا كانت النصوص ناتجة عن نماذج لغوية كبيرة خاصة بهم، مما يسهل عليهم بناء الذكاء الاصطناعي بشكل مسؤول".
ويمكن تحميل أداة SynthID Text"، التي تم الإعلان عنها رسمياً في أغسطس (آب) الماضي، من منصة " Hugging Face"، فهي جزء من مجموعة أكبر لأدوات "العلامات المائية" لمخرجات الذكاء الاصطناعي التوليدية، الخاصة بغوغل.
وتقول غوغل إن النسخة الخاصة بالنصوص من SynthID تُخرج النص بطريقة يمكن احتمال اكتشافها قليلاً بواسطة البرامج فقط، لكن ليس بواسطة البشر.
وتعمل أداة SynthID عن طريق إضافة علامة مائية غير مرئية مباشرة إلى النص، عندما يتم إنشاؤه بواسطة نموذج الذكاء الاصطناعي.
ووجد فريق Google DeepMind أن استخدام علامة SynthID المائية لا يضر بجودة أو دقة أو إبداع أو سرعة النص الذي تم إنشاؤه.
وتم استخلاص هذا الاستنتاج من تجربة ضخمة لأداء SynthID بعد نشر العلامة المائية في مخرجات Gemini واستخدامها من قِبَل ملايين الأشخاص.
وأصبحت العلامات المائية أدوات بالغة الأهمية مع تزايد استخدام النماذج اللغوية الكبيرة، لنشر معلومات سياسية مضللة، أو إنشاء محتوى جنسي دون موافقة، أو لأغراض خبيثة أخرى.
وتبحث ولاية كاليفورنيا بالفعل في جعل وضع العلامات المائية إلزماياً للذكاء الاصطناعي، بينما بدأت الحكومة الصينية بفرض ذلك العام الماضي. ومع ذلك، فإن هذه الأدوات لا تزال قيد التطوير.
ومع تزايد نسبة المحتوى الإلكتروني الناتج عن الذكاء الاصطناعي، تبرز أهمية هذه التقنية لمواجهة تحديات المعلومات المضللة والاحتيال.
المصدر: موقع 24
كلمات دلالية: عام على حرب غزة إيران وإسرائيل إسرائيل وحزب الله السنوار الانتخابات الأمريكية غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي غوغل الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
كاسبرسكي: الشركات قلقة من تنامي استخدام الذكاء الاصطناعي في الهجمات السيبرانية
كشفت دراسة حديثة من كاسبرسكي عن قلق متزايد في أوساط الشركات حول تنامي استخدام الذكاء الاصطناعي (AI) في الهجمات السيبرانية. ووفقاً للنتائج في المملكة العربية السعودية ، أفادت 82% من الشركات التي شملها الاستطلاع بزيادة في الحوادث السيبرانية خلال العام الماضي، مع إشارة ما يقرب من نصف المشاركين في الاستطلاع (62%) إلى كون العديد من هذه الهجمات على الأرجح مدفوعة بالذكاء الاصطناعي. وتُبرز الدراسة حقيقة أن الذكاء الاصطناعي، الذي أحدث ثورة في العديد من القطاعات، يساهم أيضاً في تمكين المجرمين السيبرانيين، مضيفاً طبقة أخرى من التعقيد إلى التهديدات التي تواجهها الشركات.
في آخر دراسة لها تحت عنوان «الدفاع السيبراني والذكاء الاصطناعي: هل أنت مستعد لحماية مؤسستك؟» قامت كاسبرسكي بجمع آراء مختصي أمن الأنظمة التقنية وأمن المعلومات، ممن يعملون في الشركات الصغيرة والمتوسطة والشركات الكبرى حول التحديات الجديدة في حماية مؤسساتهم من الهجمات السيبرانية التي تتضمن استخدام الذكاء الاصطناعي.
يعتبر 76% من المشاركين في المملكة العربية السعودية في الاستطلاع استعانة المجرمين السيبرانيين بالذكاء الاصطناعي مصدر قلق جدي لهم. مدفوعة بضغط هذا التحدي، تتجه الشركات لإعادة تقييم استراتيجياتها للأمن السيبراني والبحث عن حلول تتسم بالاستباقية والشمولية في آن واحد. ولمكافحة التهديدات المعززة بالذكاء الاصطناعي بفعالية، ترى الشركات أنّ أبرز العوامل لحماية مؤسساتها هي على الترتيب التالي من حيث الأهمية: التدريب الدوري لمراكمة الخبرة الداخلية بنسبة (98%)، والموظفون المؤهلون تأهيلاً ممتازاً بنسبة (96%)، والخبرة الخارجية المرتبطة بالأمن السيبراني بنسبة (96%). كما تدرك الأهمية الكبيرة لوجود عددٍ كافٍ من الموظفين ضمن فرق تكنولوجيا المعلومات لديها بنسبة (98%)، فضلاً عن أهمية استخدام حلول أمان الطرف الثالث بنسبة (98%).
رغم الوعي المتصاعد، إلا أن الدراسة تكشف عن وجود فجوة مقلقة في الجاهزية لدى العديد من الشركات. إذ يفتقر أكثر من نصف المؤسسات التي شملها الاستطلاع إلى الموارد الأساسية اللازمة لمواجهة هذه التهديدات المعقدة - فصرحت 64% من هذه المؤسسات بحاجتها للخبرة الخارجية الملائمة في الأمن السيبراني، وأفادت 58% منها بعدم كفاية فرق تكنولوجيا المعلومات خاصتها، وافتقار 49% منها إلى الموظفين ذوي المؤهلات العالية، و51% منها لا تقوم بتدريب منتظم بالشكل المطلوب. علاوة على ذلك، يعتقد 44% من المشاركين أن ما بحوزتهم من حلول أمنية ليس بالكافي، ما يعرضهم لثغرات محتملة. وفي حين يدعي معظم المشاركين معرفتهم بكيفية التعامل مع هذا النقص في الموارد، إلا أن الواقع هو أنها لا تزال غير متوفرة.
قال أوليج جوروبيتس، خبير حماية البنية التحتية للشركات في كاسبرسكي: «يعكس مشهد الأمن السيبراني اليوم التحديات السابقة، حيث تتساءل الشركات عما إذا كانت الحلول الحالية تفي بالغرض. كما وتشهد برمجيات الفدية الآن طفرة خطيرة، وهي التي كانت من التهديدات الرئيسية سابقاً، وقد بدأ صناع القرار في عالم الأعمال ينشدون إجابات حول الأسباب وراء عودة هذا التهديد. ولعل في الاهتمام المتصاعد بالذكاء الاصطناعي تفسير مبسط، إن لمن يكن دقيقاً بالكامل. وفي الواقع، فرغم أن استخدام الذكاء الاصطناعي لإنشاء رسائل تصيد احتيالي مقنعة أو لتجميع معلومات بكفاءة أكبر قد يكون ذا فائدة، إلا أن السبب الأساسي أكثر بساطة؛ فقد بات المجرمون السيبرانيون على درجة أعلى في التنظيم، وأفضل في التعاون، وفي تطوير استراتيجيات هجوم مبتكرة، وفي تذليل العقبات أمام المهاجمين الأقل مهارة وموارداً. لذا، ففي حين أن من المجدي مراقبة تطور الذكاء الاصطناعي عن كثب، والذي من شأنه تميكن المهاجمين والمدافعين على حد سواء بخيارات مضافة، فهنالك استراتيجيات قوية يمكن للشركات اعتمادها على الفور، وينبغي عليها ذلك. إذ يتوجب على الشركات إعطاء الأولوية لتأمين بنية تكنولوجيا المعلومات التحتية الحرجة مع حلول محكمة متعددة الطبقات، بوسعها توفير سياق حماية موحد. فبالإمكان تحسين الدفاعات بشكل كبير عبر منظومة حل اكتشاف واستجابة موسعة، إلى جانب الخبرة المتمكنة، سواء الداخلية أو تلك التي من خلال إحدى الخدمات المدارة. علاوة على ذلك، يضيف تدريب الموظفين المستمر طبقة أخرى جوهرية من الحماية للمنظمة، بما يتضمنه من أساسيات الأمن السيبراني وممارسات الذكاء الاصطناعي الآمنة.»
لحماية الأعمال ضد التهديدات السيبرانية المعززة بالذكاء الاصطناعي، توصي كاسبرسكي بالشروع بالتدابير التالية:
• تأكد أن كل مستوى ومكون من شبكة تكنولوجيا المعلومات لديك محمي بواسطة حلول دفاعية قوية ومتعددة الطبقات. فحلول كاسبرسكي، بدءًا من Kaspersky Next، تحتوي جميعها على تقنيات ذكاء اصطناعي متقدمة تهدف إلى حظر التهديدات الناشئة تلقائيًا.
• احرص أن حلول الحماية تلك تتيح التوافق المتبادل، وذلك لتزويد فريقك برؤية موحدة لأمان شركتك. وهنا، يتجلى تأثير حل الاكتشاف والاستجابة الموسعة؛ ذلك أن اعتماد منظومة حل اكتشاف واستجابة موسعة حيوية من مزود واحد هو القرار الراجح دوماً، ويمكن اعتبار حل Kaspersky Next XDR Expert الخيار الطبيعي هنا.
• عبر الإفادة من أفضل خبرات الأمن السيبراني، يمكن للشركات اكتشاف واحتواء الهجمات المعقدة والمركزة، والتي تزداد في تمرسها في ظل مساعدة أدوات الذكاء الاصطناعي المهاجمين في إطلاق هجمات موجهة أكثر إحكاماً. وفي حال افتقارك لهذه الخبرة على المستوى الداخلي، يُعتبر حل Kaspersky Managed Detection & Response جنباً إلى جنب مع Kaspersky Cybersecurity Training عبر الإنترنت وبالتطبيق المباشر خيارين هامَين يعززان من مهارات فريقك الداخلي.
• اجعل من قوى العمل المكتبي لديك بمثابة طبقة دفاع إضافية مع منصة Kaspersky Automated Security Awareness Platform والتي تساهم في ترسيخ السلوك الآمن سيبرانياً. وتتضمن أقسام متخصصة ومكرسة للتهديدات المعززة بالذكاء الاصطناعي وللاستخدام الآمن لأدوات الذكاء الاصطناعي، فتساعد في تفادي الأخطار المترافقة مع التفشي المتنامي لأدوات الذكاء الاصطناعي.
جهود الدولة لدعم ذوي الإعاقة.. غطاء قانوني ودستوري