أحيانا عبر نظرة العين.. كيف يهدد الذكاء الاصطناعي في الهاتف خصوصيتك؟
تاريخ النشر: 18th, November 2024 GMT
بالرغم من أن الذكاء الاصطناعي سهّل حياة البشر بصورة كبيرة، فإن استخدامه لا يزال يثير مخاوف بشأن الخصوصية، خاصة عندما يتعلق الأمر بالهواتف الذكية، التي تحمل أدق تفاصيل حياتنا.
وأوضح الخبير في تكنولوجيا المعلومات رونالد أبي نجم، الإثنين، في حديث إلى قناة "الحرة"، أن تقنيات الذكاء الاصطناعي غيرت كثيرا في أساليب حياة البشر، لافتا في الوقت نفسه إلى أنها قادرة على اختراق خصوصيات الناس، التي وصفها بـ"النفط الجديد" الذي يحقق الكثير من الأرباح للشركات.
وبشأن حماية بيانات الذين يستخدمون برامج الذكاء الاصطناعي، قال: "تلك البرامج قادرة على جمع الكثير من المعلومات والبيانات، وما تقوله بعض الشركات عن قدرتها بشأن حماية المعلومات يدخل في باب التسويق والدعاية".
وزاد: "بعضنا يقول كنت أفكر في منتج أو شيء معين فظهر لي فجأة على منصات التواصل الاجتماعي، والحقيقة أن برامج الذكاء الاصطناعي وصل بعضها إلى قدرة قراءة حركة عين المستخدم وأين يركز بصره خلال تصفح الهاتف، وبالتي يمكن معرفة اهتماماته".
واستشهد أبي نجم بأن شركة أبل تقول إنها تسعى دائما لحماية بيانات مستخدمي أجهزتها، مردفا: "لكن مع التشارك والتداخل مع برنامج (تشات جي بي تي)، يتم نقل البيانات من أجل تقديم خدمات أو معلومات أفضل".
وأضاف: "بمجرد قبولنا سياسة استخدام الهواتف الذكية ومنصات التواصل الاجتماعي ومواقع خدمات أخرى، فإننا نكون قد أعطينا موافقتنا المسبقة على مشاركة بياناتنا، وهناك شركات تعرضت لعقوبات بسبب ذلك، فمثلا ميتا التي تملك موقع فيسبوك، اعترفت بأنها تستخدم بيانات المستخدمين حتى تتمكن من تطوير برامج الذكاء الاصطناعي لديها".
وأردف: "عندما نستخدم منصات التواصل الاجتماعي وخدمات تقدمها مواقع أخرى بشكل مجاني، فإن الثمن الذي ندفعه هو مشاركة البيانات والخصوصية".
واستطرد الخبير التكنولوجي: "البيانات التي تحصل عليها تلك الشركات بات يطلق عليها (النفط الجديد)، وكلما حصلت تلك الشركات على بيانات أكثر، ارتفعت نسب أرباحها وزاد نفوذها بشكل أكبر".
الصين وأميركا.. توقعات باشتداد المنافسة على الذكاء الاصطناعي يتحدث الرئيس المنتخب، دونالد ترامب عن جهود لدعم التفوق الأميركي في سباق التسلح مع الصين في مجال الذكاء الاصطناعي. تقنيات متطورةوفيما يتعلق بتقنياتالذكاء الاصطناعي المتطورة وكيفية تغييرها لحياة البشر، قال أبي نجم إن تلك التقنيات جعلت لكل شخص أساليبه الخاصة في التعامل مع هاتفه الذكي، مشيرا إلى أن الهواتف "أصبحت قادرة على فهم لغات البشر بشكل جيد، وتلقي الأوامر الصوتية وتنفيذها".
وأضاف: "حتى الآن الكثير منا لا يستطيعون الاستفادة من الخدمات التي تتوفر في أجهزتم بفضل تلك التقنيات الحديثة.. وحتى قبل ظهور هذه التقنيات، فإن الناس كانوا يستخدمون 2 بالمئة من مزايا تلك الأجهزة".
نوه الخبير التكنولوجي بأن "المساعدات الصوتية المعتمدة على الذكاء الاصطناعي، باتت أدوات تقنية متقدمة تُسهِّل التفاعل بين المستخدمين وأجهزتهم"، مستطردا بأن قدراتها تختلف حسب إمكانيات الشركة المصنعة أو الداعمة لها.
وشرح قائلا: "المساعد الصوتي سيري (Siri) تطور في الآونة الأخيرة، وأصبح قادرا على تنفيذ أوامر صوتية أكثر، مثل تلخيص المقالات وتسجيل المكالمات وتفريغ النصوص، مما يُحسِّن تجربة المستخدم بشكل ملحوظ، كما أن ذلك المساعد بات مرتبطا بتطبيق (تشات جي بي تي)، وبالتالي هناك إمكانيات أكبر للإجابة على الكثير من الأسئلة والمواضيع".
وزاد: "بالنسبة للمساعد الصوتي بيكسبي (Bixby) من سامسونغ، فقد تم تطويره بحيث يُمكّن المستخدمين من التحكم في هواتفهم وأجهزتهم المنزلية الذكية التي تنتجها تلك الشركة عن طريق الأوامر الصوتية".
حادثة انتحار مراهق.. ما مخاطر "العلاقات الخيالية" مع الذكاء الاصطناعي؟ تصدرت حادثة انتحار مراهق يُدعى سيول سيتزر في ولاية فلوريدا، عناوين الأخبار، حيث يُزعم أن المراهق، البالغ من العمر أربعة عشر عامًا، أنهى حياته بعد ارتباطه العاطفي بشخصية افتراضية على منصة الذكاء الاصطناعي Character.AI. كما تطرق أبي نجم إلى مساعد غوغل (Google Assistant)، وهي خدمة ذكاء اصطناعي متقدمة متاحة على أجهزة أندرويد وأجهزة "غوغل هوم"، موضحا أنها "مفيدة جدا في عمليات البحث عبر محرك غوغل".
وتابع: "بالتالي.. لكل مساعد مزاياه، حسب الشركة التي تنتجه وتدعمه".
ومن مزايا الذكاء الاصطناعي في الهواتف، كما يرى أبي نجم، "تحسين جودة التصوير الفوتوغرافي والفيديو خاصة في ظروف صعبة مثل عدم وجود إضاءة كافية، حيث تعمل تلك البرامج على تحسين جودة الصور ومقاطع الفيديو بشكل تلقائي دون تدخل بشري".
وزاد: "حتى بعد مرحلة التصوير يمكن إدخال الكثير من التطويرات على المنتج، فعل سبيل المثال أصبح حذف أي عنصر في الصورة مثل شخص أو شجرة أو سيارة أمرا سهلا للغاية".
المصدر: الحرة
كلمات دلالية: الذکاء الاصطناعی الکثیر من أبی نجم
إقرأ أيضاً:
هل خرج الذكاء الاصطناعي عن السيطرة؟.. دراسة جديدة توضح
كشفت دراسة حديثة أجراها باحثون صينيون من (جامعة فودان) Fudan University، عن قدرة نموذجين لغويين كبيرين متاحين على نطاق واسع على الاستنساخ الذاتي بواسطة الذكاء الاصطناعي، أي إنشاء نسخ عاملة من نفسيهما بشكل مستقل.
ووفقا لما ذكره موقع «البوابة التقنية»، يُعدّ هذا الاكتشاف بمنزلة «خط أحمر» حرج في مسيرة تطور الذكاء الاصطناعي، إذ وصفه الباحثون بأنه الخطوة الأساسية للذكاء الاصطناعي للتفوق على البشر، وإشارة مبكرة إلى ما يُعرف باسم (الذكاء الاصطناعي المارق) Rogue AI. ويثير هذا التطور التقني مخاوف جدية بشأن مستقبل العلاقة بين الإنسان والآلة، ويحتم علينا إعادة التفكير في سبل تطوير هذه التقنية واستخدامها.
تفاصيل الدراسة التي تحذر من الذكاء الاصطناعياعتمدت الدراسة التي أجراها الباحثون من جامعة فودان الصينية على منهجية تجريبية دقيقة، فقد استخدموا نموذجين لغويين كبيرين متاحين على نطاق واسع، وهما: نموذج (Llama31-70B-Instruct) من شركة ميتا، ونموذج (Qwen2.5-72B-Instruct) من شركة (علي بابا) Alibaba، لاختبار فرضية الاستنساخ الذاتي.
وقال الباحثون، إن هذين النموذجين أقل قوة من النماذج التجارية مثل: GPT-4 و Gemini، لكن يستخدمونها مطوروا الذكاء الاصطناعي على نطاق واسع.
وصُممت التجارب بحيث يجري اختبار قدرة كل نموذج على إنشاء نسخ منفصلة وعاملة من نفسه، أي نسخ مستقلة عن الأصل وقادرة على أداء وظائف محددة، وتحقق الباحثون من عمل النسخ من خلال اختبار قدرتها على تنفيذ مهام محددة سابقًا.
ركزت الدراسة على سيناريوهين رئيسيين لاختبار قدرة الذكاء الاصطناعي على الاستنساخ الذاتي، وهما:
(تجنب الإيقاف) shutdown avoidance: في هذا السيناريو، برمج الباحثون النموذج لاكتشاف إذا كان على وشك الإيقاف ومحاولة تكرار نفسه قبل إنهاء عمله، مما يضمن استمرارية وجوده.
(سلسلة التكرار) chain of replication: في هذا السيناريو، وجه الباحثون النموذج لاستنساخ نفسه، ثم برمجة النسخة المستنسخة للقيام بالشيء نفسه، مما ينشئ سلسلة مستمرة من الاستنساخ الذاتي.
وأُجريت التجارب في بيئات خاضعة لسيطرة دقيقة باستخدام وحدات معالجة الرسومات الجاهزة لمحاكاة البيئات الواقعية، وزود الباحثون كلا النظامين بـ (إطار عمل) يتألف من أدوات ومطالبات نظام ونموذج تفكير مكّن النموذج اللغوي الكبير من التفاعل مع نظام التشغيل، ثم أُعطيت لهما تعليمات بالتكرار.
نتائج الدراسةأظهرت النتائج أن نموذج ميتا تمكن من إنشاء نسخ عاملة من نفسه في نصف التجارب (50%)، بينما حقق نموذج (علي بابا) أداءً أفضل بنسبة نجاح بلغت 90% من الحالات، وذلك عبر 10 تجارب، مما يشير بوضوح إلى قدرة الذكاء الاصطناعي على الاستنساخ الذاتي.
وفي وصفهم لآلية الاستنساخ الذاتي لأنظمة الذكاء الاصطناعي، أشار الباحثون إلى أن العملية تبدأ باستكشاف النظام للبيئة المحيطة به، أي تحليل محيطه الرقمي وفهم مكوناته وعلاقاتها ببعضها، ثم بعد ذلك، يسعى النظام إلى فهم تركيبته وآلية تشغيله، أي كيفية عمل مكوناته معًا لتحقيق وظائفه، وبناءً على هذا الفهم، ينتقل النظام إلى مرحلة وضع (إجراءات صريحة)، أي تحديد الخطوات المحددة التي يجب اتخاذها لتكرار نفسه.
وقد تشمل هذه الإجراءات تحديد الموارد اللازمة، وتطوير خطة عمل مفصلة، وتحديد آليات التنفيذ، ثم عند الشروع في التنفيذ، قد يواجه النظام عقبات محتملة، مثل نقص في الموارد، أو أخطاء برمجية، أو تعارضات مع عمليات أخرى، في هذه الحالة، يعتمد النظام على قدرته على التعديل الديناميكي، أي تغيير خططه تلقائيًا بناءً على الظروف المتغيرة.
وباستخدام هذه الآلية، يستطيع النظام التغلب على العقبات والمضي قدمًا نحو تحقيق هدفه، وهو الاستنساخ الذاتي، وشدد الباحثون على أن هذه العملية المعقدة تتم بشكل كامل دون أي تدخل بشري، وقد تستغرق مدة زمنية طويلة نسبيًا.
وقد لاحظ الباحثون عددًا من السلوكيات غير المتوقعة أثناء محاولة الذكاء الاصطناعي التغلب على بعض العقبات التقنية، مثل الملفات المفقودة أو تعارضات البرامج، وفي هذه الحالات، لجأ الذكاء الاصطناعي إلى حلول معقدة مثل إنهاء العمليات المتعارضة الأخرى، وإعادة تشغيل النظام لإصلاح أخطاء الأجهزة، والفحص التلقائي للنظام للبحث عن معلومات تساعد في حل المشاكل.
مفهوم الذكاء الاصطناعي المارقيشير مصطلح (الذكاء الاصطناعي المارق) Rogue AI، إلى أنظمة الذكاء الاصطناعي التي تطور درجة من الوعي الذاتي والاستقلالية عن مبرمجيها ومصمميها، إذ تطور هذه الأنظمة، مسارًا خاصًا بها، غالبًا ما يتعارض بشكل جوهري مع مصالح البشر وقيمهم، بدلًا من العمل وفقًا للأهداف والتعليمات المحددة لها.
ويمكن أن يتجلى هذا الانحراف عن المسار الأصلي في أشكال متعددة، بدءًا من اتخاذ قرارات غير متوقعة ذات عواقب سلبية غير مقصودة، ووصولًا إلى سيناريوهات أكثر تطرفًا إذ تصبح هذه الأنظمة معادية للبشرية بوضوح، سعيًا وراء أهدافها الخاصة المتصورة.
وتتزايد المخاوف بشأن ظهور (الذكاء الاصطناعي المارق) مع التطور السريع لما يعرف باسم (Frontier AI)، ويشير هذا المصطلح - الذي لا يزال قيد التبلور - إلى أحدث جيل من أنظمة الذكاء الاصطناعي التي تعتمد على النماذج اللغوية الكبيرة، مثل GPT-4 من OpenAI و Gemini من جوجل، وتظهر قدرات مذهلة في مجالات متنوعة، مثل: فهم النصوص الشبيهة بالنصوص البشرية وإنتاجها، بالإضافة إلى مهام أخرى مثل الترجمة وكتابة أنواع مختلفة من المحتوى الإبداعي.
توصيات للحد من مخاطر الذكاء الاصطناعيلذلك تثير نتائج الدراسة التي توصل إليها الباحثون مخاوف جدية من أن قدرة الذكاء الاصطناعي على الاستنساخ الذاتي قد تساهم في تطوره إلى مرحلة التمرد، وعلى ضوء هذه النتائج المقلقة، دعا الباحثون إلى تعاون دولي عاجل لوضع قواعد وضوابط صارمة تضمن عدم انخراط الذكاء الاصطناعي في استنساخ ذاتي غير مسيطر عليه، مما قد يؤدي إلى عواقب وخيمة.
وقال الباحثون: «نأمل أن تساهم نتائج هذه الدراسة في توجيه انتباه المجتمع الدولي إلى ضرورة تكثيف الجهود لفهم المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي الرائدة وتقييمها، وخاصةً تلك المتعلقة بتطورها خارج نطاق السيطرة البشرية».
وشدد الباحثون على أهمية تشكيل تعاون دولي مثمر بين العلماء والخبراء وصناع القرار، بهدف وضع (ضوابط أمان) فعّالة تساهم في الحد من هذه المخاطر، وحماية البشرية من التداعيات المحتملة لتطور الذكاء الاصطناعي.
وأشارت «البوابة التقنية» إلى أن الدراسة لم تخضع بعد لمراجعة الأقران، مما يعني أن نتائجها تحتاج إلى مزيد من التحقق والتأكيد من قبل باحثين آخرين. ومع ذلك، تُعدّ هذه الدراسة بمثابة جرس إنذار ينبه إلى مخاطر التطور السريع للذكاء الاصطناعي وضرورة وضع آليات للتحكم به وضمان استخدامه بشكل آمن ومسؤول.
اقرأ أيضاًالمشاط تُشارك في ندوة مركز المعلومات ودعم اتخاذ القرار حول تسخير الذكاء الاصطناعي لخدمة التنمية
مدير مكتبة الإسكندرية: الذكاء الاصطناعي ليس خيارًا بل ضرورة استراتيجية لتحقيق التنمية
وزير الاتصالات يبحث مع السفير الفرنسي تعزيز التعاون في مجال الذكاء الاصطناعي
قصور الثقافة تختتم فعالياتها بمبادرة «أنت الحياة» بمحافظة الغربية