ما دلالات اختيار أسماء تقليدية لبرامج الذكاء الاصطناعي التوليدي؟
تاريخ النشر: 28th, October 2024 GMT
يبدو لافتا أن عددا كبيرا من واجهات الذكاء الاصطناعي التوليدي تحمل أسماء قديمة تذكّر بالماضي، على غرار ألبرت ومنى وكلود وجورج، وهو ما يرى فيه خبراء طريقة للطَمْأنة في ظل ما تثيره هذه التكنولوجيا غير المسبوقة من مخاوف تُحدِث اهتزازات في المجتمعات، بحسب ما أوردته وكالة الأنباء الفرنسية.
عندما كان رشيد بلعزيز -مثلا- يبحث عن اسم لأداته القائمة على الذكاء التوليدي والمتخصصة بالمساعدة في إنشاء الشركات، استشار فريقه التسويقي، وسرعان ما توافق معه على اسم جورج.
ويوضح رجل الأعمال المتحدر من مقاطعة جيرس في جنوب غربي فرنسا لوكالة فرانس برس أن هذا الاسم يوحي "بشخص هادئ" و"ذي خبرة"، ويرتبط بمفهوم "التقاليد والقيم".
ويضيف بلعزيز "ثمة حاجة إلى الهدوء لأن الناس غالبا ما يشعرون بالحماسة الزائدة عندما يريدون إطلاق أعمالهم التجارية".
ويتيح روبوت المحادثة (chatbot) "جورج" للمستخدمين التناقش في مشروعهم لإنتاج خطة عمل في بضع دقائق، في مهمة قد تستغرق عادة ما بين أسبوعين إلى ثلاثة.
ويقول بلعزيز إن هذه البرمجية موجودة "لوضع إطار عمل، بما يشبه دور المعلّم إلى حد ما".
كان أولريش تان، من المديرية الرقمية المشتركة بين الوزارات (دينوم) الذي طور "ألبير"، وهو مساعد بالذكاء الاصطناعي مستخدم في الإدارات الفرنسية، يبحث عن اسم "يُحفر في الذاكرة"، من دون أن يكون في شكل اختصار لعبارة أطول.
وقال "يعرف مسؤولون حكوميون اليوم (برنامج) الذكاء الاصطناعي هذا لأنه ليس الاسم الذي اعتدنا سماعه في أي مكان آخر، وبدرجة أقل في العالم الرقمي".
من المساعدة في البحث عن المعلومات، إلى تلخيص المستندات، مرورا حتى بالحصول على ردود على مراجعات المستخدمين؛ يستخدم حاليا ما يقرب من 200 موظف حكومي نظام "ألبير" الذي أُطلق في يناير/كانون الثاني في كثير من إدارات الدولة الفرنسية.
أما شركة "أنثروبيك" الناشئة في كاليفورنيا فأطلقت اسم "كلود" على نموذج الذكاء الاصطناعي التوليدي الخاص بها، تكريما لعالم الرياضيات الأميركي كلود شانون الذي أتاحت نظرياته حول اللغة الثنائية المطبقة على الدوائر الكهربائية ظهور شبكات الاتصال الجماهيري الحديثة.
"كلود هنا لمساعدتك"… عبارة منشورة على الموقع الإلكتروني للشركة الناشئة التي كشفت عن نسختها الأولى من هذا البرنامج في مارس/آذار 2023.
مثل منافسه "شات جي بي تي" الذي أنشأته "أوبن إيه آي" وأثار طرحه في أواخر عام 2022 ثورة في الذكاء الاصطناعي التوليدي، يستطيع "كلود" إنتاج جميع أنواع المحتوى بناء على طلب بسيط باللغة اليومية، ويسمح بالتفاعل للمستخدمين مع برنامج آلي بشكل غير مسبوق.
ويحمل كل ذلك اسما "دافئا ومحبوبا"، وفق ما أوضحت ناطقة باسم "أنثروبيك" لوكالة فرانس برس.
وعلى المنوال نفسه، تقدم الشركة الفرنسية الناشئة "أسك منى" (Ask Mona) روبوت دردشة يتحدث مع مستخدمي الإنترنت لمدّهم بتوصيات تتلاءم مع تفضيلاتهم الشخصية، بينها مثلا رحلات ثقافية مجانية.
يرتبط هذا الاختيار للأسماء الأولى قبل كل شيء "بإستراتيجية طمأنة" في مواجهة التكنولوجيا "المخيفة"، وفق المتخصصة في السيميولوجيا غاييل بينيدا.
ودخلت أنظمة الذكاء التوليدي حياتنا قبل مدة وجيزة، سواء من خلال اختصار نصوص معقدة، أو إنتاج قصائد في ثوانٍ، أو اجتياز اختبارات طبية. لكنّ هذه الوثبة التقنية تبعث آمالا بقدر ما تثير مخاوف على المستوى الاقتصادي والاجتماعي والمجتمعي.
وتقول عالمة علم السيميولوجيا إيلودي ميلكاريك -لوكالة فرانس برس- إن الذكاء الاصطناعي يثير مخاوف مرتبطة "بمستقبل بائس، بما يشبه (روايات جورج) أورويل أو قصة تيرمينيتور".
وتؤكد أن "أفضل طريقة لدرء هذا الخوف" تتمثل في إعطاء برمجيات الذكاء الاصطناعي "عمقا تاريخيا"، يتجلى خصوصا عبر منحها أسماء أولى تقليدية.
وتقول ميلكاريك "نتخيل (لدى سماع أسماء مثل) كلود أو جورج أنهم لأناس من جيل قديم، ومن ثم استطاعوا أن يختزنوا حكمة معينة لها طابع إنساني".
ويرغب فريق "أنثروبيك" في أن يكوّن مستخدمو الإنترنت انطباعا عن روبوت الدردشة "كلود" بأنه "شخص نقصده لطلب النصيحة"، كما يفعل الناس مع أجدادهم.
يرى أولريش تان، من جانبه، أن الاتجاه نحو الأسماء القديمة وسيلة لتذكيرنا "بأنه كان هناك تقدم تكنولوجي في الماضي، وسيكون هناك تقدم في المستقبل".
ويختتم قائلا "اليوم، العمل على تقنية حديثة يعني في نهاية المطاف مواصلة هذا الزخم"، بما يشبه إقامة حلقة وصل بين الماضي والمستقبل.
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی التولیدی
إقرأ أيضاً:
كيف أغرق جيش الاحتلال غزة بالقنابل عن طريق الذكاء الاصطناعي؟
سلّطت صحيفة "واشنطن بوست" الأمريكية، الضوء على استخدام جيش الاحتلال الإسرائيلي لأدوات الذكاء الاصطناعي في إغراق قطاع غزة بالقنابل، خلال حربه المستمرة على القطاع.
وقالت الصحيفة في تقرير أعدته إليزابيث دوسكين، إن "إسرائيل أنشأت مصنعا للذكاء الاصطناعي، وأطلقت العنان له في حرب غزة الحالية"، منوهة إلى أنه "قبل سنوات طورت تل أبيب وحدة استخباراتية وحولتها إلى ساحة فحص الذكاء الاصطناعي، ما أدى إلى نقاش بين القادة العسكريين البارزين حول قدرة البشر على التحكم به".
ولفتت إلى أن الجيش الإسرائيلي أغرق قطاع غزة بالقنابل، مستفيدا من قاعدة البيانات التي تم تجميعها بعناية شديدة على مر السنين، والتي تفصل عناوين المنازل والأنفاق والبنية التحتية الأخرى الحيوية لحركة حماس.
وتابعت: "بنك الأهداف نُفذ بسرعة، ومن أجل الحفاظ على وتيرة الحرب، لجأ الجيش الإسرائيلي إلى أداة ذكاء اصطناعي معقدة اسمها هاسبورا، والتي يمكن أن تولد بسرعة مئات الأهداف الإضافية"، وذلك حسب شخصين مطلعين على العملية.
وأوضحت الصحيفة أن "استخدام الذكاء الاصطناعي سمح بإعادة تعبئة بنك الأهداف للجيش الإسرائيلي، ومواصلة حملته دون انقطاع"، مبينة أن "اللجوء إلى هذه الأداة هو مثال على كيفية مساهمة البرنامج الذي استمر لعقد من الزمان، لوضع أدوات الذكاء الاصطناعي المتقدمة في مركز عمليات استخبارات الجيش الإسرائيلي".
وبحسب ما نقلته "واشنطن بوست" عن خبراء، فإن الجيش الإسرائيلي أقر بوجود هذه البرامج التي تعتبر من أكثر المبادرات بمجال الذكاء الاصطناعي.
لكن تحقيق الصحيفة يكشف تفاصيل جديدة لم يتم الحديث عنها في السابق، وتتعلق بالعمل الداخلي لآلة التعلم للبرنامج، إلى جانب التاريخ السري الطويل لتطويره.
وأشارت إلى أن برنامج الذكاء الاصطناعي كان وراء المشاهد التي سرعت من عمليات القتل في غزة، والتي طالت أكثر من 45 ألف شخص، نصفهم من النساء والأطفال، بحسب الأرقام المعلنة من وزارة الصحة الفلسطينية بقطاع غزة.
سرعة توليد الأهداف
وقال أشخاص على معرفة بممارسات الجيش الإسرائيلي، بمن فيهم الجنود الذي قاتلوا في غزة، إن "الجيش زاد من نسبة الضحايا المقبولة بين المدنيين عن النسبة العادية، وإن هذا التحول ساعد عليه الأتمتة والتشغيل الآلي، الذي زاد من سرعة توليد الأهداف وتوسيع مداها".
واعتمدت الصحيفة في تحقيقها على مقابلة عدد كبير من الأشخاص المطلعين على النظام، معظمهم طلب عدم الكشف عن هويتهم. وقال ستيفن فيلدستين، الزميل البارز في وقفية كارنيغي للسلام العالمي: "ما يجري في غزة هو استمرار للتحول بطريقة شن الحرب".
وزعم الجيش الإسرائيلي أن الحديث عن أخطاء باستخدام الذكاء الاصطناعي وتعريضه حياة المدنيين للخطر "غير صحيحة". وقال "كلما زادت القدرة على تجميع المعلومات بشكل فعال، كلما كانت العملية أكثر دقة. إذا كان هناك أي شيء، فإن هذه الأدوات قللت من الأضرار الجانبية ورفعت من دقة العملية التي يقودها الإنسان".
ويطلب الجيش الإسرائيلي من الضابط التوقيع على أي توصيات من أنظمة "معالجة البيانات الضخمة" الخاصة به، حسب مسؤول استخباراتي تحدث بشرط عدم الكشف عن هويته. وأضاف الشخص أن "هاسبورا" وأدوات الذكاء الاصطناعي الأخرى لا تتخذ القرارات بشكل مستقل.
وتقول الصحيفة إن التغييرات في وحدة الاستخبارات المعروفة باسم 8200 تكثفت في عام 2020 تحت إدارة يوسي ساريل، الذي قام بتحويل عمل الوحدة وطرق جمع الاستخبارات. وكان ساريل من الداعين لتطوير آلة ذكاء اصطناعي وبرمجية "هاسبورا" لجمع المعلومات وتقوم على خوارزميات تكهنية، يسمح للجنود بالاستعلام بسرعة عن كنز هائل من البيانات المعروفة داخل المؤسسة العسكرية باسم "المسبح".
ومن خلال مراجعة كميات هائلة من البيانات من الاتصالات التي تم اعتراضها ولقطات الأقمار الصناعية وشبكات التواصل الاجتماعي، تقوم الخوارزميات بإخراج إحداثيات الأنفاق والصواريخ وغيرها من الأهداف العسكرية.
ويتم وضع التوصيات التي تنجو من التدقيق من قبل محلل استخباراتي في بنك الأهداف من قبل ضابط كبير. وتستخدم أداة أخرى للتعلم الآلي، تسمى لافندر، نسبة مئوية للتنبؤ بمدى احتمالية أن يكون الفلسطيني عضوا في جماعة مسلحة، ما يسمح للجيش الإسرائيلي بتوليد حجم كبير من الأهداف البشرية المحتملة بسرعة.
وتحمل الخوارزميات أسماء مثل الخيمائي وديبث أوف ويسدوم وهانتر وفلو، حيث يسمح الأخير بالاستعلام عن مجموعات بيانات مختلفة ولم يتم الإبلاغ عنها مسبقا. وطالما طرح العديد من ضباط الوحدة أسئلة وشكوكا حول آلة التعلم الآلي والقرارات السريعة التي تتخذها، وأنها تحمل في داخلها عيوبا أساسية.
ولم تشر التقارير المقدمة إلى القيادة العليا إلى كيفية استخلاص المعلومات الاستخباراتية، سواء من المحللين البشريين أو أنظمة الذكاء الاصطناعي، ما يجعل من الصعب على المسؤولين تقييم النتائج، وذلك مسؤول عسكري كبير سابق.
التكهن بأثر الهجمات
ووجدت مراجعة داخلية أن بعض أنظمة الذكاء الاصطناعي لمعالجة اللغة العربية تعاني من أخطاء، حيث فشلت في فهم الكلمات والعبارات العامية الرئيسية، حسب مسؤولين عسكريين سابقين. وبحسب الجيش الإسرائيلي فإن تكنولوجيا التعلم الآلي تستطيع التكهن بأثر الهجمات وعدد المدنيين الذين سيتضررون وتساعد إسرائيل على الالتزام بالقانون الدولي.
وبالإضافة إلى المخاوف بشأن جودة الاستخبارات المشتقة من الذكاء الاصطناعي، فإن استخدام هذه التكنولوجيا قد أثار تحولا جذريا في النموذج داخل الجيش الإسرائيلي، حيث اختطف ثقافة استخباراتية كانت تاريخيا تقدر التفكير الفردي لصالح ثقافة تعطي الأولوية للبراعة التكنولوجية، حسب ثلاثة من الأشخاص.
وقد مكنت وحدة 8200 منذ فترة طويلة المحللين من المستوى المنخفض، من تجاوز رؤسائهم المباشرين وإصدار تحذيرات مباشرة لكبار القادة.
وتحت قيادة سارييل وقادة استخباراتيين آخرين، أعادت وحدة 8200 هيكلتها للتركيز على المهندسين، وخفض المتخصصين باللغة العربية. وكذا التخلص العديد من القادة الذين يعتبرون مقاومين للذكاء الاصطناعي، وحل بعض المجموعات التي لا تركز على تكنولوجيا استخراج البيانات، حسب ثلاثة أشخاص.
المصنع يدك غزة
وباعتراف إسرائيل نفسها، لعب الذكاء الاصطناعي دورا كبيرا في عملية الاستهداف في غزة. ففي غضون أيام من هجمات 7 تشرين الأول/ أكتوبر انهالت ذخائر مارك 80 المصنعة في الولايات المتحدة والتي يبلغ وزنها 2,000 رطلا على القطاع. وفي بيان صحفي صدر في 2 تشرين الثاني/نوفمبر 2023، أعلن الجيش الإسرائيلي أن "هاسبورا" ساعده في قصف 12,000 هدف في غزة.
وعلى أنغام موسيقى درامية وفيديو لمباني تنفجر، أعلن البيان الصحفي عن "تعاون هو الأول من نوعه"، حيث تم تزويد القوات على الأرض وفي الجو وفي البحر بالمعلومات الاستخباراتية من مصنع أهداف الذكاء الاصطناعي في الوقت الفعلي، ما يتيح "تنفيذ مئات الهجمات في لحظة".
وقال آدم راز، المؤرخ الإسرائيلي الذي أجرى مقابلات مع جنود وقادة حول استخدام 8200 للذكاء الاصطناعي، إنه حسب أن الجيش الإسرائيلي كان يضرب هدفين تقريبا في الدقيقة في ذروة القصف - وهو ما رأى أنه معدل "مذهل".
وفي الأيام الأولى من الحرب كان مصنع الأهداف يعمل بسرعة فائقة، وكان يعمل به حوالي 300 جنديا على مدار الساعة. وكان مطلوبا من العديد من المحللين فحص الأهداف الموصى بها من "هاسبورا" و"لافندر"، وهي عملية قد تستغرق من ثلاث دقائق إلى خمس ساعات.
وتم التخلي عن القاعدة التي تلزم توفر دليلين استخباريين بشريين، للتحقق من صحة التنبؤ من "لافندر"، وتقليصه إلى دليل واحد في بداية الحرب، حسب شخصين مطلعين على الجهود.
وقال جندي إنه في بعض الحالات في فرقة غزة، هاجم جنود مدربون بشكل سيئ على استخدام التكنولوجيا أهدافا بشرية دون تأكيد تنبؤات "لافندر" على الإطلاق. وفي أوقات معينة، كان التأكيد الوحيد المطلوب هو إن كان الهدف ذكرا، حسب شخص آخر مطلع على الجهود.
وقال: "لقد بدأت مع لافندر، ثم قمت بعمل الاستخبارات". وللتتبع السريع للأشخاص الذين أشار إليهم لافندر باعتبارهم أعضاء محتملين في حماس، حصل الجيش على صور في الوقت الفعلي لأشخاص في منازلهم باستخدام طريقة رفض الجندي وصفها. ومكنتهم أدوات التعرف على الوجه المصممة خصيصا من مقارنة الصور بالصور الموجودة لأعضاء حماس في قاعدة بيانات لافندر.
وقال الشخص إنه في حين بدت المطابقات دقيقة، إلا أن بعض الجنود شعروا بالقلق من أن الجيش يعتمد فقط على التكنولوجيا دون تأكيد على أن الأشخاص ما زالوا أعضاء نشطين في حماس.
اليوم.. بدء تدريب "معلم مادة" بالقاهرة للعام الدراسي 2025