تحذيرات.. الذكاء الاصطناعي في خدمة قراصنة المعلوماتية
تاريخ النشر: 13th, September 2023 GMT
يمن مونيتور/ (أ ف ب)
يخشى مراقبون من إمكان أن يسهّل آليّو الدردشة وبرامج التزوير القائمة على الذكاء الاصطناعي عمل الجهات الضالعة في الجرائم الإلكترونية وعمليات الاحتيال عبر الإنترنت، بعدما أصبحت متاحة منذ نحو سنة للاستخدام العام، من دون أن تُحدث تغييرات جذرية على صعيد هجمات المعلوماتية التقليدية.
أدوات أفضل لـ”التصيد الاحتيالي”
تتمثل عملية “التصيد الاحتيالي” (“فيشينغ”) في الاتصال بشخص مستهدف وجعله يُدخل البيانات الخاصة به على موقع مقرصن يشبه المواقع الأصلية.
ويشرح جيروم بيلوا، وهو خبير في أمن المعلوماتية في شركة الاستشارات “وايفستون” ومؤلف كتاب عن الهجمات السيبرانية، “الذكاء الاصطناعي يسهل ويسرع وتيرة الهجمات”، من خلال إرسال رسائل إلكترونية مقنعة وخالية من الأخطاء الإملائية.
ويتبادل القراصنة بذلك خططاً تمكّنهم من توليد رسائل احتيالية محددة الهدف بشكل تلقائي، بواسطة منتديات عبر الإنترنت أو رسائل خاصة.
وللتغلب على القيود التي وضعها مقدمو الحلول بشأن الذكاء الاصطناعي، تسوّق مجموعات متخصصة منذ هذا الصيف نماذج لغوية مدربة على إنتاج محتويات خبيثة، على غرار تطبيق “فرود جي بي تي”. لكن لا يزال يتعين إثبات فاعليتها.
ويحذر بيلوا “لا نزال في البداية فقط”.
خطر تسريب البيانات
يُعتبر الذكاء الاصطناعي التوليدي واحداً من التهديدات الخمسة الرئيسية التي تهابها الشركات، وفق دراسة حديثة أصدرتها شركة “غارتنر” الأمريكية.
وتخشى الشركات خصوصاً في هذا المجال، تسريب البيانات الحساسة التي يتناقلها موظفوها، الأمر الذي دفع شركات كبرى، ومنها “آبل” و”أمازون” و”سامسونغ” إلى منع موظفيها من استخدام “تشات جي بي تي”.
وتوضح مديرة الأبحاث في “غارتنر” ران شو أن “كل معلومة يتم إدخالها على أداة الذكاء الاصطناعي التوليدي يمكن أن تدخل في مساره التعلّمي، وهذا ما قد يجعل معلومات حساسة أو سرية تظهر في نتائج عمليات بحث مستخدمين آخرين”.
وأطلقت شركة “أوبن ايه آي”، المطورة لبرنامج “تشات جي بي تي”، في آب/أغسطس الماضي النسخة المحترفة “تشات جي بي تي انتربريز” التي لا تستعمل الدردشات من أجل التعلّم بغية تطمين الشركات التي تخشى تسريب معلوماتها.
من جهتها، توصي شركة “غوغل” موظفيها بعدم إدخال معلومات سرية أو حساسة في برنامج الدردشة الآلي الخاص بها، “بارد”.
تزوير بالصوت والصورة
يتمثل التهديد الرئيسي الجديد للذكاء الاصطناعي في سهولة نسخ الوجوه والأصوات وتوليد ما يطابقها تماماً. فمن خلال تسجيل لا تتجاوز مدته بضع ثوان، تسمح بعض الأدوات عبر الإنترنت بتوليد نسخة مطابقة تماماً قد يقع ضحيتها الزملاء أو الأقارب.
ويعتبر مؤسس شركة “أوبفور انتلجنس” جيروم سايز، أن هذه الأدوات قد تُستخدم بسرعة من جانب “مجموعة كاملة من الجهات الضالعة في عمليات احتيال صغيرة، لها وجود فاعل في فرنسا، وغالبًا ما تكون وراء حملات خبيثة تستعمل الرسائل النصية، بهدف الحصول على أرقام البطاقات المصرفية.
ويضيف “هؤلاء المخالفون الصغار، الذين يكونون بالإجمال من فئة الشباب، سيتمكنون وبسهولة من تقليد الأصوات”.
وفي حزيران/يونيو، وقعت أم أمريكية ضحية احتيال إثر اتصال رجل بها للمطالبة بفدية لقاء تسليمها ابنتها الذي زعم أنها مخطوفة، وقد عمد الرجل إلى إسماعها ما ادعى أنه صراخ ابنتها الضحية. وانتهى الحادث من دون وقوع أضرار، بعد أن اشتبهت الشرطة في أن الحادثة تشكل عملية احتيال تعتمد على الذكاء الاصطناعي.
ويشرح بيلوا أنه بالنسبة إلى الشركات التي باتت على دراية بأساليب احتيالية مستخدمة على نطاق واسع تقوم على انتحال محتالين صفة الرئيس التنفيذي للشركة للحصول على تحويلات مالية، فإن “استخدام مقتطف صوتي أو فيديو مزيف”، من قبل المقرصن “يمكن أن يقلب مسار الأحداث لصالح” هذا الأخير.
قراصنة مبتدئون
ويعتقد سايز أنّ “أياً من الهجمات التي نجحت في العام الماضي لا يدفع إلى الاعتقاد بأنها نتيجة استخدام الذكاء الاصطناعي التوليدي”.
ورغم أن آليّي الدردشة قادرة على تحديد بعض العيوب وتوليد أجزاء رموز معلوماتية خبيثة، إلا أنها عاجزة عن تنفيذها مباشرة.
في المقابل، يرى سايز أن الذكاء الاصطناعي “سيسمح لأشخاص محدودي الموهبة بتحسين مهاراتهم”، مستبعداً في المقابل أن يتمكن “الذين يبدؤون من الصفر من تطوير برامج مشفرة باستخدام تشات جي بي تي”.
المصدر: يمن مونيتور
كلمات دلالية: الذكاء الاصطناعي تقنية منوعات الذکاء الاصطناعی تشات جی بی تی
إقرأ أيضاً:
مترجمون يناقشون مستقبل الترجمة في عصر الذكاء الاصطناعي
في ظل الثورة التكنولوجية المتسارعة، أصبحت الترجمة عبر الذكاء الاصطناعي موضوعا يثير جدلا واسعا بين المتخصصين. بينما يُنظر إلى هذه التقنيات كأدوات تُسهّل العمل وتسهم في تسريع العملية، يبرز التساؤل: هل يمكن للذكاء الاصطناعي أن ينقل الروح الإنسانية للنصوص كما يفعل المترجم البشري؟
في هذا الاستطلاع، نتحدث مع مجموعة من المترجمين من مختلف الخلفيات الثقافية حول رؤيتهم لهذه القضية. يناقشون معنا طبيعة العلاقة بين النص الأصلي والمترجم، وكيفية تفاعل الذكاء الاصطناعي مع هذا الدور. هل الذكاء الاصطناعي وسيلة لتطوير الترجمة أم تهديد لإنسانيتها؟ وهل سيظل الإنسان قادرًا على الحفاظ على مكانته في هذا المجال؟
بين دفاعهم عن قيمة الإبداع البشري وإدراكهم لأهمية التكنولوجيا كوسيلة مساعدة، يقدّم لنا مترجمون ومختصون رؤى مؤثرة تُبرز تحديات الحاضر وآفاق المستقبل.
بين التهديد والاستفادة
بداية يستعرض المترجم النيجيري الأستاذ الدكتور مشهود محمود جمبا (الفائز بجائزة حمد للترجمة عن ترجمته من لغة اليوربا إلى اللغة العربية)، رؤيته حول حدود الذكاء الاصطناعي في الترجمة فيقول: في الحقيقة، لا أعتقد أن الذكاء الاصطناعي يمكن أن يحل محل الإنسان الذي خلقه الله سبحانه وتعالى بخصوصياته وقدراته الفريدة، العقل البشري يتميز بالانفعال، والشعور، والطبيعة الإنسانية التي تفتقر إليها الآلات. الذكاء الاصطناعي، مهما تطور، يظل أداة من صنع الإنسان، ولن يصل إلى مستوى الإبداع الإنساني الطبيعي الذي أودعه الله فينا.
ويشير مشهود محمود إلى أن الذكاء الاصطناعي يُعَد مجرد أداة لتسريع العمليات الحسابية والمعالجة اللغوية، لكنه يفتقر إلى العمق الإنساني، حيث يقول: الذكاء الاصطناعي هو بوت تُدخل إليه البيانات، وهو يُعيدها إليك بسرعة، الحصيلة سريعة، لكنها لا تضاهي ما يمكن أن يقدمه الإنسان بعقله وانفعالاته، الذكاء الاصطناعي قد يهدد دور الإنسان لفترة قصيرة، لكنه يظل محدودًا بطبيعته كمنتج بشري، وبالتالي لن يستطيع أن يكون بديلًا حقيقيًّا.
وعند الحديث عن تأثير التكنولوجيا على المترجم، يضيف «جمبا»: مثلما جاء الحاسوب في وقت مضى وأحدث تغييرًا، الذكاء الاصطناعي سيأخذ مكانه في مرحلة ما. لكن، كما لم يستطع الحاسوب أن يستبدل الإنسان بالكامل، كذلك الذكاء الاصطناعي. التكنولوجيا قد تؤثر إلى حد ما، لكنها لن تلغي الدور البشري. المترجم الحقيقي، بذكائه الطبيعي، سيظل أساسيًّا، وسيبقى هو من يدير هذه الأدوات ويستفيد منها.
ويرى «جمبا» أن الذكاء الاصطناعي يمكن أن يكون أداة مفيدة إذا تم استخدامه بحكمة، قائلًا: اليوم نرى كيف يستفيد الإنسان من أدوات مثل محركات البحث وجوجل، وكذلك يمكنه الاستفادة من الذكاء الاصطناعي. ولكن، هذه الأدوات تظل ذات فوائد محدودة. الإنسان، بطبيعته وقدرته على الإبداع والانفعال، سيظل متفوقًا، التكنولوجيا الحديثة تفتقر إلى هذه الانفعالات، ولهذا لن تتمكن من أخذ مكان الإنسان بشكل كامل. الإنسان سيبقى دائمًا هو المبدع، والمتحكم، والقائد».
ويختم المترجم النيجيري الأستاذ الدكتور مشهود محمود جمبا حديثه بتأكيده على أن الذكاء الاصطناعي سيظل تحت سيطرة الإنسان، قائلا: الإنسان هو من يصنع الذكاء الاصطناعي، وبالتالي سيبقى دائمًا تحت إمرته وإدارته، فمهما تطورت التكنولوجيا، فإنها تبقى أداة لا يمكن أن تتجاوز حدودها كمجرد صناعة بشرية.
أبعاد الترجمة
وحول رؤيته للعلاقة المعقدة بين المترجم والنص الأصلي يقول الباحث الكويتي الدكتور عثمان الصفي أستاذ الفلسفة المعاصرة بجامعة الكويت: عندما نتحدث عن المترجم، علينا أن نبدأ من نقطة أساسية، وهي كونه قارئًا للنص الأصلي قبل أن يكون مترجمًا. هذه الخطوة (القراءة) هي في حد ذاتها فعل مهم للغاية. النص لا يتفاعل فقط مع القارئ وكأنه عنصر جامد، بل إن القارئ يشارك في عملية بناء النص بشكل أو بآخر. إذا رجعنا إلى النظرية البنيوية، نجد أن القارئ ليس منفعلًا بل فاعل، وهناك مفاهيم مثل ‹موت المؤلف› التي تدعم هذه الفكرة. بمعنى آخر، القارئ، أثناء قراءته للنص، يُدخل إليه ثقافته وفهمه الخاص وتجربته الحياتية، ليعيد معالجته على مستوى شخصي، وهذا الدور يتعاظم عندما يتحول القارئ إلى مترجم. المترجم هنا لا ينقل النص فقط، بل يُعيد تشكيله بما يتناسب مع اللغة والثقافة التي يترجم إليها. النص الأصلي يتأثر، لا محالة، بعقل المترجم وثقافته وفهمه الخاص. هذا التأثير ليس عيبًا، بل هو جزء من جوهر الترجمة. في النهاية، النص المترجم يصبح مزيجًا بين اللغة الأصلية واللغة المستهدفة، وبين الفهم الثقافي للكاتب الأصلي والفهم الثقافي للمترجم، وهنا تظهر نقطة في غاية الأهمية: لا يمكن للترجمة أن تكون مجرد فعل آلي. صحيح أن الذكاء الاصطناعي أصبح اليوم قادرًا على ترجمة النصوص بطريقة حرفية إلى حد كبير، لكنه يفتقر إلى تلك اللمسة الإنسانية التي تتطلبها عملية الترجمة الحقيقية. الذكاء الاصطناعي يعمل على مستوى الكلمات والمعاني الحرفية، ولكنه لا يمتلك الأدوات العقلية أو العاطفية التي تمكنه من إسقاط النص الأصلي على اللغة المستهدفة بشكل يعكس جميع أبعاده. الترجمة عملية معقدة تحتاج إلى إنسان يمتلك ثقافة وخبرة وحسًا لغويًّا عميقًا.
ويضيف «الصفي»: إذا نظرنا إلى التخصصات المختلفة في الترجمة، نجد أن الفرق بين الترجمة البشرية والترجمة بالذكاء الاصطناعي يبرز بوضوح في بعض المجالات دون غيرها. في المجالات التقنية والعلمية، حيث النصوص عادةً مباشرة وموضوعية، قد يكون من الصعب أحيانًا التمييز بين ترجمة الإنسان وترجمة الآلة. لكن الوضع مختلف تمامًا في العلوم الإنسانية والفنون. هذه المجالات تحتاج إلى تفاعل عاطفي وروحي مع النصوص، وهو أمر لا يمكن للآلة أن تقوم به... فعلى سبيل المثال، إذا نظرنا إلى ترجمة الأفلام أو النصوص الأدبية، سنجد أن النصوص في هذه المجالات تحتوي على تفاصيل إنسانية دقيقة، مثل المشاعر والرمزية الثقافية واللغة التصويرية. هذه الجوانب لا يمكن للذكاء الاصطناعي معالجتها بنفس العمق الذي يقدمه المترجم البشري. الترجمة هنا ليست مجرد نقل للمعنى، بل هي نقل للروح التي تقف وراء النص الأصلي.
وفي الختام يؤكد الدكتور عثمان الصفي، أستاذ الفلسفة المعاصرة بجامعة الكويت أن الذكاء الاصطناعي سيظل متأخرًا في التعامل مع النصوص الإنسانية والفنية ويقول: هذه النصوص تتطلب مستويات متعددة من الفهم والمعالجة، وهي أمور تتصل بشكل مباشر بروح الإنسان وتجربته الفردية. الذكاء الاصطناعي قد يُسهم في تسهيل بعض جوانب الترجمة، لكنه لن يستطيع أبدًا أن يحل محل الإنسان عندما يتعلق الأمر بالنصوص التي تحتاج إلى لمسة إنسانية حقيقية.
تحديات مستقبلية
من جانبه يقول المترجم المغربي الدكتور الحسين بنوهاشم (الفائز مؤخرا بالمركز الثاني في جائزة حمد للترجمة عن ترجمته من اللغة الفرنسية إلى اللغة العربية، كتاب «الإمبراطورية الخطابية» لشاييم بيرلمان): لا شك أن الذكاء الاصطناعي يقدم أدوات مفيدة يمكن أن تساهم في عملية الترجمة، ولكن لا يمكن بأي حال أن تحل هذه الأدوات محل الإنسان في الترجمة؛ فالنصوص المترجمة بواسطة الذكاء الاصطناعي، برأيي، تفتقر إلى البُعد الإنساني الذي يُضيفه المترجم من خلال فهمه العميق للنص، وتفاعله معه على مستوى عاطفي وثقافي، ولكني في المقابل لا أرفض استخدام الذكاء الاصطناعي كوسيلة مساعدة، ولكن لا ينبغي أن يكون هو البديل. الترجمة ليست مجرد نقل للمعاني، بل هي عملية إنسانية تحتاج إلى مفسر يضيف روحه وفهمه للنص، وهذا ما لا يمكن أن يقوم به الذكاء الاصطناعي، مهما بلغت دقته.
وحول المخاطر التي قد يسببها الاعتماد المفرط على الذكاء الاصطناعي، عبّر «بنوهاشم» عن قلقه قائلا: نعم، هناك مخاطر حقيقية، والمستقبل قد يحمل توجهًا يجعل المترجمين مجرد أشخاص يعتمدون على التكنولوجيا فقط، وقد يتراجع دورهم الأساسي في العمل. السؤال هنا: من الذي يملك النص؟ من هو صاحب الترجمة؟ إذا كان النص مترجمًا بالكامل بواسطة الذكاء الاصطناعي، فهل يمكن نسبه إلى الإنسان؟ هذا يطرح إشكالية أخلاقية ومهنية كبيرة.
ويضيف الحسين بنوهاشم أن المترجم يجب أن يبقى عنصرًا أساسيًّا في عملية الترجمة، مهما تطورت أدوات الذكاء الاصطناعي، فأنا أؤمن بأن الدور الحاسم ينبغي أن يكون دائمًا للمترجم البشري، الذكاء الاصطناعي قد يُستعان به لتحسين الكفاءة وسرعة العمل، لكنه لا يمكن أن يعوض المترجم بالكامل، علينا أن نحافظ على هذا التوازن، بحيث تبقى إنسانية النصوص محفوظة ولا تُختزل في معالجة تقنية جافة.
ويختتم المترجم المغربي الدكتور الحسين بنوهاشم حديثه بالتأكيد على أهمية الترجمة كفعل إنساني حيث يقول: الترجمة ليست مجرد كلمات تُنقل من لغة إلى أخرى؛ إنها تعبير عن الروح والثقافة والإنسانية، فالنصوص بحاجة إلى لمسة المترجم، إلى رؤيته وخبرته، إلى حسه الخاص الذي لا يمكن للآلة أن تمتلكه.
وسيلة لا غاية
عن أهمية تقدير المترجمين وتحدياتهم في ظل التطورات التكنولوجية قال المترجم المغربي الدكتور إلياس أمحرار (الفائز بالمركز الثالث في فئة الترجمة من العربية إلى الفرنسية عن كتاب لأبو بكر ابن العربي): عند الحديث عن التطورات المتسارعة في مجال التكنولوجيا والذكاء الاصطناعي، فإن هذه الأدوات يمكن أن تكون مفيدة إذا استُخدمت بحكمة؛ فالذكاء الاصطناعي وسيلة وليس غاية.. فالطريقة التي نتعامل بها مع هذه التكنولوجيا هي ما يحدد تأثيرها، فإذا استخدمناها كأداة صناعية تُعيننا وتُسهل علينا بعض الجوانب، فهذا أمر جيد، لكن إذا اعتمدنا عليها اعتمادًا كليًّا، فقد يُشكل ذلك خطرًا حقيقيًّا، خاصةً على المعجم العربي؛ فالاقتصار على الذكاء الاصطناعي قد يؤدي إلى تكرار نفس الكلمات والمفردات، مما يُفقّر لغتنا بمرور الوقت».
«أمحرار» يؤكد أن المترجم عليه دور محوري في تحسين أدوات الذكاء الاصطناعي من خلال تزويدها بالمعلومات اللازمة.. يوضح قائلًا: الذكاء الاصطناعي أشبه بدابة تتغذى مما نمنحها، إذا أطعمتها محتوى جيدًا ودقيقًا، ستصبح أكثر كفاءة ودقة، وعلى المترجم أن يساهم في تدريب هذه الأدوات وإثرائها بالمعلومات الصحيحة، لضمان أنها تُنتج محتوى ذا جودة عالية.
وحول الخشية من أن يحل الذكاء الاصطناعي محل المترجمين، أجاب إلياس أمحرار: العقل البشري هو شيء فريد وجميل.. الذكاء الاصطناعي قد يكون أداة فعالة، لكنه لا يمكن أن يحل محل الإنسان، فالمترجم هو العقل الذي يُضيف للترجمة روحها ومعناها العميق.. نعم التقنية يمكن أن تساعد، لكنها لا تستطيع أن تحل محل الإبداع الإنساني.
ويختتم المترجم المغربي إلياس أمحرار حديثه بالتأكيد على أهمية الموازنة بين التكنولوجيا ودور المترجم الإنساني، قائلا: أنا مع استخدام الذكاء الاصطناعي، ولكن بدقة.. على المترجم أن يبقى في الصدارة، وأن يكون هو العقل الذي يُدير العملية، فالمترجم سيظل دائمًا هو من يُضيف القيمة الإنسانية للنصوص، وهو ما لا يمكن لأي آلة تحقيقه.
مراحل للنشأة الأولى
يقول المترجم المغربي حسن حلمي، أستاذ الأدب الإنجليزي بجامعة الحسن الثاني سابقًا، إن الترجمة الآلية تعتمد بنسب متفاوتة على الذكاء الاصطناعي، والذكاء الاصطناعي، في مقابل الذكاء الفطري آلة؛ فإن أنت أطعمتها لحم البقر، أطعمتك نقانق البقر، وإن أنت أطعمتها لحم الخنزير، أطعمتك نقانق الخنزير، وما هند إلا مهرة عربية.
وأشار «حلمي» إلى ما أوضحه الدكتور غسان مراد، في تقديمه لأحد المؤتمرات، الصلات المعقدة بين الترجمة والذكاء الاصطناعي. وكان من أهم القضايا التي نبّه إليها أولا، أن المترجم يستخدم التطبيقات ولا يصنعها، وثانيا، أن معطيات الذكاء الاصطناعي ثابتة، لكن معطيات اللغة متحركة تبعا لحركة الفكر، ثالثا، أن الذكاء الاصطناعي يعتمد على التكرار، لكن الذكاء البشري يعتمد على الابتكار، ورابعا، أن من مشكلات الذكاء الاصطناعي، بحكم ثبات معطياته، أن الحاجة دائمة إلى نقض ما قد تؤسسه التطبيقات، فلا بد من التدخل لحملها على أن تنسى ما تم تخزينه في ذاكرتها حتى تواكب حركة الفكر.
وأضاف «حلمي»: لئن كان ما يسمى بالترجمة الآلية العصبية، والترجمة الآلية التي تعتمد على الإحصائيات وتحليلها قصد تقييم المنتج وتجويده، من الأدوات التي يوفرها الذكاء الاصطناعي، فإن لمسات الذكاء البشري ﻻ يمكن الاستغناء عنها. ومن ضمن الأدوات المستجدة التي يوفرها الذكاء الاصطناعي الأداة التي تقوم بالترجمة الفورية للنصوص مكتوبة كانت أو منطوقة، وكذلك ما يسمى بـالأداة التي تعتمد على أنظمة لتخزين/ حفظ محتوى سبق أن تمت ترجمته قصد الاستعانة به في التدوير، وفي تحقيق الاتساق في النتاج الترجمي، وثمة وجه آخر لتوظيف الذكاء الاصطناعي في الترجمة يقوم على تحرير المترجم من المهام الروتينية البسيطة، وتمكينه من التركيز على الأمور التي تتسم بالتعقيد، ويفترض أن هذا يساعد المترجم في السعي إلى تجويد إنجازه، وتوفر صناعة الذكاء أيضا أداة للتدقيق تستعمل لضمان الجودة في المنتوج المترجم، وذلك بأن تتيح الفرصة للمترجم ليتعرف على الأخطاء النحوية وعلى الأخطاء في التركيب وفي استعمال المصطلح.
ويختتم المترجم المغربي حسن حلمي، أستاذ الأدب الإنجليزي بجامعة الحسن الثاني سابقًا حديثه بالقول: لا شك في أن لاستعمال الذكاء الاصطناعي في مجال الترجمة مزايا من بينها السرعة في الإنجاز والاقتصاد في الإنفاق، غير أن هذه المزايا غالبا ما تؤثر سلبا في جودة الترجمة ودقتها، ولئن كانت هذه المزايا مفيدة في المواقف اليومية البرجماتية، التي يتداول فيها العامة اللغة في حدودها الدنيا بنية تحقيق ما يعتقدون أنه تواصل، فإنها تظل، على الأرجح، عقيمة في المستويات الفكرية التي تنطوي على قدر من التجريد والتعقيد، أو في المستويات الأدبية التي لا ينفصل فيها المحتوى عن الأسلوب. وعلاوة على هذا، فإن الذكاء الاصطناعي لا يزال في مراحل نشأته الأولى، وربما يمر وقت طويل قبل أن يكون مؤهلا لمواجهات تحديات الترجمة، وحتى إن أفلح، على المدى الطويل، في التصدي لبعض مصاعب الترجمة فإنه، حسب توقع المتشائمين من أمثالي، لن يقوم أبدا مقام الذكاء الفطري.
جامعة حلوان تكشف حقيقة بيع كلية الفنون التطبيقية