OpenAI تحظر عملية التأثير الإيراني باستخدام ChatGPT للدعاية الانتخابية الأمريكية

قالت OpenAI يوم الجمعة إنها حظرت مجموعة من الحسابات المرتبطة بما قالت إنها عملية تأثير إيرانية سرية استفادت من ChatGPT لإنشاء محتوى يركز، من بين أمور أخرى، على الانتخابات الرئاسية الأمريكية المقبلة.

“لقد حددنا هذا الأسبوع وأزلنا مجموعة من حسابات ChatGPT التي كانت تولد محتوى لعملية نفوذ إيرانية سرية تم تحديدها باسم Storm-2035،” OpenAI قال.

“استخدمت العملية ChatGPT لإنشاء محتوى يركز على عدد من المواضيع – بما في ذلك التعليقات على المرشحين من كلا الجانبين في الانتخابات الرئاسية الأمريكية – والتي تمت مشاركتها بعد ذلك عبر حسابات وسائل التواصل الاجتماعي والمواقع الإلكترونية.”

وقالت شركة الذكاء الاصطناعي (AI) إن المحتوى لم يحقق أي مشاركة ذات معنى، حيث لم تتلق غالبية منشورات وسائل التواصل الاجتماعي سوى القليل من الإعجابات والمشاركات والتعليقات. وأشارت أيضًا إلى أنها لم تجد سوى القليل من الأدلة على أن المقالات الطويلة التي تم إنشاؤها باستخدام ChatGPT تمت مشاركتها على منصات التواصل الاجتماعي.

اهتمت المقالات بالسياسة الأمريكية والأحداث العالمية، وتم نشرها على خمسة مواقع مختلفة ظهرت على أنها منافذ إخبارية تقدمية ومحافظة، مما يشير إلى محاولة استهداف الأشخاص على طرفي نقيض من الطيف السياسي.

وقالت OpenAI إن أداة ChatGPT الخاصة بها تم استخدامها لإنشاء تعليقات باللغتين الإنجليزية والإسبانية، والتي تم نشرها بعد ذلك على عشرات الحسابات على X وحساب واحد على Instagram. تم إنشاء بعض هذه التعليقات من خلال مطالبة نماذج الذكاء الاصطناعي الخاصة بها بإعادة كتابة التعليقات التي نشرها مستخدمو الوسائط الاجتماعية الآخرون.

“ولدت العملية محتوى حول عدة مواضيع: بشكل رئيسي، الصراع في غزة، والوجود الإسرائيلي في الألعاب الأولمبية، والانتخابات الرئاسية الأمريكية – وبدرجة أقل السياسة في فنزويلا، وحقوق المجتمعات اللاتينية في الولايات المتحدة (كلاهما باللغة الإسبانية) والإنجليزية)، والاستقلال الاسكتلندي”، قال OpenAI.

“لقد مزجوا محتواهم السياسي بتعليقات حول الموضة والجمال، ربما ليظهروا أكثر واقعية أو في محاولة لبناء أتباع”.

كانت Storm-2035 أيضًا واحدة من مجموعات أنشطة التهديد أبرز الأسبوع الماضي من قبل شركة مايكروسوفت، التي وصفتها بأنها شبكة إيرانية “تعمل بنشاط على إشراك مجموعات الناخبين الأمريكيين على طرفي نقيض من الطيف السياسي من خلال رسائل استقطابية حول قضايا مثل المرشحين للرئاسة الأمريكية، وحقوق المثليين، والصراع بين إسرائيل وحماس”.

بعض مواقع الأخبار والتعليقات الزائفة التي أنشأتها المجموعة تشمل EvenPolitics، وNio Thinker، وSavannah Time، وTeorator، وWestland Sun. وقد لوحظ أيضًا أن هذه المواقع تستخدم خدمات مدعومة بالذكاء الاصطناعي لسرقة جزء من محتواها من المنشورات الأمريكية. ويقال أن المجموعة سوف تعمل اعتبارا من عام 2020.

مايكروسوفت لديها المزيد حذر من تزايد نشاط النفوذ الأجنبي الخبيث الذي استهدف الانتخابات الأمريكية على مدى الأشهر الستة الماضية من كل من الشبكات الإيرانية والروسية، والتي تم إرجاع الأخيرة إلى مجموعات تم تتبعها باسم Ruza Flood (المعروفة أيضًا باسم Doppelganger)، وStorm-1516، وStorm-1516. 1841 (ويعرف أيضًا باسم ريبار).

“شبيه ينشر ويضخم المعلومات الملفقة أو المزيفة أو حتى المشروعة عبر شبكات التواصل الاجتماعي”، شركة الأمن السيبراني الفرنسية HarfangLab قال. “للقيام بذلك، تنشر حسابات الشبكات الاجتماعية روابط تؤدي إلى سلسلة مبهمة من عمليات إعادة التوجيه التي تؤدي إلى مواقع الويب ذات المحتوى النهائي.”

ومع ذلك، تشير الدلائل إلى أن شبكة الدعاية تغير تكتيكاتها ردًا على إجراءات الإنفاذ الصارمة، وذلك باستخدام المشاركات والإعلانات غير السياسية بشكل متزايد وانتحال منافذ الأخبار غير السياسية والترفيهية مثل Cosmopolitan وThe New Yorker وEntertainment Weekly في محاولة لتجنب اكتشافها. ، لكل ميتا.

تحتوي المنشورات على روابط، عند النقر عليها، تعيد توجيه المستخدمين إلى مقالة متعلقة بالحرب أو الجغرافيا السياسية في روسيا على أحد النطاقات المزيفة التي تحاكي المنشورات الترفيهية أو الصحية. يتم إنشاء الإعلانات باستخدام حسابات مخترقة.

وقالت شركة التواصل الاجتماعي، التي عطلت 39 عملية نفوذ من روسيا، و30 من إيران، و11 من الصين منذ عام 2017 عبر منصاتها، إنها كشفت عن ست شبكات جديدة من روسيا (4)، وفيتنام (1)، والولايات المتحدة (1). ) في الربع الثاني من عام 2024.

“منذ شهر مايو، استأنفت شركة Doppelganger محاولاتها لمشاركة روابط نطاقاتها، ولكن بمعدل أقل بكثير” Meta قال. “لقد رأيناهم أيضًا يجربون العديد من قفزات إعادة التوجيه بما في ذلك خدمة تقصير الروابط الخاصة بـ TinyURL لإخفاء الوجهة النهائية خلف الروابط وخداع كل من Meta ومستخدمينا في محاولة لتجنب الكشف وتوجيه الأشخاص إلى مواقع الويب الخاصة بهم خارج النظام الأساسي.”

ويأتي هذا التطور في الوقت الذي قالت فيه مجموعة تحليل التهديدات (TAG) التابعة لشركة Google هذا الأسبوع أيضًا إنها اكتشفت وعطلت جهود التصيد الاحتيالي المدعومة من إيران والتي تهدف إلى اختراق الحسابات الشخصية للمستخدمين البارزين في إسرائيل والولايات المتحدة، بما في ذلك تلك المرتبطة بـ الحملات الرئاسية الأمريكية.

يُعزى هذا النشاط إلى جهة تهديد تحمل الاسم الرمزي APT42، وهو طاقم قرصنة ترعاه الدولة تابع للحرس الثوري الإسلامي الإيراني (IRGC). من المعروف أنها تشترك في التداخلات مع مجموعة تطفل أخرى تُعرف باسم Charming Kitten (المعروفة أيضًا باسم Mint Sandstorm).

“تستخدم APT42 مجموعة متنوعة من الأساليب المختلفة كجزء من حملات التصيد الاحتيالي عبر البريد الإلكتروني – بما في ذلك استضافة البرامج الضارة وصفحات التصيد وعمليات إعادة التوجيه الضارة،” عملاق التكنولوجيا قال. “إنهم يحاولون بشكل عام إساءة استخدام خدمات مثل Google (أي Sites وDrive وGmail وغيرها) وDropbox وOneDrive وغيرها لهذه الأغراض”.

تتمثل الإستراتيجية الواسعة في كسب ثقة أهدافهم باستخدام تقنيات الهندسة الاجتماعية المتطورة بهدف إبعادهم عن بريدهم الإلكتروني والوصول إلى قنوات المراسلة الفورية مثل Signal أو Telegram أو WhatsApp، قبل دفع الروابط الزائفة المصممة لجمع معلومات تسجيل الدخول الخاصة بهم. .

وتتميز هجمات التصيد باستخدام أدوات مثل GCollection (المعروفة أيضًا باسم LCollection أو YCollection) وDWP لجمع بيانات الاعتماد من مستخدمي Google وHotmail وYahoo، حسبما أشارت Google، مما يسلط الضوء على “فهم APT42 القوي لموفري البريد الإلكتروني الذين يستهدفونهم”.

“بمجرد حصول APT42 على حق الوصول إلى الحساب، فإنها غالبًا ما تضيف آليات إضافية للوصول بما في ذلك تغيير عناوين البريد الإلكتروني المخصصة للاسترداد والاستفادة من الميزات التي تسمح للتطبيقات التي لا تدعم المصادقة متعددة العوامل مثل كلمات المرور الخاصة بالتطبيقات في Gmail وكلمات مرور تطبيقات الطرف الثالث. وأضافت في ياهو.