لقد وصلت مخلفات الذكاء الاصطناعي – نهاية البداية

بعد عام جيد من النشاط المستمر، وصلت المخلفات أخيرًا. وهو أمر لطيف (في الوقت الحالي)، حيث تعمل السوق على تصحيح أسعار أسهم اللاعبين الرئيسيين (مثل إنفيديا، ومايكروسوفت، وجوجل)، في حين يقوم اللاعبون الآخرون بإعادة تقييم السوق وتعديل الأولويات. يسميها جارتنر “حوض خيبة الأمل”.عندما يتضاءل الاهتمام وتفشل عمليات التنفيذ في تحقيق الاختراقات الموعودة. منتجو التكنولوجيا يهزون أو يفشلون. يستمر الاستثمار فقط إذا قام مقدمو الخدمة الباقين بتحسين منتجاتهم بما يرضي المستخدمين الأوائل.

لنكن واضحين، كان هذا هو الحال دائمًا: لم تكن ثورة ما بعد الإنسان التي وعد بها أنصار الذكاء الاصطناعي هدفًا واقعيًا على الإطلاق، ولم تكن الإثارة المذهلة التي أثارها أوائل طلاب الماجستير في القانون مبنية على نجاح السوق.

الذكاء الاصطناعي موجود لتبقى

ما هي الخطوة التالية بالنسبة للذكاء الاصطناعي إذن؟ حسنًا، إذا تبعت دورة الضجيج التي قامت بها شركة جارتنر، فإن الانهيار العميق يتبعه منحدر التنوير حيث تستعيد التكنولوجيا الناضجة موطئ قدمها، وتتبلور الفوائد، ويقوم البائعون بإحضار منتجات الجيلين الثاني والثالث إلى السوق. وإذا سارت الأمور على ما يرام، فإن ذلك يتبعه هضبة الإنتاجية المقدسة، حيث ينطلق التبني السائد مدفوعًا بجاذبية السوق الواسعة للتكنولوجيا. تصر شركة Gartner على أن هناك بعض الفرضيات الكبيرة: ليس كل تقنية مقدر لها التعافي بعد الانهيار، والمهم هو أن يجد المنتج سوقه مناسبًا بالسرعة الكافية.

في الوقت الحالي، يبدو من المؤكد تقريبًا أن الذكاء الاصطناعي موجود ليبقى. تعمل شركتا أبل وجوجل على طرح منتجات استهلاكية في الأسواق تعمل على إعادة تجميع التكنولوجيا في أجزاء أصغر حجماً وسهلة الهضم وسهلة الاستخدام (تحرير الصور، وتحرير النصوص، والبحث المتقدم). في حين أن الجودة لا تزال متفاوتة للغاية، يبدو كما لو أن بعض اللاعبين على الأقل قد وجدوا طريقة لإنتاج الذكاء الاصطناعي التوليدي بطريقة ذات معنى – سواء بالنسبة للمستهلكين أو بالنسبة لنتائجهم النهائية.

ماذا فعلت LLM من أجلنا؟

حسنًا، أين يترك هذا عملاء المؤسسات – وتطبيقات الأمن السيبراني على وجه الخصوص؟ والحقيقة هي أن الذكاء الاصطناعي التوليدي لا يزال يعاني من عيوب كبيرة تعيق اعتماده على نطاق واسع. واحدة من هذه هي الطبيعة غير الحتمية للذكاء الاصطناعي التوليدي. وبما أن التكنولوجيا نفسها تعتمد على نماذج احتمالية (ميزة وليست خطأ!)، فسيكون هناك تباين في المخرجات. قد يخيف هذا بعض خبراء الصناعة الذين يتوقعون سلوكيات برمجية قديمة. ويعني ذلك أيضًا أن الذكاء الاصطناعي التوليدي لن يكون بديلاً مباشرًا للأدوات الموجودة، بل هو بالأحرى تعزيز وزيادة للأدوات الموجودة. ومع ذلك، فإنه يتمتع بالقدرة على العمل كطبقة واحدة من الدفاع متعدد الطبقات، وهو أمر يصعب التنبؤ به بالنسبة للمهاجمين أيضًا.

العيب الآخر الذي يسبب احتكاك التبني هو التكلفة. النماذج هي التدريب مكلف للغاية ويتم حاليًا نقل هذه التكلفة العالية إلى مستهلكي النماذج. ونتيجة لذلك، هناك الكثير من التركيز على خفض تكلفة الاستعلام الواحد. تعد التطورات في الأجهزة، إلى جانب النتائج المذهلة في تحسين النماذج، بتخفيضات كبيرة في استخدام الطاقة لتشغيل نماذج الذكاء الاصطناعي، وهناك توقع معقول بأن (على الأقل المخرجات النصية) سوف تتحول إلى عمل مربح.

تعد النماذج الأرخص والأكثر دقة أمرًا رائعًا، ولكن هناك أيضًا إدراك متزايد بأن مهمة دمج هذه النماذج في سير العمل التنظيمي ستشكل تحديًا كبيرًا. كمجتمع، ليس لدينا حتى الآن الخبرة اللازمة لمعرفة كيفية دمج تقنيات الذكاء الاصطناعي بكفاءة في ممارسات العمل اليومية. هناك أيضًا سؤال حول كيفية قبول القوى العاملة البشرية الحالية للتكنولوجيات الجديدة والعمل معها. على سبيل المثال، رأينا حالات يفضل فيها العاملون والعملاء من البشر التفاعل مع نموذج يفضل التوضيح على الدقة. أ دراسة مارس 2024 وجدت دراسة أجرتها كلية الطب بجامعة هارفارد أن تأثير مساعدة الذكاء الاصطناعي كان غير متسق ومتنوع عبر عينة اختبار من أطباء الأشعة، مع تحسن أداء بعض أطباء الأشعة مع الذكاء الاصطناعي وتدهوره لدى آخرين. التوصية هي أنه على الرغم من ضرورة إدخال أدوات الذكاء الاصطناعي في الممارسة السريرية، إلا أنه يجب اتباع نهج دقيق وشخصي ومعاير بعناية لضمان النتائج المثلى للمرضى.

ماذا عن السوق المناسب الذي ذكرناه سابقًا؟ في حين أن الذكاء الاصطناعي التوليدي (على الأرجح) لن يحل محل المبرمج أبدًا (بغض النظر عن ادعاءات بعض الشركات)، فقد أصبح إنشاء التعليمات البرمجية بمساعدة الذكاء الاصطناعي أداة نماذج أولية مفيدة لمجموعة متنوعة من السيناريوهات. يعد هذا مفيدًا بالفعل لمتخصصي الأمن السيبراني: تعد التعليمات البرمجية أو التكوين الذي تم إنشاؤه بمثابة نقطة بداية معقولة لإنشاء شيء ما بسرعة قبل تحسينه.

التحذير الكبير: التكنولوجيا الحالية لديها فرصة لتسريع عمل المحترف المتمرس، الذي يمكنه تصحيح أخطاء النص الذي تم إنشاؤه (الكود أو التكوين) وإصلاحه بسرعة. ولكن يمكن أن يكون الأمر كارثيًا بالنسبة للمستخدم الذي ليس من ذوي الخبرة في هذا المجال: هناك دائمًا احتمال أن يتم إنشاء تكوين غير آمن أو تعليمات برمجية غير آمنة، والتي، إذا وصلت إلى الإنتاج، من شأنها أن تقلل من موقف الأمن السيبراني للمؤسسة. لذا، مثل أي أداة أخرى، يمكن أن تكون مفيدة إذا كنت تعرف ما تفعله، ويمكن أن تؤدي إلى نتائج سلبية إذا لم تكن تعرف ذلك.

نحن هنا بحاجة إلى التحذير من إحدى الخصائص المميزة للجيل الحالي من أدوات الذكاء الاصطناعي التوليدية: فهي تبدو واثقة بشكل خادع عند إعلان النتائج. وحتى لو كان النص خاطئًا بشكل صارخ، فإن جميع الأدوات الحالية تقدمه بطريقة واثقة من شأنها تضليل المستخدمين المبتدئين بسهولة. لذا، ضع في اعتبارك: الكمبيوتر يكذب بشأن مدى تأكده، وأحيانًا يكون مخطئًا جدًا.

حالة استخدام فعالة أخرى هي دعم العملاء، وبشكل أكثر تحديدًا دعم المستوى الأول – القدرة على مساعدة العملاء الذين لا يكلفون أنفسهم عناء قراءة الدليل أو الأسئلة الشائعة المنشورة. يمكن لروبوت الدردشة الحديث الإجابة بشكل معقول على الأسئلة البسيطة، وتوجيه الاستفسارات الأكثر تقدمًا إلى مستويات أعلى من الدعم. على الرغم من أن هذا ليس مثاليًا تمامًا من وجهة نظر تجربة العملاء، إلا أن توفير التكاليف (خاصة بالنسبة للمؤسسات الكبيرة جدًا التي لديها الكثير من المستخدمين غير المدربين) يمكن أن يكون مفيدًا.

يعد عدم اليقين بشأن كيفية دمج الذكاء الاصطناعي في الأعمال التجارية أمرًا صعبًا نعمة لصناعة الاستشارات الإدارية. على سبيل المثال، تجني مجموعة بوسطن الاستشارية الآن 20% من إيراداتها من المشاريع المرتبطة بالذكاء الاصطناعي، بينما تتوقع شركة ماكينزي أن يأتي 40% من إيراداتها من مشاريع الذكاء الاصطناعي هذا العام. كما أن شركات استشارية أخرى مثل IBM وAccenture على متن الطائرة. تتنوع مشاريع الأعمال إلى حد كبير: مما يجعل من السهل ترجمة الإعلانات من لغة إلى أخرى، وتعزيز البحث عن المشتريات عند تقييم الموردين، وروبوتات الدردشة المعززة لخدمة العملاء التي تتجنب الهلوسة وتتضمن إشارات إلى المصادر لتعزيز الجدارة بالثقة. على الرغم من أن 200 فقط من أصل 5000 استفسار من العملاء يتم إرسالها عبر Chatbot في ING، إلا أنه من المتوقع أن يزداد هذا مع زيادة جودة الاستجابات. وعلى نحو مماثل لتطور البحث على الإنترنت، يمكن للمرء أن يتخيل نقطة تحول حيث يتحول الأمر إلى رد فعل غير محسوب “لسؤال الروبوت” بدلاً من الانجراف في مستنقع البيانات.

يجب أن تعالج حوكمة الذكاء الاصطناعي مخاوف الأمن السيبراني

بغض النظر عن حالات الاستخدام المحددة، فإن أدوات الذكاء الاصطناعي الجديدة تجلب مجموعة جديدة كاملة من مشكلات الأمن السيبراني. كما هو الحال مع تقنية RPA في الماضي، تحتاج روبوتات الدردشة التي تواجه العملاء إلى هويات آلية تتمتع بإمكانية وصول مناسبة ومميزة في بعض الأحيان إلى أنظمة الشركة. على سبيل المثال، قد يحتاج برنامج الدردشة الآلي إلى أن يكون قادرًا على تحديد هوية العميل وسحب بعض السجلات من نظام إدارة علاقات العملاء (CRM) – الأمر الذي من شأنه أن يثير إنذارات خبراء IAM القدامى على الفور. إعداد دقيق ضوابط الوصول سيكون حول هذه التكنولوجيا التجريبية جانبًا رئيسيًا من عملية التنفيذ.

وينطبق الشيء نفسه على أدوات إنشاء التعليمات البرمجية المستخدمة في عمليات Dev أو DevOps: سيؤدي تعيين الوصول الصحيح إلى مستودع التعليمات البرمجية إلى الحد من نصف قطر الانفجار في حالة حدوث خطأ ما. كما أنه يقلل من تأثير الاختراق المحتمل، في حالة تحول أداة الذكاء الاصطناعي نفسها إلى مسؤولية تتعلق بالأمن السيبراني.

وبطبيعة الحال، هناك دائمًا خطر الطرف الثالث: من خلال جلب مثل هذه الأداة القوية ولكن غير المفهومة، تفتح المؤسسات نفسها أمام الخصوم الذين يبحثون في حدود تكنولوجيا LLM. قد يكون النقص النسبي في النضج هنا مشكلة: ليس لدينا حتى الآن أفضل الممارسات لتعزيز درجة الماجستير في القانون، لذلك نحتاج إلى التأكد من أنهم لا يتمتعون بامتيازات الكتابة في الأماكن الحساسة.

فرص الذكاء الاصطناعي في IAM

عند هذه النقطة، استخدم الحالات والفرص ل الذكاء الاصطناعي في التحكم في الوصول وIAM تتشكل ويتم تسليمها للعملاء في المنتجات. تتم إعادة النظر في المجالات التقليدية لتعلم الآلة الكلاسيكي مثل التنقيب عن الأدوار وتوصيات الاستحقاق في ضوء الأساليب الحديثة وواجهات المستخدم مع دمج إنشاء الأدوار والتطور بشكل أكثر إحكامًا في سير عمل الحوكمة وواجهات المستخدم غير التقليدية. أصبحت الابتكارات الأحدث المستوحاة من الذكاء الاصطناعي، مثل تحليل مجموعة النظراء، وتوصيات القرار، والحوكمة القائمة على السلوك، مساوية للدورة التدريبية في عالم حوكمة الهوية. يتوقع العملاء الآن تقنيات نقاط التنفيذ مثل أنظمة إدارة الوصول SSO و أنظمة إدارة الحسابات المميزة لتقديم اكتشاف الشذوذ والتهديدات المدعومة بالذكاء الاصطناعي بناءً على سلوك المستخدم وجلساته.

بدأت واجهات اللغة الطبيعية في تحسين تجربة المستخدم بشكل كبير عبر جميع هذه الفئات حل IAM من خلال السماح بتبادل اللغة الطبيعية التفاعلية مع النظام. ما زلنا بحاجة إلى تقارير ولوحات معلومات ثابتة، ولكن قدرة الأشخاص ذوي المسؤوليات والاحتياجات المختلفة على التعبير عن أنفسهم باللغة الطبيعية وتحسين نتائج البحث بشكل تفاعلي تقلل من المهارات والتدريب اللازمين لضمان إدراك المؤسسات للقيمة من هذه الأنظمة.

هذه هي نهاية البداية

هناك شيء واحد مؤكد: مهما كانت حالة تكنولوجيا الذكاء الاصطناعي في منتصف عام 2024، فلن تكون نهاية هذا المجال. يعد الذكاء الاصطناعي التوليدي وماجستير إدارة الأعمال مجرد مجال فرعي واحد من مجالات الذكاء الاصطناعي، حيث تحقق العديد من المجالات الأخرى ذات الصلة بالذكاء الاصطناعي تقدمًا سريعًا بفضل التقدم في الأجهزة والتمويل السخي للأبحاث من الحكومة والخاصة.

مهما كان شكل الذكاء الاصطناعي الناضج والجاهز للمؤسسات، يحتاج الخبراء الأمنيون بالفعل إلى التفكير في الفوائد المحتملة التي يمكن أن يجلبها الذكاء الاصطناعي التوليدي إلى وضعهم الدفاعي، وما يمكن أن تفعله هذه الأدوات لإحداث ثغرات في الدفاعات الحالية، وكيف يمكننا احتواء نطاق الانفجار إذا سارت التجربة على نحو خاطئ.