لقد استخدم المطورون منذ فترة طويلة مواقع معينة كمنتديات حيث يمكنهم الحصول على أمثلة التعليمات البرمجية والمساعدة. يتم استبدال هذا المجتمع بسرعة بأدوات الذكاء الاصطناعي التوليدية مثل ChatGPT . اليوم، يطلب المطورون من روبوتات الدردشة المدعومة بالذكاء الاصطناعي المساعدة في إنشاء نموذج للتعليمات البرمجية، والترجمة من لغة برمجة إلى أخرى، وحتى كتابة حالات الاختبار. لقد أصبحت روبوتات الدردشة هذه أعضاءً كاملي العضوية في فرق التطوير لديك. إن مكاسب الإنتاجية التي تقدمها هذه الشركات مثيرة للإعجاب بكل بساطة.
هناك مشكلة واحدة فقط. كيف تعلم أعضاء فريق chatbot الذي يعمل بالذكاء الاصطناعي البرمجة؟ يتم ذلك دائمًا من خلال قراءة مليارات الأسطر من البرامج مفتوحة المصدر، المليئة بأخطاء التصميم والأخطاء والبرامج الضارة التي أدخلها المتسللون. إن السماح للمصادر المفتوحة بتدريب أدوات الذكاء الاصطناعي الخاصة بك يشبه السماح للسائق المهرب الذي سرق بنكًا بتدريس تعليم السائقين في المدرسة الثانوية. لديها تحيز مدمج لتعليم شيء سيء.
هناك ما يزيد عن مليار مساهمة مفتوحة المصدر سنويًا في المستودعات المختلفة. كان لدى GitHub وحده أكثر من 400 مليون في عام 2022. وهذه فرصة كبيرة لتقديم تعليمات برمجية سيئة و"سطح هجوم" ضخم لمحاولة البحث عن المشكلات. بمجرد استخدام المصدر المفتوح لتدريب نموذج الذكاء الاصطناعي، يكون الضرر قد وقع. سوف يتأثر أي كود ينشئه النموذج بما تعلمه.
لسوء الحظ، فإن الأوقات التي من المرجح أن يطلب فيها المطورون المساعدة من برنامج الدردشة الآلي هي عندما يفتقرون إلى الخبرة الكافية لكتابة التعليمات البرمجية بأنفسهم. وهذا يعني أنهم يفتقرون أيضًا إلى الخبرة اللازمة لفهم ما إذا كانت التعليمات البرمجية التي تم إنتاجها تحتوي على باب خلفي مخفي عن عمد أو برامج ضارة.
طُرح سؤال على LinkedIn عن مدى دقة فحص الأشخاص لجودة وأمان الكود الذي ينتجه الذكاء الاصطناعي. وبعد بضعة آلاف من مرات الظهور، تراوحت الإجابات من "بعناية شديدة جدًا" إلى "هذا هو السبب في أنني لا أستخدم الذكاء الاصطناعي التوليدي لإنشاء التعليمات البرمجية" و"من المبكر جدًا استخدامه" و"[مخاطر كبيرة جدًا] للبرامج الضارة المضمنة". وضعف التصميم المعروف. ولكن تظل الحقيقة أن العديد من الشركات تستخدم الذكاء الاصطناعي التوليدي لتطوير التعليمات البرمجية، وهناك المزيد من الشركات التي تنضم إلى هذه العربة.
إذن ماذا يجب على الشركات أن تفعل؟ أولاً، يحتاجون إلى مراجعة وفحص التعليمات البرمجية المكتوبة بواسطة الذكاء الاصطناعي التوليدي بعناية. لا تفترض أن برامج الذكاء الاصطناعي الضارة التوليدية سوف تتطابق مع توقيعات البرامج الضارة المعروفة، لأن التعليمات البرمجية التي تم إنشاؤها تتغير في كل مرة تتم كتابتها. بدلاً من ذلك، استخدم عمليات الفحص السلوكي الثابت وتحليل تكوين البرامج (SCA) لمعرفة ما إذا كانت البرامج التي تم إنشاؤها بها عيوب في التصميم أو ستفعل أشياء ضارة.
ربما يكون الأمر بديهيًا، ولكن ليس من الجيد السماح لنفس الذكاء الاصطناعي الذي ينتج تعليمات برمجية عالية الخطورة بكتابة حالات الاختبار لمعرفة ما إذا كانت التعليمات البرمجية محفوفة بالمخاطر. هذا مثل مطالبة الثعلب بفحص حظيرة الدجاج بحثًا عن الثعالب.
في حين أن مخاطر (إنشاء تعليمات برمجية ضارة) حقيقية، فإن فوائد البرمجة باستخدام الذكاء الاصطناعي التوليدي هي أيضًا كذلك. إذا كنت ستثق في التعليمات البرمجية التي تم إنشاؤها، فسيتم تطبيق القول المأثور القديم: ثق، ولكن تحقق.
المصدر: infoworld