تفاصيل خاصة
وقد واجهت مشاريع أخرى مماثلة في السابق المشكلة نفسها التي واجهتها «ميتا»، الشركة الأم لـ «فيس بوك»، في مشروعها «بلندربوت»، مثل تطبيق الدردشة «تاي» الذي طورته مايكروسوفت لصالح «تويتر»، والذي انتهى به الأمر إلى الإدلاء ببيانات عنصرية.
ويعكس هذا التحدي التفاصيل الخاصة بالنماذج المولدة للمحتوى والقائمة على تقنيات تعلم الآلات التي يجري تدريبها على النصوص والصور من الإنترنت.
وتستخدم هذه النماذج مجموعات ضخمة من البيانات الخام لجعل مخرجاتها من المحتوى مقنعة للجمهور، ولكن يصعب منع هذه النماذج من التقاط التحيزات الكامنة في البيانات إذا كانت تدرب على الويب.
فلترة البيانات
ويشتمل أغلب هذه المشاريع حاليا على أهداف بحثية وعلمية، لكن المؤسسات تستخدم أيضا نماذج لغوية في المجالات التطبيقية، كدعم العملاء والترجمة وكتابة المحتوى النصي للمواد التسويقية وتدقيق النصوص.. وما إلى ذلك.
ويمكن للمطورين تنسيق مجموعات البيانات المستخدمة في تدريب تلك النماذج القائمة على تعلم الآلات، لجعلها أقل تحيزا، إلا أن الأمر يظل صعبا في حالة مجموعات البيانات الواسعة المتاحة على نطاق الويب.
وتتمثل إحدى الطرق المتبعة لمنع الأخطاء المحرجة في فلترة البيانات بحثا عن التحيزات، كاستخدام كلمات أو عبارات محددة لإزالة مستندات معينة ومنع النموذج من التعلم منها، وهناك طريقة أخرى تتمثل في فلترة النصوص غير الملائمة الصادرة عن النموذج، والتي قد تكون مثار جدل، وذلك قبل وصولها إلى المستخدمين.
تسميم البيانات
ويتضح عند توسعة نطاق النظر إلى نماذج التفاعل مع العملاء، القائمة على تعلم الآلات، أنها بحاجة ماسة إلى الحماية، لا من التحيزات وحدها، وإنما أيضا من الأنشطة التخريبية التي يقف مجرمو الإنترنت وراءها.
ويستطيع المجرمون أن يستغلوا اعتماد المطورين على البيانات المفتوحة في تدريب نماذج توليد المحتوى، ويقوموا بـ«تسميم البيانات» عبر إضافة بيانات مشوهة إلى مجموعة البيانات، ما يجعل النموذج غير قادر على تحديد بعض الأحداث أو الخلط بينها وبين أحداث أخرى، واتخاذ قرارات خطأ.
ممارسات الحماية
وقال فلاديسلاف توشكانوف عالم البيانات الرئيس لدى كاسبرسكي، إن المؤسسات ما زالت بحاجة إلى اتباع ممارسات الحماية الأمنية، رغم أن مثل تلك التهديدات لا يزال نادرا في الواقع، نظرا لأنه يتطلب الكثير من الجهد والخبرة من المهاجمين، كما أن تدابير الحماية تساعد في تقليل الأخطاء الناجمة عن تدريب النماذج.
وأضاف: «تحتاج المؤسسات أولا إلى معرفة طبيعة البيانات التي تستخدم للتدريب ومصدرها، ومن ثم إدراك أن تنوع البيانات يجعل (تسميمها) أصعب، ومن المهم أخيرا اختبار النموذج بدقة قبل وضعه موضع التشغيل ومراقبة أدائه باستمرار».
ويمكن للمؤسسات والخبراء أيضا الرجوع إلى أطلس «ميتير أطلس» الذي يعد قاعدة معرفية مختصة بالتهديدات المتربصة بأنظمة تعلم الآلات.
