نظام دعم العملاء الذكي باستخدام RoBERTa وLLMs لتصنيف الاستفسارات وتوليد ردود احترافية تلقائيًا(Customer Services Chatbot)

قمت بتطوير نظام متكامل لأتمتة خدمة العملاء يعتمد على تقنيات الذكاء الاصطناعي ومعالجة اللغات الطبيعية (NLP)، حيث يجمع النظام بين نماذج التصنيف المعتمدة على Transformers ونماذج اللغة الكبيرة (LLMs) لتقديم تجربة دعم ذكية وقادرة على فهم استفسارات العملاء والرد عليها بشكل احترافي. يعتمد النظام على خط معالجة متكامل يبدأ باستقبال رسالة العميل وتحليلها باستخدام نموذجين مستقلين من RoBERTa-base تم تدريبهما خصيصًا للتنبؤ بكل من: نوع المشكلة (Category Classification) عبر 11 فئة مختلفة. نية المستخدم (Intent Classification) عبر 27 نية مختلفة. تم تدريب النماذج على أكثر من 26 ألف رسالة دعم عملاء حقيقية مع تطبيق استراتيجيات متقدمة لمعالجة عدم توازن البيانات باستخدام Class-Weighted Cross Entropy Loss مما ساهم في تحقيق أداء استثنائي أثناء التدريب والاختبار. كما قمت ببناء Pipeline متكامل لمعالجة النصوص يشمل: تنظيف البيانات النصية. إزالة الروابط والعناصر غير المهمة. Tokenization باستخدام RoBERTa Tokenizer. Dynamic Padding لتحسين استهلاك الذاكرة وسرعة التدريب. Fine-Tuning كامل لنموذج RoBERTa. بعد انتهاء مرحلة التصنيف، يتم إرسال النتائج إلى نموذج LLaMA 3.3 70B عبر Groq Cloud، حيث يتم استخدام النية والفئة المتوقعة كـ Context داخل الـ Prompt لإنتاج ردود احترافية وواعية بسياق المشكلة. كما تم تصميم آلية للحفاظ على سياق المحادثة ومنع انحراف النموذج عن المشكلة الأصلية أثناء الحوار متعدد الجولات. ولجعل النظام جاهزًا للاستخدام الفعلي، قمت بتطوير واجهة تفاعلية باستخدام Streamlit تتيح للمستخدم: إدخال المشكلة. عرض التوقعات الخاصة بالـ Intent والـ Category. مشاهدة درجات الثقة الخاصة بالنموذج. التفاعل مباشرة مع المساعد الذكي في واجهة محادثة سهلة الاستخدام. التقنيات والأدوات المستخدمة Python Natural Language Processing (NLP) Transformers RoBERTa-base Hugging Face Transformers Hugging Face Trainer LLaMA 3.3 70B Groq Cloud API Streamlit Scikit-learn Pandas NumPy Matplotlib Prompt Engineering Deep Learning GPU Training (CUDA) النتائج والإنجازات بناء نظام دعم عملاء ذكي متكامل من البداية للنهاية. تصنيف 11 فئة رئيسية و27 نية مختلفة للعملاء. تحقيق دقة وصلت إلى 99.98% على بيانات الاختبار. تحقيق Macro F1 Score = 0.9996. تسجيل خطأ واحد فقط من أصل 4031 عينة اختبار. دمج نماذج التصنيف مع LLM لإنشاء مساعد ذكي قادر على فهم المشكلة وتقديم ردود احترافية تلقائيًا. تطوير واجهة استخدام كاملة تسمح بالتفاعل مع النظام دون الحاجة لأي معرفة تقنية.