تصميم وتطوير Enterprise AI Gateway لإدارة تكاليف الذكاء الاصطناعي والتحكم في الوصول
تفاصيل العمل
في هذا المشروع قمت بتصميم وتنفيذ منصة مركزية لإدارة استخدام خدمات الذكاء الاصطناعي داخل الشركات، بحيث تمر جميع طلبات الذكاء الاصطناعي من خلال بوابة واحدة قبل الوصول إلى Google Vertex AI، مما يوفر تحكمًا كاملاً في التكاليف، وسياسات الاستخدام، والأمان، والمراقبة. تضمن المشروع بناء AI Gateway باستخدام Python وFastAPI مع Nginx Reverse Proxy، بالإضافة إلى دمج Open Policy Agent (OPA) لتطبيق سياسات Policy as Code، وإدارة حدود الاستخدام (Quota Management)، وتتبع استهلاك الـ Tokens والتكاليف بشكل لحظي لكل فريق أو تطبيق. كما قمت بربط النظام مع Redis وPostgreSQL لتخزين البيانات وإدارة الحصص، وبناء نظام مراقبة متكامل باستخدام Prometheus وGrafana وLoki وAlertmanager، مع خطوط CI/CD عبر GitHub Actions وإدارة البنية التحتية باستخدام Terraform. ساهم هذا الحل في توفير رؤية كاملة لاستهلاك خدمات الذكاء الاصطناعي، ومنع تجاوز الميزانيات قبل حدوثها، وتطبيق سياسات الأمان بشكل تلقائي، مع تقليل متوسط الإنفاق الشهري على خدمات الذكاء الاصطناعي بنسبة 34% وتحويل عملية مراقبة التكاليف من تقارير شهرية إلى متابعة لحظية. التقنيات المستخدمة: Google Cloud Platform (GCP) -> Vertex AI -> Python -> FastAPI -> Nginx -> Docker Compose -> Terraform -> Open Policy Agent (OPA) -> PostgreSQL -> Redis -> Prometheus -> Grafana -> Loki -> Alertmanager -> GitHub Actions.
مهارات العمل