ذكاء اصطناعي مايكروسوفت تحت الحصار.. أداة تكشف المستور

ذكاء اصطناعي مايكروسوفت يحدد سلوك الآلة عبر ASSERT

تعتمد ASSERT على الذكاء الاصطناعي لتحويل الأوصاف المكتوبة بلغة طبيعية إلى مجموعة متكاملة من الاختبارات القابلة للقياس والتقييم، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.

بمجرد أن يحدد المطور الأهداف أو السياسات أو السلوكيات المتوقعة من النظام، تقوم الأداة بتحويل هذه المتطلبات إلى قائمة منظمة من السلوكيات المقبولة وغير المقبولة، ثم تنشئ سيناريوهات واختبارات متنوعة للتحقق من التزام النظام بهذه القواعد.

بعد ذلك، تشغل الاختبارات على النظام المستهدف وتمنح نتائج تفصيلية تساعد المطورين على اكتشاف نقاط الضعف أو الانحرافات السلوكية.

تخصيص ذكي.. الأداة تتكيف مع قيود بيئة عملك

كما تعتبر أبرز مزايا الأداة قدرتها على تسجيل المسارات التي يتبعها نظام الذكاء الاصطناعي أثناء تنفيذ المهام، بما في ذلك الخطوات الوسيطة واستدعاءات الأدوات المختلفة، ما يتيح للمطورين فهمًا أعمق لأسباب الإخفاقات والأخطاء.

كما تسمح ASSERT بإضافة معلومات إضافية مثل بيئة العمل والأدوات المتاحة والقيود التنظيمية، ما يساهم في تخصيص عملية التقييم بما يتناسب مع طبيعة كل تطبيق.

مثال تطبيقي.. كيف تحمي ASSERT أسرار الشركات الرقمية؟

على سبيل المثال، إذا كان لدى شركة ما مساعد ذكي مخصص للبحث في الوثائق الداخلية، يمكن للمطور تحديد قواعد واضحة مثل منع إرسال رسائل بريد إلكتروني إلى جهات خارج الشركة، أو حصر الوصول إلى المعلومات السرية على كبار التنفيذيين.

أو تقديم ملخصات موجزة تراعي السياق السابق للمحادثة، وفي هذه الحالة، تتولى ASSERT إنشاء اختبارات متنوعة للتأكد من أن النظام يلتزم بهذه الضوابط بشكل مستمر.

مسؤولة مايكروسوفت.. التقييم الدقيق سر ثقة أنظمة الآلة

ترى مايكروسوفت أن الأداة الجديدة تعالج جانباً لا تغطيه اختبارات الذكاء الاصطناعي التقليدية، إذ إن السلوك المطلوب من النموذج غالباً ما يتأثر بطبيعة التطبيق وسياسات المؤسسة والأدوات المستخدمة داخله، وهو ما يصعب قياسه عبر المعايير العامة.

وقالت سارة بيرد، رئيسة المنتجات في قسم الذكاء الاصطناعي المسؤول لدى مايكروسوفت، إن التقييمات الدقيقة أصبحت عنصراً أساسياً لاتخاذ قرارات صحيحة بشأن أنظمة الذكاء الاصطناعي.

وأضافت أن المؤسسات لا تستطيع الحكم على مدى موثوقية أنظمتها ما لم تفهم سلوكها الفعلي، مشيرة إلى أن الأنظمة الجديرة بالثقة تتطلب قياس عدد كبير من الجوانب المرتبطة مباشرة بطبيعة التطبيق.

وأكدت أن ASSERT يمكن استخدامها خلال مراحل تطوير النظام، وبعد إطلاقه للمستخدمين، وحتى في عمليات المراقبة المستمرة على المدى الطويل.

منصات عالمية تتحد لفرض رقابة صارمة على سلوك النماذج

يأتي إطلاق ASSERT في وقت يشهد فيه قطاع الذكاء الاصطناعي تحولًا متزايدًا نحو بناء أدوات تقييم واختبارات أكثر دقة واستمرارية، خاصة مع ازدياد قدرات النماذج الحديثة.

وخلال الفترة الأخيرة، برزت مبادرات عدة في هذا المجال، من بينها مشروع مركز ستانفورد لأبحاث نماذج المؤسسات، عبر منصة HELM، إضافة إلى اختبارات AILuminate التابعة لـ MLCommons، وجهود مجموعة METR، والتي تركز جميعها على قياس أداء النماذج وسلوكها في سيناريوهات مختلفة.

وتعكس هذه الجهود اتجاهًا متناميًا داخل الصناعة نحو جعل تقييم الذكاء الاصطناعي عملية مستمرة ومنهجية، بدلًا من الاكتفاء باختبارات أولية قبل إطلاق المنتجات.

تابعوا تفاعل السعودية؛ لأننا نكون دائمًا في قلب كل جديد في عالم التقنية، ونختار لكم الأفضل قبل أي أحد آخر.

الأسئلة الشائعة حول ذكاء اصطناعي مايكروسوفت