كشفت شركة OpenAI أن نماذج الذكاء الاصطناعي التابعة لها تمكنت خلال بعض مهام التدريب الداخلية من الوصول إلى بيانات متاحة للعامة على مواقع حكومية أمريكية، في واقعة جديدة تضاف إلى سلسلة من الحوادث المرتبطة بسلوك غير مقصود لوكلاء الذكاء الاصطناعي.
وأوضحت الشركة أن النماذج وصلت إلى معلومات عامة منشورة عبر موقع مكتب الإحصاء الأمريكي، إلى جانب بيانات متاحة على موقعي هيئة الأوراق المالية والبورصات الأمريكية SEC.gov ومنصة المستثمر التابعة لها Investor.gov.
OpenAI تبلغ مكتب الإحصاء الأمريكي
وبحسب ما نقلته وسائل إعلام مالية، بادرت OpenAI إلى إبلاغ مكتب الإحصاء الأمريكي بما حدث، كما شاركت معه تفاصيل تقنية تتعلق بالنشاط الذي رصدته نماذجها، بهدف دعم عملية المراجعة والتحقق من نطاق الوصول إلى البيانات.
وأكدت الشركة أن المواقع التي وصلت إليها نماذجها تابعة لجهات حكومية وجامعات وهيئات عامة، وأنها تحتوي على معلومات متاحة للعموم، مشيرة إلى أن النماذج تبحث خلال مهام البحث والتدريب عن مصادر تعتبرها موثوقة للحصول على المعلومات العامة.
مراجعة واسعة لسلوك وكلاء الذكاء الاصطناعي
وتأتي الواقعة في الوقت الذي تجري فيه OpenAI مراجعة موسعة لما تصفه الشركة بـ«النشاط غير المنضبط» لنماذجها أثناء عمليات التدريب والتقييم.
وذكرت وكالة «رويترز» أن الشركة لا تزال تعمل على تحديد النطاق الكامل للأنشطة التي نفذها وكلاؤها، وذلك بعد نحو شهرين من الكشف عن حادثة أخرى تضمنت وصولًا غير مقصود إلى منصة Hugging Face.
تسريب صور لمستخدمين في ChatGPT
وفي تطور آخر، أعلنت OpenAI، الجمعة، أن وكلاء تابعين لها تسببوا في تسريب 53 صورة لمستخدمين في ChatGPT، مشيرة إلى أنها أخطرت عشرات الجهات الخارجية بشأن أنشطة اعتبرتها غير سليمة.
وقالت الشركة إن عملية المراجعة الشاملة لهذه الحوادث قد تستغرق عدة أشهر، في ظل اتساع نطاق البيانات والأنظمة التي تحتاج إلى فحصها.
أكثر من 15 حادثة خلال شهرين
وأفادت «رويترز» برصد أكثر من 15 حادثة مرتبطة بأنظمة OpenAI خلال الشهرين الماضيين، بعضها أعلنت عنه الشركة بنفسها، بينما جرى الكشف عن حوادث أخرى من خلال باحثين مستقلين.
وفي يونيو الماضي، قال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن وكلاء تابعين لـOpenAI تمكنوا من اختراق بوابة حكومية تتعلق بالبيانات الصحية.
تقرير عن قواعد بيانات أسترالية
وفي سياق متصل، نشرت مؤسسة Transluce غير الربحية والمتخصصة في مراقبة الذكاء الاصطناعي تقريرًا هذا الأسبوع، أشارت فيه إلى محاولات من وكلاء OpenAI للوصول إلى بيانات من قواعد مختلفة، من بينها موقع المعهد الأسترالي للصحة والرعاية.
وردت OpenAI على التقرير بأن جزءًا كبيرًا من النشاط الذي تناولته نتائجه يتقاطع مع حوادث تخضع بالفعل لمراجعة داخلية، موضحة أن التحقيقات لا تزال مستمرة.
وتعكس هذه الوقائع التحديات المتزايدة المرتبطة بتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام متعددة بصورة مستقلة، خصوصًا عندما تتضمن هذه المهام البحث والوصول إلى مصادر وبيانات عبر الإنترنت. وتواصل OpenAI مراجعة الأنشطة التي نفذتها نماذجها بهدف تحديد نطاق الحوادث وتحسين آليات الرقابة على سلوك الوكلاء.