أعلنت شركة OpenAI عن إتاحة خيار عدم الاحتفاظ بالبيانات (Zero Data Retention) لعملاء واجهة برمجة التطبيقات (API) المؤهلين الذين يستخدمون نماذج الذكاء الاصطناعي المتقدمة. يأتي ذلك بالتزامن مع إطلاق نظام جديد يحمل اسم Private Safety Processing، والذي يهدف إلى مراقبة سلامة استخدام النماذج دون الكشف عن محتوى العملاء لموظفي الشركة. وبموجب سياسة عدم الاحتفاظ بالبيانات، لا تحتفظ OpenAI بالمطالبات التي يرسلها العملاء أو بمخرجات النماذج بعد الانتهاء من معالجة الطلب. كما تؤكد الشركة أن محتوى العملاء لا يكون متاحًا للمراجعة من جانب موظفيها، وأن بيانات المؤسسات لا تُستخدم لتدريب نماذج OpenAI إلا إذا اختار العميل السماح بذلك صراحة.
لماذا يمثل الأمر أهمية للشركات؟
كيف تراقب OpenAI إساءة الاستخدام دون الاطلاع على البيانات؟
توضح OpenAI أن إساءة استخدام نماذج الذكاء الاصطناعي قد لا تكون واضحة من خلال طلب واحد أو إجابة واحدة، خصوصًا مع تطور الأنظمة القادرة على تنفيذ مهام طويلة ومستقلة. فعلى سبيل المثال، قد يحاول شخص ما اختبار إجراءات الحماية عدة مرات، أو تنسيق نشاط ضار عبر حسابات متعددة، أو إخفاء طلبات ضارة داخل طلبات تبدو وكأنها لأغراض بحثية مشروعة. وهنا يأتي دور نظام Private Safety Processing، الذي صُمم لتحليل الأنماط بين التفاعلات المرتبطة بدلاً من فحص كل تفاعل بصورة منفصلة، مع استخدام عمليات آلية لا تمنح موظفي OpenAI إمكانية الوصول إلى المحتوى نفسه.
البيانات تظل تحت سيطرة العميل
بالنسبة إلى عمليات النشر التي يتحكم فيها العميل، تظل البيانات على البنية التحتية التي يديرها العميل. تعمل OpenAI أيضًا على نموذج يمكن من خلاله تخزين المحتوى على بنيتها التحتية، لكن مع تشفيره باستخدام مفاتيح يتحكم فيها العميل. وفق هذا النموذج، لا يمتلك موظفو OpenAI نسخًا من مفاتيح التشفير، وبالتالي لا يستطيعون الوصول إلى المطالبات أو الردود الموجودة داخل البيانات المشفرة. عندما ترصد الأنظمة الآلية نشاطًا قد يمثل إساءة استخدام، تتلقى OpenAI إشارة محدودة تحدد فئة النشاط الخطِر بدلاً من الحصول على محتوى العميل الأصلي.
إشارة خطر بدلًا من قراءة المحادثة
يمكن استخدام هذه الإشارة في اتخاذ قرارات تتعلق بإنفاذ سياسات الاستخدام، بينما لا تكشف عن المحتوى الأصلي للعميل. يمكن للمؤسسات التحقيق في التنبيهات باستخدام السجلات الموجودة داخل بيئاتها الخاصة. كما يمكنها بشكل اختياري تقديم البيانات ذات الصلة إذا أرادت الاعتراض على قرار أو توضيح أن النشاط مشروع أو المساعدة في تحقيق موثوق بشأن إساءة الاستخدام.