شركة OpenAI أعلنت إن متصفحات الذكاء الاصطناعي لسه معرضة لهجمات إلكترونية اسمها «حقن الأوامر»، ورغم جهودها لتطوير الحماية، التحديات الأمنية بتزيد مع تصفح الإنترنت.
نوع الهجمات
الهجمات دي بتعتمد على إدخال تعليمات خبيثة في صفحات الويب أو رسائل رقمية، علشان تضليل الوكيل الذكي وتخليه ينفذ أوامر مش مقصودة، وOpenAI أكدت إن القضاء على النوع ده من الهجمات مش ممكن حاليًا، زي ما هو الحال في أساليب الاحتيال الإلكتروني التقليدية.
متصفح ChatGPT Atlas
الشركة أوضحت إن تشغيل وضع «الوكيل الذكي» في متصفح ChatGPT Atlas بيفتح المجال لمخاطر أكبر، لأن المتصفح بيعتمد على قدرات تنفيذية عالية واستقلالية متقدمة، حسب تقرير نشره موقع «تك كرانش».
مخاوف الباحثين
OpenAI أطلقت متصفح «أطلس» في أكتوبر الماضي، لكن باحثين أمنيين اكتشفوا بسرعة إمكانية التلاعب بسلوكه عن طريق تعليمات مخفية في مستندات رقمية، وده أثار مخاوف بشأن سلامة التقنيات الحديثة.
تحديات مشتركة
شركات تقنية تانية، زي Brave، أكدت إن هجمات حقن الأوامر تمثل تحدي مشترك لمعظم المتصفحات المدعومة بالذكاء الاصطناعي، بما في ذلك متصفح Comet من شركة Perplexity.
تحذيرات رسمية
جهات أمنية رسمية، زي المركز الوطني للأمن السيبراني في المملكة المتحدة، حذرت من إن تطبيقات الذكاء الاصطناعي التوليدي هتظل معرضة للهجمات، ودعت المؤسسات لتبني استراتيجيات لإدارة المخاطر بدل من محاولة منعها بالكامل.
جهود OpenAI
في محاولة للحد من المخاطر، OpenAI أعلنت عن نظام هجومي آلي يستخدم تقنيات التعلم المعزز لاختبار قدرة المتصفح على اكتشاف الهجمات، وكمان لمحاكاة طرق اختراق جديدة قبل استخدامها فعليًا.
نتائج النظام
النظام ده قدر يكشف سيناريوهات هجومية معقدة، وده ساعد في تحسين آليات الرصد والتنبيه داخل المتصفح، لكن OpenAI ما كشفتش عن تأثير الإجراءات دي على تقليل معدلات الاختراق، وأكدت استمرار التعاون مع خبراء أمنيين لتعزيز الحماية.
مستقبل المتصفحات الذكية
خبراء بيشوفوا إن مستقبل المتصفحات الذكية هيفضل معتمد على تحقيق توازن بين توسيع صلاحيات الوكلاء الذكاء الاصطناعي وضمان حماية المستخدمين، خاصة مع تزايد الاعتماد على التقنيات دي في حياتنا اليومية.
التعليقات