أعلن روبوت الدردشة «جروك» التابع لشركة xAI، المملوكة لإيلون ماسك، عن حدوث مشكلة في أنظمة الحماية الخاصة به، مما أدى إلى إنتاج صور غير لائقة لقاصرين، وتم تداولها عبر منصة «إكس» في الأيام الأخيرة.
الذكاء الاصطناعي
أوضح «جروك» في ردوده على استفسارات المستخدمين أن هذه الصور نتجت عن استغلال ثغرات في آليات الأمان، وهو ما يتعارض مع السياسات التي تمنع أي محتوى يستغل الأطفال بشكل صارم.
أكد الروبوت أنه تم حذف جميع الصور المخالفة التي تم إنشاؤها، وفقًا لتقرير من وكالة بلومبرج.
تسلط هذه الحادثة الضوء على التحديات المتزايدة في مراقبة المحتوى في أدوات الذكاء الاصطناعي، خاصةً تلك التي تستطيع إنتاج صور واقعية، حيث تثير المخاوف حقوقية من إمكانية التحايل على أنظمة الحماية حتى في النماذج التي تعلن التزامها بالقوانين.
في هذا السياق، أفادت مؤسسة مراقبة الإنترنت، وهي منظمة غير ربحية تركز على رصد المحتوى المتعلق باستغلال الأطفال عبر الإنترنت، بأن عدد الصور الإباحية التي تم إنتاجها بواسطة الذكاء الاصطناعي زاد بنسبة 400% خلال النصف الأول من عام 2025.
كانت شركة xAI قد روجت لـ«جروك» باعتباره أقل تقييدًا من نماذج الذكاء الاصطناعي الأخرى، كما أطلقت ميزة «Spicy Mode» في صيف العام الماضي، والتي تتيح محتوى جزئيًا مخصصًا للبالغين، ومع ذلك تؤكد السياسات على حظر أي مواد إباحية تتضمن قاصرين أو صور لأشخاص حقيقيين، لأن إنتاجها أو تداولها يعد انتهاكًا قانونيًا جسيمًا.
التعليقات