في واقعة تعيد فتح النقاش حول حدود أنظمة الذكاء الاصطناعي وقدرتها على تنفيذ مهام تتجاوز ما هو متوقع منها، كشفت غوغل عن حادثة تمكن خلالها نموذجها «جيميناي» الموجه للمستخدمين من الوصول إلى عدد من المواقع الإلكترونية بعدما خمّن بيانات اعتماد للدخول إليها.
الحادثة، التي تعود إلى شهر ماي الماضي، ظهرت إلى العلن في يوليوز، قبل أن تكشف تفاصيل إضافية عنها تقارير إعلامية، من بينها ما نشرته صحيفة وول ستريت جورنال.
كيف وقع الأمر؟
بحسب هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، فإن النموذج كان يخضع لعملية تقييم، وخلالها تمكن من العثور على معلومات متاحة بشكل علني على الإنترنت.
وبناءً على تلك المعطيات، حاول النموذج تخمين بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها تدخل ضمن نطاق الاختبار.
وأوضحت أدكينز أن العملية توقفت في ثلاث حالات، دون الكشف عن أسماء الجهات أو المواقع التي طالتها هذه المحاولات.
غوغل أخطرت الجهات المعنية
وقالت المسؤولة في غوغل إن الشركة حرصت على إبلاغ الجهات الثلاث المعنية بما حدث، كما عملت مع الشريك المسؤول عن التدريب على إدخال تعديلات على آليات الاختبار.
وتسلط الواقعة الضوء على تحدٍ متزايد أمام شركات الذكاء الاصطناعي: كيف يمكن الاستفادة من قدرات النماذج المتقدمة في البحث والتنفيذ، مع ضمان عدم تحول هذه القدرات إلى سلوك قد يؤدي إلى الوصول غير المصرح به إلى أنظمة أو بيانات.
حوادث مماثلة تثير القلق
لا تأتي واقعة «جيميناي» بمعزل عن غيرها، إذ سبق تسجيل حوادث أثارت تساؤلات مماثلة لدى شركات أخرى تعمل على تطوير نماذج الذكاء الاصطناعي، من بينها أنثروبيك وشركة مونشوت آيه آي الصينية.
وتعيد هذه التطورات النقاش بشأن قدرة الشركات المطورة على توقع جميع التصرفات الممكنة لنماذج الذكاء الاصطناعي، خصوصاً مع توسع نطاق المهام التي تستطيع هذه الأنظمة تنفيذها بصورة مستقلة.
غوغل: الحادثة تؤكد أهمية التدريب المسؤول
وترى أدكينز أن مثل هذه الوقائع تبرز الحاجة إلى تدريب النماذج المتقدمة على التصرف بصورة مسؤولة، بالتوازي مع تطوير أنظمة الحماية والمراقبة والاختبار.
فكلما ازدادت قدرة نماذج الذكاء الاصطناعي على البحث والاستنتاج واتخاذ خطوات متتابعة لتنفيذ مهمة، أصبح اختبار حدودها ووضع ضوابط واضحة لاستخدامها جزءاً أساسياً من عملية التطوير.
وتفتح هذه الحادثة، في النهاية، سؤالاً أوسع حول مستقبل الأمن السيبراني في عصر الذكاء الاصطناعي: هل ستتمكن آليات الحماية من مواكبة نماذج تزداد قدرة على التفكير والتنفيذ بشكل مستقل؟
