أعلنت شركة OpenAI عن حزمة جديدة من إجراءات الأمن والسلامة، في إطار سعيها إلى تعزيز حماية نماذج الذكاء الاصطناعي خلال مراحل التطوير والاختبار، خصوصاً مع التطور المتسارع في قدراتها بمجال الأمن السيبراني.
وتشمل الإجراءات الجديدة توسيع نطاق مراقبة سلوك النماذج أثناء مراحل التطوير، إلى جانب تعزيز جهود المواءمة والأمن خلال مرحلة ما بعد التدريب، بما يسمح برصد المخاطر والتعامل معها في وقت مبكر.
كما تعمل الشركة على تعزيز عزل الشبكات وتقسيم بيئات العمل، بحيث لا يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة إلى منح وصول غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
وتتضمن المنظومة أيضاً نظاماً متقدماً للمراقبة يرصد مجموعة واسعة من الأنشطة، بما في ذلك استخدام الأدوات وآثار عمليات الاستدلال وسجلات النشاط، بهدف اكتشاف السلوكيات غير المصرح بها والأنماط التي قد تشير إلى محاولات تجاوز القيود الأمنية.
وتأتي هذه الخطوات في سياق توجه أوسع لدى OpenAI نحو اعتماد وسائل حماية متعددة المستويات، تشمل المراقبة المستمرة والاختبارات الأمنية وضوابط الوصول، بالتوازي مع ارتفاع قدرات النماذج الجديدة.
وأكدت الشركة أن الهدف من هذه الإجراءات هو مواكبة تطور قدرات الذكاء الاصطناعي، مع الحفاظعلى مستوى مرتفع من الأمن خلال عمليات التدريب والتطوير والاختبار
