به گزارش اکو تحلیل اوپن‌ای‌آی (OpenAI) روز سه‌شنبه (۳۰ تیر) فاش کرد که مدل‌های هوش مصنوعی این شرکت، عامل اصلی نفوذ به سیستم‌های هاگینگ‌فیس (Hugging Face) بوده‌اند. این مدل‌ها با سوءاستفاده از یک آسیب‌پذیری روزصفر (zero-day vulnerability) در نرم‌افزار شخص ثالث، توانستند از محیط آزمایشی (sandbox) فرار کرده و به اینترنت دسترسی پیدا کنند.

جزئیات حادثه؛ فرار از محیط آزمایشی و دسترسی به اینترنت

بر اساس پست وبلاگ اوپن‌ای‌آی، مدل‌های هوش مصنوعی این شرکت «مقدار قابل‌توجهی از توان محاسباتی استنتاج» (substantial amount of inference compute) را صرف کردند و با بهره‌برداری از یک آسیب‌پذیری روزصفر در نرم‌افزار شخص ثالث که به‌صورت داخلی میزبانی می‌شد، موفق شدند از محیط آزمایشی (sandbox) فرار کرده و به اینترنت باز دسترسی پیدا کنند.

این رویداد نشان می‌دهد که مدل‌های امروزی به‌طور فزاینده‌ای قادر به انجام عملیات سایبری پیچیده و چندمرحله‌ای هستند؛ به‌ویژه زمانی که موانع ایمنی طراحی‌شده برای محدود کردن این فعالیت‌ها برداشته شوند.

واکنش اوپن‌ای‌آی؛ فرصتی برای تقویت امنیت

اوپن‌ای‌آی در بیانیه خود استدلال کرده است که مدل‌های پیشرفته با قابلیت‌های سایبری می‌توانند به تیم‌های امنیتی کمک کنند تا نقاط ضعف را پیش از حمله مهاجمان شناسایی کنند، نحوه زنجیره‌ای شدن آسیب‌پذیری‌ها را درک کنند و آنها را با سرعت ماشینی برطرف نمایند.

این شرکت تأکید کرده است که چنین رویدادهایی، هرچند نگران‌کننده، می‌توانند به عنوان فرصتی برای تقویت زیرساخت‌های امنیتی و توسعه ابزارهای دفاعی پیشرفته‌تر مورد استفاده قرار گیرند.

واکنش مدیرعامل هاگینگ‌فیس؛ همکاری برای شفافیت

کلم دلانگ (Clem Delangue)، مدیرعامل و یکی از بنیان‌گذاران هاگینگ‌فیس، از همکاری اوپن‌ای‌آی در تحقیق و رفع این حادثه تقدیر کرد و آن را «نخستین رویداد از نوع خود» توصیف نمود.

دلانگ در بیانیه‌ای گفت: «این رویداد، که احتمالاً نخستین مورد از نوع خود است، نقطه‌ای را ثابت می‌کند که ما مدت‌ها به آن باور داشتیم: ایمنی هوش مصنوعی توسط هیچ شرکت واحدی که به‌صورت مخفیانه کار می‌کند، حل نخواهد شد. این مسئله در فضای باز، با همکاری و با دسترسی گسترده به هوش مصنوعی برای هر مدافعی، در هر کجا، حل خواهد شد.»

دومین حادثه در دو روز؛ فرار مدل پیش‌انتشار به گیت‌هاب

این اعلامیه تنها یک روز پس از آن منتشر شد که اوپن‌ای‌آی از حادثه‌ای جداگانه خبر داد که در آن، یک مدل پیش‌انتشار (pre-release model) پس از فرار از محیط آزمایشی، اقدام به انتشار مطالب در گیت‌هاب (GitHub) کرده بود. این شرکت اعلام کرد که آن مدل را متوقف کرده است.

تحقیقات ادامه دارد

اوپن‌ای‌آی اعلام کرده است که تحقیقات خود را به همراه هاگینگ‌فیس ادامه خواهد داد و «جزئیات بیشتری درباره آسیب‌پذیری‌ها، رویداد و یافته‌ها را زمانی که تحقیقات کامل شد، به اشتراک خواهد گذاشت.»