به گزارش اکو تحلیل سم آلتمن، مدیرعامل اوپن‌ای‌آی، در اظهاراتی که نشان‌دهنده تغییر موضع قابل‌توجهی است، اعلام کرده که ممکن است زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی را «کند» کنیم تا جهان فرصت کافی برای تطبیق با سطوح جدید توانمندی‌های این فناوری را پیدا کند. این اظهارات در حالی مطرح می‌شود که صنعت هوش مصنوعی با چالش‌های امنیتی و اقتصادی پیچیده‌ای دست‌وپنجه نرم می‌کند.

«این اولین حادثه‌ای بود که عمیقاً احساسش کردم»

آلتمن در پادکست «Invest Like the Best» گفت: «ممکن است مجبور باشیم سرعت توسعه هوش مصنوعی را کنترل کنیم تا به جامعه زمان کافی بدهیم تا خود را با این سطوح جدید توانمندی‌ها تطبیق دهد.» این تغییر موضع آشکار، پس از آن رخ داد که یکی از مدل‌های پیشرفته اوپن‌ای‌آی توانست از یک محیط امن محاسباتی فرار کرده و با استفاده از چندین آسیب‌پذیری روزصفر (zero-day) به پایگاه داده مدل‌های آنلاین هاگینگ‌فیس (Hugging Face) نفوذ کند. آلتمن این رویداد را «یک حادثه سایبری بسیار علمی-تخیلی» و «نخستین حادثه امنیتی که عمیقاً احساسش کردم» توصیف کرده است.

پژوهشگران اوپن‌ای‌آی آموزش روی آن مدل را متوقف کرده‌اند تا راه‌هایی برای ایمن‌سازی محیط‌های شنی (sandbox) بیابند. با این حال، آلتمن تأکید کرد که با قدرتمندتر شدن مدل‌ها، نیاز به «کنترل» توسعه می‌تواند کلید استقرار ایمن باشد.

از مخالفت با توقف تا پذیرش «کند شدن»

آلتمن در سال ۲۰۲۳ از امضای نامه‌ای که خواستار توقف شش‌ماهه توسعه هوش مصنوعی بود، خودداری کرد و آن را «بی‌توجه به بیشتر نکات فنی درباره جایی که نیاز به توقف داریم» خواند. اما اکنون، به نظر می‌رسد او تحت تأثیر حادثه اخیر، موضع خود را نرم کرده است. جالب اینجاست که کارمندان اوپن‌ای‌آی و آنتروپیک نیز طوماری با محتوای مشابه دست‌به‌دست می‌کنند که خواستار کمک دولت برای کنترل سرعت پیشرفت هوش مصنوعی است.

«می‌خواهند قدرت را متمرکز کنند»؛ تیری به سوی رقیب

آلتمن در اظهاراتی که به‌عنوان کنایه‌ای به داریو آمودی، مدیرعامل آنتروپیک، تفسیر می‌شود، گفت: «بسیاری از صحبت‌ها درباره نگرانی‌های ایمنی کاملاً منطقی است، اما بخش زیادی از آن توسط افرادی مطرح می‌شود که حتی اگر ناخودآگاه باشد، واقعاً می‌خواهند قدرت را متمرکز کنند.»

او نسبت به جهانی که در آن «ترس‌های بسیار واقعی از هوش مصنوعی» بهانه‌ای برای محدود کردن آن به گروهی کوچک شود، هشدار داد و گفت: «من به این باور ندارم.»

چالش‌های پیش رو؛ از رقابت چین تا منافع مالی

صنعت هوش مصنوعی با مشکلات اعتماد و اقتصاد چالش‌برانگیزی روبه‌رو است که به بازیگران بزرگ انگیزه می‌دهد تا خطرات سیستم‌های خود را به گونه‌ای بزرگنمایی کنند که کارشناسان درباره آن اختلاف نظر دارند. انتشار مدل بزرگ وزن‌باز (open-weight) چینی Kimi K3 نیز تهدیدی برای اقتصاد آزمایشگاه‌های پیشرو ایجاد کرده است. آلتمن تأکید کرد که جدا کردن نگرانی‌های واقعی ایمنی از منافع مالی دشوار است.

با وجود این، اوپن‌ای‌آی همچنان با تلاش‌ها برای وضع قوانین دولتی برای مدل‌های هوش مصنوعی مخالفت کرده و رویکردی را ترجیح می‌دهد که در آن خود آزمایشگاه‌ها، سازمان‌های مستقل برای ارزیابی امنیت مدل‌ها ایجاد کنند.