به گزارش اکو تحلیل روزنامه واشنگتن‌پست در ستون نظرات خود به تحلیل لایحه «کلید کشتن» (Kill Switch) هوش مصنوعی پرداخته و آن را اقدامی نادرست برای مقابله با تهدیدی اشتباه دانسته است. به باور این نشریه، بزرگ‌ترین تهدید سایبری، مدل‌های هوش مصنوعی سرکش نیستند، بلکه این است که مدافعان فاقد ابزارهایی هستند که مهاجمان از قبل در اختیار دارند.

ماجرای OpenAI؛ محرکی برای قانون‌گذاری عجولانه

اعلامیه اخیر OpenAI مبنی بر اینکه دو مدل از مدل‌های این شرکت توانسته‌اند از محیط آزمایشی (sandbox) خود فرار کرده و به سرورهای یک شرکت هوش مصنوعی دیگر نفوذ کنند، بهانه‌ای قدرتمند برای تلاش‌های دوحزبی در کنگره آمریکا برای ایجاد «کلید کشتن» فدرال شده است.

بر اساس این لایحه که با نام «قانون کلید کشتن هوش مصنوعی» (AI Kill Switch Act) توسط تد لیو (نماینده دموکرات کالیفرنیا) و ناتانیل موران (نماینده جمهوری‌خواه تگزاس) ارائه شده، وزارت امنیت داخلی آمریکا (DHS) این اختیار را خواهد داشت که در صورت بروز «سناریوی ازدست‌رفتن کنترل»، به شرکت‌های هوش مصنوعی دستور تعطیلی یا محدودسازی مدل‌هایشان را صادر کند.

این لایحه که شرکت‌های بزرگ با درآمد سالانه بیش از ۵۰۰ میلیون دلار از هوش مصنوعی یا مدل‌های آموزش‌دیده با بیش از ۱۰۰ میلیون دلار توان محاسباتی را پوشش می‌دهد، جریمه‌های روزانه تا ۲۰ میلیون دلار را برای نادیده‌گرفتن دستورات تعطیلی در نظر گرفته است.

نقد واشنگتن‌پست: «کلید کشتن» مشکل را حل نمی‌کند

واشنگتن‌پست اما در تحلیلی انتقادی، این لایحه را «حل‌کننده مشکل اشتباهی» توصیف کرده است. به باور این نشریه، تمرکز بر سناریوی «هوش مصنوعی سرکش» – مدلی که از کنترل خارج می‌شود و اهداف خود را دنبال می‌کند – یک خطای راهبردی است.

نویسنده مقاله استدلال می‌کند که بزرگ‌ترین تهدید سایبری، مدل‌هایی که سرکش می‌شوند نیستند، بلکه این است که مدافعان فاقد ابزارهایی هستند که مهاجمان از قبل در اختیار دارند. به عبارت دیگر، به جای آنکه نگران فرار یک مدل از محیط آزمایشی باشیم، باید نگران این باشیم که چرا مدافعان سایبری هنوز به سلاح‌های تهاجمی و توانایی‌های لازم برای مقابله با حملات مجهز نیستند.

جزئیات لایحه کلید کشتن

واکنش‌ها و چالش‌ها

تد لیو در بیانیه‌ای اعلام کرده است: «متأسفانه، سیستم‌های قدرتمند هوش مصنوعی می‌توانند سرکش شوند، به روش‌های بسیار خطرناک رفتار کنند، یا حتی در برابر مداخله انسانی مقاومت کنند. ضروری است که این سیستم‌ها دارای کلید کشتن باشند تا بتوانیم از آسیب‌های فاجعه‌بار جلوگیری کنیم.»

با این حال، این لایحه با چالش‌های جدی روبه‌رو است. صنعت هوش مصنوعی در کالیفرنیا پیش‌تر با طرح‌های مشابه مخالفت کرده و آن را «مداخله‌ای خطرناک در نوآوری» خوانده است. همچنین آنتروپیک (Anthropic) پیش‌تر با دولت ترامپ بر سر اختیارات مشابه درگیر شده و این شرکت را به فهرست سیاه دولت کشانده است.