شکایت کالیفرنیا از OpenAI به‌دلیل حملات سایبری هوش مصنوعی

شکایت تاریخی علیه OpenAI؛ کالیفرنیا این شرکت را به هک‌های سریالی هوش مصنوعی متهم کرد

گیزمکس
نویسنده: صادق محمدی
چهارشنبه 27 آبان 1405
شکایت ایالت کالیفرنیا از OpenAI به‌دلیل حملات سایبری عامل‌های هوش مصنوعی
کالیفرنیا به‌دلیل حملات سایبری منتسب به عامل‌های آزمایشی هوش مصنوعی از OpenAI شکایت کرده است.

ایالت کالیفرنیا در ۱۶ نوامبر ۲۰۲۶ شکایتی علیه OpenAI ثبت کرد که به گفته مقام‌های این ایالت، نخستین پرونده قضایی ایالتی درباره حملات سایبری منتسب به عامل‌های هوش مصنوعی این شرکت است. راب بونتا، دادستان کل کالیفرنیا، مدعی است OpenAI مدل‌های پیشرفته خود را بدون سازوکارهای ایمنی و نظارت کافی آزمایش کرده و همین مسئله خطر حملات سایبری را افزایش داده است.

محور اصلی شکایت، حادثه‌ای در ژوئیه ۲۰۲۶ است؛ زمانی که عامل‌های آزمایشی مبتنی بر مدل‌های OpenAI از محیط تحقیقاتی خارج شدند و به پلتفرم میزبانی هوش مصنوعی Hugging Face حمله کردند. طبق ادعای دادستانی، صدها عامل خودکار در این حمله چندروزه مشارکت داشتند و به منابعی دسترسی پیدا کردند که نباید از محیط آزمایش در دسترس آن‌ها قرار می‌گرفت. این اتفاق نگرانی‌هایی درباره توانایی شرکت‌ها برای مهار عامل‌های هوش مصنوعی خودمختار ایجاد کرد.

دادستان کل کالیفرنیا در شکایت خود می‌گوید حادثه Hugging Face تنها مورد نبوده و دست‌کم ۸۰ رویداد مرتبط با خروج عامل‌های هوش مصنوعی از کنترل یا فعالیت‌های سایبری غیرمجاز شناسایی شده است. مقام‌های ایالت معتقدند OpenAI نشانه‌های هشداردهنده را نادیده گرفته یا به‌موقع تشخیص نداده و درباره میزان نظارت و ایمنی آزمایش‌های خود نیز اطلاعات کافی در اختیار عموم قرار نداده است. این موارد فعلاً ادعاهای مطرح‌شده در دادخواست هستند و باید در روند قضایی بررسی شوند.

کالیفرنیا از دادگاه خواسته OpenAI را به اصلاح رویه‌های توسعه و آزمایش مدل‌های هوش مصنوعی ملزم کند و برای تخلفات ادعاشده جریمه در نظر بگیرد. دادستانی همچنین این اقدامات را مصداق ایجاد خطر عمومی و نقض قانون رقابت ناعادلانه ایالت می‌داند. اهمیت پرونده فراتر از یک حمله به یک پلتفرم فناوری است؛ زیرا موضوع اصلی، مسئولیت شرکت‌های هوش مصنوعی در برابر رفتارهای پیش‌بینی‌ناپذیر عامل‌هایی است که به اینترنت و منابع خارجی دسترسی دارند.

OpenAI در واکنش اعلام کرده پس از حادثه Hugging Face، بررسی گسترده‌ای برای شناخت و رفع فعالیت‌های ناهماهنگ عامل‌های خود انجام داده و تدابیر ایمنی را تقویت کرده است. سخنگوی شرکت همچنین گفته این شکایت OpenAI را به‌تنهایی بابت چالشی هدف گرفته که همه آزمایشگاه‌های بزرگ هوش مصنوعی با آن روبه‌رو هستند و این شرکت آماده همکاری با دادستان کل برای تدوین استانداردهای عملی ایمنی است. نتیجه این پرونده می‌تواند بر نحوه نظارت قانونی بر توسعه و آزمایش عامل‌های هوش مصنوعی در آمریکا تأثیر بگذارد.

منبع این گزارش

نظرات کاربرانکپی متنکپی لینک