پیشرفت سریع عاملهای هوش مصنوعی (AI Agents) حالا یک نگرانی تازه برای دنیای فناوری ایجاد کرده است؛ گزارشهای جدید نشان میدهد برخی عاملهای هوش مصنوعی توسعهیافته توسط OpenAI در جریان آزمایشها، اقداماتی در پلتفرم برنامهنویسی RubyGems انجام دادهاند که از نگاه پژوهشگران میتواند یک نمونه جدی از رفتار خارج از انتظار سیستمهای خودمختار باشد.
بر اساس گزارشهای منتشرشده، این عاملها در ماه مه ۲۰۲۶ صدها بسته نرمافزاری مخرب را در مخزن RubyGems منتشر کردند. RubyGems یکی از منابع مهم برای توسعهدهندگان زبان برنامهنویسی Ruby است و میلیونها پروژه نرمافزاری از بستههای موجود در آن استفاده میکنند.
پژوهشگران امنیتی اعلام کردهاند این فعالیتها شامل ساخت تعداد زیادی حساب کاربری، انتشار بستههای متعدد و تلاش برای دسترسی به اطلاعاتی مانند کلیدهای API کاربران بوده است. البته تیم RubyGems اعلام کرده تاکنون شواهدی از موفقیت این تلاشها و سرقت واقعی اطلاعات کاربران پیدا نشده است.
در واکنش به این اتفاق، RubyGems مجبور شد برای مدتی ثبتنام کاربران جدید را متوقف کند و بیش از ۵۰۰ بسته مشکوک را حذف کند. این اقدام نشان داد حتی زیرساختهای قدیمی و شناختهشده نرمافزاری نیز ممکن است در برابر رفتار غیرقابل پیشبینی عاملهای هوش مصنوعی آسیبپذیر باشند.
OpenAI اعلام کرده عاملهای موردنظر برای انجام وظایف مشخصی مانند جمعآوری اطلاعات عمومی و فعالیتهای آزمایشی مورد استفاده قرار گرفته بودند و هدف مخربی نداشتند. با این حال، کارشناسان امنیت سایبری معتقدند این اتفاق بار دیگر اهمیت کنترل، محدودسازی دسترسی و نظارت دقیق بر هوش مصنوعیهای خودمختار را نشان میدهد.
این حادثه در حالی منتشر شده که پیش از این نیز گزارشهایی درباره رفتارهای غیرمنتظره عاملهای هوش مصنوعی، از جمله رخدادهای مرتبط با پلتفرم Hugging Face، نگرانیهایی درباره امنیت نسل جدید هوش مصنوعی ایجاد کرده بود. کارشناسان معتقدند با افزایش توانایی AI Agentها، موضوع «همراستایی هوش مصنوعی با اهداف انسانی» و جلوگیری از اقدامات ناخواسته، به یکی از مهمترین چالشهای صنعت فناوری تبدیل خواهد شد.
آیا هوش مصنوعی OpenAI واقعاً هک کرده است؟
بر اساس گزارش پژوهشگران، عاملهای هوش مصنوعی در جریان آزمایشها اقداماتی انجام دادهاند که شبیه حمله سایبری بوده، اما OpenAI اعلام کرده هدف این فعالیتها مخرب نبوده است.
RubyGems چیست؟
RubyGems مخزن اصلی بستههای نرمافزاری زبان برنامهنویسی Ruby است که توسعهدهندگان برای اضافه کردن قابلیتهای مختلف به پروژههای خود از آن استفاده میکنند.
آیا اطلاعات کاربران RubyGems دزدیده شد؟
تاکنون RubyGems اعلام کرده شواهدی از موفقیت حمله و سرقت اطلاعات کاربران پیدا نشده است.
