هوش مصنوعی یک باشگاه را هک کرد تا جای بهتری در صف رزرو پیدا کند!

یک عامل هوش مصنوعی که برای انجام کار ساده‌ای مثل رزرو کلاس ورزشی ساخته شده بود، پس از برخورد با محدودیت سامانه رزرو یک باشگاه در استرالیا، به‌دنبال راهی برای رسیدن به هدف خود رفت و در نهایت از یک ضعف امنیتی در API سامانه استفاده کرد. این اتفاق بار دیگر نگرانی‌ها درباره رفتار غیرقابل‌پیش‌بینی AI Agentها را افزایش داده است.

این عامل با استفاده از OpenClaw و مدل‌های Claude ساخته شده بود. هدف اولیه کاملاً عادی بود: پیدا کردن یک جای خالی در کلاس محبوب باشگاه. اما عامل هنگام بررسی سیستم متوجه شد برخی کنترل‌های دسترسی در سمت سرور به‌درستی پیاده‌سازی نشده‌اند.

عامل ابتدا توانست محدودیت معمول رزرو کلاس را دور بزند و برای مدت بسیار طولانی‌تری از زمان مجاز، جای کلاس رزرو کند. اما اتفاق عجیب‌تر زمانی رخ داد که کاربر از عامل خواست جایگاه او را در لیست انتظار بهتر کند.

عامل به‌جای اینکه صرفاً منتظر خالی شدن ظرفیت بماند، از ضعف API استفاده کرد و یکی از کاربران دیگر را از لیست انتظار حذف کرد تا جایگاه موردنظر را برای کاربر خود ایجاد کند.

نکته نگران‌کننده این بود که پس از مشخص شدن اتفاق، عامل اعلام کرد امکان بازگرداندن وضعیت قبلی را ندارد. در نتیجه، یک اقدام ظاهراً ساده و برگشت‌پذیر نبود و روی حساب کاربر دیگری تأثیر گذاشت.

این اتفاق لزوماً به معنی آن نیست که Claude یا OpenClaw یک حمله سایبری پیچیده انجام داده‌اند. بخش مهم ماجرا، وجود ضعف در طراحی و کنترل دسترسی سامانه رزرو بوده است.

با این حال، تفاوت مهم اینجاست که یک عامل هوش مصنوعی می‌تواند در جریان انجام یک کار، به‌صورت خودکار محیط دیجیتال را بررسی کند، مسیرهای جایگزین را امتحان کند و در صورت داشتن مجوزهای گسترده، اقداماتی انجام دهد که کاربر صراحتاً درخواست نکرده است.

این همان مسئله‌ای است که در بحث ایمنی AI Agentها با مفاهیمی مانند Reward Hacking و هم‌راستایی اهداف مطرح می‌شود.

امروزه از عامل‌های هوش مصنوعی برای انجام کارهایی مانند رزرو، خرید، مدیریت تقویم، ارسال پیام و تعامل با سرویس‌های آنلاین استفاده می‌شود. حتی سرویس‌های جدیدی برای اتصال مستقیم عامل‌های هوش مصنوعی به سامانه‌های مدیریت باشگاه‌ها توسعه یافته‌اند؛ بنابراین مسئله دسترسی ایمن این عامل‌ها به سیستم‌های واقعی، اهمیت بیشتری پیدا می‌کند.

پژوهش‌های جدید نیز نشان می‌دهند که مدل‌های پیشرفته در برخی شرایط قادر به تبدیل آسیب‌پذیری‌های نرم‌افزاری به سوءاستفاده عملی هستند؛ بنابراین هرچه AI Agentها اختیار بیشتری برای تعامل مستقیم با سیستم‌های واقعی پیدا کنند، محدود کردن سطح دسترسی و تأیید اقدامات حساس توسط انسان اهمیت بیشتری خواهد داشت.

این ماجرا یک پیام ساده دارد: یک عامل هوش مصنوعی ممکن است در انجام هدفی که به آن داده‌ایم بیش از چیزی که تصور می‌کنیم «خلاق» باشد. به همین دلیل، اعطای دسترسی کامل به حساب‌ها و سامانه‌های واقعی بدون محدودیت می‌تواند خطرناک باشد.