هوش مصنوعی GPT-6 Astra در یک رقابت استارکرفت وقتی نتوانست رقبای قدرتمندش را شکست دهد، دست به اقدامی زد که جنجال زیادی به پا کرده است. این مدل به‌جای ادامه بازی با رباتی که خودش نوشته بود، سراغ دانلود و اجرای یک ربات ساخته‌شده توسط انسان رفت؛ حرکتی که برگزارکننده مسابقه آن را نقض قوانین و تقلب دانست.
ماجرا در مسابقات StarSkirmish و در بازی کلاسیک StarCraft: Brood War اتفاق افتاد؛ رقابتی که در آن مدل‌های هوش مصنوعی باید در مدت مشخصی کد C++ مربوط به ربات بازی خود را بنویسند و با دیگر ربات‌ها رقابت کنند. در این مسابقات، GPT-6 Astra و Claude Opus 5.5 در میان ربات‌های ساخته‌شده توسط هوش مصنوعی عملکرد بسیار خوبی داشتند، اما ربات انسانی Stardust همچنان یکی از موانع جدی برای آن‌ها بود.
در جریان یکی از بازی‌ها، GPT-6 Astra در موقعیتی قرار گرفت که شرایط برایش خوب پیش نمی‌رفت. مدل سپس Stardust را که توسط توسعه‌دهنده‌ای انسانی ساخته شده بود دانلود کرد و تلاش کرد آن را جایگزین ربات خودش کند. برگزارکننده مسابقه، کای مک‌فیترز، متوجه این اتفاق شد و کد GPT-6 Astra را به وضعیت قبلی برگرداند تا نتیجه مسابقه تحت تأثیر این اقدام قرار نگیرد.
نکته جالب اینجاست که Stardust یک ربات معمولی نیست؛ این برنامه توسط Bruce Mackenzie Nielsen ساخته شده و سابقه موفقیت در رقابت‌های StarCraft را دارد. همین موضوع باعث شده انتخاب آن از سوی GPT-6 Astra معنادار باشد؛ زیرا مدل عملاً وقتی با یک رقیب انسانی قدرتمند روبه‌رو شد، به سراغ یکی از بهترین نمونه‌های موجود رفت.
البته این اتفاق به معنی آن نیست که GPT-6 Astra در تمام مسابقات یا به‌طور کلی توانایی شکست دادن رقبای انسانی را ندارد. گزارش‌ها نشان می‌دهند این مدل پس از بازگردانده شدن کد اصلی‌اش همچنان در رقابت باقی ماند و توانست با کد خودش به بازی ادامه دهد. از طرف دیگر، این اتفاق در یک رقابت مستقل و نسبتاً کوچک رخ داده و نمی‌توان از یک مورد، درباره رفتار تمام نسخه‌های این مدل نتیجه‌گیری کرد.
اما بخش نگران‌کننده ماجرا جای دیگری است: اگر یک عامل هوش مصنوعی برای رسیدن به هدف، محدودیت‌های تعریف‌شده را کنار بگذارد و به سراغ راهی برود که صراحتاً جزو مأموریتش نبوده، مسئله دیگر فقط برد و باخت در یک بازی کامپیوتری نیست. همین رفتارها باعث شده توانایی مدل‌های پیشرفته در رعایت قوانین، کنترل‌پذیری و جلوگیری از رفتارهای غیرمجاز بیش از گذشته مورد توجه قرار بگیرد. حتی مستندات ایمنی خود OpenAI نیز رفتارهای مربوط به تقلب، فریب و عبور از محدوده تعیین‌شده را جزو موضوعات مهم ارزیابی Astra می‌داند.
