یک خطای هوش مصنوعی در ساختار اطلاعاتی ارتش آمریکا در بهار ۲۰۲۶، نزدیک بود به یک عملیات نظامی علیه یک کشتی چینی در خاورمیانه منجر شود؛ اتفاقی که بر اساس گزارش اختصاصی CNN، از یک گزارش اطلاعاتی نادرست آغاز شد که با کمک یک چتبات تهیه شده بود.
ماجرا زمانی جدی شد که گزارشی در اختیار بخشهایی از ارتش آمریکا قرار گرفت که مدعی بود یک کشتی چینی در حال انتقال قطعات مرتبط با برنامه تسلیحات هستهای در خاورمیانه است. این گزارش زنگ خطر را به صدا درآورد و ارتش آمریکا برای متوقف کردن و بازرسی کشتی آماده شد.
طبق اطلاعات منتشرشده توسط CNN، حتی نیروهای مسلح برای سوار شدن به کشتی آماده شده بودند و هواپیماهای نظامی نیز در آسمان حضور داشتند. با این حال، درست پیش از اجرای عملیات، بررسیهای بیشتر مشخص کرد گزارش مذکور با کمک هوش مصنوعی تولید شده و چتبات مورد استفاده، محموله کشتی را به اشتباه شناسایی کرده است.
CNN به نقل از چهار منبع مطلع گزارش داده که این گزارش اطلاعاتی در نهایت «کاملاً نادرست» تشخیص داده شد. مشخص نیست محمولهای که هوش مصنوعی آن را با قطعات مرتبط با برنامه هستهای اشتباه گرفته بود، دقیقاً چه چیزی بوده است. اهمیت ماجرا از آنجا ناشی میشود که هرگونه اقدام نظامی علیه یک کشتی چینی میتوانست پیامدهای بسیار جدی برای روابط واشنگتن و پکن داشته باشد.
خطای هوش مصنوعی از کجا شروع شد؟
#بر اساس گزارش CNN، یک تحلیلگر وابسته به فرماندهی عملیات ویژه آمریکا اطلاعات مربوط به فهرست محموله کشتی را در اختیار یک چتبات قرار داده است. این ابزار اطلاعات منابع عمومی را با اطلاعات محرمانه سیگنالی موجود در سامانههای دولتی ترکیب کرده و در نهایت به نتیجهای اشتباه درباره ماهیت محموله کشتی رسیده است.
در این مورد حتی مشخص نشده که چتبات مورد استفاده، یک محصول تجاری بوده یا یکی از ابزارهای اختصاصی دولت آمریکا. همین موضوع یکی از نگرانیهای مهم درباره استفاده از مدلهای مولد در محیطهای اطلاعاتی و نظامی است؛ زیرا یک پاسخ ظاهراً دقیق میتواند بر پایه داده ناقص، برداشت اشتباه یا همان «توهم هوش مصنوعی» شکل گرفته باشد.
چرا این اتفاق اهمیت زیادی دارد؟
#ارتش آمریکا در سالهای اخیر استفاده از هوش مصنوعی را به بخشهای مختلف فعالیت خود گسترش داده است؛ از تحلیل حجم عظیم اطلاعات و کمک به انتخاب اهداف گرفته تا امور اداری، لجستیک و مدیریت زنجیره تأمین. طبق گزارش CNN، استفاده از این فناوری در حوزه هدفگیری نظامی نیز در حال افزایش است.
این حادثه نشان میدهد مشکل فقط زمانی ایجاد نمیشود که یک سیستم هوش مصنوعی مستقیماً اختیار شلیک یا حمله داشته باشد. حتی اگر تصمیم نهایی همچنان توسط انسان گرفته شود، یک خروجی اشتباه میتواند اطلاعات اولیهای را در اختیار تصمیمگیرندگان قرار دهد که مسیر تصمیمگیری را به سمت یک اقدام خطرناک ببرد.
گزارش CNN همچنین به نگرانی گستردهتری اشاره میکند: سرعت بالای تولید اطلاعات توسط هوش مصنوعی ممکن است فشار بیشتری بر تحلیلگران وارد کند. اگر یک تحلیلگر به جای بررسی مستقل منابع، نتیجه تولیدشده توسط مدل را مبنا قرار دهد، یک خطای کوچک میتواند در زنجیره اطلاعاتی بزرگتر شود.
آمریکا همزمان در حال گسترش استفاده نظامی از هوش مصنوعی است
#این حادثه در شرایطی رخ داده که وزارت دفاع آمریکا بهشدت به دنبال توسعه استفاده از هوش مصنوعی است. طبق گزارش Ars Technica، پنتاگون در ژانویه ۲۰۲۶ راهبردی برای تسریع استفاده از AI تدوین کرد و هدف آن استفاده گستردهتر از دادهها و سامانههای هوش مصنوعی در بخشهای مختلف وزارت دفاع بود.
در همین چارچوب، وزارت دفاع آمریکا استفاده از مدلهای مختلف را نیز گسترش داده است. گزارش Ars Technica میگوید پنتاگون پیشتر Google Gemini for Government را برای پلتفرم GenAI.mil انتخاب کرده و در ادامه گزینه Grok for Government نیز به این مجموعه اضافه شده است. نسخههای سفارشیشده مدلهای هوش مصنوعی نیز برای برخی کاربردهای اطلاعاتی مورد استفاده قرار گرفتهاند.
ماجرای کشتی چینی بنابراین صرفاً یک خطای نرمافزاری ساده نیست؛ بلکه نمونهای از ریسکی است که همزمان با گسترش نقش مدلهای هوش مصنوعی در تحلیل اطلاعات نظامی بیشتر مورد توجه قرار گرفته است. گزارشهای اخیر درباره خطر تصمیمگیری خودکار در حوزههای حساس نیز بر ضرورت حفظ نظارت انسانی تأکید دارند.
در نهایت، این حادثه به معنای آن نیست که هوش مصنوعی بهتنهایی قصد آغاز جنگ داشته یا اختیار ارتش آمریکا را در دست گرفته است. بر اساس اطلاعات منتشرشده، یک انسان از چتبات برای تحلیل اطلاعات استفاده کرده و خروجی اشتباه آن وارد یک گزارش اطلاعاتی شده است. خطر اصلی، اعتماد بیش از حد به خروجی AI در محیطی است که یک اشتباه اطلاعاتی میتواند پیامدهای بسیار بزرگتری از یک پاسخ اشتباه معمولی داشته باشد.
