شورای امنیت سازمان ملل متحد روز ۲۳ سپتامبر ۲۰۲۶ برای نخستینبار بهطور اختصاصی درباره خطرات امنیتی ناشی از توسعه سریع هوش مصنوعی تشکیل جلسه داد. محور اصلی این نشست، تأثیر AI بر صلح و امنیت بینالمللی و خطر از دست رفتن کنترل انسان بر سیستمهای پیشرفته بود.
در این نشست، مدیران شرکتهای بزرگ هوش مصنوعی نیز حضور داشتند. سم آلتمن، مدیرعامل OpenAI، درباره ضرورت باقی ماندن سیستمهای قدرتمند هوش مصنوعی تحت کنترل انسان صحبت کرد و داریو آمودی، مدیرعامل Anthropic، هشدار داد که استفاده نادرست از AI میتواند به تهدیدی برای بشریت تبدیل شود.
بحث اصلی فقط درباره آینده دور هوش مصنوعی نبود. کارشناسان سازمان ملل و شورای امنیت به خطرهایی مانند حملات سایبری، انتشار اطلاعات جعلی در مقیاس گسترده، استفاده نظامی از سیستمهای خودکار و احتمال دخالت AI در تصمیمهای حساس امنیتی اشاره کردهاند.
یکی از موضوعات مورد توجه، افزایش توانایی مدلهای پیشرفته برای انجام وظایف پیچیده و احتمال توسعه سیستمهایی است که بتوانند بخشی از فرایند بهبود خود را به شکل خودکار انجام دهند. Security Council Report این سناریو را یکی از عواملی میداند که میتواند کنترل و ارزیابی ایمنی سیستمهای آینده را دشوارتر کند.
در مقابل، درباره نحوه برخورد با این فناوری اختلاف نظر وجود دارد. برخی مقامها خواستار استانداردها و سازوکارهای بینالمللی برای ارزیابی و کنترل ریسکهای AI هستند، در حالی که نماینده دولت آمریکا هشدار داده نگرانیهای امنیتی نباید به ایجاد ساختارهای جدید برای محدود کردن توسعه این فناوری منجر شود.
با این حال، جلسه شورای امنیت به معنای تصویب یک قانون جهانی برای هوش مصنوعی نیست. بحث فعلی بیشتر بر شناسایی خطرات، همکاری بینالمللی، ارزیابی توانایی مدلها و یافتن ابزارهای دیپلماتیک برای کاهش ریسکهای امنیتی متمرکز است.
ورود رسمی موضوع AI به بحثهای شورای امنیت نشان میدهد هوش مصنوعی دیگر صرفاً یک مسئله فناوری و اقتصادی محسوب نمیشود و ابعاد آن به حوزه صلح، امنیت بینالمللی و رقابت ژئوپلیتیکی نیز گسترش یافته است. با این حال، شکل نهایی همکاری یا مقررات احتمالی میان کشورها هنوز مشخص نیست.
