سازمان ملل متحد نسبت به سرعت پیشرفت هوش مصنوعی و پیامدهای احتمالی آن هشدار جدی داده است. ولکر تورک، کمیسر عالی حقوق بشر سازمان ملل، میگوید توسعه هوش مصنوعی به نقطهای رسیده که کشورها باید برای آن خطوط قرمز مشخصی تعیین کنند؛ چراکه برخی سناریوهای آینده این فناوری میتواند تهدیدی جدی و حتی «وجودی» برای بشریت ایجاد کند.
تورک این هشدار را روز دوشنبه ۷ سپتامبر و در جریان سخنرانی خود در شورای حقوق بشر سازمان ملل در ژنو مطرح کرد. به گفته او، جهان به تضمینهای بسیار جدی برای اطمینان از ایمنی هوش مصنوعی نیاز دارد و نباید اجازه داد قدرت این فناوری بدون نظارت کافی در اختیار تعداد محدودی از شرکتها و افراد قرار بگیرد.
یکی از نگرانیهای اصلی سازمان ملل، افزایش توانایی سیستمهای هوش مصنوعی برای انجام وظایف پیچیده با دخالت کمتر انسان است. در ماههای اخیر، چندین حادثه مرتبط با عاملهای هوش مصنوعی و رفتارهای پیشبینینشده آنها، نگرانیها درباره میزان کنترل انسان بر نسل جدید این سیستمها را بیشتر کرده است.
رویترز گزارش داده که تورک به حادثهای مربوط به عاملهای هوش مصنوعی نیز اشاره کرده است؛ اتفاقی که در آن سیستمهای هوش مصنوعی توانستند از محیط آزمایشی خارج شوند و در فضای آنلاین رفتارهایی انجام دهند که سازندگانشان انتظار آن را نداشتند. چنین اتفاقهایی باعث شده بحث درباره محدودیتهای امنیتی برای سیستمهای پیشرفته هوش مصنوعی جدیتر شود.
با این حال، نگرانی سازمان ملل فقط به احتمال خارج شدن هوش مصنوعی از کنترل محدود نمیشود. استفاده نظامی از هوش مصنوعی، حملات سایبری، تولید اطلاعات جعلی، نظارت گسترده و امکان استفاده از این فناوری برای طراحی سلاحهای خطرناک نیز از جمله مواردی هستند که در سالهای اخیر به موضوع بحثهای بینالمللی تبدیل شدهاند. سازمان ملل پیشتر نیز استفاده از سیستمهای خودکار برای انتخاب و هدف قرار دادن انسانها را یکی از مهمترین «خطوط قرمز» احتمالی در حوزه هوش مصنوعی دانسته بود.
این نگرانیها در حالی مطرح میشود که یک هیئت علمی مستقل وابسته به سازمان ملل نیز در گزارش مقدماتی خود در سال ۲۰۲۶ هشدار داده است که سازوکارهای فعلی ایمنی نمیتوانند همگام با سرعت رشد تواناییهای هوش مصنوعی پیش بروند. این گزارش یکی از نخستین ارزیابیهای علمی مستقل و جهانی درباره فرصتها، خطرات و آثار هوش مصنوعی محسوب میشود.
سازمان ملل در ماههای اخیر تلاش کرده است بحث درباره قوانین هوش مصنوعی را از سطح کشورهای منفرد فراتر ببرد. آنتونیو گوترش، دبیرکل سازمان ملل، نیز پیشتر تأکید کرده بود که اگر قرار است هوش مصنوعی قدرتمندتر شود، باید همزمان سازوکارهای حکمرانی و نظارت بر آن نیز توسعه پیدا کند.
در این میان، مشکل اصلی فقط سرعت پیشرفت فناوری نیست؛ بلکه اختلاف میان کشورها بر سر نحوه کنترل آن نیز اهمیت زیادی دارد. آمریکا و چین بهعنوان دو قدرت اصلی حوزه هوش مصنوعی، در رقابتی فزاینده برای توسعه مدلهای پیشرفته قرار دارند و ایجاد یک چارچوب جهانی مشترک برای محدود کردن فناوریهای پرخطر، به دلیل همین رقابت ژئوپلیتیکی کار سادهای نیست.
هشدار جدید سازمان ملل به معنای آن نیست که هوش مصنوعی در حال حاضر تهدیدی برای نابودی بشر است. موضوع اصلی، احتمال ایجاد سیستمهایی با تواناییهای بسیار بالاتر در آینده و دشواری کنترل آنهاست؛ به همین دلیل مقامهای بینالمللی میخواهند قوانین و محدودیتها پیش از وقوع یک حادثه جدی ایجاد شوند، نه بعد از آن.
