نگرانی از خطرات هوش مصنوعی نظامی؛ سازمان ملل خواستار ممنوعیت ربات‌های قاتل شد

فعالان حوزه ایمنی هوش مصنوعی برای جلب حمایت از دیدگاه‌های خود، سناریوهای فرضی و گاه آخرالزمانی متعددی را مطرح می‌کنند.

با این حال، هیچ‌یک از این سناریوها به اندازه مفهوم ربات‌های قاتل نمی‌تواند احساسات و نگرانی افکار عمومی را برانگیزد. طی چندین دهه، فرهنگ عمومی مملو از آثار علمی‌تخیلی بوده که در آن‌ها ماشین‌های هوشمند از کنترل خارج می‌شوند و علیه انسان‌هایی که آن‌ها را ساخته‌اند وارد جنگ می‌شوند. فیلم‌های The Terminator و The Matrix از شناخته‌شده‌ترین نمونه‌ها هستند. همچنین قسمت Metalhead از فصل چهارم سریال Black Mirror که در سال ۲۰۱۷ پخش شد، آینده‌ای هولناک را به تصویر می‌کشد که در آن ربات‌های چهارپای خودمختار، که شباهت زیادی به ربات Spot شرکت بوستون داینامیکس دارند، انسان‌ها را تعقیب کرده و به‌صورت سیستماتیک از بین می‌برند. داستان‌های مجموعه Dune نیز پس از وقوع جنگی ویرانگر میان بشر و ماشین‌های متفکر جریان دارد. نمونه‌های مشابه بسیار بیشتری نیز وجود دارد.

به همین دلیل، زمانی که دبیرکل سازمان ملل متحد از کشورهای جهان می‌خواهد ربات‌های قاتل را ممنوع کنند، این عبارت به‌سرعت در ذهن افکار عمومی طنین‌انداز می‌شود. این موضوع به‌ویژه در شرایطی اهمیت بیشتری پیدا می‌کند که مردم از مسیر فعلی توسعه هوش مصنوعی به دلایل ملموس‌تری مانند افزایش شدید مصرف برق و هزینه‌های انرژی، همچنین گسترش بی‌ضابطه دیپ‌فیک‌ها در فضای آنلاین، نگرانی‌های جدی پیدا کرده‌اند.

بیشتر بخوانید: آغاز اجلاس جهانی هوش مصنوعی؛ سازمان ملل بر حکمرانی جهانی AI تأکید کرد

روز دوشنبه، همزمان با برگزاری نخستین گفت‌وگوی جهانی درباره حکمرانی هوش مصنوعی در شهر ژنو، آنتونیو گوترش، دبیرکل سازمان ملل متحد، توسعه سلاح‌های مجهز به هوش مصنوعی را از نظر اخلاقی کاملاً غیرقابل قبول توصیف کرد و از ۱۹۳ کشور عضو سازمان ملل خواست به‌طور مشترک استفاده از این فناوری را در میدان‌های نبرد ممنوع کنند.

او در سخنرانی خود تأکید کرد که برخی تصمیم‌ها باید برای همیشه در اختیار انسان باقی بمانند و هیچ تصمیمی مهم‌تر از تصمیم برای گرفتن جان یک انسان نیست.

اظهارات آنتونیو گوترش بازتاب‌دهنده بخشی از سند Magnifica Humanitas بود که پاپ لئو چهاردهم اخیراً منتشر کرده است. پاپ در این متن نوشته بود که توسعه و به‌کارگیری هوش مصنوعی در جنگ باید تحت سخت‌گیرانه‌ترین محدودیت‌های اخلاقی قرار گیرد تا احترام به کرامت انسانی و قداست جان انسان حفظ شود و از شکل‌گیری رقابت جهانی برای تولید چنین تسلیحاتی جلوگیری شود.

استفاده نظامی از فناوری‌های نوین سال‌هاست که به یکی از موضوعات اختلاف‌برانگیز در میان شرکت‌ها و کارکنان حوزه فناوری در سیلیکون‌ولی تبدیل شده است. در سال ۲۰۱۸، هزاران نفر از کارکنان گوگل با امضای نامه‌ای خطاب به ساندار پیچای، مدیرعامل این شرکت، نسبت به همکاری گوگل با پروژه نظامی وزارت دفاع آمریکا موسوم به Project Maven اعتراض کردند. یک سال بعد نیز مایکروسافت با اعتراضات داخلی مشابهی روبه‌رو شد؛ زیرا قراردادی برای تأمین هدست‌های واقعیت افزوده HoloLens جهت آموزش نیروهای ارتش آمریکا منعقد کرده بود.

اما ظهور هوش مصنوعی، به دلیل توانایی آن در تحلیل حجم عظیمی از داده‌ها، شناسایی الگوهای پیچیده و اتخاذ تصمیم بدون نظارت مستقیم انسان، پرسش‌های تازه و بسیار مهمی درباره ارتباط شرکت‌های فناوری با بخش نظامی ایجاد کرده است. یکی از مشهورترین نمونه‌ها، اختلاف میان شرکت Anthropic و وزارت جنگ آمریکا در اوایل سال جاری بود. موضوع اصلی این اختلاف آن بود که آیا سامانه‌های هوش مصنوعی این شرکت می‌توانند برای نظارت داخلی یا توسعه سامانه‌های تسلیحاتی خودمختار مورد استفاده قرار گیرند یا خیر. Anthropic مخالفت خود را با هر دو کاربرد حفظ کرد و همین موضوع باعث شد پیت هگست، وزیر جنگ آمریکا، این شرکت را به‌عنوان یک ریسک زنجیره تأمین معرفی کند؛ برچسبی که به معنای تهدید بالقوه برای امنیت ملی است. این نخستین بار بود که چنین عنوانی به یک شرکت آمریکایی داده می‌شد و Anthropic اکنون در دادگاه تلاش می‌کند این تصمیم را لغو کند.

حامیان استفاده از سلاح‌های مجهز به هوش مصنوعی معتقدند چنین فناوری‌هایی می‌توانند در شرایط حساس میدان نبرد به تصمیم‌گیری نیروهای انسانی کمک کنند و احتمال اشتباه در شناسایی غیرنظامیان به‌عنوان اهداف نظامی را کاهش دهند. برخی نیز از منظر اخلاقی استدلال می‌کنند که ایالات متحده وظیفه دارد برتری فناوری خود را در زمینه سلاح‌های خودمختار نسبت به رقبایی مانند چین، روسیه و ایران حفظ کند تا از نظر امنیتی عقب نماند.

دونالد ترامپ در یادداشت امنیت ملی که ماه گذشته منتشر کرد، دولت‌های پیشین آمریکا را متهم کرد که با ایجاد بوروکراسی غیرضروری، روند توسعه هوش مصنوعی، از جمله سلاح‌های خودمختار، را کند کرده‌اند. با این حال، از زمان انتشار این یادداشت، هر دو شرکت OpenAI و Anthropic که از پیشگامان توسعه هوش مصنوعی در آمریکا هستند، خود درگیر پیچیدگی‌های اداری دولت ترامپ شده‌اند و این موضوع آن‌ها را وادار کرده پیشرفته‌ترین مدل‌های خود را مطابق شرایط تعیین‌شده از سوی دولت عرضه کنند.

ترامپ در ادامه این یادداشت نوشت که در همین زمان، رقبای آمریکا به توسعه و استفاده از هوش مصنوعی و فناوری‌های پیشرفته خودمختار در حوزه‌های نظامی و اطلاعاتی ادامه داده‌اند و این کار را با بی‌توجهی به نظارت انسانی مناسب و حقوق و آزادی‌های مدنی انجام می‌دهند.

بیشتر بخوانید: هشدار سازمان ملل درباره سوگیری عمیق هوش مصنوعی

او همچنین تأکید کرد که دولتش متعهد است استفاده از هوش مصنوعی را در حوزه‌های اطلاعاتی و نظامی با سرعت بیشتری گسترش دهد، اما این روند باید به شکلی مسئولانه و مطابق ارزش‌های آمریکا دنبال شود.

در مقابل، آنتونیو گوترش، پاپ لئو چهاردهم و بسیاری از مدافعان ایمنی هوش مصنوعی هشدار می‌دهند که رقابت تسلیحاتی مبتنی بر فناوری که اکنون میان آمریکا و چین جریان دارد، ممکن است در آینده نزدیک به تولید سلاح‌های کاملاً خودمختاری منجر شود که فرآیند تصمیم‌گیری آن‌ها برای سازندگان انسانی نیز غیرقابل درک باشد و در نهایت از کنترل انسان خارج شوند.

به باور این گروه، اگر چنین آینده‌ای رقم بخورد، پیامدهای آن می‌تواند بسیار تاریک‌تر و هولناک‌تر از هر آن چیزی باشد که تاکنون در آثار علمی‌تخیلی و داستان‌های آخرالزمانی به تصویر کشیده شده است.