سه نماینده دموکرات در حال پیشبرد لایحههایی هستند که هدف آنها ممنوعیت تسلیحات کاملا خودمختار است.
نمایندگان دموکرات در کنگره آمریکا تلاشهای خود را برای تصویب لایحههایی آغاز کردهاند که استفاده وزارت دفاع این کشور (پنتاگون) از هوش مصنوعی را محدود میسازد.
در همین راستا، آدام شیف (Adam Schiff)، سناتور دموکرات ایالت کالیفرنیا، در روزهای گذشته از طرح قانونی جدیدی تحت عنوان پذیرش مسئولیت انسانی در عملیاتهای مرگبار (HALO) رونمایی کرد. بر اساس این طرح، فرماندهان نظامیِ انسانی باید حرف آخر را در مورد هرگونه اقدام عملیاتی توسط سامانههای تسلیحاتی خودمختار بزنند. این لایحه همچنین ثبت دقیق نحوه تصمیمگیریهای نظامی و انتخاب اهداف را برای بازبینیهای بعدی الزامی میکند، مشوقها و حمایتهایی را برای افشاگران در نظر میگیرد و استفاده از هوش مصنوعی را در برخی حوزههای مربوط به تسلیحات هستهای و نظارت همگانی ممنوع اعلام میکند.
سناتور شیف در بیانیهای مطبوعاتی اظهار داشت:
رویدادهای چند ماه گذشته نشان داد که ما به شکلی فوری به چارچوبهای قانونی و منطقی نیاز داریم تا مطمئن شویم استفاده وزارت دفاع از هوش مصنوعی با اولویتهای امنیت ملی و حریم خصوصی مردم آمریکا همخوانی دارد. این طرح قانونی از آمریکاییها در برابر نظارتهای داخلی غیرقانونی محافظت میکند، تضمین میدهد که زنجیره فرماندهی انسانی مسئولیت استفاده از هرگونه فناوری مرگبار را بر عهده دارد و استانداردهای اخلاقی محکمی را در بهکارگیری تسلیحات خودمختار و نیمهخودمختار حفظ خواهد کرد.
هوش مصنوعی مدتی است که به بخشی از ساختار جنگها تبدیل شده است. ارتشهای جهان هماکنون از سامانههای هوش مصنوعی برای شناسایی و انتخاب اهداف در حملات نظامی و همچنین نظارتهای گسترده استفاده میکنند؛ نمونه بارز آن، استفاده ارتش اسرائیل از هوش مصنوعی علیه فلسطینیان است. ایالات متحده نیز سالهاست که از هوش مصنوعی در عملیاتهای نظامی خود، از جمله در آخرین رویارویی نظامی با ایران، بهره میبرد.
با این حال، در اوایل سال جاری میلادی، پس از لغو توافق میان پنتاگون و شرکت هوش مصنوعی آنتروپیک (Anthropic)، بحث استفاده نظامی از این فناوری به صدر گفتگوهای عمومی جامعه کشیده شد. در اقدامی بیسابقه، این غول فناوری به عنوان یک تهدید برای زنجیره تأمین معرفی شد. گفته میشود شرکت آنتروپیک از حذف محدودیتهای ایمنی سامانههای خود امتناع کرده بود؛ محدودیتهایی که مانع میشد پنتاگون از مدلهای این شرکت برای نظارت همگانی داخلی و هدایت تسلیحات کاملا خودمختار (بدون دخالت انسان) استفاده کند.
در پی شکست این توافق، پنتاگون قراردادهایی را با تقریبا تمامی شرکتهای بزرگ دیگر هوش مصنوعی از جمله اوپنایآی (OpenAI)، گوگل (Google)، انویدیا (Nvidia)، اسپیسایکس (SpaceX)، مایکروسافت (Microsoft) و آمازون (AWS) به امضا رساند. در این میان، آنتروپیک شکایت خود را نسبت به این تصمیم در دادگاه مطرح کرده است؛ هرچند گزارشها حاکی از آن است که دولت دونالد ترامپ (Donald Trump)، پس از عرضه مدل جدید این شرکت به نام میتوس (Mythos) – که از آن به عنوان کابوسی برای صنعت امنیت سایبری یاد میشود – نگاه مثبتتری به این شرکت پیدا کرده است.
پس از پایان علنی رابطه دولت ترامپ با شرکت آنتروپیک، شماری از دموکراتها به حمایت از موضع این شرکت برخاستند که سناتور شیف، نویسنده طرح HALO، نیز در میان آنها بود. شیف در کنفرانس خبری پانچبول (Punchbowl) در ماه مارس گفت:
کاش صداهای بیشتری مانند آنتروپیک در این عرصه داشتیم.
شیف در ماههای گذشته لایحههای متعددی را در رابطه با هوش مصنوعی ارائه کرده است؛ از جمله طرحهایی برای ملزم کردن دیتاسنترهای بزرگ به پرداخت هزینه برق مصرفی خود، اجبار شرکتهای هوش مصنوعی به شفافسازی درباره آثار دارای حق چاپ (کپیرایت) در آموزش مدلها و گنجاندن کلاسهای سواد هوش مصنوعی در مدارس. اکنون گزارش شده است که او قصد دارد لایحه جدید خود را به عنوان ضمیمهای به لایحه بودجه سالانه دفاعی آمریکا (NDAA) الحاق کند که باید حداکثر تا پایان سال به تصویب برسد.
شیف تنها دموکراتی نیست که چنین برنامهای را دنبال میکند. سناتور کریستین گیلیبرند (Kirsten Gillibrand) از ایالت نیویورک نیز در اوایل ماه جاری لایحه مشابهی را ارائه کرد که محدودیتهایی را برای استفاده از هوش مصنوعی در استقرار تسلیحات هستهای، نظارت داخلی و تسلیحات کاملا خودمختار اعمال میکند. طبق این طرح، تمامی این موارد و دیگر اقدامات با پیامد بالا، برای اجرا نیازمند تأیید یک مقام عالیرتبه در وزارت دفاع خواهند بود. گزارشها نشان میدهند سناتور گیلیبرند نیز مایل است این پیشنهاد را به عنوان اصلاحیهای به لایحه بودجه دفاعی (NDAA) اضافه کند.
علاوه بر این، لایحه محدودیتهای هوش مصنوعی نیز وجود دارد که توسط سناتور الیسا اسلاتکین (Elissa Slotkin) از ایالت میشیگان در ماه مارس معرفی شد. سناتور اسلاتکین نیز که اهدافی بسیار مشابه با لایحههای شیف و گیلیبرند را دنبال میکند، در حال آمادهسازی این طرح به عنوان اصلاحیهای برای لایحه NDAA است.
اگرچه هر سه لایحه به دنبال ایجاد ایمنی از طریق نظارت انسانی بر تصمیمات هوش مصنوعی در محیطهای نظامی هستند، اما کارشناسان معتقدند خطرات این فناوری به اینجا ختم نمیشود.
بسیاری از کاربران هوش مصنوعی دچار پدیدهای میشوند که متخصصان آن را سوگیری اتوماسیون (Automation Bias) مینامند؛ یعنی این باور غلط که سیستم هوش مصنوعی به دلیل دسترسی به دادههای بیشتر یا پردازش کارآمدتر، تصمیمات دقیقتری نسبت به انسان میگیرد. در حالی که این فناوری هنوز بدون خطا نیست و مدلهای زبانی بزرگ (LLM) مستعد توهم (Hallucination) یا تحلیلهای سوگیرانه هستند.
ترکیب این نقصها با ماهیت جعبه سیاه هوش مصنوعی – که در آن کاربران اشراف کاملی بر چگونگی و چرایی استدلال سیستم ندارند – نشان میدهد که استراتژیهای نظامی مبتنی بر هوش مصنوعی، حتی با وجود نظارت و تایید نهایی انسان، همچنان میتوانند به اشتباهات مرگبار و جبرانناپذیری ختم شوند.
