نگرانی درباره توانایی هوش مصنوعی برای کمک به ساخت سلاحهای بیولوژیکی در ماههای اخیر جدیتر شده است. افزایش توانایی مدلهای پیشرفته در درک زیستشناسی، طراحی مولکولی و پاسخگویی به پرسشهای تخصصی باعث شده برخی پژوهشگران درباره امکان سوءاستفاده از این فناوری هشدار دهند. با این حال، بررسی دیدگاههای دانشمندان نشان میدهد فاصله میان ارائه اطلاعات علمی توسط یک مدل هوش مصنوعی و ساخت یک سلاح بیولوژیکی واقعی همچنان بسیار زیاد است.
یکی از دلایل افزایش نگرانیها، پیشرفت سریع ابزارهای هوش مصنوعی در حوزه زیستشناسی است. پژوهشگران دانشگاه استنفورد و Arc Institute اخیراً نشان دادهاند که مدلهای هوش مصنوعی میتوانند در طراحی ژنومهای ویروسی جدید نقش داشته باشند. همزمان، شرکت Anthropic نیز از تلاشهایی برای استفاده از Claude در فعالیتهایی خبر داده که میتوانست به توسعه سلاحهای بیولوژیکی کمک کند.
با وجود این پیشرفتها، بسیاری از متخصصان معتقدند هوش مصنوعی هنوز نمیتواند بهتنهایی یک سلاح بیولوژیکی عملیاتی تولید کند. ساخت یک عامل بیماریزا تنها به طراحی یک توالی ژنتیکی محدود نمیشود و به تجهیزات آزمایشگاهی، مواد اولیه، آزمایشهای متعدد، کنترل شرایط فیزیکی و دانش تخصصی نیاز دارد. گزارش International AI Safety Report نیز تأکید میکند که درباره میزان افزایش خطر واقعی در دنیای بیرون، به دلیل همین موانع عملی، هنوز عدم قطعیت قابلتوجهی وجود دارد.
یکی از مهمترین موانع، انتقال خروجی دیجیتال به دنیای واقعی است. حتی اگر یک مدل بتواند در مورد زیستشناسی یا روشهای آزمایشگاهی اطلاعات بسیار تخصصی ارائه کند، اجرای فرایندهای واقعی همچنان به تجهیزات و نیروی انسانی نیاز دارد. تحلیلهای اخیر نیز تأکید کردهاند که هوش مصنوعی هنوز نمیتواند برخی مراحل فیزیکی و آزمایشگاهی را حذف کند و همین موضوع یکی از موانع اصلی در مسیر تبدیل یک ایده محاسباتی به یک سلاح واقعی است.
با این حال، نگرانی اصلی متخصصان فقط این نیست که یک هوش مصنوعی روزی بهتنهایی یک ویروس مرگبار بسازد. خطر مهمتر میتواند کاهش موانع علمی و فنی برای افرادی باشد که از قبل قصد انجام فعالیت مخرب دارند. مدلهای زبانی میتوانند اطلاعات پیچیده را سادهتر کنند، در تحلیل دادهها کمک کنند و برخی مشکلات پژوهشی را سریعتر حل کنند. گزارش رسمی ایمنی هوش مصنوعی نیز میگوید مدلهای عمومی در برخی آزمونهای مرتبط با زیستشناسی به سطح بسیار بالایی رسیدهاند و میتوانند اطلاعات دقیق آزمایشگاهی ارائه کنند.
گزارشهای فارسی نیز به همین مسئله اشاره کردهاند. همشهری آنلاین با استناد به پژوهشهای امنیتی گزارش داده است که برخی مدلهای پیشرفته از جمله ChatGPT، Claude و Gemini در آزمایشهای چندمرحلهای توانستهاند در برابر برخی محدودیتهای اولیه پاسخهایی درباره موضوعات حساس زیستی ارائه دهند. این یافته به معنای توانایی مدلها برای ساخت سلاح نیست، اما نشان میدهد سامانههای ایمنی باید دائماً در برابر روشهای جدید دورزدن آزمایش شوند.
از طرف دیگر، هوش مصنوعی میتواند در جهت مخالف نیز مورد استفاده قرار گیرد. همین فناوری برای طراحی دارو، تولید واکسن، تحلیل ساختارهای زیستی و شناسایی تهدیدهای بیماریزا کاربرد دارد. بنابراین ایجاد محدودیت کامل برای قابلیتهای زیستی مدلها میتواند به پژوهشهای قانونی و پزشکی نیز آسیب بزند و چالش اصلی، پیدا کردن تعادل میان استفاده علمی و جلوگیری از سوءاستفاده است.
در مجموع، شواهد فعلی از این ادعا که هوش مصنوعی در شرایط کنونی میتواند بهتنهایی نسل بشر را با یک سلاح بیولوژیکی نابود کند، پشتیبانی نمیکند. در عین حال، این موضوع را نمیتوان کاملاً بیاهمیت دانست؛ زیرا توانایی مدلها در زیستشناسی در حال افزایش است و ممکن است در آینده بخشی از موانع اطلاعاتی و فنی موجود را کاهش دهد. به همین دلیل، کارشناسان بر توسعه سازوکارهای ایمنی، نظارت بر سنتز DNA و ارزیابی مداوم مدلهای قدرتمند تأکید دارند.
