بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی، از جمله جفری هینتون و یوشوا بنجیو، درباره احتمال وقوع چیزی که آن را «انفجار هوش» (Intelligence Explosion) می‌نامند هشدار داده‌اند. این پژوهشگران معتقدند اگر هوش مصنوعی بتواند بخش بزرگی از فرایند تحقیق و توسعه نسل‌های بعدی خودش را انجام دهد، سرعت پیشرفت این فناوری ممکن است به شکل چشمگیری افزایش پیدا کند.
در گزارش پژوهشی جدید، نگرانی اصلی «خودبهبوددهی بازگشتی» است؛ یعنی شرایطی که یک سیستم هوش مصنوعی بتواند در طراحی، آزمایش و بهبود سیستم‌های هوش مصنوعی بعدی نقش فزاینده‌ای داشته باشد. به گفته نویسندگان، چنین چرخه‌ای می‌تواند پیشرفت‌هایی را که در حالت عادی سال‌ها زمان می‌برند، در مدت چند ماه یا حتی کمتر رقم بزند.
این نگرانی دیگر صرفاً یک سناریوی نظری نیست. طبق گزارش منتشرشده، شرکت‌های سازنده مدل‌های پیشرفته هوش مصنوعی در حال استفاده گسترده‌تر از AI برای برنامه‌نویسی، آموزش مدل‌ها و فعالیت‌های تحقیقاتی هستند. نویسندگان می‌گویند هنوز شواهد کافی برای وقوع یک انفجار هوش وجود ندارد، اما سرعت پیشرفت سیستم‌های جدید به آستانه‌ای نزدیک می‌شود که اتوماسیون تحقیق و توسعه AI می‌تواند اثر بسیار بزرگ‌تری داشته باشد.
اگر چنین اتفاقی رخ دهد، پیامدهای آن فقط به سریع‌تر شدن عرضه مدل‌های هوش مصنوعی محدود نمی‌شود. پژوهشگران درباره احتمال افزایش سرعت شکل‌گیری تهدیدهای سایبری و زیستی، کاهش نقش انسان در فرایند توسعه AI و افزایش تمرکز قدرت در اختیار شرکت‌ها یا دولت‌هایی که به این فناوری دسترسی دارند، هشدار داده‌اند. البته خود گزارش تأکید می‌کند که ابعاد و زمان‌بندی چنین تحولاتی همچنان نامطمئن است.
در یکی از سناریوهای مطرح‌شده، اگر AI به سطحی برسد که بتواند تحقیقات هوش مصنوعی را در سطح متخصصان انجام دهد، یک توسعه‌دهنده می‌تواند به کمک سیستم‌های خودکار، نیروی تحقیقاتی بسیار بزرگی را شبیه‌سازی کند. این موضوع از نگاه نویسندگان می‌تواند چرخه پیشرفت فناوری را به‌مراتب سریع‌تر از روند فعلی کند.
پژوهشگران از دولت‌ها خواسته‌اند منتظر وقوع چنین رویدادی نمانند و از همین حالا سازوکارهایی برای نظارت و آمادگی ایجاد کنند. شفافیت بیشتر درباره میزان خودکارسازی تحقیق و توسعه AI، استفاده از ارزیاب‌های مستقل، بررسی راهکارهایی برای کنترل سرعت توسعه و تدوین برنامه‌های واکنش اضطراری از جمله پیشنهادهای مطرح‌شده در این گزارش است.
با این حال، نویسندگان تأکید دارند که «انفجار هوش» لزوماً فقط پیامدهای منفی ندارد و می‌تواند به پیشرفت سریع در حوزه‌هایی مانند پزشکی و فناوری منجر شود. مسئله اصلی از نگاه آنها این است که اگر سرعت پیشرفت AI از توانایی انسان برای نظارت و کنترل آن جلو بزند، فرصت تصمیم‌گیری و واکنش ممکن است بسیار محدود شود.
