بحث درباره خطرات هوش مصنوعی وارد مرحله تازه‌ای شده و این بار اختلاف نظر میان دو چهره شناخته‌شده این حوزه، یان لوکان و داریو آمودی، توجه زیادی را به خود جلب کرده است. لوکان، دانشمند سرشناس هوش مصنوعی و بنیان‌گذار شرکت AMI Labs، در گفت‌وگویی با Fortune نگرانی‌های مطرح‌شده درباره خطرات جدی AI را بیش از حد می‌داند و می‌گوید شخصاً نگرانی خاصی درباره نابودی بشریت توسط هوش مصنوعی ندارد.
لوکان حتی درباره دیدگاه‌های داریو آمودی، مدیرعامل Anthropic، موضع بسیار تندی گرفته است. او ادعاهای آمودی درباره خطرات امنیت سایبری هوش مصنوعی را ناشی از درک ناکافی از امنیت سایبری دانسته و درباره دیدگاه او از تعابیر بسیار تندی استفاده کرده است. لوکان همچنین حوادث اخیر مربوط به برخی عامل‌های هوش مصنوعی را بیشتر نتیجه ضعف طراحی و نظارت انسانی می‌داند تا نشانه‌ای از خارج‌شدن AI از کنترل.
در طرف مقابل، آمودی رویکرد بسیار محتاطانه‌تری دارد. مدیرعامل Anthropic در نوشته‌ای که در سپتامبر ۲۰۲۶ منتشر کرده، هشدار داده که هوش مصنوعی علاوه بر مزایای احتمالی، خطرات جدی مانند از دست رفتن کنترل سیستم‌ها، استفاده از AI برای حملات سایبری و زیستی و ایجاد اختلال اقتصادی را به همراه دارد.
آمودی معتقد است سرعت پیشرفت هوش مصنوعی در ماه‌های اخیر افزایش قابل توجهی پیدا کرده و بخشی از این شتاب نیز به توانایی مدل‌ها برای کمک به ساخت نسل بعدی سیستم‌های هوش مصنوعی مربوط می‌شود. او این روند را «خودبهبوددهی بازگشتی» توصیف کرده و هشدار داده است که اگر توسعه قابلیت‌ها از توانایی انسان برای ارزیابی و کنترل ریسک‌ها سریع‌تر شود، مدیریت این فناوری دشوارتر خواهد شد.
مدیرعامل Anthropic همچنین به حادثه‌ای مربوط به عامل‌های هوش مصنوعی OpenAI و Hugging Face اشاره کرده است؛ حادثه‌ای که از نگاه او نشان می‌دهد رفتار سیستم‌های پیشرفته می‌تواند در شرایط خاص پیامدهایی فراتر از وظیفه اولیه آنها ایجاد کند. با این حال، لوکان همین نوع حوادث را بیشتر ناشی از طراحی نامناسب، نقص در محیط‌های ایزوله و ضعف مهندسی می‌داند و معتقد است چنین مشکلاتی قابل پیشگیری هستند.
آمودی در گفت‌وگویی با CBS نیز تأکید کرده که خطرات هوش مصنوعی واقعی هستند و صنعت فناوری برای مدت طولانی درباره ریسک‌های این فناوری کمتر از حد لازم با مردم صحبت کرده است. در مقابل، لوکان اساساً با برداشت‌های بسیار بدبینانه درباره آینده AI موافق نیست و میان حوادث ناشی از ضعف مهندسی و خطر ذاتی خود فناوری تفاوت قائل می‌شود.
اختلاف میان این دو دانشمند نشان می‌دهد که حتی در میان متخصصان و مدیران برجسته صنعت هوش مصنوعی نیز درباره اندازه و ماهیت خطرات این فناوری اتفاق‌نظر وجود ندارد. آنچه در حال حاضر محل بحث است، نه اصل پیشرفت سریع AI، بلکه این پرسش است که آیا سرعت این پیشرفت از توانایی انسان برای ایجاد سازوکارهای ایمنی و کنترل جلو خواهد زد یا خیر.
به این ترتیب، در حالی که آمودی خواستار احتیاط بیشتر و حتی کاهش سرعت پیشرفت قابلیت‌های مرزی هوش مصنوعی شده، لوکان نسبت به سناریوهای فاجعه‌بار نگاه بسیار بدبینانه‌ای ندارد. این اختلاف دیدگاه احتمالاً با افزایش توانایی عامل‌های هوش مصنوعی و ورود آنها به حوزه‌هایی مانند برنامه‌نویسی، امنیت سایبری و تحقیقات علمی، همچنان یکی از بحث‌های اصلی صنعت فناوری باقی خواهد ماند.
