پدرخوانده هوش مصنوعی هشدار داد: شاید جهان بدون هوش مصنوعی جای بهتری بود!

جفری هینتون، دانشمند برجسته‌ای که از چهره‌های تأثیرگذار در توسعه هوش مصنوعی مدرن به شمار می‌رود، درباره پیامدهای کنترل‌نشدن این فناوری هشدار تازه‌ای داده است.

او معتقد است ممکن است انسان‌ها در نهایت به این نتیجه برسند که اگر هوش مصنوعی را توسعه نمی‌دادند، وضعیت بهتری داشتند؛ هرچند همچنان باور دارد که می‌توان از وقوع فاجعه جلوگیری کرد.

هینتون در گفت‌وگویی تازه هشدار داده است که هوش مصنوعی می‌تواند تا پایان سال جاری میلادی یا در سال آینده، زمینه‌ساز حادثه‌ای گسترده شود. از نگاه او، یکی از سناریوهای نگران‌کننده، حمله‌ای با کمک هوش مصنوعی به زیرساخت‌های تولید برق یا سیستم مالی است؛ اتفاقی که ممکن است خاموشی گسترده یا اختلال جدی در فعالیت‌های اقتصادی ایجاد کند.

او احتمال وقوع چنین رویدادی را به حادثه هسته‌ای تری مایل آیلند در سال ۱۹۷۹ تشبیه کرده است؛ حادثه‌ای که به‌عنوان هشداری جدی درباره خطرهای فناوری‌های پیچیده شناخته می‌شود. منظور هینتون وقوع یک حادثه هسته‌ای نیست، بلکه معتقد است یک بحران بزرگ ناشی از هوش مصنوعی ممکن است توجه دولت‌ها و شرکت‌های فناوری را به خطرهای این فناوری جلب کند.

این دانشمند از رقابت شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر انتقاد کرده و معتقد است ملاحظات تجاری ممکن است بر ایمنی غلبه کنند. او در اظهارات خود به مدیران شرکت‌هایی مانند OpenAI، متا و xAI اشاره کرده و نگرانی‌اش را از ادامه این رقابت بدون نظارت کافی بیان کرده است.

هینتون همچنین هشدار می‌دهد که خطر هوش مصنوعی تنها به حملات سایبری محدود نمی‌شود. از دست رفتن مشاغل، افزایش فاصله طبقاتی، دست‌کاری گسترده افکار عمومی و استفاده مخرب از این فناوری نیز از پیامدهایی هستند که به باور او باید جدی گرفته شوند. بااین‌حال، او خود را مخالف مطلق هوش مصنوعی نمی‌داند و معتقد است این فناوری در صورت مدیریت صحیح می‌تواند آینده‌ای بسیار بهتر برای بشر بسازد.

هینتون خواستار نظارت مستقل و ارزیابی جدی مدل‌های پیشرفته هوش مصنوعی پیش از عرضه عمومی آن‌هاست. او این رویکرد را به مقررات حوزه دارو تشبیه می‌کند؛ جایی که شرکت‌ها باید شواهد کافی درباره ایمنی و مزایای محصولات خود ارائه کنند، نه اینکه ابتدا محصول را منتشر کنند و پس از وقوع آسیب به دنبال جبران خسارت باشند.

این دیدگاه در شرایطی مطرح شده که گروهی از پژوهشگران و متخصصان هوش مصنوعی نیز خواستار استانداردهای مشترک، نظارت مستقل و کنترل دقیق‌تر سیستم‌های پیشرفته شده‌اند. بااین‌حال، درباره نحوه اجرای این مقررات و میزان محدودیت لازم برای توسعه هوش مصنوعی هنوز اختلاف‌نظر وجود دارد.

باید بین هشدار کارشناسی و پیش‌بینی قطعی تفاوت قائل شد. هینتون نگفته است که خاموشی گسترده یا فروپاشی سیستم مالی حتماً اتفاق می‌افتد؛ او درباره سناریویی هشدار می‌دهد که در صورت اتصال ابزارهای هوش مصنوعی به سامانه‌های حساس و نبود کنترل کافی، می‌تواند خسارت‌بار باشد. بنابراین، اهمیت این خبر بیشتر در درخواست او برای آزمون ایمنی و نظارت مستقل پیش از انتشار مدل‌های قدرتمند است، نه در قطعی دانستن وقوع یک فاجعه.

با وجود هشدارهای تند، هینتون همچنان معتقد است که انسان‌ها هنوز کنترل اوضاع را به‌طور کامل از دست نداده‌اند. از نگاه او، نتیجه نهایی به تصمیم‌هایی بستگی دارد که دولت‌ها، پژوهشگران و شرکت‌های فناوری در سال‌های پیش رو می‌گیرند. او هشدار می‌دهد که توسعه سریع‌تر از توانایی بشر برای کنترل خطرها می‌تواند پیامدهای جدی داشته باشد؛ اما با تلاش گسترده برای ایمن‌سازی و نظارت، همچنان امکان مدیریت این خطرها وجود دارد.