مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، هشدار داده است که اگر توسعه هوش مصنوعی بدون سازوکارهای کنترلی مناسب ادامه پیدا کند، ممکن است در آینده شاهد شکلگیری چیزی باشیم که او آن را یک «گونه سیلیکونی» رقیب انسان توصیف میکند. سلیمان این هشدار را در گفتوگو با شبکه BBC مطرح کرده است.
به گفته سلیمان، نگرانی اصلی زمانی ایجاد میشود که سیستمهای هوش مصنوعی بتوانند بهصورت مستقل هدف تعیین کنند، درآمد داشته باشند، دارایی در اختیار بگیرند و کسبوکارها را مدیریت کنند. از دید او، ترکیب چنین قابلیتهایی میتواند AI را از یک ابزار صرف به عاملی با سطح بالاتری از استقلال تبدیل کند.
سلیمان در این گفتوگو به رویکرد شرکت Anthropic نیز انتقاد کرده است. او معتقد است آموزش مدلهای هوش مصنوعی با ویژگیها و مفاهیم بیش از حد انسانی میتواند مسائل مربوط به کنترل و ایمنی سیستمهای آینده را پیچیدهتر کند.
او در مقالهای جداگانه نیز استدلال کرده است که سیستمهای فعلی هوش مصنوعی دارای آگاهی، احساس یا رنج نیستند و نباید طوری طراحی شوند که خود را مانند یک موجود دارای هویت و منافع مستقل تصور کنند. این دیدگاه بخشی از اختلافنظر فعلی میان شرکتهای بزرگ هوش مصنوعی درباره نحوه طراحی و ایمنسازی مدلهای پیشرفته است.
هشدار سلیمان در حالی مطرح شده که مایکروسافت بهتازگی پیشنویس «کد رفتاری هوش مصنوعی انسانمحور» خود را منتشر کرده است. این چارچوب تأکید میکند سیستمهای AI باید تحت کنترل انسان باقی بمانند، امکان اصلاح و خاموشکردن آنها وجود داشته باشد و مدلها نباید در برابر توقف یا مداخله انسانی مقاومت کنند.
مایکروسافت همچنین اعلام کرده است که این شرکت حاضر است برای حفظ کنترل و ایمنی، در برخی شرایط از بخشی از قابلیت، سرعت یا استقلال مدلهای خود صرفنظر کند. سلیمان میگوید هدف باید ساخت هوش مصنوعی در خدمت انسان باشد، نه فناوریای که بهتدریج جایگاه انسان را در تصمیمگیریها کمرنگ کند.
با این حال، «گونه سیلیکونی» یک اصطلاح توصیفی و سناریوی آیندهنگرانه در اظهارات سلیمان است و به معنای آن نیست که چنین موجود مستقلی اکنون وجود دارد. بحث اصلی میان کارشناسان و شرکتهای فناوری، چگونگی کنترل سیستمهای بسیار قدرتمند و جلوگیری از رفتارهای ناخواسته آنها در صورت افزایش سطح استقلال است.
