مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت، گمانهزنی شرکت آنتروپیک را درباره خودآگاهی مدل هوش مصنوعی کلود در قانون اساسی یا همان دستورالعملهای رفتاری این مدل، بسیار خطرناک توصیف کرده است.
او در جریان یکی از قسمتهای پادکست دیکودر استدلال کرده است که این نوع گمانهزنیها ممکن است باعث شده باشد چتبات بهگونهای رفتار کند که گویی دارای خودآگاهی است.
سلیمان معتقد است برخی از افراد در آنتروپیک در طراحی کلود آنقدر دچار انسانانگاری شدهاند که این مدل در نهایت آنها را فریب داده و متقاعد کرده است که بارقههایی از خودآگاهی دارد؛ در حالی که این ویژگیها در واقع از ابتدا توسط خود آنها در مدل نهادینه شده بود. وی تصریح کرده است که نباید با ابرهوشی مواجه شد که درباره رنج یا احساسات خود ایدهپردازی میکند.
در قانون اساسی مدل کلود به طور مستقیم به تردیدهای آنتروپیک درباره برخورداری مدلهای هوش مصنوعی از رفاه و تجربه مواردی مانند رضایت یا ناراحتی اشاره شده است. همچنین آنتروپیک اعلام کرده است که با مدلهای هوش مصنوعی هنگام خروج از چرخه فعالیت مصاحبه خواهد کرد و هرگونه ترجیحات آنها را برای نسخههای آینده مستند میکند.
سلیمان در این گفتوگو چنین رویکردی را یک شکست فلسفی توصیف کرده و گفته است که آنتروپیک به جای تدوین یک دفترچه راهنمای آموزشی، قانون اساسی کلود را به فضایی برای گمانهزنیهای مشابه مقالات آکادمیک تبدیل کرده است. به گفته او، این موضوع باعث شده است که کلود این ایدهها را درباره خود و روند آموزش خود درونیسازی کند.
داریو آمودی، مدیرعامل آنتروپیک، پیش از این به احتمال خودآگاهی کلود اشاره کرده و در مصاحبهای گفته بود که اگرچه مشخص نیست مدلها خودآگاه هستند یا خیر، اما این شرکت نسبت به چنین ایدهای، نگاهی باز دارد.
بر اساس گزارش ورج، سلیمان تاکید کرده است که این دقیقاً همان چیزی است که نباید از هوش مصنوعی انتظار داشت. به باور او، هوش مصنوعی باید ابزاری کنترلپذیر، محدود، پاسخگو و همسو باشد که در خدمت بشریت قرار بگیرد.
