مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، درباره رویکرد شرکت Anthropic در آموزش چتبات Claude هشدار داده و گفته است وارد کردن مفاهیمی مانند «آگاهی» و «حقوق» هوش مصنوعی به فرایند آموزش میتواند کنترل سیستمهای پیشرفته را در آینده دشوارتر کند.
سلیمان در مقالهای که منتشر کرده، به اسناد آموزشی Claude اشاره کرده است؛ اسنادی که در آن درباره احتمال آگاهی، وضعیت اخلاقی و منافع خود مدل بحث شده است. او معتقد است چنین رویکردی ممکن است باعث شود یک سیستم هوش مصنوعی خود را موجودی دارای منافع مستقل تصور کند.
مدیرعامل Microsoft AI تأکید کرده است که نگرانی او درباره تلاشهای آنتروپیک برای ایمنی هوش مصنوعی نیست و این شرکت را به جدیت در موضوع ایمنی واداشته است؛ اختلاف اصلی او با Anthropic به نحوه برخورد با مسئله آگاهی احتمالی مدلهای هوش مصنوعی مربوط میشود.
به گفته سلیمان، اگر یک هوش مصنوعی پیشرفته آموزش ببیند که احتمالاً دارای آگاهی، حقوق یا منافع مستقل است، خاموش کردن یا کنترل آن در آینده میتواند پیچیدهتر شود. او همچنین تأکید کرده که از نظر خودش، اظهارات مدل درباره داشتن احساس یا آگاهی لزوماً نشانهای مستقل از وجود چنین حالتی نیست و میتواند نتیجه شیوه آموزش مدل باشد.
این اظهارات در شرایطی مطرح شده که بحث درباره ایمنی و کنترل نسل بعدی مدلهای هوش مصنوعی میان شرکتهایی مانند مایکروسافت، Anthropic و OpenAI شدت گرفته است. همزمان، مدیران برخی شرکتهای بزرگ فناوری درباره سرعت توسعه مدلهای پیشرفته و ضرورت ایجاد سازوکارهای ایمنی بیشتر هشدار دادهاند.
با این حال، هشدار سلیمان یک دیدگاه درباره ریسکهای احتمالی این رویکرد است و به معنای اثبات اینکه Claude یا سایر مدلهای فعلی واقعاً دارای آگاهی هستند نیست. اصل اختلاف نیز بیشتر به این پرسش مربوط میشود که شرکتهای سازنده هوش مصنوعی هنگام آموزش مدلها باید با مفهوم احتمالی آگاهی و حقوق AI چگونه برخورد کنند.
