به نقل از ایندیپندنت، شرکت «انتروپیک» در گزارشی تازه هشدار داده است که اگر روند فعلی توسعه مدلهای هوش مصنوعی ادامه پیدا کند، ممکن است انسانها در آینده کنترل خود بر این سیستمها را از دست بدهند. این هشدار بر اساس تغییرات سریع در مدل زبانی «کلود» مطرح شده است.
به گفته این شرکت، مدل «کلود» اکنون بیش از ۸۰ درصد کدهای خود را بهصورت مستقل تولید میکند؛ در حالی که این رقم در فوریه سال گذشته کمتر از ۱۰ درصد بوده است. انتروپیک میگوید کیفیت کدهای تولیدشده توسط این مدل تقریباً همسطح کدهای نوشتهشده توسط انسانها شده و حتی پیشبینی میشود طی یک سال آینده از آن نیز فراتر برود.
در یادداشتی که توسط «مارینا فاوارو» و «جک کلارک» از مدیران انتروپیک منتشر شده، آمده است این روند میتواند به نقطهای برسد که یک سیستم هوش مصنوعی قادر باشد بهطور کامل، طراحی و توسعه نسخههای بعدی خود را انجام دهد. آنها هشدار دادهاند چنین وضعیتی ممکن است به «خودبهبودی چرخهای» منجر شود که در آن کنترل انسانی بر سیستمها کاهش پیدا میکند.
با این حال، انتروپیک تأکید کرده است که چنین پیشرفتی میتواند از نظر فناوری مفید باشد، اما در عین حال نیازمند بررسی جدی پیامدهای ایمنی است. این شرکت گفته توقف یا کند کردن سرعت توسعه میتواند در برخی شرایط «اقدامی مطلوب» باشد، اما اجرای آن نیازمند توافق گسترده در سطح صنعت فناوری است.
در حاشیه این گزارش، رسانهها نیز به رشد سریع قابلیتهای مدلهای هوش مصنوعی اشاره کردهاند و بحث درباره آینده نظارت انسانی بر این سیستمها را دوباره داغ کردهاند.
