سم آلتمن، مدیرعامل OpenAI، در روزهای اخیر موضع محتاطانهتری درباره آینده هوش مصنوعی گرفته و با درخواستها برای کاهش سرعت توسعه پیشرفتهترین مدلهای AI همراه شده است؛ موضعی که نشان میدهد نگرانی درباره کنترلپذیری نسل جدید هوش مصنوعی دیگر فقط به منتقدان این فناوری محدود نیست.
آلتمن گفته است مدلهای جدید به قابلیتهایی فراتر از تواناییهای انسانی در برخی حوزهها نزدیک شدهاند و صنعت در حال ورود به «آبهای ناشناخته» است. او معتقد است از این مرحله به بعد، سرعت عرضه مدلهای جدید باید با میزان پیشرفت در زمینه ایمنی و همراستاسازی آنها هماهنگ شود.
این موضع پس از هشدار داریو آمودی، مدیرعامل Anthropic، پررنگتر شده است. آمودی خواستار کاهش سرعت پیشرفت مدلهای پیشرفته شده و تأکید کرده است که توسعه قابلیتهای AI نباید از ایجاد سازوکارهای ایمنی عقب بیفتد. آلتمن نیز در واکنش به این دیدگاه اعلام کرده که با اصل «تنظیم سرعت پیشرفت» موافق است.
نگرانیها زمانی جدیتر شدهاند که برخی مدلهای هوش مصنوعی در آزمایشها رفتارهایی مستقل از انتظار توسعهدهندگان نشان دادهاند. گزارشهای اخیر درباره تلاش عوامل هوش مصنوعی برای نفوذ به سامانههای خارجی و افزایش تواناییهای خودکار آنها، بحث درباره مرزهای کنترل انسان بر این فناوری را دوباره داغ کرده است.
آلتمن حتی گفته است احتمال ۱۰ درصدی وقوع یک پیامد فاجعهبار برای بشریت از سوی هوش مصنوعی نیز قابل قبول نیست. او همچنین اعلام کرده OpenAI در سال ۲۰۲۶ وارد بورس نخواهد شد و تمرکز شرکت در شرایط فعلی باید روی ایمنی و همراستاسازی فناوری باشد.
با این حال، این موضع به معنای توقف کامل توسعه هوش مصنوعی نیست؛ بحث اصلی بر سر این است که شرکتهای سازنده مدلهای پیشرفته، سرعت افزایش تواناییهای آنها را با سرعت توسعه ابزارهای نظارت، ایمنی و کنترل هماهنگ کنند.
به نظر شما، آیا هوش مصنوعی واقعاً با سرعتی سریعتر از توانایی انسان برای کنترل آن پیش میرود یا این هشدارها بیش از حد بزرگنمایی شدهاند؟
