هشدار سم آلتمن درباره آینده هوش مصنوعی؛ شاید انسان‌ها دیگر نتوانند کنترل را پس بگیرند!

گیزمکس
نویسنده: آلا محمدی
- 17 آبان 1405
سم آلتمن مدیرعامل OpenAI در حال صحبت درباره خطرات آینده هوش مصنوعی و احتمال از دست رفتن کنترل انسان
سم آلتمن، مدیرعامل OpenAI، درباره خطر از دست رفتن کنترل انسان بر هوش مصنوعی و تمرکز قدرت در این صنعت هشدار داده است.

سم آلتمن، مدیرعامل OpenAI، در گفت‌وگویی تازه درباره دو سناریوی خطرناک برای آینده هوش مصنوعی هشدار داده است؛ سناریوهایی که به گفته او می‌توانند مسیر پیشرفت این فناوری را به شکلی فاجعه‌بار تغییر دهند. آلتمن معتقد است یا ممکن است انسان‌ها کنترل آینده را به سیستم‌های هوشمندتر از خود واگذار کنند و دیگر نتوانند آن را پس بگیرند، یا قدرت هوش مصنوعی در اختیار یک فرد، شرکت یا کشور متمرکز شود.

این اظهارات در قسمت جدید پادکست Figuring Out با اجرای راج شامانی مطرح شده است؛ برنامه‌ای که در ۳ نوامبر ۲۰۲۶ منتشر شد. آلتمن در این گفت‌وگو توضیح داد که از نظر او، خطر نخست زمانی شکل می‌گیرد که انسان‌ها به‌صورت عمدی یا ناخواسته اختیار تصمیم‌گیری‌های مهم را به سامانه‌هایی واگذار کنند که توانایی‌هایشان به‌مراتب فراتر از انسان است. در چنین وضعیتی، ممکن است دیگر امکان بازپس‌گیری کنترل وجود نداشته باشد.

سناریوی دوم به تمرکز بیش از اندازه قدرت مربوط می‌شود. آلتمن هشدار داد اگر یک فرد، شرکت یا کشور به قدرتی بسیار بیشتر از دیگران در حوزه هوش مصنوعی دست پیدا کند، تعادل اجتماعی و سیاسی جهان به خطر می‌افتد. او معتقد است استفاده از هوش مصنوعی بسیار قدرتمند برای تحمیل دیدگاه یک بازیگر به دیگران می‌تواند پیامدهایی بسیار نگران‌کننده داشته باشد.

مدیرعامل OpenAI برای جلوگیری از این وضعیت، از ضرورت وجود چندین مجموعه مستقل توسعه‌دهنده هوش مصنوعی دفاع کرد. از نگاه او، بهتر است شرکت‌ها و گروه‌های مختلف با رویکردهای متفاوت در این حوزه فعالیت کنند و هیچ بازیگری به‌تنهایی قدرت مسلط را در اختیار نگیرد. آلتمن این رویکرد را نوعی تکثرگرایی می‌داند که می‌تواند احتمال تمرکز قدرت را کاهش دهد.

با این حال، راهکار چندقطبی کردن صنعت هوش مصنوعی یک چالش مهم هم دارد: رقابت میان شرکت‌ها ممکن است سرعت توسعه فناوری را افزایش دهد و فشار برای عرضه مدل‌های قدرتمندتر را بیشتر کند. به همین دلیل، آلتمن در همین گفت‌وگو مسئله تنظیم سرعت پیشرفت هوش مصنوعی را یکی از دغدغه‌های اصلی خود دانست؛ به‌ویژه در دوره‌ای که مدل‌ها به سمت خودکارسازی بیشتر و بهبود توانایی‌هایشان حرکت می‌کنند.

این هشدارها در حالی مطرح می‌شود که آلتمن همچنان به ظرفیت‌های مثبت هوش مصنوعی خوش‌بین است. او از کاربردهای آینده این فناوری در کشف‌های علمی، توسعه درمان‌های پزشکی، شناخت بهتر جهان و دستیابی به منابع جدید انرژی صحبت کرد. بنابراین موضع او مخالفت با توسعه هوش مصنوعی نیست؛ بلکه تأکید دارد پیشرفت این فناوری نباید به بهای از دست رفتن کنترل انسان یا تمرکز بی‌حدوحصر قدرت تمام شود.

نکته متناقض اما مهم در حرف‌های آلتمن این است که راه‌حل او برای جلوگیری از انحصار قدرت، افزایش تعداد بازیگران صنعت هوش مصنوعی است؛ اما همین رقابت می‌تواند شرکت‌ها را به عرضه سریع‌تر و پرریسک‌تر محصولات سوق دهد. در نتیجه، صرفاً زیاد بودن تعداد شرکت‌های هوش مصنوعی تضمین‌کننده امنیت نیست. آنچه اهمیت دارد وجود استانداردهای مشترک ایمنی، امکان نظارت مستقل و سازوکارهایی برای متوقف کردن مدل‌هایی است که کنترل‌پذیری آن‌ها اثبات نشده است.

در نهایت، آلتمن آینده هوش مصنوعی را نه صرفاً تهدیدی اجتناب‌ناپذیر و نه مسیری بدون خطر می‌داند. هشدار اصلی او این است که انسان‌ها باید پیش از واگذاری اختیارات حیاتی به سیستم‌های بسیار قدرتمند، مطمئن شوند همچنان توانایی نظارت و کنترل آن‌ها را دارند.

منبع این گزارش

نظرات کاربرانکپی متنکپی لینک