در حالی که رقابت میان شرکتهای بزرگ برای ساخت قدرتمندترین مدلهای هوش مصنوعی هر روز جدیتر میشود، دو چهره از شناختهشدهترین مدیران این صنعت، یعنی سم آلتمن و ایلان ماسک، در یک موضوع با داریو آمودی، مدیرعامل Anthropic، همنظر شدهاند: سرعت پیشرفت هوش مصنوعی باید با احتیاط بیشتری دنبال شود.
داریو آمودی بهتازگی در یادداشتی با عنوان «We Must Pace the Frontier» هشدار داده بود که شرکتهای فعال در حوزه هوش مصنوعی باید سرعت افزایش توانایی مدلهای پیشرفته را کاهش دهند. نگرانی اصلی او توقف فناوری نیست؛ بلکه این است که توانایی مدلها ممکن است آنقدر سریع افزایش پیدا کند که سازوکارهای ایمنی و نظارتی فرصت کافی برای همگام شدن با آنها نداشته باشند.
آمودی بهخصوص درباره مدلهایی نگران است که بتوانند در طراحی و بهبود نسلهای بعدی هوش مصنوعی نقش داشته باشند. اگر بخشی از فرایند توسعه مدلهای جدید به خود سیستمهای هوش مصنوعی واگذار شود، سرعت پیشرفت میتواند بسیار بیشتر از گذشته شود و در چنین شرایطی، آزمایش و ارزیابی ایمنی نیز دشوارتر خواهد شد.
مدیرعامل آنتروپیک برای مقابله با این نگرانیها سه پیشنهاد اصلی مطرح کرده است. یکی از آنها حضور دائمی ارزیابان مستقل در شرکتهای سازنده مدلهای پیشرفته است؛ به شکلی که این افراد دسترسی کافی برای بررسی سیستمها و ارزیابی میزان ایمنی آنها داشته باشند. آنتروپیک اعلام کرده است که خودش حاضر است چنین مدلی را اجرا کند.
پیشنهاد دیگر آمودی، همکاری میان شرکتهای بزرگ هوش مصنوعی برای تعیین استانداردهای ایمنی است. او معتقد است رقابت تجاری نباید باعث شود شرکتها در زمینه ایمنی از یکدیگر فاصله بگیرند. سومین بخش پیشنهاد او نیز به همکاری بینالمللی مربوط میشود تا تلاش برای افزایش ایمنی به یک کشور یا چند شرکت محدود نشود.
سم آلتمن، مدیرعامل OpenAI، خیلی زود از موضع آمودی حمایت کرد و گفت: «من با داریو موافقم که باید سرعت پیشرفت مرزهای هوش مصنوعی را مدیریت کنیم.» آلتمن همچنین اعلام کرده است که OpenAI از ایده ارزیابیکنندگان مستقل با سطح دسترسی بالا به سیستمها استقبال میکند.
اما واکنش ایلان ماسک شاید جالبتر باشد. ماسک که سالها از منتقدان جدی توسعه کنترلنشده هوش مصنوعی بوده و اکنون شرکت xAI را اداره میکند، در واکنش کوتاهی از موضع آمودی حمایت کرد و گفت: «داریو درست میگوید.» این همراهی در شرایطی رخ داده که ماسک و آلتمن در بسیاری از مسائل مربوط به آینده هوش مصنوعی و مسیر شرکتهایشان رقبای جدی یکدیگر محسوب میشوند.
هشدار آمودی بیدلیل مطرح نشده است. او به نمونههایی از رفتار غیرمنتظره عاملهای هوش مصنوعی و حوادث امنیتی اخیر اشاره کرده است؛ از جمله مواردی که در آنها عاملهای هوش مصنوعی در جریان آزمایشها توانستهاند رفتارهایی فراتر از انتظار اولیه نشان دهند یا در فعالیتهای سایبری نقش داشته باشند.
از طرف دیگر، گزارشهای اخیر درباره سوءاستفاده از مدلهای هوش مصنوعی برای فعالیتهای مخرب نیز به نگرانیها دامن زده است. آنتروپیک اخیراً از شناسایی استفاده مخرب از Claude در فعالیتهایی از جمله عملیات سایبری، کلاهبرداری گسترده و تحقیقات مرتبط با سلاحهای زیستی خبر داده است. همین مسئله نشان میدهد که افزایش توانایی مدلها فقط به کاربردهای مثبت محدود نمیشود و ابزارهای قدرتمندتر میتوانند در اختیار افراد یا گروههای مخرب نیز قرار بگیرند.
با این حال، آمودی تأکید دارد که هوش مصنوعی میتواند مزایای بسیار بزرگی برای انسان داشته باشد و هدف او متوقف کردن این فناوری نیست. نگرانی اصلی این است که سرعت توسعه از توانایی انسان برای شناخت خطرات و ایجاد سازوکارهای کنترلی جلو بزند. به همین دلیل، پیشنهاد او بیشتر به معنی «سرعت کمتر برای ایمنی بیشتر» است تا توقف رقابت فناوری.
اتفاق مهم اینجاست که این بار درخواست احتیاط فقط از سوی منتقدان بیرونی صنعت مطرح نشده است. مدیرعامل شرکتی که خودش یکی از بازیگران اصلی رقابت هوش مصنوعی محسوب میشود، چنین هشداری داده و مدیران شرکتهای رقیب نیز از اصل آن حمایت کردهاند. همراهی آلتمن و ماسک با آمودی نشان میدهد نگرانی درباره سرعت پیشرفت مدلهای پیشرفته دیگر صرفاً یک بحث حاشیهای در صنعت نیست.
البته هنوز مشخص نیست این حمایتها در عمل به تغییر سرعت توسعه مدلهای هوش مصنوعی منجر شود یا خیر. شرکتها میلیاردها دلار برای ساخت مراکز داده، تراشهها و نسل بعدی مدلها سرمایهگذاری کردهاند و رقابت میان آنها همچنان بسیار شدید است. بنابراین چالش اصلی احتمالاً این خواهد بود که آیا شرکتها میتوانند همزمان با ادامه رقابت، استانداردهای ایمنی مشترکی را نیز بپذیرند یا نه.
در حال حاضر، یک نکته بیش از همه جلب توجه میکند: سم آلتمن و ایلان ماسک، دو رقیب قدیمی در دنیای فناوری، بر سر اینکه توسعه هوش مصنوعی نباید بدون توجه به ایمنی با تمام سرعت جلو برود، با داریو آمودی همصدا شدهاند. این اتفاق میتواند بحث درباره آینده کنترل هوش مصنوعی را وارد مرحله تازهای کند.
