شرکت آنتروپیک هوش مصنوعی Claude Fable 5 را معرفی کرد

آنتروپیک از معرفی فابل 5 خبر داده است؛ نخستین مدل هوش مصنوعی در رده Mythos که عموم کاربران می‌توانند از آن استفاده کنند.

این شرکت می‌گوید Fable 5 در کارهایی مثل مهندسی نرم‌افزار و پژوهش علمی عملکردی بسیار برجسته دارد، اما برای جلوگیری از سوءاستفاده احتمالی در حوزه‌هایی مانند امنیت سایبری یا تقطیر مدل، با محدودیت‌های سخت‌گیرانه عرضه شده است.

آنتروپیک اکنون اجازه می‌دهد کاربران به مدل‌های هوش مصنوعی رده Mythos آن دسترسی داشته باشند. این شرکت روز سه‌شنبه اعلام کرد که Claude Fable 5 اولین مدل از این رده است که به‌طور عمومی در دسترس قرار گرفته، هرچند همچنان محدودیت‌های مشخص و سختی برای آن در نظر گرفته شده.

Mythos به قدرتمندترین دسته از مدل‌های هوش مصنوعی آنتروپیک اشاره دارد. این شرکت پیش‌تر تلویحاً گفته بود که نسخه پیش‌نمایش Mythos آن‌قدر نیرومند بوده که حتی می‌توانسته هر نرم‌افزاری در جهان را به‌طور بالقوه هک کند.

به گفته این استارتاپ، Fable 5 تاکنون توانمندترین مدل در دسترس عمومی آن است و در مهندسی نرم‌افزار، کارهای دانشی، پردازش تصویر، پژوهش علمی و وظایف طولانی و پیچیده عملکرد بسیار خوبی دارد، اما انتشارش همراه با لایه‌های حفاظتی تازه در حوزه‌های پرریسک انجام شده.

Mythos در سطح جهانی سر و صدای زیادی به پا کرده و بسیاری از دولت‌ها، از جمله هند، درباره اختلالی که ممکن است در امنیت سایبری ایجاد کند نگران شده‌اند. همچنین گزارش‌هایی منتشر شده که ادعا می‌کند ایالات متحده شاید از Mythos برای برنامه‌ریزی حملات سایبری استفاده می‌کند.

آنتروپیک می‌گوید Claude Fable 5 در وظایف مربوط به مهندسی نرم‌افزار و کارهای دانشی، عملکردی استثنایی نشان می‌دهد و در برخی بنچمارک‌ها بیش از ۱۰ درصد بهتر از Claude Opus 4.8 امتیاز گرفته؛ مدلی که این شرکت اواخر ماه گذشته معرفی کرده بود.

این استارتاپ هوش مصنوعی همچنین گفته است توانایی‌های Fable 5 از هر مدلی که تاکنون به‌صورت عمومی عرضه کرده‌اند فراتر می‌رود و هرچه وظیفه طولانی‌تر و پیچیده‌تر باشد، برتری Fable 5 نسبت به دیگر مدل‌های آن‌ها بیشتر می‌شود.

وقتی آنتروپیک در آوریل Claude Mythos را معرفی کرد، دولت‌های مختلف جهان درباره خطرات احتمالی این مدل‌ها برای امنیت سایبری ابراز نگرانی کردند. برای پاسخ به این مسئله، آنتروپیک گفته که برای Fable 5 در حوزه‌هایی مانند امنیت سایبری، زیست‌شناسی، شیمی و تقطیر، محدودیت‌های سخت اعمال کرده است. در چنین مواردی، مدل پاسخ را متوقف می‌کند و به Claude Opus 4.8 ارجاع می‌دهد.

آنتروپیک پیش‌تر شرکت‌های چینی فعال در حوزه هوش مصنوعی را متهم کرده بود که از Claude برای تقطیر و آموزش مدل‌های خود استفاده می‌کنند. تقطیر زمانی رخ می‌دهد که یک مدل کوچک‌تر از خروجی‌های یک مدل بزرگ‌تر یاد بگیرد. به‌احتمال زیاد، تدابیر حفاظتی ضد تقطیر در Fable 5 می‌تواند به جلوگیری از این مشکل کمک کند.

دایان پن، رئیس مدیریت محصول پژوهشی در آنتروپیک، به CNBC گفته که امکان عرضه گسترده این مدل به‌دلیل همین حفاظ‌های جدید فراهم شده است. او گفت:

برای ما موضوع اصلی چیزی است که آن را رقابت برای رسیدن به بهترین‌ها می‌نامیم؛ اینکه بتوانیم این فناوری را به شکلی ارزشمند ارائه کنیم و هم‌زمان حفاظ‌های ایمنی درستی هم داشته باشیم تا میزان منفعت آن به‌مراتب بیشتر از آسیبش باشد.

به گفته پن، Claude Fable 5 جهشی قابل توجه در توانایی‌ها محسوب می‌شود و به همین دلیل آنتروپیک ناچار بوده لایه‌های محافظتی بیشتری اضافه کند. او توضیح داده که اگر کاربر پرسشی پرخطر بپرسد، مثل اینکه چگونه می‌توان ریسین ساخت، مدل پاسخ را مسدود می‌کند و Claude Opus 4.8 به‌جای آن پاسخ ایمن ارائه می‌دهد. او اظهار داشت:

آنچه ما می‌خواستیم انجام دهیم این بود که در ساخت انواع جدیدی از طبقه‌بندها و انواع تازه‌ای از حفاظ‌های ایمنی برای این رونمایی، نهایت دقت و عمد را به خرج دهیم.

آنتروپیک گفته که این حفاظ‌ها را با رویکردی محافظه‌کارانه تنظیم کرده، بنابراین ممکن است سازوکار جایگزینی بیشتر از آنچه برخی کاربران انتظار دارند فعال شود. با این حال، شرکت تأکید کرده که مواردی که Fable باید پاسخ‌گویی را به Opus 4.8 واگذار کند نادر هستند و داده‌های اولیه نشان می‌دهد دست‌کم ۹۵ درصد از نشست‌های Fable به‌طور کامل روی پاسخ‌های خود مدل اجرا می‌شوند.

پیش از عرضه این مدل، آنتروپیک گفته بود که طبقه‌بندهایش را در برابر تلاش‌های جیلبریک آزمایش کرده است. این شرکت گفت:

ما در داخل شرکت، یک برنامه باگ بانتی بیرونی اجرا کردیم که در بیش از ۱۰۰۰ ساعت آزمایش، هیچ جیلبریک فراگیری به دست نداد. سپس با سازمان‌های بیرونی رد تیمینگ نیز همکاری کردیم که آن‌ها هم نتوانستند هیچ جیلبریک فراگیری پیدا کنند.

این رونمایی همچنین شامل Claude Mythos 5 برای سازمان‌هایی است که از قبل برای دسترسی به مدل پیشرفته تأیید شده‌اند، از جمله گروه کوچکی از مدافعان سایبری و ارائه‌دهندگان زیرساخت حیاتی که از طریق Project Glasswing به آن دسترسی دارند. آنتروپیک گفته است Mythos 5 از همان مدل پایه Fable 5 استفاده می‌کند، اما در برخی حوزه‌ها محدودیت‌ها برداشته شده‌اند؛ یعنی جاهایی که Fable 5 به Claude Opus 4.8 رجوع می‌کرد، این نسخه مستقیماً عمل می‌نماید.

آنتروپیک Mythos را نخست در آوریل به‌صورت پیش‌نمایش عرضه کرده بود و در ابتدا به‌دلیل نگرانی‌های امنیت سایبری، دسترسی را به تعداد کمی از شرکا محدود کرد. بعدتر، این دسترسی را به صدها سازمان در ۱۵ کشور گسترش داد و باز هم تمرکز اصلی را بر نهادهایی گذاشت که زیرساخت حیاتی را مدیریت می‌کنند.

این استارتاپ هوش مصنوعی می‌گوید استفاده از Fable 5 و Mythos 5 مستلزم نگهداری ۳۰ روزه همه ترافیک خواهد بود، حتی برای شرکت‌هایی که پیش‌تر قراردادهای بدون نگه‌داری داده داشتند. آنتروپیک تأکید کرده که از این داده‌ها برای آموزش استفاده نخواهد کرد و تنها برای دفاع در برابر حملات پیچیده و تازه، از جمله جیلبریک‌های جدید، از آن بهره می‌گیرد.

Claude Fable 5 هم‌اکنون از طریق API کلود و طرح‌های سازمانی مبتنی بر مصرف در دسترس است. همچنین گفته شده که دسترسی از طریق اشتراک‌ها به‌تدریج فعال خواهد شد. تا ۲۲ ژوئن، Fable 5 بدون هزینه اضافی در طرح‌های Pro، Max ،Team و Enterprise مبتنی بر صندلی کاربر قرار می‌گیرد. اما از ۲۳ ژوئن، شرکت اعلام کرده که این مدل را از این طرح‌ها خارج می‌کند و برای استفاده از آن اعتبار مصرفی دریافت خواهد کرد، با این هدف که وقتی ظرفیت اجازه دهد، آن را دوباره به‌عنوان بخشی استاندارد از اشتراک بازگرداند.

Claude Mythos 5 تا زمانی که برنامه دسترسی مورد اعتماد گسترش پیدا کند، همچنان برای شرکای Glasswing محدود باقی مانده. آنتروپیک گفته انتظار دارد تقاضا برای Fable 5 بسیار بالا و پیش‌بینی آن دشوار باشد. قیمت‌گذاری هر دو مدل Fable 5 و Mythos 5 برابر با ۱۰ دلار برای هر یک میلیون توکن ورودی و ۵۰ دلار برای هر یک میلیون توکن خروجی تعیین شده که دو برابر قیمت Opus 4.8 است.

این شرکت هوش مصنوعی تنها چند روز پس از ثبت درخواست عرضه اولیه سهام، نخستین مدل Mythos-class را برای عموم منتشر کرده است. OpenAI و SpaceX نیز در آینده نزدیک قصد دارند وارد بازار عمومی شوند. عرضه Fable 5 همچنین پس از فراخوان اخیر آنتروپیک از آزمایشگاه‌های بزرگ هوش مصنوعی برای ایجاد یک سازوکار هماهنگ ترمز در توسعه هوش مصنوعی مرزی انجام شده. این شرکت هشدار داده که سیستم‌ها آن‌قدر سریع پیش می‌روند که ممکن است به‌زودی به بهبود بازگشتی خود یا RSI برسند، یعنی بتوانند بدون دخالت انسان، خودشان را ارتقا دهند.