شرکت OpenAI تیم «Preparedness» یا «آمادگی» خود را که مسئول بررسی خطرات جدی و فاجعهبار مدلهای هوش مصنوعی بود، منحل کرده است. این تیم وظیفه داشت تواناییهای خطرناک مدلهای جدید را ارزیابی کند و راهکارهایی برای کاهش ریسک پیش از عرضه آنها توسعه دهد.
از جمله خطراتی که این تیم بررسی میکرد، میتوان به حملات سایبری، تهدیدهای زیستی و رفتارهای غیرقابلکنترل مدلهای هوش مصنوعی اشاره کرد. پس از انحلال تیم، مسئولیت این حوزهها میان تیمهای تخصصی موجود در OpenAI تقسیم شده است.
OpenAI این تغییر ساختاری را بهعنوان تلاشی برای ادغام عمیقتر ملاحظات ایمنی در فرآیند توسعه مدلها مطرح کرده است؛ یعنی بهجای اینکه یک تیم مستقل در پایان فرآیند توسعه ریسکها را بررسی کند، مسائل ایمنی از مراحل ابتداییتر توسعه در تیمهای مربوطه دنبال شوند.
با این حال، این تصمیم نگرانیهایی را در میان برخی کارشناسان و کارکنان سابق OpenAI ایجاد کرده است. منتقدان معتقدند حذف یک تیم مستقل ممکن است استقلال ارزیابیهای ایمنی را کاهش دهد؛ بهخصوص زمانی که سرعت عرضه محصولات و رقابت تجاری اهمیت زیادی پیدا کرده است.
این اتفاق در شرایطی رخ داده که OpenAI در ماههای اخیر با تغییرات مدیریتی و خروج چند چهره فعال در حوزه ایمنی و اخلاق هوش مصنوعی نیز مواجه بوده است. از جمله این افراد میتوان به Johannes Heidecke، مسئول بخش Safety Systems، و Chloé Bakalar، مدیر اخلاق OpenAI، اشاره کرد.
اهمیت این تصمیم زمانی بیشتر میشود که OpenAI همچنان در حال توسعه مدلهای قدرتمندتر است و حتی در چارچوب رسمی Preparedness خود، ارزیابی خطرات فاجعهبار و نظارت بر قابلیتهای پرریسک مدلها را بخش مهمی از فرآیند عرضه میداند.
در نتیجه، انحلال Preparedness لزوماً به معنای کنار گذاشتن ایمنی در OpenAI نیست، اما نحوه سازماندهی فعالیتهای ایمنی تغییر کرده است؛ تغییری که با توجه به افزایش توانایی مدلهای هوش مصنوعی، احتمالاً همچنان محل بحث و انتقاد خواهد بود.
