OpenAI مدل‌های آینده خود را پیش از عرضه، به صورت داوطلبانه در اختیار دولت آمریکا قرار می‌دهد

OpenAI تأیید کرده است که به‌صورت داوطلبانه با دستور اجرایی جدید دونالد ترامپ درباره ارزیابی مدل‌های هوش مصنوعی همکاری خواهد کرد. بر اساس این طرح، توسعه‌دهندگان می‌توانند مدل‌های پیشرفته خود را حدود ۳۰ روز پیش از عرضه عمومی برای انجام آزمون‌های امنیتی و سنجش توانمندی‌های سایبری در اختیار دولت آمریکا قرار دهند؛ اقدامی که می‌تواند به شکل‌گیری نخستین چارچوب رسمی برای نظارت بر مدل‌های مرزی هوش مصنوعی منجر شود.

رقابت جهانی بر سر هوش مصنوعی دیگر فقط به توسعه مدل‌های قدرتمندتر محدود نمی‌شود و حالا موضوع نظارت و ارزیابی امنیتی این فناوری نیز به یکی از اولویت‌های دولت‌ها تبدیل شده است. در همین راستا، OpenAI اعلام کرده که از دستور اجرایی جدید دولت ترامپ حمایت خواهد کرد و نسل بعدی مدل‌های خود را پیش از عرضه عمومی در اختیار فرآیند ارزیابی دولت آمریکا قرار می‌دهد.

این تصمیم می‌تواند یکی از نخستین گام‌های عملی در مسیر ایجاد سازوکارهای رسمی برای نظارت بر مدل‌های موسوم به «مرزی» یا Frontier AI Models باشد؛ مدل‌هایی که به دلیل توان پردازشی و قابلیت‌های پیشرفته خود، از نگاه بسیاری از کارشناسان می‌توانند پیامدهای امنیتی و اقتصادی گسترده‌ای داشته باشند.

بر اساس دستور اجرایی جدیدی که دونالد ترامپ در هفته جاری امضا کرده، توسعه‌دهندگان هوش مصنوعی تشویق می‌شوند مدل‌های جدید خود را پیش از انتشار عمومی در اختیار دولت آمریکا قرار دهند تا تحت مجموعه‌ای از آزمون‌ها و ارزیابی‌های تخصصی قرار گیرند.

نکته مهم اینجاست که این دستور شرکت‌ها را ملزم به انجام چنین کاری نمی‌کند و جنبه داوطلبانه دارد. با این حال، OpenAI نخستین شرکت بزرگی است که به‌طور رسمی از مشارکت در این فرآیند خبر داده است.

جرج آزبورن، رئیس بخش امور کشورها در OpenAI، در جریان رویداد SXSW لندن اعلام کرد که این شرکت با نسل بعدی مدل‌های خود در برنامه ارزیابی دولت آمریکا شرکت خواهد کرد. به گفته وی، OpenAI مدت‌هاست پیشنهادهایی را برای کمک به دولت‌ها در زمینه پایش مخاطرات امنیتی و ایمنی هوش مصنوعی ارائه می‌دهد و از شکل‌گیری چارچوب‌های نظارتی شفاف در این حوزه حمایت می‌کند.

OpenAI معتقد است توسعه مسئولانه هوش مصنوعی نیازمند سازوکارهایی برای ارزیابی و مدیریت مخاطرات احتمالی این فناوری است.

بر اساس توضیحات منتشرشده، هدف اصلی این برنامه سنجش قابلیت‌های پیشرفته سایبری مدل‌های هوش مصنوعی و تعیین سطح ریسک آن‌ها است.

در این چارچوب، مدل‌ها تحت آزمون‌هایی قرار می‌گیرند تا مشخص شود آیا توانایی‌هایی فراتر از آستانه‌های تعریف‌شده دارند یا خیر. در صورت عبور از این آستانه‌ها، یک مدل ممکن است در طبقه‌بندی «Covered Frontier Model» قرار گیرد؛ اصطلاحی که به مدل‌های بسیار پیشرفته با قابلیت‌های بالقوه حساس اطلاق می‌شود.

این دسته از مدل‌ها می‌توانند در حوزه‌هایی مانند تولید کد، تحلیل آسیب‌پذیری‌های امنیتی، اتوماسیون وظایف پیچیده و سایر کاربردهای پیشرفته عملکردی فراتر از سامانه‌های متعارف داشته باشند.

نکته جالب اینجاست که نسخه اولیه این دستور اجرایی بسیار سخت‌گیرانه‌تر بوده است. در پیش‌نویس اولیه، شرکت‌های فعال در حوزه هوش مصنوعی باید مدل‌های خود را تا 90 روز پیش از عرضه عمومی در اختیار دولت قرار می‌دادند. اما این پیشنهاد با انتقادات گسترده‌ای از سوی فعالان صنعت فناوری و پژوهشگران مواجه شد.

منتقدان معتقد بودند چنین رویکردی می‌تواند روند نوآوری را کند کرده و نگرانی‌هایی درباره محرمانگی فناوری‌های اختصاصی شرکت‌ها ایجاد کند.

در نهایت نسخه نهایی دستور اجرایی با رویکردی نرم‌تر منتشر شد و بازه زمانی موردنظر به 30 روز کاهش یافت. همچنین مشارکت شرکت‌ها نیز به‌صورت داوطلبانه تعریف شد.

اقدام جدید دولت آمریکا را می‌توان بخشی از تلاش گسترده‌تر برای تدوین استانداردهای نظارتی در حوزه هوش مصنوعی دانست؛ حوزه‌ای که طی دو سال گذشته با ظهور مدل‌های مولد قدرتمند، به یکی از مهم‌ترین موضوعات سیاست‌گذاری فناوری در جهان تبدیل شده است.

در شرایطی که مدل‌های جدید هر روز توانمندتر می‌شوند و قابلیت‌هایی مانند تولید کد، تحلیل داده‌های پیچیده و انجام وظایف چندمرحله‌ای را با دقت بیشتری انجام می‌دهند، نگرانی‌ها درباره سوءاستفاده‌های احتمالی، تهدیدات سایبری و مخاطرات امنیتی نیز افزایش یافته است.

به همین دلیل بسیاری از دولت‌ها و نهادهای بین‌المللی در تلاش هستند چارچوب‌هایی برای ارزیابی ایمنی و قابلیت‌های این مدل‌ها تدوین کنند؛ موضوعی که حالا به نظر می‌رسد در آمریکا وارد مرحله اجرایی شده است.

هرچند دستور اجرایی جدید ترامپ شرکت‌ها را مجبور به ارائه مدل‌های خود نمی‌کند، اما اعلام همکاری OpenAI نشان می‌دهد بخشی از صنعت هوش مصنوعی آماده تعامل نزدیک‌تر با نهادهای قانون‌گذار است.

این همکاری می‌تواند در آینده به شکل‌گیری استانداردهای مشخص برای ارزیابی مدل‌های پیشرفته هوش مصنوعی منجر شود؛ استانداردهایی که احتمالاً نقش مهمی در تعیین مسیر توسعه نسل‌های بعدی سامانه‌های هوش مصنوعی ایفا خواهند کرد.

در حال حاضر مشخص نیست سایر بازیگران بزرگ این صنعت مانند Google DeepMind، Anthropic یا xAI نیز به این برنامه خواهند پیوست یا خیر، اما مشارکت OpenAI می‌تواند نقطه آغاز مهمی برای شکل‌گیری رابطه‌ای جدید میان دولت‌ها و توسعه‌دهندگان پیشرفته‌ترین مدل‌های هوش مصنوعی جهان باشد.