مدل هوش مصنوعی Hy4 تنسنت با ۷۷۰ میلیارد پارامتر متن‌باز شد

شرکت چینی Tencent از مدل زبانی جدید خود با نام Hy4 preview رونمایی و وزن‌های آن را به‌صورت متن‌باز منتشر کرد. این مدل نسل جدید خانواده Hunyuan است و با تمرکز بر کارهای واقعی مانند برنامه‌نویسی، تحلیل داده، فعالیت‌های اداری و پژوهش‌های علمی توسعه یافته است.

Hy4 preview یک مدل Mixture of Experts یا MoE است که در مجموع ۷۷۰ میلیارد پارامتر دارد، اما در پردازش هر توکن تنها حدود ۴۹ میلیارد پارامتر فعال می‌شوند. این معماری به مدل اجازه می‌دهد ظرفیت بسیار بالایی داشته باشد، بدون اینکه تمام پارامترها در هر مرحله محاسباتی فعال شوند.

یکی از ویژگی‌های مهم Hy4، پنجره زمینه بیش از یک میلیون توکن است. چنین ظرفیتی به مدل اجازه می‌دهد حجم بسیار زیادی از متن، کد یا اسناد را در یک فرایند پردازش کند و برای کارهایی مانند تحلیل چندین فایل، پروژه‌های نرم‌افزاری طولانی و بررسی اسناد پیچیده کاربردی باشد.

Tencent می‌گوید Hy4 برای برنامه‌نویسی، کارهای اداری، تحلیل مالی، توسعه بازی و تحقیقات علمی بهینه شده است. برای مثال، این مدل می‌تواند در پروژه‌های نرم‌افزاری طولانی به درک کد، برنامه‌ریزی، اشکال‌زدایی و اعتبارسنجی کمک کند. در توسعه بازی نیز قادر است بر اساس یک درخواست متنی، نمونه اولیه قابل اجرا ایجاد کند.

در بخش پژوهش‌های علمی نیز Tencent ادعا می‌کند Hy4 در حل مسائل پیچیده در حوزه‌هایی مانند تحقیقات هوش مصنوعی، شبیه‌سازی دینامیک مولکولی، فیزیک ماده چگال و ریاضیات پیشرفت قابل توجهی داشته است. این موضوع نشان می‌دهد تمرکز مدل فقط روی چت و تولید متن نیست و برای انجام وظایف تخصصی‌تر نیز طراحی شده است.

Tencent برای مقایسه عملکرد Hy4 با مدل‌های رقیب، یک ارزیابی داخلی با حضور ۱۶۳ متخصص و روی ۲۰۳ وظیفه مهندسی انجام داده است. Hy4 میانگین امتیاز ۲.۹۹ از ۴ را به دست آورد؛ در همین آزمایش GLM-5.3 امتیاز ۲.۹۲ و Kimi K3 امتیاز ۲.۹۴ گرفتند. البته این نتایج توسط خود Tencent انجام شده‌اند و نباید آنها را با یک بنچمارک مستقل اشتباه گرفت.

نکته جالب دیگر این است که Tencent می‌گوید Hy4 در بخشی از فرایند توسعه خودش نیز مورد استفاده قرار گرفته است. این مدل در بهینه‌سازی روش‌های آموزشی، استراتژی‌های داده، چارچوب‌های ارزیابی و برخی اپراتورهای سطح پایین مشارکت داشته و طبق اعلام شرکت، بهینه‌سازی‌های انجام‌شده باعث افزایش ۳۱.۸ درصدی توان عملیاتی سراسری سیستم استنتاج نسبت به خط پایه شده است.

Hy4 preview از طریق Hugging Face، ModelScope، GitCode و CNB منتشر شده و تحت مجوز Apache 2.0 قرار دارد. بنابراین توسعه‌دهندگان می‌توانند مدل را دریافت و در پروژه‌های خود استفاده یا آن را برای نیازهای خاص خود تنظیم کنند.

کاربران همچنین می‌توانند Hy4 را از طریق محصولات Tencent مانند WorkBuddy و CodeBuddy امتحان کنند. این شرکت اعلام کرده دسترسی رایگان به Hy4 preview در این دو سرویس برای مدت دو هفته ارائه می‌شود. دسترسی API نیز از طریق Tencent Cloud TokenHub و OpenRouter امکان‌پذیر است.

با این حال، خود Tencent تأکید کرده که Hy4 preview هنوز یک نسخه اولیه است و مشکلاتی مانند طولانی شدن بیش از حد فرایند استدلال در برخی وظایف پیچیده و بررسی مجدد بیش از اندازه پاسخ‌ها دارد. بنابراین عملکرد نسخه فعلی را نباید نسخه نهایی Hy4 در نظر گرفت.