دیپسیک مدعی شده راهکاری ارائه کرده است که میتواند هوش مصنوعی را تا ۸۵ درصد سریعتر کند، آن هم بدون نیاز به پیشرفتهترین تراشههای هوش مصنوعی.
دیپسیک از چارچوب DSpark رونمایی کرده که میتواند سرعت پاسخدهی هوش مصنوعی را افزایش دهد. این شرکت اعلام کرده که با استفاده از این فناوری، سرعت پاسخگویی مدلهای هوش مصنوعی تا ۸۵ درصد بیشتر میشود و برای دستیابی به این عملکرد نیازی به استفاده از تراشههای پیشرفته و پرچمدار نیست.
دیپسیک و بسیاری از شرکتهای چینی دیگر به دلیل محدودیتهای اعمالشده از سوی آمریکا، امکان دسترسی به تراشههای پیشرفته را ندارند. با افزایش روزافزون تقاضا برای استفاده از مدلهای هوش مصنوعی، شرکتهای فعال در این حوزه با چالش جدی کمبود منابع پردازشی روبهرو شدهاند. مراکز داده برای اجرای این مدلها به هزاران پردازنده گرافیکی پیشرفته نیاز دارند. در همین حال، شرکتهای چینی از جمله دیپسیک به دلیل تحریمها و محدودیتهای صادراتی آمریکا، امکان خرید تراشههای پیشرفته شرکتهایی مانند انویدیا را ندارند. با این وجود، این استارتاپ چینی اعلام کرده که راهکاری یافته که نهتنها سرعت پاسخدهی مدلهای هوش مصنوعی را به شکل قابل توجهی افزایش میدهد، بلکه بدون نیاز به جدیدترین تراشههای هوش مصنوعی نیز قابل اجرا است.
دیپسیک چارچوبی با نام DSpark را برای خانواده مدلهای V4 خود معرفی کرده است. این شرکت میگوید استفاده از این فناوری میتواند سرعت پاسخدهی مدلها را تا ۸۵ درصد افزایش دهد. برای نمونه، اگر پیش از این یک پردازنده گرافیکی توانایی پاسخگویی به ۱۰۰ درخواست کاربران را داشت، اکنون با استفاده از این چارچوب قادر خواهد بود حدود ۱۸۵ درخواست را مدیریت کند.
مدل کوچکتر وظیفه تولید پاسخ را بر عهده دارد و مدل بزرگتر آن را بررسی میکند
#به گفته دیپسیک، هدف اصلی DSpark افزایش سرعت مرحله استنتاج در هوش مصنوعی است؛ بخشی که مدتزمان لازم برای تولید پاسخ به درخواست کاربر را مشخص میکند و یکی از مهمترین گلوگاههای ارائه خدمات هوش مصنوعی به شمار میرود.
مدلهای زبانی معمولاً متن را بهصورت توکنبهتوکن تولید میکنند. این روند بهویژه هنگام تولید پاسخهای طولانی، موجب کاهش بهرهوری پردازندههای گرافیکی و اتلاف منابع پردازشی میشود. توکنها واحدهای پایهای پردازش در مدلهای هوش مصنوعی هستند و هرچه حجم پردازش بیشتر باشد، تعداد توکنهای مصرفی نیز افزایش پیدا میکند.
DSpark برای حل این مشکل از روش رمزگشایی حدسی استفاده میکند. بر اساس توضیح این شرکت، یک مدل سبک و کوچک ابتدا پاسخهای احتمالی را با سرعت بالا پیشنهاد میدهد و سپس مدل اصلی این پاسخها را بهصورت گروهی بررسی و تأیید میکند، بدون اینکه مجبور باشد کل پاسخ را از ابتدا تولید نماید.
به بیان دیگر، مدل کوچکتر بخش عمده تولید پاسخ را انجام میدهد و مدل بزرگتر تنها مسئول اعتبارسنجی آن است. اگر پاسخ پیشنهادی صحیح باشد، سیستم بدون توقف به مراحل بعدی میرود و اگر اشتباهی وجود داشته باشد، دوباره به روش عادی بازمیگردد. دیپسیک معتقد است از آنجا که پیشبینی بیشتر توکنها ساده بوده، سیستم در بسیاری از مواقع میتواند بدون وقفه ادامه دهد.
این شرکت اعلام کرده که چنین روشی موجب افزایش قابل توجه سرعت تولید خروجی میشود. تمام این فرآیند نیز مستقیماً روی پردازنده گرافیکی انجام میشود و هیچ بخشی از پردازش به پردازنده مرکزی منتقل نمیگردد.
این چارچوب همچنین از روش تولید نیمه خودرگرسیو استفاده مینماید. به این ترتیب، به جای اینکه پاسخها بهصورت تکتک توکنها تولید گردند، چند توکن به شکل همزمان و در قالب بستههای کوچک ایجاد میشوند که این موضوع سرعت کلی فرآیند را بیشتر میکند.
آیا این روش استفاده از هوش مصنوعی را کارآمدتر میکند؟
#دیپسیک نتایج پژوهش مربوط به DSpark را که با همکاری دانشگاه پکن انجام شده، بهصورت متنباز در GitHub و Hugging Face منتشر کرده است. این شرکت تأکید میکند که این فناوری تواناییهای کلی مدل را افزایش نمیدهد، اما میتواند بدون نیاز به سرمایهگذاری گسترده برای خرید منابع پردازشی جدید، عملکرد مدلها را بهبود ببخشد.
این شرکت DSpark را روی چندین مدل متنباز از جمله Gemma متعلق به گوگل دیپمایند و Qwen متعلق به علیبابا آزمایش کرده. نتایج این آزمایشها نشان میدهد که مزایای این فناوری میتواند در مدلهای دیگر نیز مورد استفاده قرار گیرد.
این دستاورد در شرایطی اهمیت بیشتری پیدا میکند که شرکتهای فعال در حوزه هوش مصنوعی میلیاردها دلار برای توسعه مراکز داده و خرید توان پردازشی بیشتر هزینه میکنند. از سوی دیگر، شرکتهایی مانند اوبر و والمارت نیز به دلیل افزایش هزینهها، میزان مصرف توکنهای هوش مصنوعی توسط کارکنان خود را محدود کردهاند.
دیپسیک در ماه آوریل سال جاری نسخه V4 Preview را بهصورت متنباز منتشر کرد و این خانواده از مدلها را بهعنوان گزینهای مقرونبهصرفه برای پردازش ورودیهایی با ظرفیت یک میلیون توکن معرفی نمود. این شرکت اعلام کرده که نسخه V4-Pro برای دستیابی به بالاترین سطح عملکرد توسعه یافته، در حالی که نسخه V4-Flash با هدف ارائه سرعت بیشتر و هزینه کمتر طراحی شده است.
البته دیپسیک تنها شرکتی نیست که روی افزایش سرعت پاسخگویی مدلهای هوش مصنوعی کار میکند. اوایل همین ماه، تیم هوش مصنوعی شیائومی اعلام کرد که موفق شده سرعت تولید خروجی مدل MiMo-V2.5-Pro-UltraSpeed را به بیش از ۱۰۰۰ توکن در هر ثانیه برساند که این میزان در میان سریعترین نرخهای تولید خروجی در صنعت هوش مصنوعی قرار میگیرد.
