این تراشه چندین چیپلت پردازشی را در کنار تعداد زیادی پشته حافظه HBM در خود جای میدهد.
شرکت OpenAI در این پتنت با عنوان «اتصال غیرمجاور چیپلتهای حافظه با پهنای باند بالا، چیپلتهای ورودی/خروجی و چیپلتهای پردازشی از طریق پلهای منطقی تعبیهشده»، برنامههای خود را برای یک راهکار تراشه هوش مصنوعی توضیح داده است؛ راهکاری که شامل چندین چیپلت HBM و چیپلت پردازشی میشود و همه آنها از طریق فناوری Embedded Logic Bridges به یکدیگر متصل میشوند.
این تحقیق، ایده استفاده از پلهای منطقی تعبیهشده را برای ایجاد ارتباطات پرسرعت در فاصلههای طولانیتر مطرح میکند. چنین رویکردی امکان اتصال تعداد بیشتری چیپلت را فراهم میآورد تا از پردازشهای سنگین و بارهای کاری هوش مصنوعی پشتیبانی شود؛ بارهایی که برای عملکرد کارآمد به حجم عظیمی از حافظه نیاز دارند.
راهکارهای فعلی بستهبندی تراشه محدودیتهایی در زمینه ادغام حافظه HBM دارند، چرا که این حافظه از طریق سیمهای فلزی در لایه پایه با سایر چیپلتهای موجود در پکیج ارتباط برقرار میکند. طبق استاندارد فعلی JEDEC، حافظه HBM باید در مجاورت مستقیم چیپلت پردازشی قرار بگیرد. این روش محدودیت فیزیکی دارد، زیرا طول سیمهای فلزی از کنترلر PHY روی چیپلت اصلی نباید بیش از 6 میلیمتر باشد.
پتنت OpenAI برای عبور از این محدودیت، استفاده از Embedded Logic Bridges را پیشنهاد میکند؛ فناوری که میتواند این فاصله 6 میلیمتری را تا حدود 16 میلیمتر افزایش دهد. این پلها دو مزیت مهم دارند: اول اینکه امکان ارتباط در فاصلههای طولانیتر را فراهم میکنند و دوم اینکه میتوانند نقش کنترلر برای پشتههای HBM یا یک رابط فیزیکی پرسرعت برای ارتباط میان چیپلتها در یک پکیج را ایفا کنند. این رابط D2D یا Die-to-Die نیز با استاندارد UCIe یا Universal Chiplet Interconnect Express سازگار است.
شرکت OpenAI در یکی از نمونههای ارائهشده در این پتنت، یک چیپلت پردازشی را نشان میدهد که با استفاده از Embedded Logic Bridges به 20 پشته حافظه HBM متصل شده است. در روشهای سنتی معمولا امکان اتصال تنها چهار، شش یا هشت پشته حافظه وجود دارد. چنین افزایشی میتواند ظرفیت حافظه را به شکل چشمگیری بالا ببرد و در نتیجه تراشههایی ایجاد کند که برای اجرای مدلهای بزرگتر هوش مصنوعی بسیار قدرتمندتر هستند.
هرچند، این پژوهش با فناوری EMIB یا Embedded Multi-Interconnect Bridge همسو است که هماکنون توسط شرکت اینتل نیز توسعه داده میشود. EMIB یک راهکار پیشرفته در بستهبندی تراشه است که مانند یک پل عمل میکند.
بر اساس گزارش Wccftech، این فناوری برای حل محدودیتهای فناوری بستهبندی 2.5D طراحی شده است و با استفاده از پلهای بسیار کوچک، امکان گسترش قابلیتها و طراحی تراشههای پردازشی قدرتمند را فراهم میکند. فناوری EMIB و نسخه پیشرفتهتر آن یعنی EMIB-T مزایای متعددی دارند، که از جمله آنها میتوان به سادگی طراحی، اندازه کوچک، عبور از محدودیتهای ابعاد رتیکل در اینترپوزرهای فعلی و هزینه پایینتر اشاره کرد.
حال این پرسش مطرح میشود که آیا در آینده ممکن است OpenAI از فناوری EMIB اینتل برای ساخت تراشههای هوش مصنوعی سفارشی خود با تعداد زیاد چیپلت و حجم بالای حافظه HBM استفاده کند؟ به نظر میرسد که این پتنت تا حدی به چنین مسیری اشاره دارد.
