این شرکت مستقر در آکسفورد اعلام کرده است که سرور جدید آن قادر است مدلهای زبانی بزرگ را به صورت بلادرنگ پردازش کند و در عین حال مصرف برق را تا ۹۰ درصد کاهش دهد. این فناوری میتواند پاسخی به بحران روبهرشد مصرف انرژی در زیرساختهای هوش مصنوعی باشد.
در حال حاضر، بیشتر سیستمهای محاسباتی بر پایه تراشههای سیلیکونی فعالیت میکنند، اما این فناوری به محدودیتهای جدی در بهرهوری نزدیک شده است. هرچند نسلهای جدید پردازندهها توان پردازشی بیشتری ارائه میدهند، اما افزایش توان معمولاً با رشد تصاعدی مصرف انرژی همراه است؛ مسئلهای که مقیاسپذیری مراکز داده را با چالش مواجه کرده است.
با رشد سریع تقاضا برای خدمات مبتنی بر هوش مصنوعی، مراکز داده نیز به مصرفکنندگان بزرگ انرژی تبدیل شدهاند. برآوردها نشان میدهد که تقاضای جهانی برای برق تا پایان این دهه ممکن است دو برابر شود. در چنین شرایطی، شرکت لومی معتقد است که تغییر رویکرد از الکترون به فوتون میتواند مسیر تازهای برای آینده پردازشها باز کند.
در سیستم جدید، بهجای جریان الکترونها از نور برای انجام محاسبات استفاده میشود. این تغییر باعث میشود محدودیتهای معماری دوبعدی تراشههای سیلیکونی کنار زده شود و امکان پردازش موازی در مقیاس بسیار گسترده فراهم شود. به گفته این شرکت، استفاده از نور در یک حجم سهبعدی به سیستم اجازه میدهد میلیونها عملیات را به صورت همزمان انجام دهد.
سرور Iris Nova از یک پردازنده هیبریدی بهره میبرد که در آن موتور تنسوری نوری وظیفه انجام محاسبات ریاضی را بر عهده دارد، در حالی که پردازش دیجیتال، کنترل و مدیریت سیستم را انجام میدهد. این ترکیب باعث میشود که سیستم بتواند هم از سرعت بالای پردازش نوری بهره ببرد و هم دقت و پایداری کنترل دیجیتال را حفظ کند.
لومی که به عنوان یک شرکت منشعب از دانشگاه آکسفورد فعالیت میکند، اعلام کرده است که پردازندههای نوری آن میتوانند عملکردی معادل سیستمهای سنتی ارائه دهند، اما مصرف انرژی بسیار کمتر است. این موضوع میتواند تأثیر مستقیمی بر کاهش هزینههای عملیاتی و کاهش فشار بر زیرساختهای انرژی داشته باشد.
شرکت لومی برای نمایش تواناییهای این فناوری، اجرای مدلهای Llama 8B و 70B را به صورت بلادرنگ روی سرور Iris Nova انجام داده است. این آزمایش نشان میدهد که این سیستم نهتنها از نظر عملکرد رقابتی است، بلکه میتواند به راحتی در مراکز داده موجود ادغام شود و با زیرساختهای فعلی سازگار باشد.
این شرکت اعلام کرده است که سرور Nova را برای ارزیابی در اختیار شرکتهای بزرگ ابری، نئوکلاودها، سازمانها و مراکز تحقیقاتی قرار داده است. همچنین دو محصول دیگر با نامهای Aura و Tetra نیز در دست توسعه قرار دارند که ظرفیت بالاتر و کارایی بیشتری ارائه خواهند داد.
در همین حال، سوراج برامهار از آژانس تحقیقاتی ARIA تأکید کرده است که نیاز به مسیرهای جدید برای مقیاسپذیری پردازشهای هوش مصنوعی بسیار فوری است و پردازندههای نوری میتوانند یکی از گزینههای کلیدی در این مسیر باشند. مدیرعامل لومی نیز اعلام کرده است که صنعت فناوری در حال ورود به دورهای فراتر از سیلیکون است و عصر جدیدی از پردازشهای مبتنی بر نور در راه است.
