کوالکام حافظه LPDDR را به جای HBM در تراشه‌های هوش مصنوعی نوین بکار می‌گیرد

کوالکام در تراشه‌های هوش مصنوعی نوین، LPDDR را جایگزین HBM کرد

کوالکام از نسل جدید تراشه‌های هوش مصنوعی خود رونمایی کرد. این پردازنده‌ها برای کارهای استنتاجی در مقیاس رک طراحی شده‌اند، اما نکته متمایزکننده آن‌ها بهره‌گیری از حافظه موبایل LPDDR است. شرکتی که تا پیش از این متمرکز بر بازار موبایل بود، اکنون حوزه فعالیت خود را به محاسبات مصرفی و زیرساخت هوش مصنوعی گسترش داده است.

معرفی راه‌حل‌های AI ۲۰۰ و AI ۲۵۰

به گزارش تکنا با استناد به بخش صنعت نیمه‌هادی، دو راه‌حل تازه AI 200 و AI 250 برای پیکربندی‌های مقیاس رک معرفی شده‌اند. این حرکت تنها ورود یک بازیگر جدید به فضایی که بر آن اینویدیا و ای‌ام‌دی hakim هستند را رقم نمی‌زند، بلکه یک پیاده‌سازی منحصر‌به‌فرد را با اتکا به حافظه LPDDR موبایل در پیش می‌گیرد. این محصولات تا ۷۶۸ گیگابایت حافظه LPDDR را روی بسته شتاب‌دهنده در اختیار می‌گذارند، ظرفیتی که به طور قابل‌توجهی فراتر از حافظه‌های HBM صنعتی است.

مزایای رویکرد حافظه نزدیک (Near-Memory)

جذابیت اصلی این معماری، کاهش هزینه و انرژی جابجایی داده است که به آن «رویکرد حافظه نزدیک» می‌گویند. استفاده از LPDDR مزایای سنتی نظیر کارایی انرژی بهتر، هزینه کمتر نسبت به ماژول‌های مدرن HBM، چگالی حافظه بالا و بازده حرارتی بالاتر را به همراه دارد، زیرا اتلاف گرما کمتر است.

چالش‌ها در مقایسه با رقبای اصلی

با وجود رویکرد به ظاهر خوش‌بینانه، این پیاده‌سازی در مقایسه با گزینه‌های پرچم‌دار اینویدیا و ای‌ام‌دی تا کنون ضعفی دارد. عدم استفاده از HBM منجر به پهنای باند حافظه کمتر و تأخیر بالاتر می‌شود، بر اثر رابط باریک‌تر. در نتیجه این پشته حافظه برای محیط‌های سروری پر‌حرارت و کار مداوم تا به امروز به بلوغ کامل نرسیده است.

مقصد کاربرد و محدودیت‌ها

هدف کوالکام، ارائه گزینه‌ای قدرتمند برای استنتاج است و LPDDR این مقصد را محقق می‌سازد. با این حال، این انتخاب کاربرد پیکربندی‌های رک را به سناریوهای خاص محدود می‌کند. راه‌حل‌های AI ۲۰۰ و AI ۲۵۰ از خنک‌کننده مایع مستقیم، پروتکل‌های PCIe و اترنت بهره می‌برند. مصرف توان ۱۶۰ کیلوواتی در سطح رک نیز رقمی پایین برای راه‌حل‌های امروزی محسوب می‌شود.

معماری پردازش عصبی هگزاگون

تراشه‌های داخلی از واحدهای پردازش عصبی هگزاگون استفاده می‌کنند که قابلیت‌های استنتاج آن‌ها به سرعت در حال گسترش است. این واحدها از فرمت‌های داده پیشرفته و ویژگی‌های متمرکز بر استنتاج پشتیبانی می‌کنند. حرکت به سمت راه‌حل‌های استنتاجی توانمند توسط طیف وسیعی از ارائه‌دهندگان محاسبات در حال انجام است؛ مثال‌های تازه شامل راه‌حل جزیره کرسنت اینتل و تراشه هوش مصنوعی روبین سی‌پی‌ایکس انویدیا می‌باشند.

دیدگاه بازار و آینده رقابت

به نظر می‌رسد کوالکام متوجه شده که بخش استنتاج در حال جذب توجه بازار است؛ از این رو راه‌حل‌های AI ۲۰۰ و AI ۲۵۰ رویکردی منطقی به نظر می‌رسند. با این حال برای آموزش مدرن یا بارهای کاری مقیاس بزرگ، به احتمال زیاد این رک‌ها گزینه نهایی نخواهند بود. ظهور رقابت در فضای هوش مصنوعی هیجان‌انگیز است و به نظر می‌رسد خرده‌فروشان نسبت به این اعلامیه‌ها خوش‌بینی قابل‌توجهی نشان داده‌اند.