کوالکام قصد دارد تراشه های اسنپدراگون ۸ الیت نسل ۶ و اسنپدراگون ۸ الیت نسل ۶ پرو را در اجلاس سالانه Snapdragon Summit، در ۲۲ سپتامبر معرفی کند.
این شرکت پیش از برگزاری رویداد، جزئیات بهبودهای اعمال شده در واحد پردازش عصبی Hexagon یکی از این تراشه ها را منتشر کرده است؛ هرچند به احتمال زیاد منظور، NPU اسنپدراگون ۸ الیت نسل ۶ پرو است.
NPU جدید برای هوش مصنوعی عامل محور طراحی شده و از شتاب دهنده Element Accelerator با تمرکز بر مدل های ترنسفورمری بهره می برد. همچنین اندازه حافظه اشتراکی آن ۵۰ درصد افزایش یافته است تا داده های مدل که بیشتر مورد استفاده قرار می گیرند، در نزدیکی NPU باقی بمانند. به گفته کوالکام، این تغییر به عامل های هوش مصنوعی کمک می کند هنگام کار با زمینه های طولانی تر، ابزارهای بیشتر و وظایف هم زمان، پاسخ گویی خود را حفظ کنند. در نتیجه، گلوگاه های حافظه کاهش می یابد و تجربه هوش مصنوعی عامل محور سریع تر و پاسخ گوتر می شود.
Element Accelerator به طور اختصاصی برای پردازش های ترنسفورمری مورد استفاده در هوش مصنوعی مولد و عامل محور ساخته شده است. این شتاب دهنده در کنار افزونه های اسکالر، برداری و ماتریسی، عملیات مهم مدل های بزرگ را سریع تر اجرا می کند تا عامل ها سریع تر پاسخ دهند، استدلال کارآمدتری داشته باشند و بدون کاهش بهره وری انرژی در گوشی های هوشمند، تجربه غنی تری ارائه کنند.
کوالکام همچنین می گوید NPU جدید در مرحله پیش پردازش مدل های INT4 تا ۵۰ درصد سریع تر عمل می کند و برای مدل های Mixture-of-Experts یا MoE که در هر توکن تنها بخشی از پارامترهای خود را فعال می کنند، تناسب بالایی دارد. Hexagon NPU جدید برای هوش مصنوعی همیشه فعال، استدلال با زمینه طولانی، مدل های چندوجهی، عامل های هم زمان و حلقه های کنش کم تأخیر طراحی شده است.
منبع: GSMArena
