По време на конференцията ISSCC 2021, Samsung говори за нов тип RAM памет, базирана на многослойна HBM2, която е оборудвана с интегриран AI процесор с теоретична изчислителна мощност от 1.2 терафлопа. Това решение се нарича HBM-PIM и позволява на интелигентната памет да извършва самостоятелно операции, които обикновено са запазени за CPU, GPU, ASIC или FPGA.
Иновативният клас памет е предназначен да улесни миграцията на данни между паметта и процесора, което често е по-скъпо по отношение на мощност и време, отколкото действителните изчислителни операции. Samsung твърди, че когато се прилага към съществуващата памет HBM2 Aquabolt, тази технология може да осигури двойна производителност на системата, като същевременно намалява консумацията на енергия с повече от 70%.
Друг важен момент е, че HBM-PIM не изисква промени в софтуера или хардуера (включително контролерите на паметта), което значително ще ускори и опрости пускането на технологията на пазара. Samsung казва, че паметта вече се тества в ускорители за изкуствен интелект, включително и външни партньори. Компанията очаква всички предварителни етапи да бъдат завършени през първата половина на 2021 година.
В архитектурно отношение всяка банка памет има вграден програмируем изчислителен блок (PCU), работещ на 300 MHz. Паметта може да работи или в стандартен режим HBM2, или в режим PIM (обработка в паметта) за обработка на данни. Може да се отбележи, че на слайдовете технологията се нарича FIMDRAM (function-in-memory), но когато стане общо достъпна ще бъде точно с наименованието HBM-PIM.
Очевидно въвеждането на PCU намалява използваемото количество памет – всяка матрица с PCU има половината капацитет (4 Gb) в сравнение със стандартната HBM2 матрица (8 Gb). За да се справи с този проблем, Samsung използва 6 GB стекове, като комбинира четири 4 Gb кристала с четири кристала 8 Gb без PCU модули. Връщайки се към HBM2, стандартният стек е 8 GB от осем 8Gb кристала.
Куангил Парк, старши вицепрезидент за продуктово планиране на паметта в Samsung Electronics, каза:
„Нашето новаторско HBM-PIM решение е първото програмируемо PIM решение в индустрията, пригодено за разнообразни натоварвания, управлявани от AI, като високопроизводителни изчисления, машинно обучение и други AI операции. Планираме да усъвършенстваме технологията чрез по-нататъшни партньорства с доставчици на решения за изкуствен интелект за усъвършенствани PIM приложения.“
Източник: Overclockers.ua
Това не го бях виждал – я да вкараме процесора вътре в паметта. Хитро. Прости операции да се правят директно в паметта, без да се налага да излизат и влизат обратно в нея. По-сложната логика се управлява от стандартен процесор.
Обаче това сега само за AI ситемите ли е насочено? Списъка с операциите е много малък, сигурно само за тензорите или пък некой филтър.
Това AI е голяма работа новия бум. Интересно мие всички тези хора които инвестират в това имат ли наистина представа в какво инвестират и защо :)