Qualcomm представила архитектуру HBC для AI-ускорителей с 6-кратной энергоэффективностью

Qualcomm официально представила архитектуру HBC (High-Bandwidth Compute), разработанную для преодоления ключевого ограничения в задачах искусственного интеллекта — так называемой «memory wall». Проблема заключается в том, что рост вычислительных мощностей опережает развитие пропускной способности памяти, что снижает эффективность работы нейросетей. Решение Qualcomm предполагает разделение AI-ускорителя и системы на кристалле (SoC), размещая вычислительный модуль непосредственно под стеком LPDDR-памяти.

В основе технологии лежит использование кремниевых переходов (through-silicon vias), которые обеспечивают максимальную пропускную способность и ёмкость без применения дорогостоящей памяти HBM и сложных методов упаковки. По заявлениям компании, HBC демонстрирует шестикратное превосходство в пропускной способности на ватт по сравнению с HBM и более чем 200-кратное увеличение ёмкости относительно встроенной SRAM. Это позволяет снизить энергопотребление, тепловыделение и исключить необходимость в дорогих межсоединениях, характерных для HBM-решений.

Вместе с архитектурой HBC Qualcomm анонсировала дорожную карту ускорителей. Первым станет AI200, выход которого запланирован на конец 2024 года. Он будет использовать память LPDDR5X и обеспечивать до 43 ТБ ОЗУ на стойку. Следующее поколение — AI250 — получит поддержку первой версии HBC с 18-кратным увеличением пропускной способности относительно AI200. Завершит линейку AI350 с удвоенной производительностью за счёт второй версии HBC. Компания подчёркивает, что технология позволяет масштабировать производительность без значительного роста стоимости.

Ранее попытки интеграции памяти и логики предпринимали и другие производители, однако широкого распространения такие решения не получили. Например, компания GUC предложила технологию DRAM-on-Logic (DoL), обеспечивающую до 5 ТБ/с пропускной способности без использования HBM3E. Однако Qualcomm не раскрывает конкретные технические характеристики HBC, что затрудняет прямое сравнение с конкурирующими разработками. Неясно также, какие именно задачи будет решать новый ускоритель — от специализированных трансформеров до универсальных тензорных ядер.