SK hynix и TetraMem представили экспериментальный чип для энергоэффективного edge AI
Фото: Tom's Hardware
Краткий ответ
SK hynix и TetraMem разработали мемристорный чип для edge AI, который ускоряет обработку нейросетей при минимальном энергопотреблении.
Компании SK hynix и TetraMem совместно с учёными из Университета Южной Калифорнии представили экспериментальный чип на базе мемристоров для устройств edge AI. Решение основано на технологии in-memory computing (IMC), которая позволяет выполнять вычисления непосредственно в массиве памяти, сокращая энергозатраты и ускоряя обработку нейросетей.
Чип содержит 10 нейропроцессорных блоков (NPU), один из которых оптимизирован для глубинной свёртки (DWC) — ключевой операции в лёгких моделях, таких как MobileNet. Остальные девять NPU отвечают за точечные и плотные операции. Для повышения эффективности DWC-блок использует зигзагообразную топологию массива, что позволяет параллельно выполнять 28 независимых свёрток 3×3.
В тестах чип продемонстрировал энергоэффективность до 21,3 TOPS/Вт при частоте 100 МГц, что на порядок превосходит показатели Nvidia A100 в режиме INT8. Однако его реальная производительность остаётся под вопросом: пиковое значение в 2,54 TOPS в 16 раз ниже требований Microsoft Copilot+, а в экспериментах использовались не все NPU. Кроме того, точность мемристоров ограничена 2 битами, что компенсируется за счёт двухканальной архитектуры.
Разработка подтверждает потенциал мемристорных технологий для edge AI, но требует дальнейших исследований для достижения конкурентоспособной производительности. Чип изготовлен по устаревшему 65-нм техпроцессу, что также влияет на его перспективы.
Частые вопросы
- Что такое мемристорный чип и как он работает?
- Мемристорный чип выполняет аналоговые вычисления прямо в массиве памяти, сокращая перемещение данных и снижая энергопотребление. Это перспективная технология для устройств edge AI, где важна энергоэффективность.
- Какие преимущества даёт новая разработка SK hynix и TetraMem?
- Чип демонстрирует высокую энергоэффективность (до 21,3 TOPS/Вт) и оптимизирован для глубинной свёртки (DWC), ключевой операции в лёгких нейросетях. Однако его производительность ограничена, а полный потенциал не раскрыт.
- Почему производительность чипа вызывает вопросы?
- Пиковая производительность (2,54 TOPS) в 16 раз ниже требований Microsoft Copilot+. Кроме того, в тестах использовались не все 10 NPU, а возможность их одновременной работы не подтверждена.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml