SK hynix and TetraMem collaborate on experimental chip to bolster energy efficiency for edge AI devices — memristor-based in-memory SoC research leaves performance questions up in the air

Идея считать прямо внутри памяти звучит заманчиво: меньше гоняем данные туда-сюда — меньше тратим энергию. SK hynix, TetraMem и USC показали экспериментальный SoC именно в этом направлении, но до “новой революции AI” ещё далеко.

Что произошло

2,54 TOPS выглядят скромно рядом с современными NPU, но исследователи и не строили ускоритель для ноутбука. Цель — сократить энергозатраты на маленьких edge-устройствах, где пересылка данных иногда дороже самого умножения.

• Проект представляет мемристорный in-memory computing SoC для edge AI.
• Внутри есть RISC-V процессор и 10 нейронных блоков, один из которых оптимизирован под depthwise convolution.
• Часть блоков использует 256 × 256 мемристорные кроссбары, DAC/ADC и периферию для аналоговых вычислений.
• Теоретический максимум около 2,54 TOPS — значительно ниже требований Copilot+ PC.

Почему это важно

Главная идея IMC — уменьшить движение данных между памятью и вычислителем. Для маленьких энергоограниченных устройств это может быть важнее абсолютной скорости.

Но аналоговые вычисления в памяти несут свои проблемы: точность, калибровка, деградация, программная поддержка и перенос моделей. Поэтому такие чипы часто отлично выглядят в научной статье, но медленно доходят до реальных продуктов.

Оптимизация под depthwise convolution важна, потому что лёгкие нейросети вроде MobileNet используют такие операции, а обычные кроссбары справляются с ними неидеально.

Главная победа — меньше движения данных

Мемристорный массив хранит веса и одновременно участвует в вычислении, поэтому системе не нужно постоянно гонять их между внешней памятью и логикой. Для камеры, датчика или автономного устройства это может дать больше пользы, чем рекордная пиковая скорость.

Но аналоговый результат зависит от разброса элементов, температуры и старения. Чтобы нейросеть не теряла точность, чипу нужны калибровка, преобразователи и программные методы компенсации — они съедают часть обещанной эффективности.

Научный образец должен пережить встречу с софтом

Производительность в одной оптимизированной операции ещё не делает универсальный AI-процессор. Важны поддерживаемые модели, инструменты компиляции, стабильность и возможность обновлять алгоритмы после выпуска устройства.

Поэтому проект интересен как шаг к вычислениям в памяти, но не как готовая замена NPU. Первые реальные применения логичнее ждать в узких устройствах с фиксированной задачей, а не в универсальном ПК.

Итог

Итог: это не конкурент современным NPU в ноутбуках. Скорее кирпичик для будущих энергоэффективных AI-сенсоров и edge-устройств, где каждый милливатт важнее красивого числа TOPS.

---