Researchers turn HBM on its side to tackle AI memory’s heat wall — Korean V-Die and Japanese MOSAIC designs promise higher bandwidth, denser stacks, and cooler future GPUs

HBM стала сердцем современных AI-ускорителей, но у неё есть физическая проблема: чем выше и плотнее стопка памяти, тем сложнее отводить тепло и увеличивать ёмкость. Исследователи предлагают почти буквальное решение — развернуть память иначе.

Что произошло

Цифры V-Die и MOSAIC получены в исследованиях и симуляциях, а не на серийных ускорителях. Они показывают потенциальный выигрыш архитектуры, но пока не учитывают весь набор производственных проблем реального продукта.

• На VLSI 2026 представлены два подхода: корейский V-Die и японский MOSAIC.
• Обе идеи уходят от обычного роста вертикальной стопки и рассматривают размещение DRAM-кристаллов “на ребро”.
• V-Die в симуляциях показал 540 токенов/с на GPT-3-подобной нагрузке против 296 токенов/с у сравнимой HBM4-системы.
• MOSAIC использует контактless die-to-die интерфейс с индуктивными катушками и заявляет до 4 Гбит/с на канал.

Почему это важно

Пока это не готовая замена HBM в видеокартах и AI-ускорителях. Но направление понятное: индустрия упирается не только в вычисления, а в то, как быстро и холодно подать данные к чипу.

Обычная HBM хороша тем, что кладёт память рядом с GPU и соединяет кристаллы TSV-каналами. Но больше слоёв — это больше тепла внутри плотной башни.

Разворот кристаллов и новые интерфейсы могут дать больше ёмкости и лучшее охлаждение, но до массового производства нужно решить упаковку, надёжность, стоимость и стандартизацию.

Развернуть кристалл проще на схеме, чем на фабрике

Вертикальная установка может увеличить площадь отвода тепла и позволить иначе наращивать ёмкость. Но она требует новой упаковки, точного соединения большого числа кристаллов и контроля механических напряжений — всё это напрямую влияет на выход годных и цену.

MOSAIC дополнительно предлагает бесконтактный интерфейс через катушки. Это убирает часть сложных физических соединений, но ставит вопросы о помехах, эффективности и стандартизации между разными производителями.

До игровой видеокарты путь особенно длинный

AI-ускорители первыми принимают дорогие технологии, потому что выигрыш в пропускной способности окупается стоимостью серверов. Потребительская графика получает такие решения позже, когда упаковка становится массовой и надёжной.

Поэтому новость важна как указатель направления: следующая память может менять не только число слоёв, но и саму геометрию. Однако выбирать сегодняшнюю видеокарту по обещаниям V-Die или MOSAIC бессмысленно — это работа на поколения вперёд.

Итог

Итог: V-Die и MOSAIC — не завтрашняя видеопамять для вашей RTX, а лабораторный ответ на будущий тупик. Но сам факт таких работ показывает: HBM в нынешнем виде не сможет бесконечно расти вверх.

---