Что делать, если современная видеокарта с большим объёмом памяти стоит слишком дорого, а локальная языковая модель упорно не помещается в VRAM? Один из вариантов — посмотреть на старые серверные ускорители. Именно так энтузиаст добавил к RTX 4080 ускоритель Nvidia Tesla V100 и получил суммарно 32 ГБ видеопамяти примерно за 266 долларов.

Звучит как идеальная бюджетная находка? Не совсем. Tesla V100 в таком исполнении нельзя просто вставить в обычный слот и забыть. Потребовался адаптер, отдельное охлаждение и терпимость к железу, которое изначально проектировалось для стойки дата-центра, а не для тихой комнаты.

Дешёвая память оказалась дорогой в подключении

Сама 16-гигабайтная Tesla V100 формата SXM2 на вторичном рынке может стоить удивительно дёшево. Проблема в том, что SXM2 — не обычная PCI Express-карта. Для установки в настольный ПК нужен специальный переходник, который добавляет цену, размеры и новые точки отказа.

В итоге бюджет складывается не только из ускорителя. Нужны адаптер, питание, крепление и охлаждение. Именно на таких мелочах многие «гениальные» покупки с площадок б/у внезапно перестают быть выгодными.

82 дБ — это уже не компьютерный шум

Штатная система охлаждения оказалась настолько громкой, что её сравнили с газонокосилкой. Измеренные 82 дБ — это уровень, при котором о комфортной работе рядом с ПК говорить трудно. После переделки управления вентилятором скорость удалось снизить: по словам автора проекта, даже небольшой поток воздуха удерживал ускоритель ниже 50 градусов под нагрузкой.

Но здесь важно не повторять эксперимент вслепую. Серверные модули рассчитаны на мощный направленный поток воздуха. Если просто убавить вентилятор без контроля температур памяти и силовых компонентов, можно получить совсем не экономию.

27 миллиардов параметров и 32 токена в секунду

После настройки система объединила 16 ГБ памяти RTX 4080 и 16 ГБ HBM2 на Tesla V100. Локальная модель на 27 миллиардов параметров показала около 32 токенов в секунду — достаточно для интерактивного общения без облачного сервиса.

При этом две разные архитектуры, Ada и Volta, пришлось свести через подходящую версию драйвера в Linux. Это хороший пример того, что объём VRAM решает не всё. Совместимость программного стека иногда важнее теоретической мощности.

Кому такой апгрейд действительно подходит

Для обычного игрового ПК смысл сомнительный: Tesla V100 не превращает систему в более быструю игровую машину. Но для энтузиаста локального ИИ, который умеет работать с Linux и не боится нестандартного охлаждения, старый ускоритель может дать много памяти за небольшие деньги.

Главная оговорка проста: это проект, а не готовый продукт. Он выгоден только тогда, когда время на настройку, шум и потенциальные проблемы оцениваются дешевле современной видеокарты с большим объёмом VRAM.