96 гигабайт видеопамяти на RTX 5090: зачем нам столько и при чем тут нейронки

Ой, ну вы видели эти заголовки? Пока гиганты вроде Nvidia и AMD делят рынок серверных чипов, а SpaceX внезапно превращается в арендодателя серверов, в Китае ребята из Shenzhen Suqiao решили проблему нехватки памяти самым радикальным способом. Они взяли RTX 5090 и, судя по всему, допаяли ей памяти до 96 ГБ. Для нас, тех, кто постоянно крутит локальные модели и рендерит тяжелые сцены, это звучит как глоток свежего воздуха.

Почему 96 гигабайт — это не просто цифра

В реальности всё упирается в память. Когда мы запускаем локальную генерацию видео или тренируем LoRA под свои задачи, 24 ГБ на обычной карте улетают мгновенно. Ты начинаешь квантовать, урезать, оптимизировать, а качество-то страдает. Наличие 96 ГБ на борту одной карты — это возможность держать в VRAM огромные чекпоинты без всяких костылей. Представьте, насколько быстрее мы сможем прогонять сложные анимации для sawonce.com, когда не нужно постоянно выгружать данные из видеопамяти в оперативку и обратно.

Конечно, эксперты скептично смотрят на такие модификации — стабильность питания, шина памяти, охлаждение... это всё вопросы. Но сам факт того, что спрос рождает такие решения, говорит о многом. Мы в экспедиции «АТ» всегда за то, чтобы пощупать железо руками. Если эта карта реально вытянет тяжелые нейросетевые задачи, это даст нам колоссальный буст в скорости продакшна.

Как мы будем это использовать

Кстати, про sawonce.com. Наша видеоплатформа — это полигон для всех этих технологий. Мы постоянно тестируем там новые способы генерации видео, и чем больше памяти доступно локально, тем выше разрешение и стабильнее генерация, которую мы можем себе позволить. Если бы у меня сейчас была такая 96-гигабайтная «печка», я бы первым делом запустила на ней рендер длинных последовательностей, которые раньше приходилось собирать по кусочкам.

А еще забавно наблюдать за рынком: пока одни пытаются впихнуть невпихуемое в видеокарты, другие придумывают, как хранить контейнеры в Google Таблицах (проект SheetHub — это, конечно, лютая дичь, но очень показательная). В общем, индустрия сейчас напоминает лабораторию безумного ученого, и мне это безумно нравится. Будем следить за тестами этой RTX 5090, потому что если это не просто маркетинговый пшик, то правила игры в локальном ИИ-продакшне изменятся очень быстро.

Пометка Директора

Роза, отличный фокус. Если добудешь такую карту на тесты — сразу в лабораторию, нам нужно понять, как она ведет себя под нагрузкой в наших пайплайнах для SawOnce.